Il chatbot di Google si valuta da solo

Lo studio si basa sull’auto-segnalazione dei pazienti senza verifica clinica indipendente

Il protocollo è semplice: parli con un agente AI dei tuoi sintomi, aspetti due settimane e poi dici ai ricercatori cos’ha detto il dottore. Niente cartelle cliniche, niente incroci con banche dati ospedaliere, nessuna verifica esterna. È su questo perno che ruota lo studio SymptomAI pubblicato il 22 luglio 2026, accolto come prova che un chatbot possa fare triage quotidiano meglio dei medici. Il problema non è il modello — è il metodo con cui ne misuriamo le performance.

13.917 partecipanti consenzienti hanno interagito con uno dei cinque agenti basati su Gemini Flash 2.0. L’architettura conversazionale era pensata per emulare un’anamnesi, ponendo domande adattive sui disturbi riferiti. Due settimane dopo, i ricercatori hanno raccolto le diagnosi che i volontari sostenevano di aver ricevuto dal proprio medico. È qui che il castello traballa: l’intero apparato valutativo si regge sull’auto-segnalazione, un dato notoriamente fragile, soggetto a bias di memoria, desiderabilità sociale e comprensione profana del linguaggio clinico. Che le prestazioni a bassa confidenza battessero le baseline non dimostra accuratezza diagnostica: dimostra che il modello è bravo a generare ipotesi compatibili con ciò che i pazienti ricordano di essersi sentiti dire.

Il pattern dell’auto-referenza

Questo schema non è un incidente isolato, ma il codice genetico degli strumenti AI di consumo che Google ha sfornato a ritmo serrato. Prendiamo l’articolo del 21 luglio 2026 sugli strumenti AI per studenti: tredici modi per usare l’intelligenza artificiale durante l’estate, nessuno che preveda una validazione umana strutturata. Career Dreamer suggerisce opportunità di lavoro basandosi su inferenze predittive del tutto auto-certificate dagli interessi dichiarati dall’utente. Canvas in AI Mode crea dashboard per stage e scadenze partendo da input utente non verificato; la coerenza sostituisce la correttezza. Persino YouTube Learning, con il suo pulsante ‘Ask’ per approfondire, genera risposte basate sul contenuto del video senza alcun filtro di fact-checking in tempo reale.

Tutto è progettato per apparire utile, e spesso lo è. Ma il ciclo di feedback è chiuso: il sistema produce un output, l’utente reagisce, il sistema impara dalla reazione, ma nessun anello esterno spezza questa co-validazione circolare. È la stessa dinamica che ha reso Google Lens in Search così rapida nel riconoscere oggetti: addestramento su immagini caricate dagli utenti, nessuna verifica umana indipendente sulla classificazione. Lanciata nel 2018, oggi è integrata ovunque, ma la sua precisione è misurata quasi esclusivamente su dataset auto-costruiti.

Fitness, esami e l’illusione della misura

Altri due strumenti della stessa infornata mostrano l’estensione del problema. L’analisi video di Gemini per lo sport fornisce feedback sulla forma atletica analizzando sequenze girate dall’utente: la valutazione biomeccanica, che un fisioterapista baserebbe su marker articolari e angoli misurati su più piani, qui diventa una stima visiva di un singolo punto di ripresa, auto-girato, auto-inviato, auto-interpretato. Gli study notebooks di Gemini aiutano a preparare test standardizzati generando quiz e riassunti dai materiali caricati dallo studente: la qualità del tutoraggio dipende dalla qualità dei dati forniti, con zero auditing esterno sul contenuto didattico prodotto.

Non sto dicendo che questi strumenti siano inutili. Dico che condividono un architettura della verità fragile: l’auto-validazione.

Quando l’utente è l’unica fonte di verità, il sistema diventa un amplificatore di bias, non un correttore. È elegante tecnicamente — la riduzione del rumore tramite self-supervision è un capolavoro di efficienza computazionale — ma mediocre metodologicamente.

Chiedere a un sistema di valutarsi attraverso i suoi stessi utenti equivale a misurare la temperatura con un termometro rotto: la lettura è stabile, ma il valore assoluto è perso.

Il debito tecnico della fiducia

Per chi costruisce modelli, la lezione è netta: i metric reports basati esclusivamente su self-report introducono un overhead di incertezza che si propaga nello stack valutativo. Quando il modello successivo viene raffinato usando quei dati auto-riportati, il regolatore non ha modo di distinguere un miglioramento reale da un overfitting su bias di risposta. Significa che, in produzione, ogni pipeline che ingerisce output auto-validati senza un layer di verifica terza — che sia una chiamata API a un database clinico reale o un workflow di revisione umana indipendente — accumula un debito tecnico difficile da ripagare. Nel caso di SymptomAI, l’assenza di un collegamento diretto con le cartelle cliniche elettroniche rende impossibile calcolare metriche come il Positive Predictive Value rispetto a diagnosi effettive. Senza quel dato, l’intera architettura resta un esercizio di stile conversazionale, non uno strumento clinico.

Google ha confezionato un agente fluido, reattivo, ben ingegnerizzato. Ma finché l’unico testimone dell’accuratezza è il partecipante che si auto-dichiara curato, non abbiamo una nuova scienza: abbiamo un sintomo di come l’AI aziendale stia sostituendo la verifica con la soddisfazione dell’utente. E nello stack di chi sviluppa, la differenza tra le due è un bug latente.