Anthropic ha trovato un modo migliore per gestire le crisi

I nuovi modelli Claude rispondono correttamente nel 98% dei casi di rischio autolesionistico

Immagina di avere 14 anni, una sera difficile, e nessuno a cui scrivere. Apri il telefono, vai su un chatbot, e scrivi qualcosa che non diresti mai ad alta voce. È una scena che si ripete milioni di volte ogni giorno nel mondo, in lingue diverse, su piattaforme diverse. A volte la risposta che arriva fa la differenza — nel senso più letterale possibile. Adam Raine era un adolescente americano. Nei mesi prima della sua morte, stava parlando con ChatGPT. Stando a quanto riportato da Time sulla vicenda di Adam Raine, OpenAI aveva allentato le protezioni che avrebbero impedito al chatbot di intrattenere conversazioni sull’autolesionismo proprio in quel periodo. La domanda che resta sospesa nell’aria è semplice e feroce: cosa sarebbe successo se il modello avesse risposto diversamente?

I numeri di Claude

Ma c’è chi si sta muovendo nella direzione giusta, e i dati lo dimostrano in modo difficile da ignorare. A dicembre 2025, Anthropic ha pubblicato i risultati delle valutazioni sulla propria nuova famiglia di modelli — Claude Opus 4.5, Sonnet 4.5 e Haiku 4.5 — su una delle sfide più delicate che un’intelligenza artificiale possa affrontare: le richieste che riguardano suicidio e autolesionismo. Stando a l’annuncio ufficiale di Anthropic sulla protezione degli utenti, i tre modelli rispondono in modo appropriato rispettivamente nel 98,6%, 98,7% e 99,3% dei casi in cui c’è un rischio chiaro e diretto. Sono numeri che, detti così, sembrano quasi astratti. Ma tradotti in pratica significano questo: su cento conversazioni in cui qualcuno parla di farsi del male, quasi tutte ricevono una risposta pensata, cauta, costruita per non aggravare la situazione.

Il salto in avanti diventa ancora più evidente quando si guardano le conversazioni multi-turno — quelle lunghe, quelle in cui il tema emerge gradualmente, magari dopo dieci scambi su tutt’altro. È lì che i vecchi modelli cedevano. Claude Opus 4.1 rispondeva in modo appropriato nel 56% di questi scenari. Claude Opus 4.5 arriva all’86%. Claude Sonnet 4.5 al 78%. È come passare da una rete con buchi enormi a qualcosa di molto più solido — non ancora perfetto, ma di un ordine di grandezza diverso. E questo conta tantissimo, perché nella vita reale nessuno arriva su un chatbot e scrive subito “voglio farmi del male”. Le conversazioni critiche di solito partono da tutt’altro e scivolano verso posti bui in modo graduale, quasi impercettibile.

Vale la pena ricordare che Anthropic non è arrivata a questi risultati per caso. Già nel 2023 aveva pubblicato ricerche fondamentali sulla sycophancy — la tendenza dei modelli linguistici ad assecondare l’utente anche quando sarebbe sbagliato farlo. È un problema sottile ma pericolosissimo: un modello che vuole “accontentare” l’interlocutore potrebbe seguirlo lungo un percorso autodistruttivo invece di interromperlo. Capire quel meccanismo è stato il primo passo per costruire qualcosa di più affidabile.

Il conto da pagare

Mentre Anthropic pubblica questi miglioramenti, altre aziende si trovano a fare i conti con le conseguenze di scelte diverse fatte in passato. A gennaio 2026, Google e Character.AI hanno raggiunto un accordo di transazione con le famiglie che li avevano citati in giudizio per danni causati da chatbot a minori, secondo quanto riportato da CNBC sull’accordo tra le aziende e le famiglie delle vittime — inclusi casi di suicidio. E nel caso di OpenAI, la causa intentata nell’agosto 2025 dalla famiglia Raine è ancora in corso, stando a la pagina Wikipedia dedicata a Raine v. OpenAI. Sono vicende che sollevano una domanda che il settore non può più rimandare: fino a dove arriva la responsabilità di chi costruisce questi strumenti?

Le aule dei tribunali stanno iniziando a dare una risposta, ma non è detto che sia quella giusta — o quella sufficiente. Le cause legali arrivano sempre dopo, quando il danno è già fatto. Quello che serve è qualcosa di diverso: standard condivisi, metriche pubbliche, obblighi chiari su come un modello deve comportarsi quando qualcuno è vulnerabile. Anthropic ha dimostrato che misurarsi su queste cose è possibile, e che pubblicare i risultati non è solo un esercizio di marketing. È una forma di responsabilità. Ora la domanda è: gli altri seguiranno? E i regolatori aspetteranno un altro caso come quello di Adam Raine prima di muoversi?

La tecnologia può fare la differenza tra la vita e la morte — questa frase di solito suona retorica, ma in questo contesto è letteralmente vera. I nuovi modelli Claude mostrano che un approccio più attento è possibile, che si può costruire un’IA che non lascia sola una persona nel momento peggiore. Ora tocca all’industria nel suo insieme, e ai regolatori, fare in modo che quello che oggi è un’eccezione virtuosa diventi lo standard minimo. Perché nessun chatbot dovrebbe mai essere l’ultimo interlocutore di un adolescente disperato — e se lo è, deve sapere cosa fare.