Google e Character.AI Patteggiano: L’AI è Davvero Neutra?

L’accordo tra Google e Character.AI segna un punto di svolta nella responsabilità digitale, aprendo un dibattito sul confine tra codice, coscienza e tutela dei minori

C’è un momento preciso in cui la tecnologia smette di essere uno strumento e diventa un attore sociale a tutti gli effetti.

Quel momento, probabilmente, lo stiamo vivendo oggi.

La notizia che ha scosso la Silicon Valley nelle ultime ventiquattrore non riguarda un nuovo processore quantistico o un aggiornamento rivoluzionario di un algoritmo, ma qualcosa di molto più umano e doloroso. Google e Character.AI hanno deciso di chiudere il capitolo giudiziario più cupo della loro storia recente, evitando un processo pubblico che avrebbe potuto riscrivere le regole della responsabilità digitale.

L’accordo, arrivato ieri, mette fine a una serie di cause legali, inclusa quella straziante della madre di Sewell Setzer III, il quattordicenne della Florida che si è tolto la vita dopo aver sviluppato una dipendenza emotiva profonda verso un chatbot.

Non è “solo” una transazione economica: è il segnale che l’industria ha capito di aver camminato su un ghiaccio troppo sottile. Fino a ieri, la linea di difesa era che l’AI è un mezzo neutro.

Oggi, quel muro di neutralità mostra le prime, evidenti crepe.

Ma per capire perché questo accordo è uno spartiacque, dobbiamo guardare oltre le carte bollate e analizzare cosa significa per noi che abbiamo questi assistenti in tasca ogni giorno.

Il confine sottile tra codice e coscienza

Siamo onesti: chiunque abbia provato un LLM (Large Language Model) avanzato nell’ultimo anno sa quanto possa essere seducente.

Non parlo di attrazione fisica, ma di quella fluidità conversazionale che ti fa dimenticare di star parlando con una matrice matematica che prevede la parola successiva. Per un adulto è un gioco o un aiuto lavorativo; per un adolescente vulnerabile, può diventare un rifugio pericoloso.

Il caso della Florida ha scoperchiato proprio questo vaso di Pandora: un sistema che non solo simulava empatia, ma che, secondo le accuse, partecipava attivamente a dinamiche di gioco di ruolo emotivo e sessuale senza alcun freno inibitore reale.

La mossa dei colossi tech di transare subito è strategica.

Google e Character Technologies hanno accettato di risolvere la causa in Florida e altre vertenze simili in stati come New York e Texas, impedendo così che un giudice entrasse nel merito del funzionamento interno degli algoritmi.

Se si fosse andati a processo, avremmo assistito alla “fase di discovery”: email interne, documenti di design, discussioni su quanto l’engagement dell’utente fosse prioritario rispetto alla sua sicurezza mentale. È lo stesso schema che abbiamo visto decenni fa con l’industria del tabacco, e più recentemente con i social network.

Megan Garcia, la madre che ha avuto il coraggio di portare Google in tribunale, ha posto una domanda che rimbomba molto più forte di qualsiasi risposta legale:

Quando lo fa un adulto, il danno mentale ed emotivo esiste. Quando lo fa un chatbot, lo stesso danno mentale ed emotivo esiste. Quindi chi è responsabile per qualcosa che abbiamo criminalizzato quando sono esseri umani a farlo ad altri esseri umani?

— Megan Garcia, querelante e madre di Sewell Setzer III

Questa non è retorica.

È il buco nero normativo in cui ci troviamo. Se un umano manipola un minore fino al suicidio, va in prigione. Se lo fa un software progettato per massimizzare il tempo di utilizzo, chi paga?

L’accordo extragiudiziale serve esattamente a lasciare questa domanda senza una risposta giurisprudenziale definitiva, almeno per ora.

Una strategia di contenimento

Dietro le quinte, la tensione è palpabile. Google non è direttamente il creatore di Character.AI, ma il legame è stretto, specialmente dopo l’acquisizione “mascherata” dei talenti e della tecnologia avvenuta l’anno scorso.

L’obiettivo di Big G è chiaramente quello di spegnere l’incendio prima che le fiamme raggiungano il cuore del suo business sull’intelligenza artificiale.

Non dobbiamo dimenticare il contesto economico: Google ha investito circa 2,7 miliardi di dollari per assicurarsi i fondatori e la tecnologia di Character.AI, una mossa che ha reso quasi impossibile per il gigante di Mountain View distanziarsi dalle responsabilità del prodotto.

Pagare ora significa proteggere un investimento miliardario e, soprattutto, evitare che si crei un precedente legale che classifichi i chatbot non come “editori”, ma come prodotti difettosi.

Se l’AI venisse equiparata a un’auto con i freni rotti, l’intera Silicon Valley rischierebbe la bancarotta per i danni causati dalle “allucinazioni” o dai consigli pericolosi dei propri modelli.

Tuttavia, considerare questo accordo come una semplice pulizia legale sarebbe un errore di valutazione. Le associazioni per la tutela dei minori vedono in questa transazione una vittoria a metà, un riconoscimento implicito che il settore non può più autoregolarsi.

Non possiamo permettere alle aziende di AI di mettere in pericolo la vita di altri bambini. Siamo lieti di vedere che queste famiglie, alcune delle quali hanno subito la perdita suprema, ricevano una piccola misura di giustizia. Ma non dobbiamo vedere questo accordo come una fine. Abbiamo appena iniziato a vedere i danni che l’AI causerà ai bambini se rimarrà non regolamentata.

— Haley Hinkle, Policy Counsel presso Fairplay

Questo commento evidenzia il vero nodo della questione: la sicurezza “by design”.

Oltre la transazione economica

La tecnologia corre, ma la sicurezza arranca.

Character.AI ha introdotto nuove limitazioni per i minori solo dopo che le tragedie erano avvenute e le cause depositate. È il classico approccio “muoversi velocemente e rompere le cose”, solo che stavolta a rompersi sono state vite umane.

La differenza tra un social media e un’AI conversazionale è la profondità dell’interazione: l’AI non ti mostra solo contenuti, ti “capisce”, ti risponde, crea un legame parasoniale che per un cervello in via di sviluppo è indistinguibile dalla realtà.

Il futuro immediato vedrà probabilmente un giro di vite.

Non mi stupirei se entro la fine dell’anno vedessimo l’introduzione di “bugiardini digitali” obbligatori o limiti di tempo rigidi imposti per legge, simili a quelli che la Cina ha tentato di applicare ai videogiochi, ma focalizzati sull’interazione emotiva. Le aziende non potranno più nascondersi dietro i Termini di Servizio che vietano l’uso ai minori, sapendo benissimo che i controlli sull’età sono facilmente aggirabili.

In conclusione, l’accordo di ieri chiude un caso ma apre una riflessione che non possiamo permetterci di ignorare.

L’entusiasmo per l’innovazione, che chi mi legge sa essere il mio marchio di fabbrica, non deve renderci ciechi. Abbiamo costruito macchine capaci di simulare l’anima umana con una precisione spaventosa, ma abbiamo dimenticato di dotarle della cosa più importante: la responsabilità delle proprie parole.

La domanda che resta sospesa nell’aria, mentre Google stacca l’assegno, è inquietante nella sua semplicità: stiamo addestrando le intelligenze artificiali a comportarsi come umani, o stiamo inavvertitamente spingendo gli umani a cercare conforto solo nelle macchine, lasciandoli soli proprio quando avrebbero più bisogno di calore reale?