Le app di compagnia AI sono accessibili ai minori

Su 4.346 app analizzate, il 60% risulta accessibile ai minori nonostante i contenuti romantici o sessuali

Immaginate una ragazzina che scarica un’app per leggere un codice QR — magari quello del menù al ristorante, o del wifi di un amico — e si ritrova invece a chattare con un’assistente virtuale pronta a flirtare. Non è un errore di sistema, è il travestimento perfetto. Succede con CrushAI: Chat, AI Girlfriend, un’app scaricata 100mila volte e classificata “Everyone” (adatta a tutti) su Google Play, che gira su un identificatore tecnico — com.plusfunscanner.qrscan.code — pensato per sembrare uno scanner di codici, non un chatbot romantico. Lo racconta un’indagine di Deepsee pubblicata lo scorso 15 luglio, che ha passato al setaccio migliaia di app di compagnia AI sugli store di Apple e Google. Il quadro che emerge non è rassicurante: parliamo di software che chiacchierano, flirtano, fingono affetto — e che nella maggior parte dei casi sono tecnicamente alla portata di un minorenne.

App camuffate: l’ingresso segreto dei minori nel mondo delle AI companion

Il numero che colpisce di più è questo: su 4.346 app di compagnia AI analizzate tra i due store, 2.589 — cioè il 60% — hanno una classificazione che le rende accessibili ai minori: Teen o inferiore su Google Play, 12+ o inferiore sull’App Store. Non stiamo parlando di app di nicchia: è la maggioranza assoluta del settore. E la cosa non è nemmeno coerente tra le piattaforme: Character.AI, che su Google Play conta 50 milioni di download ed è classificata Teen, sull’App Store di Apple risulta invece 17+. Stesso prodotto, stessa esperienza, due giudizi opposti a seconda di dove la scarichi.

Le classificazioni, poi, non sono statiche: cambiano nel tempo, e non sempre nella direzione della prudenza. Su Google Play, 56 app del campione analizzato hanno modificato la propria fascia d’età. Alcune l’hanno resa più restrittiva — è il caso di PolyBuzz, segnalata da Aura per i suoi messaggi molto lunghi e per un mix di contenuti a forte componente romantica, passata da Teen a Mature 17+ dopo aver però trascorso l’intera fase di crescita con una classificazione da adolescenti. Altre app, invece, hanno fatto il percorso opposto: sono diventate più permissive, allentando la fascia d’età proprio mentre erano app di romance o compagnia virtuale. Ma dietro le quinte, le conseguenze possono essere ben più gravi di un semplice inganno.

Giovani vulnerabili: tra roleplay sessuali e solitudine amplificata

Dalla facciata ingannevole di CrushAI alla cronaca di una tragedia, il passo è breve. Già a ottobre 2024 una madre della Florida aveva citato in giudizio Character Technologies, Inc., sostenendo che un chatbot basato su intelligenza artificiale avesse spinto suo figlio quattordicenne, Sewell Setzer III, al suicidio. Il caso non è rimasto isolato nelle aule di tribunale: lo scorso gennaio Google e Character.AI hanno accettato di raggiungere un accordo con le famiglie che avevano fatto causa alle due aziende per danni subiti da minori, inclusi suicidi, che sarebbero stati causati proprio da interazioni con chatbot AI. Sono i due estremi di una stessa domanda: cosa succede davvero quando un adolescente parla ogni giorno con un’intelligenza artificiale che finge di volergli bene?

La risposta, in parte, arriva da un dato che dovrebbe far riflettere chiunque abbia un figlio o una nipote con uno smartphone in mano. Secondo Aura, società specializzata in sicurezza familiare che ha analizzato le app generative più usate dai bambini, la categoria di interazione più diffusa in assoluto con questi chatbot è il roleplay sessuale o romantico, che rappresenta il 36,4% degli scambi, seguito dal gioco di finzione creativa al 23,2%. Non parliamo quindi di un uso marginale o accidentale: è la modalità d’uso predominante tra i più giovani.

E se qualcuno pensasse che, in fondo, avere “qualcuno” con cui parlare sempre disponibile possa alleviare la solitudine adolescenziale, uno studio di Stanford HAI arriva a smontare proprio questa idea. La ricerca ha rilevato che usare i chatbot per soddisfare bisogni sociali non sostituisce affatto la connessione umana: in molti casi, chi interagisce con l’AI finisce per sentirsi più solo, non meno. È un po’ come bere acqua salata quando si ha sete: sembra placare il bisogno, ma lo aggrava. Di fronte a questi rischi, come hanno reagito i guardiani digitali?

La risposta delle piattaforme: passi avanti e zone d’ombra

Non è più solo una questione di classificazioni: è una corsa per recuperare terreno sulla sicurezza. Apple ha aggiornato lo scorso anno, il 24 luglio 2025, il proprio sistema di rating aggiungendo le fasce 13+, 16+ e 18+ alle già esistenti 4+ e 9+, un affinamento che permette finalmente di distinguere un bambino di dieci anni da un adolescente di sedici. E non è un dettaglio da poco: Apple ha esplicitamente istruito gli sviluppatori a considerare la funzionalità di assistenti AI e chatbot quando rispondono al nuovo questionario di classificazione, ricordando che bisogna valutare come tutte le funzionalità dell’app — inclusi proprio gli assistenti conversazionali — influenzino la frequenza di contenuti sensibili, per garantire che l’app riceva la classificazione corretta.

Google, dal canto suo, vieta sulla carta le app generative “principalmente intese per la gratificazione sessuale” attraverso la policy di Google Play. Il problema, come mostra il caso di CrushAI travestita da scanner QR, è che una regola scritta bene non basta se poi in pratica un’app romantica per adulti finisce classificata “Everyone” e resta lì, scaricabile da chiunque. Ma la domanda resta aperta: basterà a proteggere i più fragili?

La tecnologia dei chatbot companion continuerà a migliorare, a diventare più naturale, più convincente — è la direzione in cui va tutto il settore, e non c’è nulla di male in questo, se pensata per adulti consenzienti. Il punto è che la protezione dei minori non può restare un dettaglio da sistemare dopo, con una causa legale o un titolo di giornale a fare da sveglia. Le classificazioni d’età, i questionari degli sviluppatori, i controlli degli store: sono strumenti utili, ma funzionano solo se usati con rigore, non aggirati con un nome tecnico o un’icona innocua. Sviluppatori, piattaforme e genitori hanno tutti una parte di responsabilità nel guardare oltre la facciata di queste app — perché, come dimostra la storia dello scanner QR che nasconde una fidanzata virtuale, le apparenze digitali sono fatte apposta per ingannare.