L’UE ha messo sotto accusa l’algoritmo di TikTok

Bruxelles contesta il meccanismo che decide cosa guardi, con multa fino al 6% del fatturato.

Cosa succede quando la personalizzazione che ti tiene incollato allo schermo diventa la prova di un reato? A pochi giorni dalla pubblicazione delle conclusioni preliminari, TikTok è la prima piattaforma a vedersi contestare dall’Unione europea il cuore del suo sistema di raccomandazione. Lo scorso 6 novembre, secondo le conclusioni preliminari della Commissione europea, TikTok viola il Digital Services Act per il cosiddetto effetto “rabbit hole” del suo algoritmo. Non è una multa, per ora. È un’accusa formale. Ed è la prima volta che Bruxelles contesta direttamente il meccanismo che decide cosa guardi, per quanto tempo, e cosa guarderai subito dopo.

Il paradosso del feed su misura che diventa una trappola

Il meccanismo è noto a chiunque abbia passato una sera a scorrere: più interagisci con un certo tipo di contenuto, più l’algoritmo del feed “For You” te ne raccomanda di simili. Il punto, per la Commissione, è che questo vale anche quando quei contenuti riguardano difficoltà di salute mentale e immagine corporea. Il feed “For You” non fa distinzioni: mostra agli utenti un flusso continuo di video personalizzati. Se l’utente si sofferma, il sistema lo trascina più a fondo.

È qui che nasce il cosiddetto effetto “rabbit hole”: un tunnel di contenuti sempre più omogenei che, secondo le conclusioni preliminari, può avere un impatto negativo sulla salute mentale degli utenti, in particolare sugli adulti vulnerabili e sui minori. Le conclusioni della Commissione non riguardano solo la valutazione dei rischi, ma anche le misure di mitigazione. Ovvero: TikTok sapeva? E se sapeva, ha fatto abbastanza per disinnescare il problema?

Il paradosso è tutto in questa domanda. La personalizzazione che definisce l’esperienza TikTok — e che ha reso la piattaforma un gigante dell’attenzione — viene ora descritta come un rischio sistemico. Ma perché la Commissione considera questo feed diverso da qualsiasi altro algoritmo? E cosa ha costruito in questi mesi per arrivare fin qui?

Il precedente che nessuno voleva: 6% di fatturato e una storia lunga due anni

La risposta ha una cronologia lunga quasi due anni. Già nel febbraio 2024, la Commissione europea aveva aperto un procedimento formale contro TikTok ai sensi del Digital Services Act. I fronti erano quattro: protezione dei minori, trasparenza pubblicitaria, accesso ai dati per i ricercatori e gestione dei rischi legati al design che crea dipendenza e ai contenuti dannosi. Non una questione tecnica secondaria: una mappa dei punti deboli del modello TikTok.

Poi l’indagine è avanzata a tappe. Lo scorso febbraio, la Commissione ha adottato conclusioni preliminari sul design che crea dipendenza. A luglio dello stesso anno sono arrivate quelle sulla protezione dei minori. Adesso, a novembre, il tassello più ambizioso: contestare direttamente l’algoritmo di raccomandazione basato sull’engagement. Secondo i funzionari europei, è la prima volta che i regolatori UE mettono sotto accusa il sistema di raccomandazione di una grande piattaforma social. E, a loro dire, è la prima azione esecutiva del suo genere a livello mondiale.

Il conto, se le violazioni fossero confermate, è scritto nelle regole del DSA: la Commissione può emettere una decisione di non conformità con una multa che arriva fino al 6% del fatturato mondiale annuo totale del fornitore. Non dei ricavi europei, non di una controllata: il fatturato mondiale. Per un gruppo come ByteDance la cifra potenziale è enorme. Ma il punto non è soltanto la multa. È il precedente: l’UE ha messo sotto accusa l’algoritmo stesso. E ora chi altro trema?

Capro espiatorio o avanguardia di una resa dei conti?

La risposta, forse, sta in una frase riferita dai funzionari europei: la Commissione ha dichiarato di guardare “più ampiamente oltre TikTok”. Tradotto: il problema dei rabbit hole non è considerato un vizio specifico di TikTok, ma un difetto industriale. Piattaforme come Meta e YouTube, che usano sistemi di raccomandazione simili, potrebbero affrontare proprie azioni di enforcement. Il che solleva una domanda scomoda: perché TikTok prima? Perché è il bersaglio più semplice, o perché è il banco di prova di una battaglia che Bruxelles intende combattere contro tutti i grandi feed personalizzati?

La risposta non è ancora scritta. Se l’algoritmo di raccomandazione è il cuore del business delle piattaforme, metterlo sotto accusa significa riscrivere le regole dell’economia dell’attenzione. TikTok è solo l’inizio?