Google lasciò che l’odio comprasse pubblicità

La scoperta di BuzzFeed News mostrò che gli algoritmi pubblicitari non distinguevano tra interessi legittimi e discriminazione

Era il 15 settembre 2017 — quasi nove anni fa, ma certe scoperte lasciano il segno più a lungo di quanto vorremmo — quando un giornalista di BuzzFeed News digitò su Google la frase “black people ruin neighborhoods” e si trovò davanti un annuncio pensato apposta per chi cercava proprio quelle parole. Non un incidente, non un bug isolato: secondo l’inchiesta di BuzzFeed News, il più grande motore pubblicitario del mondo permetteva agli inserzionisti di puntare esplicitamente ad annunci mirati verso persone che digitavano termini razzisti e discriminatori nella barra di ricerca. Per capire quanto fosse reale il problema, i giornalisti non si sono fermati alla teoria: hanno lanciato loro stessi una campagna pubblicitaria puntata su quelle parole chiave, e gli annunci sono andati online, visibili a chiunque avesse fatto quelle ricerche.

Quella ricerca che brucia ancora

Pensateci un attimo: il sistema di targeting di Google, quello che normalmente usiamo per farci raggiungere dagli annunci di scarpe che avevamo appena guardato online, funzionava altrettanto bene per intercettare chi cercava frasi d’odio. L’algoritmo non distingueva tra un interesse per il giardinaggio e uno per il razzismo: vedeva solo un pattern di ricerca da monetizzare. Dopo la segnalazione di BuzzFeed News, Google ha reagito disattivando quasi tutte le parole chiave incriminate nella campagna di prova — con una eccezione clamorosa: la corrispondenza esatta per “blacks destroy everything” è rimasta idonea al targeting anche dopo la correzione. Un dettaglio che dice tutto sulla difficoltà di ripulire un sistema costruito per essere veloce, automatico e capillare, non per fare filtri morali. A rispondere pubblicamente fu Sridhar Ramaswamy, allora Senior Vice President of Advertising di Google, con parole che suonano quasi come un’ammissione di sconfitta parziale: “Il nostro obiettivo è impedire che il nostro strumento di suggerimento delle parole chiave produca suggerimenti offensivi, e bloccare la pubblicazione di qualsiasi annuncio offensivo. In questo caso non abbiamo intercettato tutti questi suggerimenti offensivi. Non è accettabile, e non ci giustifichiamo. Abbiamo già disattivato questi suggerimenti e ogni annuncio che era passato, e lavoreremo di più perché non succeda ancora”. Google, va detto, non partiva da zero: già nel 2016 aveva rimosso 1,7 miliardi di annunci che violavano le sue politiche pubblicitarie, secondo il bad ad report dell’azienda relativo a quell’anno. Ma quella falla toccava un nervo diverso, più profondo: non annunci ingannevoli o truffaldini, ma l’odio stesso trasformato in un prodotto vendibile. E veniva il sospetto — fondato — che non fosse un problema solo di Google.

L’iceberg dell’odio programmatico

Google non era la sola a permettere che l’odio diventasse un’opportunità commerciale. Nello stesso periodo, un’inchiesta di ProPublica aveva scoperto che Facebook consentiva agli inserzionisti di rivolgere i propri messaggi a quasi 2.300 persone che avevano espresso interesse per categorie come “Jew hater”, “How to burn jews” o “History of why jews ruin the world”. Facebook rispose eliminando i campi di targeting auto-dichiarati, spiegando di volerli rimuovere “finché non avremo i processi giusti per prevenire questo tipo di problema”. Nel frattempo, secondo un’analisi del Daily Beast, anche Twitter Ads restituiva risultati inquietanti: 26,3 milioni di utenti potenzialmente ricettivi al termine “wetback”, 18,6 milioni a “Nazi” e 14,5 milioni a un insulto razzista contro le persone nere. Tre piattaforme diverse, tre falle quasi identiche: il problema non era un bug di Google, era la logica stessa della pubblicità programmatica, costruita per ottimizzare la corrispondenza tra parole e pubblico senza fermarsi troppo a chiedersi cosa significassero quelle parole. Rimuovere parole chiave e campi di targeting era il minimo indispensabile, la toppa più veloce. Ma bastava davvero a sistemare le cose per il futuro?

Nove anni di rimozioni, ma l’odio resiste

Se guardiamo a cosa è successo dopo, la risposta è complicata. I numeri del bilancio sulla sicurezza degli annunci pubblicato da Google per il 2022 — l’ultimo grande resoconto pubblico disponibile — raccontano uno sforzo enorme: oltre 51,2 milioni di annunci bloccati e rimossi per contenuti inappropriati, tra cui discorsi d’odio, violenza e affermazioni dannose sulla salute, solo in quell’anno. A questi si aggiungono 20,6 milioni di annunci bloccati per prodotti o servizi pericolosi come armi ed esplosivi. Sono cifre che fanno venire il capogiro: significa che ogni giorno, in media, centinaia di migliaia di annunci vengono intercettati prima di raggiungere qualcuno. Ed è qui che il caso del 2017 smette di essere solo una brutta pagina di cronaca tech e diventa un test sulla natura stessa di questi sistemi. Se dopo miliardi di annunci rimossi anno dopo anno il problema non si esaurisce mai, vuol dire che non stiamo semplicemente ripulendo una lista di parole proibite: stiamo rincorrendo un bersaglio che si sposta, si camuffa, trova nuove formule per intercettare lo stesso pubblico. È un po’ come tappare le falle di una nave che continua a fare acqua da punti diversi: si può diventare più bravi a individuarle, ma non si arriva mai a un punto in cui si può dire “fatto, risolto”. Nel 2026, con l’intelligenza artificiale ormai integrata in ogni fase della pubblicità digitale — dalla generazione degli annunci al targeting predittivo — la domanda che quella ricerca del 2017 ha aperto resta più che mai valida: chi controlla davvero cosa un algoritmo impara a considerare “interessante” per un pubblico, e con quale rapidità riesce a correggersi quando sbaglia in modo così grave? Quella ricerca razzista digitata su Google quasi nove anni fa non è mai sparita davvero. È diventata il simbolo di una tensione che nessuna piattaforma ha ancora risolto del tutto: quanto è profonda la tana del coniglio dell’odio online, e soprattutto — a chi tocca, davvero, il compito di scavare fino in fondo per stanarlo?