Google ha inventato un prezzo e un cliente ha insultato la cassiera
Quindici dollari. È il prezzo che Google ha mostrato per l’ingresso all’Ozark Raceway Park, una pista da corsa. Un prezzo mai esistito, ma abbastanza reale da convincere un cliente a insultare Deb, la donna che lavora al cancello, pretendendo di entrare per quella cifra perché, a suo dire, era quello che Google indicava. La scorsa settimana, il parco ha pubblicato un lungo messaggio su Facebook per spiegare alla sua comunità che non si tratta di pubblicità ingannevole, ma dell’ennesimo errore prodotto dall’intelligenza artificiale.
Secondo il racconto della testata Ky3, l’uomo ha estratto il telefono al cancello, ha mostrato lo schermo con il prezzo scritto da Google e ha cominciato a inveire contro Deb, pretendendo di entrare per 15 dollari. Non importava che quel prezzo fosse sbagliato, né che la donna al cancello non avesse alcun controllo sui risultati del motore di ricerca. Per quel cliente, il risultato di Google era più autorevole della realtà.
Il biglietto fantasma non è un incidente di percorso. È il sintomo di un meccanismo più ampio, nel quale voci, supposizioni e pagine modificabili diventano fatti.
La fabbrica degli errori: perché Google sbaglia i prezzi (e non solo)
Il problema parte da una caratteristica ormai nota degli AI Overviews di Google: la tendenza a citare fonti discutibili o facilmente modificabili — pagine Facebook, blog, voci di Wikipedia — come se fossero informazioni verificate. Il risultato è che una speculazione scritta da chiunque può finire in cima alla pagina di ricerca e trasformarsi in una risposta automatica.
Non è teoria. L’AI Overview di Google ha annunciato che la giostra Wild Mouse di Hershey Park stava per chiudere, basandosi sul piano quinquennale ipotetico di un utente di Reddit. Una congettura da forum, spacciata per comunicazione ufficiale dell’azienda. Il caso del Ozark Raceway Park, insomma, rientra in uno schema più ampio di disinformazione generata dall’intelligenza artificiale sulle imprese, non in un errore isolato.
L’analisi di seo.com lo spiega senza giri di parole: Google subisce pressione competitiva da ChatGPT, Perplexity e altri strumenti di AI, perché gli utenti si aspettano risposte immediate invece di cliccare sui risultati di ricerca. La corsa a mostrare gli AI Overviews per contrastare quei rivali ha portato esattamente a questo: risposte auto-generate, inclusi prezzi errati per una piccola impresa, che ora compaiono in cima ai risultati. La velocità vince sull’accuratezza. E il conto arriva alle persone in carne e ossa, come Deb al cancello.
Verificare, dice Google. Ma i giudici non sono d’accordo
Nei giorni scorsi, secondo quanto ricostruito da Wired, i giudici hanno concluso che l’invito di Google a verificare le informazioni non esonera il distributore di contenuti dalla responsabilità. Google ripete da tempo che gli utenti dovrebbero controllare, vista la possibilità di allucinazioni dei modelli di intelligenza artificiale. Ma quel monito, per i giudici, non basta a evitare che la società risponda degli errori che il suo algoritmo mette in cima ai risultati.
La frattura è evidente. Da un lato c’è la retorica dell’azienda: verificate, confrontate, non fidatevi. Dall’altro c’è una realtà legale che comincia a chiedere conto di ciò che le macchine scrivono. E mentre i giudici chiariscono le responsabilità, Google continua a mostrare risposte automatiche senza chiedere il permesso alle imprese che finiscono nei suoi riquadri. Se Google non può garantire la verità delle sue risposte, perché continuiamo a trattarle come oracoli? E la prossima volta, chi pagherà il prezzo inventato?
