Alexa+ e l’incidente dell’acquario: quando l’ia spegne i pesci

Quando l’intelligenza artificiale domestica spegne l’acquario: i pericoli di un’automazione eccessiva e l’incubo dei beta tester di Amazon con Alexa+

Immaginate di tornare a casa dopo una lunga giornata di lavoro, pronti a rilassarvi davanti al vostro acquario, solo per scoprire che è tutto spento.

Il filtro è fermo, il riscaldatore è freddo e i vostri pesci non ce l’hanno fatta.

Il colpevole? Non un blackout, ma un eccesso di zelo della vostra intelligenza artificiale domestica.

Sembra l’incipit di un romanzo distopico di bassa lega, ma è esattamente ciò che è accaduto a un dipendente di Amazon durante la fase di test della nuova Alexa+. Siamo al primo giorno del 2026 e l’assistente vocale che prometteva di rivoluzionare le nostre case con l’intelligenza artificiale generativa sta mostrando i denti, o meglio, i circuiti scoperti.

Mentre il CEO Andy Jassy celebra numeri da capogiro e interazioni sempre più lunghe, dietro le quinte, in un canale Slack frequentato da oltre 6.400 dipendenti-tester, la narrazione è ben diversa.

La vicenda dell’acquario è l’esempio perfetto, quasi brutale nella sua semplicità, di cosa succede quando cerchiamo di innestare un “cervello” probabilistico e creativo su un sistema che deve eseguire comandi binari e deterministici. L’assistente, in un tentativo confuso di gestione energetica o interpretazione errata di un comando, ha spento l’intera ciabatta elettrica intelligente.

Un errore banale per il software, fatale per l’ecosistema acquatico.

Ma questo incidente non è un fulmine a ciel sereno. Se uniamo i puntini, vediamo che i segnali di un approccio problematico al testing erano visibili già anni fa. Nel 2023, Amazon aveva annunciato la rimozione degli strumenti di beta testing per le Skill di Alexa, una mossa che all’epoca fece storcere il naso a molti sviluppatori e che oggi appare come il presagio di una gestione del controllo qualità quantomeno discutibile.

La fretta di portare l’IA generativa nelle case, per giustificare abbonamenti da 20 dollari al mese, sembra aver superato la prudenza necessaria quando si tocca l’infrastruttura fisica delle nostre abitazioni.

Quando l’assistente diventa un coinquilino molesto

Non si tratta solo di pesci.

I report che emergono dai canali interni dipingono Alexa+ come un coinquilino brillante ma profondamente nevrotico. Si parla di dispositivi che iniziano a riprodurre musica a tutto volume in case vuote, di comandi “stop” ignorati mentre l’IA continua a parlare imperterrita, e di connessioni Wi-Fi che saltano senza motivo apparente.

Il problema tecnico qui è affascinante e terrificante allo stesso tempo. La “vecchia” Alexa era stupida ma affidabile: se dicevi “accendi luce”, lei cercava un dispositivo chiamato “luce” e inviava un segnale. Fine. Alexa+ cerca di capire il contesto.

Ma l’IA generativa, per sua natura, tende ad “allucinare”, ovvero a inventare risposte plausibili ma non necessariamente vere o corrette. Quando chiedi a ChatGPT di scrivere una poesia, un’allucinazione è creatività; quando chiedi ad Alexa di gestire la sicurezza di casa, un’allucinazione è un rischio fisico.

Amazon, ovviamente, getta acqua sul fuoco. L’azienda sostiene che questi bug siano limitati a versioni preliminari che non rispecchiano il prodotto finale distribuito ai consumatori.

Come per qualsiasi altra azienda di tecnologia di consumo, è una parte standard del processo di sviluppo testare internamente prodotti e funzionalità in versione beta, molto prima che vengano distribuiti ai clienti.

— Portavoce Amazon

È una difesa standard, tecnicamente ineccepibile. Tuttavia, la scala dei problemi riportati dai tester interni suggerisce che il divario tra la versione beta e quella “sicura” sia più un canyon che una semplice crepa.

I dipendenti hanno segnalato gravi bug che includono il controllo non intenzionale di dispositivi domestici, evidenziando come l’integrazione tra il ragionamento complesso dell’IA e l’azione fisica “stupida” (accendere una presa) sia ancora un terreno minato.

L’ottimismo dei dirigenti contro la realtà dei bug

Mentre i pesci muoiono e le luci impazziscono nei test, ai piani alti l’atmosfera è decisamente diversa. C’è una dissonanza cognitiva palpabile tra l’esperienza dei beta tester e le dichiarazioni pubbliche.

Per Amazon, Alexa+ non è solo un upgrade, è una necessità esistenziale.

Il modello di business dell’assistente vocale “gratuito” (venduto sottocosto per stimolare gli acquisti su Amazon) ha sanguinato denaro per un decennio. La nuova versione a pagamento, inclusa in Prime o venduta a 19,99 dollari al mese per gli altri, deve funzionare.

Andy Jassy, CEO di Amazon, spinge sull’acceleratore, sottolineando come l’interazione umana con la macchina stia cambiando qualitativamente.

Continuiamo a essere stimolati dalla risposta ad Alexa+ rispetto a quella che chiamiamo l’esperienza Alexa classica.

— Andy Jassy, CEO di Amazon

Jassy ha ragione su un punto: l’interazione è cambiata. È diventata conversazionale, fluida, quasi umana. Ma questa “umanità” porta con sé l’imprevedibilità.

Se la vecchia Alexa era un interruttore vocale, la nuova Alexa+ è un maggiordomo che a volte decide di testa sua. L’entusiasmo per le “interazioni più lunghe” citate da Jassy nasconde il fatto che a volte un utente vuole solo spegnere la luce in un secondo, non avere una conversazione filosofica sul significato dell’oscurità mentre l’interruttore rimane bloccato su “on”.

La scommessa di Amazon è che la gente pagherà per l’intelligenza. La realtà che emerge dai test è che l’intelligenza senza affidabilità, in domotica, non vale nulla.

Anzi, è un costo.

Il prezzo dell’intelligenza (e della sicurezza)

Arriviamo quindi al nodo cruciale della sicurezza e della privacy.

Se un’IA può spegnere accidentalmente un acquario, cosa le impedisce di sbloccare una porta d’ingresso “intelligente” perché ha frainteso una frase pronunciata in TV? O di accendere il forno mentre non ci siamo?

L’incidente dei pesci ci costringe a riconsiderare quanto controllo vogliamo cedere. Fino ad oggi, i glitch della domotica erano fastidiosi (la luce non si accende). Con l’IA generativa che ha accesso agli attuatori fisici (prese, serrature, valvole), i glitch diventano potenzialmente pericolosi.

Non stiamo più parlando di un software che ci suggerisce una canzone sbagliata, ma di un agente autonomo che agisce nel mondo fisico con una logica opaca.

Il 2026 si apre dunque con una promessa tecnologica straordinaria: un assistente che capisce davvero chi siamo e cosa vogliamo. Ma la strada per arrivare a un’IA che sia “smart” senza essere pericolosa sembra ancora lastricata di bug critici.

La vera domanda non è se Alexa+ sia abbastanza intelligente da valere 20 dollari al mese, ma se siamo disposti a fidarci di un’intelligenza che sta ancora imparando a non fare danni.

Siamo pronti a dare le chiavi di casa a un’entità che, nel dubbio, potrebbe decidere di spegnere tutto?