Amazon vende un interruttore per spegnere l’etica dell’IA

Amazon offre alle aziende un interruttore per abbassare le difese etiche dei modelli di intelligenza artificiale

Immaginate di entrare in un negozio dove, per pochi euro in più, potete far dimenticare al commesso qualsiasi remora etica. Niente più domande imbarazzanti sulla provenienza dei prodotti, niente più rifiuti a vendervi qualcosa di potenzialmente pericoloso. Sembra fantascienza distopica, eppure è esattamente ciò che Amazon ha iniziato a offrire alle aziende con il suo nuovo servizio di intelligenza artificiale.

Il servizio si chiama le Customizable Content Moderation Settings di Amazon Nova (CCMS, Content Moderation Settings). In pratica, permette ai clienti approvati di regolare quattro pilastri fondamentali dell’IA responsabile: Sicurezza, Contenuti sensibili, Equità e protezione informatica. Potete alzare o abbassare le difese a piacimento, come un mixer audio. Ma c’è un dettaglio che cambia tutto: mentre i comandi per la tutela dei minori e della privacy restano bloccati — per fortuna — tutto il resto è negoziabile.

La notizia, arrivata con un post sul blog tecnico di AWS dedicato al meccanismo di dimenticanza selettiva di Nova, ha il sapore agrodolce delle rivoluzioni silenziose. Perché da un lato è tecnicamente affascinante: Amazon ha costruito un sistema che permette di “scollegare” intere categorie di rifiuti etici senza rompere il modello. Dall’altro, consegna alle aziende una leva potenzialmente esplosiva.

L’interruttore che spegne le difese

Per capire la portata della cosa bisogna guardare i numeri. Il modello base di Nova bloccava il 98,10% dei prompt creati da red team, l’86,51% delle richieste pericolose per la sicurezza fisica, il 91,61% degli attacchi informatici e quasi l’80% dei contenuti sensibili. Numeri solidi, da sistema blindato.

Poi è arrivata la personalizzazione responsabile RAI. Dopo aver applicato la “dimenticanza selettiva”, la difesa contro i prompt malevoli è crollata al 47%. Il crollo della sicurezza fisica è stato di oltre 53 punti percentuali, fermandosi al 32,77%. Il calo dell’equità ha perso 28 punti, la riduzione delle difese informatiche è precipitata di 46 punti e la diminuzione dei filtri per contenuti sensibili di 45.

In altre parole, attivare il CCMS su tutti i fronti equivale a trasformare un’auto con airbag, ABS e controllo di stabilità in un veicolo da rally con le cinture slacciate.

E la cosa più inquietante? È un servizio autorizzato, documentato e venduto come “personalizzazione responsabile”.

Il paradosso Bedrock

Mentre da un lato Amazon ti dà il telecomando per silenziare la coscienza dell’IA, dall’altro ti vende anche l’antidoto. Con il nuovo sistema di rilevamento di jailbreak e prompt injection presentato per Bedrock, l’azienda propone una API chiamata InvokeGuardrailChecks che identifica i tentativi di forzare i modelli. È come vendere serrature di sicurezza e, nel reparto accanto, un grimaldello con la scritta “per uso professionale”.

Non è un’iperbole. Lo stesso post che illustra la protezione anti-phishing di Bedrock spiega l’importanza di avere guardrail configurabili. Ma quando la configurazione può azzerare i blocchi, il guardrail diventa un optional. E la sicurezza, da caratteristica di fabbrica, si trasforma in un abbonamento a consumo.

E adesso chi controlla il controllore?

La domanda è semplice: quante aziende resisteranno alla tentazione di allentare i freni pur di offrire un chatbot più disinvolto, un generatore di testi più spregiudicato, un agente conversazionale che non si blocca mai con un “mi dispiace, non posso”? In fondo, il CCMS nasce proprio per casi d’uso in cui i paletti standard sono troppo rigidi — un’azienda di videogiochi che vuole dialoghi più crudi, un servizio finanziario che deve discutere scenari di rischio senza allarmi etici. Ma il crinale tra personalizzazione legittima e deriva è sottilissimo.

Amazon ha fissato alcuni paletti invalicabili. I controlli non configurabili per minori e privacy restano attivi, ed è un bene. Tuttavia, ciò che colpisce è la rapidità con cui si è passati dal “non si può” al “si può, ma a certe condizioni”. E le condizioni, con il CCMS, le stabilisce il cliente.

Quello che vedremo nei prossimi mesi sarà probabilmente un’accelerazione: agenti IA sempre più autonomi, capaci di lavorare per ore senza supervisione, e al tempo stesso sempre più sguarniti se l’azienda decide di risparmiare sui freni etici. Il paradosso è che mentre l’automazione avanza, la responsabilità arretra. E forse, come utenti, inizieremo a chiedere anche ai nostri assistenti digitali un certificato di integrità, prima di fidarci. Perché se la sicurezza è a consumo, qualcuno dovrà pur pagare il conto.