I guardrail dell’AI non bastano
I sistemi AI sono sempre più sorvegliati da guardrail, ma la responsabilità umana resta indefinita, creando un pericoloso vuoto.
La responsabilità umana resta un fantasma mentre l’AI viene ingabbiata da mille filtri
Avete presente quei centralini automatici che ormai rispondono al telefono nello studio medico? Quello che dice «premi 1 per le urgenze» e poi ti fa parlare con una voce sintetica. Bene: oggi quella voce è sorvegliata da una rete di paletti digitali che farebbe invidia a un’autostrada tedesca. Prendete l’assistente vocale AI di ScienceSoft, costruito su AWS per le cliniche: filtra le bestemmie dei pazienti in tempo reale, intercetta insulti, oscura informazioni sensibili e convalida ogni risposta prima di pronunciarla. Se qualcuno urla una parolaccia, il sistema la blocca e riscrive la frase con tono professionale. Una specie di buttafuori virtuale, impeccabile.
La cosa impressionante è che non si tratta di un caso isolato. I guardrail di Bedrock ormai filtrano le conversazioni in tempo reale, come certifica anche un approfondimento su l’addestramento avversario di OpenAI. Jefferies, per costruire il suo assistente di trading per le operazioni di front office, ha usato proprio questi controlli per moderare i contenuti e ripulire i dati personali. E se guardiamo le best practice per i guardrail nella generazione di codice, il menù è fisso: rilevamento di attacchi prompt, filtro per informazioni sensibili e un terzo filtro per i contenuti generati. Tre strati che rendono ogni output un po’ meno libero e un po’ più educato.
E OpenAI? Ha appena presentato Presence, un agente che combina il ragionamento del modello con policy aziendali, guardrail e regole di escalation. L’idea: definire cosa l’agente può fare, quando serve un’approvazione umana e in quali casi un operatore deve subentrare. Prima del deployment, i team possono simulare scenari ad alto rischio e verificare se l’agente ha seguito le procedure, usato gli strumenti giusti e scalato quando doveva. I guardrail intervengono appena l’interazione esce dai confini permessi. Dopo il lancio, sessioni di produzione e segnali di qualità indicano dove l’agente funziona bene e dove invece incespica, con l’aiuto di Codex che suggerisce aggiornamenti.
Una muraglia di policy.
Mille filtri, un’enorme zona grigia
Eppure, moltiplicare le recinzioni tecniche non basta se poi nessuno firma la patente. Stando a un’analisi sul marketing IA senza strategia formale, l’85% delle aziende non ha ancora deciso chi risponde quando un agente AI commette un errore. Tradotto: filtriamo le parolacce, convalidiamo le risposte, alleniamo l’agente su casi estremi, ma se domani l’assistente vocale prenota una visita dal cardiologo al posto dell’ortopedico, chi paga? Il paziente che ha bestemmiato? Il medico che ha delegato? La software house che ha configurato i guardrail? O nessuno, e la colpa si dissolve in un «errore di sistema»?
Mentre l’AI impara a comportarsi sempre meglio, la responsabilità umana resta un fantasma. L’Associated Press, per dire, usa già una batteria di strumenti per scansionare notiziari notturni e podcast, verificare immagini e video tramite geolocalizzazione e cronolocalizzazione, e trasformare migliaia di documenti della Corte Suprema in informazioni ricercabili, come dettagliato in una panoramica sull’adozione dell’AI nelle redazioni. Applicazioni concrete, utili, che accelerano il fact-checking. Ma se un deepfake sfugge e finisce in prima pagina, la testata ha già pronta una linea di attribuzione delle colpe? I guardrail tecnici ci sono: il tracciamento dei caricamenti, la geolocalizzazione, i metadati. Manca la catena della responsabilità.
Il pilota automatico ha le cinture, ma non il conducente
Il paradosso è tutto qui: stiamo ingabbiando l’AI con più strati di un lasagna, ma il posto di guida è vuoto. Presence include policy, procedure standard, azioni approvate e simulatori che mettono alla prova l’agente su richieste comuni e casi limite. I valutatori controllano se ha raggiunto il risultato corretto, se ha usato gli strumenti e se ha scalato a un umano quando necessario. È come un esame di guida severissimo: il veicolo frena da solo, rispetta i limiti, segnala le emergenze. Ma alla domanda «Chi ha la responsabilità legale dell’incidente?», il silenzio è assordante.
Nel frattempo, la Corea del Sud ha annunciato un laboratorio congiunto per l’AI agentic con NVIDIA, segno che la delega decisionale alle macchine è un treno in corsa. Anche perché Presence, per ora, non è un prodotto self‑service ma arriva tramite un programma di disponibilità limitata per clienti enterprise. Chi lo adotta deve costruire le proprie regole di ingaggio, certo. Ma la domanda vera resta fuori dalla finestra: se i paletti tengono, eppure qualcosa va storto, chi firma l’assegno?
Senza un quadro di responsabilità chiaro, tutte queste cinture di sicurezza rischiano di diventare un alibi. Un modo per dire «il sistema era blindato» senza mai rispondere alla domanda più scomoda. Nei prossimi mesi, la partita non si giocherà nei laboratori di simulazione, ma nei tribunali e nei consigli di amministrazione. Tenete d’occhio i primi contenziosi: saranno lì a dirci se abbiamo costruito una fortezza o un castello di carte.
