OpenAI ha addestrato un’IA per attaccare le altre
OpenAI addestra GPT-Red per attaccare i propri modelli, migliorando la robustezza di GPT-5.6. Un cambio di paradigma nella sicurezza AI.
OpenAI ha addestrato un modello a generare attacchi per rendere più sicuro il suo GPT-5.6
Quanto vale la sicurezza di un’intelligenza artificiale se a progettarla è la stessa azienda che la vende? Negli ultimi mesi l’industria ha sbandierato guardrail, filtri, comitati etici. Ma i numeri raccontano un’altra storia: il balzo più netto nella resistenza agli attacchi informatici è arrivato quando OpenAI ha smesso di costruire muri e ha scatenato un’intelligenza artificiale contro se stessa.
I modelli GPT-5.6 Sol, Terra e Luna ora disponibili su Amazon Bedrock segnano un salto che ha poco di incrementale. Sul benchmark di cybersecurity ExploitBench, GPT-5.6 Sol tocca il 73,5% di successo nei test offensivi controllati, contro il 47,9% di GPT-5.5 a parità di budget computazionale. Un margine che non si spiega con la solita ottimizzazione da laboratorio.
Il nemico è il maestro
La chiave si chiama addestramento avversario. Non è un’idea nuova, ma la scala a cui OpenAI l’ha portata sì. Al centro del processo c’è GPT‑Red, un modello costruito con un solo scopo: generare prompt injection sempre più sofisticati per far deragliare il fratello maggiore. Il risultato è un sistema che impara a riconoscere le trappole subendole milioni di volte in fase di addestramento.
I dati ufficiali sono netti. GPT‑5.6 Sol è il modello più robusto mai prodotto da OpenAI contro i prompt injection. Rispetto al miglior modello in produzione appena quattro mesi prima, i fallimenti nel benchmark di prompt injection diretto più difficile sono crollati di sei volte.
Sei. Non è un miglioramento: è un cambio di categoria.
Chi sorveglia i sorveglianti
Mentre OpenAI addestrava GPT-Red, Amazon piazzava un altro tassello. I Bedrock Guardrails ora filtrano le conversazioni in tempo reale, come dimostra lo scheduler vocale AI conforme HIPAA di ScienceSoft, dove ogni input dei pazienti viene setacciato prima di raggiungere il modello e ogni risposta convalidata prima della consegna. E per chi gestisce le dashboard, le dashboard CloudWatch personalizzate attivano allarmi appena un utente mostra comportamenti anomali.
Due strategie opposte che convergono sullo stesso cliente. Da un lato l’attacco come forma di difesa, dall’altro la sorveglianza continua. E in mezzo un dato scomodo: entrambe le tecnologie vengono vendute dallo stesso fornitore di infrastruttura cloud che le ospita e le distribuisce.
Perché Amazon dovrebbe consigliare alle aziende di fidarsi dei Guardrails quando il modello che sta promuovendo è stato temprato proprio per farne a meno?
La domanda che nessuno fa nei comunicati stampa
La coincidenza temporale non è casuale. GPT‑5.6 arriva su Bedrock mentre l’Unione europea affila gli strumenti dell’AI Act e le autorità antitrust americane iniziano a studiare i rapporti tra hyperscaler e laboratori di ricerca. Un’intelligenza artificiale addestrata ad attaccare altre intelligenze artificiali è un asset dual-use perfetto: oggi serve a blindare chatbot, domani può diventare lo strumento per testare le difese — o per scardinarle — di infrastrutture critiche, sistemi sanitari, reti finanziarie.
OpenAI presenta GPT-Red come un trionfo della trasparenza. Ma pubblicare il metodo senza rendere accessibile il modello offensivo significa vendere l’antidoto tenendo il veleno in cassaforte. Quanto serve davvero la robustezza di GPT-5.6 se l’unico in grado di misurarla è chi l’ha prodotta?
