OpenAI ha riscritto le regole dei suoi modelli
OpenAI ha pubblicato una nuova versione del Model Spec, ma ammette che i modelli non lo rispettano ancora pienamente.
Revisione di fine ottobre: linee guida su cinque valori, meno dettagli sullo stile e più giudizio al modello
Esiste un regolamento che chi lo ha scritto dichiara, nero su bianco, non ancora rispettato. Giovedì 29 ottobre OpenAI ha pubblicato una nuova versione del Model Spec, il documento che stabilisce come devono comportarsi i suoi modelli linguistici. In quello stesso testo l’azienda ha scritto una frase che vale la pena riportare per intero: «Il Model Spec descrive il comportamento verso cui stiamo lavorando; i nostri modelli non lo riflettono ancora pienamente». La domanda viene da sé: che valore ha una costituzione quando i suoi destinatari non la seguono e chi la redige lo sa?
Una costituzione che i modelli non rispettano ancora
I cambiamenti della revisione della scorsa settimana sono di due tipi. Ci sono quelli sostanziali, o presentati come tali: le linee guida vengono riorganizzate attorno a cinque valori fondamentali, cioè fedeltà all’intento umano, minimizzazione del danno, onestà e trasparenza, autonomia umana e cura. Il testo aggiunge indicazioni su contesto, supervisione e capacità di agire, e modifica alcuni comportamenti predefiniti. Poi ci sono quelli di forma: la revisione ritira gran parte delle linee guida dettagliate sullo stile e, quasi a voler rendere il documento meno astratto, smette di chiamare il modello «the assistant». Ora lo chiama semplicemente «GPT».
È un dettaglio, ma dice qualcosa. Un documento che parla di «GPT» parla di un prodotto preciso, con un nome commerciale, e non di una figura generica. Il punto però resta l’ammissione. Se il testo descrive un comportamento che i modelli non hanno ancora raggiunto, bisogna chiedersi che cosa sia davvero cambiato in questa revisione e che cosa sia soltanto una diversa disposizione delle parole.
Da «Platform» a «Root»: l’evoluzione di un regolamento
Per capirlo conviene guardare indietro. Il Model Spec non è nato adesso. Come ricorda la stessa OpenAI nel testo in cui spiega il suo approccio, la prima versione risale al 2024 e da allora il documento «si è evoluto in modo sostanziale». Una delle tappe più significative è arrivata già nel settembre 2025. In quel momento OpenAI ha rafforzato la cosiddetta catena di comando, stabilendo che i principi di livello più alto prevalgono sui messaggi di sistema. Ha anche aggiunto principi specifici per gli agenti che operano nel mondo, introdotti dopo il lancio di ChatGPT Agent, cioè dopo che i suoi modelli avevano cominciato non solo a rispondere ma anche a fare cose.
Il registro delle modifiche pubblicato su GitHub documenta un passaggio che sembra lessicale ma non lo è. Il livello di autorità più alto è stato rinominato da «Platform» a «Root», con la precisazione esplicita che Root prevale su System. Tradotto: i principi radice non possono essere scavalcati dai messaggi di sistema, cioè dalle istruzioni che sviluppatori e aziende clienti inseriscono quando integrano i modelli nei propri servizi. «Root», nel gergo informatico, è l’utente con tutti i privilegi. La scelta del termine chiarisce chi sta in cima: OpenAI.
Messe in fila, queste tappe mostrano una traiettoria abbastanza leggibile. Il Model Spec è sempre meno un manuale di stile e sempre più una mappa di gerarchie: chi comanda, su chi, in quali condizioni. La revisione di fine ottobre spinge nella stessa direzione. Toglie dettagli su come il modello deve scrivere e aggiunge valori generali su come deve ragionare. È una scelta difendibile, perché nessun elenco di regole può prevedere ogni situazione. Ha però una conseguenza precisa: meno istruzioni puntuali significano più spazio lasciato al giudizio del modello. E il giudizio del modello si mostra più fragile proprio quando il modello smette di parlare e comincia ad agire.
Il punto debole: le azioni che non si possono annullare
Una risposta sbagliata in chat si può correggere, ignorare, rigenerare. Un’azione compiuta da un agente, che sia un pagamento, una cancellazione o un messaggio inviato, spesso no. Ed è qui che le buone intenzioni del documento incontrano un limite concreto. Secondo una ricerca pubblicata su arXiv, le azioni irreversibili nei deployment agentici restano un punto debole persistente anche per i modelli addestrati proprio sulla spec. Non si tratta quindi di modelli che ignorano le regole: sono modelli che le hanno imparate e che, nel momento in cui conta, continuano a sbagliare su ciò che non si può più disfare.
Il quadro competitivo rende la questione ancora più interessante. OpenAI non è sola. Con la nuova constitution di Anthropic per Claude, i due principali laboratori sono arrivati allo stesso approccio: non limitarsi a dire ai modelli cosa fare, ma spiegare loro il perché. Il risultato è che Model Spec e constitution sono diventati strumenti di governance direttamente confrontabili, documenti che regolatori, ricercatori e clienti possono leggere uno accanto all’altro. È un progresso rispetto all’opacità totale. Ma confrontabili su cosa, esattamente? Sui testi, sì. Sui comportamenti, molto meno.
E qui torna il paradosso iniziale. Questi documenti stanno diventando, di fatto, i testi di riferimento con cui l’industria racconta come governa i propri sistemi. Sono però scritti dalle stesse aziende che li applicano, e dalle stesse aziende vengono valutati. OpenAI ammette che i suoi modelli non rispettano ancora pienamente il Model Spec, e la ricerca indica che sulle azioni irreversibili degli agenti il problema resta aperto. Chi misura, allora, la distanza tra quello che queste costituzioni dichiarano e quello che i modelli fanno davvero? Spiegare il perché è un passo avanti. Ma basta, se nessuno dall’esterno può verificare il come?
