I guardiani dell’IA si vendono come antivirus

Nvidia vende la moderazione come software, Google apre la generazione video senza fili

Mentre NVIDIA trasforma la moderazione dei contenuti in un prodotto su misura per le aziende, Google spalanca le porte della generazione video senza alcun filtro predefinito. Due strategie opposte, una sola domanda: chi controlla davvero ciò che l’intelligenza artificiale produce?

Il guardiano su misura

Il problema non è nuovo. A maggio 2026, un team di ricercatori ha pubblicato un lavoro su come la tecnica nota come Direct Preference Optimization oltre i chatbot era stata usata non per allineare modelli generici, ma come semplice cerotto per un fallimento specifico in un sistema OCR. Un segnale che la sicurezza nell’AI è ancora una toppa, non un fondamento. Ma a giugno qualcuno ha deciso di farne invece un modello da vendere.

Il 4 giugno 2026, NVIDIA ha rilasciato Nemotron 3.5 Content Safety, un modello che l’azienda descrive come personalizzabile per le imprese. Il modello accetta un prompt utente, un’immagine opzionale e una risposta assistente come valutazione unificata di prompt, immagine e risposta, elaborando tutto insieme in valutazione in un solo passaggio. Supporta inoltre policy di sicurezza personalizzabile, e può fornire una traccia di ragionamento verificabile tramite una modalità think opzionale. Quando questa viene attivata, il modello produce un ragionamento passo-passo prima di emettere l’etichetta safe/unsafe. La tassonomia di sicurezza Aegis 2.0 copre 13 categorie core, e NVIDIA ha anche rilasciato un dataset per la sicurezza.

Il modello è basato su Google Gemma 3 4B IT e offre modalità di output multiple.

Insomma, la vigilanza diventa un software configurabile: compri il modello, gli dici quali sono le tue regole, e lui etichetta i contenuti. Peccato che il “ragionamento passo-passo” sia opzionale. Il guardiano può anche non pensare, se preferisci un verdetto binario in mezzo secondo.

L’altra faccia della medaglia: nessun filtro

Ma c’è un cortocircuito. Lo stesso modello che dovrebbe fare da guardiano è costruito su Gemma 3 – lo stesso Google che, sempre a maggio 2026, ha svelato Gemini Omni. L’annuncio è arrivato a Google I/O 2026, e le specifiche parlano chiaro: Gemini Omni accetta input multimodali e genera video basati su generazione video basata su conoscenza reale. La ciliegina: può creare contenuti da qualsiasi input, a partire dal video, con generazione senza filtri predefiniti.

Nessun filtro di default, nessuna policy obbligatoria. La stessa azienda che fornisce i mattoni per il modello di sicurezza di NVIDIA rilascia un generatore video che non pone limiti. Cosa succede quando una clip generata da Gemini Omni – una scena realistica di violenza, per esempio – passa attraverso il guardiano di un’altra azienda configurato in modalità binaria? Chi stabilisce la policy? Il venditore o il compratore?

Il costo della verità

Il mercato della moderazione è in piena espansione, e non è difficile capire perché: ogni piattaforma che adotta IA generativa si trova davanti a un potenziale disastro reputazionale. Comprare un pacchetto di “content safety” è più facile che costruirlo da sé. Ma l’opzionalità della trasparenza – la modalità think disattivabile – la dice lunga sulla priorità reale: la latenza prima del controllo.

In Europa, il GDPR obbliga a rendere conto delle decisioni automatizzate che hanno effetti significativi sugli individui. Un modello che etichetta un post come “unsafe” senza mostrare il ragionamento viola lo spirito della norma, se non la lettera. L’antitrust potrebbe chiedersi se legare un modello di sicurezza a un ecosistema chiuso – NVIDIA vende le GPU, i modelli e presto forse anche le policy – non sia un modo per eludere la concorrenza. Ma per ora nessuno ha aperto un dossier.

In un mercato dove la sicurezza si compra come un antivirus e le piattaforme generano senza reti, chi controllerà davvero i guardiani?