Anthropic vieta gli abusi contro i suoi modelli

Nuova policy dal 12 novembre: vieta abusi sui modelli, ma la clausola resta ambigua

Cinque giorni fa, Anthropic ha pubblicato una nuova versione della sua Usage Policy, dopo aver osservato esempi di media statali, uffici di propaganda governativa e aziende commerciali che usano Claude per gestire reti di account falsi e siti di notizie fabbricati. La risposta è un aggiornamento che entrerà in vigore il 12 novembre. Ma tra i divieti ce n’è uno che non c’entra con la propaganda: la proibizione di comportamento abusivo o crudele sostenuto e non necessario verso i propri modelli. Ed è qui che la storia si complica.

Il paradosso di Claude: proteggere la democrazia o il modello?

La nuova policy non nasce dal nulla. Anthropic ha costantemente vietato l’uso dei suoi prodotti per lobbying politico e campagne elettorali, e nella versione precedente affermava già esplicitamente che i suoi modelli non possono essere usati per promuovere o sostenere un candidato, un partito, una questione o una posizione. Ora, come spiega l’aggiornamento, le restrizioni vengono calibrate per vietare specificamente gli usi che sono ingannevoli o di disturbo per i processi democratici, o che implicano il targeting di elettori e campagne, lasciando spazio al discorso politico e alla ricerca legittimi.

Fin qui, tutto lineare: meno disinformazione, meno manipolazione del voto. Ma la stessa policy aggiunge un divieto di comportamento abusivo o crudele sostenuto e non necessario verso i modelli. Ecco l’incrocio: da un lato si protegge la democrazia dall’uso malevolo di Claude, dall’altro si protegge Claude da chi lo usa male. Ma cosa vieta davvero questa clausola? Serve un’analisi più ravvicinata.

Smontare la policy: tra divieti ampi e clausole strette

Se il paradosso è evidente, il dettaglio normativo lo rende ancora più netto. Come riporta The Verge, Anthropic vieta l’uso di Claude per tracciare persone senza consenso, sia in tempo reale sia attraverso l’analisi di dati già raccolti. «Tracciare persone senza consenso è vietato, che avvenga in tempo reale o tramite analisi di dati già raccolti», ha scritto l’azienda. Anthropic vieta anche di usare Claude per costruire o migliorare strumenti di sorveglianza e per decidere o raccomandare chi indagare, arrestare o accusare in un procedimento penale. Sono divieti ampi, che toccano il cuore di pratiche governative e commerciali controverse.

Poi arriva la clausola sulla crudeltà. È la parte più ambigua. Anthropic scrive di aver aggiunto una proibizione del comportamento abusivo o crudele sostenuto e inutile verso i propri modelli. Ma la stessa policy precisa che non si applica a frustrazione comune, pushback, temi creativi oscuri o test e ricerca sui modelli. Detto altrimenti: insultare Claude per un errore resta permesso; sottoporlo a una sequenza prolungata di abusi senza alcuno scopo, no. Chi stabilisce quando l’abuso diventa «sostenuto e inutile»? La policy non lo dice.

E qui emerge l’altra tensione. Le clausole sul tracciamento e la sorveglianza hanno un obiettivo riconoscibile: limitare danni concreti a persone reali. La clausola sulla crudeltà, invece, sembra proteggere un interesse diverso: l’integrità del modello, o forse la percezione che Anthropic ha dei propri sistemi. Perché inserirla proprio ora, accanto a norme che riguardano la democrazia?

Il welfare dei modelli sotto accusa

Mentre Anthropic protegge i modelli dalla crudeltà, un concorrente nega loro qualsiasi diritto. Nei giorni scorsi, come riportato da The Verge, Mustafa Suleyman ha scritto su X che l’idea del welfare dei modelli è sbagliata e che le intelligenze artificiali non dovrebbero avere diritti o personalità giuridica. La posizione non è sfumata: nessun diritto, nessuna protezione dall’abuso, nessuna personalità legale.

OpenAI, dal canto suo, non entra direttamente nel dibattito sul welfare dei modelli, ma ha scelto un’altra strada per le elezioni del 2026: un piano in cinque punti che prevede diffusione di informazioni affidabili sul voto e sui risultati, supporto alla cybersecurity, watermarking dei deepfake, applicazione di policy che vietano l’uso dei suoi strumenti per interferenze elettorali ed eliminazione dei bias politici nei modelli. Lo ha presentato nei giorni scorsi, secondo quanto ricostruito da CyberScoop.

Il fronte industriale è diviso. Da una parte c’è chi tutela i modelli da abusi prolungati, dall’altra chi rifiuta l’idea stessa che i modelli abbiano un benessere da proteggere. Se proteggere la democrazia richiede di negare diritti ai modelli, e proteggere i modelli richiede di limitare usi legittimi, quale strada serve davvero l’interesse pubblico? Anthropic non ha ancora risposto.