La Chain of Debate di Microsoft: Innovazione o Sorveglianza?

Satya Nadella presenta la “catena di dibattito” AI: un sistema di intelligenze artificiali che litigano per trovare la risposta giusta

Satya Nadella è tornato a Bengaluru, e se pensate che sia stata solo una visita di cortesia per salutare la più grande comunità di sviluppatori al mondo, vi state perdendo il vero spettacolo. Il CEO di Microsoft, con la solita aura da tecnocrate illuminato, ha mostrato un’app sviluppata personalmente durante un evento per sviluppatori. L’ha definita un sistema per la “deep research”, basata su un concetto affascinante quanto inquietante: la “chain of debate”, o catena di dibattito.

L’idea è semplice sulla carta: invece di chiedere a un singolo modello di intelligenza artificiale di darvi una risposta (che potrebbe essere un’allucinazione completa), si mettono più modelli in una stanza virtuale e li si fa litigare tra loro finché non esce qualcosa di sensato. Nadella lo chiama “ragionamento”, ma per chi osserva il mercato con occhio disincantato, questo assomiglia molto a un modo per moltiplicare esponenzialmente il consumo di risorse computazionali e blindare l’utente nell’ecosistema Azure.

Non è un caso che il CEO abbia concluso la sua demo con un entusiastico “Next stop, Copilot!!”.

L’obiettivo non è la verità scientifica, è l’integrazione totale.

E mentre la stampa tech applaude l’ingegnosità del “coding CEO”, nessuno sembra chiedersi cosa succede ai nostri dati quando vengono dati in pasto non a una, ma a una dozzina di “scatole nere” che discutono tra loro senza alcun arbitro umano.

L’illusione del dibattito e la realtà del calcolo

La narrazione di Microsoft è, come sempre, seducente. Ci dicono che il futuro del software non è più scrivere codice, ma orchestrare agenti. Nadella ha spiegato che questi sistemi “agentici” sono il nuovo paradigma. Ma analizziamo la struttura tecnica di questa “chain of debate”: stiamo parlando di delegare il processo decisionale critico a una serie di algoritmi probabilistici che si auto-correggono.

Un tipo di catena di dibattiti con più agenti che partecipano sarà gran parte di ciò che tutti noi costruiremo nei nostri sistemi, nei nostri sistemi agentici.

— Satya Nadella, Chairman e CEO di Microsoft

Qui sorge il primo problema strutturale. In un contesto aziendale o, peggio, governativo, chi è responsabile della decisione finale presa da un comitato di IA? Se tre modelli su cinque decidono che un candidato non è idoneo per un prestito o che un paziente non ha diritto a una determinata cura, quale sarà la base legale di tale decisione? Il GDPR, all’articolo 22, protegge i cittadini dalle decisioni automatizzate, ma se l’automazione diventa una “discussione” complessa e opaca tra agenti proprietari, dimostrare il bias diventa un incubo forense.

Inoltre, c’è l’aspetto economico. Nadella ha descritto l’architettura dei sistemi agentici come una “catena di dibattiti” in cui più agenti interagiscono, ma ogni “battuta” di questo dibattito è una chiamata API a pagamento. Microsoft sta essenzialmente vendendo un modello dove, per ottenere una risposta affidabile, devi pagare cinque volte tanto.

È un capolavoro di upselling mascherato da innovazione tecnica.

Ma il vero rischio non è solo nel portafoglio, è nella privacy. Per far funzionare questi “dibattiti”, i dati devono fluire liberamente tra diversi modelli, spesso ospitati su infrastrutture diverse o gestiti da terze parti all’interno del marketplace di Azure.

Agenti autonomi o scatole nere automatizzate?

La visione presentata a Bengaluru trasforma GitHub in quello che Nadella chiama “Agent HQ”, il quartier generale degli agenti. L’idea è che lo sviluppatore non scriva più il codice, ma dia ordini a una squadra di agenti AI che lavorano per lui. Sembra liberatorio, finché non si realizza che stiamo costruendo un’infrastruttura su cui non abbiamo più visibilità diretta.

Se il codice è legge, come diceva Lessig, allora stiamo permettendo a Microsoft di scrivere la Costituzione in una lingua che non sappiamo più leggere. La “chain of debate” implica che la logica del software non sia più deterministica, ma probabilistica.

Come si fa audit su un sistema che, per definizione, potrebbe comportarsi diversamente ogni volta che i modelli “discutono”?

In questo scenario, la sicurezza diventa un colabrodo. Immaginate un agente malevolo o un prompt injection che si inserisce in questa catena di dibattito: potrebbe manipolare il consenso degli altri modelli senza che l’operatore umano se ne accorga.

E non stiamo parlando di fantascienza.

Oltre 11.000 modelli sono ospitati nella Microsoft Foundry, pronti per essere collegati e orchestrati. Ognuno di questi è un potenziale vettore di attacco o di fuga di dati.

La domanda che dovremmo porci non è “quanto è potente questo strumento?”, ma “chi possiede la trascrizione del dibattito?”. Se Copilot diventa l’intermediario universale di ogni processo intellettuale, Microsoft ottiene una visione panottica su come le aziende pensano, decidono e creano.

È la sorveglianza capitalista elevata all’ennesima potenza, venduta come “produttività”.

La colonizzazione digitale dell’india (e del mondo)

Non è un caso che tutto questo avvenga in India. Il subcontinente non è solo un mercato; è il laboratorio perfetto. Con una regolamentazione sulla privacy dei dati ancora in fase di maturazione rispetto all’Europa e una spinta governativa massiccia verso la digitalizzazione, l’India è il terreno di prova ideale per tecnologie che in occidente farebbero alzare più di un sopracciglio ai garanti della privacy.

Microsoft sta investendo pesantemente per formare milioni di sviluppatori indiani su questi strumenti specifici. Nadella ha sottolineato l’importanza della comunità di sviluppatori indiana già nel 2023, preparandoli a diventare la forza lavoro globale dell’era dell’AI. Ma c’è una differenza sottile tra “empowerment” e “lock-in”. Formando una generazione di ingegneri a pensare in termini di “agenti Azure” e “Copilot Studio”, Microsoft si assicura che l’infrastruttura critica del futuro globale sia costruita sulle sue fondamenta proprietarie.

L’ironia è palpabile. Ci viene venduta l’idea di agenti autonomi che ci libereranno dal lavoro noioso, ma la realtà è che stiamo costruendo una dipendenza strutturale da un unico fornitore per la capacità cognitiva di base delle nostre aziende. La “chain of debate” è affascinante, certo.

Ma in questo dibattito tra intelligenze artificiali, c’è una voce che rischia di non essere mai ascoltata: quella dell’utente che vuole sapere dove finiscono i suoi dati.

Mentre Nadella gioca a fare lo sviluppatore con la sua app demo, il resto del mondo dovrebbe chiedersi se siamo pronti a delegare il pensiero critico a una catena di montaggio algoritmica di cui non possediamo le chiavi.

Il futuro sarà anche “agentico”, ma la libertà, quella vera, sembra essere rimasta fuori dalla demo.