Amazon ha aperto PyTorch ai suoi chip

L’85% dei ricercatori usa il framework e Amazon punta a renderlo indipendente dall’hardware.

Per strappare clienti a Nvidia, Amazon non ha costruito una gabbia proprietaria. Ne ha smontata una. Lo scorso 19 ottobre la società ha presentato TorchNeuron, il software che porta PyTorch sui chip Trainium, accompagnandolo con un dato che spiega la posta in gioco: oggi l’85% dei ricercatori e degli sviluppatori di intelligenza artificiale scrive il proprio codice in PyTorch. Amazon dice di voler rendere quel framework indipendente dall’hardware, per tutti. Ma quando il più grande venditore di cloud regala la chiave del lucchetto, conviene chiedersi quale porta voglia aprire.

Il regalo che sembra un disarmo

Sul piano tecnico la promessa è semplice. Con TorchNeuron il codice PyTorch che gli sviluppatori già scrivono gira nativamente sui chip AWS Trainium, con un solo cambio di configurazione e senza riscrivere nulla. Il supporto riguarda le due generazioni più recenti, Trainium2 e Trainium3. E il rilascio con licenza open source era fissato per il 20 ottobre, sul palco della PyTorch Conference North America: non un annuncio sottovoce, ma una consegna pubblica davanti alla comunità che usa quel framework ogni giorno.

È una mossa che, letta in superficie, sembra un disarmo. Un colosso che abbassa le barriere invece di alzarle, che rinuncia all’attrito – quella fatica di migrazione su cui di solito si reggono le rendite di posizione nel software. Ma se togliere attrito è così vantaggioso per tutti, perché a farlo è proprio chi vende i chip alternativi?

Seguire i 25 miliardi

La risposta sta nei numeri, e Amazon non li nasconde. Secondo la stessa società, il suo business dei chip progettati in casa ha superato un run rate di ricavi annui di 25 miliardi di dollari, con una crescita a tripla cifra rispetto all’anno precedente. Non è un progetto collaterale: è una linea di business che si avvia a pesare quanto un’azienda autonoma di prima fascia. E Trainium3, sempre secondo Amazon, offre fino al 40% di miglior rapporto prezzo-prestazioni rispetto a Trainium2. Chi ha un prodotto più economico da vendere ha un solo vero nemico: il costo, per il cliente, di cambiare strada.

Ed è esattamente lì che TorchNeuron interviene. Amazon non si limita a un’estensione per i propri chip: sta inviando modifiche “upstream”, cioè direttamente al codice principale di PyTorch, lavorando con la comunità per rimuovere le parti che legano il framework a chip specifici. Detta così suona come pulizia tecnica. Ma in un mercato in cui lo standard di fatto è l’accoppiata tra le GPU di Nvidia e la sua piattaforma CUDA, ogni riga che lega PyTorch a un determinato hardware è un mattone di quel fossato. Toglierle significa rendere più sottile la parete che separa gli sviluppatori dalle alternative. Trainium compreso, naturalmente.

Perché proprio ora? Il tempismo non è casuale, ma nemmeno improvvisato. La strategia ha radici lunghe un decennio: già nel 2015 Amazon aveva acquisito Annapurna Labs, società specializzata nella progettazione di chip, da cui è nata la sua famiglia di processori. Dieci anni dopo, l’hardware c’è, i ricavi pure, il rapporto prezzo-prestazioni viene rivendicato come competitivo. Mancava l’ultimo tassello: convincere chi scrive il codice che spostarsi non costa nulla. TorchNeuron è quel tassello. Resta però un nodo che nessun comunicato scioglie:
un PyTorch neutrale rispetto all’hardware resta davvero neutrale, se a scriverne le parti che contano è chi ha un hardware da vendere?

Scelta per chi, alle condizioni di chi

Sul piano dei principi, l’argomento di Amazon è difficile da contestare. Nella sua presentazione di TorchNeuron alla comunità la società scrive che quando gli sviluppatori possono passare da un chip all’altro senza penalità, i produttori sono costretti a guadagnarsi la loro fiducia, e chi programma ne ricava costi più bassi e iterazioni più rapide. L’obiettivo dichiarato è rendere PyTorch più agnostico rispetto all’hardware per l’intera comunità degli sviluppatori, non solo per chi usa Trainium. È la retorica della concorrenza che piace anche ai regolatori antitrust, che da tempo guardano con sospetto alle dipendenze tecnologiche difficili da spezzare.

Ma c’è un dettaglio che la retorica tende a sorvolare: Trainium non si compra in negozio. Si affitta, e passa dal cloud di Amazon. La libertà promessa, quindi, è reale nel codice ma si esercita dentro un perimetro preciso. Uscire dal recinto di CUDA è un vantaggio concreto per chi oggi paga il prezzo di un fornitore quasi obbligato; entrare in quello di AWS è un’altra forma di dipendenza, magari più economica, ma pur sempre dipendenza. L’apertura di PyTorch all’hardware può essere un bene per tutti. Solo che, quando a togliere le catene di CUDA è il concorrente con 25 miliardi in gioco, la domanda da farsi non è più chi le ha forgiate. È chi avrà in mano le prossime.