Gli agenti AI ora girano su un telefono
Liquid AI presenta LFM2.5-2.6B, un agente on-device che esegue compiti complessi senza cloud, superando modelli più grandi in velocità e privacy.
L’addestramento con rinforzo agentico e il supporto per l’inferenza locale rendono il modello competitivo su CPU e smartphone
Hai presente quei modelli linguistici che promettono di ragionare ma finiscono per invocare un API a ogni respiro? LFM2.5-2.6B di Liquid AI ribalta il tavolo con un approccio che molti sviluppatori aspettavano sottovoce: un agente on-device da 2.6 miliardi di parametri addestrato con reinforcement learning specifico per task agentici, capace di gestire strumenti, seguire istruzioni e completare catene di azioni senza mai chiamare il cloud. Il risultato è un modello che gira in meno di 2.5 GB di memoria, l’agente on-device LFM2.5-2.6B, e che ridefinisce il rapporto tra dimensioni e capacità.
L’allenamento che trasforma un nano-modello in un factory worker digitale
La chiave non è un’altra architettura transformer leggermente più efficiente. È l’uso del reinforcement learning agentico (Agentic RL) per calibrare il modello su compiti reali: chiamate di funzione, orchestrazione di tool, ragionamento a più passi. Il risultato è tangibile: in tutti i benchmark di instruction-following esaminati, le prestazioni del modello da 2.6B sono state le migliori; nei test di tool-use, batte ogni concorrente tranne BFCLv4, dove solo il modello Qwen da 9.7 miliardi lo supera di misura. Sui compiti agentici, LFM2.5-2.6B lascia indietro entrambi i modelli Gemma e se la gioca alla pari con i Qwen. Il succo? Un modello da smartphone compete con architetture quattro volte più grandi, e lo fa senza compromessi sulla latenza.
A sostenere questa visione c’è anche l’infrastruttura di ricerca. Il framework open-source Orchard di Microsoft Research, con l’ambiente riutilizzabile Orchard Env, offre proprio un impianto scalabile per addestrare e valutare agenti su domini diversi, validando che l’approccio agentico non è una scorciatoia ma un metodo robusto.
La CPU diventa un datacenter tascabile
LFM2.5-2.6B non si limita a stupire sui benchmark: lo fa su hardware che abbiamo già in tasca o sulla scrivania. Su un Apple M5 Max raggiunge 220 token al secondo, su un AMD Ryzen AI Max+ 395 segna 113 token al secondo, e persino su telefono tocca una velocità di 30 token al secondo mantenendo intatta la qualità di esecuzione. Il modello si è guadagnato il titolo di più veloce su CPU, con questi stessi numeri di decode rivendicati nel test complessivo: 220 token/s su M5 Max e 113 su Ryzen AI Max+ 395. In uno scenario in cui l’efficienza di inferenza conta più dei paper, questa è la differenza tra un demo e un assistente digitale realmente quotidiano.
L’impatto per chi sviluppa è concreto: il modello arriva con supporto immediato per l’intero stack di inferenza, da llama.cpp a MLX, vLLM, SGLang e ONNX. L’integrazione con l’ecosistema inference non è mai stata così trasparente. E sì, tutto questo in un pacchetto che sta comodamente sotto i 2.5 GB di RAM.
Addio bolletta cloud, bentornata privacy hardware
Quando l’agente gira in locale, i dati non lasciano mai il dispositivo. Non servono VPN, policy di retention né contratti con fornitori: ogni interazione resta privata per costruzione. La distribuzione di agenti on-device cancella la bolletta dell’inferenza cloud e abilita scaling orizzontale senza costi ricorrenti, un cambio di paradigma che riporta il controllo nelle mani dello sviluppatore.
«Il successo nell’AI sarà definito non da quanta infrastruttura un’organizzazione possiede, ma da quanto produttivamente la usa», ha osservato Sven Oehme, CTO di DDN.
La frase calza a pennello. Con modelli come LFM2.5, ogni laptop diventa un nodo di un’architettura distribuita senza latenza di rete, ogni telefono un assistente personale realmente autonomo. Non si tratta di sostituire i grandi modelli, ma di spostare l’intelligenza tattica dove serve, mantenendo il cloud per compiti di orchestrazione o training centralizzato. Per chi scrive codice, significa ripensare lo stack applicativo attorno a motori di inferenza locale come llama.cpp o MLX, delegando sicurezza e privacy al silicio del dispositivo.
È la fine della dipendenza obbligata dal cloud per l’AI potente, e l’inizio di un’architettura in cui il compromesso tra capacità e controllo non esiste più.
