I test stanno cambiando l’infrastruttura AI
Le valutazioni di terze parti rivelano che l'harness e l'infrastruttura AI stanno diventando verticali, ottimizzate per compiti specifici.
La configurazione dell’harness diventa un parametro di ottimizzazione al pari dei pesi neurali
Quando valutazioni di terze parti affidabili su modelli come GPT-5.5 hanno rivelato che la compattazione della cronologia delle interazioni poteva migliorare le prestazioni su cyber ranges, è emerso un dettaglio tecnico che molti preferirebbero ignorare: il test stesso è parte del sistema. Non si misura solo il modello, ma l’intero ambiente di esecuzione, l’harness, la catena di strumenti che ne determina il comportamento. La lezione è chiara: l’infrastruttura AI non è più un cloud generico.
La vecchia idea di un compute “universale” — macchine virtuali o container standardizzati su cui far girare qualsiasi carico — sta cedendo il passo a piattaforme verticali, ottimizzate per compiti specifici. Il test che misura un agente non è un semplice script: è un valutazione deep agents AWS che richiede logica di grading, osservabilità e un harness capace di influenzare come l’agente usa gli strumenti o si riprende dagli errori. OpenAI ha definito un playbook per valutazioni di terze parti proprio per standardizzare questa complessità.
La macchina che sa di essere testata
L’harness non è un accessorio neutrale.
Come documentato dagli stessi ricercatori, valutazioni di terze parti mostrano che l’ambiente di esecuzione può alterare le prestazioni più del modello stesso. Nel caso di GPT-5.5, la compattazione contesto ha preservato le informazioni rilevanti man mano che la sessione si allungava, dimostrando che la configurazione dell’harness è un parametro di ottimizzazione al pari del peso dei pesi neurali. Se il test influenza il risultato, allora ogni carico di lavoro — agenti, robotica, simulazioni fisiche — richiede un’infrastruttura di valutazione su misura.
Questa specializzazione si estende al cloud sottostante. Ecosistema AI Cloud NVIDIA non è un cloud generalista: è un insieme di data center costruiti attorno a GPU pensate per flussi di lavoro AI specifici. I partner stanno espandendo la capacità per soddisfare la domanda di espansione cloud AI globale, scegliendo NVIDIA per il miglior costo per token NVIDIA. Non è più una questione di core generici: è il costo per output intelligente che conta.
Every company and every country needs AI factory infrastructure to turn data into intelligence. — Jensen Huang, CEO NVIDIA
Le AI factory aziendali stanno diventando la norma, costruite da fornitori di cloud AI, telco e costruttori di AI sovrana. Infrastruttura AI factory non è un’iperbole: CoreWeave, partner NVIDIA, ha dichiarato che queste fabbriche sono il fondamento per l’era agentica. CoreWeave agentica non è uno slogan, è un’architettura.
Il prototipo che diventa infrastruttura
La rapidità con cui si passa dall’idea al test è un altro fronte di specializzazione. Braintrust e Codex hanno dimostrato come trasformare richieste dei clienti in rami di anteprima in pochi minuti. Ankur Goyal ha spiegato: Codex ha sbloccato la nostra capacità di provare le richieste di funzionalità dei clienti in tempo reale. Iterazione in tempo reale significa che l’infrastruttura di sviluppo si adatta dinamicamente al carico di lavoro specifico, non il contrario.
La cosa veramente interessante di Codex è che possiamo iterare e ideare sulle richieste di funzionalità con il cliente in tempo reale. — Ankur Goyal, cofondatore Braintrust
Se il modello, l’harness e il cloud diventano verticali, cosa cambia per chi costruisce? La risposta è nei trade-off. Un cloud generalista offre flessibilità, ma paga il costo di un’astrazione che nasconde le ottimizzazioni per carichi specifici. Una piattaforma verticale come NVIDIA AI Cloud sacrifica quella generalità in cambio di throughput per watt e prevedibilità. Per un team che sviluppa agenti autonomi, la scelta non è più tra AWS e GCP, ma tra un ecosistema pensato per la latenza delle inferenze multi-step e uno progettato per il batch processing.
Il codice non basta: serve l’harness giusto
Gli ingegneri che progettano sistemi agentici devono considerare l’harness come parte integrante del deploy. Non è un test di accettazione, è un componente che definisce come l’agente interagisce con il mondo. La valutazione trust di terze parti insegna che la configurazione dell’harness può cambiare aspetti chiave delle prestazioni, dalla tracciabilità delle informazioni alla gestione degli errori. In pratica, ogni carico di lavoro richiede un harness su misura, e ogni harness richiede un’infrastruttura che lo supporti nativamente.
La frammentazione non è una fase di passaggio. È il nuovo default. Il cloud generico è stato la piattaforma per addestrare modelli di base; l’inferenza e la messa in produzione di agenti verticali richiedono qualcosa di diverso. Chi costruisce oggi deve scegliere non solo il modello, ma l’intero stack di valutazione, deployment e compute, ottimizzato per il compito specifico. Il futuro è verticale, e si misura in nano-secondi per token.
