ASUS AI ibrida agentica: pc con AI in locale
ASUS porta l'elaborazione AI direttamente sui dispositivi aziendali, distribuendo i carichi tra locale e cloud per tagliare i costi di inferenza fino al 70%.
ASUS annuncia l’integrazione della soluzione ASUS AI ibrida agentica nell’intera gamma di dispositivi business, tra cui i laptop ExpertBook, i desktop ExpertCenter e i mini PC NUC. L’obiettivo è distribuire dinamicamente i carichi di lavoro tra elaborazione locale e cloud, aiutando le aziende a bilanciare performance e costi nell’adozione dell’AI generativa.
Con la crescita nell’adozione di Large Language Model e agenti AI, i costi di inferenza per token continuano ad aumentare in modo significativo ogni anno. Un approccio esclusivamente cloud-based comporta spese elevate e difficilmente prevedibili, oltre a una complessità operativa che rende la scalabilità una barriera concreta per molte organizzazioni.
A livello tecnologico, la soluzione integra aiDAPTIV di Phison, una tecnologia di memory extension che permette ai dispositivi con risorse hardware limitate di eseguire in locale modelli linguistici di medie e grandi dimensioni. Questo elimina i tradizionali vincoli di memoria, portando i carichi di lavoro AI su comuni PC aziendali.
Un meccanismo di instradamento basato su gateway assegna i task in base alla loro complessità, dando priorità all’elaborazione locale per i carichi meno esigenti e riservando sempre il cloud ai compiti più complessi. La combinazione dei due livelli garantisce performance elevate contenendo i costi complessivi di inferenza nel tempo.
ASUS AI ibrida agentica: fino al 70% di riduzione dei costi di inferenza
Secondo i risultati di PinchBench, sistema di benchmarking per la valutazione di modelli LLM, ASUS AI ibrida agentica può ridurre i costi di inferenza fino al 70% per modelli di medie e grandi dimensioni come i modelli da 26B e 35B, mantenendo invariate le performance e rendendo l’adozione più sostenibile economicamente.
I casi d’uso includono traduzioni multilingua, redazione di email, sintesi di riunioni, analisi di contratti, Q&A su knowledge base interne, gestione del customer service e supporto alle vendite con integrazione CRM. Gestire questi task in locale riduce la dipendenza dal cloud e tutela la privacy dei dati aziendali in modo efficace.
ASUS ha dichiarato l’intenzione di continuare a sviluppare i propri AI PC per il business, integrando hardware, software e partnership di ecosistema sempre più ampie. L’obiettivo è offrire un’infrastruttura AI capace di bilanciare performance, costi e flessibilità per supportare la trasformazione digitale delle organizzazioni nel lungo periodo.
La proposta ASUS AI ibrida agentica è concreta e orientata a un problema reale che molte aziende stanno già affrontando ogni giorno: i costi dell’AI rischiano di diventare insostenibili.