L’intelligenza artificiale sta compiendo un nuovo passo verso l’esecuzione locale. NVIDIA sta spingendo con decisione sull’ecosistema degli AI agent, modelli e strumenti capaci di lavorare direttamente sui dispositivi degli utenti senza dover affidare ogni operazione al cloud.
Al centro di questa strategia c’è Nemotron 3.5 Lightning, il nuovo modello open da 30 miliardi di parametri sviluppato da NVIDIA, ma anche la collaborazione con realtà come Perplexity, che ha portato il proprio agente Portable Computer su NVIDIA DGX Spark.
NVIDIA punta sempre di più sull’intelligenza artificiale locale
Il concetto alla base della nuova generazione di AI locale è semplice: spostare una parte sempre maggiore dell’elaborazione direttamente sull’hardware dell’utente. Questo approccio può offrire maggiore controllo sui dati, ridurre la dipendenza dai servizi cloud e rendere possibili agenti capaci di lavorare in maniera continuativa.
NVIDIA sta costruendo attorno a questa filosofia un ecosistema che comprende GPU GeForce RTX e RTX PRO, sistemi come DGX Spark e DGX Station, NVIDIA Jetson e una serie di strumenti software pensati per eseguire e personalizzare i modelli localmente.
Nemotron 3.5 Lightning: il nuovo modello NVIDIA per gli AI agent
Uno dei protagonisti di questa strategia è Nemotron 3.5 Lightning, un modello open da 30 miliardi di parametri basato su un’architettura Mixture-of-Experts (MoE).
Secondo NVIDIA, Nemotron 3.5 Lightning può raggiungere una generazione dei token fino a quattro volte più veloce e un tempo di completamento fino al 30% inferiore rispetto ad altri modelli open della stessa categoria.
La caratteristica particolarmente interessante è però la possibilità di personalizzare il modello attraverso il fine-tuning. Gli sviluppatori possono adattarlo a specifiche attività, stili di scrittura, settori professionali o modalità di programmazione.
In altre parole, Nemotron 3.5 Lightning può diventare il punto di partenza per costruire un assistente AI molto più specializzato rispetto a un modello generalista.
Un’AI che può lavorare con file, applicazioni e dati personali
Il vero obiettivo di NVIDIA non sembra essere semplicemente quello di far funzionare un chatbot sul PC. La direzione è quella degli agenti autonomi, capaci di utilizzare applicazioni e strumenti, lavorare con file locali e portare avanti attività composte da più passaggi.
Un agente locale potrebbe, per esempio, aiutare nella gestione di documenti, posta elettronica e calendario, lavorare su un progetto di programmazione oppure eseguire operazioni ripetitive senza inviare necessariamente tutti i dati a un server remoto.
Questo aspetto rende particolarmente importante il tema della privacy: mantenere l’elaborazione sul dispositivo può infatti permettere di conservare file, informazioni sensibili e contesto di lavoro direttamente sul sistema dell’utente.
Perplexity porta il suo agente AI su NVIDIA DGX Spark
La strategia di NVIDIA trova un altro importante esempio nella collaborazione con Perplexity. L’azienda ha presentato Portable Computer, un agente AI locale ottimizzato per NVIDIA DGX Spark.
Portable Computer è pensato come un assistente personale in grado di collegarsi a servizi e applicazioni molto utilizzati, tra cui Google Drive, Gmail, Slack e GitHub.
La particolarità è la possibilità di passare tra modelli locali e modelli cloud a seconda del tipo di attività. Le operazioni quotidiane possono essere affidate all’elaborazione locale, mentre i compiti più complessi possono sfruttare i modelli cloud.
Secondo NVIDIA, Portable Computer utilizza in locale una versione appositamente post-addestrata di Qwen 3.8 27B, mentre Perplexity sta lavorando anche a una variante ottimizzata di Nemotron 3.5 Lightning per ottenere risposte ancora più rapide.
Nemotron e Qwen: l’AI locale diventa sempre più potente
Il caso di Perplexity mostra un cambiamento importante nel settore. L’AI locale non viene più presentata soltanto come una soluzione per eseguire modelli più piccoli e meno potenti, ma come una piattaforma sulla quale costruire veri agenti capaci di svolgere attività complesse.
NVIDIA ha inoltre evidenziato il supporto delle proprie GPU RTX al modello Qwen3.8-27B, che può essere eseguito su una singola GeForce RTX 5090. Nei test citati dall’azienda, con multi-token prediction, il modello ha raggiunto 131 token al secondo.
Il modello può essere utilizzato attraverso strumenti come llama.cpp, Ollama, Unsloth e LM Studio, ampliando ulteriormente le possibilità per gli sviluppatori interessati all’AI generativa locale.
Non solo Nemotron: NVIDIA sta costruendo un intero ecosistema
Nemotron 3.5 Lightning e Perplexity rappresentano soltanto una parte della strategia. NVIDIA sta infatti sostenendo un ecosistema molto più ampio di modelli open e open weight destinati a funzionare localmente.
Tra gli esempi citati dall’azienda troviamo Meta Muse Glimmer, un modello da 30 miliardi di parametri pensato per coding e agenti AI locali, oltre a modelli dedicati alla generazione video, alla robotica e alla visione artificiale.
Particolarmente interessante è anche la possibilità di combinare più sistemi DGX Spark attraverso NVIDIA Sync, aumentando la capacità di memoria e le prestazioni disponibili per i modelli più pesanti.
Il futuro dell’AI potrebbe essere ibrido
La direzione delineata da NVIDIA non significa necessariamente la fine dell’intelligenza artificiale basata sul cloud. Al contrario, il modello che sta emergendo è sempre più ibrido.
Le attività più semplici e sensibili possono essere eseguite localmente, mentre le richieste che richiedono maggiore potenza possono essere indirizzate verso infrastrutture cloud. È esattamente il tipo di approccio che Perplexity sta sperimentando con Portable Computer.
La vera partita, quindi, non riguarda soltanto quale modello AI sia più potente, ma dove quel modello viene eseguito, quali dati può utilizzare e quanto autonomamente può agire.
NVIDIA vuole trasformare il PC in un vero agente AI
Con Nemotron 3.5 Lightning, il supporto ai nuovi modelli open e la collaborazione con aziende come Perplexity, NVIDIA sta chiaramente cercando di accelerare la transizione verso una nuova generazione di AI agent locali.
Se questa evoluzione manterrà le promesse, il PC potrebbe diventare qualcosa di molto diverso rispetto a quello che conosciamo oggi: non soltanto una macchina sulla quale avviare programmi e servizi, ma un assistente digitale sempre attivo, capace di comprendere il contesto, utilizzare strumenti e completare autonomamente attività complesse.
E NVIDIA sembra intenzionata a fare in modo che una parte sempre maggiore di questo futuro possa essere gestita direttamente dall’hardware dell’utente.
