NVIDIA PAIR trasforma i PC di casa in un piccolo cluster per l’intelligenza artificiale

NVIDIA punta a sfruttare la potenza di calcolo inutilizzata nei computer domestici con PAIR, Personal AI Router, una soluzione progettata per distribuire le richieste di intelligenza artificiale tra più dispositivi collegati alla stessa rete locale. L’obiettivo è alleggerire il computer principale e utilizzare in modo più efficiente GPU e sistemi che altrimenti rimarrebbero inattivi.

NVIDIA PAIR distribuisce i carichi IA tra più computer

PAIR non è un nuovo motore di inferenza e non esegue direttamente i modelli di intelligenza artificiale. Il software agisce invece come intermediario tra l’applicazione che genera la richiesta e i computer disponibili sulla rete.

Quando arriva un’operazione, PAIR verifica quali sistemi siano in grado di gestirla e la indirizza verso una macchina compatibile. Ollama o LM Studio continuano quindi a eseguire il modello sul dispositivo selezionato, mentre l’applicazione di origine mantiene una singola connessione senza dover modificare il proprio metodo di comunicazione.

Più sub-agent possono lavorare contemporaneamente

Il vantaggio diventa particolarmente evidente con gli agenti IA capaci di suddividere un’attività complessa tra diversi sub-agent.

Invece di mettere tutte le operazioni in coda sulla stessa GPU, PAIR può assegnare richieste indipendenti a computer differenti ed elaborarle contemporaneamente. Per farlo, ciascun sistema deve disporre del modello richiesto e del relativo motore di inferenza.

Questa impostazione permette di sfruttare meglio l’hardware già disponibile in casa o in un piccolo ambiente di lavoro, senza richiedere necessariamente una macchina dedicata esclusivamente all’IA.

Come PAIR sceglie il computer più adatto

Il software individua automaticamente i dispositivi presenti sulla rete locale tramite mDNS. È inoltre possibile aggiungere manualmente un nodo utilizzando il relativo indirizzo IP.

Prima che due sistemi possano comunicare, l’associazione deve essere approvata. Il traffico tra i nodi viene successivamente protetto attraverso mTLS e certificati generati per la connessione.

La scelta della macchina non dipende esclusivamente dalla presenza di una GPU disponibile. PAIR controlla che il nodo sia online, che Ollama o LM Studio siano attivi, che il modello necessario sia installato e quante attività siano già in esecuzione.

Il carico della GPU influenza il routing

PAIR considera anche l’utilizzo della GPU. In questo modo può evitare di inviare un nuovo carico IA a un computer già impegnato con un videogioco, un rendering o un’altra applicazione particolarmente pesante.

Non è necessario che tutti i dispositivi abbiano gli stessi modelli installati. Un computer può ospitarne alcuni e un secondo utilizzarne altri: PAIR conserva queste informazioni e indirizza ogni richiesta esclusivamente verso i nodi compatibili.

Installare lo stesso modello su più macchine aumenta invece il numero di sistemi disponibili per gestire quello specifico carico di lavoro.

PAIR non combina la memoria delle GPU

La tecnologia presenta tuttavia alcuni limiti. PAIR non somma la memoria disponibile sulle diverse GPU, non esegue model sharding e non suddivide una singola inferenza tra più computer.

Ogni richiesta viene assegnata a un unico nodo e rimane su quella macchina fino al completamento. I vantaggi maggiori emergono quindi quando devono essere elaborate numerose operazioni indipendenti che possono essere eseguite in parallelo.

Due RTX 5090 riducono sensibilmente i tempi di elaborazione

NVIDIA ha mostrato un esempio con Hermes e un carico di lavoro composto da cinque sub-agent. Utilizzando Qwen3.6 35B A3B su una singola RTX 5090, l’elaborazione ha richiesto in media 6 minuti e 18 secondi.

Distribuendo lo stesso lavoro attraverso PAIR su due RTX 5090, il tempo medio è sceso a 3 minuti e 48 secondi.

NVIDIA precisa tuttavia che il risultato non rappresenta un benchmark generale e non costituisce una promessa di aumento lineare delle prestazioni. I risultati possono variare in base al modello, al numero di operazioni parallele, all’hardware utilizzato, alle caratteristiche della rete e alla disponibilità dei singoli nodi.

Supporto per GeForce RTX, DGX Spark e Mac

PAIR sarà distribuito in versione beta con un’interfaccia grafica e strumenti utilizzabili da terminale su Windows, macOS e Linux.

Il supporto annunciato comprende le GPU GeForce RTX serie 20 e successive, le GPU professionali NVIDIA RTX basate sull’architettura Turing o più recente, DGX Spark e i Mac equipaggiati con chip Apple M4 o successivi.

Un progetto gratuito e open source

PAIR sarà gratuito e open source. Gli sviluppatori potranno contribuire a diverse componenti del progetto, tra cui il rilevamento dei dispositivi, il sistema di routing, l’integrazione dei motori di inferenza, la gestione dei modelli e l’interfaccia.

La soluzione punta quindi a trasformare più computer collegati alla stessa rete in una sorta di piccolo cluster IA locale, sfruttando meglio l’hardware già disponibile senza rendere ogni macchina un sistema dedicato esclusivamente all’intelligenza artificiale.

Giacomo Marinelli

Giacomo Marinelli è autore per Tecnosuper.net e si occupa di raccontare l’attualità con uno stile chiaro, equilibrato e orientato ai lettori. Segue temi che spaziano dalle notizie di cronaca e politica all’economia, dalla tecnologia allo sport, fino all’intrattenimento e al lifestyle. Il suo obiettivo è offrire informazioni utili, aggiornate e facilmente comprensibili, mettendo in evidenza fatti, sviluppi e storie che hanno un impatto concreto sulla vita quotidiana e sugli interessi del pubblico.