La startup americana Tiiny AI ha presentato l’AI Pocket Lab, un supercomputer compatto con intelligenza artificiale che sta in tasca ed esegue modelli linguistici con 120 miliardi di parametri completamente a livello locale. Il dispositivo, delle dimensioni di un caricabatterie portatile, non dipende da una connessione Internet o da server cloud per funzionare. Il dispositivo è stato certificato da Guinness World Records come il mini PC più piccolo in grado di elaborare offline modelli AI di questa scala.
Il lancio ha avuto luogo durante il CES 2026 e ha ottenuto un immediato successo alle Kickstarter, superando 1 milione di dollari di raccolta fondi entro poche ore dall’apertura della campagna. La proposta ha attirato l’attenzione perché offre capacità equivalenti ai supercomputer tradizionali in un formato portatile e conveniente. L’attenzione alla privacy e alla bassa latenza differenzia il prodotto dalle soluzioni basate su cloud.
Specifiche tecniche del dispositivo
L’AI Pocket Lab misura 14,2 cm x 8 cm x 2,53 cm e pesa circa 300 grammi. L’hardware principale include un processore ARM a 12 core con architettura Armv9.2. Il sistema dispone di 80 GB di RAM LPDDR5X, di cui 48 GB dedicati esclusivamente all’unità di elaborazione neurale (NPU).
La memoria interna raggiunge 1 TB su SSD ad alta velocità. La combinazione di CPU e NPU offre fino a 190 trilioni di operazioni al secondo (TOPS). Il consumo energetico è di circa 65 W, consentendo un uso prolungato a batteria o il collegamento diretto a una presa.
Tecnologie che consentono l’esecuzione su hardware compatto
Tiiny L’intelligenza artificiale ha utilizzato diverse ottimizzazioni per eseguire modelli di grandi dimensioni su un dispositivo di piccole dimensioni. Il principale è TurboSparse, che seleziona solo i parametri necessari per ogni attività specifica. La soluzione integrata di Outra è PowerInfer, che migliora l’efficienza energetica durante l’inferenza.
- TurboSparse riduce l’utilizzo della memoria e accelera i calcoli fino a 3 volte
- PowerInfer ottimizza la distribuzione del carico tra CPU e NPU
- Supporto nativo per oltre 50 modelli open source, incluse le varianti di Llama, Qwen e GLM
- Esecuzione fluida GPT-OSS 120B a oltre 20 token al secondo
Queste tecnologie eliminano la necessità di una compressione aggressiva che compromette la qualità dei risultati.
Applicazioni pratiche e vantaggi per gli utenti
Il dispositivo si collega a qualsiasi laptop o PC tramite USB-C e trasforma l’apparecchiatura in una stazione AI locale. Profissionais genera testo, immagini e video senza inviare dati a server remoti. Il funzionamento offline garantisce la completa privacy, particolarmente utile per avvocati, medici e ricercatori che trattano informazioni sensibili.
Le dimostrazioni mostrano che AI Pocket Lab esegue modelli pesanti su vecchi computer, comprese macchine che hanno più di 14 anni. Il dispositivo funziona silenziosamente e senza riscaldamento eccessivo sotto carichi prolungati. La portabilità lo rende facile da usare quando si viaggia o in luoghi con connettività limitata.
Riconoscimento e disponibilità sul mercato
L’Guinness World Records ha riconosciuto ufficialmente l’AI Pocket Lab come il più piccolo supercomputer portatile per l’esecuzione locale di LLM con oltre 100 miliardi di parametri. Tiiny AI, fondata dagli ex studenti del MIT, Stanford e professionisti di aziende come Intel e Meta, ha sviluppato sia l’hardware che il software ottimizzato.
Il prezzo al dettaglio varia tra $ 1.399 e $ 1.500 a seconda della configurazione scelta. Le prime unità verranno consegnate ai Kickstarter sostenitori nei mesi successivi alla fine della campagna. Il prodotto segna un progresso nell’edge computing applicato all’intelligenza artificiale.