De Amerikaanse startup Tiiny AI presenteerde de AI Pocket Lab, een compacte kunstmatige intelligentie-supercomputer die in je broekzak past en taalmodellen met 120 miljard parameters volledig lokaal draait. Het apparaat, ongeveer zo groot als een draagbare oplader, is voor het functioneren niet afhankelijk van een internetverbinding of cloudservers. Het apparaat is door Guinness World Records gecertificeerd als de kleinste mini-pc die AI-modellen van deze schaal offline kan verwerken.
De lancering vond plaats tijdens CES 2026 en kreeg onmiddellijk succes op Kickstarter, waarmee binnen enkele uren na de opening van de campagne de $1 miljoen aan fondsenwerving werd overtroffen. Het voorstel trok de aandacht omdat het mogelijkheden bood die gelijkwaardig zijn aan die van traditionele supercomputers, in een draagbaar en betaalbaar formaat. De focus op privacy en lage latentie onderscheidt het product van cloudgebaseerde oplossingen.
Technische specificaties van het apparaat
De AI Pocket Lab meet 14,2 cm x 8 cm x 2,53 cm en weegt ongeveer 300 gram. De belangrijkste hardware omvat een 12-core ARM-processor met Armv9.2-architectuur. Het systeem beschikt over 80 GB LPDDR5X RAM, waarvan 48 GB exclusief bestemd is voor de neurale verwerkingseenheid (NPU).
Interne opslag bereikt 1 TB op een snelle SSD. De combinatie van CPU en NPU levert tot 190 biljoen bewerkingen per seconde (TOPS). Het energieverbruik ligt rond de 65 W, waardoor langdurig gebruik op batterij of directe aansluiting op een stopcontact mogelijk is.
Technologieën die uitvoering op compacte hardware mogelijk maken
Tiiny AI heeft verschillende optimalisaties gebruikt om grote modellen op een klein apparaat uit te voeren. De belangrijkste is TurboSparse, die alleen de parameters selecteert die nodig zijn voor elke specifieke taak. De ingebouwde oplossing van Outra is PowerInfer, die de energie-efficiëntie tijdens inferentie verbetert.
- TurboSparse vermindert het geheugengebruik en versnelt berekeningen tot wel drie keer
- PowerInfer optimaliseert de belastingverdeling tussen CPU en NPU
- Native ondersteuning voor meer dan 50 open-sourcemodellen, inclusief varianten van Llama, Qwen en GLM
- GPT-OSS 120B vloeiende uitvoering met 20+ tokens per seconde
Deze technologieën elimineren de noodzaak van agressieve compressie die de kwaliteit van de resultaten in gevaar brengt.
Praktische toepassingen en voordelen voor gebruikers
Het apparaat wordt via USB-C op elke laptop of pc aangesloten en verandert de apparatuur in een lokaal AI-station. Profissionais genereert tekst, afbeeldingen en video’s zonder gegevens naar externe servers te verzenden. Offline werking garandeert volledige privacy, vooral handig voor advocaten, artsen en onderzoekers die met gevoelige informatie omgaan.
Uit demonstraties blijkt dat AI Pocket Lab zware modellen draait op oude computers, inclusief machines die ouder zijn dan 14 jaar. Het apparaat werkt stil en zonder overmatige verwarming bij langdurige belasting. Draagbaarheid maakt het gemakkelijk te gebruiken tijdens het reizen of op plaatsen met beperkte connectiviteit.
Herkenning en beschikbaarheid in de markt
De Guinness World Records erkende de AI Pocket Lab officieel als de kleinste draagbare supercomputer voor lokale uitvoering van LLM’s met meer dan 100 miljard parameters. Tiiny AI, opgericht door MIT-alumni, Stanford en professionals van bedrijven als Intel en Meta, ontwikkelde zowel de hardware als de geoptimaliseerde software.
De verkoopprijs varieert tussen $ 1.399 en $ 1.500, afhankelijk van de gekozen configuratie. De eerste eenheden zullen in de maanden na het einde van de campagne aan Kickstarter-supporters worden geleverd. Het product markeert een vooruitgang in edge computing toegepast op kunstmatige intelligentie.
