Das amerikanische Startup Tiiny AI präsentierte den AI Pocket Lab, einen kompakten Supercomputer mit künstlicher Intelligenz, der in Ihre Tasche passt und Sprachmodelle mit 120 Milliarden Parametern vollständig lokal ausführt. Das Gerät hat etwa die Größe eines tragbaren Ladegeräts und ist nicht auf eine Internetverbindung oder Cloud-Server angewiesen, um zu funktionieren. Das Gerät wurde von Guinness World Records als kleinster Mini-PC zertifiziert, der KI-Modelle dieser Größenordnung offline verarbeiten kann.
Der Start fand während der CES 2026 statt und fand bei Kickstarter sofort Anklang, sodass bereits wenige Stunden nach Beginn der Kampagne mehr als 1 Million US-Dollar an Spenden gesammelt wurden. Der Vorschlag erregte Aufmerksamkeit, da er Fähigkeiten bot, die denen herkömmlicher Supercomputer in einem tragbaren und erschwinglichen Format entsprechen. Der Fokus auf Datenschutz und geringe Latenz unterscheidet das Produkt von cloudbasierten Lösungen.
Technische Daten des Geräts
Der AI Pocket Lab misst 14,2 cm x 8 cm x 2,53 cm und wiegt rund 300 Gramm. Die Haupthardware umfasst einen 12-Kern-ARM-Prozessor der Armv9.2-Architektur. Das System verfügt über 80 GB LPDDR5X-RAM, wobei 48 GB ausschließlich der Neural Processing Unit (NPU) gewidmet sind.
Der interne Speicher erreicht 1 TB auf einer Hochgeschwindigkeits-SSD. Die Kombination aus CPU und NPU liefert bis zu 190 Billionen Operationen pro Sekunde (TOPS). Der Energieverbrauch liegt bei etwa 65 W, was einen längeren Betrieb im Batteriebetrieb oder den direkten Anschluss an eine Steckdose ermöglicht.
Technologien, die die Ausführung auf kompakter Hardware ermöglichen
Tiiny AI nutzte mehrere Optimierungen, um große Modelle auf einem kleinen Gerät auszuführen. Das wichtigste ist TurboSparse, das nur die Parameter auswählt, die für jede spezifische Aufgabe erforderlich sind. Die integrierte Lösung von Outra ist PowerInfer, das die Energieeffizienz während der Inferenz verbessert.
- TurboSparse reduziert den Speicherverbrauch und beschleunigt Berechnungen um das bis zu Dreifache
- PowerInfer optimiert die Lastverteilung zwischen CPU und NPU
- Native Unterstützung für mehr als 50 Open-Source-Modelle, einschließlich Varianten von Llama, Qwen und GLM
- GPT-OSS 120B flüssige Ausführung mit mehr als 20 Token pro Sekunde
Diese Technologien machen eine aggressive Komprimierung überflüssig, die die Qualität der Ergebnisse beeinträchtigt.
Praktische Anwendungen und Vorteile für Anwender
Das Gerät lässt sich über USB-C an jeden Laptop oder PC anschließen und verwandelt das Gerät in eine lokale KI-Station. Profissionais generiert Text, Bilder und Videos, ohne Daten an Remote-Server zu senden. Der Offline-Betrieb garantiert absolute Privatsphäre, was besonders für Anwälte, Ärzte und Forscher nützlich ist, die mit sensiblen Informationen arbeiten.
Demonstrationen zeigen, wie AI Pocket Lab schwere Modelle auf alten Computern ausführt, darunter Maschinen, die älter als 14 Jahre sind. Das Gerät arbeitet geräuschlos und ohne übermäßige Erwärmung bei längerer Belastung. Die Portabilität erleichtert die Verwendung auf Reisen oder an Orten mit eingeschränkter Konnektivität.
Anerkennung und Verfügbarkeit im Markt
Der Guinness World Records erkannte den AI Pocket Lab offiziell als kleinsten tragbaren Supercomputer für die lokale Ausführung von LLMs mit über 100 Milliarden Parametern an. Tiiny AI wurde von MIT-Alumni Stanford und Fachleuten von Unternehmen wie Intel und Meta gegründet und entwickelte sowohl die Hardware als auch die optimierte Software.
Der Verkaufspreis liegt je nach gewählter Konfiguration zwischen 1.399 und 1.500 US-Dollar. Die ersten Einheiten werden in den Monaten nach Ende der Kampagne an Kickstarter-Unterstützer ausgeliefert. Das Produkt markiert einen Fortschritt im Edge Computing bei der Anwendung künstlicher Intelligenz.
