Startup Amerika Tiiny AI menghadirkan AI Pocket Lab, superkomputer kecerdasan buatan kompak yang pas di saku Anda dan menjalankan model bahasa dengan 120 miliar parameter sepenuhnya secara lokal. Perangkat ini, kira-kira seukuran pengisi daya portabel, tidak bergantung pada koneksi internet atau server cloud untuk berfungsi. Perangkat ini disertifikasi oleh Guinness World Records sebagai PC mini terkecil yang mampu memproses model AI skala ini secara offline.
Peluncuran ini berlangsung selama CES 2026 dan mendapatkan daya tarik langsung di Kickstarter, melampaui penggalangan dana sebesar US$1 juta dalam beberapa jam setelah pembukaan kampanye. Proposal tersebut menarik perhatian karena menawarkan kemampuan yang setara dengan superkomputer tradisional dalam format portabel dan terjangkau. Fokus pada privasi dan latensi rendah membedakan produk ini dari solusi berbasis cloud.
Spesifikasi teknis perangkat
AI Pocket Lab berukuran 14,2 cm x 8 cm x 2,53 cm dan berat sekitar 300 gram. Perangkat keras utama mencakup prosesor ARM 12-inti dengan arsitektur Armv9.2. Sistem ini dilengkapi RAM LPDDR5X 80 GB, dengan 48 GB didedikasikan khusus untuk unit pemrosesan saraf (NPU).
Penyimpanan internal mencapai 1 TB pada SSD berkecepatan tinggi. Kombinasi CPU dan NPU menghasilkan hingga 190 triliun operasi per detik (TOPS). Konsumsi energi sekitar 65 W, memungkinkan penggunaan baterai dalam waktu lama atau sambungan langsung ke stopkontak.
Teknologi yang memungkinkan eksekusi pada perangkat keras kompak
Tiiny AI menggunakan beberapa pengoptimalan untuk menjalankan model besar pada perangkat kecil. Yang utama adalah TurboSparse, yang hanya memilih parameter yang diperlukan untuk setiap tugas tertentu. Solusi bawaan Outra adalah PowerInfer, yang meningkatkan efisiensi energi selama inferensi.
- TurboSparse mengurangi penggunaan memori dan mempercepat penghitungan hingga 3 kali lipat
- PowerInfer mengoptimalkan distribusi beban antara CPU dan NPU
- Dukungan asli untuk lebih dari 50 model sumber terbuka, termasuk varian Llama, Qwen, dan GLM
- Eksekusi lancar GPT-OSS 120B dengan 20+ token per detik
Teknologi ini menghilangkan kebutuhan akan kompresi agresif yang mengurangi kualitas hasil.
Aplikasi praktis dan manfaat bagi pengguna
Perangkat ini terhubung ke laptop atau PC mana pun melalui USB-C dan mengubah peralatan menjadi stasiun AI lokal. Profissionais menghasilkan teks, gambar, dan video tanpa mengirim data ke server jarak jauh. Pengoperasian offline menjamin privasi lengkap, terutama berguna bagi pengacara, dokter, dan peneliti yang menangani informasi sensitif.
Demonstrasi menunjukkan AI Pocket Lab menjalankan model berat pada komputer lama, termasuk mesin yang berusia lebih dari 14 tahun. Perangkat beroperasi tanpa suara dan tanpa pemanasan berlebihan di bawah beban yang berkepanjangan. Portabilitas membuatnya mudah digunakan saat bepergian atau di tempat dengan konektivitas terbatas.
Pengakuan dan ketersediaan di pasar
Guinness World Records secara resmi mengakui AI Pocket Lab sebagai superkomputer portabel terkecil untuk eksekusi lokal LLM dengan lebih dari 100 miliar parameter. Tiiny AI, yang didirikan oleh alumni MIT, Stanford dan profesional dari perusahaan seperti Intel dan Meta, mengembangkan perangkat keras dan perangkat lunak yang dioptimalkan.
Harga eceran berkisar antara $1.399 dan $1.500 tergantung pada konfigurasi yang dipilih. Unit pertama akan dikirimkan kepada pendukung Kickstarter pada bulan-bulan setelah kampanye berakhir. Produk ini menandai kemajuan dalam komputasi edge yang diterapkan pada kecerdasan buatan.
