Permulaan Amerika Tiiny AI mempersembahkan AI Pocket Lab, superkomputer kecerdasan buatan padat yang muat dalam poket anda dan menjalankan model bahasa dengan 120 bilion parameter sepenuhnya secara tempatan. Peranti, lebih kurang saiz pengecas mudah alih, tidak bergantung pada sambungan Internet atau pelayan awan untuk berfungsi. Peranti ini telah diperakui oleh Guinness World Records sebagai PC mini terkecil yang mampu memproses model AI skala ini di luar talian.
Pelancaran berlangsung semasa CES 2026 dan mendapat tarikan segera di Kickstarter, melebihi AS$1 juta dalam pengumpulan dana dalam beberapa jam selepas kempen dibuka. Cadangan itu menarik perhatian kerana menawarkan keupayaan yang setara dengan superkomputer tradisional dalam format mudah alih dan berpatutan. Tumpuan pada privasi dan kependaman rendah membezakan produk daripada penyelesaian berasaskan awan.
Spesifikasi teknikal peranti
AI Pocket Lab berukuran 14.2 cm x 8 cm x 2.53 cm dan berat sekitar 300 gram. Perkakasan utama termasuk pemproses ARM 12 teras seni bina Armv9.2. Sistem ini mempunyai 80 GB LPDDR5X RAM, dengan 48 GB dikhususkan secara eksklusif untuk unit pemprosesan saraf (NPU).
Storan dalaman mencapai 1 TB pada SSD berkelajuan tinggi. Gabungan CPU dan NPU menyampaikan sehingga 190 trilion operasi sesaat (TOPS). Penggunaan tenaga adalah sekitar 65 W, membenarkan penggunaan berpanjangan pada bateri atau sambungan terus ke soket.
Teknologi yang membolehkan pelaksanaan pada perkakasan padat
Tiiny AI menggunakan beberapa pengoptimuman untuk menjalankan model besar pada peranti kecil. Yang utama ialah TurboSparse, yang memilih hanya parameter yang diperlukan untuk setiap tugas tertentu. Penyelesaian terbina dalam Outra ialah PowerInfer, yang meningkatkan kecekapan tenaga semasa inferens.
- TurboSparse mengurangkan penggunaan memori dan mempercepatkan pengiraan sehingga 3 kali
- PowerInfer mengoptimumkan pengagihan beban antara CPU dan NPU
- Sokongan asli untuk lebih daripada 50 model sumber terbuka, termasuk varian Llama, Qwen dan GLM
- Pelaksanaan cecair GPT-OSS 120B pada 20+ token sesaat
Teknologi ini menghapuskan keperluan untuk pemampatan agresif yang menjejaskan kualiti hasil.
Aplikasi dan faedah praktikal untuk pengguna
Peranti bersambung ke mana-mana komputer riba atau PC melalui USB-C dan menukar peralatan menjadi stesen AI tempatan. Profissionais menjana teks, imej dan video tanpa menghantar data ke pelayan jauh. Operasi luar talian menjamin privasi lengkap, terutamanya berguna untuk peguam, doktor dan penyelidik yang berurusan dengan maklumat sensitif.
Demonstrasi menunjukkan AI Pocket Lab menjalankan model berat pada komputer lama, termasuk mesin yang berusia lebih daripada 14 tahun. Peranti beroperasi secara senyap dan tanpa pemanasan yang berlebihan di bawah beban yang berpanjangan. Mudah alih menjadikannya mudah untuk digunakan semasa melancong atau di tempat yang mempunyai sambungan terhad.
Pengiktirafan dan ketersediaan di pasaran
Guinness World Records secara rasmi mengiktiraf AI Pocket Lab sebagai superkomputer mudah alih terkecil untuk pelaksanaan tempatan LLM lebih 100 bilion parameter. Tiiny AI, yang diasaskan oleh alumni MIT, Stanford dan profesional daripada syarikat seperti Intel dan Meta, membangunkan kedua-dua perkakasan dan perisian yang dioptimumkan.
Harga runcit berjulat antara $1,399 dan $1,500 bergantung pada konfigurasi yang dipilih. Unit pertama akan dihantar kepada penyokong Kickstarter dalam beberapa bulan selepas tamat kempen. Produk ini menandakan kemajuan dalam pengkomputeran tepi yang digunakan untuk kecerdasan buatan.