美国初创公司 Tiiny AI 推出了 AI Pocket Lab，这是一款紧凑型人工智能超级计算机，可以装在口袋里，完全在本地运行具有 1200 亿个参数的语言模型。该设备大约有便携式充电器大小，不依赖互联网连接或云服务器来运行。该设备被吉尼斯世界纪录认证为能够离线处理如此规模的人工智能模型的最小迷你电脑。
该产品在 CES 2026 期间推出，立即在 Kickstarter 上引起关注，活动开始后数小时内筹款额超过 100 万美元。该提案因以便携且经济实惠的形式提供与传统超级计算机相当的功能而引起关注。对隐私和低延迟的关注使该产品有别于基于云的解决方案。
设备技术规格
AI Pocket Lab 尺寸为 14.2 厘米 x 8 厘米 x 2.53 厘米，重量约 300 克。主要硬件包括Armv9.2架构的12核ARM处理器。该系统配备 80 GB LPDDR5X RAM，其中 48 GB 专用于神经处理单元 (NPU)。
高速 SSD 内部存储容量达到 1 TB。 CPU 和 NPU 的组合可实现每秒高达 190 万亿次操作 (TOPS)。能耗约为 65 W，允许长时间使用电池或直接连接到插座。
支持在紧凑型硬件上执行的技术
Tiiny AI 使用多项优化在小型设备上运行大型模型。主要的是 TurboSparse，它仅选择每个特定任务所需的参数。另一个内置解决方案是 PowerInfer，它提高了推理过程中的能源效率。
- TurboSparse 减少内存使用并将计算速度提高多达 3 倍
- PowerInfer 优化 CPU 和 NPU 之间的负载分配
- 对 50 多个开源模型的本机支持，包括 Llama、Qwen 和 GLM 变体
- GPT-OSS 120B 以每秒 20 多个令牌的速度流畅执行
这些技术消除了对损害结果质量的激进压缩的需要。
实际应用和给用户带来的好处
该设备通过 USB-C 连接到任何笔记本电脑或 PC，并将设备变成本地 AI 站。专业人员生成文本、图像和视频，而无需将数据发送到远程服务器。离线操作保证完全的隐私，对于处理敏感信息的律师、医生和研究人员尤其有用。
演示显示 AI Pocket Lab 在旧计算机上运行重型模型，包括使用时间超过 14 年的机器。该设备运行安静，在长时间负载下不会过度发热。便携性使其在旅行或在网络连接有限的地方时可以轻松使用。
市场认可度和可用性
吉尼斯世界纪录已正式认可 AI Pocket Lab 为最小的便携式超级计算机，可用于本地运行超过 1000 亿个参数的 LLM。 Tiiny AI 由麻省理工学院、斯坦福大学的校友以及来自英特尔和 Meta 等公司的专业人士创立，开发了硬件和优化的软件。
零售价在 1,399 美元到 1,500 美元之间，具体取决于所选配置。第一批产品将在活动结束后的几个月内交付给 Kickstarter 支持者。该产品标志着边缘计算应用于人工智能的进步。