Công ty khởi nghiệp Tiiny AI của Mỹ đã giới thiệu AI Pocket Lab, một siêu máy tính trí tuệ nhân tạo nhỏ gọn, vừa vặn trong túi của bạn và chạy các mô hình ngôn ngữ với 120 tỷ tham số hoàn toàn cục bộ. Thiết bị này có kích thước xấp xỉ một bộ sạc di động, không phụ thuộc vào kết nối Internet hoặc máy chủ đám mây để hoạt động. Thiết bị này đã được Kỷ lục Guinness Thế giới chứng nhận là chiếc PC mini nhỏ nhất có khả năng xử lý ngoại tuyến các mô hình AI ở quy mô này.
Buổi ra mắt diễn ra trong CES 2026 và ngay lập tức thu hút được sự chú ý trên Kickstarter, vượt qua số tiền gây quỹ 1 triệu đô la Mỹ trong vòng vài giờ sau khi chiến dịch bắt đầu. Đề xuất này đã thu hút sự chú ý vì cung cấp các khả năng tương đương với siêu máy tính truyền thống ở dạng di động và giá cả phải chăng. Việc tập trung vào quyền riêng tư và độ trễ thấp giúp sản phẩm trở nên khác biệt so với các giải pháp dựa trên đám mây.
Thông số kỹ thuật thiết bị
Phòng thí nghiệm bỏ túi AI có kích thước 14,2 cm x 8 cm x 2,53 cm và nặng khoảng 300 gram. Phần cứng chính bao gồm bộ xử lý ARM 12 nhân kiến trúc Armv9.2. Hệ thống này có 80 GB RAM LPDDR5X, trong đó 48 GB dành riêng cho bộ xử lý thần kinh (NPU).
Bộ nhớ trong đạt 1 TB trên SSD tốc độ cao. Sự kết hợp giữa CPU và NPU mang lại tới 190 nghìn tỷ thao tác mỗi giây (TOPS). Mức tiêu thụ năng lượng vào khoảng 65 W, cho phép sử dụng pin kéo dài hoặc kết nối trực tiếp với ổ cắm.
Các công nghệ cho phép thực thi trên phần cứng nhỏ gọn
Tiiny AI đã sử dụng một số phương pháp tối ưu hóa để chạy các mô hình lớn trên một thiết bị nhỏ. Cái chính là TurboSparse, chỉ chọn các tham số cần thiết cho từng tác vụ cụ thể. Một giải pháp tích hợp khác là PowerInfer, giúp cải thiện hiệu quả sử dụng năng lượng trong quá trình suy luận.
- TurboSparse giảm mức sử dụng bộ nhớ và tăng tốc độ tính toán lên tới 3 lần
- PowerInfer tối ưu hóa phân phối tải giữa CPU và NPU
- Hỗ trợ riêng cho hơn 50 mô hình nguồn mở, bao gồm các biến thể Llama, Qwen và GLM
- Thực thi linh hoạt GPT-OSS 120B với hơn 20 mã thông báo mỗi giây
Những công nghệ này loại bỏ nhu cầu nén mạnh làm ảnh hưởng đến chất lượng kết quả.
Ứng dụng thiết thực và lợi ích cho người dùng
Thiết bị kết nối với bất kỳ máy tính xách tay hoặc PC nào qua USB-C và biến thiết bị thành trạm AI cục bộ. Các chuyên gia tạo văn bản, hình ảnh và video mà không cần gửi dữ liệu đến máy chủ từ xa. Hoạt động ngoại tuyến đảm bảo quyền riêng tư hoàn toàn, đặc biệt hữu ích cho luật sư, bác sĩ và nhà nghiên cứu xử lý thông tin nhạy cảm.
Các cuộc biểu tình cho thấy AI Pocket Lab chạy các mô hình nặng trên các máy tính cũ, bao gồm cả những máy đã hơn 14 năm tuổi. Thiết bị hoạt động êm ái và không bị nóng quá mức khi tải kéo dài. Tính di động giúp bạn dễ dàng sử dụng khi đi du lịch hoặc ở những nơi có kết nối hạn chế.
Sự công nhận và sẵn có trên thị trường
Kỷ lục Guinness Thế giới đã chính thức công nhận AI Pocket Lab là siêu máy tính di động nhỏ nhất chạy cục bộ LLM với hơn 100 tỷ thông số. Tiiny AI, được thành lập bởi các cựu sinh viên từ MIT, Stanford và các chuyên gia từ các công ty như Intel và Meta, đã phát triển cả phần cứng và phần mềm được tối ưu hóa.
Giá bán lẻ dao động trong khoảng từ 1.399 USD đến 1.500 USD tùy thuộc vào cấu hình được chọn. Các thiết bị đầu tiên sẽ được giao cho những người ủng hộ Kickstarter trong những tháng sau khi kết thúc chiến dịch. Sản phẩm đánh dấu một bước tiến trong điện toán biên áp dụng cho trí tuệ nhân tạo.
