Google giới thiệu bộ xử lý Gemma 4 trên Arm để tăng tốc trí tuệ nhân tạo trên Android

Gã khổng lồ công nghệ đã công bố sự sẵn có của một thế hệ mô hình ngôn ngữ mới được tối ưu hóa cho thiết bị di động. Tích hợp trực tiếp với các kiến ​​trúc phần cứng cụ thể cho phép thực hiện các tác vụ phức tạp cục bộ, loại bỏ nhu cầu gửi dữ liệu đến các máy chủ bên ngoài.

Bản cập nhật này thể hiện một tiến bộ kỹ thuật đáng kể cho hệ sinh thái điện thoại thông minh hiện tại. Các nhà phát triển hiện có các công cụ gốc để tạo ra các ứng dụng linh hoạt hơn, phản hồi các lệnh của người dùng theo thời gian thực, bất kể chất lượng kết nối Internet.

Quá trình xử lý cục bộ làm thay đổi cách các ứng dụng tương tác với công việc hàng ngày. Chạy trực tiếp trên thiết bị đảm bảo phản hồi ngay lập tức, thời lượng pin dài hơn và mức độ riêng tư cao hơn đối với thông tin cá nhân được lưu trữ trong hệ điều hành.

Những tiến bộ kỹ thuật trong kiến ​​trúc xử lý di động

Nền tảng của sự đổi mới này nằm ở việc sử dụng kiến ​​trúc Armv9, cung cấp môi trường an toàn và tối ưu hóa cao cho khối lượng công việc học máy. Sự ra đời của công nghệ Mở rộng ma trận có thể mở rộng 2 (SME2) đóng vai trò như chất xúc tác cho các hoạt động ma trận nặng, nền tảng cho hoạt động của các mô hình ngôn ngữ quy mô lớn. Tiện ích mở rộng này cho phép thực hiện các phép tính trong giới hạn nhiệt và năng lượng của điện thoại di động thông thường.

Bộ xử lý dòng Arm C1 đã tích hợp các thông số kỹ thuật này từ nhà máy. Kết quả thực tế là duy trì được hiệu suất cao ngay cả khi sử dụng các công cụ thông minh trong thời gian dài.

Lớp tăng tốc KleidiAI hoạt động cùng với các thư viện thiết yếu như XNNPACK, LiteRT và MediaPipe. Sự tích hợp sâu giữa phần cứng và phần mềm này tạo ra một kênh liên lạc trực tiếp giúp giảm tắc nghẽn trong quá trình xử lý. Khi một ứng dụng yêu cầu một tác vụ phức tạp, hệ thống sẽ phân phối tải một cách thông minh giữa các lõi bộ xử lý, đảm bảo giao diện người dùng vẫn phản hồi nhanh. Sức mạnh tổng hợp về mặt kỹ thuật này giúp có thể thực hiện các mô hình mạnh mẽ trên các thiết bị có những hạn chế về mặt vật lý về kích thước và khả năng tản nhiệt.

Tăng đáng kể về tốc độ và hiệu quả

Các thử nghiệm kỹ thuật đã chứng minh sự cải thiện đáng kể về thời gian phản hồi khi chạy mô hình E2B. Tốc độ khởi động quy trình đã tăng hơn năm lần so với các thế hệ phần mềm trước đó.

Việc tạo ra các phản hồi theo thời gian thực cũng mang lại hiệu suất tăng đáng kể. Quá trình xử lý đã trở nên nhanh hơn đáng kể, cho phép trợ lý ảo và ứng dụng năng suất mang lại kết quả gần như tức thì cho các lệnh thoại hoặc văn bản.

Hỗ trợ mở rộng cho các tương tác đa phương thức

Phiên bản mới của hệ thống mở rộng khả năng giải thích ngoài định dạng văn bản truyền thống. Công nghệ hiện nay xử lý đồng thời các đầu vào âm thanh và hình ảnh, tạo ra môi trường tương tác tự nhiên và trực quan hơn nhiều cho người dùng cuối.

Cách tiếp cận đa phương thức này tạo điều kiện thuận lợi cho việc phát triển các công cụ giáo dục và khả năng tiếp cận. Ví dụ: một ứng dụng có thể phân tích một bức ảnh và mô tả nội dung âm thanh của nó ngay lập tức mà không gặp phải sự chậm trễ đáng chú ý khi chuyển đổi giữa các định dạng phương tiện.

Hỗ trợ đa ngôn ngữ cũng đã được cải thiện trong bản cập nhật gần đây. Tối ưu hóa không gian bộ nhớ cho phép các gói ngôn ngữ phức tạp hoạt động cục bộ, đảm bảo rằng công nghệ có thể truy cập được ở các khu vực khác nhau trên thế giới mà không ảnh hưởng đến việc lưu trữ thiết bị.

Ứng dụng thực tế trong khả năng tiếp cận kỹ thuật số

Ứng dụng Envision nhắm đến những người khiếm thị, đóng vai trò là trường hợp sử dụng chính cho công nghệ xử lý cục bộ mới này. Nền tảng này sử dụng camera của điện thoại thông minh để đọc văn bản, nhận dạng khuôn mặt và mô tả môi trường vật lý trong thời gian thực.

Leia Tambem

Jovem herdeira britânica Orla Wates falece em grave acidente de moto no Vietnã durante ano sabático

Colby Minifie xác nhận sức mạnh của Ashley Barrett trong The Boys mùa thứ năm

Nghiên cứu tiết lộ cha mẹ không biết con mình sử dụng trí tuệ nhân tạo như thế nào

Trước đây, việc diễn giải các cảnh phức tạp yêu cầu gửi hình ảnh đã chụp đến máy chủ đám mây. Quá trình này phụ thuộc vào kết nối Internet ổn định và tạo ra độ trễ cản trở trải nghiệm di chuyển của người dùng trên đường công cộng.

Với việc thực thi cục bộ được hỗ trợ bởi tiện ích mở rộng SME2, ​​kịch bản đã thay đổi đáng kể. Người dùng chụp ảnh và nhận mô tả chi tiết về môi trường trực tiếp thông qua bộ xử lý của thiết bị, loại bỏ bước truyền dữ liệu qua mạng di động.

Đại diện của ứng dụng nhấn mạnh rằng quyền tự chủ này làm thay đổi độ tin cậy của công cụ. Khả năng nhận được phản hồi chính xác ở những khu vực không có vùng phủ sóng tín hiệu di động mang lại sự an toàn và độc lập cao hơn cho cộng đồng người dùng có thị lực kém.

Quyền riêng tư và bảo mật dữ liệu trên thiết bị

Việc chuyển từ xử lý đám mây sang thực thi tại chỗ giải quyết một trong những mối quan tâm lớn nhất trong ngành công nghệ ngày nay: bảo mật thông tin cá nhân. Bằng cách lưu giữ tất cả dữ liệu nhạy cảm, chẳng hạn như ảnh, âm thanh và lịch sử tìm kiếm, trong bộ lưu trữ của điện thoại thông minh, nguy cơ rò rỉ hoặc bị chặn trong quá trình truyền mạng hầu như bị loại bỏ.

Kiến trúc phi tập trung này cũng giúp giảm chi phí vận hành cho các nhà phát triển phần mềm, những người không còn cần phải duy trì cơ sở hạ tầng máy chủ khổng lồ để xử lý yêu cầu của người dùng. Điện thoại di động đảm nhận vai trò bộ xử lý chính, dân chủ hóa quyền truy cập vào các công cụ tình báo tiên tiến và đảm bảo rằng việc kiểm soát thông tin vẫn nằm trong tay chủ sở hữu thiết bị.

Quan hệ đối tác chiến lược cho hệ sinh thái nhà phát triển

Sự hợp tác kỹ thuật giữa các công ty chịu trách nhiệm về phần cứng và hệ điều hành nhằm mục đích đơn giản hóa công việc thường ngày của các lập trình viên tạo ra giải pháp cho thị trường di động. Tối ưu hóa hiệu suất được kích hoạt tự động khi ứng dụng chạy trên thiết bị hỗ trợ kiến ​​trúc bộ xử lý mới. Các thư viện và khung phát triển được cập nhật cung cấp các lối tắt mà nhóm kỹ thuật phần mềm cần để triển khai các tính năng nâng cao mà không cần phải viết lại mã phức tạp từ đầu. Sự tích hợp dễ dàng này giúp tăng tốc chu kỳ phát triển, cho phép các cải tiến tiếp cận các cửa hàng ứng dụng và do đó, đến với người tiêu dùng cuối nhanh hơn, thiết lập tiêu chuẩn chất lượng mới cho ngành công nghiệp phần mềm di động.

Quản lý nhiệt và tiêu thụ năng lượng

Hiệu quả năng lượng là trụ cột trung tâm của bản cập nhật công nghệ này. Quản lý thông minh tài nguyên bộ xử lý đảm bảo rằng việc thực hiện các tác vụ phức tạp không khiến thiết bị quá nóng hoặc hao pin nhanh trong quá trình sử dụng hàng ngày.

Tương lai của hoạt động di động độc lập

Việc áp dụng công nghệ này trên quy mô lớn báo hiệu sự thay đổi về cấu trúc trong cách thức hoạt động của thiết bị di động. Sự phụ thuộc liên tục vào kết nối dữ liệu tốc độ cao bắt đầu giảm dần khi các thiết bị trở nên tự cung cấp khả năng xử lý logic.

Hàng triệu người dùng trên khắp thế giới sẽ được hưởng lợi từ quá trình chuyển đổi công nghệ này. Việc dân chủ hóa quyền truy cập vào các công cụ nhanh chóng, an toàn và độc lập với mạng xác định lại những kỳ vọng về khả năng của một chiếc điện thoại thông minh hiện đại trong các tình huống hàng ngày.