News (MS)

Gemma 4 on Arm mempercepatkan AI pada peranti pada peranti Android dengan cekap dan tertutup

Gemma 4
Foto: Gemma 4 - Koshiro K/Shutterstock.com

Google dikeluarkan Gemma 4, yang membawa kemajuan ketara untuk menjalankan kecerdasan buatan secara langsung pada peranti Arm berasaskan seni bina Android. Keluaran Essa meningkatkan prestasi dan kecekapan kuasa, membolehkan pembangun mencipta pengalaman masa nyata yang lebih kaya tanpa bergantung pada sambungan awan. Usuários mendapat akses kepada bantuan segera, komunikasi lancar dan penyesuaian lanjutan, semuanya disimpan dalam sampul kuasa telefon pintar moden. Penyepaduan dengan ekosistem Arm memudahkan penggunaan pada skala global.

Ujian kejuruteraan awal yang dijalankan oleh Arm menunjukkan keuntungan yang ketara dalam pemprosesan model Gemma 4 E2B. Input pengguna pra-populasi menyaksikan kelajuan purata sebanyak 5.5x, manakala penjanaan tindak balas adalah sehingga 1.6x lebih pantas dengan inovasi Armv9. Penambahbaikan Essas melibatkan kemas kini kepada XNNPACK Google dan lapisan KleidiAI Arm, mengoptimumkan beban kerja AI secara langsung pada CPU.

  • Sokongan yang diperluaskan untuk pengalaman multimodal yang menggabungkan teks, audio dan imej.
  • Penyelenggaraan jejak ingatan tanpa peningkatan yang ketara.
  • Sokongan bahasa yang diperluaskan untuk interaksi yang lebih inklusif.
  • Asas kukuh untuk aliran kerja agen dan penaakulan masa nyata.

Ciri-ciri ini meletakkan Gemma 4 sebagai penyelesaian yang memenuhi jangkaan pengguna yang semakin meningkat untuk respons kontekstual serta-merta dalam aplikasi harian.

Kemajuan teknikal Gemma 4 dalam Arm pemproses

Seni bina Armv9 mewakili asas yang paling maju dan selamat untuk menjalankan AI pada skala gelongsor. Scalable Matrix Extension 2 (SME2) mempercepatkan operasi matriks berat tipikal model AI, semuanya dalam had kuasa telefon pintar masa kini. Processadores Arm C1 telah pun menggabungkan teknologi ini, yang menghasilkan prestasi mampan yang lebih tinggi dan kecekapan tenaga yang lebih baik semasa penggunaan berpanjangan.

Lapisan pecutan Arm KleidiAI terintegrasi secara asli dengan perpustakaan seperti XNNPACK, LiteRT dan MediaPipe daripada Google. Desenvolvedores akses pengoptimuman ini tanpa memerlukan perubahan pada kod, templat atau saluran paip penggunaan sedia ada. Hasil praktikal termasuk tindak balas yang lebih pantas, interaksi berterusan dan kestabilan terma walaupun dengan model yang lebih kompleks.

Gabungan ini membolehkan aplikasi menyampaikan pengalaman yang konsisten tanpa mengira keadaan sambungan. Inferens setempat mengurangkan kependaman, mengukuhkan privasi dengan menyimpan data pada peranti dan mengurangkan kos infrastruktur untuk pencipta apl.

Aplikasi praktikal dalam kebolehaksesan dengan apl Envision

Envision, aplikasi yang memfokuskan kepada pengguna buta dan rabun, menilai prototaip yang menjalankan Gemma 4 secara tempatan pada Arm CPU dengan sokongan SME2. Anteriormente, tafsiran adegan bergantung pada sambungan ke awan. Agora, pengguna merakam foto dan menerima penerangan terperinci tentang pemandangan secara langsung pada peranti, tanpa menghantar data sensitif melalui rangkaian.

Pendekatan luar talian ini memastikan operasi di mana-mana, walaupun tanpa internet, dan memelihara privasi dengan memproses segala-galanya pada peranti. Ketua Pegawai Eksekutif Envision menyerlahkan kepentingan keupayaan ini untuk komuniti, kerana ia menawarkan penerangan pemandangan dan tindak balas visual dengan kependaman rendah dan kebolehpercayaan yang tinggi.

Kes ini berfungsi sebagai demonstrasi awal potensi apabila Gemma 4 memenuhi platform pengkomputeran Arm pada skala gelongsor. Outros Pembangun boleh mengikut laluan yang sama untuk menyepadukan fungsi serupa ke dalam kategori apl yang berbeza.

Kerjasama antara Arm dan Google untuk ekosistem Android

Perkongsian antara Arm dan Google bertujuan untuk memudahkan kerja pembangun yang ingin menggabungkan Gemma 4 ke dalam Android aplikasi. Pengoptimuman prestasi tersedia secara automatik apabila menyasarkan peranti berasaskan Arm dengan SME2. Kerjasama Essa menggabungkan seni bina Armv9 dengan pecutan sistem pengendalian asli Android.

Wakil syarikat mengukuhkan komitmen bersama mereka untuk memajukan AI pada peranti. Tumpuan adalah untuk menyampaikan pengalaman yang pantas, responsif dan memelihara privasi tanpa memerlukan pengubahsuaian mendalam pada aplikasi sedia ada. Usuários Ends mendapat manfaat daripada lebih banyak interaksi cecair dan autonomi peranti yang lebih besar.

Peralihan kepada inferens tempatan mewakili perubahan struktur dalam seni bina aplikasi mudah alih. Ela membuka ruang untuk kategori alat baharu yang beroperasi dalam masa nyata, tanpa mengira kualiti sambungan data.

Faedah umum menjalankan AI secara tempatan dengan Gemma 4

Aplikasi yang menggunakan Gemma 4 dioptimumkan untuk Arm memberikan respons yang lebih pantas dan interaksi yang lebih lancar. Penyelenggaraan hayat bateri dan kawalan terma kekal stabil walaupun semasa tugasan intensif AI. Essa Kecekapan menjadikannya layak untuk menggunakan model yang semakin berkebolehan secara langsung pada peranti.

Ekosistem Android, yang menjangkau berbilion pengguna, mendapat manfaat daripada evolusi ini. Kehadiran seni bina Arm di mana-mana membolehkan penambahbaikan tiba secara meluas dan seragam. Desenvolvedores boleh meneroka kes penggunaan yang sebelum ini memerlukan infrastruktur awan berat.

Gabungan prestasi, privasi dan kebolehcapaian meletakkan penyelesaian sebagai standard yang baru muncul untuk aplikasi mudah alih pintar. Experiências Proses kontekstual dan bantuan menjadi rutin tanpa menjejaskan keselamatan data peribadi.

Penyepaduan keupayaan multimodal dan sokongan yang diperluaskan

Gemma 4 mengembangkan keupayaan melebihi teks tradisional. Ela menyepadukan pemprosesan audio dan imej, membolehkan interaksi yang lebih semula jadi dan lengkap. Usuários boleh bertukar antara modaliti yang berbeza tanpa gangguan yang ketara dalam aliran aplikasi.

Sokongan untuk lebih banyak bahasa memudahkan penggunaan dalam pelbagai pasaran di seluruh dunia. Desenvolvedores mencipta aplikasi yang memahami konteks visual, pendengaran dan teks secara serentak. Essa Multimodaliti memperkayakan produktiviti, alat pendidikan dan hiburan yang tersedia pada telefon pintar.

Ujian menunjukkan bahawa pengoptimuman mengekalkan penggunaan sumber di bawah kawalan. Model memproses input yang kompleks dan menjana output yang berkaitan dengan kependaman yang dikurangkan. Essa Ciri ini penting untuk aplikasi yang menuntut respons segera.

Prospek penerimaan pemaju

Pembangun yang sudah meneroka ekosistem Android mencari cara yang lebih mudah untuk menggabungkan Gemma 4. Pustaka dan rangka kerja yang dikemas kini memberikan peningkatan prestasi tanpa memerlukan penulisan semula kod. Essa Kesederhanaan mempercepatkan kitaran pembangunan dan ujian.

Aplikasi kebolehcapaian, penjagaan kesihatan, terjemahan dan bantuan peribadi mendapat manfaat terutamanya daripada berjalan secara tempatan. Kebebasan rangkaian meluaskan capaian ke kawasan yang mempunyai ketersambungan terhad. Usuários menerima fungsi yang boleh dipercayai tanpa mengira lokasi.

Kerjasama berterusan antara pasukan teknikal di Arm dan Google bertujuan untuk memberikan panduan yang jelas dan alatan terkini. Matlamatnya adalah untuk menjadikan AI pada peranti sebagai seni bina lalai untuk kebanyakan pengalaman mudah alih.

Kesan pada pengalaman pengguna akhir

Telefon pintar yang dilengkapi dengan pemproses Arm yang serasi SME2 menawarkan interaksi yang lebih pintar dan responsif. Usuários menyedari respons yang hampir serta-merta dalam pembantu, penyunting imej dan alat komunikasi. Privasi yang dipertingkatkan memberikan keyakinan yang lebih besar dalam penggunaan harian.

Mengurangkan pergantungan awan juga menyumbang kepada autonomi peranti yang lebih besar. Aplicativos Bekerja secara konsisten walaupun semasa dalam perjalanan atau di kawasan yang tiada isyarat. Essa kebolehpercayaan meningkatkan kepuasan keseluruhan dengan ciri AI.

Kemajuan ini mewakili satu lagi langkah ke arah pengalaman diperibadikan yang menghormati had perkakasan mudah alih. Bilhões daripada Android pengguna boleh mengakses faedah yang sama apabila lebih banyak aplikasi menerima pakai teknologi tersebut.

Cabaran teknikal diatasi dalam pengoptimuman

Pasukan kejuruteraan berusaha untuk menjajarkan perkakasan dan perisian dengan cekap. Sambungan SME2 telah disepadukan ke dalam masa jalan sedia ada, memastikan keserasian yang luas. Testes memfokuskan pada senario penggunaan sebenar untuk mengesahkan keuntungan dalam kelajuan dan kecekapan.

Hasilnya ialah keseimbangan antara kapasiti pengkomputeran dan penggunaan tenaga yang memenuhi permintaan telefon pintar masa kini. Modelos yang lebih besar boleh berjalan dengan kualiti yang dikekalkan tanpa menghabiskan sumber secara berlebihan. Essa Pengoptimuman membuka pintu untuk inovasi masa depan dalam segmen mudah alih.

Pengembangan untuk kes penggunaan yang berbeza

Selain kebolehcapaian, sektor seperti pendidikan, kewangan dan penjagaan kesihatan sedang meneroka aplikasi yang serupa. Ferramentas ringkasan dokumen, analisis visual dan bantuan perbualan mendapat ketepatan apabila dilakukan secara tempatan. Privasi menjadi pembeza kompetitif dalam segmen ini.

Pembangun bebas dan syarikat besar mencari peluang yang setara berkat kebolehcapaian penyelesaian. Dokumentasi dan contoh yang tersedia memudahkan penyepaduan awal. Comunidades teknik sudah berkongsi prototaip yang menunjukkan potensi praktikal.

Gemma 4 no Arm menyatukan trend membawa kecerdasan lanjutan kepada pengkomputeran tepi pada peranti mudah alih. Gabungan pengoptimuman perkakasan dan perisian khusus mewujudkan persekitaran yang membolehkan untuk pertumbuhan berterusan teknologi ini.