News (DA)

Gemma 4 on Arm accelererer AI på enheden på Android-enheder effektivt og privat

Gemma 4
Foto: Gemma 4 - Koshiro K/Shutterstock.com

Google udgivet Gemma 4, hvilket bringer betydelige fremskridt til at køre kunstig intelligens direkte på Arm arkitektur-baserede Android enheder. Essa-udgivelsen forbedrer ydeevnen og strømeffektiviteten, hvilket gør det muligt for udviklere at skabe rigere realtidsoplevelser uden at være afhængige af cloud-forbindelser. Usuários får adgang til øjeblikkelig assistance, flydende kommunikation og avanceret tilpasning, alt sammen holdt inden for strømkonvolutten af ​​moderne smartphones. Integration med Arm-økosystemet letter adoption på globalt plan.

Indledende tekniske test udført af Arm viste betydelige gevinster i behandlingen af ​​Gemma 4 E2B-modellen. Forudfyldning af brugerinput gav en gennemsnitlig hastighed på 5,5x, mens responsgenerering var op til 1,6x hurtigere med Armv9-innovationer. Essas-forbedringer involverer opdateringer til Google’s XNNPACK og Arm’s KleidiAI-lag, der optimerer AI-arbejdsbelastninger direkte på CPU’er.

  • Udvidet understøttelse af multimodale oplevelser, der kombinerer tekst, lyd og billede.
  • Vedligeholdelse af hukommelsesfodaftrykket uden væsentlig stigning.
  • Udvidet sprogunderstøttelse for mere inkluderende interaktioner.
  • Solidt fundament for agentiske arbejdsgange og realtidsræsonnement.

Disse funktioner positionerer Gemma 4 som en løsning, der opfylder brugernes voksende forventninger til øjeblikkelige, kontekstuelle svar i hverdagsapplikationer.

Tekniske fremskridt for Gemma 4 i Arm processorer

Armv9-arkitekturen repræsenterer det mest avancerede og sikre grundlag for at køre AI i glidende skala. Scalable Matrix Extension 2 (SME2) accelererer tunge matrixoperationer, der er typiske for AI-modeller, alt inden for strømgrænserne for nutidens smartphones. Processadores Arm C1 inkorporerer allerede denne teknologi, hvilket resulterer i højere vedvarende ydeevne og bedre energieffektivitet under længere tids brug.

Arm KleidiAI-accelerationslaget integreres naturligt med biblioteker som XNNPACK, LiteRT og MediaPipe fra Google. Desenvolvedores får adgang til disse optimeringer uden at kræve ændringer til eksisterende kode, skabeloner eller implementeringspipelines. Det praktiske resultat inkluderer hurtigere reaktioner, kontinuerlige interaktioner og termisk stabilitet selv med mere komplekse modeller.

Denne kombination gør det muligt for applikationer at levere ensartede oplevelser uanset forbindelsesforhold. Lokal inferens reducerer latens, styrker privatlivets fred ved at opbevare data på enheden og sænker infrastrukturomkostningerne for app-skabere.

Praktisk applikation i tilgængelighed med appen Envision

Envision, en applikation fokuseret på blinde og svagsynede brugere, evaluerede en prototype, der kører Gemma 4 lokalt på Arm CPU’er med SME2-understøttelse. Anteriormente, fortolkning af scener afhang af forbindelse til skyen. Agora, tager brugeren et billede og modtager detaljerede beskrivelser af scenen direkte på enheden uden at sende følsomme data over netværket.

Denne offline tilgang sikrer drift overalt, selv uden internet, og bevarer privatlivets fred ved at behandle alt på enheden. Den administrerende direktør for Envision fremhævede vigtigheden af ​​denne evne for fællesskabet, da den tilbyder scenebeskrivelser og visuelle svar med lav latenstid og høj pålidelighed.

Sagen tjener som en indledende demonstration af potentialet, når Gemma 4 møder Arm computerplatformen på en glidende skala. Outros Udviklere kan følge den samme vej for at integrere lignende funktionalitet i forskellige appkategorier.

Samarbejde mellem Arm og Google for Android økosystemet

Partnerskabet mellem Arm og Google søger at forenkle arbejdet for udviklere, der ønsker at inkorporere Gemma 4 i Android applikationer. Ydeevneoptimeringer er automatisk tilgængelige, når du målretter mod Arm-baserede enheder med SME2. Essa samarbejde kombinerer Armv9-arkitekturen med native Android operativsystemaccelerationer.

Virksomhedsrepræsentanter forstærkede deres fælles forpligtelse til at fremme AI på enheden. Fokus er på at levere hurtige, responsive og privatlivsbevarende oplevelser uden at kræve dybe modifikationer af eksisterende applikationer. Usuários Ender drager fordel af mere flydende interaktioner og større enhedsautonomi.

Overgangen til lokal inferens repræsenterer en strukturel ændring i mobilapplikationsarkitekturen. Ela åbner plads til nye kategorier af værktøjer, der fungerer i realtid, uanset kvaliteten af ​​dataforbindelsen.

Generelle fordele ved at køre AI lokalt med Gemma 4

Applikationer, der anvender Gemma 4 optimeret til Arm, leverer hurtigere svar og jævnere interaktioner. Vedligeholdelse af batterilevetid og termisk kontrol forbliver stabil selv under AI-intensive opgaver. Essa Effektivitet gør det muligt at bruge stadigt mere dygtige modeller direkte på enheder.

Økosystemet Android, som når ud til milliarder af brugere, nyder godt af denne udvikling. Den allestedsnærværende tilstedeværelse af Arm-arkitekturen gør det muligt for forbedringer at komme bredt og ensartet. Desenvolvedores kan udforske use cases, der tidligere krævede tung cloud-infrastruktur.

Kombinationen af ​​ydeevne, privatliv og tilgængelighed positionerer løsningen som en ny standard for smarte mobilapplikationer. Experiências Kontekstuelle og assisterende processer bliver rutine uden at kompromittere sikkerheden af ​​personlige data.

Integration af multimodale kapaciteter og udvidet support

Gemma 4 udvider mulighederne ud over traditionel tekst. Ela integrerer lyd- og billedbehandling, hvilket giver mulighed for mere naturlige og komplette interaktioner. Usuários kan skifte mellem forskellige modaliteter uden mærkbare afbrydelser i applikationsflowet.

Understøttelse af flere sprog gør adoption lettere på forskellige markeder rundt om i verden. Desenvolvedores skaber applikationer, der forstår visuel, auditiv og tekstuel kontekst på samme tid. Essa Multimodalitet beriger produktivitet, uddannelse og underholdningsværktøjer, der er tilgængelige på smartphones.

Tests viser, at optimeringer holder ressourceforbruget under kontrol. Modellen behandler komplekse input og genererer relevante output med reduceret latens. Essa Denne funktion er vigtig for applikationer, der kræver øjeblikkelige svar.

Muligheder for adoption af udviklere

Udviklere, der allerede udforsker Android-økosystemet, finder en nemmere måde at inkorporere Gemma 4. De opdaterede biblioteker og rammer leverer ydeevneforbedringer uden at kræve kodeomskrivning. Essa Enkelhed fremskynder udviklings- og testcyklussen.

Ansøgninger om tilgængelighed, sundhedspleje, oversættelse og personlig assistance har især gavn af at køre lokalt. Netværksuafhængighed udvider rækkevidden til regioner med begrænset tilslutningsmuligheder. Usuários modtager pålidelig funktionalitet uanset placering.

Løbende samarbejde mellem de tekniske teams på Arm og Google har til formål at give klar vejledning og opdaterede værktøjer. Målet er at gøre AI på enheden til standardarkitekturen for de fleste mobile oplevelser.

Indvirkning på slutbrugeroplevelsen

Smartphones udstyret med SME2-kompatible Arm-processorer tilbyder smartere, mere responsive interaktioner. Usuários realiserer næsten øjeblikkelige svar i assistenter, billedredigerere og kommunikationsværktøjer. Forbedret privatliv giver større tillid til daglig brug.

Reduktion af cloud-afhængighed bidrager også til større enhedsautonomi. Aplicativos Arbejd konsekvent, selv når du rejser eller i områder uden signal. Essa pålidelighed øger den generelle tilfredshed med AI-funktioner.

Fremskridtet repræsenterer endnu et skridt mod personlige oplevelser, der respekterer grænserne for mobil hardware. Bilhões af Android brugere kan få adgang til lignende fordele, efterhånden som flere applikationer anvender teknologien.

Tekniske udfordringer overvindes i optimering

Ingeniørteams arbejdede for effektivt at tilpasse hardware og software. SME2-udvidelser er blevet integreret i eksisterende kørselstider, hvilket sikrer bred kompatibilitet. Testes fokuserede på reelle brugsscenarier for at validere gevinster i hastighed og effektivitet.

Resultatet er en balance mellem computerkapacitet og energiforbrug, der opfylder kravene fra nutidens smartphones. Modelos større kan køre med opretholdt kvalitet uden at dræne ressourcerne for meget. Essa Optimering åbner døre for fremtidige innovationer i mobilsegmentet.

Udvidelse til forskellige use cases

Ud over tilgængelighed udforsker sektorer som uddannelse, finans og sundhedsvæsen lignende applikationer. Ferramentas dokumentopsummering, visuel analyse og samtaleassistance opnår nøjagtighed, når de udføres lokalt. Privatliv bliver en konkurrencemæssig differentiator i disse segmenter.

Uafhængige udviklere og store virksomheder finder tilsvarende muligheder takket være løsningens tilgængelighed. Tilgængelig dokumentation og eksempler gør den indledende integration nem. Comunidades teknikker deler allerede prototyper, der demonstrerer praktisk potentiale.

Gemma 4 no Arm konsoliderer trenden med at bringe avanceret intelligens til edge computing på mobile enheder. Kombinationen af ​​specialiserede hardware- og softwareoptimeringer skaber et muliggørende miljø for den fortsatte vækst af denne teknologi.