ยักษ์ใหญ่ด้านเทคโนโลยีได้ประกาศความพร้อมของโมเดลภาษารุ่นใหม่ที่ปรับให้เหมาะกับอุปกรณ์มือถือ การผสานรวมโดยตรงกับสถาปัตยกรรมฮาร์ดแวร์เฉพาะช่วยให้งานที่ซับซ้อนสามารถดำเนินการภายในเครื่องได้ โดยไม่จำเป็นต้องส่งข้อมูลไปยังเซิร์ฟเวอร์ภายนอก
การอัปเดตนี้แสดงถึงความก้าวหน้าทางเทคนิคที่สำคัญสำหรับระบบนิเวศของสมาร์ทโฟนในปัจจุบัน ขณะนี้นักพัฒนามีเครื่องมือพื้นฐานสำหรับสร้างแอพพลิเคชั่นที่ลื่นไหลมากขึ้น ซึ่งตอบสนองต่อคำสั่งของผู้ใช้แบบเรียลไทม์ ไม่ว่าการเชื่อมต่ออินเทอร์เน็ตจะมีคุณภาพแค่ไหนก็ตาม
การประมวลผลเฉพาะที่เปลี่ยนวิธีที่แอปพลิเคชันโต้ตอบกับกิจวัตรประจำวัน การรันบนอุปกรณ์โดยตรงรับประกันการตอบสนองทันที อายุการใช้งานแบตเตอรี่ที่ยาวนานขึ้น และระดับความเป็นส่วนตัวที่สูงขึ้นสำหรับข้อมูลส่วนบุคคลที่จัดเก็บไว้ในระบบปฏิบัติการ
ความก้าวหน้าทางเทคนิคในสถาปัตยกรรมการประมวลผลแบบเคลื่อนที่
รากฐานของนวัตกรรมนี้อยู่ที่การใช้สถาปัตยกรรม Armv9 ซึ่งมอบสภาพแวดล้อมที่ปลอดภัยและปรับให้เหมาะสมที่สุดสำหรับปริมาณงานการเรียนรู้ของเครื่อง การเปิดตัวเทคโนโลยี Scalable Matrix Extension 2 (SME2) ทำหน้าที่เป็นตัวเร่งปฏิกิริยาสำหรับการดำเนินการเมทริกซ์จำนวนมาก ซึ่งเป็นพื้นฐานของการทำงานของโมเดลภาษาขนาดใหญ่ ส่วนขยายนี้ช่วยให้การคำนวณเกิดขึ้นภายในขีดจำกัดความร้อนและพลังงานของโทรศัพท์มือถือทั่วไป
โปรเซสเซอร์กลุ่มผลิตภัณฑ์ Arm C1 ได้รวมเอาข้อกำหนดเหล่านี้มาจากโรงงานแล้ว ผลลัพธ์ในทางปฏิบัติคือการรักษาประสิทธิภาพสูงแม้ในระหว่างการใช้เครื่องมืออัจฉริยะเป็นเวลานาน
เลเยอร์การเร่งความเร็ว KleidiAI ทำงานร่วมกับไลบรารีที่จำเป็น เช่น XNNPACK, LiteRT และ MediaPipe การบูรณาการอย่างลึกซึ้งระหว่างฮาร์ดแวร์และซอฟต์แวร์นี้สร้างช่องทางการสื่อสารโดยตรงที่ช่วยลดปัญหาคอขวดในการประมวลผล เมื่อแอปพลิเคชันร้องของานที่ซับซ้อน ระบบจะกระจายโหลดระหว่างแกนประมวลผลอย่างชาญฉลาด เพื่อให้มั่นใจว่าอินเทอร์เฟซผู้ใช้ยังคงตอบสนอง การทำงานร่วมกันทางเทคนิคนี้คือสิ่งที่ทำให้สามารถรันโมเดลที่แข็งแกร่งบนอุปกรณ์ที่มีข้อจำกัดทางกายภาพเกี่ยวกับขนาดและความสามารถในการกระจายความร้อน
ได้รับความเร็วและประสิทธิภาพเพิ่มขึ้นอย่างมาก
การทดสอบทางวิศวกรรมแสดงให้เห็นถึงการปรับปรุงอย่างมากในด้านเวลาตอบสนองเมื่อใช้งานโมเดล E2B ความเร็วในการเริ่มต้นกระบวนการเพิ่มขึ้นมากกว่าห้าเท่าเมื่อเทียบกับซอฟต์แวร์รุ่นก่อนหน้า
การสร้างการตอบสนองแบบเรียลไทม์ยังช่วยเพิ่มประสิทธิภาพได้อย่างมากอีกด้วย การประมวลผลเร็วขึ้นอย่างเห็นได้ชัด ช่วยให้ผู้ช่วยเสมือนและแอปเพิ่มประสิทธิภาพสามารถส่งผลลัพธ์ที่เกือบจะทันทีไปยังคำสั่งเสียงหรือข้อความ
ขยายการสนับสนุนสำหรับการโต้ตอบหลายรูปแบบ
เวอร์ชันใหม่ของระบบขยายขีดความสามารถในการตีความให้นอกเหนือไปจากรูปแบบข้อความแบบเดิม ขณะนี้เทคโนโลยีประมวลผลอินพุตเสียงและภาพพร้อมกัน สร้างสภาพแวดล้อมการโต้ตอบที่เป็นธรรมชาติและใช้งานง่ายยิ่งขึ้นสำหรับผู้ใช้ปลายทาง
แนวทางหลายรูปแบบนี้อำนวยความสะดวกในการพัฒนาเครื่องมือด้านการศึกษาและการเข้าถึง ตัวอย่างเช่น แอปพลิเคชันสามารถวิเคราะห์ภาพถ่ายและอธิบายเนื้อหาเสียงได้ทันที โดยไม่เกิดความล่าช้าอย่างเห็นได้ชัดเมื่อเปลี่ยนระหว่างรูปแบบสื่อ
การสนับสนุนหลายภาษาได้รับการปรับปรุงในการอัปเดตล่าสุด การเพิ่มประสิทธิภาพพื้นที่หน่วยความจำช่วยให้แพ็คเกจภาษาที่ซับซ้อนสามารถทำงานได้ภายในเครื่อง ทำให้มั่นใจได้ว่าเทคโนโลยีสามารถเข้าถึงได้ในภูมิภาคต่างๆ ของโลกโดยไม่กระทบต่อพื้นที่จัดเก็บข้อมูลของอุปกรณ์
การใช้งานจริงในการเข้าถึงแบบดิจิทัล
แอป Envision ซึ่งมุ่งเป้าไปที่ผู้ที่มีความบกพร่องทางการมองเห็น ทำหน้าที่เป็นกรณีการใช้งานหลักสำหรับเทคโนโลยีการประมวลผลท้องถิ่นใหม่นี้ แพลตฟอร์มดังกล่าวใช้กล้องของสมาร์ทโฟนเพื่ออ่านข้อความ จดจำใบหน้า และอธิบายสภาพแวดล้อมทางกายภาพแบบเรียลไทม์
ก่อนหน้านี้ การตีความฉากที่ซับซ้อนจำเป็นต้องส่งภาพที่ถ่ายไปยังเซิร์ฟเวอร์คลาวด์ กระบวนการนี้ขึ้นอยู่กับการเชื่อมต่ออินเทอร์เน็ตที่เสถียรและสร้างความล่าช้าซึ่งขัดขวางประสบการณ์การเดินทางของผู้ใช้บนถนนสาธารณะ
ด้วยการดำเนินการภายในเครื่องที่ได้รับการสนับสนุนจากส่วนขยาย SME2 สถานการณ์จึงเปลี่ยนไปอย่างมาก ผู้ใช้จับภาพและรับคำอธิบายโดยละเอียดเกี่ยวกับสภาพแวดล้อมโดยตรงผ่านโปรเซสเซอร์ของอุปกรณ์ ทำให้ไม่ต้องมีขั้นตอนการถ่ายโอนข้อมูลผ่านเครือข่ายมือถือ
ตัวแทนของแอปพลิเคชันเน้นย้ำว่าความเป็นอิสระนี้เปลี่ยนความน่าเชื่อถือของเครื่องมือ ความสามารถในการรับการตอบสนองที่แม่นยำในพื้นที่ที่ไม่มีสัญญาณโทรศัพท์มือถือครอบคลุมช่วยเพิ่มความปลอดภัยและความเป็นอิสระให้กับชุมชนผู้ใช้ที่มีสายตาเลือนราง
ความเป็นส่วนตัวและความปลอดภัยของข้อมูลบนอุปกรณ์
การย้ายจากการประมวลผลบนคลาวด์ไปสู่การดำเนินการในองค์กรช่วยแก้ปัญหาข้อกังวลที่ใหญ่ที่สุดประการหนึ่งในอุตสาหกรรมเทคโนโลยีในปัจจุบัน: ความปลอดภัยของข้อมูลส่วนบุคคล ด้วยการเก็บข้อมูลที่ละเอียดอ่อนทั้งหมด เช่น รูปภาพ เสียง และประวัติการค้นหา ไว้ในพื้นที่จัดเก็บข้อมูลของสมาร์ทโฟนอย่างเคร่งครัด ความเสี่ยงของการรั่วไหลหรือการสกัดกั้นระหว่างการส่งข้อมูลผ่านเครือข่ายจึงแทบจะหมดสิ้นไป
สถาปัตยกรรมแบบกระจายอำนาจนี้ยังช่วยลดต้นทุนการดำเนินงานสำหรับนักพัฒนาซอฟต์แวร์ที่ไม่จำเป็นต้องบำรุงรักษาโครงสร้างพื้นฐานเซิร์ฟเวอร์ขนาดใหญ่เพื่อประมวลผลคำขอของผู้ใช้อีกต่อไป โทรศัพท์มือถือมีบทบาทเป็นโปรเซสเซอร์หลัก ทำให้เข้าถึงเครื่องมืออัจฉริยะขั้นสูงได้อย่างเป็นประชาธิปไตย และรับประกันว่าการควบคุมข้อมูลจะอยู่ในมือของเจ้าของอุปกรณ์แต่เพียงผู้เดียว
ความร่วมมือเชิงกลยุทธ์สำหรับระบบนิเวศของนักพัฒนา
ความร่วมมือทางเทคนิคระหว่างบริษัทที่รับผิดชอบด้านฮาร์ดแวร์และระบบปฏิบัติการมีจุดมุ่งหมายเพื่อลดความซับซ้อนของกิจวัตรของโปรแกรมเมอร์ที่สร้างโซลูชันสำหรับตลาดมือถือ การเพิ่มประสิทธิภาพประสิทธิภาพจะถูกเปิดใช้งานโดยอัตโนมัติเมื่อแอปพลิเคชันทำงานบนอุปกรณ์ที่รองรับสถาปัตยกรรมโปรเซสเซอร์ใหม่ ไลบรารีและเฟรมเวิร์กการพัฒนาที่ได้รับการอัปเดตมอบทางลัดให้กับทีมวิศวกรรมซอฟต์แวร์ที่จำเป็นในการปรับใช้คุณสมบัติขั้นสูงโดยไม่ต้องเขียนโค้ดที่ซับซ้อนใหม่ตั้งแต่ต้น ความง่ายในการบูรณาการนี้ช่วยเร่งวงจรการพัฒนา ช่วยให้นวัตกรรมเข้าถึงร้านค้าแอปพลิเคชันได้ และส่งผลให้ผู้บริโภคปลายทางเร็วขึ้น สร้างมาตรฐานคุณภาพใหม่สำหรับอุตสาหกรรมซอฟต์แวร์มือถือ
การจัดการความร้อนและการใช้พลังงาน
ประสิทธิภาพการใช้พลังงานเป็นเสาหลักสำคัญของการอัปเดตทางเทคโนโลยีนี้ การจัดการทรัพยากรโปรเซสเซอร์อย่างชาญฉลาดช่วยให้มั่นใจได้ว่าการทำงานที่ซับซ้อนจะไม่ส่งผลให้อุปกรณ์มีความร้อนสูงเกินไปหรือแบตเตอรี่หมดเร็วในระหว่างการใช้งานในแต่ละวัน
อนาคตของการดำเนินงานมือถืออิสระ
การนำเทคโนโลยีนี้ไปใช้ในวงกว้างส่งสัญญาณถึงการเปลี่ยนแปลงโครงสร้างวิธีการทำงานของอุปกรณ์เคลื่อนที่ การพึ่งพาการเชื่อมต่อข้อมูลความเร็วสูงอย่างต่อเนื่องเริ่มลดลงเนื่องจากอุปกรณ์สามารถพึ่งพาตัวเองได้ในการประมวลผลเชิงตรรกะ
ผู้ใช้หลายล้านคนทั่วโลกจะได้รับประโยชน์จากการเปลี่ยนแปลงทางเทคโนโลยีนี้ การเข้าถึงเครื่องมือที่รวดเร็ว ปลอดภัย และไม่ขึ้นกับเครือข่ายทำให้เป็นประชาธิปไตยได้กำหนดความคาดหวังใหม่เกี่ยวกับสิ่งที่สมาร์ทโฟนสมัยใหม่สามารถทำได้ในสถานการณ์ในชีวิตประจำวัน

