ฟีเจอร์ภาพรวม AI ของ Google ซึ่งสรุปคำตอบที่ด้านบนของผลการค้นหา นำเสนอข้อมูลที่ไม่ถูกต้องในประมาณ 10% ของกรณี ผลการศึกษาล่าสุดเน้นย้ำว่า ด้วยปริมาณการค้นหาต่อปีที่บริษัทประมวลผลเกินห้าล้านล้าน อัตรานี้ส่งผลให้เกิดคำตอบที่น่าสงสัยหลายสิบล้านรายการทุกชั่วโมง ความล้มเหลวเกิดขึ้นแม้ในขณะที่ระบบอ้างอิงแหล่งที่มา และคำตอบที่ผิดสามารถสลับกับคำตอบที่ถูกต้องได้ ขึ้นอยู่กับการทำซ้ำของคำถามเดียวกัน
ผู้เชี่ยวชาญจากบริษัทปัญญาประดิษฐ์โอเพนซอร์ส Oumi ได้วิเคราะห์ประสิทธิภาพของทรัพยากรและระบุว่าความแม่นยำถึง 90% ในการทดสอบแบบควบคุม อย่างไรก็ตาม ข้อความค้นหาจำนวนมากจะขยายผลกระทบของความไม่ถูกต้อง การวางตำแหน่งภาพรวม AI ที่ด้านบนของหน้าผลลัพธ์จะช่วยเพิ่มการมองเห็นคำตอบเหล่านี้ ซึ่งอาจทำให้ผู้ใช้พิจารณาว่าคำตอบเหล่านี้น่าเชื่อถือโดยไม่ต้องมีการตรวจสอบเพิ่มเติม
- คำตอบที่ไม่ถูกต้องมักอ้างอิงโพสต์ใน Facebook และ Reddit ในอัตราที่สูงกว่าคำตอบที่ถูกต้อง
- แหล่งที่มาจากโซเชียลเน็ตเวิร์กปรากฏอยู่ในแหล่งที่มีการอ้างอิงมากที่สุดโดยระบบ
- การจงใจบิดเบือนเนื้อหาอันเป็นเท็จในบล็อกหรือเว็บไซต์อาจส่งผลต่อบทสรุปที่สร้างขึ้น
แหล่งอ้างอิงและปัญหาความน่าเชื่อถือ
การศึกษาตั้งข้อสังเกตว่าการตอบกลับที่ถูกต้องจะเปลี่ยนเป็น Facebook ในกรณี 5% ในขณะที่การตอบกลับที่ไม่ถูกต้องจะเพิ่มอัตรานี้เป็น 7% ในบางสถานการณ์ ภาพรวม AI บิดเบือนข้อมูลจากแหล่งที่เชื่อถือได้โดยการสังเคราะห์ข้อมูลอย่างไม่ถูกต้อง การเปลี่ยนแปลงนี้ทำให้ยากต่อการประเมินคุณภาพของคำตอบอย่างสม่ำเสมอ เนื่องจากการสอบถามซ้ำๆ สามารถเปลี่ยนผลลัพธ์ได้โดยไม่ต้องมีคำอธิบายที่ชัดเจน
Google ยืนยันว่าคุณลักษณะนี้ใช้กลไกการจัดอันดับและการป้องกันสแปมแบบเดียวกับที่ใช้กับผลการค้นหาแบบเดิม บริษัทโต้แย้งว่าตัวอย่างความล้มเหลวจำนวนมากเกี่ยวข้องกับการสืบค้นที่ผิดปกติซึ่งผู้ใช้จริงไม่น่าจะดำเนินการได้ อย่างไรก็ตาม ข้อจำกัดความรับผิดชอบที่แสดงในคำตอบทั้งหมดที่สร้างโดยภาพรวมของ AI เตือนว่าปัญญาประดิษฐ์สามารถทำผิดพลาดได้ และแนะนำให้ตรวจสอบซ้ำ
ผลกระทบต่อการใช้งานรายวันและแหล่งข้อมูล
ผู้ใช้ทำการค้นหาหลายครั้งตลอดทั้งวัน ซึ่งเพิ่มโอกาสในการได้รับข้อมูลที่ไม่ถูกต้อง คุณลักษณะนี้อาศัยการสแกนเว็บอย่างละเอียด รวมถึงฟอรัมและโซเชียลมีเดีย เพื่อรวบรวมสรุป เมื่อปริมาณเนื้อหาคุณภาพต่ำหรือเนื้อหาที่มีการดัดแปลงเพิ่มมากขึ้น ความเสี่ยงในการรวมเข้ากับการตอบสนองก็จะเพิ่มขึ้น
ความท้าทายในการประเมินความถูกต้อง
การทดสอบแสดงให้เห็นว่าคำค้นหาเดียวกันสามารถให้ผลลัพธ์ที่แตกต่างกันในเวลาที่ต่างกัน ความแปรปรวนนี้ทำให้การวัดอัตราข้อผิดพลาดเต็มสเกลแม่นยำยิ่งขึ้น ระบบจะจัดลำดับความสำคัญของความเร็วและการสังเคราะห์ แต่ไม่ได้รับประกันความเที่ยงตรงต่อเนื้อหาต้นฉบับของแหล่งข้อมูลที่ปรึกษาเสมอไป
คำตอบและคำแนะนำของ Google
บริษัทตอกย้ำว่ามีการดำเนินการปรับปรุงอย่างต่อเนื่องนับตั้งแต่เปิดตัวทรัพยากร การป้องกันสแปมและกลไกความปลอดภัยจะบล็อกเนื้อหาที่ไม่เหมาะสมจำนวนมาก ผู้ใช้จะได้รับคำแนะนำอย่างชัดเจนให้ตรวจสอบข้อมูลจากแหล่งข้อมูลหลักทุกครั้งที่เป็นไปได้
คำคมโซเชียลมีเดียในภาพรวม AI
โพสต์จากแพลตฟอร์ม เช่น Facebook และ Reddit มักถูกรวมอยู่ในการอ้างอิงภาพรวมของ AI การพึ่งพาอาศัยกันนี้สะท้อนให้เห็นถึงการมีอยู่จำนวนมากของเนื้อหาที่ผู้ใช้สร้างขึ้นบนเว็บ แต่ยังนำมาซึ่งความเสี่ยงเมื่อมีการสังเคราะห์ความคิดเห็นหรือข้อมูลที่ไม่ได้รับการตรวจสอบเป็นข้อเท็จจริง การศึกษาระบุความแตกต่างเล็กน้อยในการที่แบบอักษรเหล่านี้ปรากฏในคำตอบที่ถูกต้องและไม่ถูกต้อง
ปัญหาสำหรับผู้ใช้ทั่วไป
ผู้คนจำนวนมากเข้าถึง Google เพื่อค้นหาคำตอบอย่างรวดเร็วในหัวข้อต่างๆ ตั้งแต่ข้อเท็จจริงในชีวิตประจำวันไปจนถึงข้อมูลที่ซับซ้อนมากขึ้น เมื่อภาพรวมของ AI ปรากฏขึ้นก่อน จะส่งผลโดยตรงต่อการรับรู้เบื้องต้นของหัวข้อที่สอบถาม การสลับระหว่างคำตอบที่ถูกและผิดในแบบสอบถามเดียวกันทำให้เกิดความไม่แน่นอนว่าเมื่อใดควรเชื่อถือการสรุปอัตโนมัติ
มาตรการรักษาความปลอดภัยและข้อจำกัด
Google ใช้ตัวกรองความปลอดภัยคล้ายกับที่ใช้ในผลลัพธ์ทั่วไป อย่างไรก็ตาม ยังคงมีกรณีของการบิดเบือนหรือการรวมเนื้อหาที่น่าสงสัยเกิดขึ้น บริษัทยังคงปรับโมเดลตามคำติชมและการวิเคราะห์ทางเทคนิคอย่างต่อเนื่อง เพื่อลดข้อผิดพลาดที่ไม่ถูกต้อง
การใช้คุณลักษณะการค้นหาอย่างมีความรับผิดชอบ
ผู้เชี่ยวชาญแนะนำให้ถือว่าภาพรวมของ AI เป็นจุดเริ่มต้นแทนที่จะเป็นแหล่งที่มาที่ชัดเจน การรวมกันของคำถามหลายรายการและการตรวจสอบลิงก์ที่อ้างถึงช่วยลดความเสี่ยง ตัวระบบมีคำเตือนมาตรฐานเกี่ยวกับข้อผิดพลาดที่อาจเกิดขึ้นในการสร้างเนื้อหา
การพัฒนาทรัพยากรตามกาลเวลา
นับตั้งแต่มีการใช้งาน AI ภาพรวมได้รับการปรับปรุงเพื่อปรับปรุงการบูรณาการกับผลการค้นหาแบบเดิม บริษัทตรวจสอบรูปแบบการใช้งานและแก้ไขข้อบกพร่องที่ระบุในการทดสอบภายในหรือรายงานสาธารณะ วัตถุประสงค์ยังคงนำเสนอการสังเคราะห์ที่เป็นประโยชน์โดยไม่ต้องเปลี่ยนการปรึกษาหารือโดยตรงกับแหล่งข้อมูลดั้งเดิม
ข้อควรพิจารณาเกี่ยวกับปริมาณการค้นหา
การประมวลผลคำค้นหารายวันนับพันล้านรายการจะขยายอัตราข้อผิดพลาด แม้แต่เปอร์เซ็นต์ที่ต่ำก็ตาม ในระดับโลก สิ่งนี้แสดงให้เห็นถึงความท้าทายทางเทคนิคที่สำคัญสำหรับระบบปัญญาประดิษฐ์ที่นำไปใช้กับการค้นหาแบบเรียลไทม์ ทีมพัฒนาทำงานอย่างต่อเนื่องเพื่อปรับปรุงอัลกอริธึมการสังเคราะห์และการตรวจสอบ