ข่าวล่าสุด (TH)
Anthropic ระงับปัญญาประดิษฐ์ใหม่อันทรงพลังสำหรับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ทั่วโลก
Anthropic ได้ประกาศอย่างเป็นทางการถึงการตัดสินใจเชิงกลยุทธ์ที่จะไม่เผยแพร่โมเดลปัญญาประดิษฐ์ใหม่ล่าสุดและทรงพลังที่สุดต่อสาธารณชนในเวลานี้ องค์กรเลือกใช้การประเมินความปลอดภัยภายในซึ่งจัดประเภทความสามารถของระบบว่าล้ำหน้าเกินไป ซึ่งก่อให้เกิดความเสี่ยงต่อโครงสร้างพื้นฐานดิจิทัล ห้องปฏิบัติการวิจัยระบุว่าเครื่องมือนี้แสดงให้เห็นถึงความสามารถพิเศษในพื้นที่วิกฤติ ซึ่งเหนือกว่าระเบียบการกักกันที่กำหนดไว้ก่อนหน้านี้สำหรับเวอร์ชันเชิงพาณิชย์ที่มีประสิทธิภาพน้อยกว่า มาตรการป้องกันไว้ก่อนนี้เน้นให้เห็นถึงความกังวลที่เพิ่มขึ้นของนักพัฒนาที่ล้ำหน้าเกี่ยวกับการวิวัฒนาการที่เร่งขึ้นของการประมวลผลทางปัญญาและผลกระทบในทางปฏิบัติ ระบบที่เป็นปัญหาจะถึงระดับความเป็นอิสระและการประมวลผลข้อมูลที่จำเป็นต้องมีการกำกับดูแลระดับใหม่ก่อนที่จะมีการดำเนินการในวงกว้าง ผู้เชี่ยวชาญในอุตสาหกรรมกำลังติดตามการพัฒนาซึ่งเป็นหลักชัยในนโยบายความรับผิดชอบขององค์กรภายในตลาดเทคโนโลยี Silicon Valley แรงจูงใจหลักในการบล็อกการเข้าถึงโมเดลใหม่ ได้แก่: เกณฑ์ความปลอดภัยทางไซเบอร์และการควบคุมความเสียหาย ทีมเทคนิคของ Anthropic ใช้กรอบการประเมินที่เข้มงวดเพื่อระบุระดับอันตรายของโมเดลปัญญาประดิษฐ์ใหม่ ในระหว่างขั้นตอนการวิเคราะห์ นักวิจัยตั้งข้อสังเกตว่าซอฟต์แวร์สามารถระบุช่องโหว่ในระบบรักษาความปลอดภัยของรัฐบาลได้ด้วยความเร็วที่ไม่เคยมีมาก่อน คุณลักษณะนี้ทำให้เกิดการแจ้งเตือนสีแดงเกี่ยวกับความเป็นไปได้ที่เจ้าหน้าที่ของรัฐหรือกลุ่มอาชญากรจะใช้เครื่องมือนี้เพื่อทำให้เศรษฐกิจไม่มั่นคง ความโปร่งใสของบริษัทในการยอมรับว่าระบบ “ทรงพลังเกินไป”...
