YouTube ประกาศเมื่อวันอังคาร (10) ว่าจะขยายเครื่องมือตรวจจับความคล้ายคลึงไปยังกลุ่มนำร่องที่ประกอบด้วยเจ้าหน้าที่ของรัฐ ผู้สมัครทางการเมือง และนักข่าว เทคโนโลยีระบุวิดีโอที่สร้างโดยปัญญาประดิษฐ์ที่สร้างลักษณะใบหน้าของผู้คนโดยไม่ได้รับอนุญาต ความคิดริเริ่มนี้พยายามที่จะปกป้องตัวตนของผู้ที่มีส่วนร่วมในการอภิปรายสาธารณะและการรายงานข่าวในประเด็นที่เกี่ยวข้องระดับชาติและระดับนานาชาติ
บริษัทเน้นย้ำว่ามาตรการดังกล่าวตอบสนองต่อการเพิ่มขึ้นของกรณีการจัดการรูปภาพโดย AI บุคคลสาธารณะเผชิญกับความเสี่ยงที่จะถูกแอบอ้างบุคคลอื่นมากขึ้นในช่วงการเลือกตั้งและในการรายงานที่ละเอียดอ่อน ด้วยการเข้าถึงที่ควบคุมโดยการเชิญ ผู้เข้าร่วมจะตรวจสอบตัวตนของตนเอง และเริ่มตรวจสอบเนื้อหาที่ใช้ใบหน้าที่คล้ายคลึงกัน
เครื่องมือนี้ทำงานในลักษณะเดียวกันกับ Content ID ซึ่งรวมไว้เพื่อการคุ้มครองลิขสิทธิ์แล้ว มันจะสแกนการอัพโหลดใหม่บนแพลตฟอร์มโดยอัตโนมัติ เมื่อพบรายการที่ตรงกัน ระบบจะแจ้งให้ผู้ใช้ที่ได้รับการยืนยันใน YouTube Studio เข้ารับการตรวจสอบและขอให้นำเนื้อหาออกที่เป็นไปได้
การขยายตัวเพื่อปกป้องผู้นำพลเมือง
ข่าวดังกล่าวเกิดขึ้นสี่เดือนหลังจากการเปิดตัวการตรวจจับความคล้ายคลึงครั้งแรกสำหรับผู้สร้างในโปรแกรมพันธมิตร ในระยะแรก เทคโนโลยีได้รับการทดสอบกับผู้ผลิตเนื้อหาที่สร้างรายได้ ขณะนี้ ความสนใจได้เปลี่ยนไปอยู่ที่การปกป้องผู้ดำรงตำแหน่งสำคัญในวาทกรรมสาธารณะและสื่อมวลชน
YouTube กล่าวว่าความเสี่ยงของ Deepfakes นั้นสูงเป็นพิเศษสำหรับนักการเมืองและนักข่าว แพลตฟอร์มดังกล่าวเริ่มพัฒนาร่วมกับเอเจนซี่ที่มีความสามารถและทำการทดสอบกับผู้สร้างที่หลากหลาย การตรวจจับเบื้องต้นส่วนใหญ่ชี้ไปที่เนื้อหาที่ไม่เป็นอันตรายหรือเป็นประโยชน์ต่อผู้ที่เกี่ยวข้อง
ข้อกำหนดสำหรับการเข้าร่วมโครงการนำร่อง
ผู้สนใจจะได้รับคำเชิญโดยตรงจากบริษัท พวกเขาต้องส่งบัตรประจำตัวที่มีรูปถ่ายซึ่งออกโดยทางราชการ จำเป็นต้องบันทึกและส่งวิดีโอเซลฟี่สั้น ๆ เพื่อยืนยัน หลังจากอนุมัติแล้ว ผู้ใช้จะเข้าถึงแท็บเฉพาะบนแผง YouTube Studio เครื่องมือนี้ช่วยให้คุณตรวจสอบและขอให้ลบวิดีโอที่ตรวจพบได้
การทำงานทางเทคนิคของการตรวจจับใบหน้า
เทคโนโลยีจะจัดลำดับความสำคัญของการวิเคราะห์ใบหน้าในวิดีโอที่ส่งไป ระบบไม่ครอบคลุมการตรวจจับเสียงในระยะเริ่มต้นนี้ YouTube วางแผนที่จะประเมินการรวมเสียงในการอัปเดตในอนาคต การแจ้งเตือนมาถึงอย่างรวดเร็วหลังจากอัปโหลดเนื้อหาที่น่าสงสัย
ผู้เข้าร่วมวิเคราะห์แต่ละกรณีที่ระบุไว้ในสตูดิโอ พวกเขาตัดสินใจว่าเนื้อหานั้นละเมิดหลักเกณฑ์ด้านความเป็นส่วนตัวหรือการแอบอ้างบุคคลอื่นหรือไม่ แพลตฟอร์มจะประเมินบริบทก่อนอนุมัติการลบใดๆ โดยปกติแล้วเนื้อหาล้อเลียน การเสียดสี หรือการวิจารณ์ทางการเมืองจะยังคงอยู่
ความเกี่ยวข้องในบริบทการเลือกตั้งและการสื่อสารมวลชน
Deepfakes มีความโดดเด่นจากความก้าวหน้าอย่างรวดเร็วของเครื่องมือสร้างวิดีโอ AI วิดีโอที่มีการดัดแปลงสามารถเปลี่ยนแปลงการรับรู้เกี่ยวกับข้อความหรือการกระทำของเจ้าหน้าที่ได้ การขยายตัวนี้เกิดขึ้นพร้อมกับปฏิทินการเลือกตั้งกลางภาคในประเทศสหรัฐอเมริกา ซึ่งความถูกต้องของข้อมูลมีความสำคัญมากขึ้น
ผู้เชี่ยวชาญติดตามการเติบโตของคดีที่เกี่ยวข้องกับบุคคลสาธารณะ YouTube ตอกย้ำว่าเครื่องมือใหม่นี้ช่วยเสริมมาตรการที่มีอยู่ เช่น การบังคับติดป้ายกำกับสำหรับเนื้อหาที่สร้างโดย AI บริษัทปกป้องการสร้างกฎหมายของรัฐบาลกลางที่ควบคุมการใช้ภาพลักษณ์ของตนเองในสื่อสังเคราะห์
ข้อจำกัดและขั้นตอนในอนาคตของเครื่องมือ
การตรวจจับเกิดขึ้นแบบเรียลไทม์ขณะประมวลผลวิดีโอใหม่ การมุ่งเน้นเฉพาะเรื่องความคล้ายคลึงของใบหน้าเป็นการจำกัดขอบเขตในปัจจุบัน YouTube รวบรวมความคิดเห็นจากผู้เข้าร่วมนำร่องเพื่อปรับแต่งอัลกอริทึม แพลตฟอร์มนี้มีจุดมุ่งหมายเพื่อขยายการเข้าถึงเจ้าหน้าที่ของรัฐ ผู้สมัคร หรือนักข่าวที่แสดงความสนใจ
คำขอให้ลบออกเป็นไปตามกฎทั่วไปของชุมชน กรณีที่ตรวจพบบางกรณีอาจไม่ส่งผลให้มีการลบเนื้อหา บริษัทยืนยันว่าการตัดสินใจคำนึงถึงผลกระทบที่อาจเกิดขึ้นและบริบททั้งหมดของวิดีโอ
ความก้าวหน้าในการกลั่นกรองเนื้อหาสังเคราะห์
ความคิดริเริ่มนี้ถือเป็นก้าวสำคัญในการต่อสู้กับการใช้ปัญญาประดิษฐ์ในทางที่ผิด บุคคลสาธารณะได้รับกลไกเชิงรุกในการตรวจสอบภาพลักษณ์ของตนบนแพลตฟอร์ม YouTube เน้นย้ำถึงความมุ่งมั่นในการรักษาความถูกต้องของการอภิปรายสาธารณะ
บริษัทยังคงลงทุนในเทคโนโลยีเพื่อป้องกันการบิดเบือน การขยายไปสู่นักข่าวและนักการเมืองพยายามที่จะสร้างสมดุลระหว่างนวัตกรรมกับความรับผิดชอบในการกลั่นกรอง โปรแกรมควรพัฒนาตามผลการทดสอบปัจจุบัน