YouTube объявил во вторник (10) о расширении своего инструмента обнаружения сходства до пилотной группы, состоящей из правительственных чиновников, политических кандидатов и журналистов. Технология идентифицирует видео, созданные искусственным интеллектом, которые без разрешения воспроизводят внешний вид людей. Инициатива направлена на защиту личности тех, кто активно участвует в общественных дебатах и освещении вопросов национального и международного значения.
В компании подчеркивают, что эта мера является ответом на рост случаев манипулирования изображениями с помощью ИИ. Общественные деятели сталкиваются с большим риском выдачи себя за другое лицо во время выборов и в конфиденциальных репортажах. Поскольку доступ контролируется по приглашению, участники подтверждают свою личность и начинают отслеживать контент, в котором используется их сходство лиц.
Этот инструмент работает аналогично Content ID, уже объединенному для защиты авторских прав. Он автоматически сканирует новые загрузки на платформе. Когда он находит совпадение, он уведомляет проверенного пользователя в Студии YouTube для проверки и возможного запроса на удаление.
Расширение защиты гражданских лидеров
Эта новость появилась через четыре месяца после первого запуска функции обнаружения сходства для авторов в Партнерской программе. На первом этапе технология была протестирована на производителях монетизированного контента. Теперь акцент сместился на защиту тех, кто занимает видные позиции в общественном дискурсе и прессе.
YouTube заявляет, что риски дипфейков особенно высоки для политиков и журналистов. Платформа начала разработку в сотрудничестве с агентствами по поиску талантов и провела тестирование с участием самых разных авторов. Большинство первоначальных обнаружений указывали на контент, который был безвредным или даже благоприятным для участников.
Требования для участия в пилоте
Заинтересованные лица получают прямое приглашение от компании. Им необходимо предоставить официальное удостоверение личности с фотографией, выданное правительством. Обязательно записать и отправить для проверки короткое селфи-видео. После одобрения они получают доступ к определенной вкладке на панели Студии YouTube. Инструмент позволяет просматривать и запрашивать удаление обнаруженных видео.
Техническое функционирование распознавания лиц
Технология отдает приоритет анализу лиц в отправляемых видео. На этом начальном этапе система не обеспечивает обнаружение голоса. YouTube планирует оценить возможность включения звука в будущих обновлениях. Уведомления приходят быстро после загрузки подозрительного контента.
Участники разбирают каждый случай, представленный в студии. Они решают, нарушает ли материал правила конфиденциальности или выдачи себя за другое лицо. Платформа оценивает контекст, прежде чем одобрить любое удаление. Содержание пародии, сатиры или политической критики обычно сохраняется.
Актуальность в избирательном и журналистском контексте
Дипфейки приобрели известность благодаря быстрому развитию инструментов создания видео с помощью искусственного интеллекта. Манипулированные видео могут изменить восприятие заявлений или действий властей. Расширение совпадает с календарем промежуточных выборов в Соединенных Штатах, где достоверность информации приобретает больший вес.
Эксперты отслеживают рост дел с участием общественных деятелей. YouTube подчеркивает, что новый инструмент дополняет существующие меры, такие как обязательная маркировка контента, созданного ИИ. Компания выступает за создание федерального законодательства, регулирующего использование собственного изображения в синтетических медиа.
Ограничения и будущие шаги инструмента
Обнаружение происходит в режиме реального времени при обработке новых видео. Исключительный акцент на сходстве лиц ограничивает текущие возможности. YouTube собирает отзывы участников пилотного проекта, чтобы усовершенствовать алгоритм. Платформа призвана расширить доступ к любому государственному чиновнику, кандидату или журналисту, выразившему интерес.
Запросы на удаление подчиняются общим правилам сообщества. Не все выявленные случаи приводят к удалению контента. Компания утверждает, что решения учитывают потенциальное влияние и полный контекст видео.
Достижения в модерации синтетического контента
Эта инициатива представляет собой важный шаг в борьбе со злоупотреблением искусственным интеллектом. Общественные деятели получают проактивный механизм отслеживания своего имиджа на платформе. YouTube подчеркивает свою приверженность сохранению аутентичности общественных дебатов.
Компания продолжает инвестировать в технологии для защиты от манипуляций. Расширение охвата журналистов и политиков направлено на то, чтобы сбалансировать инновации и умеренную ответственность. Программа должна развиваться на основе текущих результатов испытаний.