Ofcom начинает расследование против X за сексуальные и детские дипфейки, созданные Гроком

Ofcom, британский орган регулирования СМИ, объявил в этот понедельник, 12 января 2026 года, о начале официального расследования в отношении платформы X, принадлежащей Илону Маску. Целью расследования является определить, не удалось ли компании защитить британских пользователей от незаконного контента, создаваемого чат-ботом с искусственным интеллектом Grok, включая интимные изображения и изображения детей сексуального характера, передаваемые без согласия.

В сообщениях указывается, что функция создания изображений Грока использовалась для создания и распространения дипфейков, которые представляют собой материалы интимного характера или материалы о сексуальном насилии над детьми. Платформа должна соблюдать обязательства, изложенные в Законе о безопасности в Интернете — законе, который требует принятия превентивных мер против контента, который в первую очередь является незаконным.

Премьер-министр Кейр Стармер в своем недавнем заявлении назвал изображения отвратительными и незаконными. Власти настаивают на быстрых действиях с возможностью суровых санкций в случае подтверждения нарушений.

Позиция Платформы X в свете обвинений

Компания X опубликовала заявление, в котором говорится, что она принимает строгие меры против незаконного контента на платформе. Это включает в себя немедленное удаление запрещенных материалов, постоянную блокировку задействованных учетных записей и сотрудничество с местными правоохранительными органами.

Любой пользователь, который использует Grok для создания или поощрения незаконного контента, подвергается тем же наказаниям, что и те, кто напрямую публикует запрещенный материал. Компания подчеркнула, что ограничила доступ к ресурсам для создания обнаженных изображений только платным подписчикам, стремясь уменьшить злоупотребления.

Официальные заявления британского правительства

Кейр Стармер выразил возмущение изображениями, сделанными Гроком во время сессии парламента на прошлой неделе. Премьер-министр потребовал, чтобы X взял на себя эффективный контроль над чат-ботом, подчеркнув, что такая практика недопустима в стране.

Госсекретарь по делам бизнеса Питер Кайл подтвердил, что запрет платформы в Великобритании остается жизнеспособным вариантом. Окончательное решение остается за Ofcom, который оценивает риски для онлайн-безопасности граждан.

Министр Лиз Кендалл приветствовала начало расследования и призвала ускорить завершение процесса. Она подчеркнула необходимость защиты потенциальных жертв от злоупотреблений, которым способствуют инструменты искусственного интеллекта.

Возможные меры Ofcom в случае несоблюдения требований

Регулятор обладает широкими полномочиями по наложению санкций в серьезных ситуациях нарушения Закона о безопасности в Интернете. Среди доступных вариантов — штрафы, эквивалентные до 10% глобальной выручки компании.

• Требование суда к поставщикам платежных услуг удалить услуги с платформы;
• Предписать рекламодателям приостановить кампании на сайте;
• Приказать интернет-провайдерам заблокировать доступ к X на британской территории;
• Требование подробных отчетов по алгоритмам и модерации контента.

Такие инструменты направлены на обеспечение соблюдения обязанностей по оценке рисков и приоритетной защиты детей.

Контекст Закона о безопасности в Интернете и обязательства платформы

Британский закон о безопасности в Интернете недавно вступил в силу и налагает четкую ответственность на технологические компании. Они должны провести соответствующую оценку рисков, чтобы выявить угрозы, исходящие от незаконного контента, прежде чем он достигнет пользователей.

Платформам, подобным X, необходимо внедрить эффективные системы для предотвращения воздействия приоритетных материалов, таких как порнография без согласия и сексуальное насилие над детьми. Стандарт также распространяется на изображения, созданные искусственным интеллектом и воспроизводящие подобные нарушения.

Международная реакция на фильм Грока

Французские власти направили официальную жалобу местным прокурорам и регулирующим органам, классифицировав контент как явно незаконный. Дело привлекло внимание после распространения дипфейков с участием общественных деятелей и простых граждан.

Leia Tambem

Samsung выпускает новое обновление системы с новыми функциями для пользователей Galaxy Watch 4

Значительная скидка на Galaxy S25 Plus снижает стоимость в интернет-магазине до уровня ниже 4500 реалов.

Слух предполагает, что Nintendo готовит специальное издание Switch 2 с ремейком Ocarina of Time

В Индии государственные органы потребовали от X подробных объяснений по поводу сбоев модерации. Азиатские завсегдатаи следят за соблюдением местных правил, запрещающих распространение откровенных материалов.

Индонезия и Малайзия ввели временные ограничения на доступ Грока на свои территории. Эти меры являются ответом на жалобы на создание без согласия изображений женщин и несовершеннолетних.

История разногласий с генерацией изображений Гроком

Чат-бот xAI получил известность благодаря своей меньшей политике цензуры по сравнению с конкурентами. Однако это способствовало злоупотреблениям: пользователи использовали подсказки для создания явных изображений реальных людей без разрешения.

Предыдущие отчеты показывают, что первоначальные сбои в мерах безопасности позволили создавать конфиденциальный контент в больших масштабах. Платформа постепенно корректировала ограничения после волн глобальной критики.

В последних обновлениях функции редактирования и создания изображений ограничены проверенными и платными учетными записями. Эксперты задаются вопросом, достаточны ли такие барьеры для предотвращения постоянных нарушений.

Оценка риска для детей на платформе

Ofcom сосредотачивает часть расследования на защите несовершеннолетних, подвергшихся воздействию контента, созданного Гроком. Закон требует специальной оценки рисков для детей-пользователей, включая воздействие оскорбительных материалов.

В отчетах освещаются случаи, когда сексуальные изображения детей распространялись через ответы чат-ботов. Регулятор проверяет, внедрил ли X соответствующие фильтры для блокировки таких запросов.

Эксперты по цифровой безопасности предупреждают, что инструменты ИИ без жестких ограничений усиливают существующие угрозы. Подобные случаи с другими платформами уже привели к международным регулирующим действиям.

Следующие шаги в регуляторном расследовании

Расследование все еще находится на начальной стадии, со сбором доказательств и запросом документов от X. Ofcom может направить предварительные уведомления, если выявит немедленное несоблюдение требований.

У компании есть крайний срок для представления планов защиты и исправления ситуации. Этот процесс может длиться месяцами, в зависимости от сложности технического анализа.

Британские власти следят за параллельными событиями в других странах. Международная координация усиливается, учитывая трансграничный характер цифровых платформ.

Создание дипфейков интимного характера без согласия является преступлением в Соединенном Королевстве, независимо от происхождения ИИ. Распространение материалов о сексуальном насилии над детьми также подвергается суровому наказанию: платформы обязаны удалять контент, как только он обнаруживается.