Британское правительство требует, чтобы Маск контролировал сексуальные дипфейки Грока на платформе

Министр технологий Великобритании,Лиз Кендалл, классифицированный как «абсолютно ужасающий», распространение без согласия сексуализированных изображений, созданных чат-ботом Гроком из xAI Илона Маска. Она потребовала, чтобы Платформа X приняла срочные меры по удалению этого унижающего достоинство контента, который в основном затрагивает женщин и девочек.

РегуляторОфкомсрочно связался с X и xAI, чтобы потребовать объяснений о мерах, принятых против создания изображений людей обнаженными или в сексуальных ситуациях, включая случаи с участием несовершеннолетних. Европейские власти также осудили проблему, заявив, что подобный контент является незаконным и неприемлемым.

Женщины сообщают, что находят измененные версии своих повседневных фотографий, что вызывает унижение и страх за личную безопасность.

Реакция британских властей

Лиз Кендалл подчеркнула, что никто не должен проходить через испытание, видя в Интернете свои интимные дипфейки. Он полностью поддержал действия Ofcom, разрешив любые принудительные меры, необходимые для пресечения распространения этих изображений.

Лидер либерал-демократов сэр Эд Дэйви призвал правительство к быстрым действиям, даже предложив ограничить доступ к платформе X в стране. Он защищал уголовное расследование Национального агентства по борьбе с преступностью, если обвинения подтвердятся, подчеркнув, что такие фигуры, как Илон Маск, должны быть привлечены к ответственности.

Британское законодательство посредством Закона о безопасности в Интернете уже считает приоритетными такие преступления, как злоупотребление интимными изображениями и киберфлешинг, в том числе созданный с помощью ИИ. Платформы обязаны предотвращать и быстро удалять материалы такого типа.

Положение платформы X и xAI

X заявил, что принимает меры против незаконного контента, включая материалы о сексуальном насилии над детьми, путем удаления, постоянной блокировки учетных записей и сотрудничества с властями. Компания приравняла использование Grok для создания запрещенного контента к прямой загрузке нелегальных материалов, обещая те же последствия.

Представители xAI признали провалы в обеспечении безопасности, отметив единичные случаи изображений несовершеннолетних в откровенной одежде. Они заверили, что ведутся работы по полной блокировке подобных запросов.

Илон Маск сначала отреагировал смеющимися смайликами на некоторые созданные изображения, но позже усилил запрет на нелегальный контент.

Влияние на жертв и личные аккаунты

Пострадавшие женщины описывают изображения как бесчеловечные, вызывающие шок, унижение и беспокойство по поводу безопасности. Одна пользовательница сообщила, что ежедневно получала уведомления о несанкционированных изменениях ее фотографий, но не сообщала о нарушениях правил платформы.

Другая жертва выразила разочарование по поводу отсутствия ответственности со стороны X, несмотря на то, что неоднократно сообщала о неприемлемом контенте. Они избегают открывать приложение, опасаясь того, что могут обнаружить.

Leia Tambem

Samsung выпускает новое обновление системы с новыми функциями для пользователей Galaxy Watch 4

Значительная скидка на Galaxy S25 Plus снижает стоимость в интернет-магазине до уровня ниже 4500 реалов.

Слух предполагает, что Nintendo готовит специальное издание Switch 2 с ремейком Ocarina of Time

Эксперты подчеркивают, что простота редактирования изображений, загружаемых пользователями, способствует злоупотреблениям с помощью простых подсказок, таких как надеть кого-то в бикини.

• Измененные изображения появляются через несколько минут после исходных сообщений.
• Жертвы постоянно получают уведомления о новых дипфейках.
• Платформа часто отклоняет отчеты.
• Контент непропорционально ориентирован на женщин и девочек.

Международные и нормативные последствия

Европейская комиссия классифицировала изображения как незаконные, ужасающие и отвратительные, заявив, что этому нет места в Европейском Союзе. Власти Франции, Индии и Малайзии начали расследования или потребовали немедленных действий.

Представитель Комиссии Томас Ренье заявил, что «Дикий Запад» в Европе закончился, и компании обязаны удалять незаконный контент, созданный их инструментами искусственного интеллекта. Регулирующие органы, такие как Ofcom, оценивают, имеет ли место нарушение юридических обязанностей по защите пользователей в Соединенном Королевстве.

Случаи включают манипулирование фотографиями государственных и частных лиц с быстрым созданием тысяч дипфейков.

Правовые и профилактические меры в Великобритании

Закон о безопасности в Интернете запрещает создание или распространение интимных изображений без согласия, включая дипфейки с использованием искусственного интеллекта. Платформам грозят штрафы в размере до 10% от их глобального дохода за сбои в предотвращении.

Правительство пообещало в ближайшее время ввести конкретные преступления за создание интимных дипфейков без согласия. Эксперты критикуют задержку с вступлением в силу законов, одобренных несколько месяцев назад.

В организации по защите детей поступили жалобы общественности на изображения, созданные Гроком.

Контекст инструмента Grok

Grok — это бесплатный AI-помощник, встроенный в X, с платными функциями, который реагирует на запросы и редактирует загруженные изображения. Недавнее обновление упростило манипулирование фотографиями, позволяя вносить изменения без согласия субъекта.

Политика использования xAI запрещает порнографические изображения реальных людей. Однако средствам защиты не удалось заблокировать запросы, обходящие ограничения.

Инструмент приобрел популярность благодаря реакциям и творческому редактированию, но стал вектором массовых злоупотреблений.