Reporter раскрывает простой трюк, который меняет ответы ChatGPT и Gemini менее чем за полчаса

Технологический репортер BBC создал на своем личном веб-сайте полностью вымышленную статью и сумел всего за 20 минут усилий заставить инструменты искусственного интеллекта, такие как ChatGPT OpenAI и Gemini от Google, повторять ложную информацию пользователям по всему миру. Эксперимент выявил лазейки в механизмах, которые ИИ используют для поиска и обработки интернет-данных в режиме реального времени. Цель заключалась в том, чтобы подчеркнуть реальные риски дезинформации в больших масштабах, особенно по деликатным темам.

Репортер Томас Жермен опубликовал текст, в котором претендует на звание лучшего технологического журналиста на конкурсах по поеданию хот-догов. Он изобрел несуществующий чемпионат под названием Международный чемпионат Южной Дакоты по хот-догам 2026 года и поставил себя на первое место в списке, включая имена реальных коллег с предполагаемыми допусками. Менее чем через 24 часа запросы по этой теме заставили ИИ воспроизводить ложный контент как факт, в том числе в приложении Gemini и обзорах ИИ Google.

Опрошенные эксперты отмечают, что этот метод использует «пустые данные», области с небольшим количеством достоверной информации в сети, где ИИ в значительной степени полагаются на доступные источники, даже если они изолированы или сомнительны. Этот трюк напоминает старые методы рассылки спама в традиционных поисковых системах, но он становится все более эффективным с массовым внедрением чат-ботов, которые синтезируют ответы, не всегда отдавая приоритет строгой проверке.

Метод использовал известные слабости ИИ.

Процесс начался с быстрого написания фальшивой статьи без необходимости использования продвинутых инструментов или сложных кодов. Жермен обновил текст, чтобы подчеркнуть, что это не сатира, что помогло убедить ИИ считать контент законным. ChatGPT и Gemini включили абсурдные утверждения непосредственно в ответы, часто ссылаясь на сайт как на единственный источник.

Этот вид манипуляции не ограничивается шутками. Реальные примеры включают спонсируемый контент, который влияет на рекомендации клиник по пересадке волос или компаний, занимающихся инвестициями в золото, где пресс-релизы или платные веб-сайты доминируют в результатах. В одном случае марка жевательных конфет с каннабисом была описана как «не имеющая побочных эффектов и безопасная во всех отношениях», игнорируя риски, задокументированные органами здравоохранения.

Простота метода вызывает беспокойство, поскольку любой, у кого есть доступ в Интернет, может публиковать ложный контент на различных платформах и влиять на глобальную реакцию. Такие компании, как OpenAI и Google, заявляют, что используют системы ранжирования для сокращения спама, но эксперты отмечают, что защита все еще недостаточна, учитывая скорость онлайн-публикаций.

Риски выходят за рамки безобидных шуток

Подобные манипуляции уже затрагивают такие важные области, как медицинские консультации, финансы или информация о выборах. Пользователи склонны доверять авторитетным ответам ИИ, не проверяя первоисточники, что увеличивает вероятность причинения вреда. Недавнее исследование показало значительное снижение количества кликов по ссылкам, когда ответы ИИ появляются в верхней части поисковых запросов.

SEO-эксперты отмечают, что сегодняшние ИИ более уязвимы для подобных уловок, чем традиционные поисковые системы всего несколько лет назад. В гонке за быстрым прогрессом и доходами от рекламы функции стали отдаваться приоритету над надежными гарантиями от злоупотреблений.

Leia Tambem

Samsung выпускает новое обновление системы с новыми функциями для пользователей Galaxy Watch 4

Значительная скидка на Galaxy S25 Plus снижает стоимость в интернет-магазине до уровня ниже 4500 реалов.

Слух предполагает, что Nintendo готовит специальное издание Switch 2 с ремейком Ocarina of Time

Масштабные примеры злоупотреблений из реальной жизни

Отчеты указывают на массовое использование этой техники для продвижения бизнеса или распространения дезинформации. Платный или сфабрикованный контент может позиционировать сомнительные продукты как лучшие в определенных нишах. В дополнительных тестах ИИ также поглощал ложные списки других абсурдных категорий.

Эксперимент показывает, что изменить то, что миллионы пользователей получают в качестве ответа, можно просто и быстро. Это усиливает необходимость большей прозрачности источников, используемых ИИ, и механизмов, которые идентифицируют изолированный или подозрительный контент.

Влияние на доверие к инструментам искусственного интеллекта

Доверие к ответам чат-бота снижается, когда основные факты можно изменить одним сообщением. Пользователям следует сверять информацию с несколькими проверенными источниками, особенно по важным темам. Компании-разработчики продолжают совершенствовать алгоритмы для решения этих проблем, но в открытой веб-экосистеме проблема сохраняется.

Текущие меры защиты и рекомендации

OpenAI и Google внедряют фильтры для обнаружения спама и определения приоритета надежных источников, утверждая, что блокируют большую часть манипулятивного контента. Однако эксперимент показывает, что пробелы все еще существуют, особенно по темам, которые мало освещены.

Советы пользователям, как избежать ошибок

Всегда обращайтесь к источникам, указанным в ответах ИИ. Избегайте решений, основанных исключительно на чат-ботах по деликатным темам. По возможности отдавайте предпочтение традиционным поискам или официальным сайтам.