Обзор Google AI генерирует миллионы неправильных ответов в час при глобальном поиске

Функция обзора искусственного интеллекта Google, которая обобщает ответы вверху результатов поиска, примерно в 10% случаев предоставляет неверную информацию. Недавнее исследование показало, что, поскольку годовой объем поисковых запросов, обрабатываемых компанией, превышает пять триллионов, этот показатель приводит к десяткам миллионов сомнительных ответов, выдаваемых каждый час. Сбои случаются даже тогда, когда система цитирует источники, а неправильные ответы могут чередоваться с правильными в зависимости от повторения одного и того же запроса.

Эксперты компании Oumi, занимающейся искусственным интеллектом с открытым исходным кодом, проанализировали работу ресурса и установили, что точность в контролируемых тестах достигает 90%. Однако большой объем запросов усиливает влияние неточностей. Размещение обзора AI вверху страницы результатов повышает видимость этих ответов, что может заставить пользователей считать их заслуживающими доверия без дополнительной проверки.

• Неправильные ответы часто цитируют посты Facebook и Reddit чаще, чем правильные.
• Источники из социальных сетей входят в число наиболее цитируемых системой.
• Преднамеренные манипуляции с использованием ложного контента в блогах или на веб-сайтах могут повлиять на создаваемые сводки.

Цитируемые источники и проблемы с надежностью

В исследовании отмечается, что точные ответы обращаются в Facebook в 5% случаев, а неточные ответы увеличивают этот показатель до 7%. В некоторых ситуациях AI Обзор искажает информацию из авторитетных источников, неправильно ее синтезируя. Такая динамика затрудняет последовательную оценку качества ответов, поскольку повторный запрос может изменить результат без четкого объяснения.

Google утверждает, что эта функция использует те же механизмы ранжирования и защиты от спама, что и традиционные результаты поиска. Компания утверждает, что многие примеры сбоев связаны с необычными запросами, которые реальные пользователи вряд ли смогут выполнить. Тем не менее, заявление об отказе от ответственности, отображаемое во всех ответах, генерируемых AI Обзор, предупреждает, что искусственный интеллект может совершать ошибки, и рекомендует перепроверить.

Влияние на ежедневное использование и источники данных

Пользователи выполняют несколько поисковых запросов в течение дня, что увеличивает вероятность получения неверной информации. Эта функция основана на тщательном сканировании Интернета, включая форумы и социальные сети, для составления сводок. Когда объем некачественного или манипулируемого контента растет, риск включения в ответы возрастает.

Проблемы с оценкой точности

Тесты показывают, что один и тот же запрос может давать разные результаты в разное время. Эта изменчивость усложняет точное измерение полномасштабной частоты ошибок. Система отдает приоритет скорости и синтезу, но это не всегда гарантирует точность оригинального содержания использованных источников.

Google ответы и рекомендации

Компания подтверждает, что с момента запуска ресурса она постоянно совершенствовалась. Средства защиты от спама и механизмы безопасности блокируют большую часть нежелательного контента. Пользователям явно рекомендуется сверять информацию с первоисточниками, когда это возможно.

Цитаты из социальных сетей в обзоре ИИ

Leia Tambem

Netflix представит пять проектов с 1 по 5 июня 2026 года.

Извержение вулкана Хунга Тонга в 2022 году очистило выброс метана в атмосферу

Стефен Карри занимает шестое место среди самых высокооплачиваемых спортсменов мира с доходом в 124,7 миллиона долларов.

Сообщения с таких платформ, как Facebook и Reddit, часто входят в число ссылок на обзоры AI. Эта зависимость отражает массовое присутствие пользовательского контента в сети, но она также создает риски, когда непроверенные мнения или информация синтезируются как факты. Исследование выявило тонкие различия в том, как эти шрифты отображаются в правильных и неправильных ответах.

Трудности для обычных пользователей

Многие люди обращаются к Google в поисках быстрых ответов на самые разные темы, от повседневных фактов до более сложной информации. Когда обзор ИИ появляется первым, он напрямую влияет на первоначальное восприятие запрашиваемой темы. Чередование правильных и неправильных ответов в одном и том же запросе создает неуверенность в том, когда следует доверять автоматическому суммированию.

Меры безопасности и ограничения

Google применяет фильтры безопасности, аналогичные тем, которые используются в органических результатах. Несмотря на это, единичные случаи искажения или включения сомнительного содержания все же возникают. Компания продолжает корректировать модель на основе отзывов и технического анализа, чтобы уменьшить количество неточностей.

Ответственное использование функции поиска

Эксперты рекомендуют рассматривать Обзор ИИ как отправную точку, а не как окончательный источник. Сочетание нескольких запросов и проверки цитируемых ссылок помогает снизить риски. Сама система включает стандартное предупреждение о возможных ошибках при генерации контента.

Эволюция ресурсов с течением времени

С момента внедрения AI Обзор претерпел изменения для улучшения интеграции с традиционными результатами поиска. Компания отслеживает модели использования и исправляет недостатки, выявленные во время внутренних тестов или публичных отчетов. Целью остается предложить полезные обобщения, не заменяя прямых консультаций с первоисточниками.

Рекомендации по объему поиска

Обработка миллиардов ежедневных запросов увеличивает любой уровень ошибок, даже небольшой. В глобальном масштабе это представляет собой серьезную техническую проблему для систем искусственного интеллекта, применяемых для поиска в реальном времени. Команды разработчиков постоянно работают над совершенствованием алгоритмов синтеза и проверки.