Google AI Overview генерира милиони грешни отговори на час при глобални търсения

AI ресурсът Overview на Google, който обобщава отговорите в горната част на резултатите от търсенето, представя невярна информация в около 10% от случаите. Скорошно проучване подчерта, че при годишния обем на търсенията, обработени от компанията, надхвърлящ пет трилиона, този процент води до десетки милиони съмнителни отговори, издадени на всеки час. Грешки възникват дори когато системата цитира източници и грешните отговори могат да се редуват с верни в зависимост от повторението на едно и също запитване.

Експерти от компанията за изкуствен интелект с отворен код Oumi анализираха производителността на ресурса и установиха, че точността достига 90% при контролирани тестове. Големият обем на запитванията обаче засилва въздействието на неточностите. Позиционирането на AI Overview в горната част на страницата с резултати увеличава видимостта на тези отговори, което може да накара потребителите да ги считат за надеждни без допълнителна проверка.

• Неправилните отговори често цитират публикации от Facebook и Reddit с по-висок процент от правилните.
• Сред най-позоваваните от системата са източници от социалните мрежи.
• Умишлените манипулации чрез невярно съдържание в блогове или уебсайтове могат да повлияят на генерираните резюмета.

Цитирани източници и проблеми с надеждността

Проучването установи, че точните отговори използват Facebook в 5% от случаите, докато неточните отговори увеличават този процент до 7%. В някои ситуации AI Overview изкривява информацията от надеждни източници, като я синтезира неправилно. Essa динамиката затруднява последователната оценка на качеството на отговорите, тъй като повтаряща се заявка може да промени резултата без ясно обяснение.

Google твърди, че функцията използва същите механизми за класиране и защита от спам, прилагани към традиционните резултати от търсенето. Компанията твърди, че много примери за грешки включват необичайни заявки, които реалните потребители едва ли биха изпълнили. Ainda По този начин отказът от отговорност, показан във всички отговори, генерирани от AI Overview, предупреждава, че изкуственият интелект може да прави грешки и препоръчва двойна проверка.

Въздействие върху ежедневното използване и източници на данни

Потребителите извършват множество търсения през целия ден, което умножава потенциалното излагане на невярна информация. Функцията разчита на обширно сканиране на мрежата, включително форуми и социални медии, за съставяне на обобщенията. Quando Обемът на нискокачествено или манипулирано съдържание расте, увеличава се рискът от вграждане в отговори.

Предизвикателства при оценяването на точността

Тестовете показват, че една и съща заявка може да доведе до различни резултати по различно време. Essa Променливостта усложнява точното измерване на процента грешки в пълна скала. Системата дава приоритет на скоростта и синтеза, но това не винаги гарантира вярност на оригиналното съдържание на консултираните източници.

Google Отговори и препоръки

Компанията подчертава, че е внедрила непрекъснати подобрения от стартирането на ресурса. Proteções Анти-спам и механизмите за сигурност блокират много неподходящо съдържание. Usuários получават изрични насоки за проверка на информация от първични източници, когато е възможно.

Цитати в социалните медии на AI Overview

Leia Tambem

Системата на Apple предлага пет собствени инструмента на iPhone за оптимизиране на ежедневните задачи

Samsung обявява пристигането на Galaxy S25 Edge в Бразилия с титаниев дизайн и 200 мегапиксела

Бързото изместване на северния магнитен полюс към Сибир променя навигационните системи по света

Публикации от платформи като Facebook и Reddit често присъстват сред референциите на AI Overview. Essa зависимостта отразява огромното присъствие на генерирано от потребителите съдържание в мрежата, но също така въвежда рискове, когато мнения или непроверена информация се синтезират като факти. Проучването идентифицира фини разлики в начина, по който тези шрифтове се появяват в правилните спрямо неправилните отговори.

Трудности за обикновените потребители

Мнозина имат достъп до Google в търсене на бързи отговори по различни теми, от ежедневни факти до по-сложна информация. Quando или AI Overview се появява първо, това пряко влияе върху първоначалното възприемане на разглежданата тема. Редуването на правилни и грешни отговори в една и съща заявка създава несигурност относно това кога да се доверите на автоматичното обобщаване.

Мерки за сигурност и ограничения

Google прилага защитни филтри, подобни на тези, използвани в органичните резултати. Apesar Освен това все още възникват изолирани случаи на изкривяване или включване на съмнително съдържание. Компанията продължава да коригира модела въз основа на обратна връзка и технически анализ, за ​​да намали случаите на неточности.

Отговорно използване на функцията за търсене

Експертите препоръчват AI Overview да се разглежда като отправна точка, а не като окончателен източник. Комбинацията от множество заявки и проверка на цитирани връзки помага за намаляване на рисковете. Самата система включва стандартно предупреждение за възможни грешки при генериране на съдържание.

Еволюция на ресурсите във времето

От внедряването си AI Overview претърпя корекции за подобряване на интеграцията с традиционните резултати от търсенето. Компанията наблюдава моделите на използване и коригира недостатъците, идентифицирани във вътрешни тестове или публични доклади. Целта остава да се предложат полезни синтези, без да се замества директната консултация с оригиналните източници.

Съображения за обем на търсене

Обработката на милиарди ежедневни заявки увеличава всеки процент грешки, дори нисък процент. В глобален мащаб това представлява значително техническо предизвикателство за системите с изкуствен интелект, прилагани за търсене в реално време. Equipes екипи за разработка непрекъснато работят за усъвършенстване на алгоритмите за синтез и проверка.