Google AI Overview genererer millioner av feil svar per time i globale søk

Google sin AI-ressurs Overview, som oppsummerer svar øverst i søkeresultatene, presenterer feil informasjon i omtrent 10 % av tilfellene. En fersk studie fremhevet at med det årlige volumet av søk behandlet av selskapet som overstiger fem billioner, resulterer denne frekvensen i titalls millioner tvilsomme svar gitt hver time. Feil oppstår selv når systemet siterer kilder, og feil svar kan veksles med riktige avhengig av gjentakelse av samme spørring.

Eksperter fra åpen kildekode-selskapet for kunstig intelligens Oumi analyserte ressursens ytelse og identifiserte at nøyaktigheten når 90 % i kontrollerte tester. Det høye volumet av spørringer forsterker imidlertid virkningen av unøyaktigheter. Plassering av AI Overview øverst på resultatsiden øker synligheten til disse svarene, noe som kan føre til at brukere anser dem som pålitelige uten ytterligere bekreftelse.

• Uriktige svar siterer ofte innlegg fra Facebook og Reddit med en høyere hastighet enn riktige.
• Kilder fra sosiale nettverk vises blant de mest refererte av systemet.
• Forsettlige manipulasjoner gjennom falskt innhold på blogger eller nettsteder kan påvirke sammendragene som genereres.

Kilder som er sitert og problemer med pålitelighet

Studien observerte at nøyaktige svar bruker Facebook i 5 % av tilfellene, mens unøyaktige svar øker denne frekvensen til 7 %. I noen situasjoner forvrider AI Overview informasjon fra anerkjente kilder ved å syntetisere den feil. Essa dynamikk gjør det vanskelig å konsekvent vurdere kvaliteten på svarene, ettersom en gjentatt spørring kan endre resultatet uten en klar forklaring.

Google fastholder at funksjonen bruker de samme rangerings- og spambeskyttelsesmekanismene som brukes på tradisjonelle søkeresultater. Selskapet hevder at mange eksempler på feil involverer uvanlige forespørsler som virkelige brukere neppe vil utføre. Ainda Dermed advarer ansvarsfraskrivelsen som vises i alle svar generert av AI Overview at kunstig intelligens kan gjøre feil og anbefaler dobbeltsjekking.

Påvirkning på daglig bruk og datakilder

Brukere utfører flere søk i løpet av dagen, noe som multipliserer potensiell eksponering for feil informasjon. Funksjonen er avhengig av omfattende skanning av nettet, inkludert fora og sosiale medier, for å kompilere sammendragene. Quando Volumet av lavkvalitets eller manipulert innhold øker, risikoen for inkorporering i svar øker.

Utfordringer med å vurdere nøyaktighet

Tester viser at samme spørring kan gi forskjellige resultater til forskjellige tider. Essa Variabilitet kompliserer nøyaktig måling av fullskala feilrate. Systemet prioriterer hastighet og syntese, men dette garanterer ikke alltid troskap til det opprinnelige innholdet i de konsulterte kildene.

Google Svar og anbefalinger

Selskapet forsterker at det har implementert kontinuerlige forbedringer siden lanseringen av ressursen. Proteções Anti-spam og sikkerhetsmekanismer blokkerer mye upassende innhold. Usuários mottar eksplisitt veiledning for å sjekke informasjon fra primærkilder når det er mulig.

Sitater på sosiale medier på AI Overview

Leia Tambem

Når starter verdensmesterskapet i 2026? Dato, klokkeslett, første kamp og åpningsseremoni

Tigerhai biter en 19 år gammel jente og river av benet hennes i Boa Viagem, Recife

Verdensmesterskapet i 2026 vil ha 32 utøvere som spiller i brasiliansk fotball

Innlegg fra plattformer som Facebook og Reddit vises ofte blant AI Overview referanser. Essa avhengighet gjenspeiler den massive tilstedeværelsen av brukergenerert innhold på nettet, men introduserer også risikoer når meninger eller ubekreftet informasjon syntetiseres som fakta. Studien identifiserte subtile forskjeller i hvordan disse fontene vises i riktige versus feil svar.

Vanskeligheter for vanlige brukere

Mange får tilgang til Google på jakt etter raske svar om en rekke emner, fra dagligdagse fakta til mer kompleks informasjon. Quando eller AI Overview vises først, det påvirker direkte den første oppfatningen av det konsulterte emnet. Å veksle mellom riktige og gale svar i samme spørring skaper usikkerhet om når man skal stole på automatisk oppsummering.

Sikkerhetstiltak og begrensninger

Google bruker sikkerhetsfiltre som ligner på de som brukes i organiske resultater. Apesar Videre oppstår det fortsatt isolerte tilfeller av forvrengninger eller inkorporering av tvilsomt innhold. Selskapet fortsetter å justere modellen basert på tilbakemeldinger og teknisk analyse for å redusere tilfeller av unøyaktigheter.

Ansvarlig bruk av søkefunksjonen

Eksperter anbefaler å behandle AI Overview som et utgangspunkt, i stedet for en definitiv kilde. Kombinasjonen av flere søk og sjekking av siterte lenker bidrar til å redusere risikoen. Selve systemet inkluderer en standard advarsel om mulige feil i innholdsgenerering.

Ressursutvikling over tid

Siden implementeringen har AI Overview gjennomgått justeringer for å forbedre integrasjonen med tradisjonelle søkeresultater. Selskapet overvåker bruksmønstre og retter opp feil som er identifisert i interne tester eller offentlige rapporter. Målet er fortsatt å tilby nyttige synteser uten å erstatte direkte konsultasjon med originalkildene.

Hensyn til søkevolum

Behandling av milliarder av daglige søk forsterker enhver feilrate, selv en lav prosentandel. På globalt plan representerer dette en betydelig teknisk utfordring for kunstig intelligens-systemer som brukes til sanntidssøk. Equipes utviklingsteam jobber kontinuerlig med å avgrense syntese- og verifiseringsalgoritmer.