En BBC-teknologireporter lavede en fuldstændig opdigtet artikel på sin personlige hjemmeside og formåede på kun 20 minutters indsats at få kunstig intelligens-værktøjer såsom OpenAI’s ChatGPT og Gemini fra Google til at gentage falsk information til brugere over hele verden. Eksperimentet udforskede smuthuller i de mekanismer, som AI’er bruger til at søge og inkorporere internetdata i realtid. Målet var at fremhæve reelle risici for desinformation i stor skala, især om følsomme emner.
Reporter Thomas Germain udgav en tekst, der hævdede at være den bedste teknologijournalist i pølsespisekonkurrencer. Ele opfandt et ikke-eksisterende mesterskab kaldet South Dakota International Hot Dog Championship fra 2026 og placerede sig selv øverst på listen, inklusive navne på rigtige kolleger med formodede autorisationer. Menos 24 timer senere fik konsultationer om emnet AI’erne til at reproducere det falske indhold som kendsgerning, herunder i Gemini-appen og i AI-Overviews af Google.
De konsulterede eksperter påpeger, at denne teknik udnytter “datatomrum”, områder med ringe pålidelig information på nettet, hvor AI’er er stærkt afhængige af tilgængelige kilder, selvom de er isolerede eller tvivlsomme. Tricket ligner gammel spam-praksis i traditionelle søgemaskiner, men får magt med den massive anvendelse af chatbots, der syntetiserer svar uden altid at prioritere streng verifikation.
Metoden udnyttede kendte svagheder i AI’er
Processen begyndte med hurtigt at skrive en falsk artikel uden behov for avancerede værktøjer eller komplekse koder. Germain opdaterede teksten for at understrege, at det ikke var satire, hvilket hjalp med at overbevise AI’erne om at behandle indholdet som legitimt. ChatGPT og Gemini inkorporerede de absurde påstande direkte i deres svar og citerede ofte webstedet som den eneste kilde.
Denne type manipulation er ikke begrænset til vittigheder. Real Exemplos inkluderer sponsoreret indhold, der påvirker anbefalinger fra hårtransplantationsklinikker eller guldinvesteringsselskaber, hvor pressemeddelelser eller betalte sider dominerer resultaterne. I et tilfælde blev et mærke af cannabis-gummier beskrevet som “fri for bivirkninger og sikkert i alle henseender”, idet man ignorerede risici dokumenteret af sundhedsmyndighederne.
Metodens lethed er bekymrende, fordi alle med internetadgang kan offentliggøre falsk indhold på forskellige platforme og påvirke globale svar. Empresas som OpenAI og Google hævder at bruge rangordningssystemer til at reducere spam, men eksperter indikerer, at forsvaret stadig er utilstrækkeligt i betragtning af hastigheden af online publicering.
Risici rækker ud over harmløse vittigheder
Lignende manipulationer påvirker allerede kritiske områder som sundhedsrådgivning, økonomi eller valginformation. Usuários har en tendens til at stole på AI’ers autoritære svar uden at tjekke originale kilder, hvilket øger risikoen for skade. En nylig undersøgelse viste en betydelig reduktion i linkklik, når AI-svar vises øverst i søgningerne.
SEO-eksperter bemærker, at nutidens AI’er er mere sårbare over for tricks af denne art, end traditionelle søgemaskiner var for blot et par år siden. Kapløbet om hurtige fremskridt og annonceindtægter har prioriteret funktioner frem for robuste sikkerhedsforanstaltninger mod misbrug.
Eksempler fra den virkelige verden på misbrug i stor skala
Rapporter indikerer massiv brug af teknikken til at fremme forretning eller sprede misinformation. Conteúdos betalte eller fremstillede produkter formår at placere tvivlsomme produkter som de bedste i specifikke nicher. I yderligere test blev falske lister om andre absurde kategorier også absorberet af AI’erne.
Eksperimentet viser, at det kan være nemt og hurtigt at ændre, hvad millioner af brugere modtager som svar. Isso forstærker behovet for større gennemsigtighed i de kilder, der bruges af AI’er og mekanismer, der identificerer isoleret eller mistænkeligt indhold.
Indvirkning på tilliden til AI-værktøjer
Tilliden til chatbot-svar falder, når grundlæggende fakta kan ændres med et enkelt indlæg. Usuários skal krydsreference information med flere verificerede kilder, især om vigtige spørgsmål. Udviklervirksomheder fortsætter med at justere algoritmer for at afbøde disse problemer, men udfordringen fortsætter i et åbent web-økosystem.
Aktuelle forsvar og anbefalinger
OpenAI og Google implementerer filtre til at opdage spam og prioritere betroede kilder og hævder at blokere det meste manipulerende indhold. Forsøget viser dog, at der stadig er huller, især på emner med ringe etableret dækning.
Tips til brugere for at undgå faldgruber
Konsulter altid de kilder, der er citeret i AI’ernes svar. Evite beslutninger udelukkende baseret på chatbots for følsomme emner. Prefira traditionelle søgninger eller officielle websteder, når det er muligt.
