Ein BBC-Technologiereporter erstellte auf seiner persönlichen Website einen völlig erfundenen Artikel und schaffte es in nur 20 Minuten, künstliche Intelligenz-Tools wie ChatGPT von OpenAI und Gemini von Google dazu zu bringen, falsche Informationen an Benutzer auf der ganzen Welt weiterzugeben. Das Experiment untersuchte Lücken in den Mechanismen, die KIs verwenden, um Internetdaten in Echtzeit zu suchen und zu integrieren. Ziel war es, die tatsächlichen Risiken von Desinformation in großem Umfang aufzuzeigen, insbesondere bei sensiblen Themen.
Der Reporter Thomas Germain veröffentlichte einen Text, in dem er behauptete, er sei der beste Technologiejournalist bei Hot-Dog-Essen-Wettbewerben. Ele erfand ab 2026 eine nicht existierende Meisterschaft namens South Dakota International Hot Dog Championship und platzierte sich selbst an der Spitze der Liste, einschließlich der Namen echter Kollegen mit angeblichen Berechtigungen. Menos 24 Stunden später führten Konsultationen zu dem Thema dazu, dass die KIs den falschen Inhalt als Tatsache reproduzierten, unter anderem in der Gemini-App und in der KI Overviews von Google.
Befragte Experten weisen darauf hin, dass diese Technik „Datenlücken“ ausnutzt, Bereiche mit wenig verlässlichen Informationen im Internet, in denen KIs stark auf verfügbare Quellen angewiesen sind, auch wenn diese isoliert oder zweifelhaft sind. Der Trick ähnelt alten Spam-Praktiken in herkömmlichen Suchmaschinen, gewinnt jedoch durch die massive Einführung von Chatbots an Bedeutung, die Antworten synthetisieren, ohne immer einer strengen Überprüfung Priorität einzuräumen.
Methode nutzt bekannte Schwächen von KIs aus
Der Prozess begann damit, schnell einen falschen Artikel zu schreiben, ohne dass dafür fortschrittliche Tools oder komplexe Codes erforderlich waren. Germain hat den Text aktualisiert, um zu betonen, dass es sich nicht um Satire handelte, was dazu beitrug, die KIs davon zu überzeugen, den Inhalt als legitim zu betrachten. ChatGPT und Gemini integrierten die absurden Behauptungen direkt in ihre Antworten und nannten oft die Website als einzige Quelle.
Diese Art der Manipulation beschränkt sich nicht nur auf Witze. Real Exemplos umfasst gesponserte Inhalte, die Empfehlungen von Haartransplantationskliniken oder Goldinvestmentgesellschaften beeinflussen, bei denen Pressemitteilungen oder kostenpflichtige Websites die Ergebnisse dominieren. In einem Fall wurde eine Marke von Cannabis-Gummibonbons als „nebenwirkungsfrei und in jeder Hinsicht sicher“ beschrieben und ignorierte dabei die von den Gesundheitsbehörden dokumentierten Risiken.
Die Einfachheit der Methode ist besorgniserregend, da jeder mit Internetzugang falsche Inhalte auf verschiedenen Plattformen veröffentlichen und globale Reaktionen beeinflussen kann. Empresas wie OpenAI und Google geben an, Ranking-Systeme zu verwenden, um Spam zu reduzieren, Experten weisen jedoch darauf hin, dass die Abwehrmaßnahmen angesichts der Geschwindigkeit der Online-Veröffentlichung immer noch unzureichend sind.
Risiken gehen über harmlose Witze hinaus
Ähnliche Manipulationen betreffen bereits kritische Bereiche wie Gesundheitsberatung, Finanzen oder Wahlinformationen. Usuários neigen dazu, den autoritären Reaktionen von KIs zu vertrauen, ohne die Originalquellen zu überprüfen, was das Schadenspotenzial erhöht. Eine aktuelle Studie zeigte eine deutliche Reduzierung der Linkklicks, wenn KI-Antworten ganz oben in der Suche erscheinen.
SEO-Experten weisen darauf hin, dass KIs heute anfälliger für solche Tricks sind als herkömmliche Suchmaschinen noch vor wenigen Jahren. Im Wettlauf um schnelle Weiterentwicklungen und Werbeeinnahmen haben Funktionen Vorrang vor robusten Schutzmaßnahmen gegen Missbrauch.
Beispiele für Missbrauch aus der Praxis im großen Maßstab
Berichten zufolge wird diese Technik in großem Umfang zur Geschäftsförderung oder zur Verbreitung von Fehlinformationen eingesetzt. Conteúdos bezahlte oder hergestellte Produkte schaffen es, fragwürdige Produkte in bestimmten Nischen als die besten zu positionieren. In weiteren Tests wurden auch falsche Listen über andere absurde Kategorien von den KIs absorbiert.
Das Experiment zeigt, dass es einfach und schnell sein kann, die Antwort, die Millionen von Benutzern erhalten, zu ändern. Isso verstärkt die Notwendigkeit einer größeren Transparenz der von KIs verwendeten Quellen und Mechanismen, die isolierte oder verdächtige Inhalte identifizieren.
Auswirkungen auf das Vertrauen in KI-Tools
Das Vertrauen in Chatbot-Antworten nimmt ab, wenn grundlegende Fakten durch einen einzigen Beitrag geändert werden können. Usuários muss Informationen mit mehreren verifizierten Quellen vergleichen, insbesondere zu wichtigen Themen. Entwicklerunternehmen optimieren weiterhin ihre Algorithmen, um diese Probleme zu entschärfen, aber die Herausforderung bleibt in einem offenen Web-Ökosystem bestehen.
Aktuelle Abwehrmaßnahmen und Empfehlungen
OpenAI und Google implementieren Filter, um Spam zu erkennen und vertrauenswürdige Quellen zu priorisieren, und behaupten, die meisten manipulativen Inhalte zu blockieren. Das Experiment zeigt jedoch, dass es immer noch Lücken gibt, insbesondere bei Themen mit wenig etablierter Berichterstattung.
Tipps für Benutzer, um Fallstricke zu vermeiden
Konsultieren Sie immer die in den Antworten der AIs genannten Quellen. Evite Entscheidungen basieren ausschließlich auf Chatbots für sensible Themen. Prefira traditionelle Suchanfragen oder offizielle Websites, wenn möglich.
