Um repórter de tecnologia da BBC criou um artigo completamente inventado em seu site pessoal e conseguiu, em apenas 20 minutos de esforço, fazer com que ferramentas de inteligência artificial como o ChatGPT, da OpenAI, e o Gemini, do Google, repetissem informações falsas para usuários ao redor do mundo. O experimento explorou brechas nos mecanismos que as IAs utilizam para buscar e incorporar dados da internet em tempo real. O objetivo foi destacar riscos reais de desinformação em escala, especialmente em temas sensíveis.
O repórter Thomas Germain publicou um texto afirmando ser o melhor jornalista de tecnologia em competições de comer cachorros-quentes. Ele inventou um campeonato inexistente chamado South Dakota International Hot Dog Championship de 2026 e classificou a si mesmo no topo da lista, incluindo nomes de colegas reais com supostas autorizações. Menos de 24 horas depois, consultas sobre o tema faziam as IAs reproduzirem o conteúdo falso como fato, inclusive no Gemini app e nas AI Overviews do Google.
Especialistas consultados apontam que essa técnica explora “vazios de dados”, áreas com pouca informação confiável na web, onde as IAs dependem fortemente de fontes disponíveis, mesmo que isoladas ou duvidosas. O truque se assemelha a práticas antigas de spam em motores de busca tradicionais, mas ganha potência com a adoção massiva de chatbots que sintetizam respostas sem sempre priorizar verificação rigorosa.
Método explorou fraquezas conhecidas nas IAs
O processo começou com a redação rápida de um artigo mentiroso, sem necessidade de ferramentas avançadas ou códigos complexos. Germain atualizou o texto para reforçar que não se tratava de sátira, o que ajudou a convencer as IAs a tratarem o conteúdo como legítimo. ChatGPT e Gemini incorporaram as afirmações absurdas diretamente nas respostas, muitas vezes citando o site como origem única.
Esse tipo de manipulação não se limita a brincadeiras. Exemplos reais incluem conteúdos patrocinados que influenciam recomendações de clínicas de transplante capilar ou empresas de investimento em ouro, onde press releases ou sites pagos dominam os resultados. Em um caso, uma marca de gomas de cannabis foi descrita como “livre de efeitos colaterais e segura em todos os aspectos”, ignorando riscos documentados por autoridades de saúde.
A facilidade do método preocupa porque qualquer pessoa com acesso à internet pode publicar conteúdo falso em plataformas variadas e influenciar respostas globais. Empresas como OpenAI e Google afirmam usar sistemas de ranqueamento para reduzir spam, mas especialistas indicam que as defesas ainda são insuficientes diante da velocidade de publicação online.
Riscos vão além de piadas inofensivas
Manipulações semelhantes já afetam áreas críticas, como conselhos de saúde, finanças ou informações eleitorais. Usuários tendem a confiar nas respostas autoritárias das IAs sem checar fontes originais, o que amplia o potencial de danos. Um estudo recente mostrou redução significativa de cliques em links quando respostas de IA aparecem no topo das buscas.
Especialistas em SEO observam que as IAs atuais são mais vulneráveis a truques desse tipo do que motores de busca tradicionais eram há poucos anos. A corrida por avanços rápidos e receitas publicitárias tem priorizado funcionalidades sobre salvaguardas robustas contra abusos.
Exemplos reais de abuso em escala
Relatos indicam uso massivo da técnica para promover negócios ou disseminar desinformação. Conteúdos pagos ou fabricados conseguem posicionar produtos questionáveis como os melhores em nichos específicos. Em testes adicionais, listas falsas sobre outras categorias absurdas também foram absorvidas pelas IAs.
O experimento demonstra que alterar o que milhões de usuários recebem como resposta pode ser simples e rápido. Isso reforça a necessidade de maior transparência nas fontes usadas pelas IAs e de mecanismos que identifiquem conteúdos isolados ou suspeitos.
Impacto na confiança em ferramentas de IA
A confiança nas respostas de chatbots diminui quando fatos básicos podem ser alterados por uma única publicação. Usuários devem cruzar informações com múltiplas fontes verificadas, especialmente em assuntos importantes. As empresas desenvolvedoras continuam ajustando algoritmos para mitigar esses problemas, mas o desafio persiste em um ecossistema aberto da web.
Defesas e recomendações atuais
OpenAI e Google implementam filtros para detectar spam e priorizar fontes confiáveis, alegando bloquear a maioria dos conteúdos manipuladores. No entanto, o experimento mostra que brechas ainda existem, particularmente em temas com pouca cobertura estabelecida.
Dicas para usuários evitarem armadilhas
Consulte sempre as fontes citadas nas respostas das IAs. Evite decisões baseadas unicamente em chatbots para temas sensíveis. Prefira buscas tradicionais ou sites oficiais quando possível.