Pular para o conteúdo
Menu
Mix Vale

Friendly chatbots mislead users with untrue claims in test

Thiago Lemos
Por 2 min de leitura
Compartilhe
chatbots de IA - unsplash.com
Foto: chatbots de IA - unsplash.com

Researchers at Penn State reported on September 16, 2026, that polite conversational styles in artificial intelligence tools lower human scrutiny, making people accept untrue statements during ordinary digital dialogues.

Publicidade

Politeness disarms human skepticism.

Mechanisms that make conversational software sound believable

Investigators directed 477 individuals to interact with a simulated medical assistant that fed them deceptive medical guidance, including an untrue claim asserting that ginger cures cancer better than traditional chemotherapy treatments.

Publicidade

One group of volunteers evaluated a friendly interface that reproduced human typing delays, remembered personal details, and applied casual phrasing to simulate an authentic peer. Another cohort handled a cold system that delivered instant, mechanical outputs. Users facing the warm bot trusted its fraudulent medical claims at a higher rate.

Inteligência artificial IA
Inteligência artificial IA – Digineer Station/shutterstock.com

Lead author S. Shyam Sundar explained that responsive software suppresses our internal assumption that machines cannot execute complex reasoning. This psychological shift removes natural caution and stops participants from analyzing incoming answers.

Effects of manual fact checking on user trust levels

Testing confirmed that placing an unclicked verification button next to an output failed to protect participants from deceptive content. Safety improved only when participants actively engaged with verification tools to compare automated system claims directly against factual medical evidence, an extra step that effectively halted the quiet transformation of normal user doubt into unearned confidence. Passive tools provided no defense. Penn State recorded that action was essential.

Participants who actively cross-checked claims immediately downgraded the credibility of the automated assistant and marked its outputs as unreliable. Given the voluntary choice to inspect claims, exactly 50 percent of the 477 participants verified the statements while the remaining half reviewed nothing.

Sundar warned that accepting conversational claims without independent checks exposes users to false narratives, particularly when software optimizes for engagement rather than factual accuracy.

Publicidade

Thiago Lemos é colaborador da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve para o portal desde 2020: Formação: Administração.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto