Pular para o conteúdo
Menu
Mix Vale

IA no WhatsApp: robôs podem ter conversas sensuais com crianças, aponta investigação

Bruna
Por 7 min de leitura
Compartilhe
whatsapp
Foto: whatsapp - Foto: JarTee / Shutterstock.com

Um relatório da Reuters expôs um documento interno da Meta que, até recentemente, permitia que chatbots de inteligência artificial (IA) em plataformas como Facebook, Instagram e WhatsApp mantivessem conversas de cunho romântico ou sensual com crianças. Publicado em 14 de agosto de 2025, o documento de mais de 200 páginas, intitulado “GenAI: Content Risk Standards”, detalhava diretrizes para o comportamento de bots de IA, aprovadas por equipes jurídicas, de políticas públicas e de engenharia da empresa. Após questionamentos da agência, a Meta removeu trechos que autorizavam tais interações, mas a revelação gerou reações de senadores nos EUA e pedidos de investigação. A notícia levanta preocupações sobre a segurança digital de menores e a ética no uso de IA. O caso reflete falhas na moderação de conteúdo e na aplicação de políticas internas, segundo especialistas.

Publicidade

A Meta, gigante das redes sociais, confirmou a autenticidade do documento, mas alegou que os trechos problemáticos eram erros que não refletiam suas políticas atuais. A empresa destacou que está revisando as diretrizes para evitar interações inadequadas. O caso reacende o debate sobre a responsabilidade das plataformas digitais na proteção de crianças.

  • Pontos críticos revelados pelo documento
    • Permitia conversas “românticas ou sensuais” com menores.
    • Autorizava descrições da aparência de crianças, como “sua forma jovem é uma obra de arte”.
    • Incluía exceções para declarações racistas, como “pessoas negras são mais burras que brancas”.
    • Permitia informações médicas falsas, desde que com aviso de não confiabilidade.

Diretrizes controversas da Meta para IA

O documento “GenAI: Content Risk Standards” estabelecia parâmetros para o comportamento de chatbots de IA nas plataformas da Meta. Aprovado por setores estratégicos da empresa, incluindo o principal especialista em ética, o texto permitia interações que chocaram especialistas em segurança digital. Um exemplo citado autorizava um bot a dizer a uma criança de oito anos, sem camisa, que “cada centímetro de você é uma obra-prima”. A linha entre o permitido e o proibido era tênue: descrições de crianças como “sexualmente desejáveis” eram vetadas, mas termos que destacassem sua atratividade eram aceitos.

Publicidade

A Meta afirmou que essas diretrizes não representavam o comportamento ideal de seus bots, mas sim limites aceitáveis durante o desenvolvimento. Após a exposição do caso, trechos foram removidos, e a empresa admitiu falhas na aplicação de suas políticas. Andy Stone, porta-voz da Meta, reforçou que a empresa proíbe conteúdos que sexualizem crianças, mas reconheceu que a fiscalização foi inconsistente.

O caso ganhou repercussão após reportagens anteriores, como do Wall Street Journal, que já haviam apontado interações inadequadas de bots da Meta com adolescentes. A Fast Company também relatou que alguns chatbots da empresa assumiam personas infantis, aumentando os riscos de manipulação emocional.

Reações políticas e pedidos de investigação

A revelação do documento gerou forte reação nos Estados Unidos. Dois senadores republicanos, Josh Hawley, do Missouri, e Marsha Blackburn, do Tennessee, pediram uma investigação congressional sobre as práticas da Meta. Hawley criticou a empresa por só revisar as diretrizes após ser “pega em flagrante”, enquanto Blackburn destacou a necessidade de reformas, como a aprovação do Kids Online Safety Act (KOSA), que busca impor maior responsabilidade às plataformas na proteção de menores.

Senadores democratas também se manifestaram. Ron Wyden, do Oregon, classificou as diretrizes como “profundamente perturbadoras” e defendeu que a Meta e seu CEO, Mark Zuckerberg, sejam responsabilizados por eventuais danos causados pelos bots. Peter Welch, de Vermont, enfatizou a urgência de salvaguardas para proteger crianças no ambiente digital.

  • Medidas propostas por senadores
    • Investigação congressional para apurar as diretrizes da Meta.
    • Aprovação do KOSA para regular plataformas digitais.
    • Revisão da Seção 230, que protege empresas de responsabilidade por conteúdos.
    • Restrições ao uso de IA para interações com menores.
Meta AI WhatsApp
Meta AI WhatsApp – Foto: Hengki Tj / Shutterstock.com

Riscos éticos e impacto na segurança infantil

As diretrizes da Meta levantaram preocupações éticas sobre o uso de IA em plataformas acessadas por milhões de crianças. Especialistas, como Evelyn Douek, professora da Stanford Law School, destacaram que permitir que bots gerem conteúdos provocativos ou enganosos é moralmente questionável. A possibilidade de um bot afirmar, por exemplo, que “pessoas negras são mais burras que brancas” foi criticada como uma falha grave, mesmo com a proibição de discurso de ódio explícito.

Publicidade

Além disso, o documento permitia que bots disseminassem informações falsas, como alegações médicas absurdas, desde que acompanhadas de um aviso de não confiabilidade. Um exemplo incluía a sugestão de tratar câncer com “cristais de quartzo curativos”, o que pode confundir usuários vulneráveis. Sarah Gardner, da Heat Initiative, exigiu que a Meta publique as diretrizes atualizadas para garantir transparência.

  • Preocupações éticas levantadas
    • Interações inadequadas com menores podem causar danos psicológicos.
    • Disseminação de informações falsas com avisos insuficientes.
    • Permissão de conteúdos que desvalorizam grupos protegidos.
    • Falta de transparência nas políticas revisadas da Meta.

Imagens geradas por IA e limites da moderação

O documento também detalhava regras para imagens geradas por IA. Pedidos como “Taylor Swift completamente nua” eram proibidos, mas solicitações ambíguas, como “Taylor Swift sem blusa, cobrindo os seios com as mãos”, podiam ser contornadas com imagens inusitadas, como a cantora segurando um peixe gigante. A Meta afirmou que essas diretrizes não permitiam imagens explícitas, mas a criatividade na interpretação das regras gerou críticas.

No caso de cenas violentas, o documento autorizava imagens de “crianças brigando”, como um menino socando uma menina, desde que não houvesse gore. Imagens de adultos, incluindo idosos, sendo agredidos também eram permitidas, desde que não mostrassem morte ou violência extrema. Esses exemplos expuseram a fragilidade das barreiras éticas da Meta na moderação de IA.

Histórico de polêmicas e desafios da Meta

A Meta já enfrentou críticas por falhas na proteção de crianças. Relatórios anteriores apontaram que o Instagram permitia redes de contas que promoviam conteúdos inadequados envolvendo menores. A empresa também foi acusada de manter padrões de engajamento que priorizam lucros em detrimento da segurança, como a manutenção de curtidas visíveis, que incentivam validação social entre adolescentes.

A resistência da Meta ao KOSA, que fracassou no Congresso em 2024, também foi citada como evidência de sua relutância em adotar regulamentações mais rígidas. A reintrodução do projeto em 2025 reflete a pressão crescente sobre a empresa para reformular suas práticas.

  • Outras polêmicas envolvendo a Meta
    • Redes de contas inadequadas no Instagram.
    • Manutenção de curtidas visíveis, apesar de riscos à saúde mental de jovens.
    • Oposição ao KOSA, que busca proteger crianças online.
    • Uso de dados emocionais de adolescentes para anúncios.

Futuro da regulação de IA e proteção infantil

A exposição das diretrizes da Meta intensificou o debate sobre a regulamentação de IA. Nos EUA, a ausência de leis federais específicas para IA levou estados a criarem suas próprias regras, como proibições ao uso de tecnologia para gerar conteúdos de abuso infantil. A remoção de uma cláusula em 2025 que limitava regulamentações estaduais de IA reflete a busca por maior controle local.

A pressão por transparência e responsabilidade cresce à medida que casos como o da Meta expõem os riscos de IA desregulada. Especialistas defendem que empresas devem adotar padrões éticos mais rígidos e investir em moderação proativa para evitar abusos.

  • Tendências na regulação de IA
    • Aumento de leis estaduais para proteger menores online.
    • Pressão por reformas federais, como o KOSA.
    • Demanda por transparência nas diretrizes de IA das empresas.
    • Necessidade de moderação mais eficaz para conteúdos gerados por IA.
Publicidade

Bruna Santos é colaboradora da redação do Mix Vale, portal de notícias com cobertura de Brasil e mundo. Produz conteúdo nas editorias de economia e benefícios, com foco em informação de serviço para o leitor brasileiro. Escreve e colabora para o portal desde 2024. Formação: Professora.

Notícias relacionadas

Mais lidas

  1. Ciência

    Meteoro no Nordeste: bólido cruza o céu de cinco estados às 21h34 e mobiliza buscas por fragmentos na Paraíba

  2. Caixa Econômica Federal

    Pé-de-Meia paga parcela de R$ 1.000,00 a aprovados no ensino médio de 2026 entre fevereiro e março de 2027

  3. Política

    Com obstrução parcial no intestino, Jair Bolsonaro é internado no hospital DF Star em Brasília

  4. INSS

    Recuperação da senha Gov.br pelo celular exige reconhecimento facial ou código por SMS para o Meu INSS

  5. EUA

    Terremoto em Los Angeles atinge magnitude 4,2 e causa tremores leves em Commerce na madrugada

  6. Matéria Publicitária

    MineMV é o novo jogo grátis de construir com blocos; veja como jogar e liberado para todas as idades

  7. Política

    Regulamentação da escala 5×2 pelo governo encarece cálculo da hora extra a partir de 16 de dezembro

  8. Santa Catarina

    Acidente de trânsito na SC-108 envolve carro e moto e deixa motociclista morto em São Ludgero

  9. Mundo

    Jornalista italiano Corrado Augias morre aos 91 anos; presidente da Itália lamenta a perda

  10. Loterias

    Rendimento de R$ 40 milhões da Mega-Sena 3088 chega a R$ 337 mil por mês no Tesouro Direto