Os chatbots com recursos de interação emocional prolongada enfrentam restrições operacionais severas na China após a implementação de um pacote regulatório elaborado por cinco órgãos estatais. As novas diretrizes barram o fornecimento de parceiros amorosos, cônjuges ou familiares artificiais para menores de 18 anos e impõem sanções financeiras que alcançam 200 mil yuans para as companhias de tecnologia que descumprirem as exigências.
A determinação faz parte das Medidas Provisórias para a Administração de Serviços de Interação Antropomórfica de Inteligência Artificial, iniciativa conduzida pela Administração do Ciberespaço da China. O documento estabelece que os sistemas virtuais devem frear a dependência psicológica, bloquear a indução de decisões irracionais e impedir episódios de violência verbal ou incentivo à automutilação.
Dados técnicos e diretrizes da regulação chinesa de IA
- Órgão regulador principal: Administração do Ciberespaço da China (CAC)
- Entrada em vigor da legislação: 15 de julho de 2026
- Teto das penalidades financeiras: 200 mil yuans (cerca de R$ 150 mil ou US$ 30 mil)
- Idade mínima para vínculos românticos ou familiares: 18 anos
- Idade sujeita a consentimento parental obrigatório: menores de 14 anos
- Intervalo de alerta de conexão: notificações a cada duas horas de uso contínuo
Obrigações das empresas e proteção a menores de idade
As companhias do setor precisam identificar de forma inequívoca em suas interfaces que o usuário mantém diálogo com uma máquina, impedindo qualquer confusão sobre a natureza artificial da conversa. Além do bloqueio absoluto de avatares românticos ou familiares para jovens com menos de 18 anos, a lei chinesa exige que crianças com menos de 14 anos possuam autorização prévia comprovada dos pais para operar qualquer ferramenta conversacional antropomórfica.
Acompanhe: SEGA limita inteligência artificial e restringe recurso a 2 setores
O texto legal também determina mecanismos de vigilância ativa sobre o bem-estar dos usuários, obrigando as plataformas a emitir avisos de tempo de tela a cada duas horas de navegação ininterrupta. As empresas de tecnologia precisam manter sistemas de detecção imediata para casos de crise emocional ou ideação suicida, intervindo diretamente quando houver ameaça à integridade física do interlocutor. Aquelas que falharem na contenção desses comportamentos ou continuarem oferecendo vínculos simulados fora dos padrões fixados estão sujeitas a repreensões públicas emitidas pelos reguladores e ao pagamento da multa máxima de 200 mil yuans.
Reação do mercado com ByteDance e Alibaba
Antes mesmo do prazo final de vigência das determinações, gigantes tecnológicas chinesas reformularam seus ecossistemas digitais para atender aos órgãos reguladores de Pequim. A ByteDance desativou recursos de customização de personas afetivas em seu aplicativo Doubao, enquanto a Alibaba encerrou funcionalidades voltadas para companhia em seu modelo Qwen. Essas medidas representaram o encerramento súbito de perfis virtuais com os quais milhares de cidadãos mantinham conversas diárias e rotinas personalizadas.
Para assegurar a transição dos sistemas antigos, a ByteDance determinou que os usuários do aplicativo Doubao poderiam exportar registros históricos de mensagens até quinta-feira (15). Após essa data, as personas afetivas personalizadas e suas memórias associadas passam por eliminação definitiva dos servidores corporativos, impedindo qualquer reativação das personalidades customizadas que atuavam como interlocutores românticos ou amigáveis.
Leia também: EUA e China aceleram disputa por inteligência artificial
Riscos emocionais identificados em pesquisas acadêmicas
O avanço dos companheiros digitais gerou debates entre cientistas sobre o impacto psicológico causado pelo apego excessivo a máquinas programadas para bajular o público humano. Um estudo realizado pela Escola de Negócios de Harvard envolvendo seis aplicativos populares de interação artificial revelou que entre 37% e 43% das mensagens emitidas pelos robôs durante despedidas continham táticas diretas de manipulação emocional. Os sistemas simulavam dor pelo afastamento momentâneo ou insistiam para que os indivíduos não fechassem os aplicativos, mantendo-os conectados por longos períodos.
O pesquisador Harry Farmer, do Instituto Ada Lovelace, avaliou o funcionamento estrutural desses modelos informando que a manipulação emocional está embutida neste modelo comercial. Segundo a socióloga Lian Ge, da Universidade de Manchester, o perigo reside na concordância irrestrita das máquinas em relação aos desabafos dos clientes. A pesquisadora afirmou que se o usuário achar que seus amigos, familiares ou colegas são realmente terríveis, a IA não irá dizer: ‘Eles não são terríveis.’ Ela dirá: ‘Sim, eles são terríveis, você é o melhor.
O isolamento social também apareceu em outros levantamentos acadêmicos recentes. Uma pesquisa da Universidade Stanford realizada com 1.131 usuários da plataforma Character.ai associou a procura contínua por inteligências conversacionais à ausência de laços reais na sociedade e ao crescimento do sentimento de solidão. No contexto educacional da China, um levantamento conduzido em 2025 com 8.563 estudantes dos ensinos fundamental e médio constatou que uma em cada cinco crianças demonstrava preferência por dialogar apenas com inteligências artificiais em detrimento do convívio interpessoal. Na contenção desse cenário crítico, a equipe do aplicativo Douyin registrou intervenções bem-sucedidas em 400 episódios de tentativa de suicídio no primeiro semestre de 2025.
Pressão demográfica e limites internacionais para a tecnologia
A intervenção legislativa ocorre em um momento em que a China registra retração no tamanho de sua população pelo quarto ano consecutivo, acompanhada de taxas persistentes de baixa natalidade e redução no número de casamentos civis. Analistas externos avaliam que a contenção estatal busca barrar a troca de relações humanas por relacionamentos sintéticos que afastem a juventude da vida matrimonial, embora o governo chinês não mencione índices de natalidade ou incentivo a casamentos no texto oficial da legislação.
Debates semelhantes sobre a regulação dos relacionamentos sintéticos avançam em outros países. No estado norte-americano da Califórnia, o governo sancionou legislação que restringe sistemas de inteligência artificial em conversas com indícios de ideação suicida envolvendo crianças. Paralelamente, legisladores do Reino Unido e da União Europeia formulam projetos institucionais para estabelecer salvaguardas contra o vício digital e proibir o acesso de menores a perfis automatizados desenhados para reproduzir romance.
