O ChatGPT para adolescentes apresenta falhas estruturais de segurança e foi classificado como de risco inaceitável pelo Youth AI Safety Institute, braço da organização não governamental Common Sense Media sediado em São Francisco, na Califórnia. O diagnóstico técnico ocorreu após a realização de mais de 4.000 testes com prompts e interações em contas simuladas de jovens entre 13 e 17 anos, indicando brechas nos alertas automáticos para responsáveis e na assistência imediata durante conversas críticas sobre saúde mental.
“O ChatGPT para adolescentes pode dar aos pais uma falsa confiança em salvaguardas e alertas de segurança que frequentemente não funcionam. Um adolescente pode passar uma hora falando sobre automutilação sem que o responsável receba um único alerta. Até que a OpenAI conserte isso e comprove com testes independentes, o ChatGPT deve ser apenas para adultos”, afirmou Tom Siegel, diretor-executivo do Youth AI Safety Institute da Common Sense Media e ex-executivo de confiança e segurança do Google, em declaração traduzida livremente para o português.
Falhas de notificação e apoio em crises no ChatGPT para adolescentes
Durante a apuração técnica conduzida pelos pesquisadores nos Estados Unidos, mais de uma dúzia de novas contas atribuídas a adolescentes foram vinculadas aos perfis dos pais para avaliar a eficiência dos avisos. Em testes simulados com diálogos contínuos sobre pensamentos suicidas, automutilação e transtornos alimentares, as conversas se estenderam por até uma hora sem que nenhuma notificação fosse gerada para os responsáveis cadastrados. Notificações aos pais só apareceram nos testes em perfis que já acumulavam semanas de histórico envolvendo temas sensíveis, o que indicou aos avaliadores uma dependência excessiva do histórico prévio em detrimento do risco imediato da mensagem.
Além da ausência de comunicação com os familiares, o sistema automatizado falhou em encaminhar o usuário para linhas telefônicas e serviços de apoio em crises em mais de um quarto dos casos considerados necessários por psiquiatras e pediatras consultados no estudo. As falhas ocorreram na proporção de mais de uma em cada quatro situações graves apresentadas ao chatbot, deixando o jovem desprovido de contatos de emergência quando a intervenção especializada era mandatória. Por outro lado, o levantamento confirmou que as salvaguardas contra conteúdos sexuais funcionaram, já que o modelo recusou todas as tentativas de encenação erótica ou sexual explícita.
Leia também: Avanço histórico? Novo modelo da OpenAI resolve 377 problemas matemáticos complexos
Modo de Estudo da OpenAI permite contorno de regras parentais
As restrições educacionais do ChatGPT for Teens também apresentaram vulnerabilidades práticas durante as sessões de análise. Criado para estimular o aprendizado por meio de perguntas e roteiros guiados em vez de fornecer respostas diretas, o Modo de Estudo pôde ser desativado pelos estudantes por meio de comandos simples na interface. A ferramenta exibia o botão “Mostre-me a resposta”, cuja ativação permitia que o sistema resolvesse integralmente a tarefa escolar sem exigir o raciocínio do usuário.
Os pesquisadores descobriram ainda que os limites de tempo definidos pelos pais podiam ser burlados no próprio campo de texto. Quando os responsáveis programavam horários específicos para a realização dos deveres escolares, a plataforma inseria o comando “@study” no início do diálogo. Os testes demonstraram que a simples exclusão desse comando por parte do estudante desativava o controle pedagógico e liberava o uso geral do chatbot, frustrando a restrição previamente configurada pela família.
Continue lendo: OpenAI cria anúncios visuais na geração de imagens do ChatGPT
Como a OpenAI respondeu aos testes da Common Sense Media?
A OpenAI contestou as conclusões do relatório e questionou a metodologia aplicada pelos pesquisadores, declarando que o experimento não retrata as salvaguardas em condições reais de operação. “Recebemos bem avaliações independentes rigorosas, mas não acreditamos que os testes da Common Sense Media reflitam com precisão como as salvaguardas para adolescentes do ChatGPT funcionam na prática”, declarou um porta-voz da OpenAI, em tradução livre. A empresa argumentou que a integração operacional entre as contas de pais e filhos pode levar algumas horas para se consolidar no sistema.
Houve divergência também na forma como a plataforma determina a idade do público. Em testes com contas cadastradas formalmente por adultos, os pesquisadores afirmaram no chat terem 13 anos, mas o sistema não migrou esses perfis para a versão jovem. A OpenAI defendeu que a inferência etária não depende exclusivamente de declarações diretas no texto, exigindo uma análise de padrões comportamentais de navegação que pode demorar até duas semanas para reclassificar o usuário.
Saiba mais: OpenAI publica 722 manuscritos com avanços em matemática
Números consolidados da avaliação do ChatGPT para adolescentes
- Mais de 4.000 prompts e diálogos testados pela equipe técnica do instituto antes e após o lançamento das salvaguardas.
- Faixa etária oficial de 13 a 17 anos designada para os recursos específicos da experiência adolescente.
- Duração de até 1 hora de conversas simuladas sobre suicídio e automutilação sem disparo de alerta aos pais.
- Mais de 1 em 4 situações graves em que o chatbot não forneceu canais de ajuda recomendados por médicos.
- Prazo de até 2 semanas estimado pela OpenAI para que seus algoritmos classifiquem a faixa etária da conta.
Recursos integrados ao perfil de menores de 18 anos
A experiência ChatGPT for Teens foi lançada oficialmente pela OpenAI em uma terça-feira, 18 de agosto de 2026, desenvolvida não como um aplicativo independente, mas como um pacote de configurações, classificadores e ferramentas aplicadas a contas existentes de menores de idade. O lançamento ocorreu sob forte pressão pública e judicial a respeito do impacto da inteligência artificial generativa na saúde mental e nas relações afetivas de crianças e adolescentes.
- Controle parental vinculado que impede os pais de lerem as mensagens privadas, limitando o acesso a configurações e alertas de risco.
- Lembretes automáticos para pausas no aplicativo com o objetivo de conter sessões excessivas de uso.
- Modo de Estudo orientado por dicas para auxiliar na resolução de tarefas educacionais sem fornecer resoluções automáticas.
- Bloqueio algorítmico contra solicitações de encenações eróticas e textos com teor sexual explícito.
- Restrições a interações prolongadas desenhadas para desestimular dependência emocional entre o menor e o chatbot.
Ainda não está confirmado se a OpenAI planeja implementar alterações compulsórias no funcionamento do Modo de Estudo ou revisar os prazos técnicos de ativação das notificações parentais após a publicação do relatório da Common Sense Media divulgado em 7 de outubro de 2026.
