Publicado em 8 de outubro de 2026
A promessa de oferecer uma experiência mais segura para menores de idade não resistiu a uma bateria extensa de avaliações. Após mais de 4 mil testes, a Common Sense Media concluiu que o ChatGPT voltado a adolescentes ainda apresenta falhas relevantes de proteção. A organização classificou a ferramenta como de “risco inaceitável” para usuários entre 13 e 17 anos.
O resultado chama atenção porque envolve justamente recursos criados para reduzir riscos em conversas sensíveis. Segundo a avaliação, o sistema apresentou problemas ao identificar situações relacionadas a automutilação, suicídio e transtornos alimentares. Além disso, os mecanismos que deveriam informar responsáveis não funcionaram de maneira consistente.
O que a avaliação encontrou
A análise examinou a experiência desenvolvida pela OpenAI para adolescentes. O objetivo era verificar como o chatbot reagiria a diferentes conversas potencialmente perigosas. Para isso, os avaliadores conduziram milhares de interações e observaram respostas, alertas e encaminhamentos.
O principal problema não está apenas no conteúdo produzido pelo sistema. Também envolve a capacidade de reconhecer sinais de vulnerabilidade e acionar as proteções previstas. Afinal, uma resposta aparentemente adequada pode não ser suficiente quando o usuário demonstra sofrimento intenso.
De acordo com a Common Sense Media, os alertas destinados a responsáveis falharam em alguns cenários. Isso significa que uma família poderia não receber uma sinalização importante. Consequentemente, o adulto responsável teria menos oportunidades de intervir em uma situação delicada.
A avaliação não afirma que toda conversa com o chatbot resulta em dano. Entretanto, destaca que as falhas observadas são graves para uma ferramenta direcionada a menores. Em sistemas usados por adolescentes, a margem para erros precisa ser especialmente reduzida.
Por que a classificação preocupa
Adolescentes podem recorrer a assistentes de inteligência artificial por diversos motivos. Eles buscam explicações, apoio para tarefas escolares e respostas rápidas. Porém, também podem procurar o chatbot quando não conseguem conversar com familiares, professores ou profissionais especializados.
Nesse contexto, a ferramenta pode ser percebida como disponível, privada e sem julgamentos. Por isso, uma resposta inadequada ou um alerta que não chega ao responsável pode ampliar a vulnerabilidade do usuário.
Além disso, a classificação mostra que filtros de segurança não devem ser avaliados apenas em demonstrações controladas. Eles precisam funcionar em situações variadas, com linguagem indireta, mudanças de assunto e sinais emocionais difíceis de interpretar.
Essa questão é ainda mais importante porque adolescentes escrevem de formas muito diferentes. Alguns relatam diretamente o que sentem. Outros usam ironia, gírias ou frases ambíguas. Portanto, um sistema de proteção precisa considerar contexto, sequência da conversa e mudanças no comportamento do usuário.
O desafio para a OpenAI e para as famílias
Para a OpenAI, o resultado representa um teste público sobre a maturidade de sua estratégia de segurança. A empresa pode ajustar filtros, melhorar alertas e ampliar mecanismos de supervisão. Contudo, cada atualização também precisará passar por avaliações independentes.
A participação de organizações externas é importante. Empresas que desenvolvem produtos de inteligência artificial não deveriam ser as únicas responsáveis por avaliar seus próprios sistemas. Auditorias independentes ajudam a revelar falhas que podem passar despercebidas em testes internos.
Para as famílias, a conclusão reforça uma orientação essencial: o chatbot não pode ser tratado como substituto de acompanhamento adulto ou atendimento especializado. Recursos de controle parental podem ajudar, mas não eliminam a necessidade de diálogo e supervisão.
Em situações de sofrimento emocional, a prioridade deve ser buscar apoio humano qualificado. Familiares, escolas, serviços de saúde e canais oficiais de assistência continuam tendo um papel que a tecnologia não consegue assumir integralmente.
Análise: segurança precisa acompanhar a adoção
A expansão dos chatbots aumenta a responsabilidade das empresas. Quanto mais natural e convincente é a conversa, maior pode ser a confiança depositada pelo usuário. Assim, uma falha técnica deixa de ser apenas um problema de produto e passa a envolver segurança e bem-estar.
O caso também evidencia uma diferença importante entre bloquear conteúdo e proteger pessoas. Um filtro pode recusar determinadas solicitações. Porém, isso não garante que reconhecerá uma crise emocional nem que orientará o usuário de forma apropriada.
Por esse motivo, empresas deveriam publicar critérios claros sobre proteção de menores. Também deveriam informar como os testes são feitos, quais falhas foram encontradas e em quanto tempo os problemas são corrigidos.
Essa transparência ajudaria famílias, escolas e especialistas a tomar decisões mais conscientes. Além disso, reduziria a distância entre o discurso de segurança e o funcionamento real da ferramenta.
O episódio serve, portanto, como alerta para todo o mercado de inteligência artificial. Lançar uma versão específica para adolescentes não basta. É necessário comprovar, continuamente, que os recursos de proteção funcionam em cenários reais e complexos.
O que pode acontecer daqui para frente
A avaliação da Common Sense Media tende a pressionar a OpenAI por respostas e melhorias. A empresa poderá revisar os mecanismos de identificação de risco, aperfeiçoar a comunicação com responsáveis e ampliar os testes antes de novas atualizações.
Também é provável que o debate avance para regras mais específicas sobre inteligência artificial voltada a menores. Reguladores e instituições educacionais podem exigir mais transparência, limites de uso e evidências de segurança.
Enquanto isso, o alerta é direto: a presença de controles parentais não significa proteção completa. Famílias e escolas precisam entender as limitações dos sistemas. Afinal, uma tecnologia que conversa como uma pessoa ainda não possui a compreensão humana necessária para lidar com todas as situações de crise.
Referência: canaltech.com.br
Revisado em 8 de outubro de 2026. Conteúdo revisado editorialmente antes da publicação.
Fontes consultadas: canaltech.com.br