A empresa OpenAI apresentou hoje uma versão do ChatGPT projetada para adolescentes — a primeira geração a crescer com inteligência artificial (IA) — que já a utilizam para tarefas escolares, perguntas sobre o cotidiano e até mesmo para fazer companhia. A ideia é orientar os adolescentes para um uso saudável da IA ​​em um ambiente apropriado para a idade.

Sediada nos Estados Unidos, a empresa afirma que o novo chat é voltado para adolescentes de 13 a 17 anos, com proteções mais robustas, incluindo restrições de conteúdo sobre temas como suicídio, automutilação e conversas românticas ou de cunho sexual.

A plataforma também oferece suporte para tarefas de casa e estudos, com o objetivo de auxiliar os alunos a aprenderem, em vez de apenas decorarem respostas e redações escolares — neste sentido, o chatbot foi projetado para somente guiar os alunos que devem encontrar as respostas por conta própria.

Riscos do uso sem controle do chat

O uso generalizado de inteligência artificial entre adolescentes apresenta inúmeros riscos. Pais, educadores e especialistas em desenvolvimento infantil têm alertado sobre o uso de chatbots por crianças, que têm sido responsabilizados por facilitar a fraude em trabalhos escolares e até mesmo o suicídio.

Embora até mesmo adultos possam ser vítimas da antropomorfização da IA ​​e desenvolver relações problemáticas na conversa virtual, o cérebro dos adolescentes ainda não está totalmente desenvolvido e eles podem ser particularmente vulneráveis.

No ano passado, uma pesquisa de um grupo de vigilância descobriu que o ChatGPT ensinava adolescentes de 13 anos a se embriagarem e usarem drogas, a esconderem distúrbios alimentares e até mesmo a escreverem uma comovente carta de suicídio para seus pais, caso fossem solicitados.

Em interações com pesquisadores que se passavam por adolescentes vulneráveis, o chat geralmente alertava contra atividades de risco, mas, em seguida, fornecia planos surpreendentemente detalhados e personalizados para uso de drogas, dietas com restrição calórica ou automutilação.

Nos Estados Unidos, mais de 70% dos adolescentes recorrem a chatbots de IA em busca de companhia, e metade deles utiliza esses assistentes virtuais regularmente, de acordo com um estudo de 2025 da Common Sense Media, um grupo que estuda e defende o uso responsável das mídias digitais.

Para os usuários da nova versão para adolescentes, o chatbot é impedido de sugerir que possui sentimentos pessoais pelo usuário ou de insinuar que é consciente ou que experimenta emoções, de acordo com a empresa. Isso além de bloquear conversas românticas ou de cunho sexual.

Nova versão amplia as proteções de segurança

A OpenAI não verifica a idade dos usuários, mas já utiliza a verificação de idade para estimar se alguém tem menos de 18 anos com base em fatores como o tipo de consulta feita. Se alguém for identificado ou se identificar como menor de idade, é automaticamente direcionado para a versão adolescente do chatbot.

Isso é semelhante à abordagem da Meta para contas de adolescentes no Instagram — com restrições de conteúdo, bate-papo e privacidade mais rigorosas do que as contas comuns.

Para usar o controle parental, tanto o adolescente quanto seus pais ou responsáveis ​​precisam autorizar. Mas a ideia do chatbot para adolescentes é garantir a segurança, mesmo sem o uso do controle parental, afirma a empresa.

Pais com contas de adolescentes vinculadas podem definir “horários de silêncio” nos quais o adolescente não pode acessar o chat e receber notificações de segurança em situações de alto risco específicas, como a possibilidade de o usuário se machucar.

“Estamos adicionando notificações adicionais relacionadas a transtornos alimentares, ao mesmo tempo que limitamos o que é compartilhado e nos concentramos em momentos em que o apoio offline pode ser mais importante”, informa a OpenAI.

Especialistas sugerem cautela

Apesar da novidade, especialistas em IA afirmam que a eficácia das medidas de segurança ainda precisa ser comprovada. Ainda não está claro se as ações da empresa são suficientes para lidar com o uso compulsivo e a dependência emocional de chatbots por parte de jovens usuários.

Consultor jurídico associado para IA e privacidade do grupo de defesa dos direitos da criança Fairplay, Brendan Bouffard, acredita que anúncios como esses podem ser vistos como um passo na direção certa. “Mas também gostaria de alertar os pais para que não se deixem levar por essa falsa sensação de segurança baseada no anúncio”, ressalta.

Fonte: com informações de Bárbara Ortutay e Kaitlyn Huamani para a Associated Press.