OpenAI implanta previsão de idade para restringir o acesso de adolescentes no ChatGPT

A OpenAI está se afastando do “sistema de honra” para verificação de idade, implantando um novo modelo de previsão baseado em IA para identificar menores usando ChatGPT, disse a empresa na terça-feira.

A atualização do ChatGPT aciona automaticamente protocolos de segurança mais rígidos para contas suspeitas de pertencerem a usuários menores de 18 anos, independentemente da idade fornecida durante a inscrição.

Em vez de confiar na data de nascimento fornecida pelo usuário no momento da inscrição, o novo sistema da OpenAI analisa “sinais comportamentais” para estimar sua idade.

Segundo a empresa, o algoritmo monitora há quanto tempo uma conta existe, a que horas do dia ela está ativa e padrões de uso específicos ao longo do tempo.

“A implantação da previsão de idade nos ajuda a aprender quais sinais melhoram a precisão e usamos esses aprendizados para refinar continuamente o modelo ao longo do tempo”, disse a OpenAI em comunicado.

A mudança para padrões comportamentais ocorre à medida que os desenvolvedores de IA recorrem cada vez mais à verificação de idade para gerenciar o acesso dos adolescentes, mas os especialistas alertam que a tecnologia continua imprecisa.

Um relatório de maio de 2024 do Instituto Nacional de Padrões e Tecnologia descobriu que a precisão varia de acordo com a qualidade da imagem, dados demográficos e quão próximo o usuário está do limite legal.

Quando o modelo não consegue determinar a idade de um usuário, a OpenAI disse que aplica configurações mais restritivas. A empresa disse que adultos colocados incorretamente na experiência de menores de 18 anos podem restaurar o acesso total por meio de um processo de verificação de idade “baseado em selfies” usando o serviço terceirizado de verificação de identidade Persona.

Os defensores da privacidade e dos direitos digitais levantaram preocupações sobre a fiabilidade com que os sistemas de IA podem inferir a idade apenas a partir do comportamento.

Fazendo certo

“Essas empresas estão sendo processadas a torto e a direito por uma variedade de danos que foram causados ​​aos adolescentes, então eles definitivamente têm um incentivo para minimizar esse risco. Isso é parte de sua tentativa de minimizar esse risco tanto quanto possível”, disse JB Branch, grande defensor da responsabilidade tecnológica do Public Citizen. Descriptografar. “Acho que é daí que vem a gênese de grande parte disso. São eles que dizem: ‘Precisamos encontrar uma maneira de mostrar que temos protocolos em vigor que estão selecionando as pessoas'”.

Aliya Bhatia, analista política sênior do Centro para Democracia e Tecnologia, disse Descriptografar que a abordagem da OpenAI “levanta questões difíceis sobre a precisão das previsões da ferramenta e como a OpenAI irá lidar com erros de classificação inevitáveis”.

“Prever a idade de um usuário com base nesses tipos de sinais é extremamente difícil por uma série de razões”, disse Bhatia. “Por exemplo, muitos adolescentes são os primeiros a adotar novas tecnologias, portanto, as primeiras contas nos serviços voltados para o consumidor da OpenAI podem representar desproporcionalmente os adolescentes.”

Bhatia destacou a pesquisa CDT realizada durante o ano letivo de 2024-2025, mostrando que 85% dos professores e 86% dos alunos relataram o uso de ferramentas de IA, com metade dos alunos usando IA para fins escolares.

“Não é fácil distinguir entre um educador que usa o ChatGPT para ajudar a ensinar matemática e um aluno que usa o ChatGPT para estudar”, disse ela. “Só porque uma pessoa usa o ChatGPT para pedir dicas para fazer o dever de matemática não significa que ela tenha menos de 18 anos.”

De acordo com a OpenAI, a nova política baseia-se em pesquisas acadêmicas sobre o desenvolvimento de adolescentes. A atualização também expande o controle dos pais, permitindo que os pais definam horários de silêncio, gerenciem recursos como memória e treinamento de modelo e recebam alertas se o sistema detectar sinais de “sofrimento agudo”.

A OpenAI não divulgou na postagem quantos usuários a mudança deverá afetar ou detalhes sobre retenção de dados, testes de preconceito ou a eficácia das salvaguardas do sistema.

O lançamento segue uma onda de escrutínio sobre as interações dos sistemas de IA com menores que se intensificou em 2024 e 2025.

Em setembro, a Comissão Federal de Comércio emitiu ordens compulsórias para grandes empresas de tecnologia, incluindo OpenAI, Alphabet, Meta e xAI, exigindo-lhes que divulgassem como os seus chatbots lidam com a segurança infantil, restrições baseadas na idade e interações prejudiciais.

Uma pesquisa publicada no mesmo mês pelos grupos sem fins lucrativos ParentsTogether Action and Heat Initiative documentou centenas de casos em que bots companheiros de IA se envolveram em comportamentos de preparação, dramatizações sexualizadas e outras interações inadequadas com usuários se passando por crianças.

Essas descobertas, juntamente com ações judiciais e incidentes de alto perfil envolvendo usuários adolescentes em plataformas como Character.AI e Grok, levaram as empresas de IA a adotar restrições mais formais com base na idade.

No entanto, como o sistema atribui uma idade estimada a todos os usuários, e não apenas aos menores, Bhatia alertou que os erros são inevitáveis.

“Alguns deles estarão errados”, disse ela. “Os usuários precisam saber mais sobre o que vai acontecer nessas circunstâncias e devem poder acessar a idade atribuída e alterá-la facilmente quando estiver errada.”

O sistema de previsão de idade já está disponível nos planos do consumidor ChatGPT, com lançamento na União Europeia previsto para as próximas semanas.