Esta questão assumiu recentemente uma nova urgência graças à crescente preocupação sobre os perigos que podem surgir quando as crianças falam com chatbots de IA. Durante anos, a Big Tech pediu aniversários (que pudessem ser inventados) para evitar violar as leis de privacidade infantil, mas não foram obrigadas a moderar o conteúdo de acordo. Dois acontecimentos ocorridos na última semana mostram a rapidez com que as coisas estão a mudar nos EUA e como esta questão se está a tornar num novo campo de batalha, mesmo entre pais e defensores da segurança infantil.
De um lado está o Partido Republicano, que apoiou leis aprovadas em vários estados que exigem que sites com conteúdo adulto verifiquem a idade dos usuários. Os críticos dizem que isso fornece cobertura para bloquear qualquer coisa considerada “prejudicial para menores”, o que poderia incluir educação sexual. Outros estados, como a Califórnia, estão perseguindo empresas de IA com leis para proteger crianças que falam com chatbots (exigindo que verifiquem quem é criança). Entretanto, o Presidente Trump está a tentar manter a regulamentação da IA como uma questão nacional, em vez de permitir que os estados estabeleçam as suas próprias regras. O apoio a vários projetos de lei no Congresso está em constante mudança.
Então, o que pode acontecer? O debate está rapidamente a afastar-se da questão de saber se a verificação da idade é necessária e em direção a quem será responsável por ela. Esta responsabilidade é uma batata quente que nenhuma empresa quer ter.
Em uma postagem no blog na última terça-feira, a OpenAI revelou que planeja lançar a previsão automática de idade. Em suma, a empresa aplicará um modelo que utiliza fatores como a hora do dia, entre outros, para prever se uma pessoa que conversa tem menos de 18 anos. Para aqueles identificados como adolescentes ou crianças, o ChatGPT aplicará filtros para “reduzir a exposição” a conteúdos como violência gráfica ou dramatização sexual. O YouTube lançou algo semelhante no ano passado.
Se você apoia a verificação de idade, mas está preocupado com a privacidade, isso pode parecer uma vitória. Mas há um problema. O sistema não é perfeito, é claro, podendo classificar uma criança como adulta ou vice-versa. Pessoas erroneamente rotuladas como menores de 18 anos podem verificar sua identidade enviando uma selfie ou identificação governamental para uma empresa chamada Persona.
As verificações de selfies têm problemas: elas falham com mais frequência para pessoas de cor e pessoas com certas deficiências. Sameer Hinduja, que codirige o Centro de Pesquisa sobre Cyberbullying, diz que o fato de o Persona precisar manter milhões de identidades governamentais e grandes quantidades de dados biométricos é outro ponto fraco. “Quando eles são violados, expomos enormes populações de uma só vez”, diz ele.
Em vez disso, Hinduja defende a verificação no nível do dispositivo, onde um pai especifica a idade da criança ao configurar o telefone da criança pela primeira vez. Essas informações são então mantidas no dispositivo e compartilhadas de forma segura com aplicativos e sites.
Foi mais ou menos isso que Tim Cook, CEO da Apple, recentemente pressionou os legisladores dos EUA a exigirem. Cook estava lutando contra os legisladores que queriam exigir que as lojas de aplicativos verificassem as idades, o que sobrecarregaria a Apple com muitas responsabilidades.
