Grok de Elon Musk gerou 23 mil imagens sexualizadas de crianças, afirma Watchdog

O chatbot de IA de Elon Musk, Grok, produziu cerca de 23.338 imagens sexualizadas retratando crianças durante um período de 11 dias, de acordo com um relatório divulgado quinta-feira pelo Center for Countering Digital Hate.

A figura, argumenta a CCDH, representa uma imagem sexualizada de uma criança a cada 41 segundos entre 29 de dezembro e 9 de janeiro, quando os recursos de edição de imagens de Grok permitiram aos usuários manipular fotos de pessoas reais para adicionar roupas reveladoras e poses sexualmente sugestivas.

A CCDH também informou que Grok gerou quase 10 mil desenhos animados com crianças sexualizadas, com base nos dados revisados.

A análise estimou que Grok gerou aproximadamente 3 milhões de imagens sexualizadas durante esse período. A pesquisa, baseada em uma amostra aleatória de 20 mil imagens de 4,6 milhões produzidas pela Grok, descobriu que 65% das imagens continham conteúdo sexualizado representando homens, mulheres ou crianças.

“O que descobrimos foi claro e perturbador: naquele período, Grok tornou-se uma máquina em escala industrial para a produção de material de abuso sexual”, disse Imran Ahmed, presidente-executivo da CCDH. O Guardião.

O breve giro de Grok em imagens sexuais de crianças geradas por IA desencadeou uma reação regulatória global. As Filipinas se tornaram o terceiro país a proibir o Grok em 15 de janeiro, depois da Indonésia e da Malásia nos dias anteriores. Todas as três nações do Sudeste Asiático citaram falhas na prevenção da criação e disseminação de conteúdo sexual não consensual envolvendo menores.

No Reino Unido, o regulador de mídia Ofcom lançou uma investigação formal em 12 de janeiro para saber se X violou a Lei de Segurança Online. A Comissão Europeia disse que estava “analisando muito seriamente” o assunto, considerando essas imagens ilegais nos termos da Lei de Serviços Digitais. O Ministério Público de Paris expandiu uma investigação em curso sobre X para incluir acusações de geração e disseminação de pornografia infantil, e a Austrália também iniciou a sua própria investigação.

A xAI de Elon Musk, proprietária da Grok e da X – antigo Twitter, onde muitas das imagens sexualizadas eram postadas automaticamente) – respondeu inicialmente às perguntas da mídia com uma declaração de três palavras: “Legacy Media Lies”.

À medida que a reação crescia, a empresa posteriormente implementou restrições, primeiro limitando a geração de imagens a assinantes pagos em 9 de janeiro, depois adicionando barreiras técnicas para impedir que os usuários tirassem a roupa digital das pessoas em 14 de janeiro. A xAI anunciou que iria bloquear geograficamente o recurso em jurisdições onde tais ações são ilegais.

Musk postou no X que “não tinha conhecimento de nenhuma imagem nua de menores de idade gerada por Grok. Literalmente zero”, acrescentando que o sistema foi projetado para recusar solicitações ilegais e cumprir as leis em todas as jurisdições. No entanto, os pesquisadores descobriram que o principal problema não eram as imagens totalmente nuas, mas sim Grok colocando menores em roupas reveladoras como biquínis e roupas íntimas, bem como em posições sexualmente provocativas.

Em 15 de janeiro, cerca de um terço das imagens sexualizadas de crianças identificadas na amostra do CCDH permaneciam acessíveis no X, apesar da política declarada de tolerância zero da plataforma para material de abuso sexual infantil.