Em resumo
- Um porta-voz da UE classificou as imagens sexualizadas de crianças de Grok como “ilegais” nos comentários de segunda-feira. - Os reguladores globais também estão lançando investigações enquanto a xAI ignora a indignação crescente.
- Violações repetidas do DSA e salvaguardas fracas colocam X e Grok em sério risco legal.
A Comissão Europeia acaba de dizer a Elon Musk o que todos já sabiam: criar imagens sexualizadas de crianças não é “picante”. É ilegal.
“Estamos cientes do facto de que X ou Grok estão agora a oferecer um ‘Modo Picante’ que mostra conteúdo sexual explícito com alguma saída gerada com imagens infantis”, disse o porta-voz da Comissão Europeia, Thomas Regnier, na segunda-feira, numa conferência de imprensa em Bruxelas. “Isto não é picante. Isto é ilegal. Isto é terrível. Isto é nojento. Isto não tem lugar na Europa.”
A declaração marca uma escalada numa controvérsia que, como Descriptografar relatado anteriormente, viu o chatbot do xAI gerar deepfakes não consensuais de mulheres, tornar-se uma ferramenta de marketing para criadores de OnlyFans e manipular imagens para fins políticos.
Regnier deixou claro que esta não é a primeira ofensa de Grok. A Comissão enviou anteriormente pedidos de informação depois de o chatbot ter gerado conteúdo de negação do Holocausto no ano passado – outro crime em vários países europeus.
“Penso que X está muito consciente de que levamos muito a sério a aplicação dos DSA”, disse um porta-voz da UE à Euronews, referindo-se à Lei dos Serviços Digitais. “Eles vão se lembrar da multa que receberam de nós.”
A multa de dezembro foi de 120 milhões de euros (140 milhões de dólares) – a primeira multa de sempre ao abrigo da DSA. A Comissão decidiu que X violou os requisitos de transparência em torno do seu sistema de marca de verificação azul, repositório de publicidade e acesso a dados para investigadores. X continua sob investigação ativa da DSA por conteúdo ilegal e desinformação.
Musk chamou a multa de “besteira” e disse que iria contestá-la.
A França também expandiu uma investigação criminal para incluir acusações de que Grok gera pornografia infantil. O Ofcom da Grã-Bretanha emitiu exigências urgentes na segunda-feira para que X explicasse como Grok produziu essas imagens. O Ministério de TI da Índia deu a X até 5 de janeiro para fornecer uma revisão abrangente de segurança, e a Malásia abriu sua própria investigação.
O eurodeputado holandês Jeroen Lenaers vai ao cerne da abordagem da xAI. “Se as plataformas de IA decidirem permitir a geração de conteúdo erótico, salvaguardas robustas, eficazes e verificáveis de forma independente devem ser implementadas antecipadamente”, disse Lenaers na terça-feira.
Lenaers acrescentou que confiar na remoção de material de abuso sexual infantil após a sua criação não é suficiente porque “o dano às vítimas já foi infligido e não pode ser desfeito”.
Foi exatamente isso que aconteceu. Como Descriptografar relatado, Grok postou imagens sexualizadas de menores antes de removê-las. O chatbot pediu desculpas na semana passada por gerar imagens de meninas de 12 a 16 anos, chamando os incidentes de “lapsos nas salvaguardas”.
A resposta da xAI à crescente pressão internacional? Quando Reuters Quando solicitada a comentar, a empresa respondeu: “Mentiras da mídia legada”.
Várias investigações regulatórias ameaçam agora essa estratégia. A DSA permite multas de até 6% da receita anual global por violações. A multa de dezembro de X foi calculada usando uma porcentagem menor para infrações primárias. As violações repetidas podem custar exponencialmente mais.
A reação política de Washington após o primeiro conjunto de multas foi imediata. O vice-presidente JD Vance postou que a UE “deveria apoiar a liberdade de expressão e não atacar as empresas americanas por causa do lixo”. O secretário de Estado, Marco Rubio, classificou a multa de dezembro da DSA como um “ataque ao povo americano”.
Circulam rumores de que a comissão da UE multará X em centenas de milhões de dólares por não praticar censura. A UE deveria apoiar a liberdade de expressão e não atacar as empresas americanas por causa do lixo.
-JD Vance (@JDVance) 4 de dezembro de 2025
Mas os reguladores europeus não aceitam a defesa da liberdade de expressão quando se trata de material de abuso sexual infantil. A linguagem de Regnier na segunda-feira não deixou espaço para interpretação. Este não é um debate sobre censura política ou diferentes culturas de moderação de conteúdos, mas uma questão de pôr fim à produção e difusão de imagens sexualizadas ilegais de crianças.
xAI ainda não fez mudanças substanciais nas capacidades do Grok. A guia Mídia do chatbot foi desativada depois que foi invadida por imagens sexualizadas, mas a função principal de edição de imagem e a capacidade de animar essas fotos permanecem ativas.
Geralmente inteligente Boletim informativo
Uma jornada semanal de IA narrada por Gen, um modelo generativo de IA.
Fontedecrypt
