X reforça a geração de imagens Grok após reação internacional

X disse que está restringindo os recursos de geração e edição de imagens vinculados ao Grok, limitando o acesso a usuários pagos depois que o chatbot foi usado para criar imagens sexualizadas não consensuais de pessoas reais, incluindo menores.

Em uma atualização publicada pela conta X Safety na quarta-feira, a empresa adicionou restrições técnicas para limitar como os usuários podem editar imagens de pessoas reais por meio do Grok.

A medida seguiu-se a relatos de que a IA gerava imagens sexualizadas em resposta a instruções simples, incluindo pedidos para colocar as pessoas em biquínis. Em muitos casos, os usuários marcaram Grok diretamente nas fotos postadas no X, fazendo com que a IA gerasse imagens editadas que apareciam publicamente nos mesmos tópicos.

“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, disse a empresa, referindo-se à tendência viral de pedir a Grok para colocar as pessoas de biquínis.

A empresa também disse que a criação e edição de imagens por meio da conta Grok no X agora estão disponíveis apenas para assinantes pagos, uma mudança que visa melhorar a responsabilidade e evitar o uso indevido das ferramentas de imagem da Grok que violam a lei ou as políticas do X. A empresa também instituiu restrições baseadas em localização.

“Agora bloqueamos geograficamente a capacidade de todos os usuários gerarem imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde isso é ilegal.”

Apesar das mudanças, no entanto, Grok continua permitindo que os usuários removam ou alterem roupas de fotos enviadas diretamente para a IA, de acordo com Descriptografar testes e relatórios de usuários após o anúncio.

Em alguns casos, Grok reconheceu “lapsos nas salvaguardas” depois de gerar imagens de meninas de 12 a 16 anos com roupas mínimas, conduta proibida pelas próprias políticas da empresa. A disponibilidade contínua dessas capacidades atraiu o escrutínio de grupos de defesa.

“Se os relatos de que Grok criou imagens sexualizadas – especialmente de crianças – forem verdadeiros, a lei do Texas pode ter sido violada”, disse Adrian Shelley, diretor do Public Citizen no Texas, em um comunicado. “As autoridades do Texas não precisam de ir muito longe para investigar estas alegações. X está sediada na área de Austin, e o estado tem uma responsabilidade clara de determinar se as suas leis foram violadas e, em caso afirmativo, quais as sanções que são justificadas.”

O Public Citizen pediu anteriormente ao governo dos EUA que retirasse Grok de sua lista de modelos de IA aceitáveis ​​devido às preocupações de racismo exibidas pelo chatbot.

Reação global

Os decisores políticos globais também aumentaram o escrutínio de Grok, levando a várias investigações abertas.

A Comissão Europeia disse que X e xAI poderiam enfrentar a aplicação da Lei de Serviços Digitais se as salvaguardas em Grok permanecessem inadequadas. Ao mesmo tempo, o Comissário de eSafety da Austrália disse que as reclamações envolvendo Grok e imagens sexuais não consensuais geradas por IA duplicaram desde o final de 2025. O regulador disse que as ferramentas de imagem de IA capazes de produzir edições realistas complicam a aplicação e a proteção das vítimas.

No Reino Unido, os reguladores do Ofcom abriram uma investigação sobre X sob a Lei de Segurança Online decorrente do uso de Grok para gerar imagens deepfake sexualizadas ilegais, incluindo aquelas envolvendo menores. As autoridades disseram que o Ofcom poderia, em última análise, buscar medidas judiciais que bloqueiem efetivamente o serviço no Reino Unido se X for considerado não conforme e não tomar medidas corretivas.

Outros países, incluindo Malásia, Indonésia e Coreia do Sul, também abriram investigações sobre Grok numa tentativa de proteger menores.

Enquanto estados de toda a América monitoram a situação, a Califórnia é a primeira a abrir uma investigação sobre Grok. Na quarta-feira, o procurador-geral da Califórnia, Rob Bonta, anunciou uma investigação sobre xAI e Grok sobre a criação e disseminação de imagens sexualmente explícitas não consensuais de mulheres e crianças.

“A avalanche de relatórios detalhando o material não consensual e sexualmente explícito que a xAI produziu e publicou online nas últimas semanas é chocante. Este material, que retrata mulheres e crianças em situações de nudez e sexualmente explícitas, tem sido usado para assediar pessoas em toda a Internet”, disse Bonta num comunicado.

A investigação examinará se a implantação de Grok pela xAI violou as leis estaduais que regem imagens íntimas não consensuais e exploração sexual infantil.

“Exorto a xAI a tomar medidas imediatas para garantir que isso não vá mais longe”, disse Bonta. “Temos tolerância zero com a criação e disseminação baseada em IA de imagens íntimas não consensuais ou de material de abuso sexual infantil.”

Apesar das investigações em curso, X disse que adota uma postura de “tolerância zero” para a exploração sexual infantil, a nudez não consensual e o conteúdo sexual indesejado.

“Tomamos medidas para remover conteúdo violador de alta prioridade, incluindo material de abuso sexual infantil (CSAM) e nudez não consensual, tomando as medidas apropriadas contra contas que violam nossas Regras X”, escreveu a empresa. “Também denunciamos contas que buscam materiais de exploração sexual infantil às autoridades policiais, conforme necessário.”