Em resumo
- O DPC da Irlanda abriu um inquérito GDPR em grande escala sobre X sobre a geração de imagens sexualizadas não consensuais de Grok, incluindo aquelas de crianças.
- A investigação examina se X cumpriu as obrigações básicas do GDPR na forma como implantou os recursos de imagem da Grok para usuários da UE.
- A investigação é a mais recente de uma onda regulatória global visando Grok, com ações formais agora abertas em toda a Europa, Reino Unido, Austrália e EUA
O regulador de privacidade da Irlanda abriu uma investigação formal sobre X sobre se o chatbot Grok de Elon Musk ajudou a gerar e espalhar imagens sexualizadas não consensuais, inclusive de crianças, aumentando a pressão sobre uma crescente repressão global às ferramentas de “nudificação” da IA.
A Comissão de Proteção de Dados (DPC) lançou o inquérito sobre a X Internet Unlimited Company (XIUC), a entidade jurídica registada na UE através da qual a plataforma de redes sociais de Elon Musk opera na Europa, ao abrigo da Lei de Proteção de Dados da Irlanda de 2018, centrando-se na “aparente criação e publicação na plataforma X, de imagens íntimas e/ou sexualizadas potencialmente prejudiciais, não consensuais… incluindo crianças”, utilizando as ferramentas de IA generativas da Grok.
O cão de guarda disse que notificou a XIUC da decisão de iniciar o inquérito e avaliará a conformidade com os requisitos básicos do GDPR, o Regulamento Geral de Proteção de Dados da UE, incluindo princípios de processamento, base legal, privacidade desde o design e se uma avaliação de impacto na proteção de dados foi necessária.
“Como autoridade supervisora líder da XIUC em toda a UE/EEE, a DPC iniciou uma investigação em grande escala que examinará a conformidade da XIUC com algumas de suas obrigações fundamentais sob o GDPR em relação aos assuntos em questão”, disse o vice-comissário Graham Doyle no comunicado.
A investigação ocorre no momento em que a Irlanda, que atua como principal autoridade supervisora da UE para a maioria das principais plataformas tecnológicas americanas, dando às suas decisões peso vinculativo em todo o bloco, se junta a uma resposta internacional cada vez mais ampla ao papel de Grok na geração de deepfakes não consensuais em grande escala.
O Centro de Combate ao Ódio Digital (CCDH) informou no mês passado que Grok gerou cerca de 23.338 imagens sexualizadas retratando crianças, durante um período de 11 dias, de 29 de dezembro a 9 de janeiro, e os pesquisadores descobriram que cerca de um terço dessas imagens amostradas permaneceram acessíveis no X, apesar das políticas de tolerância zero da plataforma.
Após a reação, X restringiu a geração e edição de imagens de Grok a assinantes pagos, adicionou barreiras técnicas para impedir que os usuários manipulassem digitalmente as pessoas para revelar roupas e bloqueou geograficamente o recurso em jurisdições onde tal conteúdo é ilegal.
Descriptografar entrou em contato com xAI para comentar.
Repressão regulatória global
Em janeiro, a Comissão Europeia abriu uma investigação formal da Lei de Serviços Digitais sobre X sobre o suposto papel de Grok na geração e disseminação de conteúdo sexualizado ilegal. Dias depois, as autoridades francesas invadiram os escritórios de X em Paris, em coordenação com a Europol, convocando Musk e vários executivos para interrogatório.
No Reino Unido, tanto o Ofcom quanto o Gabinete do Comissário de Informação abriram investigações separadas, com o Ofcom alertando que poderia buscar medidas apoiadas por tribunais para bloquear efetivamente o serviço de X se fosse considerado incompatível, já que o primeiro-ministro Keir Starmer disse que buscaria novos poderes parlamentares para submeter os provedores de chatbot de IA à lei de segurança online.
A comissária de segurança eletrônica da Austrália, Julie Inman Grant, disse que as reclamações envolvendo Grok e imagens sexuais não consensuais geradas por IA dobraram nos últimos meses, e disse que seu escritório usaria seus poderes de fiscalização quando necessário.
O procurador-geral da Califórnia, Rob Bonta, anunciou uma investigação formal sobre xAI e Grok sobre a criação e disseminação de imagens de IA sexualmente explícitas e não consensuais de mulheres e crianças.
No início deste mês, a UNICEF chamou os deepfakes sexuais de IA de “uma profunda escalada dos riscos que as crianças enfrentam no ambiente digital”, afirmando que pelo menos 1,2 milhões de crianças foram visadas no ano passado e instando os governos a criminalizarem o material de abuso gerado pela IA e a exigirem salvaguardas de segurança desde a concepção.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
