Em resumo
- A UE lançou uma investigação para saber se X avaliou adequadamente os riscos antes de implantar os recursos de IA do Grok.
- A investigação examinará a conformidade de X com as obrigações da Lei de Serviços Digitais da região.
- Isso marca a mais recente repressão da Europa aos deepfakes gerados por IA, com vários países banindo Grok por questões de segurança infantil.
A Comissão Europeia lançou uma investigação formal na segunda-feira sobre se X violou as regras digitais da UE ao supostamente não ter impedido o seu chatbot Grok AI de gerar e espalhar conteúdo ilegal, incluindo imagens sexualmente explícitas de crianças.
A investigação avaliará se a empresa avaliou e mitigou adequadamente os riscos antes de implantar os recursos de geração de imagens da Grok, disse a Comissão em uma segunda-feira. declaração.
A Comissão afirmou também que os riscos se materializaram através da própria geração e propagação de conteúdos sexuais ilegais, expondo os cidadãos da UE a danos graves.
Isso ocorre em meio ao crescente escrutínio internacional sobre o papel de Grok na criação de deepfakes não consensuais.
Há duas semanas, X restrições implementadaslimitando a geração de imagens a assinantes pagos e adicionando barreiras técnicas para evitar que os usuários manipulem digitalmente as pessoas para revelar roupas. A empresa também bloqueou geograficamente o recurso em jurisdições onde tal conteúdo é ilegal.
Apesar destas medidas, os investigadores descobriram que cerca de um terço das imagens sexualizadas de crianças identificadas na amostra do CCDH permaneceu acessível na plataforma X.
“Com esta investigação, determinaremos se X cumpriu as suas obrigações legais ao abrigo da DSA, ou se tratou os direitos dos cidadãos europeus – incluindo os das mulheres e crianças – como danos colaterais do seu serviço”, disse Henna Virkkunen, Vice-Presidente Executiva para Soberania Tecnológica, Segurança e Democracia, no comunicado.
No início deste mês, o porta-voz da Comissão Europeia, Thomas Regnier condenou o recurso “Spicy Mode” do X numa conferência de imprensa em Bruxelas.
“Isto não é picante. Isto é ilegal. Isto é terrível. Isto é nojento. Isto não tem lugar na Europa”, disse Regnier.
Fraser Edwards, cofundador e CEO da cheqd, disse Descriptografar que “todo criador deve ser capaz de controlar como sua imagem é usada na mídia gerada por IA”.
Ele diz que “a reação em torno do abuso do deepfake ressalta uma falha básica da própria Internet”.
“Ainda não existe uma forma nativa de verificar quem criou um conteúdo sintético ou se a sua utilização foi alguma vez autorizada”, acrescentou Edwards, deixando a responsabilidade continuar “a assumir o padrão de intermediários como X, em vez das pessoas responsáveis por gerar o abuso”.
Se provadas, as falhas sob investigação constituiriam violações dos artigos 34.º, n.ºs 1 e 2, 35.º, n.º 1, e 42.º, n.º 2, da Lei dos Serviços Digitais, que exigem que as plataformas avaliem e mitiguem riscos sistémicos, incluindo a difusão de conteúdos ilegais e os efeitos negativos relacionados com a violência baseada no género.
A investigação da UE amplia um caso de DSA do final de 2023 que resultou em um US$ 140 milhões (120 milhões de euros) multa contra X em dezembro por design fraudulento, falhas de transparência publicitária e acesso limitado dos investigadores.
Desde então, a Comissão expandiu o escrutínio para Grok, incluindo preocupações anteriores sobre o conteúdo antissemita gerado pelo chatbot.
Descriptografar entrou em contato com xAI para mais comentários.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
