Minnesota toma medidas para proibir aplicativos de IA que geram imagens falsas de nudez

Os legisladores de Minnesota aprovaram um projeto de lei que visa impedir uma forma crescente de abuso de IA, visando as plataformas que o permitem.

Na quinta-feira, o Senado de Minnesota votou 65-0 para aprovar o Arquivo 1606 da Câmara, enviando-o ao governador Tim Walz para sua assinatura. A medida impede que sites e aplicativos ofereçam ferramentas que gerem imagens falsas e realistas de nudez de pessoas identificáveis.

De acordo com o projeto de lei, as empresas que controlam um site, aplicativo ou serviço de software não podem permitir que os usuários acessem ou usem ferramentas para criar essas imagens ou gerá-las em nome do usuário. Publicitar ou promover tais serviços também é proibido.

A medida permite que as vítimas processem pessoas ou empresas que operam ou controlam ferramentas de nudificação, como sites, aplicativos ou softwares que geram imagens falsas de nudez. As pessoas retratadas em imagens nuas geradas por IA podem pedir indenização, inclusive por angústia mental, e os tribunais podem conceder até três vezes os danos reais, juntamente com danos punitivos, honorários advocatícios e ordens para interromper a conduta.

O projeto também dá ao procurador-geral do estado o poder de fazer cumprir a lei, com penalidades civis de até US$ 500 mil por uso. De acordo com o projecto de lei, essas sanções são canalizadas para o fundo geral do estado e depois atribuídas aos serviços às vítimas, incluindo o apoio aos sobreviventes de violência sexual, violência doméstica e abuso infantil.

O projeto de lei visa ferramentas que exigem pouco conhecimento técnico e que se tornaram amplamente acessíveis, inclusive para menores. Se assinada, a lei entra em vigor em 1º de agosto e se aplica a novos casos a partir dessa data.

Embora o novo projeto de lei não faça referência a um único desenvolvedor de IA, a notícia chega após uma série de incidentes de alto perfil na plataforma social X, inclusive em agosto de 2025, quando a ferramenta xAI de Elon Musk, Grok, gerou deepfakes nus de Taylor Swift. A superestrela pop decidiu registrar sua voz e imagem no Escritório de Patentes dos EUA em abril, talvez em um movimento para evitar futuras reproduções de IA.

Musk também está enfrentando crescente pressão legal, incluindo uma ação coletiva federal movida por três menores do Tennessee, alegando que Grok gerou material de abuso sexual infantil a partir de suas imagens. Além disso, uma ação judicial de proteção ao consumidor da cidade de Baltimore afirma que a empresa implantou conscientemente um sistema que produz e espalha conteúdo sexualizado não consensual, inclusive de menores.

O copresidente da Public Citizen, Robert Weissman, disse que a disseminação dessas ferramentas reflete a rapidez com que a IA reduziu a barreira à criação de imagens íntimas não consensuais e expandiu seu alcance.

“99% desses aplicativos têm como alvo mulheres, das quais mais de 90% têm menos de 18 anos. É uma ferramenta de intimidação e assédio de mulheres com consequências psicológicas realmente graves”, disse Weissman. Descriptografar. “Já vimos isto em todo o país e no mundo. Portanto, a necessidade de intervenção e regulamentação governamental é urgente.”

Weissman acrescentou que as leis estaduais podem desempenhar um papel ao lado dos esforços federais, especialmente quando se trata de fiscalização. Ele disse que as autoridades locais podem estar em melhor posição para agir rapidamente em casos individuais, enquanto as agências federais podem não priorizá-los ou persegui-los.

A lei de Minnesota também surge durante uma luta contínua entre a administração do presidente Donald Trump e os estados sobre quem deveria controlar a regulamentação da IA. A Lei Take It Down, sancionada pelo presidente Donald Trump em maio de 2025, criminaliza a distribuição de imagens íntimas não consensuais e oferece às vítimas um caminho para buscar indenização civil.

“Acho que ter padrões federais e estaduais complementares é positivo, especialmente em teoria. Estamos falando de diferentes sistemas e agências de fiscalização”, disse Weissman. “Portanto, você pode ter um padrão federal, mas pode não ter capacidade federal para executar ações de fiscalização.”

O gabinete do Governador Walz não respondeu imediatamente Descriptografarpedido de comentário.