Um modelo de roupas gerado pela IA no site de Shein tinha uma estranha semelhança com o suposto assassino Luigi Mangione, confirmado por ferramentas de reconhecimento facial.
A camisa esgotou antes de Shein puxar a listagem, culpando um vendedor de terceiros pelo fiasco.
O incidente contribui para uma lista crescente de desastres de anúncios gerados pela IA, de influenciadores Deepfake a ações de semelhança de celebridades.
A equipe de marketing da Shein provavelmente pensou que haviam encontrado o modelo perfeito: a mandíbula cinzelada, os olhos pensativos, o tipo de rosto que poderia vender camisas de baixa qualidade para quem rolar às 2 da manhã, havia apenas um problema-o seu pedaço de Luigi Mangione, de 26 anos, acusado de Killing Killing, de dezembro de Killing Ceeo, de dezembro.
A camisa, um algodão básico, apareceu no site de Shein com o que o pesquisador de IA Henk van ESS identificou como uma provável criação de Midjourney. As ferramentas de reconhecimento facial confirmaram a partida. Poucas horas depois de se tornar viral, a listagem desapareceu mais rápido que a política de retorno de Shein.
“Estamos cientes do produto e o removemos do nosso site”, disse um porta -voz da Shein à Tmz. A empresa culpou um vendedor de terceiros, Shirking Culping sem identificar o fornecedor em questão. A camisa teria esgotado antes de alguém em Shein notar a semelhança do novo modelo com o homem mais procurado da América na semana passada.
Mas é claro que você pode acessar o anúncio se visitar a máquina Wayback.
Shein prometeu “ação apropriada” contra o fornecedor, o que provavelmente significa encontrar um fornecedor que possa gerar modelos falsos que não replicam acidentalmente as pessoas nas listas de observação do FBI.
O incidente provocou a pilha X habitual, com os usuários divididos entre horror e admiração relutante por qualquer algoritmo que “o suposto CEO Killer” fosse a estética certa para roupas casuais do orçamento.
O fato de seu rosto ser usado, sem consentimento, para promover produtos que você nunca tocou graças a Genai …
Acrescente o fato de que eles estão usando a imagem de um indivíduo encarcerado que já perdeu toda a autonomia.
A planta algorítmica de Shein se junta a uma galeria crescente de acidentes de AI, incluindo Scarlett Johansson, que praticamente se transformou em rosto falso do movimento anti-profundo.
A famosa atriz ameaçou processar o Openai por um assistente de voz suspeita de familiar. Ela então processou Lisa AI por fazer um companheiro de IA usando sua imagem. E mais tarde, sua semelhança foi incluída sem seu consentimento em uma campanha totalmente gerada pela IA, com diferentes artistas judeus usando uma camiseta dando a Kanye West o dedo médio.
Uma versão gerada pela IA de Scarlett Johansson apareceu no vídeo viral que se desrespeita o anti-semitismo de Kanye West. Imagem: Instagram
Apenas, reencionando, a empresa de jogos Nexon foi pega usando influenciadores de IA em anúncios Tiktok para o primeiro descendente.
“Esses anúncios de IA me deixam triste e preocupada com o futuro do jogo”, escreveu um redditor. “A pior parte disso tudo é que quem está no controle das contas oficiais do TFD Tiktok está ciente da reação contra os anúncios da IA e se esforçou para ignorá -lo e esconder. Eles estão excluindo e reupplico os vídeos da AI sempre que recebem muita reação nos comentários.”
Os reguladores estão se esforçando para recuperar o atraso, mas até agora, a regulamentação está rastejando enquanto a IA corre.
Geralmente inteligente Boletim informativo
Uma jornada semanal de IA narrada por Gen, um modelo generativo de IA.
