Relaxe, isso não é um estranho em sua casa – é apenas uma pegadinha de IA

Departamentos de polícia de Massachusetts ao Texas estão alertando os residentes sobre uma pegadinha viral do TikTok que usa imagens geradas por IA para fazer parecer que um sem-teto entrou na casa de alguém, provocando ligações de pânico para o 911,

“Além de ser de mau gosto, há muitas razões pelas quais esta pegadinha é, para ser franco, estúpida e potencialmente perigosa”, disse o Departamento de Polícia de Salem, Massachusetts, em um comunicado. Esse departamento de polícia emitiu um alerta público e detalhou casos em que os destinatários “acreditavam sinceramente que havia um intruso real” e ligaram para o 911, necessitando de resposta imediata por parte dos agentes.

No Texas, a polícia também enfrentou as consequências da pegadinha viral. O Crônica de Houston informou que os oficiais em Rocha Redondaum subúrbio de Austin, respondeu a vários chamadas para o 911 depois que os moradores viram fotos geradas por IA retratando um “sem-teto” dentro de suas casas. Os investigadores determinaram que as imagens foram fabricadas como parte da tendência TikTok.

O Departamento de Polícia de Round Rock alertou que tais fraudes “puxam recursos de emergência e criam medo desnecessário”, de acordo com FOX7 Austin. As autoridades locais disseram que estão analisando se aqueles que conscientemente compartilham as imagens adulteradas para provocar pânico podem enfrentar acusações de denúncias falsas sob a lei do Texas.

A tendência, conhecida nas redes sociais como “pegadinha do sem-teto de IA”, foi documentada por meios de comunicação locais e de tecnologia à medida que se espalhava pelo TikTok e Snapchat. A beira relatou pela primeira vez que os adolescentes estão gerando imagens realistas de um estranho em cozinhas e corredores e enviando-as aos pais para capturar suas reações, com alguns vídeos atraindo milhões de visualizações.

Emissoras e redações locais expressaram preocupações com a aplicação da lei: ABC’s Bom dia América destacou avisos de departamentos de que a pegadinha desperdiça recursos de emergência e pode levar a mal-entendidos perigosos; estações em Michigan e Minnesota relataram avisos semelhantes.

TikTok disse que tinha rótulos adicionados aos vídeos que a NBC sinalizou para esclarecer que eles são gerados por IA. Os registros de transparência da empresa para a Califórnia sob o AB 587 também descrevem as etapas de aplicação, incluindo remoção de conteúdo e banimento de contas quando as postagens violam essas regras.

A atenção das celebridades ampliou o alcance da tendência. Pessoas narrou exemplos de postagens virais, incluindo um pai que ligou para o filho 21 vezes depois de receber uma imagem adulterada, e observou que GMA co-anfitrião Michael Strahan disse que “surtou” brevemente quando um assistente lhe enviou uma foto manipulada.