‘Demônico’: aplicativo de IA que permite aos usuários ‘conversar’ com entes queridos mortos enfrenta reação negativa

Uma startup de inteligência artificial co-fundada por um ex-ator do Disney Channel lançou um aplicativo móvel que permite aos usuários criar réplicas digitais interativas de entes queridos falecidos, provocando uma rápida condenação online e um escrutínio renovado do crescente setor de “tecnologia do luto”.

2Wai, fundada por Calum Worthy – conhecido por interpretar Dez na série “Austin & Ally” da Disney de 2011 a 2016 – e o produtor Russell Geyser, lançou sua versão beta para iOS em 11 de novembro. O recurso “HoloAvatar” do aplicativo gera avatares de vídeo conversacionais a partir de apenas três minutos de imagens, áudio e entradas de texto enviadas, permitindo bate-papos em tempo real em mais de 40 idiomas.

Embora comercializada como uma ferramenta para preservação do legado, a capacidade de recreação de falecidos dominou as manchetes, evocando comparações com o filme distópico de 2013. Espelho Negro episódio “Be Right Back”, em que uma viúva enlutada anima o fantasma digital de seu falecido marido.

O vídeo promocional, postado por Worthy em sua conta X com 1,2 milhão de seguidores, obteve 22 milhões de visualizações e mais de 5.800 respostas. Ele retrata uma mulher grávida fazendo videochamadas para uma recriação de IA de sua falecida mãe em busca de conselhos, depois avança para o avatar lendo histórias de ninar para seu recém-nascido – e mais tarde aconselhando seu neto adulto, interpretado por Worthy.

“E se os entes queridos que perdemos pudessem fazer parte do nosso futuro?” o clipe pergunta. “Com o 2Wai, três minutos podem durar para sempre.” Worthy continuou: “Na 2wai, estamos construindo um arquivo vivo da humanidade, uma história de cada vez.”

Mecânica e origens

Os HoloAvatars são executados na tecnologia FedBrain proprietária da 2Wai, que processa interações no dispositivo para garantir a privacidade e limitar as respostas aos dados aprovados pelo usuário, reduzindo as “alucinações” de IA. O aplicativo também permite que usuários vivos criem avatares para envolvimento ou treinamento dos fãs – o gêmeo digital de Worthy compartilha anedotas dos bastidores da Disney.

Atualmente gratuito em beta, ele fará a transição para um modelo de assinatura em níveis, com preços não divulgados, mas provavelmente entre US$ 10 e US$ 20 mensais com base em serviços de IA comparáveis.

O empreendimento remonta às greves SAG-AFTRA de 2023, onde os artistas protestaram contra imagens não autorizadas de IA.

“Tendo trabalhado como ator, escritor e produtor nos últimos 20 anos, experimentei em primeira mão como é desafiador criar um relacionamento significativo com fãs de todo o mundo”, disse Worthy no lançamento em junho. “Barreiras linguísticas, fusos horários e orçamentos limitam a capacidade de se conectar verdadeiramente.”

A 2Wai levantou US$ 5 milhões em financiamento pré-semente em junho de investidores não divulgados, com a empresa dizendo que está trabalhando com empresas como British Telecom e IBM.

Preocupações éticas e de privacidade

A reação do público tem sido esmagadoramente negativa, com os usuários do X condenando o aplicativo como “combustível de pesadelo”, “demoníaco”, “distópico” e uma comercialização exploradora do sofrimento.

Uma resposta viral chamou-a de “uma das coisas psicóticas mais perversas que já vi”, argumentando que “torna os seres humanos psicóticos” ao simular a perda em vez de processá-la. Outro rotulou-o de “além de vil”, insistindo que “os vídeos fazem isso” para arquivamento, não para suposições de IA.

Especialistas jurídicos apontam que os robôs da morte ficam numa zona cinzenta legal e ética, porque podem ser construídos sem o consentimento explícito do falecido, expõem dados profundamente pessoais tanto do falecido como dos enlutados, e criam ambiguidades em torno da propriedade do avatar digital e dos dados que o acompanham.

As leis de privacidade normalmente protegem as pessoas vivas e oferecem pouca ou nenhuma salvaguarda post-mortem, deixando os entes queridos sobreviventes vulneráveis ​​à exploração comercial do luto através de modelos de assinatura e acesso não regulamentado a entrevistas, gravações de voz e outros materiais sensíveis. Além disso, a capacidade de tais bots interagirem, aprenderem e desviarem-se dos dados registados aumenta os riscos para o legado do falecido e desafia a forma como a sociedade navega no luto, na memória e no encerramento significativo da perda.

O aplicativo inclui requisitos de adesão e aprovações familiares para avatares falecidos, mas os críticos questionam a aplicação. “Você está se aproveitando dos sentimentos humanos mais profundos, procurando maneiras de aproveitá-los para seu lucro”, escreveu um usuário X, chamando os criadores de “parasitas”.

Opiniões dos investidores e da indústria

O financiamento da 2Wai reflete um otimismo cauteloso no companheirismo da IA, mas a monetização do luto continua a ser um nicho de “terceiro trilho”. As empresas de risco têm evitado startups semelhantes em meio a armadilhas éticas; Eternal Digital Assets, um híbrido de cemitério e IA, fechou no ano passado devido à alta rotatividade.

2Wai se junta a um campo lotado de tecnologia do luto. HereAfter AI (fundada em 2019) constrói “Avatares de histórias de vida” a partir de entrevistas pré-morte, enfatizando o consentimento. StoryFile oferece vídeos interativos de sessões gravadas, usadas em memoriais como o de Ed Asner; ela entrou com pedido de concordata, Capítulo 11, em 2024, devendo US$ 4,5 milhões, mas está se reorganizando com sistemas de proteção contra falhas de dados.

Replika, um serviço de chatbot lançado em 2017, permite que os usuários imitem o falecido por meio de mensagens de texto ou chamadas, mas enfrentou reação após uma atualização de 2023 “matou” bots personalizados e o suicídio de um homem belga em 2023 vinculado a bate-papos de ansiedade ecológica com ele.

Nenhuma regra federal rege as semelhanças digitais póstumas, mas a AB 1836 da Califórnia (assinada em setembro de 2024) proíbe réplicas não autorizadas de IA de vozes ou imagens de artistas falecidos em obras audiovisuais sem consentimento do espólio, com penalidades de até US$ 10.000 ou danos reais. Os legisladores estão de olho em extensões para não-celebridades, alimentadas por deepfakes eleitorais.

2Wai não respondeu imediatamente a Descriptografar pedido de comentário.