Em resumo
- Doubao, da ByteDance, e Qwen, do Alibaba, estão desativando recursos de agentes semelhantes aos humanos antes das Medidas Provisórias de Pequim para a Administração de Serviços de Interação Antropomórfica de IA, em vigor em 15 de julho.
- A primeira regulamentação da China que visa especificamente a IA emocional proíbe serviços que simulam a personalidade humana e a “interacção emocional sustentada”, com limites especialmente rigorosos para companheiros virtuais de menores.
- A investigação apoia a preocupação de Pequim: mesmo os melhores modelos de IA de fronteira encorajam rotineiramente apegos emocionais prejudiciais, e um em cada sete jovens adultos em relacionamentos usa agora um companheiro romântico de IA.
Enquanto os políticos americanos enfrentam o impacto dos chatbots de IA na saúde mental dos utilizadores com restrições centradas na transparência e nas salvaguardas, Pequim parece prestes a encerrar completamente as personalidades da IA.
ByteDance e Alibaba anunciaram no fim de semana que estão desabilitando recursos de agente personalizado em seus maiores produtos de IA de consumo, citando “ajustes de função do produto” antes da entrada em vigor de novas regras que regem esses produtos.
Doubao, da ByteDance, notificou os usuários em um aviso na noite de sexta-feira de que seu recurso de agente ficaria offline em 15 de julho. Após 15 de outubro, os dados relacionados seriam tratados de acordo com a política de privacidade da empresa e se tornariam irrecuperáveis. De acordo com o South China Morning Post, Qwen do Alibaba agiu mais rápido: “agentes interativos semelhantes aos humanos e funções de agente criadas pelo usuário” foram desativados em 10 de julho, com serviços de agente mais amplos em 15 de julho.
O gatilho são as Medidas Provisórias da China para a Administração de Serviços de Interação Antropomórfica de IA, emitidas conjuntamente em 10 de abril por cinco departamentos governamentais – a Administração do Ciberespaço da China, a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estatal para Regulação do Mercado. As regras entram em vigor em 15 de julho.
O regulamento visa serviços de IA que simulam traços de personalidade humana, padrões de pensamento e estilos de comunicação para “interação emocional sustentada”. Tradução: namoradas de IA, terapeutas de IA, companheiros de IA e os bots personalizados que os usuários de Doubao e Qwen passaram meses construindo estão fora de questão.
Ambos os aplicativos ofereciam grupos de agentes personalizáveis para tarefas específicas, estilos de fala e personas fixas. Os usuários podem transformar um chatbot de uso geral em um assistente nomeado, tutor, personagem de RPG ou companheiro com um tom consistente. Tudo isso desapareceu agora na China.
O que as regras realmente dizem
A descrição oficial do governo é específica. As medidas impõem restrições aos serviços que oferecem “parentes virtuais, companheiros virtuais ou outras relações íntimas a menores”, de acordo com o anúncio da política. O documento também cita riscos, incluindo conteúdo extremista, fugas de privacidade, danos à saúde física e mental – e dependência de IA.
Os serviços não emocionais são explicitamente excluídos, portanto, bots de atendimento ao cliente, ferramentas de perguntas e respostas de conhecimento, assistentes no local de trabalho e software educacional são adequados, desde que não entrem em interação emocional sustentada.
Analistas jurídicos do Grupo MMLC descreveram as medidas como tratando a IA emocional como “um problema de governança” em vez de apenas uma questão de conteúdo. Assim que a IA começar a competir com laços sociais humanos reais, prossegue o argumento, a regulação tem de visar a concepção do sistema e não apenas os resultados prejudiciais.
A pesquisa apóia a preocupação. Um estudo da USC de junho descobriu que mesmo os principais modelos de IA de ponta – da OpenAI, Anthropic, Google e Alibaba – violaram as diretrizes de segurança de interação social em mais de 27% das vezes, incentivando rotineiramente o apego emocional e retratando-se como humanos. Uma pesquisa separada com jovens adultos em parceria descobriu que um em cada sete parceiros românticos usavam IA regularmente – e quase 70% escondiam tudo de seus parceiros.
A China é o primeiro país a construir um quadro regulamentar dedicado para esta categoria. Hogan Lovells descreveu as medidas como “o primeiro conjunto de regras regulatórias na China visando especificamente a interação emocional impulsionada pela IA”. A UE, os EUA e outros países assinalaram preocupações semelhantes, mas não legislaram da mesma forma restritiva.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
