Um companheiro de IA parece distópico, mas tornou-se um tema comum na conversa mais ampla sobre os perigos da IA generativa. Refere-se essencialmente a um agente conversacional construído para sustentar um relacionamento pessoal e contínuo com um usuário, com a memória e a personalidade estável que o mantêm consistente de uma sessão para outra.
O apego emocional muitas vezes decorre desse design e é cada vez mais o ponto de venda. Grande parte do uso é roleplay casual ou simplesmente querer algo que lembre você e, nas bordas, a categoria se transforma em assistentes comuns. Mas à medida que mais pessoas na China passaram a tratar estes bots como uma espécie de companheiro emocional, Pequim decidiu agora que a prática precisa de regras.
As regras complementares de IA da China entram em vigor em 15 de julho e, nos dias anteriores ao prazo, os dois aplicativos de IA mais usados pelo consumidor no país desligaram silenciosamente os recursos essenciais. Doubao, da ByteDance, disse aos usuários que sua função de agente ficaria offline em 15 de julho, citando “ajustes nas funções do produto”, enquanto Qwen, do Alibaba, disse que seus agentes humanos e criados por usuários parariam de funcionar em 10 de julho e seus serviços de agente mais amplos cinco dias depois.
Leia rapidamente, parece que a China está desligando os agentes de IA. Não é. As regras traçam uma linha entre o agente que faz o seu trabalho e o agente que lhe faz companhia, e é apenas contra o segundo tipo que Pequim agiu.
O regulamento são as Medidas Provisórias para a Administração de Serviços Interativos Antropomórficos de IA, co-emitidas em 10 de abril de 2026, pela Administração do Ciberespaço da China e quatro agências parceiras: a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Estatal para Regulação do Mercado.
Abrange serviços que simulam traços de personalidade humana, padrões de pensamento e estilos de comunicação para proporcionar interação emocional sustentada. Bots de atendimento ao cliente, perguntas e respostas sobre conhecimento, assistentes no local de trabalho e ferramentas de educação e pesquisa estão excluídos, desde que evitem o envolvimento emocional sustentado. É o primeiro quadro nacional dedicado deste tipo e tomou forma após um projecto de comentário público no final do ano passado.
Um problema de design, não uma proibição
Doubao e Qwen não foram vítimas de uma proibição. Eles caíram em um conflito de design. As medidas exigem que serviços complementares executem sistemas anti-dependência, emitam notificações de utilização obrigatória e ofereçam mecanismos de saída instantânea, juntamente com a detecção em tempo real de dependência prejudicial.
Essas demandas são estranhas para agentes criados para lembrar um usuário, permanecer consistentes durante as sessões e manter um relacionamento contínuo e, em vez de modernizar o recurso, a ByteDance optou por encerrá-lo. O Alibaba parece ter feito a mesma ligação. ByteDance agora está direcionando os usuários do Doubao para o Maoxiang, um aplicativo separado onde eles podem criar agentes novamente; O Alibaba não anunciou nenhum caminho de migração equivalente para Qwen. Yuanbao da Tencent apresentou um recurso comparável em junho.
O custo caiu sobre os usuários. Muitos lamentaram abertamente as paralisações no Weibo, com um postador descrevendo os agentes como apoio emocional de longa data e lamentando a falta de uma maneira fácil de exportar históricos de bate-papo. Doubao está permitindo que as pessoas visualizem suas configurações e conversas em modo somente leitura até 15 de outubro deste ano, antes que os dados sejam processados de acordo com sua política de privacidade e se tornem irrecuperáveis; Os usuários do Qwen não tiveram nenhum período de carência comparável, com os dados do agente definidos para exclusão permanente.
O que as regras complementares de IA da China estabelecem
A substância é mais considerada do que uma repressão contundente sugere. Os provedores estão proibidos de oferecer serviços virtuais de acompanhantes ou familiares virtuais a menores e devem obter o consentimento do responsável antes de atender usuários menores de 14 anos. Eles são obrigados a criar “modos menores” dedicados com limites de tempo de uso, lembretes para retornar à interação no mundo real e controles parentais aprimorados.
Eles também devem detectar usuários em situação de sofrimento agudo e intervir quando alguém mostrar sinais de automutilação, comportamento suicida ou perda financeira grave, encaminhando para tutores designados ou contatos de emergência. Projetar dependência ou vício emocional e usar manipulação emocional para induzir decisões irracionais são explicitamente proibidos.
A maquinaria de conformidade é pesada. Os serviços que lançam funções antropomórficas ou ultrapassam limites de um milhão de utilizadores registados ou 100.000 activos mensais devem realizar avaliações de segurança cobrindo oito áreas, desde o tratamento de dados de formação até à protecção de menores, e apresentar os relatórios aos reguladores provinciais. As lojas de aplicativos devem verificar esse status e remover produtos não conformes.
No papel, é um conjunto mais completo de proteções ao usuário do que a UE, a Comissão Federal de Comércio dos EUA ou o SB 243 da Califórnia ainda não colocaram em vigor.
O que as regras deixam em aberto
O que as medidas não resolvem é igualmente importante. Eles não fixam nenhum limite técnico para o que conta como interação emocional, e essa zona cinzenta é precisamente a razão pela qual as plataformas retiraram recursos inteiros em vez de correrem o risco de cair no lado errado. Eles combinam deveres de segurança genuínos com disposições de controle de conteúdo e de segurança nacional que respondem ao Estado e não ao usuário, um pacote que nenhum outro regulador importaria no atacado.
Eles também deixam em aberto como a responsabilidade é dividida entre os operadores de plataforma e os provedores de modelos upstream quando uma violação decorre dos resultados do modelo, e não dão aos usuários o direito de transportar seus dados. O cenário de fiscalização aguça a questão. O regulador da Internet de Xangai disse em 26 de junho que removeu mais de 14.000 agentes de IA não conformes, citando falsificação de identidade de entidades oficiais, encenação vulgar e coleta não autorizada de dados pessoais.
Se esta é a direção certa depende de qual metade do livro de regras você lê. A metade da segurança aborda danos que estão documentados e em grande parte não regulamentados em outros lugares, desde adolescentes formando vínculos com chatbots até aplicativos complementares que coletam dados íntimos. A própria interpretação oficial da China aponta apoio no exterior, citando os processos judiciais da Character.AI sobre danos psicológicos a adolescentes, as investigações da FTC sobre serviços de companhia e a ação europeia contra a Replika.
O controlo dá a Pequim uma alavanca sobre o que estes sistemas podem dizer, envoltos na mesma linguagem de protecção do utilizador. Ambas são reais, e os governos que assistem à experiência terão de decidir quais as peças que estão dispostos a emprestar. Pan Helin, membro do comitê de especialistas do MIIT, expôs claramente o caso oficial ao Postagem matinal do Sul da Chinaafirmando que “os actuais agentes ainda não estão maduros” e enquadrando a política em torno da segurança e da normalização.
As empresas, por enquanto, seguiram o caminho mais seguro que lhes foi oferecido, que é desligar os componentes e descobrir mais tarde como será uma versão compatível.
Veja também: Meta revisa políticas de chatbot de IA em meio a preocupações com segurança infantil
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo o Cyber Security & Cloud Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
