Em resumo
- A Anthropic removeu marcadores de rastreamento ocultos do Claude Code depois que pesquisadores descobriram o código usado para identificar alguns usuários chineses.
- A empresa disse que o experimento tinha como objetivo evitar abusos na conta e detectar uma possível destilação do modelo de IA.
- A descoberta ocorre no momento em que a Anthropic pressiona os legisladores a reprimir a cópia não autorizada de modelos de IA de fronteira.
A Anthropic removeu um sistema de rastreamento oculto do Claude Code depois que um pesquisador de segurança descobriu que o assistente de codificação de IA estava usando marcadores não revelados para identificar a localização de alguns usuários, uso de proxy e possíveis links para laboratórios de IA chineses.
O recurso, descoberto em junho pelo desenvolvedor “Thereallo”, incorporou sinais nos prompts do sistema de Claude Code que poderiam sinalizar usuários que a Anthropic acreditava estar contornando restrições ou tentando extrair recursos do modelo.
“A Anthropic provavelmente deseja detectar revendedores de API, gateways Claude Code não autorizados e modelar pipelines de ‘ataque de destilação’”, escreveu Thereallo. “Um ANTHROPIC_BASE_URL personalizado apontando para um domínio de revendedor conhecido é um sinal útil. Um nome de host contendo deepseek ou zhipu também é um sinal útil.”
Thereallo disse que a tentativa da Anthropic de detectar revendedores, gateways não autorizados do Claude Code e possíveis ataques de destilação fazia sentido, mas criticou como isso foi feito, observando que o Claude Code escondeu sinais de rastreamento dentro dos prompts do sistema usando marcadores Unicode e listas de domínios codificados, em vez de divulgar o sistema por meio de documentação ou notas de lançamento.
“Este não é um recurso malicioso, mas é uma escolha estranha para uma ferramenta de desenvolvedor que pede confiança”, escreveu Thereallo.
Depois que o rastreador foi revelado online, o engenheiro da Anthropic, Thariq Shihipar, disse no X que ele foi apresentado em março como um “experimento” para impedir o abuso de conta por revendedores não autorizados e proteger Claude de ataques de destilação.
“A equipe conseguiu mitigações mais fortes desde então e já faz algum tempo que pretendíamos eliminar isso”, escreveu Shihipar na semana passada. “Mesclamos a (solicitação pull) e isso deve ser totalmente revertido no lançamento de amanhã.”
A notícia chega no momento em que a Anthropic aumenta os alertas sobre a destilação do modelo de IA, onde as saídas de um sistema são usadas para treinar outro modelo. Embora a prática seja comum na investigação em IA, quando se trata de geopolítica, a destilação torna-se uma preocupação de segurança nacional. No início deste mês, o Alibaba proibiu os funcionários de usar o Claude Code, chamando a ferramenta de software de “alto risco” por questões de segurança.
Em fevereiro, a Anthropic acusou os desenvolvedores chineses de IA DeepSeek, Moonshot AI e MiniMax de usar contas fraudulentas para extrair milhões de respostas de Claude para treinar modelos concorrentes. As alegações geraram resistência por parte dos críticos que questionaram como a prática difere dos métodos usados em toda a indústria de IA.
Em abril, Elon Musk testemunhou que a xAI usou “parcialmente” modelos OpenAI enquanto treinava Grok, chamando a destilação de uma prática mais ampla da indústria. Em junho, o CEO da Anthropic, Dario Amodei, instou o Congresso a fortalecer as proteções contra a extração estrangeira de IA depois de alegar que operadores vinculados ao Alibaba geraram 28,8 milhões de exchanges Claude usando quase 25.000 contas fraudulentas.
A Anthropic não respondeu imediatamente a um pedido de comentário da Descriptografar.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
