Em resumo
- A Anthropic alegou que operadores afiliados ao Alibaba realizaram a maior campanha conhecida de destilação de modelo de IA contra Claude.
- A empresa está a apelar ao Congresso para que reforce os controlos de exportação, expanda a partilha de informações e penalize as empresas que se envolvem na extracção de modelos em grande escala.
- A carta chega no momento em que os legisladores consideram uma legislação que visa o acesso não autorizado aos modelos de IA da fronteira dos EUA.
A Anthropic está pedindo ao Congresso que fortaleça as proteções contra a destilação do modelo de IA depois de alegar que os operadores afiliados ao Alibaba realizaram o maior esforço conhecido para extrair capacidades de seu chatbot Claude.
Em uma carta de 10 de junho ao presidente do Comitê de Bancos, Habitação e Assuntos Urbanos do Senado, Tim Scott, e à membro do ranking, Elizabeth Warren, a Anthropic alegou que operadores afiliados ao Alibaba e seu laboratório Qwen AI geraram mais de 28,8 milhões de trocas com Claude entre 22 de abril e 5 de junho, usando quase 25.000 “contas fraudulentas”, ou aquelas que não representam usuários orgânicos reais.
Conhecido como ataque de destilação, a Anthropic disse que as operações visavam o raciocínio de agente, a engenharia de software e as capacidades de planejamento de longo horizonte de Claude, permitindo que os concorrentes reproduzissem o comportamento do modelo avançado sem o custo de treinar um sistema de IA de ponta.
“Além de sua escala, esta campanha foi impressionante por sua natureza descarada”, escreveu a Anthropic. “O Alibaba está listado na Bolsa de Valores de Nova York, mantém operações comerciais nos Estados Unidos e é responsável perante investidores e reguladores dos EUA.”
A Antrópico disse que a campanha foi além das preocupações com propriedade intelectual, enquadrando o modelo de destilação em grande escala como uma questão de segurança nacional que poderia acelerar as capacidades militares e de IA cibernética da China, ao mesmo tempo que estreitava a liderança tecnológica dos Estados Unidos.
A carta chega no momento em que Washington intensifica esforços para proteger a liderança da IA dos EUA. No início deste mês, o presidente Donald Trump assinou uma ordem executiva expandindo as iniciativas de segurança cibernética baseadas em IA, depois de adiar a medida devido a preocupações de que poderia enfraquecer a posição competitiva dos EUA contra a China.
“Quando os laboratórios da RPC destilam essas capacidades dos modelos dos EUA, eles capturam os retornos dos investimentos americanos sem arcar com os custos ou riscos associados ao treinamento de modelos de IA de fronteira”, escreveu a Anthropic. “Isto inverte a lógica económica que sustenta a liderança americana em IA, transformando milhares de milhões de dólares em investigação e desenvolvimento, computação e outros investimentos dos EUA num subsídio para os nossos concorrentes.”
A Anthropic instou os legisladores a expandir o compartilhamento de inteligência entre os desenvolvedores fronteiriços de IA e o governo dos EUA, esclarecer as regras antitruste para permitir que as empresas de IA compartilhem informações sobre ataques de destilação, fortalecer os controles de exportação de chips e computação avançados de IA, fechar brechas que permitem que as empresas chinesas acessem centros de dados no exterior e impor penalidades às empresas responsáveis pela extração de modelos em grande escala.
Um porta-voz da Anthropic se recusou a comentar especificamente sobre a carta, mas disse Descriptografar“Acreditamos que o combate à ameaça da destilação ilícita requer uma ação coordenada entre o governo e a indústria, e continuaremos trabalhando com o Congresso e a administração para manter a liderança americana na IA.”
A carta também se baseia nas afirmações da Anthropic em fevereiro de que os desenvolvedores chineses de IA DeepSeek, Moonshot AI e MiniMax geraram mais de 16 milhões de trocas Claude usando cerca de 24.000 contas fraudulentas.
Essas alegações atraíram críticas de observadores que argumentaram que as empresas de IA dependem de técnicas semelhantes quando treinam os seus próprios sistemas. A Anthropic respondeu que a destilação convencional é um método legítimo para produzir modelos menores e mais baratos, enquanto a extração não autorizada de capacidades do modelo de fronteira através de acesso fraudulento viola seus termos de serviço.
O debate mais amplo sobre a destilação tornou-se mais complicado nos últimos meses. Em abril, Elon Musk testemunhou no tribunal federal que a xAI havia usado “parcialmente” modelos OpenAI enquanto treinava Grok, ressaltando que a destilação é uma prática estabelecida na indústria – mesmo quando as empresas discutem onde termina o treinamento legítimo do modelo e começa a extração não autorizada do modelo.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
