Empresas de IA e dados dos EUA testemunharão em investigação chinesa de espionagem de IA

Os legisladores dos EUA teriam chamado várias empresas de desenvolvimento de IA para explicar como certos modelos se tornaram parte de um amplo esforço de espionagem.

Entre eles está o CEO da Anthropic, Dario Amodei, que foi convidado a comparecer perante o Comitê de Segurança Interna da Câmara em 17 de dezembro para explicar como os atores estatais chineses usaram o Código Claude, de acordo com um relatório. Eixos relatório divulgado na quarta-feira, citando cartas compartilhadas em particular.

No início deste mês, a Anthropic revelou que um grupo de hackers ligado ao estado chinês usou a sua ferramenta Claude Code para lançar o que a empresa descreveu como a primeira operação cibernética em grande escala amplamente automatizada por um sistema de IA.

Operando sob o nome de grupo GTG-1002, os invasores orquestraram uma campanha visando cerca de 30 organizações, com Claude Code cuidando da maioria das fases de acordo com a Anthropic: reconhecimento, verificação de vulnerabilidades, criação de exploração, coleta de credenciais e exfiltração de dados.

Presidindo a investigação de acompanhamento está o deputado Andrew Garbarino (R-NY) ao lado de dois chefes de subcomitê.

O comitê queria que a Amodei detalhasse exatamente quando a Anthropic detectou a atividade pela primeira vez, como os invasores aproveitaram seus modelos durante os diferentes estágios da violação e quais salvaguardas falharam ou tiveram sucesso à medida que a campanha avançava. A audiência também incluirá executivos do Google Cloud e Quantum Xchange, de acordo com a Axios.

“Pela primeira vez, vemos um adversário estrangeiro utilizar um sistema comercial de IA para realizar quase toda uma operação cibernética com o mínimo envolvimento humano”, disse Garbarino num comunicado citado no relatório inicial. “Isso deveria preocupar todas as agências federais e todos os setores de infraestrutura crítica.”

Descriptografar entrou em contato com o deputado Garbarino, Google Cloud, Quantum Xchange e Anthropic para comentar.

O escrutínio do Congresso surge na sequência de um aviso separado do serviço de segurança do Reino Unido MI5, que na semana passada emitiu um alerta aos legisladores do Reino Unido depois de identificarem agentes de inteligência chineses usando perfis de recrutadores falsos para atingir deputados, pares e funcionários parlamentares.

Embora procure “continuar uma relação económica com a China”, o governo do Reino Unido está pronto para “desafiar os países sempre que estes prejudiquem o nosso modo de vida democrático”, disse o ministro da Segurança, Dan Jarvis, no comunicado.

Financiamento na rede em risco

Neste contexto, os observadores alertam que as mesmas capacidades de IA que agora impulsionam a espionagem podem facilmente acelerar o roubo financeiro.

“O que há de assustador na IA é a velocidade”, disse Shaw Walters, fundador do laboratório de pesquisa de IA Eliza Labs. Descriptografar. “O que costumava ser feito manualmente agora pode ser automatizado em grande escala.”

A lógica pode ser perigosamente simples, explicou Walters. Se os atores do Estado-nação pudessem quebrar e manipular modelos para campanhas de hackers, o próximo passo seria direcionar a IA agente “para drenar carteiras ou desviar fundos sem ser detectada”.

Os agentes de IA poderiam “construir relacionamento e confiança com um alvo, manter uma conversa e levá-los ao ponto de cair em uma fraude”, explicou Walters.

Uma vez suficientemente treinados, esses agentes também podem ser “preparados para atacar contratos em cadeia”, afirmou Walters.

“Mesmo modelos supostamente “alinhados” como Claude terão prazer em ajudá-lo a encontrar pontos fracos de segurança em ‘seu’ código – é claro, ele não tem ideia do que é ou não seu e, na tentativa de ser útil, certamente encontrará pontos fracos em muitos contratos onde o dinheiro pode ser drenado”, disse ele.

Mas embora as respostas contra estes ataques sejam “fáceis de construir”, a realidade, diz Walters, é que “são pessoas más que tentam contornar as salvaguardas que já temos”, tentando enganar os modelos para que “façam trabalho de chapéu preto, convencendo-se de que estão a ajudar, e não a prejudicar”.