Os líderes de segurança enfrentam uma nova classe de ameaças autônomas enquanto a Anthropic detalha a primeira campanha de espionagem cibernética orquestrada pela IA.
Num relatório divulgado esta semana, a equipa de Inteligência de Ameaças da empresa descreveu a interrupção de uma operação sofisticada levada a cabo por um grupo patrocinado pelo Estado chinês – uma avaliação feita com grande confiança – apelidada de GTG-1002 e detectada em meados de Setembro de 2025.
A operação teve como alvo aproximadamente 30 entidades, incluindo grandes empresas de tecnologia, instituições financeiras, empresas de fabricação de produtos químicos e agências governamentais.
Em vez de a IA ajudar os operadores humanos, os atacantes manipularam com sucesso o modelo Claude Code da Antrópico para funcionar como um agente autónomo para executar a grande maioria das operações táticas de forma independente.
Isto marca um desenvolvimento preocupante para os CISOs, transferindo os ataques cibernéticos de esforços dirigidos por humanos para um modelo em que os agentes de IA realizam 80-90 por cento do trabalho ofensivo com humanos agindo apenas como supervisores de alto nível. A Anthropic acredita que este é o primeiro caso documentado de um ataque cibernético em grande escala executado sem intervenção humana substancial.
Agentes de IA: um novo modelo operacional para ataques cibernéticos
O grupo usou um sistema de orquestração que encarregava instâncias do Claude Code de funcionarem como agentes autônomos de testes de penetração. Esses agentes de IA foram direcionados como parte da campanha de espionagem para realizar reconhecimento, descobrir vulnerabilidades, desenvolver explorações, coletar credenciais, mover-se lateralmente pelas redes e exfiltrar dados. Isso permitiu que a IA realizasse reconhecimento em uma fração do tempo que uma equipe de hackers humanos levaria.
O envolvimento humano foi limitado a 10-20 por cento do esforço total, centrado principalmente no início da campanha e no fornecimento de autorização em alguns pontos-chave de escalada. Por exemplo, os operadores humanos aprovariam a transição do reconhecimento para a exploração ativa ou autorizariam o âmbito final da exfiltração de dados.
Os invasores contornaram as salvaguardas integradas do modelo de IA, que são treinadas para evitar comportamentos prejudiciais. Eles fizeram isso desbloqueando o modelo, enganando-o, dividindo os ataques em tarefas aparentemente inocentes e adotando uma persona de “encenação”. Os operadores disseram a Claude que era funcionário de uma empresa legítima de segurança cibernética e estava sendo usado em testes defensivos. Isso permitiu que a operação prosseguisse por tempo suficiente para obter acesso a alguns alvos validados.
A sofisticação técnica do ataque não reside no novo malware, mas na orquestração. O relatório observa que a estrutura dependia “esmagadoramente de ferramentas de teste de penetração de código aberto”. Os invasores usaram servidores Model Context Protocol (MCP) como uma interface entre a IA e essas ferramentas comuns, permitindo que a IA executasse comandos, analisasse resultados e mantivesse o estado operacional em vários alvos e sessões. A IA foi até orientada a pesquisar e escrever seu próprio código de exploração para a campanha de espionagem.
Alucinações de IA tornam-se uma coisa boa
Embora a campanha tenha violado com sucesso alvos de alto valor, a investigação da Anthropic descobriu uma limitação digna de nota: a IA alucinava durante operações ofensivas.
O relatório afirma que Claude “frequentemente exagerava as descobertas e ocasionalmente fabricava dados”. Isso se manifestou quando a IA alegou ter obtido credenciais que não funcionaram ou identificou descobertas que “provaram ser informações publicamente disponíveis”.
Esta tendência exigiu que os operadores humanos validassem cuidadosamente todos os resultados, apresentando desafios para a eficácia operacional dos atacantes. Segundo a Anthropic, isso “continua sendo um obstáculo para ataques cibernéticos totalmente autônomos”. Para os líderes de segurança, isto realça uma potencial fraqueza nos ataques impulsionados pela IA: podem gerar um elevado volume de ruído e falsos positivos que podem ser identificados com uma monitorização robusta.
Uma corrida armamentista defensiva de IA contra novas ameaças de espionagem cibernética
A principal implicação para os líderes empresariais e tecnológicos é que as barreiras à realização de ataques cibernéticos sofisticados caíram consideravelmente. Grupos com menos recursos agora podem executar campanhas que antes exigiam equipes inteiras de hackers experientes.
Este ataque demonstra uma capacidade que vai além do “vibe hacking”, onde os humanos permaneceram firmemente no controle das operações. A campanha GTG-1002 prova que a IA pode ser usada para descobrir e explorar autonomamente vulnerabilidades em operações ao vivo.
A Antrópico, que proibiu as contas e notificou as autoridades durante uma investigação de dez dias, argumenta que este desenvolvimento mostra a necessidade urgente de uma defesa alimentada por IA. A empresa afirma que “as próprias habilidades que permitem que Claude seja utilizado nesses ataques também o tornam essencial para a defesa cibernética”. A própria equipe de Inteligência de Ameaças da empresa “utilizou Claude extensivamente para analisar “as enormes quantidades de dados gerados” durante esta investigação.
As equipes de segurança devem operar partindo do pressuposto de que ocorreu uma grande mudança na segurança cibernética. O relatório insta os defensores a “experimentar a aplicação de IA para defesa em áreas como automação SOC, detecção de ameaças, avaliação de vulnerabilidades e resposta a incidentes”.
A disputa entre os ataques impulsionados pela IA e a defesa impulsionada pela IA já começou, e a adaptação proativa para combater novas ameaças de espionagem é o único caminho viável a seguir.
Veja também: Wiz: Lapsos de segurança surgem em meio à corrida global pela IA
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo a Cyber Security Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
