O provedor de treinamento em segurança cibernética Hack The Box (HTB) lançou a gama HTB AI, projetada para permitir que as organizações testem agentes de segurança de IA autônomos em condições realistas, embora com a supervisão de profissionais humanos de segurança cibernética. Seu objetivo é ajudar os usuários a avaliar quão bem a IA e as equipes mistas de humanos e IA podem defender a infraestrutura.
As vulnerabilidades nos modelos de IA somam-se às já presentes na TI tradicional, portanto, antes que ferramentas de segurança cibernética baseadas em IA ou agentes possam ser implantadas com raiva, a HTB está propondo um ambiente de testes onde agentes de IA e defensores humanos possam trabalhar juntos sob pressão realista para medir suas proezas em segurança cibernética.
Como funciona a gama HTB AI
A HTB descreve o AI Range como uma simulação da complexidade empresarial com milhares de alvos ofensivos e defensivos que são continuamente atualizados. A plataforma suporta mapeamento para estruturas cibernéticas estabelecidas, incluindo MITRE ATT&CK, as diretrizes NIST/NICE e o Open Worldwide Application Security Project (OWASP) Top 10.
A HTB afirma que em um exercício recente de IA versus captura humana da bandeira (CTF), agentes autônomos de IA resolveram 19 dos 20 desafios básicos. Mas em desafios de várias etapas em ambientes mais complexos, as equipes humanas superaram os agentes de IA.
A empresa sugere que a IA luta com a complexidade e as operações em vários estágios, e isso aponta para o valor contínuo da experiência humana, especialmente em trabalhos complexos ou de alto risco.
Testando e eliminando a lacuna de habilidades
As empresas podem usar o AI Range para validar se as medidas de segurança existentes funcionam sob ataques alimentados por IA, dar às suas equipes de segurança cibernética experiência em ameaças alimentadas por IA e desenvolver ferramentas de segurança cibernética mais resilientes baseadas em IA de agente. Tais exercícios poderiam ser usados para justificar o investimento em segurança cibernética para os decisores financeiros, sugere Hack The Box.
A gama AI da HTB pode ser usada para testes contínuos e validação de defesas de segurança cibernética, que a empresa afirma ser mais eficaz a longo prazo do que auditorias estáticas ou exercícios de pen-testing e, portanto, está mais próxima de um modelo CTEM (gestão contínua de exposição a ameaças).
A HTB está lançando uma certificação AI Red Teamer no início do próximo ano, em uma tentativa de quantificar as habilidades necessárias para fortalecer as defesas de IA.
Atualmente, parece sensato considerar os alcances cibernéticos da IA como parte de uma oferta de segurança e resiliência em camadas. À medida que a IA amadurece e estruturas como o MITRE ATLAS ganham força, ferramentas como a AI Range da HTB podem se tornar componentes padrão em programas de segurança empresarial.
“Hack The Box é onde os agentes de IA e os humanos aprendem a operar juntos sob pressão real”, disse Gerasimos Marketos, diretor de produtos da Hack The Box. “Estamos atendendo à necessidade urgente de validar continuamente os sistemas de IA em contextos operacionais realistas, onde os riscos são altos e a supervisão humana permanece vital. O HTB AI Range torna isso possível.”
Haris Pylarinos, CEO e fundador da Hack The Box disse: “Por mais de dois anos, temos desenvolvido caminhos de aprendizagem, laboratórios e pesquisas orientados por IA, onde máquinas e humanos competem, colaboram e co-evoluem. Com a HTB AI Range, não estamos reagindo ao aumento da IA na cibernética; estamos definindo como a defesa evolui junto com ela. É assim que a segurança cibernética avança: não através do medo, mas através do domínio”.
(Fonte da imagem: “The main cast” de Tim Dorr está licenciado sob CC BY-SA 2.0.)
Veja também: Novo chip Nvidia Blackwell para China pode superar modelo H20
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos líderes de tecnologia. Clique aqui para obter mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
