Os ambientes de nuvem empresarial agora têm acesso a um recurso de desfazer para agentes de IA após a implantação do Commvault AI Protect.
O software autônomo agora percorre a infraestrutura, potencialmente excluindo arquivos, lendo bancos de dados, criando clusters de servidores e até mesmo reescrevendo políticas de acesso. A Commvault identificou este problema de governança e o fornecedor de proteção de dados lançou o AI Protect, um sistema projetado para descobrir, monitorar e reverter à força as ações de modelos autônomos que operam dentro da AWS, Microsoft Azure e Google Cloud.
A governação tradicional depende inteiramente de regras estáticas. Você concede permissões específicas a um usuário humano e esse usuário executa uma tarefa linear e previsível. Se algo der errado, há uma responsabilidade clara. Os agentes de IA, no entanto, exibem um comportamento emergente.
Ao receber uma solicitação complexa, um agente reunirá permissões aprovadas de formas potencialmente não aprovadas para resolver o problema. Se um agente decidir que a maneira mais eficiente de otimizar os custos de armazenamento em nuvem é excluir um banco de dados de produção inteiro, ele executará esse comando em milissegundos.
Um engenheiro humano pode fazer uma pausa antes de executar um comando destrutivo, questionando a lógica. Um agente de IA simplesmente segue seu ciclo de raciocínio interno. Ele realiza milhares de solicitações de API por segundo, ultrapassando enormemente os tempos de reação dos centros de operações de segurança humana.
Pranay Ahlawat, diretor de tecnologia e IA da Commvault, disse: “Em ambientes de agência, os agentes alteram o estado dos dados, sistemas e configurações de maneiras que se compõem rapidamente e são difíceis de rastrear. Quando algo dá errado, as equipes precisam recuperar não apenas os dados, mas toda a pilha – aplicativos, configurações de agentes e dependências – de volta a um estado bom conhecido”.
Uma nova geração de ferramentas de governança para agentes de IA em nuvem
O AI Protect é um exemplo de ferramentas emergentes que verificam continuamente a pegada da nuvem corporativa para identificar agentes ativos. Shadow AI continua sendo uma grande dificuldade para os departamentos de TI empresariais. Os desenvolvedores rotineiramente criam agentes experimentais usando credenciais corporativas sem notificar as equipes de segurança e conectam modelos de linguagem a data lakes internos para testar novos fluxos de trabalho.
A Commvault força esses atores ocultos a virem à luz. Uma vez identificado, o software monitora as chamadas de API específicas do agente e as interações de dados na AWS, Azure e GCP. Ele registra cada leitura de banco de dados, cada modificação de armazenamento e cada alteração de configuração.
O recurso de reversão fornece a rede de segurança. Se um modelo tiver alucinações ou interpretar mal um comando, os administradores podem reverter o ambiente ao seu estado exato antes de a máquina iniciar a sequência destrutiva.
No entanto, a infraestrutura em nuvem é altamente estável e profundamente interconectada. A reversão de uma cadeia complexa de ações automatizadas requer um rastreamento preciso e baseado em registros. Você não pode simplesmente restaurar uma única tabela de banco de dados se a máquina também modificou regras de rede, acionou funções downstream sem servidor e alterou políticas de gerenciamento de acesso de identidade durante sua execução.
A Commvault une a arquitetura de backup tradicional com o monitoramento contínuo na nuvem para conseguir isso. Ao mapear o raio de explosão da sessão do agente, o software isola o dano. Ele separa as alterações específicas feitas pela IA das alterações legítimas feitas por usuários humanos durante o mesmo período. Isso evita que uma reversão em massa exclua transações válidas de clientes ou acabe com horas de trabalho legítimo de engenharia.
As máquinas continuarão a executar tarefas mais rapidamente do que os operadores humanos conseguem monitorá-las. A prioridade agora é implementar salvaguardas que garantam que as ações autónomas possam ser revertidas de forma instantânea e precisa.
Veja também: Os desenvolvedores cidadãos agora têm seu próprio Wingman
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo o Cyber Security & Cloud Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
