Em meio à explosão dos sistemas de IA, navegadores de IA como Fellou e Comet da Perplexity começaram a aparecer nos desktops corporativos. Esses aplicativos são descritos como a próxima evolução do humilde navegador e vêm com recursos de IA integrados; eles podem ler e resumir páginas da web – e, no seu nível mais avançado – agir de forma autônoma no conteúdo da web.
Em teoria, pelo menos, a promessa de um navegador de IA é que irá acelerar os fluxos de trabalho digitais, realizar pesquisas online e recuperar informações de fontes internas e da Internet em geral.
No entanto, as equipas de investigação de segurança estão a concluir que os navegadores de IA introduzem riscos graves nas empresas que simplesmente não podem ser ignorados.
O problema reside no fato de que os navegadores de IA são altamente vulneráveis a ataques indiretos de injeção imediata. É aqui que o modelo no navegador (ou acessado por meio do navegador) recebe instruções ocultas em sites especialmente criados. Ao incorporar texto em páginas da web ou imagens de maneiras que os humanos consideram difíceis de discernir, os modelos de IA podem receber instruções na forma de prompts de IA ou alterações nos prompts inseridos pelo usuário.
O resultado final para os departamentos de TI e tomadores de decisão é que os navegadores de IA ainda não são adequados para uso nas empresas e representam uma ameaça significativa à segurança.
A automação encontra a exposição
Em testes, os pesquisadores descobriram que o texto incorporado no conteúdo online é processado pelo navegador de IA e interpretado como instruções para o modelo inteligente. Estas instruções podem ser executadas utilizando os privilégios do utilizador, pelo que quanto maior for o grau de acesso à informação que o utilizador tiver, maior será o risco para a organização. A autonomia que a IA dá aos utilizadores é o mesmo mecanismo que amplia a superfície de ataque e, quanto mais autonomia, maior será o potencial de perda de dados.
Por exemplo, é possível incorporar comandos de texto em uma imagem que, quando exibida no navegador, pode acionar um assistente de IA para interagir com ativos confidenciais, como e-mail corporativo ou painéis bancários on-line. Outro teste mostrou como o prompt de um assistente de IA pode ser sequestrado e executado para realizar ações não autorizadas em nome do usuário.
Estes tipos de vulnerabilidades vão claramente contra todos os princípios de governação de dados e são o exemplo mais óbvio de como a «IA sombra», na forma de um navegador não autorizado, representa uma ameaça real aos dados de uma organização. O modelo de IA atua como uma ponte entre domínios e contorna políticas de mesma origem – a regra que impede o acesso de dados de um domínio por outro.
Desafios de implementação e governança
A raiz do problema é a fusão das consultas do usuário no navegador com os dados ativos acessados na web. Se o LLM não conseguir distinguir entre entradas seguras e maliciosas, então ele poderá acessar alegremente dados não solicitados por seu operador humano e agir de acordo com eles. Quando recebem habilidades de agente, as consequências podem ser de longo alcance e podem facilmente causar uma cascata de atividades maliciosas em toda a empresa.
Para qualquer organização que dependa da segmentação de dados e do controle de acesso, uma camada de IA comprometida no navegador de um usuário pode contornar firewalls, realizar trocas de tokens e usar cookies seguros exatamente da mesma maneira que um usuário faria. Efetivamente, o navegador de IA torna-se uma ameaça interna, com acesso a todos os dados e instalações do seu operador humano. O usuário do navegador não estará necessariamente ciente da atividade “oculta”, portanto, um navegador infectado pode agir por períodos significativos de tempo sem ser detectado.
Mitigação de ameaças
A primeira geração de navegadores de IA deve ser vista pelas equipes de TI da mesma forma que tratam a instalação não autorizada de software de terceiros. Embora seja relativamente fácil impedir que softwares específicos sejam instalados pelos usuários, é importante notar que os navegadores convencionais, como Chrome e Edge, estão sendo fornecidos com um número maior de recursos de IA na forma de Gemini (no Chrome) e Copilot (no Edge). As empresas produtoras de navegadores estão explorando ativamente os recursos de navegação aumentados por IA, e os recursos de agente (que concedem autonomia significativa ao navegador) aparecerão rapidamente, impulsionados pela necessidade de vantagem competitiva entre as empresas de navegadores.
Sem supervisão e controlos adequados, as organizações estão expostas a riscos significativos. As gerações futuras de navegadores devem ser verificadas quanto aos seguintes recursos:
- Isolamento de prompt, separando a intenção do usuário do conteúdo da web de terceiros antes da geração de prompt do LLM.
- Permissões fechadas. Os agentes de IA não devem ser capazes de executar ações autônomas, incluindo navegação, recuperação de dados ou acesso a arquivos sem a confirmação explícita do usuário.
- Sandboxing de navegação sensível (como RH, finanças, painéis internos, etc.) para que não haja atividade de IA nessas áreas sensíveis.
- Integração da governança. A IA baseada em navegador deve estar alinhada às políticas de segurança de dados, e o software deve fornecer registros para tornar rastreáveis as ações dos agentes.
Até o momento, nenhum fornecedor de navegador apresentou um navegador inteligente com a capacidade de distinguir entre intenções orientadas pelo usuário e comandos interpretados por modelo. Sem isso, os navegadores podem ser coagidos a agir contra a organização pelo uso de injeção de alerta relativamente trivial.
Conclusão do tomador de decisão
Os navegadores Agentic AI são apresentados como a próxima evolução lógica em navegação na web e automação no local de trabalho. Eles são projetados deliberadamente para confundir a distinção entre atividade humana/usuário e se tornarem parte das interações com os ativos digitais da empresa. Dada a facilidade com que os LLMs nos navegadores de IA são contornados e corrompidos, a geração atual de navegadores de IA pode ser considerada um malware inativo.
Os principais fornecedores de navegadores parecem prontos para incorporar IA (com ou sem habilidades de agente) nas futuras gerações de suas plataformas, portanto, um monitoramento cuidadoso de cada versão deve ser realizado para garantir a supervisão da segurança.
(Fonte da imagem: “Bomba não explodida!” por Hugh Llewelyn está licenciada sob CC BY-SA 2.0.)
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos de tecnologia líderes. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
