Assim como os engenheiros de software estão usando inteligência artificial para ajudar a escrever códigos e verificar bugs, os hackers estão usando essas ferramentas para reduzir o tempo e o esforço necessários para orquestrar um ataque, diminuindo as barreiras para que invasores menos experientes tentem algo.
Algumas pessoas no Vale do Silício alertam que a IA está prestes a ser capaz de realizar ataques totalmente automatizados. Mas a maioria dos investigadores de segurança argumenta que deveríamos prestar mais atenção aos riscos muito mais imediatos colocados pela IA, que já está a acelerar e a aumentar o volume de fraudes.
Os criminosos estão explorando cada vez mais as mais recentes tecnologias deepfake para se passar por pessoas e roubar grandes somas de dinheiro das vítimas. E precisamos estar prontos para o que vem a seguir. Leia a história completa.
—Rhiannon Williams
Esta história é da próxima edição impressa da Revisão de tecnologia do MIT revista, que é tudo sobre crime. Se você ainda não o fez, inscreva-se agora para receber edições futuras assim que pousarem.
É possível um assistente de IA seguro?
Os agentes de IA são um negócio arriscado. Mesmo quando presos na janela do chat, os LLMs cometerão erros e se comportarão mal. Uma vez que tenham ferramentas que possam utilizar para interagir com o mundo exterior, como navegadores web e endereços de e-mail, as consequências desses erros tornam-se muito mais graves.
O projeto de agente de IA viral OpenClaw, que ganhou as manchetes em todo o mundo nas últimas semanas, aproveita os LLMs existentes para permitir que os usuários criem seus próprios assistentes personalizados. Para alguns usuários, isso significa entregar uma grande quantidade de dados pessoais, desde anos de e-mails até o conteúdo de seu disco rígido. Isso deixou os especialistas em segurança completamente assustados.
Em resposta a estas preocupações, o seu criador alertou que pessoas não técnicas não deveriam usar o software. Mas há um claro apetite pelo que o OpenClaw está oferecendo, e qualquer empresa de IA que pretenda entrar no negócio de assistentes pessoais precisará descobrir como construir um sistema que mantenha os dados dos usuários seguros e protegidos. Para fazer isso, eles precisarão adotar abordagens de ponta em pesquisas de segurança de agentes. Leia a história completa.
—Grace Huckins
