Assistente de IA de código aberto em rápido crescimento está testando os limites da automação – e da segurança

Um assistente de IA de código aberto explodiu nas comunidades de desenvolvedores nas últimas semanas, acumulando mais de 10.200 estrelas no GitHub e 8.900 membros do Discord desde seu lançamento em janeiro.

O Clawdbot promete o que a Siri nunca entregou: uma IA que realmente faz coisas. Alex Finn, CEO da CreatorBuddy, mandou uma mensagem para seu Clawdbot, Henry, para fazer uma reserva em um restaurante.

“Quando o OpenTable res não funcionou, ele usou sua habilidade ElevenLabs para ligar para o restaurante e concluir a reserva”, escreveu Finn no X. “AGI está aqui e 99% das pessoas não têm ideia.”

O Clawdbot se destaca por manter o contexto do usuário no dispositivo, ser de código aberto e ser distribuído em um ritmo incomumente rápido, escreveu o desenvolvedor Dan Peguine no X no sábado.

Ele também funciona nas principais plataformas de mensagens e oferece memória persistente com tarefas proativas em segundo plano que vão muito além de um assistente pessoal típico, acrescentou. Além disso, é muito fácil de instalar para usuários comuns.

Clawdbot usa o Model Context Protocol para conectar modelos de IA como Claude ou GPT com ações do mundo real sem intervenção humana.

O sistema pode ser executado localmente em praticamente qualquer hardware e se conecta por meio de aplicativos de mensagens que você já usa – WhatsApp, Telegram, Discord, Slack, Signal, iMessage. Ele pode executar comandos de terminal, controlar navegadores, gerenciar arquivos e fazer chamadas telefônicas.

De consultoria de investimento ao gerenciamento de contas OnlyFans, tudo parece ser possível, desde que você tenha a criatividade para construí-lo, os recursos para pagar pelos tokens e a coragem para arcar com as consequências quando as coisas dão errado.

Acesso irrestrito

Ainda assim, o Clawdbot está levantando preocupações entre aqueles da comunidade de segurança que descobriram um problema.

O pesquisador de IA Luis Catacora executou uma varredura Shodan e encontrou um problema: “Os gateways Clawdbot estão expostos agora sem autenticação (eles apenas se conectam ao seu IP e entram)… Isso significa acesso ao shell, automação do navegador, chaves de API. Tudo aberto para alguém ter controle total do seu dispositivo.”

Na verdade, sistemas poderosos colocados em mãos inexperientes deixaram muitas máquinas expostas.

A solução é relativamente simples: altere uma ligação de gateway de uma configuração pública para uma configuração local e reinicie. A etapa não é intuitiva e a configuração padrão deixou muitos usuários vulneráveis ​​a ataques remotos.

A resposta recomendada é restringir imediatamente o acesso à rede, adicionar autenticação e criptografia adequadas, alternar chaves potencialmente comprometidas e implementar limites de taxa, registro e alertas para reduzir o risco de abuso.

O grande uso de tokens do sistema surpreendeu os usuários, levando os desenvolvedores a recomendar modelos de baixo custo ou implantações locais para gerenciar o consumo.

Federico Viticci em Histórias do Mac queimou 180 milhões de tokens em sua primeira semana. Sobre Notícias sobre hackersum desenvolvedor relatou gastar US$ 300 em dois dias no que considerou “tarefas básicas”.

Clawdbot é criação de Peter Steinberger, fundador do PSPDFKit (agora chamado Nutrient), que saiu da aposentadoria para construir o que chama de “assistente pessoal 24 horas por dia, 7 dias por semana”.

Por enquanto, dados os custos, é recomendável ter cuidado com o que você pede ao seu assistente.

A documentação do projeto inclui um guia de segurança e comandos de diagnóstico para verificar configurações incorretas. A comunidade está enviando correções em um ritmo rápido, com cerca de 30 solicitações pull diárias, mas a adoção de salvaguardas de segurança ainda está atrasada em relação às taxas de instalação.