O líder de IA da Ethereum Foundation, Davide Crapis, e o cofundador do Ethereum, Vitalik Buterin, propuseram uma forma de usar testes de conhecimento zero e outros métodos para garantir que as interações de um usuário com grandes modelos de linguagem permaneçam privadas, ao mesmo tempo em que evitam spam e abusos.
Chamadas de API ocorrem sempre que um usuário envia uma mensagem para um aplicativo de software, como um chatbot de IA. Crapis e Buterin disseram em uma publicação de blog na quarta-feira que um desafio central tanto para os usuários quanto para provedores é privacidade, segurança e eficiência.
“Precisamos de um sistema para que um usuário possa depositar fundos uma única vez e fazer milhares de chamadas de API de forma anônima, segura e eficiente”, afirmaram.
“O provedor deve ter garantia de pagamento e proteção contra spam, enquanto o usuário deve ter garantia de que suas conexões não podem ser vinculadas à sua identidade ou entre si”, acrescenta.
Com o aumento do uso de chatbots de IA, vazamentos de dados de LLMs se tornaram uma preocupação crescente. Chatbots frequentemente lidam com dados altamente sensíveis, e vincular o uso a identidades pode criar riscos significativos de privacidade, legais e de segurança. Registros de uso podem até ser usados em processos judiciais.
A solução de Crapis e Buterin para usuários e provedores
Crapis e Buterin informaram que os provedores atuais são obrigados a escolher entre dois “caminhos subótimos”: acesso baseado em identidade, com usuários obrigados a fornecer informações sensíveis como e-mail ou cartão de crédito — o que cria riscos de privacidade — ou pagamentos onchain por requisição, que são lentos, caros e rastreáveis.
A dupla propõe um sistema no qual os usuários depositam fundos em um contrato inteligente e então realizam chamadas de API sem revelar sua identidade ou vincular transações, utilizando provas de conhecimento zero e anuladores de limitação de impostos para pagamentos e aplicação de regras anti-spam.
“Um usuário deposita 100 USDC em um contrato inteligente e faz 500 consultas a um LLM hospedado. O provedor recebe 500 requisições válidas e pagas, mas não pode vinculá-las ao mesmo depositante, nem entre si, enquanto os prompts do usuário permanecem não vinculáveis à identidade do usuário”, disseram Crapis e Buterin.
“O modelo de solvência exige que o usuário comprove que seu gasto acumulado — representado por seu índice atual de boleto — permanece contido dentro dos limites de seu depósito inicial e de seu histórico de aplicativo verificado de reembolsos.”
Tentar roubar o sistema pode queimar seu depósito
Para encorajar golpistas, geração de conteúdo ilegal, tentativas de jailbreak e outras revelações de termos de serviço, Crapis e Buterin propõem um sistema de staking duplo.
Se um usuário for pego tentando gastar duas vezes o mesmo saldo, seu depósito pode ser reivindicado por qualquer pessoa, inclusive pelo servidor. No entanto, os usuários que violarem os termos de serviço terão seu depósito enviado para um endereço de queima, e o evento de slashing será registrado onchain.
“Por exemplo, um usuário pode enviar um prompt solicitando ao modelo que gere instruções para construir uma arma ou ajudá-lo a contornar controles de segurança — solicitações que violariam as políticas de uso de muitos provedores”, disseram Crapis e Buterin.
“Embora a identidade do usuário permaneça oculta, a comunidade pode auditar a taxa com que o servidor queima estacas e as evidências publicadas para essas queimas.”
Fontecointelegraph
