O cofundador da Ethereum, Vitalik Buterin, identificou os limites da atenção humana como o principal problema que assola as organizações autônomas descentralizadas (DAOs) e os sistemas de governança democrática.
Resumo
- Buterin diz que a atenção humana limitada é a principal falha de governança dos DAOs.
- Os agentes pessoais de IA poderiam votar usando as preferências e o contexto do usuário.
- Os mercados de sugestões e o MPC podem melhorar a privacidade e as decisões.
Escrevendo sobre X, Buterin argumentou que os participantes enfrentam milhares de decisões em vários domínios de especialização sem tempo ou habilidade suficiente para avaliá-las adequadamente.
A solução habitual de delegação cria uma perda de poder, onde um pequeno grupo controla a tomada de decisões enquanto os apoiantes não têm influência depois de clicarem no botão de delegar.
Buterin propôs grandes modelos de linguagem pessoal como solução para o problema de atenção e compartilhou quatro abordagens. Agentes de governança pessoal, agentes de conversação pública, mercados de sugestões e computação multipartidária que preserva a privacidade para decisões confidenciais.
LLMs pessoais podem votar com base nas preferências
Os agentes de governança pessoal realizariam todas as votações necessárias com base nas preferências inferidas a partir de escritos pessoais, histórico de conversas e declarações diretas.
Quando o agente enfrenta incerteza sobre as preferências de voto e considera uma questão importante, deve perguntar diretamente ao usuário, fornecendo todo o contexto relevante.
Os agentes de conversação pública agregariam informações de muitos participantes antes de dar a cada pessoa ou ao seu LLM a oportunidade de responder.
O sistema resumiria as visões individuais, converteria-as em formatos compartilháveis sem expor informações privadas e identificaria pontos em comum entre entradas semelhantes aos sistemas Polis aprimorados pelo LLM.
Buterin observou que boas decisões não podem vir de “um processo linear de tomar as opiniões das pessoas que se baseiam apenas nas suas próprias informações, e calcular a média delas (mesmo quadraticamente)”. “Os processos devem primeiro agregar informações coletivas e depois permitir respostas informadas.
Os mercados de sugestões podem apresentar propostas de alta qualidade
Mecanismos de governança que valorizem insumos de alta qualidade poderiam implementar mercados de previsão onde qualquer pessoa apresenta propostas enquanto os agentes de IA apostam em tokens. Quando o mecanismo aceita a entrada, ele paga aos detentores de tokens.
A abordagem se aplica a propostas, argumentos ou quaisquer unidades de conversação que o sistema transmita aos participantes. A estrutura do mercado cria incentivos financeiros para trazer à tona contribuições valiosas.
A governação descentralizada falha quando decisões importantes necessitam de informações secretas, argumentou Buterin. As organizações geralmente lidam com conflitos adversários, disputas internas e decisões de compensação nomeando indivíduos com grande poder.
A computação multipartidária usando ambientes de execução confiáveis poderia incorporar as contribuições de muitas pessoas sem comprometer a privacidade.
“Você envia seu LLM pessoal em uma caixa preta, o LLM vê informações privadas, faz um julgamento com base nisso e emite apenas esse julgamento”, explicou Buterin.
A proteção da privacidade torna-se importante à medida que os participantes enviam contribuições maiores contendo mais informações pessoais. O anonimato necessita de provas de conhecimento zero, que Buterin disse que deveriam ser incorporadas em todas as ferramentas de governação.
Fontecrypto.news
