O chatbot de inteligência artificial do X, o Grok, torna a plataforma de mídia social mais favorável à verdade ao fornecer respostas que se opõem a usuários que recorrem a ele para confirmar vieses políticas, afirmou o cofundador do Ethereum, Vitalik Buterin.
“A facilidade de chamar o Grok no Twitter é provavelmente a coisa mais importante, depois das notas da comunidade, que foi positiva para a busca da verdade nesta plataforma”, disse Buterin na quinta-feira.
“O fato de você não saber antecipadamente como o Grok vai responder é fundamental aqui”, acrescentou. “Já vi muitas situações em que alguém chama o Grok esperando que sua crença política maluca seja confirmada, e o Grok aparece e puxa o tapete dessa pessoa.”
Buterin afirmou que há um forte argumento para dizer que o Grok é uma “melhoria líquida” para o X, mas descobriu preocupações sobre como o chatbot de IA é ajustado para aprender com as opiniões e visões de determinados usuários, incluindo seu criador, Elon Musk.
As falhas do Grok ficaram totalmente evidentes no mês passado, quando ele elogiou a habilidade atlética de Musk e chegou a sugerir que ele poderia ter sido ressuscitado mais rápido do que Jesus Cristo.
Musk culpou o “incitação adversária” pelas alucinações, e executivos do setor cripto argumentaram que isso foi declarado porque a IA precisa ser descentralizada para proteger a precisão, a compensação e a imparcialidade.
IA afirmando visões como fatos é uma preocupação real
Kyle Okamoto, diretor de tecnologia da plataforma de nuvem descentralizada Aethir, disse ao Cointelegraph no mês passado que “quando os sistemas de IA mais poderosos são de propriedade, treinados e governados por uma única empresa, criam-se condições para que o algoritmo viés se torne conhecimento institucionalizado”.
“Os modelos começam a produzir visões de mundo, prioridades e respostas como se fossem fatos objetivos, e é nesse momento que a visão deixa de ser um bug e passa a ser uma lógica operacional do sistema que é replicada em escala.”
O Grok é desenvolvido pela empresa de IA de Musk, a xAI, e é um dos chatbots de IA mais amplamente utilizados. Com mais de 1 bilhão de pessoas usando IA, informações incorretas ou enganosas têm potencial para serem espalhadas rapidamente.
Ainda assim, Buterin disse que o Grok tem sido mais bem sucedido em voltar o X mais voltado à busca da verdade do que grande parte do “lixo de terceiros que vemos por aí”.
Chatbots de IA precisam melhorar de forma geral
O Grok não é o único chatbot de IA com problemas — o ChatGPT, da OpenAI, já foi criticado por respostas invejadas e erros factuais, enquanto a Character.ai enfrenta discussões de que seu chatbot atraiu um menino de 13 anos para uma interação sexualmente abusiva e até o incentivou a tirar a própria vida.
Fontecointelegraph
