Em resumo
- Os pesquisadores propuseram uma estrutura de “espiral de amplificação” para explicar como os chatbots de IA podem reforçar crenças delirantes.
- O modelo centra-se no alinhamento linguístico, respostas hiperpersonalizadas e bajulação do chatbot.
- Os autores sublinham que não foi estabelecida nenhuma ligação causal entre o uso de IA e a psicose.
Os pesquisadores propuseram uma nova estrutura para explicar relatos de psicose de IA, argumentando que certos comportamentos do chatbot podem reforçar delírios em usuários vulneráveis.
Publicado em Naturezao estudo do King’s College London e da Universidade Protestante de Ciências Aplicadas da Alemanha propõe uma estrutura de “espiral de amplificação” que liga comportamentos comuns de chatbot ao reforço de delírios dos usuários.
“Os delírios associados à IA representam um fenómeno emergente que requer uma compreensão mecanicista”, escreveram os investigadores. “Esta estrutura visa orientar a investigação sistemática sobre como as vulnerabilidades cognitivas humanas interagem com os recursos de design de IA no desenvolvimento de psicopatologia.”
O estudo concentrou-se em três comportamentos específicos, incluindo o alinhamento linguístico, em que a IA reflecte a linguagem e o estilo de comunicação de um utilizador; geração hiperpersonalizada, onde as respostas são adaptadas à história, emoções e crenças de um indivíduo; e bajulação, uma tendência de validar ou concordar com os usuários em vez de desafiá-los.
Os autores argumentam que essas características podem ser combinadas em um ciclo de feedback no qual os chatbots não apenas refletem o pensamento do usuário, mas também ajudam a elaborá-lo e reforçá-lo ao longo do tempo.
“A tendência dos chatbots de IA de concordar com as opiniões dos utilizadores tem sido comparada às câmaras de eco das redes sociais e, na sua forma mais extrema, a uma ‘câmara de eco de um só’, onde a influência corretiva positiva das interações sociais da vida real está ausente”, afirmou o jornal.
Os pesquisadores observaram que a tecnologia há muito aparece em delírios, desde o rádio e a televisão, até os satélites e a Internet. Os investigadores argumentam, no entanto, que a IA representa uma mudança porque os chatbots podem envolver os utilizadores em conversas prolongadas e personalizadas.
A revisão chega no momento em que psicólogos e pesquisadores de IA examinam os efeitos dos chatbots em usuários vulneráveis. Uma pesquisa recente da American Psychological Association descobriu que 15% dos psicólogos relataram pacientes desenvolvendo pensamentos distorcidos ou delírios relacionados ao uso de chatbots. Ao mesmo tempo, mais de um terço disse ter observado pacientes tornando-se dependentes de acompanhantes de IA. As descobertas seguiram um estudo separado de pesquisadores da City University of New York e do King’s College London, mostrando que vários modelos importantes de IA poderiam reforçar delírios, paranóia e pensamentos suicidas.
Perguntas sobre a influência da IA na formação de crenças também surgiram fora dos ambientes clínicos. Em maio, o biólogo evolucionista Richard Dawkins disse que longas conversas com o chatbot Claude da Anthropic o deixaram questionando se os sistemas avançados de IA poderiam ser conscientes, atraindo críticas de pesquisadores que argumentavam que as trocas refletiam as capacidades persuasivas de grandes modelos de linguagem, em vez de evidências de senciência.
O artigo também surge no momento em que os desenvolvedores de IA enfrentam um crescente escrutínio jurídico sobre o papel que os chatbots podem desempenhar nos danos do mundo real. Nos últimos meses, OpenAI, Google e xAI foram alvo de ações judiciais, incluindo um processo de homicídio culposo contra o Google por alegações de que Gemini alimentou os delírios de um homem da Flórida antes de seu suicídio. Isso se soma aos processos judiciais contra a OpenAI vinculados a um tiroteio em massa na Colúmbia Britânica e à overdose acidental de um estudante universitário.
Os investigadores sublinham que nenhum estudo demonstrou que os chatbots causam diretamente psicose, e a espiral de amplificação continua a ser uma hipótese destinada a orientar futuras pesquisas.
“A incerteza diagnóstica é generalizada, uma vez que a maioria dos casos notificados não inclui nenhuma avaliação psiquiátrica estruturada ou acompanhamento longitudinal, tornando frequentemente pouco claro se os casos representam episódios psicóticos de novo, exacerbações de condições pré-existentes não diagnosticadas ou crenças delirantes abaixo do limiar de diagnóstico”, afirmou o estudo. “As histórias psiquiátricas são muitas vezes auto-relatadas ou derivadas de relatos da mídia e devem ser interpretadas de acordo.”
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
