Em resumo
- A Mustafa Suleyman, da Microsoft, está alertando a IA em breve, pode parecer senciente, provocando confusão sobre direitos, confiança e identidade.
- A crença na IA consciente pode desencadear riscos à saúde mental e distorcer as relações humanas.
- Ele disse que a IA deve facilitar a vida e mais produtiva, sem fingir estar vivo.
O chefe da IA da Microsoft e co-fundador da DeepMind, alertou na terça-feira que os engenheiros estão perto de criar inteligência artificial que imitam convincentemente a consciência humana-e o público não está preparado para as consequências.
Em uma postagem no blog, Mustafa Suleyman disse que os desenvolvedores estão prestes a construir o que ele chama de IA “aparentemente consciente”.
Esses sistemas imitam a consciência com tanta eficácia que as pessoas podem começar a acreditar que são verdadeiramente sencientes, algo que ele chamou de “preocupação central”.
“Muitas pessoas começam a acreditar na ilusão de AIS como entidades conscientes com tanta força que em breve defenderão os direitos da IA, o bem -estar do modelo e até a cidadania da IA”, escreveu ele, acrescentando que o teste de Turing – uma parte importante para uma conversa humana – já foi superada.
“É assim que o progresso está acontecendo em nosso campo e a rapidez com que a sociedade está aceitando essas novas tecnologias”, escreveu ele.
Desde o lançamento público do ChatGPT em 2022, os desenvolvedores de IA trabalharam não apenas para tornar sua IA mais inteligente, mas também para fazê -lo agir “mais humano”.
Os companheiros de IA tornaram -se um setor lucrativo da indústria de IA, com projetos como Replika, personagem AI e as personalidades mais recentes para Grok chegando online. O mercado de companheiros de IA deve atingir US $ 140 bilhões até 2030.
Por mais bem-intencionado que Suleyman argumentou que a IA que pode imitar convincentemente os seres humanos poderia piorar os problemas de saúde mental e aprofundar as divisões existentes sobre identidade e direitos.
“As pessoas começarão a reivindicar o sofrimento de sua IA e seu direito a direitos que não podemos refutar diretamente”, alertou. “Eles serão movidos para defender suas AIs e campanha em seu nome”.
Anexo AI
Especialistas identificaram uma tendência emergente conhecida como psicose da IA, um estado psicológico em que as pessoas começam a ver a inteligência artificial como consciente, senciente ou divina.
Essas visões geralmente os levam a formar intensos apegos emocionais ou crenças distorcidas que podem minar suas compreensão na realidade.
No início deste mês, o OpenAI lançou o GPT-5, uma grande atualização para seu modelo principal. Em algumas comunidades on -line, as mudanças do novo modelo desencadearam respostas emocionais, com os usuários descrevendo a mudança como sentindo que um ente querido havia morrido.
A IA também pode atuar como um acelerador de questões subjacentes de alguém, como abuso de substâncias ou doenças mentais, de acordo com a Universidade da Califórnia, o psiquiatra de São Francisco, Dr. Keith Sakata.
“Quando a IA está lá na hora errada, pode consolidar o pensamento, causar rigidez e causar uma espiral”, disse Sakata à Descriptografar. “A diferença na televisão ou no rádio é que a IA está falando com você e pode reforçar os loops de pensamento”.
Em alguns casos, os pacientes recorrem à IA porque reforçarão as crenças profundas. “A IA não pretende dar a você verdades duras; dá a você o que você quer ouvir”, disse Sakata.
Suleyman argumentou que as conseqüências das pessoas acreditam que a IA está consciente exige atenção imediata. Enquanto ele avisou sobre os perigos, ele não pediu para o desenvolvimento da IA, mas para o estabelecimento de limites claros.
“Devemos construir a IA para as pessoas, para não ser uma pessoa digital”, escreveu ele.
Geralmente inteligente Boletim informativo
Uma jornada semanal de IA narrada por Gen, um modelo generativo de IA.
Fontedecrypt
