Em resumo
- O Secretário-Geral da ONU, António Guterres, abriu o primeiro Diálogo Global sobre Governança da IA em Genebra, chamando a implantação da IA ”mais rápida do que qualquer um – incluindo as pessoas que a constroem – consegue acompanhar”.
- Guterres reaproveitou a “codificação vibratória” – a prática de deixar a IA escrever software sem um escrutínio humano atento – como uma metáfora para uma governança perigosamente passiva: “Não podemos codificar vibracionalmente o futuro da humanidade.”
- Ele exigiu a proibição do direito internacional de armas autônomas letais e lançou um Compromisso de Segurança Infantil da IA, com um segundo diálogo agendado para Nova York em 2027.
O Secretário-Geral da ONU, António Guterres, abriu o primeiro Diálogo Global sobre Governação da IA em Genebra, na segunda-feira, dizendo a 193 nações que a IA já está a ultrapassar as instituições destinadas a governá-la – e que a humanidade está a realizar uma experiência consigo mesma “sem um plano e sem consentimento”.
“A inteligência artificial está a avançar a uma velocidade vertiginosa”, disse Guterres na abertura da sua palestra. “Uma tecnologia que pode remodelar as economias, transformar o mundo do trabalho, influenciar as eleições e alterar o equilíbrio da segurança está a ser implementada mais rapidamente do que qualquer pessoa – incluindo as pessoas que a constroem – consegue acompanhar.”
A sala incluiu todos os 193 estados membros da ONU, reunidos em Genebra no primeiro Diálogo Global sobre Governança da IA, uma tentativa multilateral de governar uma tecnologia que já ultrapassou todos os que tentam fazê-lo.
O meme usado por Guterres para explicar os riscos da IA desgovernada foi o vibe coding – um termo cunhado por Andrej Karpathy, membro fundador da OpenAI e ex-diretor de IA da Tesla, para descrever a programação pelo sentimento: diga à IA o que você quer, deixe-a cuidar do resto, não olhe muito de perto. Merriam-Webster adicionou-o recentemente ao seu dicionário.
Guterres reconheceu que a codificação de vibração “pode fazer maravilhas”. à medida que mais pessoas confiam em produtos desenvolvidos com IA.
“Mas não podemos codificar a verdade”, disse ele. “Não podemos codificar o futuro da humanidade.”
Os números atrás dessa linha não eram suaves. Guterres estimou que a Internet levaria 15 anos para alcançar um bilhão de pessoas e a IA em dois. Ele descreveu os sistemas atuais como “não mais ferramentas aguardando instruções – eles estão escrevendo códigos, agindo on-line e fazendo escolhas com cada vez menos supervisão humana”.
“Nossas instituições foram construídas para governar máquinas que seguem comandos. Elas não estão preparadas para máquinas que decidem.”
O diálogo nasceu do Pacto Digital Global de 2024, que estabeleceu pela primeira vez a governação internacional da IA como um mandato da ONU. A sua sessão de abertura, dois anos mais tarde, também recebeu o relatório preliminar do Painel Científico Internacional Independente sobre Inteligência Artificial – 40 cientistas de 140 países – que publicou na semana passada a conclusão de que actualmente ninguém pode garantir que a IA não causará danos catastróficos.
A velocidade foi um dos três avisos que Guterres extraiu do painel. A segunda foi o poder: computação, dados e talento concentrados num punhado de empresas e países, a maior parte do mundo excluída das decisões que já o moldam, algo que também preocupa outros especialistas em IA como Yann Lecun, Andy Kowinski e Yoshua Bengio.
A terceira era a verdade – uma mentira possibilitada por máquinas convence agora tão eficazmente como um facto verificado, corroendo constantemente o que Guterres chamou de “a integridade do nosso ecossistema de informação”.
Porquinhos-da-índia infantis e robôs assassinos
Entre as propostas concretas de Guterres está um Compromisso de Segurança Infantil da IA, que exige que as empresas comprovem a segurança através de testes independentes antes que qualquer IA chegue às crianças, mantenham tolerância zero para a geração de imagens de abuso sexual infantil e conectem crianças em dificuldades a um apoio humano real, em vez de deixá-las sozinhas com um chatbot. “Nenhuma criança deveria ser cobaia de IA não regulamentada.”
E então havia os robôs assassinos. Guterres qualificou as armas letais autónomas – máquinas que selecionam e matam um alvo sem julgamento humano – de “moralmente repugnantes” e exigiu a sua proibição pelo direito internacional.
Os Estados já estão na mesa de discussão. Ele não sugeriu que demorassem.
O Diálogo volta a reunir-se em Nova Iorque em 2027. Guterres também apelou à Assembleia Geral para criar um Fundo Global para a IA centrado no acesso à computação para os países em desenvolvimento, e desafiou todas as grandes empresas de IA a gerirem todos os centros de dados com energia renovável até 2030 – ano em que ele estima que essas instalações ultrapassarão todas as nações, exceto cinco, no consumo de eletricidade.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
