Secretário de Relações Exteriores do Reino Unido alerta sobre ‘AI Hiroshima’ se os legisladores não agirem

Os governos correm o risco de repetir os erros cometidos durante o início da era nuclear se esperarem para criar leis que regulem a inteligência artificial, alertou a Secretária dos Negócios Estrangeiros do Reino Unido, Yvette Cooper.

Num artigo publicado na segunda-feira, Cooper disse que a IA oferece avanços, mas também apresenta novos riscos à medida que a tecnologia se torna mais poderosa e amplamente disponível.

“No mês passado, em Shenzhen, China, vi a promessa extraordinária da IA ​​e da robótica usadas para cuidados de saúde que salvam vidas”, escreveu Cooper. “Mas as mesmas tecnologias também estão a remodelar o futuro da guerra, do crime e da coesão social de formas alarmantes.”

Cooper disse que a gestão dos riscos colocados pela IA pode tornar-se “o maior desafio de segurança da próxima década” e argumentou que os governos precisam de acordos internacionais em torno da tecnologia de fronteira antes que uma crise force a acção.

Ela comparou a atual corrida para desenvolver sistemas de IA com a corrida armamentista nuclear, dizendo que os acordos de segurança globais surgiram apenas depois que os países testemunharam a devastação causada pelas armas atômicas.

“Sobre o nuclear, o acordo internacional só veio depois de o mundo ter visto o poder terrível da nova tecnologia em Hiroshima”, escreveu Cooper. “Não podemos esperar por uma IA equivalente a Hiroshima antes de agirmos.”

Cooper apelou à Grã-Bretanha para que use a sua influência diplomática para reunir os Estados Unidos, a China e outras grandes potências da IA ​​para estabelecer princípios e padrões de segurança partilhados, apontando para a Cimeira de Segurança da IA ​​de 2023 em Bletchley Park, onde líderes globais de 29 países e da União Europeia se reuniram para discutir o risco emergente da IA. Cooper chamou isso de um exemplo da capacidade do Reino Unido de “reunir o mundo na segurança da IA”.

O alerta de Cooper surge após meses de crescentes preocupações sobre como os governos deveriam supervisionar sistemas de IA cada vez mais poderosos.

Em maio, o AI Security Institute do Reino Unido alertou que os rápidos ganhos nas habilidades de segurança cibernética da IA ​​​​após o GPT-5.5 da OpenAI se tornar o segundo modelo a completar um ataque cibernético simulado sem assistência humana, após o Claude Mythos Preview da Anthropic.

Dias depois, o Fundo Monetário Internacional alertou que a IA poderia “amplificar” os ataques cibernéticos contra o sistema financeiro global, reduzindo as competências necessárias para explorar vulnerabilidades, instando os decisores políticos a tratarem a segurança cibernética como uma questão de estabilidade financeira e não como um problema puramente técnico.

Em junho, o presidente Donald Trump assinou uma ordem executiva criando um quadro voluntário para a revisão de modelos avançados de IA antes do lançamento, expandindo os programas de cibersegurança da IA ​​e orientando as agências a avaliar potenciais riscos de segurança nacional decorrentes de modelos de IA de fronteira.

Nesse mesmo mês, apelos por regras mais rigorosas também vieram de dentro da indústria de IA, com o CEO da Anthropic, Dario Amodei, argumentando que os requisitos de transparência não são mais suficientes e pedindo testes obrigatórios de modelos de fronteira por terceiros. Esta exigência foi seguida pelo governo dos EUA ordenando à Anthropic que restringisse o acesso a Claude Fable 5 e Mythos 5 por questões de segurança nacional antes de suspender a ordem em julho.