Em resumo
- A OpenAI disse que implantará uma versão personalizada do ChatGPT no GenAI.mil do Pentágono.
- O sistema é aprovado para trabalho não classificado do Departamento de Defesa, com dados mantidos separados dos modelos públicos da OpenAI.
- Os críticos alertam que os riscos de erro humano e de confiança excessiva nos sistemas de IA permanecem.
A OpenAI disse na segunda-feira que está implantando uma versão personalizada do ChatGPT no GenAI.mil, a plataforma de IA desenvolvida pelo Departamento de Defesa dos EUA.
A medida expande o acesso dos militares a poderosos modelos generativos de IA, mesmo quando os críticos alertam que o erro do utilizador continua a ser um risco de segurança fundamental.
ChatGPT se junta a uma lista crescente de modelos de IA disponibilizados para os militares dos EUA, incluindo Gemini e Grok do Google, o sistema de IA desenvolvido pela xAI, que foi incorporado à SpaceX no início deste mês.
“Acreditamos que as pessoas responsáveis pela defesa do país devem ter acesso às melhores ferramentas disponíveis, e é importante que os EUA e outros países democráticos compreendam como, com as salvaguardas adequadas, a IA pode ajudar a proteger as pessoas, dissuadir adversários e prevenir conflitos futuros”, afirmou a OpenAI num comunicado.
A OpenAI disse que a versão GenAI.mil do ChatGPT foi aprovada para uso não confidencial do Departamento de Defesa e será executada dentro de uma infraestrutura de nuvem governamental autorizada.
De acordo com a OpenAI, o sistema inclui salvaguardas destinadas a proteger dados confidenciais.
Ainda assim, JB Branch, advogado de responsabilidade de grandes tecnologias da Public Citizen, alertou que a dependência excessiva dos usuários na IA poderia minar essas proteções.
“A pesquisa mostra que quando as pessoas usam esses grandes modelos de linguagem, elas tendem a lhes dar o benefício da dúvida”, disse Branch Descriptografar. “Portanto, em situações de alto impacto, como as militares, é ainda mais importante garantir que as coisas sejam feitas corretamente.”
A implantação ocorre no momento em que o Pentágono acelera a adoção de IA comercial em redes militares e enquanto os desenvolvedores de IA buscam lucratividade.
Em janeiro, o secretário de Defesa Pete Hegseth disse que o departamento planeja implantar modelos líderes de IA em redes militares não classificadas e classificadas.
Embora a OpenAI tenha dito que a versão personalizada do ChatGPT se destina apenas a dados não classificados, Branch alertou que colocar qualquer informação sensível em sistemas de IA os deixa vulneráveis a adversários, acrescentando que os usuários muitas vezes confundem essas ferramentas com cofres seguros.
“As informações classificadas devem ter apenas um certo par de olhos sobre elas”, disse ele. “Portanto, mesmo que exista um sistema de corte que só seja permitido nas forças armadas, isso não muda o facto de que os dados confidenciais se destinam apenas a um subconjunto limitado de pessoas.”
OpenAI não respondeu imediatamente a um pedido de comentário de Descriptografar.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
