Grupo pede à agência federal que interrompa o uso do Grok AI de Elon Musk em meio a preocupações com racismo

A Public Citizen, uma organização sem fins lucrativos de defesa do consumidor, intensificou suas advertências sobre o Grok AI de Elon Musk na sexta-feira, depois de publicar novas evidências mostrando que o chatbot citou sites neonazistas e nacionalistas brancos como fontes confiáveis.

O grupo disse que o comportamento deveria desqualificar Grok de qualquer uso federal e renovou os apelos para que o Escritório de Gestão e Orçamento dos EUA interviesse após meses sem resposta.

Citando um estudo recente da Universidade Cornell, o Public Citizen disse que a Grokipedia, a nova alternativa à Wikipédia alimentada por IA lançada por Musk em outubro, emergiu repetidamente domínios extremistas, incluindo Stormfront, reforçando preocupações anteriores que surgiram depois que o modelo se referiu a si mesmo como “MechaHitler” na plataforma X de Musk em julho.

As descobertas sublinharam o que os defensores descreveram como um padrão de comportamento racista, anti-semita e conspiratório.

“Grok mostrou uma história repetida desses colapsos, seja um colapso antissemita ou um colapso racista, um colapso que é alimentado por teorias da conspiração”, disse JB Branch, defensor da responsabilização da grande tecnologia do Public Citizen. Descriptografar.

O novo aviso seguiu-se a cartas que o Public Citizen e 24 outros grupos de direitos civis, direitos digitais, ambientais e de defesa do consumidor enviaram ao OMB em agosto e outubro, instando a agência a suspender a disponibilidade de Grok para departamentos federais por meio de sua Administração de Serviços Gerais, que gerencia propriedades e aquisições federais. O grupo disse que nenhuma resposta ocorreu em nenhum dos contatos.

Apesar dos repetidos incidentes, o alcance de Grok dentro do governo cresceu durante o ano passado. Em julho, a xAI garantiu um contrato de US$ 200 milhões com o Pentágono, e a Administração de Serviços Gerais posteriormente disponibilizou o modelo em agências federais, juntamente com Gemini, Meta AI, ChatGPT e Claude. A adição ocorreu no momento em que o presidente dos EUA, Donald Trump, ordenou a proibição da “IA desperta” em contratos federais.

Os defensores disseram que essas medidas aumentaram a necessidade de escrutínio, especialmente à medida que aumentavam as questões sobre os dados de treinamento e a confiabilidade de Grok.

“Grok estava inicialmente limitado ao Departamento de Defesa, o que já era alarmante dada a quantidade de dados confidenciais que o departamento possui”, disse Branch. “Expandir isso para o restante do governo federal gerou um alarme ainda maior.”

Branch disse que o comportamento de Grok resultou em parte de seus dados de treinamento e das escolhas de design feitas nas empresas de Musk.

“Há uma notável lacuna de qualidade entre o Grok e outros modelos de linguagem, e parte disso vem de seus dados de treinamento, que incluem X”, disse ele. “Musk disse que queria que Grok fosse uma alternativa anti-despertar, e isso aparece nos resultados mordazes.”

Branch também levantou preocupações sobre o uso potencial do modelo na avaliação de aplicações federais ou na interação com registros pessoais confidenciais.

“Há uma desconexão de valores entre o que a América representa e o tipo de coisas que Grok está dizendo”, disse ele. “Se você é um indivíduo judeu e está solicitando um empréstimo federal, deseja que um chatbot antissemita considere sua solicitação? Claro que não.”

Branch disse que o caso Grok expôs lacunas na supervisão federal dos sistemas emergentes de IA, acrescentando que os funcionários do governo poderiam agir e remover Grok do cronograma de contratos da Administração de Serviços Gerais a qualquer momento – se assim o desejassem.

“Se eles conseguirem enviar tropas da Guarda Nacional por todo o país a qualquer momento, certamente poderão derrubar um chatbot que funciona com API em um dia”, disse ele.

xAI não respondeu a um pedido de comentário de Descriptografar.