Em resumo
- O ex-engenheiro da xAI, Devin Kim, processou a xAI e a SpaceX, alegando que foi demitido após levantar preocupações sobre a segurança de Grok.
- O processo alega que Kim pressionou repetidamente por testes, avaliações e salvaguardas mais rigorosas para evitar resultados prejudiciais.
- O caso surge enquanto os investidores observam de perto o império empresarial de Elon Musk antes do antecipado IPO da SpaceX.
Um ex-engenheiro da xAI entrou com uma ação judicial contra a xAI e a SpaceX esta semana, alegando que foi demitido após alertar repetidamente os líderes da empresa sobre os riscos de segurança associados ao Grok, o principal chatbot da empresa de inteligência artificial.
De acordo com uma queixa apresentada no Tribunal Superior do Condado de Santa Clara, na Califórnia, o ex-membro da equipe técnica da xAI, Devin Kim, alegou que foi demitido após alertar repetidamente que Grok precisava de salvaguardas mais fortes contra desinformação, preconceito e resultados perigosos – incluindo conteúdo que poderia facilitar o bioterrorismo – e que testes inadequados deixavam o modelo vulnerável a preconceitos raciais e políticos.
“Apresentar a reclamação neste momento é uma decisão ponderada que o Sr. Kim tomou. As questões de segurança de IA das quais ele reclamou repetidamente durante seu tempo na xAI têm um impacto profundo no futuro da tecnologia de IA e no futuro da humanidade”, disse Qiaojing Ella Zheng, sócio do escritório de advocacia Sanford Heisler Sharp McKnight e principal advogado de Kim. Descriptografar.
“Os usuários e o público têm o direito de conhecer os riscos e perigos potenciais que Grok impõe, e denunciantes como o Sr. Kim desempenham um papel fundamental na revelação de tais informações”, acrescentou ela. “Esperamos que o caso incentive a xAI, a SpaceX e outras empresas de IA a implementar proteções de segurança de IA adequadas para proteger os usuários e o público.”
O processo afirma que Kim foi um dos primeiros funcionários da xAI e “um dos principais defensores” da segurança da IA na empresa, que ingressou na empresa em parte por causa do histórico de alertas de Elon Musk sobre os perigos representados pela IA avançada.
“O Sr. Kim transformou um interesse vitalício em ciência e programação de computadores em uma carreira no campo emergente da IA”, afirma o processo. “Ao longo do caminho, ele viu em primeira mão os danos que a IA pode causar quando desenvolvida sem as devidas salvaguardas e comprometeu-se a proteger os utilizadores e o público desses danos.”
A denúncia também apontou controvérsias envolvendo Grok que, segundo os advogados de Kim, refletiam os riscos que ele levantou internamente. Entre eles estava o colapso do chatbot “MechaHitler” no verão passado, durante o qual Grok gerou uma onda de respostas anti-semitas, provocando reação pública e levando a xAI a emitir uma correção.
Os advogados de Kim também citam investigações e ações judiciais mais recentes ligadas à suposta geração de deepfakes sexuais não consensuais de Grok, incluindo casos em Baltimore e na Califórnia alegando que a ferramenta foi usada para criar imagens sexualizadas de menores.
De acordo com os advogados de Kim, ao “retaliar e dispensar injustamente” o Sr. Kim, a xAI violou o Código do Trabalho da Califórnia, as políticas públicas e o direito consuetudinário da Califórnia e a Lei de Concorrência Desleal da Califórnia.
O processo também segue outras disputas de alto nível sobre segurança e responsabilidade da IA, incluindo alegações levantadas pelo ex-pesquisador da OpenAI Suchir Balaji, que acusou publicamente a OpenAI de usar indevidamente dados protegidos por direitos autorais para treinar seus modelos antes de sua morte em 2024.
Embora a reclamação de Kim se concentre nas práticas de segurança de Grok e xAI, a SpaceX também é citada como réu e ocorre no momento em que a SpaceX se prepara para um IPO amplamente aguardado após a decisão de Musk de incorporar xAI e X na empresa.
“Este caso não se trata de oposição à inovação”, disse David Sanford, presidente e cofundador da Sanford Heisler Sharp McKnight, em comunicado. “Devin Kim e Elon Musk partilharam publicamente a preocupação fundamental de que a inteligência artificial avançada deve ser desenvolvida de forma segura e responsável devido às suas profundas implicações para a humanidade.”
Kim alega que sua demissão lhe custou uma compensação patrimonial substancial e está buscando a restauração do patrimônio perdido, indenizações compensatórias, danos punitivos, honorários advocatícios e outras medidas. No início deste mês, Kim foi nomeado o novo presidente da organização sem fins lucrativos Center for AI Safety.
“Denunciantes como Devin Kim desempenham um papel fundamental na denúncia de irregularidades corporativas, e a lei protege os funcionários que levantam essas preocupações”, disse Sanford.
Nota do editor: Esta história foi atualizada após a publicação para incluir um novo comentário do escritório de advocacia.
Resumo Diário Boletim informativo
Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.
Fontedecrypt
