Por dentro do depoimento que mostrou como a OpenAI quase se destruiu

Ilya Sutskever assistiu a quase 10 horas de depoimento gravado em vídeo no processo Musk v. Altman, em 1º de outubro deste ano.

O cofundador que ajudou a construir o ChatGPT e se tornou famoso por votar pela demissão de Sam Altman em novembro de 2023 foi finalmente juramentado e obrigado a responder. A transcrição de 365 páginas foi lançada esta semana.

O que revela é um retrato de cientistas brilhantes que tomam decisões catastróficas de governação, alegações não verificadas tratadas como factos e divisões ideológicas tão profundas que alguns membros do conselho preferiram destruir a OpenAI em vez de deixá-la continuar sob a liderança de Altman.

O Musk x Altman o processo centra-se na alegação de Elon Musk de que a OpenAI e o seu CEO, Altman, traíram a missão sem fins lucrativos original da empresa ao transformar a sua investigação num empreendimento com fins lucrativos alinhado com a Microsoft – levantando questões de alto risco sobre quem controla os modelos avançados de IA e se estes podem ser desenvolvidos com segurança no interesse público.

Para aqueles que acompanham o drama da OpenAI, o documento é uma leitura reveladora e contundente. É um estudo de caso sobre como as coisas dão errado quando o gênio técnico encontra a incompetência organizacional.

Aqui estão as cinco revelações mais significativas.

1. O dossiê de 52 páginas que o público não viu

Sutskever escreveu um extenso caso para a remoção de Altman, completo com capturas de tela e organizado em um resumo de 52 páginas.

Sutskever testemunhou que disse explicitamente no memorando: “Sam exibe um padrão consistente de mentir, minar seus executivos e colocá-los uns contra os outros”.

Ele enviou o memorando a diretores independentes usando a tecnologia de e-mail que estava desaparecendo “porque eu estava preocupado que esses memorandos vazassem de alguma forma”. O resumo completo não foi produzido por meio de descoberta.

“O contexto deste documento é que os membros independentes do conselho me pediram para prepará-lo. E eu o fiz. E fui muito cuidadoso”, testemunhou Sutskever, dizendo que partes do memorando existem em capturas de tela feitas pela CTO da OpenAI, Mira Murati.

2. Um jogo de xadrez de tabuleiro que dura um ano

Quando questionado há quanto tempo ele estava pensando em demitir Altman, Sutskever respondeu: “Pelo menos um ano”.

Questionado sobre que dinâmica esperava, ele disse: “Que a maioria do conselho não é obviamente amigável com Sam”.

Um CEO que controla a composição do conselho é funcionalmente intocável. O testemunho de Sutskever mostra que ele compreendeu isto perfeitamente e ajustou a sua estratégia em conformidade.

Quando a saída de membros do conselho criou essa vaga, ele mudou. Ele estava praticando política de conselho de longo prazo, apesar de quão próximos Altman e Sutskever pareciam publicamente.

3. O fim de semana OpenAI quase desapareceu

No sábado, 18 de novembro de 2023 – 48 horas após a demissão de Altman – houve discussões ativas sobre a fusão da OpenAI com a Anthropic.

Helen Toner, ex-membro do conselho da OpenAI, foi “a que mais apoiou” essa direção, segundo Sutskever.

Se a fusão tivesse acontecido, a OpenAI teria deixado de existir como entidade independente.

“Não sei se foi Helen quem procurou a Anthropic ou se a Anthropic procurou Helen”, testemunhou Sutskever. “Mas eles chegaram com uma proposta de fusão com a OpenAI e assumir sua liderança.”

Sutskever disse que estava “muito insatisfeito com isso”, acrescentando mais tarde que “realmente não queria que a OpenAI se fundisse com a Anthropic”.

4. “Destruir a OpenAI pode ser consistente com a missão”

Quando os executivos da OpenAI alertaram que a empresa entraria em colapso sem Altman, Toner respondeu que destruir a OpenAI poderia ser consistente com a sua missão de segurança.

Este é o cerne ideológico da crise. Toner representou uma vertente do pensamento de segurança da IA ​​que vê o rápido desenvolvimento da IA ​​como existencialmente perigoso – potencialmente mais perigoso do que nenhum desenvolvimento de IA.

“Os executivos – foi uma reunião com os membros do conselho e a equipe executiva – os executivos disseram ao conselho que, se Sam não retornar, a OpenAI será destruída, e isso é inconsistente com a missão da OpenAI”, testemunhou Sutskever. “E Helen Toner disse algo no sentido de que é consistente, mas acho que ela disse de forma ainda mais direta do que isso.”

Se você realmente acreditasse que a OpenAI apresentava riscos que superavam seus benefícios, então uma revolta pendente dos funcionários era irrelevante. A declaração ajuda a explicar por que o conselho se manteve firme mesmo quando mais de 700 funcionários ameaçaram sair.

5. Erros de cálculo: uma fonte para tudo, um conselho inexperiente e lealdade da força de trabalho semelhante a um culto

Quase tudo no memorando de 52 páginas de Sutskever veio de uma pessoa: Mira Murati.

Ele não verificou as reivindicações com Brad Lightcap, Greg Brockman ou outros executivos mencionados nas reclamações. Ele confiava totalmente em Murati e a verificação “não ocorreu a (ele)”.

“Acreditei plenamente na informação que Mira me deu”, disse Sutskever. “Olhando para trás, percebo que não sabia disso. Mas naquela época, pensei que sabia. Mas eu sabia por meio de conhecimento de segunda mão.”

Quando questionado sobre o processo do conselho, Sutskever foi direto sobre o que deu errado.

“Uma coisa que posso dizer é que o processo foi apressado”, testemunhou. “Acho que foi apressado porque o conselho era inexperiente.”

Sutskever também esperava que os funcionários da OpenAI fossem indiferentes à remoção de Altman.

Quando 700 dos 770 funcionários assinaram uma carta exigindo o retorno de Altman e ameaçando ir para a Microsoft, ele ficou genuinamente surpreso. Ele havia calculado mal a lealdade da força de trabalho e o isolamento do conselho em relação à realidade organizacional.

“Eu não esperava que eles comemorassem, mas também não esperava que eles se sentissem fortemente”, disse Sutskever.