Pessoas preocupadas com os efeitos catastróficos da IA – amplamente rotulados como “destruidores” – disseram durante anos que a tecnologia representa uma ameaça para a humanidade e publicaram propostas sobre como o governo deveria intervir no seu desenvolvimento. Os destruidores acabaram de receber a intervenção do governo – não por causa de uma arma biológica ou de uma IA desonesta, mas em resposta a um modelo de IA que é basicamente muito bom em codificação. E o resultado até agora parece menos um plano de segurança do que uma reação superficial.
Há muito o que dissecar sobre o que aconteceu naqueles poucos dias que levou a uma ação tão drástica do governo, e é notável que o CEO da Amazon, Andy Jassy, foi quem disse aos funcionários do governo que Fable seria perigoso (a Amazon investe na Anthropic e na construção de seus próprios modelos de IA concorrentes). Também é possível que esta seja uma proibição de curta duração por parte do governo que não sobreviva ao escrutínio legal (não está claro se a oferta de acesso ao Fable pela Anthropic realmente conta como “exportação”, por exemplo).
Mas já existem efeitos em cascata acontecendo.
Por um lado, isso está fazendo com que muitas pessoas não queiram confiar nas empresas americanas de IA. O político francês Bruno Retailleau descreveu-o como um “chamado de alerta” que deverá motivar a Europa a construir mais IA. Mas qualquer visão de transformar Paris numa Vale do Silício – alardeada por muitos outros líderes europeus após o encerramento dos modelos da Antrópico – é complicada por uma grande coisa: a China.
Os modelos de código aberto da China são muito capazes e incrivelmente baratos, e podem ser baixados para serem executados em servidores de qualquer pessoa, sem regras ou proteções. (Isso os torna atraentes para empresas que não querem que o acesso seja desativado com base em uma decisão da Casa Branca – mas igualmente atraentes para os cibercriminosos, o tipo que a Anthropic esperava afastar construindo grades de segurança em seus modelos.)
É possível que as empresas, incluindo as dos EUA e da Europa, decidam que trabalhar com modelos chineses é simplesmente mais fácil, como sugere a disparada das ações da startup chinesa Zhipu. Avançando isto, será possível que a próxima decisão drástica do governo seja dizer que as empresas norte-americanas que utilizam modelos da China representam uma ameaça à segurança nacional? Eu não descartaria isso.
