Cofundador da Perplexity: A segurança da IA ​​é uma desculpa para bloquear a fronteira

O cofundador da Perplexity AI e Databricks, Andy Konwinski, acha que a conversa sobre segurança de IA tem um problema: ela está sendo usada para concentrar poder, não para prevenir danos. No início desta semana, ele publicou um ensaio defendendo seu caso, tendo a Anthropic como principal testemunha.

O caso que ele constrói começa com uma decisão antrópica revertida em 48 horas. Quando a Anthropic lançou Claude Fable 5 em 9 de junho, um parágrafo enterrado em seu cartão de sistema de 319 páginas revelou que o modelo degradaria silenciosamente suas próprias respostas para qualquer pessoa que suspeitasse estar treinando uma IA concorrente.

Os pesquisadores descobriram. A internet não aceitou bem.

A Anthropic retrocedeu, mas para Konwinski isso não faz diferença quando se analisa o quadro geral. “O problema não é que a Anthropic tomou uma decisão errada”, escreveu ele. “O problema é que eles presumiram que a decisão cabia a eles.”

Dele ensaiointitulado “A concentração de poder na IA é um risco, não uma solução”, seguiu-se à Open Frontier, uma reunião de trabalho que ele convocou através do seu Laude Institute, uma organização sem fins lucrativos, no Exploratorium de São Francisco, em 30 de junho.

A reitora da UC Berkeley, Jennifer Chayes, que dirige a Faculdade de Computação, Ciência de Dados e Sociedade, disse a um painel de financiamento que os pesquisadores de Berkeley estão “todos construindo modelos chineses porque não temos um modelo de fronteira aberta ocidental” – e que as mensagens de segurança da OpenAI e da Anthropic antes de seus IPOs representaram uma “campanha de medo muito eficaz”.

O argumento de Konwinski é que centralizar o acesso não neutraliza o risco; isso cria um diferente. A IA é uma infraestrutura fundamental – na mesma categoria das ferrovias, da eletricidade e da Internet. Essas tecnologias reorganizaram a sociedade em torno de quem controlava a camada subjacente. O mesmo está acontecendo com a IA. Sua alternativa: um espaço comum de pesquisa com computação em escala de fronteira que permite que os principais pesquisadores cheguem à fronteira sem precisar da permissão de um laboratório privado para fazê-lo.

LeCun: É o Império Otomano que proíbe a imprensa

Yann LeCun, ex-cientista-chefe da Meta, respondeu ao ensaio de Konwinski sobre X sem ambiguidade. “Há anos que divulgo uma mensagem semelhante”, respondeu ele na postagem de Konwinski. “A concentração de poder na IA e o desejo de controle são de longe o maior perigo da IA.”

Ele também tinha uma comparação histórica pronta. “É uma espécie de obscurantismo medieval semelhante ao Império Otomano, que proibiu o uso da imprensa durante 200 anos, em parte para manter o controle do dogma, mas também para proteger a corporação dos calígrafos e escribas”, escreveu LeCun.

A previsão de LeCun sobre onde isto termina: “A infra-estrutura quer ser aberta. Os modelos de base estão a tornar-se uma infra-estrutura e tornar-se-ão inevitavelmente comoditizados. A longo prazo, o dinheiro está na camada de aplicação.”

LeCun deixou a Meta no final de 2025 e lançou o AMI Labs em Paris com US$ 1,03 bilhão em financiamento inicial em março de 2026 – sua própria resposta à pergunta. A empresa funciona com modelos mundiais e sua arquitetura JEPA, planeja abrir o código-fonte de suas pesquisas e não tem nenhum produto comercial esperado há anos.