Duas dezenas de empresas e organizações assinaram uma carta aberta instando os legisladores dos EUA a protegerem os modelos de IA de peso aberto.
A carta, publicada hoje (PDF), traz assinaturas de uma lista que abrange rivais comerciais diretos e organizações com pouca sobreposição óbvia no modelo de negócios: Meta, Microsoft, Nvidia, IBM, Dell Technologies, CrowdStrike, Palantir, ServiceNow, Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, Linux Foundation, Mozilla e outros.
O argumento da carta centra-se numa comparação entre o movimento do software de código aberto da década de 1980 e a actual luta sobre se os pesos dos modelos de IA devem circular livremente ou permanecer bloqueados por APIs comerciais.
Modelos de peso aberto são sistemas de IA onde os parâmetros treinados são publicados para qualquer pessoa baixar, inspecionar, modificar e executar em seu próprio hardware. Isso é diferente de modelos fechados, como os produtos de fronteira oferecidos pela OpenAI ou Anthropic apenas por meio de acesso à API, onde os pesos subjacentes nunca saem da infraestrutura do fornecedor.
Os signatários enquadram os pesos abertos como o mecanismo pelo qual a capacidade da IA se espalha para além de um punhado de laboratórios bem capitalizados, para o que a carta chama de fluxos de trabalho de “fábricas, hospitais, quintas, salas de aula e empresas de rua principais”.
O argumento deles segue três caminhos:
- Pesos abertos reduzir o custo de entrada para startups e instituições públicas que não podem se dar ao luxo de treinar modelos de fronteira do zero ou pagar taxas por token a preços de fronteira para tarefas rotineiras.
- Eles aumentar a concorrência em toda a pilha, desde chips até infraestrutura em nuvem e aplicativos, o que, segundo a carta, mantém os custos baixos e evita a captura de valor por um pequeno número de provedores.
- Os pesos abertos também oferecem aos clientes corporativos uma maneira para evitar o aprisionamento do fornecedoruma vez que as organizações que executam modelos de peso aberto controlam seus próprios dados e podem adaptar o modelo aos requisitos internos sem depender do roteiro ou das decisões de preços de um único fornecedor.
O argumento da segurança vai contra o instinto
A seção mais contundente da carta aborda diretamente o caso de risco e vale a pena ler com atenção porque inverte o enquadramento usual em torno de modelos abertos e segurança.
Uma vez liberados os pesos, admite a carta, eles estarão além do controle do desenvolvedor original. Versões modificadas tornam-se difíceis de rastrear ou reverter. Uma versão ajustada ou simplificada de um modelo aberto pode circular com as grades de segurança removidas e não há mecanismo de recall.
Os signatários argumentam que a resposta não é a proibição. O seu caso baseia-se numa comparação com a segurança cibernética: os defensores que enfrentam atacantes equipados com IA precisam de acesso a modelos com capacidade comparável para detectar e simular ameaças, o que os sistemas fechados e com permissão controlada não fornecem facilmente.
Eles estendem isso para uma reivindicação de segurança mais ampla, argumentando que os modelos fechados não são inerentemente mais seguros porque podem ser violados, mal utilizados ou falhar de maneiras que pesquisadores externos não conseguem observar ou verificar. Concentrar capacidade avançada atrás de um pequeno número de fornecedores fechados, nesta leitura, cria pontos únicos de falha em vez de removê-los.
Os modelos abertos, por outro lado, permitem que pesquisadores externos examinem o comportamento, executem exercícios de equipe vermelha e identifiquem vulnerabilidades em muitas equipes, em vez de depender de testes internos de um fornecedor.
A carta traça um paralelo direto com o argumento “código aberto é mais seguro que a obscuridade” que moldou décadas de debate sobre segurança de software, embora não cite dados específicos de descoberta de vulnerabilidades ou números de incidentes para apoiar a afirmação aplicada especificamente a sistemas de IA.
A destilação ganha uma defesa específica
A carta abre espaço para uma técnica que se tornou controversa nos círculos de IA: a destilação, onde os resultados de um modelo são usados para treinar ou melhorar um segundo modelo. Esta é uma prática padrão em pesquisa de aprendizado de máquina e desenvolvimento de produtos, usada para avaliação, validação e transferência de capacidade entre modelos de tamanhos diferentes.
Os signatários traçam uma linha entre a destilação como técnica legítima e o que chamam de “esforços ilegais para extrair valor de modelos fechados”, argumentando que a primeira não deveria ser envolvida em restrições dirigidas aos últimos.
Isto parece ser uma resposta direta às disputas que surgiram após a ascensão de modelos chineses como DeepSeek e Kimi, quando vários laboratórios dos EUA sugeriram que modelos rivais tinham sido treinados destilando resultados dos seus próprios sistemas fechados sem autorização.
A posição da carta: abordar a apropriação indébita através de mecanismos legais e comerciais direcionados, e não de restrições generalizadas a uma técnica da qual todo o campo depende.
O que isso sinaliza para a luta política que temos pela frente
A carta chega sem proposta legislativa ou regulatória específica anexada. É um documento de posicionamento antes da acção prevista sobre a política de IA em Washington, apelando aos legisladores para expandirem o acesso à computação para startups e investigadores, financiarem conjuntos de dados de formação partilhados e quadros de avaliação, e evitarem o que chama de “restrições prematuras” em modelos abertos.
Isto deve ser tratado menos como um resultado político estabelecido e mais como um indicador de onde os principais fornecedores de infra-estruturas e chips pretendem que a conversa regulamentar chegue. Jogadores como Nvidia, IBM e Dell têm razões comerciais diretas para querer que os ecossistemas de peso aberto floresçam, uma vez que uma gama mais ampla de modelos implementáveis vende mais computação e serviços, independentemente de qual laboratório produziu os pesos.
As equipes de compras que avaliam implantações de modelo aberto versus implantações de modelo fechado devem levar em consideração que o ambiente político que favorece uma abordagem em detrimento de outra permanece sem solução, e quaisquer restrições à destilação ou liberações abertas podem mudar a economia da IA auto-hospedada dentro de um único ciclo legislativo.
Veja também: OpenAI coloca ChatGPT em registros de saúde de pacientes
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo o Cyber Security & Cloud Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
