Decrypt logoSource: Decrypt

Em resumo

  • A Perplexity lançou uma prévia da pesquisa de uma versão pós-treinada do GLM 5.2, construída para atuar como um orquestrador dentro de seu equipamento de computador e escalar para Claude Opus 4.8 somente quando necessário.
  • O sistema custa um terço do preço do Opus 4.8 em todos os benchmarks.
  • É o segundo ajuste fino de código aberto chinês da Perplexity em 18 meses – o primeiro sendo R1-1776, uma versão do DeepSeek R1 despojada de cerca de 300 tópicos de censura exigidos por Pequim.

A perplexidade transformou um modelo chinês de código aberto em um carro-chefe quase fronteiriço, custando cerca de um terço do custo do Claude Opus 4.8.

A empresa lançou hoje uma prévia da pesquisa de uma versão pós-treinada do GLM 5.2 da Z.AI, construída especificamente para operar dentro de seu equipamento de agente de computador e já disponível em produção.

GLM 5.2 é um modelo de aproximadamente 744 bilhões de parâmetros da Z.ai – anteriormente Zhipu AI, um laboratório de Pequim que está na lista de entidades dos EUA desde janeiro de 2025. (Os parâmetros são todos os diferentes mostradores e configurações que um modelo pode manipular durante o treinamento. Quanto mais parâmetros, mais complexo e poderoso é o modelo.) Lançado sob uma licença do MIT em junho, ele está entre os principais modelos de IA atualmente disponíveis em benchmarks de codificação de longo horizonte em um fração do custo da API.

Os pesos abertos significam que qualquer pessoa pode baixá-lo, modificá-lo e ajustá-lo comercialmente sem restrições. A perplexidade fez exatamente isso.

O que realmente é o ajuste fino

O ajuste fino é o processo de pegar um modelo de IA já treinado e treiná-lo novamente em um conjunto de dados menor e focado para torná-lo melhor em um trabalho específico.

Pense nisso como ajustar um carro. Mecânicas diferentes podem ter o mesmo Honda Civic, por exemplo, e torná-lo mais rápido para corridas de arrancada, mais agradável visualmente, adaptá-lo para rally, etc. Na IA, os desenvolvedores obtêm um modelo básico e adicionam configurações diferentes para que o ajuste fino acabe com mais conhecimento em um campo específico, um viés político diferente, mais ou menos restrições, etc.

A Perplexity usou o pós-treinamento – um processo semelhante aplicado após a execução principal do treinamento do modelo – para ensinar ao GLM 5.2 uma habilidade crítica: saber quando lidar com uma tarefa em si e quando escalar para algo mais poderoso.

Essa escalada é a essência do que eles construíram. O GLM 5.2 aprimorado inclui o que a Perplexity chama de “ferramenta de aconselhamento” – um recurso nativo para reconhecer quando uma consulta excede sua própria competência e transferi-la para um modelo de fronteira de terceiros. A maioria das tarefas nunca chega ao modelo caro. Somente aqueles que realmente precisam o fazem.

Isso acaba economizando muito dinheiro em inferências.

“Quando combinado com um consultor, este modelo funciona com desempenho de nível Opus 4.8 por uma fração do custo”, escreveu o CEO Aravind Srinivas no X.

A Perplexity comparou o sistema com o GLM 5.2 normal para estabelecer uma linha de base de custos. Utilizando a métrica de eficiência interna da empresa, que mede quanto custa concluir tarefas complexas, os resultados mostraram que o modelo ajustado com um consultor é cerca de duas vezes mais caro do que a versão básica. No entanto, usar o modelo Opus 4.8 de primeira linha para tudo é muito mais caro (cerca de 600% mais caro).

Ao combinar essas ferramentas, o sistema da Perplexity alcança o mesmo desempenho de qualidade que o Opus, mas apenas por cerca de um terço do preço

Por que um modelo chinês – e por que o código aberto torna isso possível

A corrida entre EUA e China pela IA tende a ser enquadrada como uma soma zero. Na prática, os modelos de código aberto não param nas fronteiras. A licença MIT do GLM 5.2 simplifica o cálculo: não há contrato de API a ser violado, nem chave de acesso que um governo possa ativar. Você baixa os pesos e pode ajustá-los para o que precisar.

A perplexidade já percorreu esse caminho antes. Quando o DeepSeek R1 varreu o mundo da IA ​​no início de 2025, a empresa ajustou-o para R1-1776 – mapeando cerca de 300 tópicos que o original se recusou a discutir devido à censura do governo chinês e retreinando o modelo para torná-lo mais tendencioso em favor dos Estados Unidos. Tornou-se uma versão hospedada no Ocidente do mesmo mecanismo de raciocínio.

“Não somos capazes de fazer uso das poderosas capacidades de raciocínio do R1 sem primeiro mitigar seu preconceito e censura”, escreveu a equipe da Perplexity na época em um blog.

Portanto, esta mudança do GLM 5.2 segue o mesmo modelo, exceto que o objetivo desta vez não é político, mas econômico. O produto Computer da Perplexity já orquestra mais de 19 modelos de IA; o GLM ajustado foi projetado para ser o padrão barato que absorve a maior parte das tarefas antes mesmo de tocar em um modelo de fronteira.

Srinivas disse que a tese de longo prazo é simples: modelos de código aberto pós-treinamento para melhorar o escalonamento, dentro de um equipamento de agente que já atende milhões de usuários. A Perplexity está “posicionada de forma única” para resolvê-lo, escreveu ele, porque a infraestrutura já está implantada em grande escala.

O modelo roda em GPUs Nvidia B200 nos Estados Unidos. O próximo da fila: um pós-trem do Nemotron 3 Ultra, que replicaria a mesma arquitetura usando um modelo americano de código aberto.

Benchmarks completos e um artigo de pesquisa são esperados nas próximas semanas. O modelo está disponível como visualização da pesquisa.

Resumo Diário Boletim informativo

Comece cada dia com as principais notícias do momento, além de recursos originais, podcast, vídeos e muito mais.



Fontedecrypt

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *