A SenseTime lançou o Projeto Galaxy, em parceria com quase 20 parceiros para dimensionar a infraestrutura doméstica de chips de IA na China.
Em uma palestra intitulada ‘Transformação Inteligente e Simbiose’, Yang Fan – cofundador da empresa e presidente de seu Grupo de Negócios de Grandes Dispositivos – expôs o que SenseTime descreve como um circuito fechado conectando tecnologia em nível de chip, parcerias de ecossistema e implantação comercial para poder de computação de IA produzido internamente.
Juntamente com o Projeto Galaxy, a SenseTime assinou um acordo de computação espacial com o fabricante de satélites Guoxing Aerospace e firmou uma parceria de pesquisa com cinco instituições – incluindo o Laboratório de Inteligência Artificial de Xangai – voltada para aplicações de computação científica.
Yang enquadrou o momento em torno de três tendências convergentes: aumento da demanda de tokens nas implantações empresariais, adoção de IA industrial alcançando casos de uso voltados para o consumidor e comercialização de chips domésticos atingindo um ponto em que centros de computação inteligentes construídos com silício chinês podem ser mantidos em ritmo acelerado.
No entanto, se essa janela é tão aberta quanto afirma o SenseTime depende muito de números que a empresa não verificou de forma independente.
Os números de rendimento do token vêm com um grande asterisco
SenseTime diz que sua plataforma de dispositivos em grande escala agora processa uma média de 2,42 trilhões de tokens diariamente, e a empresa projeta que esse número aumentará 25 vezes, para 10 trilhões de tokens por dia até o quarto trimestre de 2026. Isso é uma previsão, não um resultado medido, e os compradores empresariais que avaliam a infraestrutura da SenseTime devem tratá-la como tal até que os números trimestrais comecem a chegar.
As alegações de custo-eficácia associadas a esse crescimento são igualmente auto-relatadas. SenseTime afirma que sua tecnologia de inferência híbrida heterogênea oferece um aumento de 85-152 por cento na utilização de FLOPs de modelo em chips domésticos convencionais, juntamente com a relação custo-benefício de inferência que a empresa estima em 1,25x a das peças da série H da Nvidia.
Em comparação com configurações de inferência homogêneas domésticas, o SenseTime afirma um aumento de 2,5x na produção de tokens a um custo equivalente, um salto que, segundo ele, empurra os clusters de inferência híbrida otimizados além do que a indústria anteriormente considerava como o limite mínimo de lucratividade para o poder de computação doméstico.
Nenhum desses números vem com benchmarking de terceiros, e a lacuna entre o cluster de teste otimizado de um fornecedor e o ambiente de produção de um cliente – com seus pipelines de dados desiguais e atualizações de firmware atrasadas – tende a ser onde esses números diminuem.
Reivindicações de adaptabilidade e o problema multi-chip
Historicamente, os chips domésticos de IA têm lutado com uma pilha de software fragmentada: modelos treinados para uma arquitetura geralmente exigem retrabalho para serem executados em outra. A SenseTime afirma que construiu uma camada de adaptação full-stack abrangendo modelos, estruturas, operadores, conjuntos de ferramentas e hardware para resolver isso, com o objetivo de permitir que os clientes migrem cargas de trabalho entre fornecedores nacionais de chips sem reescritas extensas.
A empresa aponta dois exemplos aplicados. Em uma carga de trabalho de previsão de proteínas de longa sequência AI4S, SenseTime diz que a otimização do operador fundido reduziu o tempo geral de previsão por um fator de três. Na geração de vídeo AIGC, afirma uma taxa de aceleração paralela de múltiplas placas de 93% para chips domésticos que executam modelos DiT, juntamente com o que descreve como migração de custo zero para ferramentas convencionais de desenvolvimento de IA.
Esses são os tipos de números que são bem lidos em um teste sandbox e são muito mais importantes quando testados em relação a pipelines de clientes reais que executam gerações de hardware misto.
Métricas de energia ganham novo nome de benchmark
SenseTime introduziu uma métrica chamada Tokens Per Watt, posicionada como um parâmetro substituto para medir a eficiência do data center de IA, juntamente com um Agente de Colaboração Computing-Power que lida com agendamento de recursos, previsão de preços de eletricidade e otimização de armazenamento de energia em todo o que a empresa descreve como um sistema de dados de oito níveis com cinco cadeias de decisão.
Combinando computação, preços de eletricidade e agendamento automatizado, o SenseTime afirma um aumento de 80% na produção de tokens por unidade de custo de eletricidade, preços médios de energia 10% abaixo dos data centers regionais comparáveis e 96% de precisão na previsão de carga computacional.
Estas são afirmações que vale a pena observar nos próximos trimestres, em vez de aceitá-las pelo valor nominal. A arbitragem do preço da electricidade e a precisão da previsão de carga tendem a ter um desempenho diferente quando um sistema atravessa um ciclo sazonal completo com volatilidade genuína da procura, em vez das condições sob as quais um fornecedor normalmente executa o seu piloto.
Lista impressionante de parceiros abrange fabricantes de chips e fornecedores de componentes
O ecossistema declarado do Projeto Galaxy inclui os fornecedores domésticos de chips Cambricon, Muxi, Hygon, Huawei Ascend, Moore Threads, Sunrise e Biren Technology, o parceiro de componentes Xizhi Technology e empresas de infraestrutura, incluindo Silicon Motion, Qujing Technology, Zhongke Jiahe, Qingcheng Jizhi, Sophon Information e Jiliu Technology.
SenseTime diz que o plano cobre a construção de uma “fábrica de tokens”, cinco clusters de computação no que chama de escala de “10.000 calorias”, trabalho conjunto em dez direções tecnológicas e suporte para 200 startups de IA.
“A produção doméstica não consiste simplesmente na substituição de chips individuais, mas sim num esforço colaborativo em toda a cadeia de capacidades de inovação da China, desde chips e componentes até infraestrutura e cenários de aplicação”, disse Yang.
As apostas em computação espacial, óptica e quântica parecem mais distantes
Além da infraestrutura de curto prazo, a SenseTime descreveu o trabalho em computação óptica para eficiência de data center, aplicações de computação quântica na otimização de IA e uma parceria de computação espacial com a Guoxing Aerospace para construir o que as duas empresas chamam de Constelação de Computação Espacial SenseTime.
O plano da SenseTime prevê o lançamento do primeiro satélite em 2026, construindo milhares de satélites computacionais e capacidade computacional de dezenas de milhares de petabytes até 2030.
Yang argumentou que o valor vai além da capacidade bruta, enquadrando a computação baseada no espaço como uma forma de estender o alcance dos serviços chineses de IA a ambientes de rede fraca, como operações marítimas e resposta a desastres, e, por extensão, para apoiar internacionalmente as exportações de IA da China.
Essa meta para 2030 está prevista para daqui a cinco anos, e as implantações de computação por satélite desta escala não têm precedentes para medir o cronograma.
Infraestrutura física abrange Xangai até Riad
No local, a SenseTime afirma que suas instalações em Xangai administram o primeiro data center do país classificado no que chama de nível de computação inteligente “5A”, lidando com mais de 20 trilhões de tokens diariamente em mais de 20 setores. Uma unidade de Yancheng foi lançada com capacidade inicial de 3.000 petaflops, focada em aplicações de energia, manufatura e economia de baixa altitude.
Em Hong Kong, a SenseTime está a construir o que descreve como o maior centro doméstico de computação inteligente do território, visando 40.000 petaflops até 2030. A empresa também planeia o que chama de primeiro cluster de computação doméstica da China no exterior, na Arábia Saudita, posicionado como uma base de computação doméstica full-stack para o Médio Oriente.
No lado da pesquisa, a parceria da SenseTime com o Laboratório de IA de Xangai, a Academia Zhongguancun de Pequim, a Academia Hetao de Shenzhen, o Instituto de Pesquisa de Inovação de Algoritmos de Xangai e a escola de IA da Universidade Jiao Tong de Xangai visa construir uma plataforma compartilhada que abrange computação, ferramentas e capacidade de modelo para ciências biológicas, ciência de materiais e pesquisa de manufatura. Yang chamou a IA para a Ciência de “uma alavanca fundamental para a inovação de paradigma na investigação básica”, ligando a iniciativa ao impulso político mais amplo de “Inteligência Artificial+” da China.
A previsão da SenseTime de 10 trilhões de tokens por dia até o quarto trimestre de 2026 é o número a ser comparado com tudo o que a empresa relata quando esse trimestre realmente fecha.
Veja também: Modelo aberto Kimi K3: a maior IA da China é uma aposta na memória, não na computação
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo o Cyber Security & Cloud Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
