O Walmart supostamente começou a limitar o uso de um assistente interno de IA chamado Code Puppy pelos funcionários depois que as demandas feitas ao LLM para apoiar a ferramenta foram maiores do que o esperado. Os funcionários do Walmart foram incentivados a usar o Code Puppy sem qualquer restrição ou estipulação quanto aos limites de uso, mas o Walmart agora está atribuindo aos funcionários um número fixo de tokens de IA, o que limita o quanto ele pode ser usado. O Code Puppy foi divulgado como capaz de ajudar em tarefas como análise de planilhas, criação de apresentações e outras atividades automatizáveis no local de trabalho.
A mudança na política interna é uma medida de controlo de custos, uma vez que os LLM estão cada vez mais a transitar para o modelo de pagamento por utilização, em vez do modelo de subscrição de preço fixo, que proporcionava acesso quase ilimitado à inferência de IA. O Walmart tem cerca de 2,1 milhões de funcionários, portanto, mesmo consultas modestas por funcionário e solicitações de tarefas podem criar custos significativos.
A orientação do Walmart para os funcionários é usar IA onde ela possa criar valor e vem com orientações sobre como os trabalhadores devem escolher a ferramenta de IA certa para qualquer tarefa. Os relatórios também afirmam que os funcionários têm acesso a outras plataformas de IA pagas pela empresa.
O Walmart expandiu o uso de ferramentas de IA na empresa e forneceu treinamento para seus funcionários sobre como usar uma IA, incentivando-os a experimentar e adotar usos bem-sucedidos. Agora, os custos de cada interação estão sendo cobrados diretamente, entre outras grandes empresas que lutam para equilibrar as melhorias relatadas na produtividade com o custo de alcançá-las.
Pelo menos parte do problema pode resultar dos métodos utilizados para medir a produtividade em fluxos de trabalho baseados em IA. Anteriormente, acompanhar o número e a complexidade do uso de ferramentas de IA como medida de produtividade levou muitos funcionários a “gamificar” seus KPIs – o chamado “token maxxing”. Ainda em abril deste ano, um sócio da Sequoia Capital disse O Wall Street Journal“Todos deveríamos estar usando tokenmaxxing”, uma abordagem que resultou no surgimento de tabelas de classificação de IA nas empresas para celebrar aqueles que fazem melhor uso do software de IA.
Tais práticas performativas nas empresas incorrerão cada vez mais em custos relativos ao número e à complexidade das tarefas de IA e ao modelo escolhido para as executar. Modelos maiores que executam ações recursivas (“modelos de pensamento”) usam mais tokens para processar entradas introspectivamente, levando a contas mais altas para os usuários. O incentivo do Walmart aos trabalhadores para que escolham cuidadosamente o seu modelo é uma tentativa de limitar os gastos em modelos caros e de fronteira para realizar tarefas relativamente triviais, como análise de planilhas e criação de apresentações.
O trabalho de IA multiagente também pode criar custos inesperados para os empregadores. Quando os funcionários instigam ciclos iterativos executados em vários agentes para criar um resultado desejado, o custo real dos resultados abaixo do ideal (e o necessário refinamento e reenvio de prompts) agora é mensurável em dinheiro vivo.
Embora nem todos os provedores de IA tenham mudado todos os seus modelos de faturamento de assinaturas fixas para por token, tanto a Anthropic quanto a OpenAI já mudaram seus planos empresariais de nível superior para uma nova base. A decisão da Microsoft de cobrar pelas ferramentas de desenvolvimento de software GitHub Copilot a partir de 1º de junho está alinhada com o que está rapidamente se tornando a nova normalidade financeira para fornecedores de modelos. A Uber revelou recentemente que esgotou seu orçamento de 2026 para gastos com IA nos primeiros quatro meses do ano; uma prova das mudanças na política de cobrança que afetam os usuários finais.
Ao estabelecer limites para o uso de tokens por funcionário, o Walmart está se esforçando para manter um controle sobre seus custos contínuos, impor um uso mais cuidadoso de ferramentas de IA e permitir que estabeleça as métricas de retorno do investimento em IA.
(Fonte da imagem: Pixabay, sob licença.)
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos de tecnologia líderes. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
