Joe Rose, presidente do provedor de tecnologia estratégica JBS Dev, quer acabar com um dos mitos de trabalhar com sistemas de IA generativos e de agente. “É um equívoco comum pensar que seus dados precisam estar perfeitos antes de você executar qualquer um desses tipos de cargas de trabalho”, explica ele.
Como descreve um artigo recente no AI Fieldbook, fornecedores e consultores – não surpreendentemente – sugerem que você precisa de enormes data lakes e programas plurianuais de transformação de dados, respectivamente. Os executivos estão, portanto, coçando a cabeça com tudo isso. A realidade é um pouco diferente. “As ferramentas nunca foram melhores do que agora para lidar com dados de baixa qualidade”, diz Rose. “É quase notável o que um LLM pode entender em uma mensagem escrita pela metade.”
Faz sentido. Se você tiver essa ferramenta disponível, vale a pena utilizá-la a seu favor – com as proteções corretas instaladas. A imprevisibilidade inerente aos modelos significa a necessidade de lidar com resultados ruins, que é onde entra o ser humano no circuito. Para dados textuais ou de categoria, existe uma resiliência. “As pessoas estão… acostumadas a ‘nós construímos, funciona, esquecemos’”, diz Rose. “Não é assim que esses sistemas funcionam.”
Em relação aos dados imperfeitos, Rose dá o exemplo de um cliente do setor médico onde o objetivo era migrar para outro sistema de conciliação de faturamento. Os discos eram uma mistura; alguns estavam em PDF, outros em imagem; o procedimento às vezes seria em nome do médico, o nome do médico estaria em nome do paciente e assim por diante. A geração AI foi capaz de definir o escopo dos dados limpos a partir de um simples prompt, do OCR às imagens e à extração de texto para os PDFs, enquanto abordagens mais ativas foram posteriormente aproveitadas, como comparar um registro de cliente a um contrato de seguro para ver se eles foram cobrados na taxa certa.
“Você começa a sobrepor diferentes casos de uso”, diz Rose. “Isso não quer dizer que tudo esteja certo – você ainda precisa de um ser humano no circuito. Mas o que você quer fazer é dizer, ‘começamos com 20% de automação, depois 40%, e depois 60, 80%’, e aumentar isso ao longo do tempo.”
No futuro, Rose espera que as discussões futuras sobre esses modelos girem em torno de custo e portabilidade. “Acho que veremos um afastamento desses saltos radicais e capacidade de modelo, e uma mudança maior em direção a ‘como podemos tornar o custo mais sustentável para que não tenhamos que construir data centers no ritmo em que estamos construindo data centers?’”, diz ele.
“A última etapa é ‘como podemos fazer com que essas coisas funcionem em um laptop ou telefone, em vez de rodarem em um data center?’ Os modelos foram treinados em um conjunto de dados – essencialmente todas as páginas da internet e outras coisas. Não é como se houvesse uma tonelada a mais de dados que ainda não foram colocados neles e que levarão a algum tipo de avanço.”
Na AI & Big Data Expo, onde a JBS Dev participa, Rose está ansioso pelas conversas – e mais uma opinião polêmica que ele transmitirá é dizer às pessoas para pararem de comprar de fornecedores de SaaS quando você puder fazer isso sozinho. “Não é tão difícil quanto parece”, diz ele. “Quase todo mundo tem algum tipo de presença na nuvem, e é por aí que eu começaria, porque as ferramentas de nuvem, especialmente para as três grandes… têm tudo que você precisa para começar a implementar cargas de trabalho de agente amanhã, sem novas licenças de software e novos treinamentos.”
Uma vez implementado, o JBS Dev estará presente para as próximas etapas da jornada.
Assista abaixo a entrevista completa com Rose:
Imagem de Gerd Altmann do Pixabay
Fontesartificialintelligence
