A confiança na IA agente, no entanto, está melhorando. A OutSystems relata que 73% dos entrevistados expressam confiança alta ou moderada em permitir que os agentes atuem de forma autônoma, um aumento de cerca de 10% em comparação com uma pesquisa semelhante que a empresa realizou no ano passado. A confiança no código ou nos fluxos de trabalho gerados por ferramentas de IA de terceiros é ligeiramente inferior, de 67%, um aumento substancial em relação ao número do ano anterior, quando apenas 40% da IA generativa era “mais confiável” para escrever código sem ajuda humana.
Apenas 36% dos entrevistados afirmam ter uma abordagem centralizada à governação da IA, enquanto 64% afirmam não ter tal facilidade e 41% confiam em regras implementadas por projeto. Dois terços afirmam que a construção de postos de controlo humanos no circuito é tecnicamente difícil porque requer uma orquestração que pode pausar os agentes – na verdade, inserindo travagem manual em operações que podem ser totalmente autónomas.
Muitas organizações parecem estar a implementar modelos de supervisão mais flexíveis, embora não esteja claro se isso é resultado de uma maior confiança nos modelos ou se as funções empresariais estão sob pressão para implementar IA, independentemente de preocupações de segurança ou fiabilidade. Se a tendência de flexibilização da supervisão continuar, os autores do relatório observam que a adopção da IA por agentes poderá avançar mais rapidamente do que os métodos de responsabilização que muitos consideram importantes.
As empresas que desejam escalar agentes em ambientes regulamentados ou de missão crítica devem tratar a orquestração e a auditabilidade como parte do produto, afirmam as conclusões da pesquisa. Quando as verificações de conformidade consideram as operações de uma empresa, as trilhas na forma de arquivos de log e responsabilidades definidas são consideradas elementos importantes de qualquer implementação de IA de agência.
O relatório afirma que 94% dos líderes estão preocupados com a “expansão da IA”, que não está definida, mas pode ser inferida como sendo a falta de uma plataforma de gestão centralizada que supervisione todas as implementações de IA na empresa. 39% estão muito ou extremamente preocupados com a questão e apenas 12% utilizam atualmente uma plataforma centralizada para manter essa expansão sob controlo.
A pesquisa completa pode ser acessada aqui.
(Fonte da imagem: “Relax” de Koijots está licenciado sob CC BY-SA 2.0. Para visualizar uma cópia desta licença, visite https://creativecommons.org/licenses/by-sa/2.0)
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos de tecnologia líderes. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
