Assistentes de IA de próxima geração estão sendo desenvolvidos no ecossistema da Apple e por fabricantes de chips como a Qualcomm, mas os primeiros relatórios sugerem que eles estão sendo projetados com limites estabelecidos.
Guia do Tom descreveu as primeiras versões desses assistentes como capazes de navegar em aplicativos, realizar reservas e gerenciar tarefas em serviços. Por exemplo, um sistema de agente beta privado concluiu tarefas como reserva de serviços ou publicação de conteúdo em aplicativos. Em um teste, ele passou por um fluxo de trabalho de aplicativo e chegou a uma tela de pagamento antes de solicitar a confirmação do usuário.
Os agentes de IA estão sendo construídos com pontos de verificação de aprovação. Ações confidenciais, especialmente aquelas vinculadas a pagamentos ou alterações de conta, exigem a confirmação do usuário antes de serem concluídas. O modelo “human-in-the-loop” permite que o sistema prepare uma ação, mas deixa a aprovação para o usuário. A pesquisa ligada ao trabalho de IA da Apple explorou maneiras de garantir que os sistemas façam uma pausa antes de realizar ações que os usuários não solicitaram explicitamente.
Os aplicativos bancários já exigem confirmação para transferências. A mesma ideia está agora a ser aplicada a ações orientadas por IA em vários serviços.
Limites e controle
Uma camada de controle vem da restrição do que a IA pode acessar. Em vez de fornecer ao sistema acesso total a aplicações e dados, as empresas estão a estabelecer limites, tais como com que aplicações a IA pode interagir e quando as ações podem ser acionadas.
Na prática, isso significa que a IA pode ser capaz de elaborar uma compra ou preparar uma reserva, mas não finalizá-la sem aprovação. Isso também significa que o sistema não pode circular livremente em todos os serviços, a menos que tenha permissão.
De acordo com Guia do Toma instalação é para privacidade. Se os dados permanecerem no dispositivo, elimina a necessidade de enviar informações confidenciais para servidores externos.
Em áreas como pagamentos, espera-se que os sistemas de IA funcionem com parceiros que já possuem regras rigorosas em vigor. Num exemplo relatado, os serviços dos prestadores de pagamentos estão a ser integrados para fornecer autenticação segura antes da conclusão das transações, embora tais salvaguardas ainda estejam em desenvolvimento. Os sistemas existentes funcionam como uma camada adicional de supervisão. Eles podem definir limites de transação ou exigir verificação extra.
Grande parte da discussão em torno da governação da IA centrou-se na utilização empresarial. Isso inclui áreas como segurança cibernética e automação em grande escala. O lado do consumidor introduz um desafio diferente e as empresas devem conceber controlos que funcionem para os utilizadores diários. Isso significa etapas de aprovação claras e proteções de privacidade integradas.
Autonomia com limites
À medida que a IA ganha a capacidade de realizar ações, os riscos tornam-se maiores, pois os erros podem levar a perdas financeiras ou à exposição de dados.
Ao colocar controlos em vários pontos, incluindo aprovação e infraestrutura, as empresas estão a tentar gerir esses riscos.
A abordagem pode moldar a forma como a IA agente se desenvolve no curto prazo. Em vez de almejarem a independência total, as empresas parecem focadas em ambientes controlados onde os riscos podem ser geridos.
(Foto de Junseong Lee)
Veja também: Desafios de governança da Agentic AI sob a Lei de IA da UE em 2026
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos de tecnologia líderes. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
