O E.SUN Bank está trabalhando com a IBM para construir regras de governança de IA mais claras sobre como a inteligência artificial pode ser usada dentro de um banco. O esforço reflete uma mudança mais ampla nas finanças. Muitas empresas já usam IA para verificações de fraude e pontuação de crédito, e algumas também a utilizam para lidar com dúvidas de atendimento ao cliente. O novo desafio é como gerir estes sistemas de uma forma que cumpra as regras legais e de risco.
Os bancos enfrentam uma lista crescente de questões à medida que implementam a IA. Como um modelo deve ser testado antes de ser lançado? Quem é o responsável se fizer uma ligação errada? E como podem as empresas provar aos reguladores que os seus sistemas são justos e seguros?
Para resolver esses problemas, o E.SUN Bank e a IBM Consulting criaram uma estrutura de governança de IA para o setor bancário. O projeto também inclui um documento técnico sobre governança de IA que define como as empresas financeiras podem construir controles internos em torno dos sistemas de IA. De acordo com o comunicado de imprensa das empresas, o trabalho adapta padrões globais como a Lei de IA da UE e a ISO/IEC 42001 para serviços financeiros.
A estrutura define como os bancos podem revisar os modelos de IA antes de serem implantados. Também explica como esses modelos devem ser monitorados após entrarem em produção. Inclui regras sobre como os dados são usados e como as análises de risco devem ocorrer.
O E.SUN Bank disse que a estrutura se destina a ajudar as instituições financeiras a introduzir sistemas de IA, mantendo ao mesmo tempo a governança e a supervisão regulatória. Muitas empresas já utilizam ferramentas limitadas de IA. O próximo passo é dimensionar esses sistemas em operações essenciais, como empréstimos e pagamentos, mantendo-se dentro dos limites regulamentares.
Os bancos tentam gerir o risco da IA
As empresas financeiras têm fortes razões para colocar barreiras de proteção em torno dos sistemas de IA. O setor bancário depende da confiança e os reguladores exigem que as empresas acompanhem a forma como as decisões são tomadas. Os modelos de IA muitas vezes funcionam como “caixas pretas”, o que significa que pode ser difícil explicar como chegam a um resultado. Isso pode criar problemas em áreas como decisões de crédito ou verificações de fraude. Os reguladores de muitas regiões começaram a concentrar-se nestes riscos.
A Lei da IA da União Europeia, adotada em 2024, estabelece regras rigorosas sobre os sistemas de IA utilizados em setores de alto risco, como o financeiro. A lei exige que as empresas avaliem os riscos e documentem os dados de treinamento. Também exige que eles monitorem como os modelos de IA se comportam após a implantação.
Os padrões globais também estão tomando forma. A ISO/IEC 42001, publicada em 2023, define como as organizações podem construir sistemas de gestão para IA. A norma concentra-se na supervisão e monitoramento de modelos. Também aborda como as organizações devem gerenciar os dados de IA. O objetivo é proporcionar às empresas uma forma estruturada de gerir a IA em toda a empresa, em vez de tratar cada modelo como uma ferramenta separada.
O projeto do E.SUN Bank com a IBM baseia-se em ambas as estruturas. Pretende-se mostrar como essas regras poderiam funcionar nas operações bancárias diárias.
De pilotos de IA a sistemas empresariais
Os bancos utilizam a aprendizagem automática há anos, principalmente na análise de risco e na deteção de fraudes. Os modelos mais recentes de IA estão expandindo a forma como os bancos usam a tecnologia. Muitos agora o aplicam no atendimento ao cliente e na revisão de documentos. Alguns também o utilizam em sistemas de conhecimento internos.
Essa expansão traz novas necessidades de governação. Um sistema que sugere respostas às dúvidas dos clientes pode parecer de baixo risco. Mas um modelo que ajude a aprovar empréstimos ou a detectar fraudes pode ter efeitos financeiros directos.
A estrutura de governança criada pelo E.SUN Bank e pela IBM estabelece um processo para rastrear esses riscos. Os modelos são revisados antes de entrarem em operação e as equipes monitoram seus resultados após a implantação. A estrutura também atribui responsabilidades entre equipes, desde desenvolvedores até a equipe de conformidade. O projeto também produziu um white paper que explica as etapas com mais detalhes. Descreve como os bancos podem classificar os sistemas de IA por nível de risco e aplicar diferentes níveis de supervisão.
A governança da IA se expande nos serviços financeiros
O trabalho no E.SUN Bank reflete uma tendência nas finanças globais. Muitos bancos veem agora a governação como um passo fundamental antes de escalar a IA em todas as operações.
Os inquéritos da indústria sugerem que a adoção da IA nos serviços financeiros já está generalizada. Um relatório de 2024 da NVIDIA descobriu que cerca de 91% das empresas de serviços financeiros estavam avaliando ou já usavam IA. Os usos comuns incluem detecção de fraude e modelagem de risco. Alguns bancos também usam IA para automatizar tarefas de atendimento ao cliente.
Uma pesquisa da Deloitte mostra que mais de 70% das instituições financeiras planeiam aumentar o investimento em IA. Grande parte desses gastos destina-se ao monitoramento da conformidade e à análise de riscos. Alguns bancos também esperam que a IA melhore as operações internas.
Ao mesmo tempo, os reguladores estão prestando mais atenção. As autoridades de diversas regiões alertaram os bancos para acompanharem a forma como os sistemas automatizados afectam decisões como a aprovação de crédito e a detecção de fraudes. Esta pressão levou os bancos a investir mais em sistemas de supervisão interna. Em vez de se concentrarem apenas na precisão do modelo, as empresas agora também rastreiam as fontes de dados e a lógica de decisão. Muitos também monitoram como os modelos se comportam ao longo do tempo.
Por que a governação pode moldar a adoção da IA
O impulso para a governação da IA pode influenciar a rapidez com que os bancos adotam novas ferramentas. Sem regras claras, muitas empresas hesitam em ir além de pequenos experimentos. Uma estrutura estruturada pode ajudá-los a expandir os projetos de IA e, ao mesmo tempo, atender às demandas regulatórias.
Essa é a ideia por trás do projeto do Banco E.SUN. Ao combinar padrões globais com fluxos de trabalho bancários, o quadro define como a IA pode ser implementada sob supervisão clara. De acordo com o anúncio das empresas, a IBM disse que a estrutura foi desenvolvida para ajudar as instituições financeiras a gerenciar os riscos de IA à medida que expandem o uso de IA no setor bancário.
O esforço também reflete o papel crescente da governação na IA empresarial. Os primeiros projetos de IA focaram na construção de modelos e na melhoria do desempenho. Hoje, o foco está mudando para a forma como esses sistemas são gerenciados ao longo do tempo. À medida que mais bancos incorporam a IA nas operações principais, essa questão pode tornar-se tão importante como a própria tecnologia.
(Foto de Markus Spiske)
Veja também: Manulife move agentes de IA para fluxos de trabalho financeiros essenciais
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos líderes de tecnologia. Clique aqui para obter mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
