A empresa de pagamentos digitais e fintech Ant International venceu a Competição NeurIPS de Justiça em Detecção de Rosto por IA. A empresa afirma estar comprometida em desenvolver serviços financeiros seguros e inclusivos, especialmente porque as tecnologias deepfake estão se tornando mais comuns.
O uso crescente do reconhecimento facial em muitos setores destacou a questão do viés algorítmico na IA. Uma pesquisa conduzida pelo NIST (Instituto Nacional de Padrões e Tecnologia) mostra que muitos algoritmos de reconhecimento facial amplamente utilizados apresentam taxas de erro consideravelmente mais altas ao analisar os rostos de mulheres e pessoas de cor, uma disparidade que decorre da falta de diversidade nos dados de treinamento e na demografia daqueles que constroem e controlam muitas plataformas convencionais de IA. As consequências de algoritmos tendenciosos podem levar à negação de serviços financeiros a grandes setores da população e são vistas como uma vulnerabilidade nos protocolos de segurança.
A Competição NeurIPS foi realizada paralelamente à Conferência sobre Sistemas de Processamento de Informações Neurais, a respeitada conferência de IA, e desafiou os participantes a criar modelos de IA capazes de alto desempenho e justiça, cobrindo uma série de fatores demográficos: gênero, idade e tom de pele. A equipe da Ant International superou mais de 2.100 inscrições de 162 equipes vindas de todo o mundo. A tarefa dada era detectar com precisão 1,2 milhão de imagens faciais geradas por IA que foram escolhidas como adequadamente representativas de grupos demográficos.
A abordagem adotada pelo modelo de IA vencedor do Ant combina uma arquitetura Mixture of Experts (MoE) com um mecanismo de detecção de polarização. O sistema treina duas redes neurais concorrentes: uma focada na identificação de deepfakes, e outra projetada para desafiar a primeira, obrigando-a a desconsiderar características demográficas. Este processo dinâmico ajuda a garantir que o sistema aprenda a detectar sinais genuínos de manipulação, em vez de confiar inadvertidamente em padrões demográficos. O treinamento do modelo incorporou um conjunto de dados representativo globalmente e incorporou cenários reais de fraude de pagamento para garantir seu desempenho em escala.
“Um sistema de IA tendencioso é inerentemente inseguro”, explicou o Dr. Tianyi Zhang, gerente geral de gerenciamento de risco e segurança cibernética da Ant International. “A justiça do nosso modelo não é apenas uma questão de ética; é fundamental para prevenir a exploração de deepfakes e garantir uma verificação de identidade confiável para cada usuário”.
A tecnologia por trás da entrada vencedora está agora sendo integrada aos serviços financeiros e de pagamento da Ant para ajudar a combater a ameaça de deepfakes, e as empresas afirmam que atinge uma taxa de detecção superior a 99,8% em todos os dados demográficos e nos 200 mercados em que a Ant opera.
A tecnologia da Ant ajuda seus clientes a atender aos padrões globais de Electronic Know Your Customer (eKYC), especialmente durante a integração do cliente, sem preconceitos algorítmicos. Isto é considerado particularmente importante nos mercados emergentes, onde uma maior inclusão financeira pode ser dificultada.
A Ant International atende mais de 150 milhões de comerciantes e 1,8 bilhão de contas de usuários, conhecida por serviços como Alipay+, Antom, Bettr e WorldFirst. A empresa afirmou que a segurança da IA é um pilar de suas operações. É AI SHIELD, uma estrutura para gerenciamento de risco construída no AI Security Docker para ajudar a mitigar o risco de vulnerabilidades em serviços de IA, como acesso não autorizado e vazamento de dados.
AI SHIELD sustenta um conjunto de soluções de gerenciamento de risco que fornecem proteção mais ampla às transações financeiras, incluindo medidas contra ataques deepfake e fraude. Alipay+ EasySafePay 360 reduziu em 90% os incidentes de controle de contas em pagamentos de carteira digital, afirma a empresa.
(Fonte da imagem: “arte abstrata de um belo retrato, formas sólidas, formas geométricas, cores neotokyo, cores suaves, pixar, artstation, greg rutkowski, samdoesart, ge” – domínio público)
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado junto com outros eventos de tecnologia líderes. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
