O Google DeepMind e o Isomorphic Labs delinearam um programa de bioresiliência para conter o uso indevido de IA na biologia e, ao mesmo tempo, ajudar na resposta a surtos.
As duas organizações publicaram uma atualização sobre uma iniciativa conjunta que começou discretamente e que já construiu mais de 15 parcerias com órgãos governamentais, organizações de biossegurança e grupos de investigação ao longo dos últimos 12 meses.
A divulgação chega com um problema de enquadramento específico anexado. Modelos de fronteira como o Gemini carregam uma compreensão cada vez mais detalhada da biologia, e a DeepMind reconhece que emparelhar esses sistemas com modelos biológicos especializados, agentes como sua plataforma Antigravity e bancos de dados de terceiros apenas aprimorará ainda mais essa capacidade.
No entanto, o mesmo conhecimento que ajuda um investigador a mapear um alvo de vacina poderia, em princípio, ajudar um interveniente na ameaça a colmatar lacunas na sua própria compreensão. DeepMind e Isomorphic descrevem isso como um mandato duplo: permitir os avanços científicos que a IA de fronteira torna possível, ao mesmo tempo que mantém essas mesmas ferramentas fora do alcance de pessoas que as usariam indevidamente.
O programa assenta em três pilares, de acordo com as empresas: prevenir o uso indevido, detectar surtos mais rapidamente e responder quando um surto ou ataque estiver em curso.
As mais de 15 parcerias construídas ao longo do último ano abrangem todas as três, embora a atualização forneça detalhes limitados sobre quais organizações estão envolvidas, além de um punhado de colaboradores nomeados, incluindo o Laboratório Nacional Lawrence Livermore, o Instituto de Segurança de IA do Reino Unido, o CEPI e o Instituto Francis Crick.
A DeepMind afirma que pretende ampliar esses relacionamentos nos próximos seis a doze meses, com atenção voltada para inteligência de ameaças, métodos de avaliação para agentes de IA e mitigações de jailbreak. Também está coordenando com o Frontier Model Forum questões como como lidar com categorias mais arriscadas de dados de treinamento, sendo os conjuntos de dados de virologia o exemplo dado.
Bloquear Gemini sem bloquear a ciência legítima
O trabalho de prevenção baseia-se na modelação de ameaças concebida para identificar quais os intervenientes com maior probabilidade de tentarem uma utilização indevida e quais os estrangulamentos que actualmente os impedem. A DeepMind diz que usa uma combinação de equipes de especialistas e ensaios clínicos randomizados para julgar se o Gemini poderia ajudar alguém a resolver esses gargalos.
Os métodos pós-treinamento têm como objetivo ensinar o modelo a recusar consultas prejudiciais e, ao mesmo tempo, evitar o que a empresa chama de recusa excessiva de questões científicas legítimas, um equilíbrio que se mostrou difícil em todo o setor em geral, não apenas para a DeepMind. Classificadores e sondagens são implantados para sinalizar atividades arriscadas em tempo real, e a empresa afirma que executa análises de log direcionadas para detectar padrões de uso indevido mais sutis que os filtros automatizados podem não perceber.
Nenhuma dessas mitigações é descrita como resolvida. A DeepMind os enquadra como um processo contínuo, e não como um sistema acabado, o que é importante para qualquer empresa ou órgão governamental que esteja avaliando se deve confiar nas salvaguardas configuradas atualmente. Um classificador ajustado contra padrões de jailbreak conhecidos em uma avaliação controlada não garante desempenho equivalente contra novos métodos de ataque que surgem no uso ao vivo, e a empresa não afirma o contrário.
O problema de triagem de síntese de DNA
Um dos riscos mais concretos em exploração envolve a síntese de DNA. As empresas do Consórcio Internacional de Síntese de Genes atualmente analisam os pedidos em relação a listas de patógenos e toxinas prejudiciais conhecidas, combinadas com algoritmos de triagem. A DeepMind afirma claramente que esta abordagem está a começar a desgastar-se, porque a IA pode agora ajudar a conceber sequências de ADN com função semelhante a um agente patogénico perigoso, sem corresponder a sua sequência suficientemente perto para desencadear rastreios existentes.
A correção proposta é baseada no sistema de marca d’água existente da DeepMind, SynthID, que, segundo a empresa, se tornou um padrão da indústria para marcar imagens e textos gerados por IA. Adaptá-lo a sequências biológicas é apresentado como um trabalho exploratório e não como um produto embarcado.
Um objectivo a longo prazo, descrito como um desafio técnico aberto e não como algo próximo de resolvido, envolve o rastreio que prevê se uma nova sequência de ADN é provavelmente tóxica ou patogénica com base na sua função, independentemente de se assemelhar a alguma coisa nas bases de dados existentes.
Sequenciamento mais barato como camada de detecção
A detecção depende do sequenciamento metagenômico, que caracteriza cada microrganismo em uma amostra, em vez de verificar uma lista restrita de patógenos conhecidos, como fazem os diagnósticos tradicionais. O factor limitante é o custo, e a expansão da abordagem para as regiões onde os surtos têm maior probabilidade de se originar exige que esse custo diminua consideravelmente.
DeepMind aponta para uma colaboração entre o Google e a Pacific Biosciences que usou seu agente de codificação AlphaEvolve para melhorar a precisão do sequenciamento como um ponto de dados para esse objetivo. A empresa diz que agora está olhando para outras oportunidades – desde a otimização dos algoritmos que processam dados de sequenciamento até o design de hardware informativo – e explorando separadamente se o AlphaGenome poderia ajudar a caracterizar patógenos diretamente a partir de dados de sequenciamento.
Estas continuam a ser colaborações de investigação em vez de sistemas implementados no terreno, e a distância entre um ganho de precisão de sequenciação numa conduta controlada e uma rede de alerta precoce funcional em centros de águas residuais e de trânsito em locais com poucos recursos não é pequena.
O registro de publicação da AlphaFold e a lacuna de contramedidas
O pilar de resposta baseia-se na lacuna de contramedidas médicas que deixa muitos agentes patogénicos conhecidos sem diagnóstico, vacina ou tratamento licenciados. A DeepMind cita mais de 10.000 publicações sobre doenças infecciosas que fizeram referência ao AlphaFold ao longo de cinco anos, abrangendo trabalhos sobre transmissão de tuberculose e malária e mapeamento de alvos para ameaças, incluindo Mpox e Nipah.
A mais recente adição a esse registo é uma parceria com o programa de bioresiliência de Lawrence Livermore, que planeia usar o AlphaFold 3 para trabalhos de design de anticorpos de amplo espectro, incluindo um esforço de anticorpos pan-filovírus. A DeepMind afirma que continuará adicionando estruturas e complexos de proteínas ao banco de dados de estruturas de proteínas AlphaFold este ano, priorizando alvos relevantes para o desenvolvimento de contramedidas.
O acesso a sistemas de agentes mais recentes, incluindo o Co-Cientista, está a ser alargado a investigadores seleccionados, entre eles cientistas dos Laboratórios Nacionais do Departamento de Energia dos EUA que trabalham no âmbito da Missão Genesis.
A Isomorphic Labs deu um passo além, criando uma unidade dedicada destinada a implantar seu mecanismo de design de medicamentos rapidamente durante um novo surto, trabalhando ao lado de órgãos de pesquisa governamentais e nacionais, como Lawrence Livermore, o Instituto de Segurança de IA do Reino Unido, o CEPI e o Instituto Francis Crick. A empresa também prometeu 7 milhões de dólares ao Health for Human Potential, um programa da Philanthropy Asia Alliance, para investigação de doenças infecciosas em toda a Ásia.
As recomendações da DeepMind aos decisores políticos dos EUA mapeiam-se diretamente nos seus três pilares e baseiam-se em legislação específica pendente:
- Sobre prevençãoapoia uma estrutura de segurança de IA de fronteira federal, a Lei de Padrões de Biodados Prontos para IA (HR 7907), a triagem obrigatória de síntese de DNA por meio da Lei de Modernização e Inovação de Biossegurança (S. 3741) e a Lei de Biologia SCALE (HR 8981).
- Sobre detecçãopretende que a sequenciação metagenómica seja expandida através de centros de trânsito e centros populacionais densos, apoiada pela Lei da Biblioteca Viva da América (S. 4023) e financiamento adicional da DARPA e HHS para investigação de alerta precoce.
- Sobre respostaexige a Lei da Web de Dados Biológicos (HR 9307 / S. 4770) e o investimento na capacidade de produção mantida “baseada em calor” e pronta para ativação rápida, juntamente com redes de ensaios clínicos pré-estabelecidas e vias regulatórias mais rápidas.
Nenhuma dessas leis foi promulgada, e é na lacuna entre a lista de desejos políticos de uma empresa e um quadro federal de biossegurança em funcionamento que se desenrolará o verdadeiro teste deste programa durante os próximos 6 a 12 meses.
Veja também: Neko Health arrecada US$ 700 milhões para expandir exames corporais de IA nos EUA
Quer saber mais sobre IA e big data dos líderes do setor? Confira a AI & Big Data Expo que acontece em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e está localizado junto com outros eventos de tecnologia líderes, incluindo o Cyber Security & Cloud Expo. Clique aqui para mais informações.
AI News é desenvolvido pela TechForge Media. Explore outros eventos e webinars de tecnologia empresarial futuros aqui.
Fontesartificialintelligence
