“O patch é incompleto e o estado da arte está mudando. Mas isso não é uma coisa única. É o começo de ainda mais testes”, diz Adam Clore, diretor de P&D de tecnologia da Integrated DNA Technologies, um grande fabricante de DNA, que é coautora no relatório da Microsoft. “Estamos em uma corrida armamentista.”
Para garantir que ninguém use a pesquisa, dizem os pesquisadores, eles não estão divulgando parte de seu código e não revelaram quais proteínas tóxicas pediram à IA para redesenhar. No entanto, algumas proteínas perigosas são bem conhecidas, como a ricina-um veneno encontrado nos feijões de mamona-e os príons infecciosos que são a causa da doença da vaca louca.
“Esse achado, combinado com os rápidos avanços na modelagem biológica habilitada para AA, demonstra a necessidade clara e urgente de procedimentos aprimorados de triagem de síntese de ácidos nucleicos, juntamente com um mecanismo de aplicação e verificação confiável”, diz Dean Ball, bolsista da inovação americana, um tanque de think tank em São Francisco.
Ball observa que o governo dos EUA já considera a triagem do DNA ordena uma linha -chave de segurança. Em maio passado, em uma ordem executiva sobre segurança de pesquisa biológica, o presidente Trump pediu uma reformulação geral desse sistema, embora até agora a Casa Branca não tenha divulgado novas recomendações.
Outros duvidam que a síntese de DNA comercial seja o melhor ponto de defesa contra maus atores. Michael Cohen, pesquisador de segurança da IA da Universidade da Califórnia, Berkeley, acredita que sempre haverá maneiras de disfarçar sequências e que a Microsoft poderia ter dificultado o teste.
“O desafio parece fraco e suas ferramentas remendadas falham muito”, diz Cohen. “Parece haver uma falta de vontade de admitir que, em breve, teremos que nos retirar desse suposto ponto de estrangulamento, para que devamos começar a procurar por terreno que possamos realmente segurar”.
Cohen diz que a biossegurança provavelmente deve ser incorporada aos próprios sistemas de IA – diretamente ou por controles sobre as informações que eles fornecem.
Mas Clore diz que o monitoramento da síntese de genes ainda é uma abordagem prática para detectar biothreats, uma vez que a fabricação de DNA nos EUA é dominada por algumas empresas que trabalham em estreita colaboração com o governo. Por outro lado, a tecnologia usada para construir e treinar modelos de IA é mais difundida. “Você não pode colocar esse gênio de volta na garrafa”, diz Clore. “Se você tem os recursos para tentar nos enganar a fazer uma sequência de DNA, provavelmente poderá treinar um grande modelo de idioma”.
