Isto porque, até às últimas décadas, as pessoas não geravam enormes nuvens de dados que abrissem novas possibilidades de vigilância. A Quarta Emenda, que protege contra buscas e apreensões injustificadas, foi escrita quando a coleta de informações significava entrar nas casas das pessoas.
Leis subsequentes, como a Lei de Vigilância de Inteligência Estrangeira de 1978 ou a Lei de Privacidade das Comunicações Eletrônicas de 1986, foram aprovadas quando a vigilância envolvia escutas telefônicas e interceptação de e-mails. A maior parte das leis que regem a vigilância já estava em vigor antes da Internet decolar. Não estávamos gerando grandes rastros de dados on-line e o governo não tinha ferramentas sofisticadas para analisar os dados.
Agora sim, e a IA sobrecarrega o tipo de vigilância que pode ser realizada. “O que a IA pode fazer é recolher muitas informações, nenhuma das quais é por si só sensível e, portanto, nenhuma delas é regulamentada por si só, e pode dar ao governo muitos poderes que o governo não tinha antes”, diz Rozenshtein.
A IA pode agregar informações individuais para detectar padrões, fazer inferências e construir perfis detalhados de pessoas – em grande escala. E desde que o governo recolha a informação legalmente, pode fazer o que quiser com essa informação, incluindo alimentá-la em sistemas de IA. “A lei não acompanhou a realidade tecnológica”, diz Rozenshtein.
Embora a vigilância possa levantar sérias preocupações com a privacidade, o Pentágono pode ter interesses legítimos de segurança nacional na recolha e análise de dados sobre americanos. “Para recolher informações sobre os americanos, tem de ser para um subconjunto muito específico de missões”, diz Loren Voss, antigo oficial de inteligência militar do Pentágono.
Por exemplo, uma missão de contra-espionagem pode exigir informações sobre um americano que esteja a trabalhar para um país estrangeiro ou que planeie envolver-se em actividades terroristas internacionais. Mas a inteligência direcionada pode, por vezes, levar à recolha de mais dados. “Esse tipo de coleção deixa as pessoas nervosas”, diz Voss.
Uso legal
A OpenAI afirma que seu contrato agora inclui uma linguagem que diz que o sistema de IA da empresa “não deve ser usado intencionalmente para vigilância doméstica de pessoas e cidadãos dos EUA”, de acordo com as leis relevantes. A alteração esclarece que isto proíbe “rastreamento, vigilância ou monitoramento deliberado de pessoas ou nacionais dos EUA, inclusive por meio da aquisição ou uso de informações pessoais ou identificáveis adquiridas comercialmente”.
Mas a linguagem acrescentada pode não fazer muito para anular a cláusula de que o Pentágono pode utilizar o sistema de IA da empresa para todos os fins legais, o que pode incluir a recolha e análise de informações pessoais sensíveis. “A OpenAI pode dizer o que quiser em seu acordo… mas o Pentágono usará a tecnologia para o que considerar lícito”, diz Jessica Tillipman, professora de direito na Faculdade de Direito da Universidade George Washington. Isso poderia incluir vigilância doméstica. “Na maioria das vezes, as empresas não conseguirão impedir o Pentágono de fazer nada”, diz ela.
