No extremo inferior da escala de risco, um especulador individual manipula uma estação meteorológica para ganho pessoal – esse é o caso do Aeroporto CDG. Um passo em frente: um grupo de comerciantes poderia coordenar-se para distorcer as previsões da produção de energia renovável, alterando os preços grossistas da electricidade e deixando quem estiver do outro lado do comércio a arcar com as perdas. E no extremo oposto, um actor estatal ou sabotador poderia manipular uma ou mais estações para activar um sistema de alerta precoce ou até mesmo manter um sistema silencioso quando deveria soar. Passo a passo, o risco aumenta, desde a fraude até ao comprometimento da preparação para catástrofes e até uma questão de segurança nacional.
Enquanto existirem incentivos financeiros (ou outros) para manipular dados observacionais, os adversários procurarão novas oportunidades e é nossa tarefa estar um passo à frente. Aqui estão três maneiras.
1. Observe as estações. Os controles de qualidade dos dados devem incluir segurança da estação, detecção e correção de anomalias e supervisão humana. As estações meteorológicas devem ser monitoradas continuamente para impedir a adulteração. Os métodos de homogeneização de dados que limpam os registros meteorológicos também precisam ser mais rápidos, com o objetivo de detectar problemas em tempo real. Isto se tornará cada vez mais importante à medida que os sistemas de IA de agência usam esses dados para tomar decisões em tempo real. Finalmente, a supervisão humana é necessária para sinalizar dados questionáveis e modelar resultados. Afinal, foram os humanos que perceberam a manipulação do Aeroporto CDG.
2. Proteja os dados para salvaguardar a IA. Os mecanismos de defesa de dados devem ser posicionados em todo o pipeline de IA. As ferramentas de explicabilidade e robustez adversária da IA podem ajudar-nos a compreender os dados subjacentes e os resultados do modelo de IA, ajudar-nos a identificar problemas relacionados com dados ou modelos e, potencialmente, tornar-nos mais resilientes a ataques adversários.
3. Garantir a responsabilização contínua ao longo da cadeia. Os dados observacionais passam por muitas mãos: os operadores que gerem as estações, os serviços meteorológicos nacionais que gerem os registos e os centros de previsão que os transformam em previsões. Nenhum deles pode proteger sozinho a integridade dos dados – cada um protege seu próprio link e qualquer anomalia precisa ser comunicada ao longo de toda a cadeia, desde os operadores da estação até as pessoas que atuam na previsão.
Foi uma sorte que a situação no aeroporto CDG tenha sido detectada, mas deverá servir de alerta. À medida que o papel dos dados observacionais cresce na previsão meteorológica, precisamos de nos adaptar à evolução das ameaças. Isto significa proteger os nossos dados e modelos, reforçando as estruturas existentes de supervisão e responsabilização e melhorando a coordenação entre os principais parceiros.
Este artigo foi escrito por:
- Monique Kuglitsch — Gerente de Inovação do Instituto Fraunhofer Heinrich Hertz e Presidente da Iniciativa Global da ONU sobre Resiliência a Riscos Naturais por meio de Soluções de IA
- Jesper Dramsch — Cientista de Aprendizado de Máquina no Centro Europeu de Previsões Meteorológicas de Médio Prazo (ECMWF), onde trabalha no AIFS (Sistema de Previsão de Inteligência Artificial), o modelo de previsão meteorológica baseado em dados do ECMWF
- Franz G. Kuglitsch — Cientista Climático e Secretário Executivo da União Internacional de Geodésia e Geofísica (IUGG) no Centro GFZ Helmholtz de Geociências em Potsdam
- Andrea Toreti — Cientista Sénior do Centro Comum de Investigação (JRC) da Comissão Europeia, onde coordena o Observatório Europeu e Global da Seca no âmbito do Serviço de Gestão de Emergências Copernicus
<
