Quando ataques de ransomware como Akira e Ryuk começaram a previsões de todo o mundo, o primeiro instinto da indústria de segurança cibernética foi previsível: construir paredes maiores, implantar respostas automatizadas mais agressivas e bloquear tudo. Mas havia um problema diferente emergindo, de acordo com Romanus Prabhu Raymond, diretor de tecnologia da ManagerEngine.
Os clientes da empresa estavam exigindo recursos agressivos de contenção, mas, automaticamente, a quarentena automaticamente um computador suspeito de computador ou caixa bancário pode ser mais devastador do que a ameaça original. O dilema-equilibrando a resposta rápida das ameaças com consequências do mundo real-exemplifica por que as práticas éticas de segurança cibernética se tornaram um dos desafios definidores de 2025.
Em nossa entrevista exclusiva pouco antes de sua apresentação na Cyber Security Expo de Amsterdã, Raymond revelou como as principais organizações estão se libertando do trade-off tradicional de segurança versus privacy e por que as empresas que abraçam essa “revolução da confiança” podem remodelar a segurança corporativa.
Para iniciantes, a indústria de segurança cibernética está em um momento importante. Violações de alto perfil, estruturas regulatórias em evolução e a rápida integração da IA nos sistemas de segurança criaram novos desafios que se estendem muito além da proteção técnica. As organizações agora enfrentam questões importantes sobre como equilibrar a inovação com responsabilidade, privacidade com segurança e automação com a supervisão humana.
Definindo segurança ética na era moderna
Segundo Raymond, a segurança ética transcende as noções tradicionais de defesa. “A segurança cibernética ética vai além de sistemas e dados defender – trata -se de aplicar práticas de segurança com responsabilidade a proteger organizações, indivíduos e sociedade em geral”, explicou ele durante a nossa entrevista antes de sua apresentação realizada na Cyber Security Expo, intitulada “O Imperativo Ético: Balanceamento de Riscos, Inovação e Responsabilidade”.
No ambiente em nuvem de 2025, a segurança não é um diferenciador competitivo, mas uma expectativa de linha de base. O que distingue as organizações hoje é o quão eticamente elas lidam com dados e implementam medidas de segurança.
Raymond usa a analogia de instalar câmeras de segurança em um bairro para proteger os espaços públicos sem se intrometer em áreas privadas; A evitação de espiar as janelas dos residentes. A segurança cibernética deve operar sob o mesmo princípio.
A ManagerEngine operacionalizou essa filosofia através do que Raymond chama de abordagem de “ético por design”, incorporando justiça, transparência e responsabilidade em todos os produtos da concepção. A posição da empresa sobre os dados do cliente exemplifica esse compromisso: ela não monetiza nem monitora os dados do cliente, mantendo que pertence apenas ao cliente.
O paradoxo de risco de inovação
A tensão entre inovação e gerenciamento de riscos representa um desafio importante para as organizações modernas. Empurre demais para a inovação sem salvaguardas adequadas, e as empresas arremessam violações de dados e violações de conformidade. Concentre -se muito na mitigação de riscos, e as organizações podem se encontrar incapazes de competir nos mercados em evolução.
A filosofia de “confiança por design” incorpora a responsabilidade e a responsabilidade em todos os estágios de desenvolvimento, o que permite inovação rápida e mantém a conformidade e os padrões éticos. Ao implantar componentes importantes, como agentes do terminal, a empresa garante que novas funcionalidades cumpram inerentemente os padrões do setor e os requisitos de segurança.
O método se estende às operações globais da empresa. O ManageEngine mantém os datacentros em todo o mundo, que se alinham com a privacidade local e as demandas regulatórias e treina todos os funcionários – de desenvolvedores para apoiar engenheiros – para tratar os dados dos clientes com integridade. A “estratégia de localização trans-localização” da empresa garante que as equipes locais atendam clientes locais, criando eficiência operacional e confiança cultural.
Integração da IA e supervisão humana
À medida que a inteligência artificial se torna cada vez mais central para as operações de segurança cibernética, as implicações éticas das soluções de segurança orientadas por IA se tornaram mais complexas. Raymond reconhece que a IA está evoluindo de papéis puramente assistidos para funções mais decisivas, levantando questões sobre responsabilidade, transparência e justiça.
Raymond expostos gerencia “She AI Principles”: AI seguro, IA humana e IA ética. A IA segura envolve a construção de proteções robustas contra a manipulação e os ataques adversários. A IA humana garante que a supervisão humana permaneça parte integrante de importantes ações de segurança – por exemplo, se a IA detectar um ponto de extremidade suspeito, ela aumenta a validação humana, em vez de remover automaticamente o dispositivo da rede.
Isso é particularmente importante em ambientes sensíveis, como hospitais ou bancos, onde o bloqueio automaticamente os sistemas pode ter consequências graves.
O componente ético da IA enfatiza a explicação. Em vez de gerar alertas de “caixa preta”, os sistemas da GerencieNgine explicam seu raciocínio. Um alerta pode ler: “O terminal não pode fazer login neste momento e está tentando se conectar a muitos dispositivos de rede”. A transparência é essencial para a conformidade e a construção de confiança em sistemas de segurança orientados a IA.
Navegando com trade-offs de segurança de privacidade
O equilíbrio entre o monitoramento de segurança necessário e a invasão de privacidade representa um dos aspectos mais delicados das práticas éticas de segurança cibernética. Raymond reconhece que, embora o monitoramento proativo seja essencial para a detecção de ameaças precocemente, o monitoramento excessivo dos riscos criando um ambiente de vigilância que trata os funcionários como suspeitos e não parceiros confiáveis.
O ManageEngine usa princípios que enfatizam a minimização de dados, o monitoramento, a anonimização e as estruturas de governança claramente orientadas por propósitos. A empresa coleta apenas informações necessárias para fins de segurança, garante que todos os dados tenham um caso de uso de segurança definido, use dados anonimizados para análise de padrões e define privilégios de acesso a dados e períodos de retenção.
A estrutura demonstra que a segurança e a privacidade não precisam ser mutuamente exclusivas quando guiadas por ética, transparência e responsabilidade.
Liderança da indústria e desafios futuros
Raymond argumenta que os fornecedores de tecnologia devem atuar como custodiantes da ética digital, ganhando confiança, em vez de esperar que ela seja dada cegamente. A ManageEngine diz que contribui para os padrões da indústria por liderança de pensamento, advocacia e incorporando padrões de conformidade como ISO 27000 e GDPR em produtos desde o início.
Raymond identifica a segurança autônoma e a computação quântica orientadas pela IA como os maiores desafios éticos que a indústria enfrenta. À medida que os centros de operações de segurança avançam em direção à autonomia total, as questões de explicação e responsabilidade se tornam críticas. A capacidade da computação quântica de quebrar a criptografia tradicional ameaça as fundações seguras de comunicação, enquanto tecnologias como a biometria levantam preocupações de privacidade se não forem gerenciadas com cuidado.
Implementação prática
Para as organizações que buscam integrar considerações éticas em suas estratégias de segurança cibernética, Raymond recomenda três etapas concretas: adotando uma Carta de Ética em segurança cibernética no nível do conselho, incorporando a privacidade e a ética nas decisões tecnológicas ao selecionar fornecedores e operacionalizando a ética por meio de treinamento abrangente e controla que explicam não apenas o que fazer, mas por que isso importa.
À medida que o cenário de segurança cibernética evolui, as empresas que prosperarão são aquelas que reconhecem as práticas éticas de segurança cibernética como a base para o avanço tecnológico sustentável e confiável, não como restrições à inovação. Nos futuros organizações precisam inovar com responsabilidade e manter a supervisão humana e os princípios éticos que a confiança digital exige.
Veja também: Certas unidades de conformidade ética de IA na Europa
Deseja aprender mais sobre IA e Big Data dos líderes do setor? Confira a AI & Big Data Expo em Amsterdã, Califórnia e Londres. O evento abrangente faz parte do TechEx e é co-localizado com outros eventos de tecnologia líder, clique aqui para obter mais informações.
A IA News é alimentada pela Techforge Media. Explore outros próximos eventos e webinars de tecnologia corporativa aqui.
Fontesartificialintelligence
