ISEP – DEI – Outros
URI permanente para esta coleção:
Navegar
Entradas recentes
- Melhoria da segurança e robustez dos modelos de aprendizagem automáticaPublication . Machado Vitorino, João PedroAs organizações podem beneficiar do uso da Inteligência Artificial, e mais especificamente da Aprendizagem Automática (ML), para enfrentar os ciberataques direcionados aos seus processos de negócio. No entanto, apesar dos benefícios de utilizar ML em soluções de cibersegurança inteligentes, estes também têm vulnerabilidades que não devem ser negligenciadas. A falta de robustez é um dos principais desafios que prejudicam a confiabilidade de ML, pois os modelos são suscetíveis a exemplos adversos: dados com pequenas perturbações que causam comportamentos inesperados. Este trabalho apresenta uma metodologia para uma análise e comparação da robustez de modelos ML para o domínio da Deteção de Intrusões de Rede, e uma ferramenta inteligente para a geração de exemplos adversos realistas: Método de Perturbação com Padrões Adaptativos (A2PM). É demonstrado que um ataque adverso bem-sucedido não é garantidamente um ciberataque bemsucedido, e que as perturbações adversas só são realistas se cumprirem as restrições de uma rede de computadores e de cada classe de ciberataque. A2PM pode ser usado para ataques adversos, ao causar erros de classificação de forma iterativa, e para treino adverso, ao melhorar a variedade de um conjunto de dados. Foram efetuadas duas aplicações práticas em redes de computadores empresariais e em redes de dispositivos IoT, considerando diferentes tipos de modelos ML e de ciberataques. Foi verificado que o treino adverso com perturbações simples permitiu aos modelos reter uma boa generalização a fluxos de tráfego de rede normais, para além de serem mais robustos contra fluxos perturbados. A conclusão mais importante deste trabalho é: os modelos ML podem ser incrivelmente valiosos para melhorar um sistema de cibersegurança, mas as suas próprias vulnerabilidades não devem ser negligenciadas. É essencial continuar os esforços de investigação para melhorar a segurança e a robustez de ML e dos sistemas inteligentes que utilizam ML.