A carregar...
Publicação
Melhoria da segurança e robustez dos modelos de aprendizagem automática
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 1.64 MB | Adobe PDF |
Autores
Orientador(es)
Resumo(s)
As organizações podem beneficiar do uso da Inteligência Artificial, e mais especificamente da
Aprendizagem Automática (ML), para enfrentar os ciberataques direcionados aos seus processos de
negócio. No entanto, apesar dos benefícios de utilizar ML em soluções de cibersegurança inteligentes,
estes também têm vulnerabilidades que não devem ser negligenciadas. A falta de robustez é um dos
principais desafios que prejudicam a confiabilidade de ML, pois os modelos são suscetíveis a
exemplos adversos: dados com pequenas perturbações que causam comportamentos inesperados.
Este trabalho apresenta uma metodologia para uma análise e comparação da robustez de modelos
ML para o domínio da Deteção de Intrusões de Rede, e uma ferramenta inteligente para a geração
de exemplos adversos realistas: Método de Perturbação com Padrões Adaptativos (A2PM). É
demonstrado que um ataque adverso bem-sucedido não é garantidamente um ciberataque bemsucedido,
e que as perturbações adversas só são realistas se cumprirem as restrições de uma rede de
computadores e de cada classe de ciberataque.
A2PM pode ser usado para ataques adversos, ao causar erros de classificação de forma iterativa, e
para treino adverso, ao melhorar a variedade de um conjunto de dados. Foram efetuadas duas
aplicações práticas em redes de computadores empresariais e em redes de dispositivos IoT,
considerando diferentes tipos de modelos ML e de ciberataques. Foi verificado que o treino adverso
com perturbações simples permitiu aos modelos reter uma boa generalização a fluxos de tráfego de
rede normais, para além de serem mais robustos contra fluxos perturbados.
A conclusão mais importante deste trabalho é: os modelos ML podem ser incrivelmente valiosos para
melhorar um sistema de cibersegurança, mas as suas próprias vulnerabilidades não devem ser
negligenciadas. É essencial continuar os esforços de investigação para melhorar a segurança e a
robustez de ML e dos sistemas inteligentes que utilizam ML.
Descrição
Palavras-chave
Aprendizagem automática Confiabilidade Inteligência Artificial Desafios Robustez Cibersegurança
Contexto Educativo
Citação
Vitorino, J. (2023, Dez. 30). Melhoria da segurança e robustez dos modelos de aprendizagem automática. Ordem dos Engenheiros