Cibersegurança: Como a inteligência artificial muda a forma de fazer segurança?

Cibersegurança, um tema para ficarmos atentos! Abri o chat e digitei: “IA, em uma escala de zero a dez, sendo zero absolutamente nenhum conhecimento, e dez todo o conhecimento da humanidade combinado, quanto você diria que é o seu conhecimento em segurança da informação?” – Perguntei, inocente.

“Eu sou treinado em uma grande quantidade de informações e conhecimento sobre segurança da informação, mas é importante lembrar que sou apenas uma máquina e, portanto, meu conhecimento é limitado em comparação com o conhecimento combinado da humanidade. Eu diria que, na escala proposta, é aproximadamente 8.”  – foi a resposta.

Deste dia em diante, eu sempre começo minhas conversas com as IA’s da forma mais educada possível. 

Mas, afinal, se as inteligências artificias possuem toda essa gama de conhecimento, como a forma de fazer segurança muda? Para responder essa pergunta, temos que entender até onde se estende a capacidade geracional das IA’s e como aplicá-las no nosso dia-a-dia.  

 A adaptação da academia  

Como grande parte das inovações teóricas, as IA’s não foram diferentes: também começaram a caminhar por meio da academia. Como mostra o artigo do professor Zhimin Zhang, em tradução livre, “Inteligência Artificial na Cibersegurança: Avanços das pesquisas, desafios e oportunidades”, as IA’s possuem um nicho específico e determinado – não são uma resposta universal para toda e qualquer pergunta.

Mais especificamente, as IA’s hoje são utilizadas para controle de autenticação de usuários, vigília de redes de computadores, monitoramento de comportamento suspeito e identificação de tráfego anormal. Esses grupos constituem nossos maiores sucesso para aplicação da IA. Claro, não significa que no futuro estaremos limitados à estas categorias, afinal, as pesquisas avançam a cada dia, mas hoje, esse é o estado da arte. 

Falando em evolução, o próprio professor Zhang deixa claro que “No campo da segurança da informação, as IA’s podem ter um papel importante, mas ao mesmo tempo, precisam ser ajustadas para tornar essa tecnologia mais adequada para os requerimentos deste campo. Como alcançar uma detecção rápida, melhorar a acurácia da detecção e minerar dados específicos são o foco das pesquisas atuais no campo.” 

Resultados promissores para a cibersegurança  

Mas o homem não vive apenas de promessas! Os resultados nos campos citados anteriormente são realmente revolucionários. Para contexto, um dos grandes problemas que temos hoje são os ataques de Negação de Serviço Distribuídos, ou, para os íntimos, DDoS (Distributed Denial of Service). O grande problema deste ataque é incapacidade de mitigar os seus danos sem afetar o usuário comum, algo enraizado pela própria natureza das requisições maliciosas. Vamos entender melhor: 

O ataque começa sem nenhuma relação com o alvo – centenas ou milhares de computadores são infectados para criar o que chamamos de uma botnet. Um servidor central controla esses computadores e coordena um ataque simples: requisições… comuns! São milhões de requisições chegando sem parar ao servidor alvo, mas todas parecem legítimas, como se usuários verdadeiros estivessem fazendo-as, mas sabemos que não é bem assim. 

Como mitigar um ataque como esse? Barrar IP’s de origem arbitrariamente pode significar bloquear usuários legítimos. Claro, temos alguns métodos para diferenciar entre requisições legítimas e maliciosas, mas não costuma ser o suficiente em casos em que o ataque é realmente grande e bem estruturado. É aí que as inteligências artificiais entram em cena.

A IA é uma aliada da cibersegurança

A cibersegurança ganha um novo aliado, porque as IA’s são ótimas em distinguir comportamentos em tempo recorde. Na verdade, o PhD em Ciências da Computação, Sherali Zeadally, fez o teste: ele criou uma rede controlada para executar um ataque de DDoS em seu servidor e, utilizando uma IA como gateway para decidir se deixaria ou não as requisições passarem. A árvore de decisões da inteligência artificial deveria decidir se a requisição era legítima ou fazia parte do ataque, e os resultados mostraram algo impressionante – ela acertou em 99% dos casos. 

Que reforço para o nosso time, não? Depois destes excelentes resultados em pesquisa, as IA’s receberam um ótimo incentivo para virem nos ajudar dentro das empresas! Com o intuito de acelerar identificação de usuários e comportamentos suspeitos e, até então, tem sido uma inovação que virou o jogo. Me pergunto o que veremos em poucos anos… 

E quando as IA’s são atacadas? 

Nem tudo são flores. As próprias inteligências artificiais possuem vulnerabilidades próprias de suas configurações. Não estou falando de suas interfaces de utilização, ou seja, do chat que você utiliza para conversar com elas, estou falando sobre o modelo que utilizamos para treiná-las. 

Quanta interferência é necessária para corromper uma inteligência artificial? Bom, talvez um único pixel seja o suficiente. Um experimento de 2019 (Su et al.) mostrou que modificar um único pixel é suficiente para que a rede neural classifique erroneamente a imagem. Em 2018, outro experimento (Kolosnjaji et al.) modificou alguns bytes de um software malicioso em uma amostra para a IA, o que levou a um erro de classificação. Já em 2017, Hu e Tan, utilizaram Redes Adversárias Generativas (GAN) para obterem amostras de malwares, que puderam burlar os sistemas de detecção.  

Os exemplos são muitos e não param por aí. A questão é, uma vez infectadas, as IA’s se tornam vulneráveis a ataques ou corrompimento de seu treinamento, tornando o estado da rede como um todo, inseguro. É uma ameaça para a cibersegurança.

Por isso, estejam atentos: não é porque uma IA respondeu que nós devemos confiar. Leiam com atenção, não copiem e colem cegamente, revisem tudo! Afinal, é melhor prevenir do que remediar. 

O elo fraco da corrente da cibersegurança 

 Pior do que os ataques contra os modelos das inteligências artificiais, são os ataques contra os elos mais fracos de toda a cadeia da cibersegurança. No caso, sou eu. Mas pode ser você também! Não leve para o lado pessoal, somos todos nós, humanos, as maiores falhas de segurança de um sistema, o usuário final da internet. 

A maioria de nós está sempre focado em resolver os próprios problemas, ao invés de focarmos nas crescentes superfícies de ataque na internet. E é claro, afinal, estamos fazendo o nosso trabalho! Mas isso pode deixar vulneráveis, especialmente em nossa desatenção, para ataques projetados para utilizar da nossa falta de conhecimento ou inocência. 

Humanos precisam ser treinados o tempo todo para os novos ataques que surgem por aí, e essa incapacidade de aprender quase instantaneamente é um dos grandes problemas contra as técnicas de phishing modernas e um dos motivos pelos quais malwares se espalham tão bem por meio destes ataques. 

Máquinas, por outro lado, são mais fáceis de serem programadas para mitigar algumas ameaças bem conhecidas. E até mesmo ameaças não conhecidas! O método do professor Zeadally mostrou que, ao deixar as inteligências artificiais aprendendo em sites de phishing, o método de detecção dela foi capaz de identificar um phishing zero-day (isso é, algo novo, ainda não utilizado ou registrado) com 98.86% de precisão. Um resultado astronômico na área, longe de tudo o que já vimos. 

 Como aplicamos IA no nosso dia a dia? 

 Vamos com calma. Implementar IA’s do zero é uma tarefa difícil e custosa, com várias oportunidades para erros caros e duradouros. Por isso, aqui na DTI Digital, optamos por utilizar ferramentas com inteligências artificiais já consolidadas no mercado, como gateways e firewalls de grandes clouds, visando aumentar nossa eficiência quando o assunto é detectar comportamentos maliciosos o quanto antes.  

Claro, não é a única área. Segurança da informação não é uma etapa, mas um conceito de qualidade crítico que deve permear todas as etapas de desenvolvimento de software e, para cada uma dessas etapas, desde o refino da história até o monitoramento do produto publicado, nós implementamos uma validação de segurança, muitas delas potencializadas com IA. 

Veja bem, imagine analisar diariamente os milhares de logs que recebemos de um produto para saber se existe algo errado acontecendo com ele? Fazer isso de vez em quando, tudo bem, mas o esforço braçal que exige para realizar todos os dias, é inviável. Por isso, contamos com as inteligências artificiais para maximizar nossa produtividade, pois além de ter um tempo de detecção baixíssimo, possui uma acurácia extraordinária, permitindo um sono mais tranquilo por parte daqueles encarregados de vigilar sob o produto.  

A inteligência artificial não muda o processo

O ponto focal é que a inteligência artificial não muda o processo, não muda o formato de nossas operações, mas muda a nossa eficiência. Somos mais rápidos, mais precisos, mais eficazes no campo da cibersegurança, graças às IA’s. 

Precisamos aprender a utilizá-las. Sabemos que não existe bala de prata, por isso consideramos as IA’s como excelentes ferramentas, mas não a resposta para tudo. Inteligências artificiais não mudam a forma de fazer segurança. São os mesmos processos, as mesmas técnicas, os mesmos ataques, mas em uma nova escala, mais potente que antes. 

E nós, seguimos aprendendo e nos transformando todos os dias com base nesses novos aprendizados. Adequando operações, instalando IA’s para monitorar nossas redes e produtos, validar nossos códigos… Esse é o caminho natural no nosso ambiente ágil, é um processo necessário, até porque, IA não é nosso diferencial, IA é a nossa evolução.

Escrito por Pedro Dantas, Head de Cibersegurança na dti digital

 Referências:

Zhang, Z., Ning, H., Shi, F., Farha, F., Xu, Y., Xu, J., Zhang, F. and Choo, K.K.R., 2022. Artificial intelligence in cyber security: research advances, challenges, and opportunities. Artificial Intelligence Review, pp.1-25. 

Zeadally, S., Adi, E., Baig, Z. and Khan, I.A., 2020. Harnessing artificial intelligence capabilities to improve cybersecurity. Ieee Access, 8, pp.23817-23837. 

Alhayani, B., Mohammed, H.J., Chaloob, I.Z. and Ahmed, J.S., 2021. Effectiveness of artificial intelligence techniques against cyber security risks apply of IT industry. Materials Today: Proceedings, 531.