Opinion

Os dois lados da inteligência artificial à luz da cibersegurança

Muito se tem escrito sobre a Inteligência Artificial (IA) e o impacto que esta já tem e ainda virá a ter (num futuro não muito longínquo) no nosso quotidiano e das organizações. É uma clara tendência tecnológica, com inúmeros benefícios na cartola, porém se analisada à luz do tema da cibersegurança vemos distintamente dois lados: o bom e o mau

Por Cláudio Barbeiro, Cybersecurity Engineer Lead da Integrity part of Devoteam . 12/04/2023

Os dois lados da inteligência artificial à luz da cibersegurança

A IA sempre teve um papel importante no que diz respeito à cibersegurança. Na verdade, as ferramentas tecnológicas baseadas em IA já há algum tempo que podem ajudar, de forma mais célere e assertiva, na deteção e identificação de ameaças e padrões anómalos ou incomuns, bem como numa previsão mais eficiente de ataques, onde algoritmos de IA conseguem aprender e reconhecer padrões tipicamente associados a malware; no apoio a uma melhor gestão de vulnerabilidades ao ajudar na identificação e priorização das mesmas tendo em conta o seu risco; etc., minimizando, desta forma, riscos e custos. Precisão, destreza, prontidão, inteligência… de uma forma geral a IA garante tudo isto, seja de um ponto de vista preventivo/proativo, seja nas avaliações de risco, seja nas próprias recomendações de mitigação.

Do ponto de vista das organizações e dependendo do seu negócio, sem dúvida que esta tecnologia pode ser uma grande ferramenta, ainda assim nem tudo é simples e direto. O desenvolvimento e até mesmo eventual uso desta tecnologia e softwares, por norma, requer um conhecimento especializado que pode eventualmente trazer um aumento significativo não só de recursos financeiros mas também humanos. Não nos podemos esquecer que estes sistemas podem fornecer conclusões erradas e falsos positivos se não forem alimentados com grandes quantidades de dados e eventos, o que só por si também requer uma grande alocação de recursos. Para além disto, há que ter presente que, mesmo os programas e o software de IA, podem também eles ser vulneráveis à manipulação de dados e eventuais ciberataques, e como tal, estes devem ser sempre endereçados como qualquer outro serviço ou aplicação da organização, quer operacionalmente, quer de um ponto de vista de cibersegurança.

Tendo em conta o crescimento acentuado desta tecnologia, sinto que o fator segurança na IA é ainda bastante negligenciado. Na minha opinião existem duas grandes perspetivas. Primeiro temos de ter sempre em consideração a informação contida nestes sistemas, pois até esta pode inclusive já ter sido alvo de ataque e na realidade pouco se houve falar em data poisoning ou até mesmo social engineering. Em segundo, mas não menos importante, é também importante compreendermos que esta mesma tecnologia pode também ser usada pelos cibercriminosos para os mais diversos ataques e ainda mais sofisticados. 

Centremo-nos num dos temas do momento: o ChatGPT. De forma objetiva, trata-se de um chatbot de IA desenvolvido pela empresa Open AI, que interage de forma conversacional, sendo capaz de responder a questões, redigir textos, detetar os próprios erros, contestar premissas incorretas e rejeitar solicitações inadequadas Prometendo vir a revolucionar a internet, pela sua capacidade na eficácia de uma comunicação verdadeiramente fluente e natural, tem também um lado digamos que menos positivo e que é preocupante, ao poder servir por exemplo para a criação de emails de phishing, assim como de novos tipos de malware e ataques ainda mais complexos. 

São já conhecidos casos de atacantes que, através de ferramentas de IA, geraram novas metodologias e abordagens, criando enormes quantidades de malware para aumentar a efetividade e impacto dos seus ataques. 

Ora, perante estas informações… em que ficamos? 

De facto, como vimos são inegáveis as vantagens da IA no âmbito da cibersegurança – apresentando-se como uma ferramenta poderosa na identificação, gestão e monitorização de riscos, ameaças e ataques no ciberespaço, os quais tendem a ser cada vez mais sofisticados. Por isso mesmo, tanto a tecnologia como as respetivas ferramentas de IA que usamos devem também evoluir, tendo sempre em conta a segurança dos seus sistemas e respetivos dados, bem como a segurança para os seus utilizadores. 


RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT SECURITY Nº18 Junho 2024

IT SECURITY Nº18 Junho 2024

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.