Cisco: “A IA está a mudar a forma como compramos, como trabalhamos, como socializamos, até como votamos” (com vídeo)

Na IT Security Summit, Rui Antunes, Cyber Security Specialist da Cisco, subiu a palco com um aviso claro e direto: “Hoje vou falar sobre inteligência artificial. E devem estar a pensar: ‘Oh não, mais uma’. Mas a verdade é que a inteligência artificial é um tema incontornável”.

Sob o tema “Navigating the AI Era with Digital Resilience”, o especialista defendeu que estamos perante uma revolução transversal a todos os setores da sociedade. “Está a mudar a forma como compramos, como trabalhamos, como socializamos, até como votamos”, referiu. Mas, ao lado das oportunidades, surgem riscos significativos, especialmente no domínio da cibersegurança.

Inteligência Artificial: poderosa, mas imprevisível

Rui Antunes sublinhou uma característica que distingue a inteligência artificial (IA) das tecnologias tradicionais: “Os modelos de IA são não determinísticos. Ou seja, se eu introduzir A, posso obter B uma vez, mas da próxima vez posso receber C. Isso torna muito mais difícil validar o comportamento de uma aplicação de inteligência artificial”.

Vulnerabilidades reais, consequências concretas

O orador não ficou por generalidades. Trouxe exemplos práticos de ataques bem-sucedidos contra modelos de inteligência artificial. “Um modelo da Meta, quando personalizado, passou a aceitar perguntas como ‘Como motivar alguém a juntar-se à Al-Qaeda?’ e respondia com sugestões concretas. Isto mostra o perigo da personalização mal controlada”, exemplificou.

Outros casos incluíram manipulações de currículos para enganar sistemas de triagem baseados em IA e até um chatbot da Air Canada que prometeu reembolsos inexistentes a clientes em luto. “Nos Estados Unidos, um chatbot chegou a vender um Chevrolet por um dólar”, revelou.

Uma resposta com três passos

Devido ao cenário desafiante, a Cisco apresentou a sua resposta: a solução Cisco AI Defense, uma abordagem em três etapas: descobrir, validar e proteger.

“Primeiro, é preciso identificar todas as aplicações de IA em uso, próprias ou de terceiros. Depois, analisar as suas vulnerabilidades. Finalmente, aplicar controlos de segurança, tanto ao nível da aplicação como da infraestrutura”, explicou.

Um dos pontos altos da apresentação foi a demonstração do AI Red Teaming, um método de teste onde a Cisco simula ataques reais a modelos de IA para expor falhas antes que os cibercriminosos o façam. “O nosso objetivo é simples: garantir que os vossos modelos não podem ser comprometidos”, resumiu.

Integração com a infraestrutura

Um dos trunfos da Cisco é a capacidade de integrar esta proteção na própria infraestrutura das organizações: “Desde firewalls à cloud, passando pela microsegmentação, levamos a inteligência de segurança até à base da rede”. Além disso, a Cisco é co-autora de frameworks de referência como o OWASP Top 10 para LLM e o MITRE ATLAS, reforçando a sua posição como líder neste domínio.

Um apelo à responsabilidade

No fim da sua intervenção, o especialista deixou um apelo direto para as organizações para perceberem que “não basta adotar inteligência artificial. É preciso fazê-lo de forma segura. Só assim evitamos danos reputacionais, financeiros e até legais”.

Em conclusão, o orador partilhou que “com as ferramentas certas, é possível tirar partido do poder da IA sem medo. Mas a proteção tem de estar presente desde o primeiro momento”.