IA Generativa como Vetor de Ataque e Defesa: O que os CISOs Precisam de Saber Agora

No entanto, no meio de todo o ruído em torno da IA na cibersegurança, há uma questão que realmente importa para os CISOs: o que está efetivamente a mudar na prática?

A resposta não é que a inteligência artificial tenha reinventado subitamente o cibercrime. Os atacantes continuam a perseguir os mesmos objetivos de sempre — roubo de credenciais, implementação de ransomware, extorsão, fraude por email empresarial e exfiltração de dados. O que mudou foi a velocidade, a escala e a capacidade de adaptação com que estes objetivos podem agora ser executados.

Os cibercriminosos tornaram-se utilizadores precoces da IA generativa, não porque esta crie técnicas de ataque totalmente novas, mas porque reduz as barreiras de entrada e melhora a eficiência operacional. As campanhas de phishing, antes limitadas por competências linguísticas e pelo esforço manual, estão a tornar-se mais sofisticadas, personalizadas e escaláveis. Os modelos generativos conseguem produzir emails convincentes em vários idiomas, imitar estilos de comunicação corporativa e adaptar mensagens a setores ou executivos específicos em minutos, em vez de dias.

A engenharia social, há muito uma das formas de ataque mais eficazes, também está a evoluir. A utilização de deepfakes e de clonagem de voz gerada por IA aumentou a credibilidade das tentativas de fraude dirigidas a departamentos financeiros, executivos e fornecedores terceiros. Os atacantes já não precisam de conhecimentos altamente especializados para lançar campanhas convincentes — a IA democratiza capacidades.

O desenvolvimento de malware também está a mudar, embora talvez não da forma sensacionalista como muitas vezes é retratado. É improvável que a IA generativa consiga criar autonomamente malware altamente sofisticado sem supervisão humana. No entanto, pode acelerar modificações de código, automatizar tarefas de scripting, melhorar técnicas de ofuscação e ajudar agentes menos experientes a resolver problemas em código malicioso. Quando combinada com os atuais ecossistemas de malware-as-a-service, a IA ajuda os agentes de ameaça a operar mais rapidamente e a iterar com maior frequência.

Esta evolução apresenta uma realidade difícil para as equipas de segurança: os modelos de defesa tradicionais não conseguem escalar à mesma velocidade que os ataques cada vez mais automatizados.

A maioria dos centros de operações de segurança (SOCs) já está sobrecarregada com fadiga de alertas, ferramentas fragmentadas e escassez de talento especializado. As organizações geram mais telemetria do que os analistas humanos conseguem investigar de forma razoável, enquanto os adversários não enfrentam as mesmas limitações de recursos. Este desequilíbrio é precisamente o ponto em que a IA defensiva se torna relevante.

Contudo, os CISOs devem distinguir valor prático de promessas de marketing. Nem todos os produtos de cibersegurança rotulados como “alimentados por IA” geram resultados mensuráveis.

Atualmente, as aplicações mais valiosas da IA na cibersegurança são operacionais. A IA destaca-se no processamento de grandes volumes de telemetria, na correlação de sinais entre ambientes, na identificação de anomalias, no enriquecimento de investigações e na automatização de tarefas repetitivas de análise. Pode reduzir drasticamente o tempo de resposta, permitindo que os analistas se concentrem em ameaças de elevada confiança e em decisões críticas para o negócio, em vez de passarem horas a filtrar ruído.

Ainda assim, a IA não deve substituir o julgamento humano. A segurança continua a ser altamente contextual. Compreender o risco de negócio, interpretar sinais ambíguos, avaliar intenções e tomar decisões críticas de resposta continua a exigir analistas experientes. A cibersegurança eficaz não resulta de máquinas autónomas a operar sem controlo, mas sim de sistemas em que a experiência humana e a IA se reforçam mutuamente.

Na Sophos, observamos cada vez mais uma evolução das operações de segurança para um modelo “human-on-the-loop”. Dentro de limites definidos, a IA pode investigar, correlacionar e recomendar ou iniciar ações de resposta à velocidade da máquina, enquanto os especialistas humanos mantêm supervisão, intervêm em situações incertas e continuam responsáveis pelos resultados. O objetivo não é a automatização pela automatização — é alcançar resiliência à escala.

Para os CISOs, o desafio já não é decidir se a IA é relevante. O desafio é perceber onde a IA oferece vantagens defensivas mensuráveis e onde as expectativas devem permanecer realistas.

Há três perguntas que merecem atenção imediata: a sua organização consegue detetar, na prática, ataques potenciados por IA? Os controlos existentes são capazes de operar à velocidade da máquina? E as suas equipas compreendem como governar segurança suportada por IA, em vez de apenas implementar ferramentas?

A IA generativa não é um problema futuro da cibersegurança. Já está a transformar tanto a ofensiva como a defesa. As organizações que terão sucesso não serão necessariamente as que utilizarem mais IA, mas sim aquelas que a aplicarem de forma pragmática — combinando automatização, visibilidade, governação e experiência humana num modelo de segurança capaz de se adaptar tão rapidamente quanto as próprias ameaças.

Conteúdo co-produzido pela MediaNext e pela Sophos