A GenAI trouxe uma nova ameaça à cibersegurança: o excesso de confiança

O que está em causa já não é apenas uma evolução tecnológica, mas uma alteração estrutural na forma como os ataques são produzidos, escalados e operacionalizados.

A capacidade de automatizar reconhecimento, gerar “campanhas” contextualizadas e adaptar comportamento malicioso quase em tempo real alterou profundamente o ciclo ofensivo. O que mudou não foi apenas a escala dos ataques, mas o seu ritmo, e em cibersegurança, ritmo é uma vantagem determinante. Hoje, parecer legítimo deixou de ser uma característica difícil de replicar para passar a ser algo que pode ser automatizado, refinado e operacionalizado à escala.

Alguns estudos recentes apontam precisamente para isso. A GenAI está a acelerar a assimetria entre capacidade ofensiva e capacidade defensiva, obrigando as organizações a responder a ameaças que operam à velocidade de máquina.

Mas há uma segunda ameaça a ter em contar: a crescente normalização do “AI theater” na cibersegurança. Em muitos casos, aquilo que hoje é apresentado como uma inovação assenta mais em (re)posicionamento de marketing do que em capacidade técnica real. Praticamente todas as plataformas passaram a incluir “AI-powered” na sua proposta de valor. Algumas transformaram genuinamente as suas soluções e a forma como detetam e respondem a ameaças, enquanto outras limitaram-se a renomear capacidades existentes com nova terminologia, a apresentar interfaces mais modernas ou a “embeber” funcionalidades de IA no produto. A diferença entre as duas raramente é evidente nas demonstrações comerciais, e é precisamente aí que reside um dos maiores riscos para os CISOs.

Há contextos onde a GenAI entrega valor real e ignorá-los seria um erro. A correlação de grandes volumes de eventos em tempo real, a identificação de padrões anómalos e a aceleração da resposta a incidentes estão efetivamente a melhorar a capacidade operacional das equipas SOC. O mesmo acontece com plataformas de threat intelligence potenciadas por IA, capazes de transformar dados não estruturados em informação acionável à escala. Em muitos casos, a IA está já a funcionar como force multiplier para equipas sobrecarregadas, reduzindo tempos de análise e aumentando capacidade de resposta.

O problema é que este valor legítimo tem sido frequentemente utilizado para justificar soluções cuja eficácia operacional nem sempre acompanha o discurso comercial. Reduzir falsos positivos continua a ser um dos claims mais recorrentes do setor, mas também um dos mais difíceis de validar em produção. Algumas ferramentas melhoram efetivamente precisão e contexto; outras limitam-se a redistribuir ruído ao longo do pipeline de deteção, automatizando volume sem aumentar qualidade analítica. A diferença está na robustez dos modelos, na qualidade dos datasets de treino e, sobretudo, na maturidade do contexto operacional onde essas soluções são implementadas.

Por isso, antes de qualquer decisão de investimento, há perguntas que deviam ser inegociáveis: como é que o tráfego gerado por GenAI aparece nos logs e a ferramenta consegue realmente distingui-lo? Qual é o custo operacional real de manter esta solução à escala da organização? Como foram treinados os modelos? O que acontece quando falham? E, antes de tudo isso, o problema é realmente uma falta de tecnologia ou uma falta de maturidade operacional?

Esta última questão é a mais desconfortável e, talvez por isso, a mais ignorada. Muitas organizações que estão hoje a avaliar soluções de IA para cibersegurança continuam a enfrentar dificuldades básicas em visibilidade, segmentação de acessos e gestão de vulnerabilidades. Introduzir GenAI sobre essas fragilidades não as resolve, em muitos casos, apenas aumenta complexidade operacional, dependência tecnológica e superfície de risco.

A GenAI vai inevitavelmente redefinir a forma como as organizações detetam, respondem e antecipam ameaças. Mas também vai expor, com a mesma velocidade, todas as fragilidades operacionais que durante anos foram ignoradas ou mascaradas com novas camadas de tecnologia. E é precisamente aqui que muitas organizações correm o maior risco: não em ficar para trás na adoção de IA, mas em avançar demasiado depressa sem perceberem verdadeiramente o que estão a comprar, o que estão a automatizar e o que continuam sem conseguir controlar.

Conteúdo co-produzido pela MediaNext e pela Noesis