Falta de visibilidade sobre agentes de IA desafia segurança das organizações

A rápida adoção de agentes de Inteligência Artificial (IA) está a criar novos desafios de cibersegurança nas organizações. Segundo o relatório Splunk State of Observability 2026: Restoring Predictability in the AI Era, divulgado pela Cisco, 83% dos profissionais inquiridos manifestam preocupação com as consequências imprevistas destes sistemas, enquanto persistem dificuldades na monitorização do seu comportamento e na identificação de potenciais riscos.

O estudo, realizado pela Oxford Economics junto de 2.050 profissionais de operações de IT e engenharia de dez países, revela que 87% consideram a monitorização da IA uma prioridade. No entanto, 54% ainda não associam essa monitorização a resultados de negócio concretos.

À medida que os agentes de IA passam a ter acesso a diferentes componentes das infraestruturas tecnológicas e a executar tarefas de forma autónoma, a falta de visibilidade sobre as suas decisões pode dificultar a identificação de comportamentos inesperados ou potencialmente comprometedores.

Falta de visibilidade dificulta controlo dos agentes

Segundo o relatório, 56% dos inquiridos admitem não conseguir medir indicadores essenciais das workloads de IA, como a qualidade das respostas dos Large Language Models (LLM). Embora 85% considerem importante ter visibilidade sobre as alucinações dos modelos, apenas 58% afirmam conseguir monitorizar este fenómeno de forma eficaz.

Esta dificuldade coloca desafios adicionais às equipas de segurança, sobretudo quando os agentes têm permissões para aceder a informação sensível ou interagir com sistemas empresariais.

Colaboração entre segurança e observabilidade aumenta

A crescente utilização de agentes de IA está a aproximar as equipas de operações tecnológicas e de cibersegurança.

De acordo com o estudo, 81% dos participantes afirmam que a monitorização das workloads de IA contribuiu para aumentar a colaboração entre estas áreas.

A percentagem de profissionais de observabilidade que trabalham diretamente com equipas de segurança na resolução de problemas passou de 62%, em 2025, para 77%, em 2026. A partilha de dados entre equipas também aumentou, de 74% para 84%.

Em paralelo, 73% dos inquiridos afirmam conseguir identificar causas de segurança associadas a problemas de desempenho, face aos 65% registados no ano anterior.

Os resultados sugerem uma maior convergência entre as funções de observabilidade e segurança, num contexto em que a análise conjunta de dados operacionais e de segurança se torna relevante para compreender o comportamento dos sistemas de IA.

Custos e complexidade dificultam monitorização

A expansão dos agentes de IA está também a aumentar a complexidade das infraestruturas e os custos associados à sua monitorização.

Segundo o relatório, mais de metade dos inquiridos (55%) afirma não conseguir controlar os custos da IA, enquanto 60% consideram que os aumentos inesperados das despesas provocam maior pressão operacional do que custos elevados, mas previsíveis.

Além disso, 57% indicam que os custos de telemetria ultrapassam os da própria infraestrutura monitorizada.

A Cisco identifica a utilização de plataformas unificadas de observabilidade como uma abordagem para melhorar a visibilidade sobre os sistemas e os respetivos custos. Atualmente, 67% dos participantes afirmam utilizar uma plataforma única de observabilidade.

Organizações mais avançadas reforçam integração

O estudo identifica um grupo de organizações com práticas de observabilidade mais desenvolvidas, caracterizadas pela monitorização da qualidade dos modelos, dos custos, da utilização dos sistemas, da segurança e da privacidade.

Entre estas organizações, 94% afirmam que a monitorização da IA aumentou a colaboração com as equipas de segurança, comparativamente a 80% das restantes.

Além disso, 86% conseguem relacionar problemas de desempenho com causas de segurança, face a 71% nas organizações com práticas menos avançadas.

O relatório foi elaborado com base em inquéritos realizados entre fevereiro e março de 2026, abrangendo profissionais de 16 setores de atividade. Portugal não integrou a amostra.