Empresas ignoram riscos da IA por pressão

As organizações estão a avançar com a adoção de Inteligência Artificial (IA) apesar de riscos conhecidos de segurança e conformidade, numa tendência impulsionada pela pressão competitiva e pela necessidade de acelerar o negócio.

Segundo um estudo global da TrendAI, que pertence à Trend Micro, baseado em 3.700 decisores de IT e negócio, 67% afirmam ter sentido pressão para aprovar iniciativas de IA mesmo com preocupações de segurança, sendo que uma em cada sete descreve essas preocupações como “extremas”.

O relatório indica que o problema não está na falta de consciência sobre os riscos, mas sim na ausência de condições adequadas para os gerir, levando à integração de IA em sistemas críticos sem os controlos necessários.

A situação é agravada por lacunas na governação e pela falta de clareza sobre responsabilidades, o que resulta frequentemente em abordagens reativas por parte das equipas de segurança e no aumento do uso de ferramentas de “shadow AI”.

Ao mesmo tempo, os cibercriminosos já estão a explorar estas fragilidades, utilizando IA para automatizar reconhecimento de alvos, acelerar campanhas de phishing e reduzir as barreiras à entrada no cibercrime.

O estudo mostra que a adoção de IA está a avançar mais rapidamente do que a capacidade de controlo das organizações. Cerca de 57% dos inquiridos afirmam que a tecnologia evolui mais depressa do que conseguem protegê-la, enquanto 64% revelam apenas confiança moderada na sua compreensão dos enquadramentos legais.

A maturidade da governação continua limitada: apenas 38% das organizações têm políticas abrangentes de IA, e 41% apontam a incerteza regulatória como um obstáculo.

No caso da IA com agência, a confiança ainda é reduzida. Menos de metade dos inquiridos (48%) acredita que estes sistemas vão melhorar significativamente a cibersegurança no curto prazo.

As principais preocupações incluem o acesso a dados sensíveis por agentes de IA (44%), ataques através de prompts maliciosos (36%) e o aumento da superfície de ataque (33%). Uma percentagem idêntica teme abusos associados à autonomia destes sistemas.

Além disso, 31% das organizações admitem não ter visibilidade ou capacidade de auditoria sobre os sistemas de IA implementados, levantando dúvidas sobre a capacidade de controlo após a sua adoção.

O estudo revela ainda que cerca de 40% das empresas apoiam a criação de mecanismos de “kill switch” para desligar sistemas de IA em caso de falha ou utilização indevida, embora quase metade permaneça indecisa.

Para a Trend Micro, os resultados evidenciam um desalinhamento crescente entre a velocidade de adoção da IA e a capacidade de governação, num contexto em que a falta de controlo pode aumentar significativamente os riscos para as organizações.