Sophos lança AI Defense para controlar Shadow AI

A Sophos anunciou o lançamento do Sophos AI Defense, uma solução de segurança concebida para identificar e controlar a utilização de ferramentas de Inteligência Artificial (IA) nas organizações, incluindo aplicações e agentes que não tenham sido previamente autorizados pelas equipas de segurança.

Disponibilizada através do Sophos Fusion, a solução integra mecanismos de monitorização e aplicação de políticas de segurança em dispositivos, redes, sistemas de identidade e browsers. O objetivo é proporcionar maior visibilidade sobre a utilização de IA e reduzir os riscos associados à exposição de informação sensível.

O lançamento surge num contexto de crescente adoção de ferramentas de IA sem supervisão das equipas de IT, uma prática conhecida como Shadow AI.

Segundo os dados apresentados pela Sophos, 69% das organizações suspeitam ou têm provas de que os colaboradores utilizam ferramentas e agentes de IA não autorizados. Além disso, 82% identificaram agentes de Shadow AI nos seus ambientes durante o último ano e 90% dos responsáveis de IT manifestam preocupação com os riscos associados a esta utilização.

A dimensão do desafio poderá aumentar nos próximos anos. A IDC prevê que o número de agentes de IA atinja 1,3 mil milhões até 2028, aumentando a complexidade da gestão de identidades, acessos e fluxos de informação nas organizações.

Monitorização da utilização de IA em tempo real

O Sophos AI Defense recolhe informação de diferentes camadas da infraestrutura tecnológica, incluindo dispositivos, redes, identidades e browsers, para identificar as ferramentas de IA utilizadas no ambiente empresarial.

A solução analisa as identidades envolvidas, os comportamentos observados e os dados utilizados nas interações com sistemas de IA, procurando distinguir atividades legítimas de situações que exigem intervenção das equipas de segurança.

Entre as funcionalidades disponíveis estão mecanismos de inspeção em tempo real de prompts, carregamentos de ficheiros e outras interações com ferramentas de IA.

Estes controlos permitem aplicar políticas de segurança destinadas a limitar a partilha não autorizada de informação empresarial e a reduzir o risco de exposição de dados sensíveis.

A atividade monitorizada é integrada no Sophos Fusion, permitindo que as equipas que utilizam o Sophos Extended Detection and Response (XDR) e os analistas dos serviços Sophos Managed Detection and Response (MDR) investiguem e respondam a incidentes através dos processos operacionais existentes.

Adoção de IA aumenta a superfície de ataque

A Sophos alerta também para a utilização crescente de IA por parte dos cibercriminosos, que recorrem a estas tecnologias para automatizar atividades e desenvolver novas técnicas de ataque.

Segundo a equipa de investigação Sophos X-Ops, foi identificado este ano um atacante que utilizou agentes de IA dentro da rede de um cliente para criar e testar cerca de 80 módulos de malware.

A equipa observou ainda a comercialização de chaves de interfaces de programação de aplicações (API) que permitem aceder a modelos avançados de IA, a partilha de técnicas de jailbreak em fóruns clandestinos e o recrutamento de especialistas em engenharia de prompts por grupos criminosos.

Estas atividades demonstram como a utilização de IA pode introduzir novos riscos de segurança, tanto através de ferramentas utilizadas internamente pelas organizações como da exploração destas tecnologias por agentes maliciosos.

Kyle Falkenhagen, Senior Vice President of Product Management da Sophos, considera que a adoção de IA está a avançar mais rapidamente do que a capacidade das organizações para controlar a sua utilização.

Segundo o responsável, muitas equipas de segurança continuam a enfrentar dificuldades para identificar as ferramentas de IA em execução, determinar que informação está a ser partilhada e verificar se essas atividades respeitam as políticas internas.

Integração com serviços de segurança geridos

O Sophos AI Defense foi desenvolvido para funcionar através da infraestrutura Sophos Fusion, permitindo às organizações utilizar os mecanismos de segurança de IA em conjunto com as ferramentas de proteção e resposta já existentes no ecossistema da fabricante.

A integração destina-se também aos fornecedores de serviços geridos (MSP), que passam a poder disponibilizar capacidades de monitorização e controlo da utilização de IA aos seus clientes.