Qualys atualiza plataforma de proteção dos ciclos de vida das aplicações de IA

A Qualys anunciou uma importante atualização da sua plataforma TotalAI, concebida para proteger todo o ciclo de vida das aplicações de inteligência artificial (IA), desde o desenvolvimento até à implementação. Com esta nova versão, as empresas passam a poder testar grandes modelos de linguagem (LLM) de forma contínua, mesmo durante as fases iniciais de desenvolvimento.

A crescente adoção de IA tem trazido benefícios operacionais, mas também preocupações de segurança. Um estudo recente aponta que 72% dos CISO (Chief Information Security Officers) receiam que as soluções de IA generativa conduzam a violações de segurança nas suas organizações.

“A segurança já não pode ser uma reflexão tardia. O TotalAI garante que apenas modelos fiáveis e verificados são utilizados a nível empresarial”, afirma Tyler Shields, analista sénior do Enterprise Strategy Group. A plataforma pretende conciliar inovação e gestão de risco, oferecendo uma abordagem integrada à segurança de sistemas de IA.

Entre as principais novidades do TotalAI, destaca-se a prioritização automática de riscos de segurança, com base no framework MITRE ATLAS, permitindo contextualizar vulnerabilidades com táticas reais de ataque; um scanner interno de LLM, que possibilita a realização de testes de segurança desde as fases iniciais de desenvolvimento até à implementação, sendo facilmente integrável em fluxos CI/CD; e a capacidade de detetar mais de 40 tipos de ataques, incluindo jailbreaking, injeção de código e manipulação de prompt, com simulações que envolvem formatos de entrada diversos, como imagens, áudio e vídeo.

Estas melhorias permitem que os modelos de IA se tornem mais resilientes a explorações maliciosas e a ameaças emergentes, num contexto onde a inovação tecnológica exige garantias de segurança cada vez mais robustas.

“A IA está a transformar os negócios, mas traz riscos complexos. O TotalAI oferece a visibilidade, inteligência e automação necessárias para proteger workloads de IA em todas as fases”, afirma Sumedh Thakar, presidente e CEO da Qualys.