CISA descreve esforços de cibersegurança assentes em IA

A agência de cibersegurança norte-americana, a CISA, publicou um documento com os detalhes dos seus esforços na promoção da utilização da Inteligência Artificial (IA) com o objetivo de melhorar a segurança e apoiar as organizações de infraestrutura crítica na adoção desta tecnologia.

O Roadmap to AI da CISA está alinhado com a estratégia nacional de IA dos Estados Unidos e promove a utilização benéfica destas ferramentas no aperfeiçoamento das capacidades de cibersegurança. O documento descreve os esforços da agência na proteção dos sistemas de IA contra ameaças, procurando visar que esta tecnologia seja utilizada pelos cibercriminosos para ameaçar as infraestruturas críticas.

Apesar de os sistemas de software de IA sejam diferentes do software tradicional, a CISA acredita que as práticas básicas de segurança também devem ser aplicadas aos mesmos. O roteiro baseia-me em programas existentes de cibersegurança e gestão de riscos.

“Os desafios de segurança associados à IA são paralelos aos desafios de cibersegurança associados às gerações anteriores de software que os fabricantes não desenvolveram para serem seguros desde a conceção, colocando o fardo da segurança sobre o cliente”, observa a agência.

Neste sentido, a CISA aconselha os fabricantes de sistemas de IA a seguirem os princípios de segurança desde a conceção, devendo ser um requisito fundamental e integrante do desenvolvimento destes sistemas.

“Nós imaginamos um futuro em que os sistemas de IA avancem na defesa cibernética do nosso país, onde a nossa infraestrutura crítica seja resiliente e protegida contra o uso malicioso da IA, e onde os developers de IA priorizem a segurança dos seus produtos como um requisito central do negócio”, afirma a agência.

A CISA considera que a IA poderá ajudar na defesa contra ameaças cibernéticas tradicionais e melhorar a resiliência dos sistemas de infraestruturas críticas e, por isso, planeia integrar a tecnologia em todos os seus sistemas.

O roteiro da CISA especifica cinco linhas de esforço para acelerar os seus objetivos de IA: a utilização responsável da IA; a adoção de software baseado em IA secure-by-design; a proteçao da infraestrutura crítica do uso malicioso deia; a colaboração com outras agências e parceiros nacionais e internacionais nos principais esforços de IA; a formação da sua força de trabalho em sistemas e técnicas de software de IA.

A CISA acrescenta ainda: “este roteiro fornece objetivos para cada linha de esforço que detalham como a CISA alcançará essas metas e medirá o nosso sucesso. Também incluímos resultados representativos e uma abordagem de medição nocional para cada linha de esforço. Estamos a desenvolver medidas de eficácia mais específicas, que serão definidas nos nossos planos operacionais anuais”.