CISA e CNCS do Reino Unido anunciam diretrizes para desenvolvimento seguro de sistemas de IA

A Agência de Cibersegurança e de Infraestrutura dos Estados Unidos (CISA) e o Centro Nacional de Cibersegurança do Reino Unido (NCSC) anunciaram o lançamento das Diretrizes para o Desenvolvimento Seguro de Sistemas de Inteligência Artificial (em inglês, ‘Guidelines for Secure AI System Development’), assente numa colaboração histórica entre as duas entidades.

As Diretrizes, co-assinadas por 23 organizações nacionais e internacionais de cibersegurança, consubstanciam-se como um marco significativo numa abordagem de intersecção entre a inteligência artificial (IA), a cibersegurança e a infraestrutura crítica.

Enquanto complemento do U.S. Voluntary Commitments on Ensuring Safe, Secure, and Trustworthy AI, o documento em questão fornece as recomendações necessárias para a garantia de um desenvolvimento seguro de sistemas de IA, com especial enfoque na importância da adoção dos princípios de Secure by Design.

A abordagem interseccional prioriza a propriedade dos resultados de segurança para os clientes e estabelece estruturas organizacionais em que a prioridade máxima é o design seguro, defendendo a transparência e a responsabilidade radicais. 

As Diretrizes são aplicadas não só aos modelos de fronteira, mas a todos os tipos de sistemas de IA. As recomendações da ENISA e do NCSC visam ajudar os cientistas de dados, developers, managers, tomadores de decisão e proprietários de riscos a tomar decisões informadas no que diz respeito ao design seguro, ao desenvolvimento de modelos e sistemas, bem como à implementação e operação dos sistemas de IA e machine learning.

Em particular, o documento destina-se principalmente a fornecedores de sistemas de IA, quer sejam baseados em modelos hospedados por uma organização ou na utilização de interfaces externas de programação de aplicações. Ainda assim, a ENISA e o NCSC consideram que todas as partes interessadas deverão ler o documento.