CISA realiza primeiro exercício de resposta a ciberataques com IA

O exercício de quatro horas, dirigido pela Joint Cyber Defense Collaborative (JCDC), simulou um ciberataque que envolvia um sistema de Inteligência Artificial (IA), com os participantes a trabalhar juntos para identificar oportunidades de partilha de informação, protocolos de participação público-privado e áreas de colaboração operacional.

O exercício focou-se em identificar os incidentes que colocam em risco a confidencialidade, a integridade ou a estabilidade do sistema de IA, e até de outros sistemas ativados ou criados por esse sistema de inteligência artificial, ou mesmo a informação armazenada em qualquer um destes sistemas, onde o ataque pode ser significante para causar danos no comportamento do sistema e precisar de intervenção.

Segundo a Cibersecurity & Infrastructure Security Agency (CISA), o objetivo principal incluía encontrar oportunidades de partilha de informação em ciberataques que envolvam sistemas de inteligência artificial, acedendo aos processos de resposta dos participantes e as melhores práticas quando se lida com este tipo de incidentes, e identificar as áreas onde é necessário melhorar a resposta.

Para além disso, o exercício focou-se na análise das capacidades de partilha de informação, necessidades e prioridades de colaboração entre as agências governamentais, a indústria e intervenientes internacionais.

A agência de cibersegurança dos Estados Unidos afirma que irá incorporar as lições retiradas do exercício num AI Security Incident Collaboration Playbook de forma a consciencializar os governos, a indústria e os parceiros na colaboração operacional nestes casos.

A CISA planeia ainda realizar mais um exercício de laboratório para testar e validar o Playbook com as empresas de inteligência artificial e as organizações que trabalham com infraestrutura crítica neste setor que já integram soluções de IA nos seus ambientes operacionais.

“Este exercício marca mais um passo no nosso compromisso coletivo para reduzir os riscos associados à IA. Também destaca a importância de se desenvolver e oferecer produtos de inteligência artificial que tenham a segurança como principal prioridade. Como coordenador nacional de segurança e resiliência de infraestrutura crítica, estamos entusiasmados por poder trabalhar com os nossos parceiros de forma a construir nesse esforço para ajudar as empresas a garantir a segurança dos seus sistemas de IA”, afirma Jen Easterly, Diretora da CISA.