CISA usa IA da Anthropic para detetar falhas

A Agência de Cibersegurança e Segurança das Infraestruturas dos Estados Unidos (CISA) estará a recorrer ao modelo de Inteligência Artificial (IA) Mythos, desenvolvido pela Anthropic, para analisar software utilizado por organismos federais e identificar vulnerabilidades de segurança antes de poderem ser exploradas por cibercriminosos ou serviços de informação estrangeiros.

Segundo a Reuters, que cita três fontes familiarizadas com a iniciativa, a CISA está a utilizar o modelo para analisar repositórios de código pertencentes a várias agências federais, procurando detetar falhas de segurança de forma proativa.

As auditorias estão a ser conduzidas pela equipa Attack Surface Evaluation da CISA, especializada na avaliação da superfície de ataque e na realização de testes de intrusão e exercícios de simulação de ataques aos sistemas do governo norte-americano.

De acordo com as fontes, a utilização da IA já permitiu identificar um elevado número de vulnerabilidades. No entanto, não foram divulgados detalhes sobre a gravidade das falhas, os organismos afetados ou a quantidade de software analisado. Nem a CISA nem a Anthropic comentaram oficialmente a informação.

A utilização do Mythos pelas agências norte-americanas surge após um período de tensão entre a Anthropic e o governo dos Estados Unidos. No início deste ano, a empresa recusou remover mecanismos de proteção dos seus modelos relacionados com a utilização para armamento autónomo ou vigilância doméstica. Em resposta, o Pentágono classificou a Anthropic como um risco para a cadeia de fornecimento, uma designação habitualmente aplicada a empresas suspeitas de atividades de espionagem. Existem igualmente indicações de que a Agência de Segurança Nacional (NSA) utiliza o modelo Mythos nas suas operações.

No final de junho, um responsável norte-americano revelou à Associated Press que um dos modelos de IA da Anthropic conseguiu identificar vulnerabilidades em sistemas informáticos altamente sensíveis do governo dos Estados Unidos durante um exercício de avaliação.

A versão pública do modelo, denominada Fable, também esteve recentemente no centro de um diferendo com a administração norte-americana, que exigiu restrições ao acesso por cidadãos estrangeiros devido a preocupações de segurança nacional. A medida levou à suspensão temporária do serviço, que foi retomado na semana passada.