Modelo da Anthropic deteta falhas em sistemas do governo dos EUA

Um modelo de Inteligência Artificial (IA) da Anthropic conseguiu identificar vulnerabilidades em sistemas altamente críticos do governo dos EUA durante um exercício de testes realizado em colaboração com agências de inteligência norte-americanas.

A informação foi avançada pela Associated Press, que cita uma fonte governamental próxima da iniciativa. Segundo a mesma fonte, o modelo Mythos identificou fragilidades em sistemas classificados poucas horas após o início dos testes, embora não tenha chegado a explorar ou comprometer essas vulnerabilidades no período em questão.

Os testes foram realizados no âmbito do projeto Glasswing, uma iniciativa da Anthropic que reúne empresas tecnológicas e entidades governamentais com o objetivo de avaliar os riscos que os modelos de IA mais avançados podem representar para a segurança nacional, a economia e a segurança pública.

O tema ganhou visibilidade pública após uma audição no Senado norte-americano, realizada a 11 de junho, onde o senador democrata Mark Warner afirmou que a ferramenta tinha conseguido “entrar em praticamente todos os sistemas classificados” em apenas algumas horas. O responsável atribuiu a informação ao general Joshua Rudd, diretor da National Security Agency (NSA) e do U.S. Cyber Command. No entanto, e apesar destas declarações, nem a NSA nem a Anthropic comentaram oficialmente os detalhes dos testes.

O episódio surge numa altura de crescente tensão entre a empresa de IA e a administração norte-americana, depois de a Anthropic ter manifestado preocupações relativamente à utilização dos seus modelos por entidades militares, enquanto o governo dos Estados Unidos reforçou os mecanismos de supervisão aplicados aos sistemas de IA mais avançados.

No início do mês, a administração liderada por Donald Trump determinou que a Anthropic deveria impedir o acesso de cidadãos estrangeiros aos seus modelos mais recentes, designados Fable 5 e Mythos 5. A decisão surgiu poucos dias após a assinatura de uma ordem executiva destinada a criar um quadro de avaliação dos riscos de segurança nacional associados aos sistemas de IA de última geração.

A Anthropic acabou por suspender temporariamente o acesso aos modelos para cumprir a diretiva governamental, embora tenha manifestado reservas quanto à necessidade da medida.

A decisão foi igualmente contestada por mais de uma centena de especialistas em cibersegurança e representantes da indústria tecnológica. Num documento enviado à administração norte-americana, vários executivos defenderam que os modelos da Anthropic são eficazes na identificação de vulnerabilidades, mas não possuem capacidades únicas ou exclusivas face a outras tecnologias disponíveis no mercado.

Os signatários alertam que restringir o acesso a ferramentas avançadas de cibersegurança pode enfraquecer as capacidades defensivas dos EUA, num momento em que outros países continuam a desenvolver tecnologias semelhantes.