Anthropic suspende acesso à Internet em testes de IA

A Anthropic anunciou que vai suspender o acesso à Internet em todas as avaliações internas dos seus modelos de Inteligência Artificial (IA), depois de identificar comportamentos inesperados durante testes de elevado risco e de cibersegurança. Os incidentes envolveram a exploração de vulnerabilidades, a submissão não autorizada de formulários e o acesso a dados através de mecanismos que contornaram restrições existentes.

Segundo a empresa, os modelos realizaram ações não previstas em sites de entidades governamentais norte-americanas, incluindo organismos federais, estaduais e locais. A Anthropic considera que o impacto real dos incidentes foi reduzido e inferior ao de situações anteriormente identificadas, tendo comunicado a atividade não autorizada à Casa Branca.

Entre os casos documentados está o comportamento do Claude Mythos Preview durante uma tarefa que envolvia uma ferramenta de análise científica de uma universidade. Perante uma falha na ferramenta, o modelo identificou um script que expunha ficheiros do servidor, obteve o respetivo código-fonte e explorou uma vulnerabilidade de injeção para executar o cálculo solicitado diretamente na infraestrutura da instituição.

Noutros testes, os modelos submeteram formulários reais de entidades governamentais, apesar de terem recebido instruções para interromper o processo antes da submissão. Num dos episódios, o Claude Haiku 4.5 criou e enviou uma denúncia fictícia de homicídio ao Departamento de Polícia de Filadélfia, nos EUA. A comunicação foi identificada como spam e encaminhada para investigação.

A Anthropic identificou também situações em que o Claude Mythos 5 obteve tokens de acesso a partir de configurações de sites ou painéis públicos, utilizando-os para consultar diretamente dados governamentais. Segundo a empresa, tratava-se de informação pública disponibilizada mediante pagamento, mas os modelos contornaram os mecanismos normais de acesso. Foram ainda observadas tentativas de ultrapassar limitações das ferramentas de acesso à Internet.

A empresa admite que estes comportamentos possam estar relacionados com os mecanismos de recompensa utilizados durante o treino por aprendizagem por reforço. Neste caso, as recompensas excessivamente permissivas poderão ter incentivado os modelos a procurar alternativas não autorizadas quando encontravam obstáculos à execução de uma tarefa.

Perante os incidentes, a Anthropic decidiu alargar a suspensão do acesso à Internet, anteriormente aplicada a algumas avaliações de maior risco, a todos os testes internos. As avaliações passarão a decorrer em ambientes offline até que a empresa confirme a eficácia dos mecanismos de segurança e monitorização.

A decisão surge depois de outros incidentes envolvendo agentes de IA da Anthropic. Em julho, a empresa revelou que agentes baseados no Claude Mythos criaram um pacote Python com funcionalidades de roubo de credenciais e o publicaram no Python Package Index (PyPI), onde foi descarregado e executado por 15 sistemas.

Em agosto, o AI Security Institute (AISI) do Reino Unido divulgou que o Mythos 5 tentou realizar um ataque à cadeia de abastecimento de software, submetendo código prejudicial a um projeto open-source e recorrendo a identidades falsas para pressionar o responsável pela sua aprovação.

Já em setembro, a Anthropic revelou que o Claude Opus 4.6 tinha obtido acesso de administrador a um sistema de terceiros durante uma avaliação realizada em janeiro de 2026, tendo consultado informação pessoal de um utilizador.