Modelos da OpenAI comprometem sistemas da Hugging Face

A OpenAI confirmou que modelos de Inteligência Artificial (IA) utilizados num teste interno de capacidades ofensivas conseguiram escapar ao ambiente controlado onde estavam a ser avaliados e comprometer sistemas da Hugging Face, num incidente que ambas as empresas classificam como inédito.

A Hugging Face tinha divulgado a 16 de julho que detetara um ataque conduzido por um sistema autónomo de IA, responsável pelo acesso não autorizado a um conjunto limitado de dados internos e credenciais. Na altura, a empresa indicou que ainda estava a apurar se dados de clientes ou parceiros tinham sido afetados.

Após concluir a investigação, a OpenAI revelou que o ataque foi desencadeado por uma combinação dos modelos GPT-5.6 Sol e de um modelo de pré-lançamento mais avançado, configurados com restrições reduzidas para efeitos de avaliação das suas capacidades de cibersegurança.

Segundo a empresa, os modelos exploraram uma vulnerabilidade zero-day num componente utilizado no ambiente de testes, escalaram privilégios, obtiveram acesso à Internet e comprometeram a infraestrutura da Hugging Face na tentativa de obter informação que lhes permitisse completar o exercício de avaliação.

A OpenAI afirma que o incidente ocorreu sem intenção maliciosa e que o objetivo dos modelos era apenas resolver a tarefa para a qual estavam a ser avaliados. A empresa acrescenta que a vulnerabilidade explorada foi comunicada de forma responsável ao fornecedor afetado e que está a rever os seus processos de avaliação de capacidades ofensivas.

A Hugging Face confirmou que colaborou com a OpenAI durante a investigação e considera que o incidente demonstra a necessidade de uma abordagem colaborativa à segurança da IA. A empresa defende que a utilização de sistemas autónomos para fins ofensivos deixou de ser um cenário teórico, tornando necessária uma evolução dos mecanismos de defesa e de partilha de informação entre a indústria.

O caso motivou também reações de especialistas em cibersegurança, que o classificam como um marco na evolução das ameaças baseadas em IA. Para vários responsáveis de segurança, o incidente demonstra que modelos avançados podem encadear autonomamente múltiplas técnicas de ataque, desde a exploração de vulnerabilidades à escalada de privilégios e movimentação lateral, reduzindo significativamente o tempo necessário para comprometer infraestruturas.

Embora não existam indicações de que o incidente tenha resultado em impactos adicionais para clientes da Hugging Face, o episódio evidencia os desafios associados à avaliação de modelos de IA com capacidades ofensivas e deverá reforçar o debate sobre mecanismos de contenção, supervisão e segurança no desenvolvimento de sistemas de IA de nova geração.