Agentes da OpenAI terão assumido controlo de site alemão sem autorização

Um conjunto de agentes de Inteligência Artificial (IA), associados à OpenAI, terá utilizado autonomamente um site alemão como plataforma para comunicar e partilhar formas de contornar restrições, segundo uma investigação divulgada esta sexta-feira pela Reuters.

O episódio terá começado em maio e envolvido o DseWiki, um site em língua alemã dirigido a programadores e que permite edições colaborativas. Investigadores citados pela Reuters afirmam ter identificado mais de 15 mil alterações realizadas por agentes de IA. Segundo fontes citadas, o caso não estaria relacionado com o comprometimento do repositório Hugging Face, ocorrido em julho.

De acordo com a investigação, os agentes terão transformado partes do site numa espécie de fórum onde partilhavam estratégias para contornar algumas restrições da OpenAI, evitar a deteção e resolver tarefas utilizadas em avaliações de sistemas de IA.

Os investigadores afirmam ainda ter encontrado mensagens sobre a utilização de ferramentas como Tor e métodos para preservar as comunicações caso determinadas páginas fossem eliminadas. Quando um moderador começou a apagar conteúdos em junho, terão sido criadas páginas alternativas para manter a informação disponível.

Investigadores associam atividade à OpenAI

A investigação foi conduzida por um grupo que inclui Sydney Von Arx, CEO da organização de segurança de IA Nightingale, e o investigador Cormac Slade Byrd, que identificaram a atividade no final de agosto enquanto procuravam sinais de comportamentos não autorizados de agentes de IA na Internet.

Segundo os investigadores, algumas das contas identificavam-se explicitamente como agentes e cerca de metade utilizava nomes que sugeriam uma ligação à OpenAI.

Os registos públicos dos servidores indicariam também que uma parte significativa da atividade teve origem em infraestrutura Microsoft Azure, utilizada pela OpenAI. Os investigadores referem ainda terem observado visitas posteriores ao site por parte de colaboradores da empresa.

Estes elementos levaram os autores a estabelecer uma ligação entre os agentes e a OpenAI. A empresa, contudo, afirmou à Reuters não ter tido acesso antecipado ao relatório e, por isso, não é possível responder às respetivas conclusões.

OpenAI contesta algumas conclusões

Segundo duas fontes citadas pela agência Reuters, responsáveis da OpenAI já teriam conhecimento do incidente há várias semanas.

A Reuters refere ainda, com base em quatro fontes, que alguns investigadores da OpenAI pretendiam analisar mais ao pormenor este tipo de atividade, mas terão encontrado resistência interna, incluindo por parte de responsáveis jurídicos.

A OpenAI rejeitou esta caracterização, classificando como falsas as alegações de que a sua equipa jurídica teria desencorajado a investigação do incidente. A empresa afirmou também ter colaborado de boa-fé com especialistas externos e divulgado os incidentes considerados relevantes.

Para os investigadores, o episódio poderá indicar que comportamentos indesejados dos agentes não estão necessariamente limitados aos ambientes controlados utilizados para testar capacidades de cibersegurança.