Falha no AI Python Package pode levar a compromisso do sistema

Foi recentemente descoberta uma vulnerabilidade crítica num pacote Python utilizado por developers de aplicações de Inteligência Artificial (IA) que pode permitir a execução de código arbitrário e colocar dados e sistemas em risco. A vulnerabilidade já foi corrigida.

A falha (CVE-2024-34359) – descoberta pelo investigador Patrick Peng – foi intitulada de Llama Drama e diz respeito a uma ferramenta de Python Jinja2 que é principalmente utilizado para gerar HTML e o pacote llama_cpp_python que pode ser utilizado para integrar modelos de IA em Python.

A empresa de cibersegurança Checkmarx explicou que “o problema principal aparece ao processar os dados de template sem as medidas de segurança apropriadas, como sandboxing, que o Jinja2 suporta, mas não foi implementada nesta instância”.

A vulnerabilidade pode ser explorada para executar código arbitrário em sistemas que utilizam o pacote Python em questão. A Checmkarx descobriu que mais de seis mil modelos de IA na comunidade Hugging Face AI que utilizam llama_cpp_python e Jinja2 são impactados. A vulnerabilidade foi corrigida com o lançamento do llama_cpp_python 0.2.72.