Balwurk lança framework para avaliar riscos na adoção da IA generativa

A Balwurk desenvolveu uma framework que permite às organizações avaliar de forma sistemática os riscos associados à utilização de Inteligência Artificial (IA) generativa. A iniciativa surge em resposta à rápida disseminação destas tecnologias no mercado e à ausência de processos claros que ajudem as empresas a compreender e mitigar vulnerabilidades.

De acordo com a Balwurk, a metodologia diferencia-se por considerar não apenas a tecnologia em si, mas também o contexto organizacional. A framework atua em duas fases: primeiro caracteriza a solução de IA em análise; depois mede o risco da sua utilização através de uma matriz que cruza probabilidade de falha e impacto no negócio, classificando-o em diferentes níveis de criticidade.

“Mesmo as organizações que não querem, acabam forçadas a utilizar IA generativa para não ficarem para trás. O problema é que muitas vezes essa adoção acontece sem uma avaliação real dos riscos”, explica João Teixeira, Cybersecurity Engineer da Balwurk.

Entre os riscos identificados estão a fuga de informação sensível, o impacto na continuidade do negócio e danos reputacionais. Estes riscos, sublinha a empresa, são transversais a todos os setores e dependem sobretudo da maturidade tecnológica e da cultura de cibersegurança de cada organização.

A framework será disponibilizada de forma aberta e gratuita, numa aposta na transparência e na promoção de um ciberespaço mais seguro. No futuro, a Balwurk pretende evoluir a solução para uma ferramenta completa, que integre não só avaliação de risco, mas também verificação de conformidade com regulamentos como o AI Act, NIS2 e DORA, além de testes dinâmicos de segurança aplicados a modelos de IA generativa.

“Tomar decisões informadas é fundamental. Esta framework garante que um decisor não adota IA generativa de forma desinformada, mas sim consciente dos riscos e preparado para os mitigar”, conclui João Teixeira.