Compliance

Adoção rápida da GenAI é o principal problema dos líderes jurídicos

De acordo com a Gartner, os líderes jurídicos, de compliance e de privacidade consideram que o seu principal problema nos próximos dois anos é a adoção rápida da IA generativa

14/12/2023

Adoção rápida da GenAI é o principal problema dos líderes jurídicos

De acordo com uma investigação da Gartner, 70% de 179 líderes jurídicos, de compliance e de privacidade inquiridos consideram que a rápida adoção da Inteligência Artificial (IA) generativa (GenAI) é uma das suas principais preocupações nos próximos dois anos.

“O aumento na capacidade e na usabilidade levou à adoção rápida e generalizada do GenAI pelas empresas”, afirma Stuart Strome, director, research da Gartner Legal, Risk & Compliance Practice. “Enquanto a regulamentação da IA ainda está a ser desenvolvida, abundam as incertezas e os riscos imprevistos. As empresas terão de enfrentar estes desafios para garantir o uso ético e legal desta nova e poderosa tecnologia”.

Neste contexto, os especialistas do Gartner partilham quatro áreas em que os líderes jurídicos, de compliance e de privacidade se deverão focar.


Visibilidade limitada dos principais riscos

A Gartner considera que as equipas de assurance terão uma visibilidade limitada sobre os novos riscos relacionados com esta evolução tecnológica, especialmente perante a fácil adoção, a ampla aplicabilidade e a capacidade das ferramentas de GenAI de realizar diferentes tarefas de negócios.

“Os novos processos para detetar e gerir esses riscos levarão tempo para serem implementados, deixando as empresas expostas nesse ínterim”, alerta Strome. “Os líderes jurídicos devem adaptar práticas de monitorização e gestão dos riscos preexistentes, bem estabelecidas e amplamente distribuídas até que os novos processos possam ser implementados. Por exemplo, podem modificar os inventários de dados e os registos de atividades de processamento de avaliações de impacto na privacidade para rastrear o uso de GenAI”.


Falta de clareza dos funcionários sobre o uso aceitável

Para a Gartner, os funcionários vão ter uma falta de clareza sobre aquilo que constitui a utilização aceitável da IA, não estando familiarizados com as regras que a regem.

Neste sentido, a consultora recomenda que os líderes jurídicos concentrem os seus esforços na criação de um consenso sobre os resultados que devem ser evitados, bem como na instituição de controlos para mitigar a probabilidade destes resultados de risco. Além disto, é necessário defenderem casos de utilização aceitáveis nas políticas e orientações, acrescenta.

“Os líderes jurídicos precisam de instituir uma revisão humana obrigatória da produção da GenAI, proibir a inserção de IP corporativo ou informações pessoais em ferramentas públicas como o ChatGPT e desenvolver políticas que exijam uma indicação clara da proveniência da GenAI em qualquer produção voltada ao público”, explica Strome. “É importante incluir exemplos reais de uso proibido e aceitável de GenAI nas orientações políticas e alertar os funcionários quando as políticas são atualizadas. Além disso, considere trabalhar com a TI para desenvolver controlos incorporados, como pop-ups em ferramentas GenAI que exigem que os utilizadores atestem que não estão a utilizar as ferramentas para casos proibidos”.


Necessidade de governança de IA

Com a popularização das ferramentas de GenAI, a fraca responsabilização pelos resultados negativos pode criar riscos jurídicos e de privacidade inaceitáveis, de acordo com a Gartner. Todavia, a maioria das empresas consideram que não é possível executar uma adaptação perfeita da governação da IA às suas estruturas organizacionais existentes, além do facto de poder estar dispersa ou em falta a experiência necessária para o fazer.

Neste sentido, a consultora sugere que os líderes jurídicos documentem de forma clara as funções e responsabilidades em matéria de aprovações, gestão de políticas, gestão de riscos e formação para GenAI.

“Os líderes jurídicos devem defender a criação de um comité diretor multifuncional ou a modificação do mandato de um comité existente, para estabelecer princípios e padrões de utilização e para alinhar as funções e responsabilidades relacionadas com a governação da IA”, refere Strome.


Novas oportunidades para dimensionar tarefas jurídicas repetitivas

A tecnologia de GenAI tem a capacidade de produzir resultados em linguagem natural, podendo ser uma ferramenta útil para as equipas jurídicas que permita reduzir o tempo gasto com trabalhos de baixo valor, defende a Gartner.

A GenAI tem o potencial de ajudar em tarefas demoradas e repetitivas, como a realização de investigações jurídicas, a elaboração de contratos e a produção de resumos de legislação. No entanto, a consultora alerta que, muitas vezes, os resultados destas ferramentas incluem erros e, por esta razão, os líderes jurídicos devem garantir que os resultados são revistos relativamente à precisão.

Além disto, a Gartner recomenda o desenvolvimento de um programa piloto interno para testar a utilização da GenAI para estas tarefas monótonas de baixo risco que envolvem a produção de resultados escritos. Os líderes jurídicos deverão também comparar os resultados do projeto piloto em termos de tempo gasto e qualidade dos resultados com os resultados correspondentes aos processos tradicionais da empresa.

“Dada a facilidade de uso e flexibilidade de aplicação da GenAI para empresas, não é surpresa que a rápida adoção do GenAI seja o risco mais referido pelos líderes jurídicos este ano, no entanto, os líderes jurídicos não devem simplesmente reagir ao instituir políticas draconianas que restrinjam o seu uso”, acredita Strome “Essa abordagem provavelmente terá impacto na competitividade dos negócios e incentivará os funcionários a usarem ilicitamente ferramentas GenAI nos seus dispositivos pessoais. Os líderes jurídicos progressistas aceitam que a GenAI pode gerar valor e estão a trabalhar com outros na sua organização para desenvolver governação e políticas que estimulem os funcionários e parceiros de negócios em direção a casos de utilização de alto benefício e baixo risco”.


NOTÍCIAS RELACIONADAS

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT SECURITY Nº16 Fevereiro 2024

IT SECURITY Nº16 Fevereiro 2024

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.