“Podemos deixar de ter um sentido crítico daquilo que estamos a receber”: IA Generativa: Ameaça ou Aliada? (com vídeo)

Das empresas de tecnologia ao setor energético, passando pelos media e pelo desporto, a Inteligência Artificial (IA) tornou-se um tema impossível de contornar. No entanto, as implicações são muitas e o debate foi lançado: “IA generativa: ameaça ou aliada?”. Na segunda mesa-redonda da quarta edição da IT Security Conference, Paulo Martins, Diretor de IT e Operações do Sport Lisboa e Benfica, Luís Amorim, Diretor de Desenvolvimento Digital da MediaLivre, Miguel Gonçalves, CISO da Vinci Energies Portugal e Rui Antunes, Account Executive Cyber Security da Cisco trouxeram as suas perspetivas sobre este fenómeno que, embora transversal, ameaça cada setor à sua maneira.

A fragilidade das defesas

“Por força de utilização de inteligência artificial por parte dos atacantes, [estes] tornaram-se mais eficazes”, aponta Rui Antunes, Account Executive Cyber Security da Cisco. A complexidade desta realidade está bem visível nos emails que parecem perfeitos e “já não percebemos que é inteligência artificial”. O exemplo serve de alerta para o desafio de controlar a utilização da IA pelos colaboradores, numa altura em que o bloqueio é impraticável e “se algum CISO disser para bloquear o acesso às ferramentas de inteligência artificial, tem um motim”, defende.

O responsável alerta que o risco de exposição de dados em plataformas externas “não pode ser aceitável e tem de haver uma forma de controlar isso”. No entanto, as aplicações baseadas em modelos generativos complicam ainda mais o cenário, uma vez que, “peço A, vem B, peço A outra vez, vem C, D. Se a própria organização não sabe bem como é que se comporta a sua própria aplicação, como é que vai perceber se o seu modelo de IA não está comprometido?”, questiona. A imprevisibilidade, admite, pode gerar “danos reputacionais e também financeiros”, agravados por um “desafio transversal” de regulamentação onde a NIS2 começa a marcar presença.

Desinformação e a perda do sentido crítico

Por vezes, a identidade é também um ativo de segurança, é o caso dos clubes de futebol. Paulo Martins, Diretor de IT e Operações do Sport Lisboa e Benfica, trouxe a perspetiva de um clube que gere desde um canal de televisão a dados médicos de atletas, cujo impacto da IA toca tanto a integridade da informação como a perceção pública. Vê na desinformação um “tópico importante” e revela que “até os próprios conteúdos que são feitos na área do digital, na área do broadcast, são hoje bastante manipulados e essa é uma preocupação que existe”. Para o Sport Lisboa e Benfica, a tecnologia é inevitável não sendo possível “travar a adoção”, mas o controlo tornou-se difuso, uma vez que, avisa, “o que vai acontecer é que podemos deixar de ter um sentido crítico daquilo que estamos a receber”.

Luís Amorim, Diretor de Desenvolvimento Digital da MediaLivre, descreve a desinformação como a principal ameaça à integridade jornalística e à confiança dos leitores e utilizadores. “Apareceu um vídeo da Cristina Ferreira a vender um produto financeiro – e era um vídeo falso”, exemplifica, apontando para este fenómeno que admite estar a tornar-se “cada vez mais frequente, com figuras públicas” e com falsos sites de media. No entanto, alerta que o perigo não é apenas reputacional, “o nosso modelo de negócio está em causa”. Para o responsável, o risco duplica quando a IA reproduz conteúdos sem compensar o trabalho jornalístico, uma vez que “estes sistemas exploram conteúdo que já existe, exploram no input, no treino dos modelos e no output”. Uma ameaça que, nas suas palavras, ultrapassa o plano económico porque “quando se põe em causa o jornalismo, põe-se a causa outros valores que estão dentro da democracia”.

Risco de envenenamento dos dados

No terreno da infraestrutura crítica, Miguel Gonçalves, CISO da Vinci Energies Portugal, afirma que “o tema da IA traz-nos efetivamente aqui algumas ameaças em algumas matérias”. No setor energético, o perímetro alargado e a presença massiva de dispositivos OT e IoT aumentam o risco de comprometer sistemas que sustentam o funcionamento do país e aponta para o risco de data poisoning. O envenenamento dos dados é, para o responsável, um risco que põe em causa “a disponibilidade, a eficácia, eficiência e a segurança, não só de segurança de informação, mas também a segurança física e social de uma população”.

A resposta, defende, passa por investir no “governance, na implementação de boas práticas, na definição de funções e responsabilidades, e depois numa ação muito preventiva, para, de facto, conseguirmos mitigar os riscos que a IA nos traz”. Além disso, propõe “capacitar as pessoas, prepararmos e efetuarmos exercícios tabletop para testar a nossa capacidade de resposta aos incidentes, e, de facto, monitorizarmos de uma forma inteligente, com ferramentas e com soluções que possam ser preditivas e que possam, de alguma forma, ajudar na tomada da decisão”.

Quando a IA começa a proteger a IA

O potencial da IA como aliada não pode deixar de ser abordado, com Rui Antunes a mostrar como as mesmas tecnologias que geram ameaças podem ser ferramentas de defesa. O Centro de Investigação de Cibersegurança da Cisco tem cerca de 900 analistas que, segundo o orador, “analisam 80% do tráfego mundial de internet e deparam-se com cerca de 550 milhares de milhões de eventos por dia”. A questão é “como é que 900 analistas conseguem ver alguma coisa entre todos esses eventos? Conseguem com a inteligência artificial”. Este modelo da Cisco, que traz “a inteligência artificial para defender a inteligência artificial”, tem sido replicado junto dos clientes, o que, por sua vez, permite escalar a deteção de incidentes.

No universo desportivo, a IA abre espaço para novas formas de proximidade entre o clube e os adeptos. Paulo Martins reconhece que o potencial da tecnologia vai muito além da operação e da segurança. O Diretor de IT e Operações do Benfica admite que o clube está a apostar numa vertente mais interativa, pensada para reforçar o convívio e a experiência de quem visita os espaços do Benfica, sendo uma “área claramente que estamos a apostar”. Na parte de fan engagement “temos vindo a trabalhar, a evoluir essa componente e acreditamos que há um espaço enorme para trabalhar”.

A aposta na personalização é vista como uma oportunidade para a MediaLivre e as ferramentas podem aproximar o leitor, mas o Diretor de Desenvolvimento Digital garante que “nunca vamos permitir que seja a IA decidir os conteúdos. Os conteúdos vão ser sempre feitos por pessoas”. “Podemos transformar esse artigo na forma como vocês desejam ler. Pode ler, pode ver um vídeo, pode ouvir o áudio no carro”, exemplifica. E, apesar de o ganho de produtividade ser evidente, o equilíbrio entre automação e talento humano continua delicado até porque “há pessoas que estão a resistir a implementar isto, não gostam de fazer prompts, preferem bater código. Essas pessoas são muito importantes para fazer outras coisas que o IA não faz”.

Já no setor energético, Miguel Gonçalves mostra como a IA está a gerar ganhos concretos com a transformação da refrigeração dos data centers “a ar para a refrigeração a líquido, na medida em que o processamento que é exigido e o consumo energético quando estamos a trabalhar modelos de ar é muito maior”. Também na segurança física, “sistemas CCTV com reconhecimento de padrões muito específicos” e a utilização de drones em centrais eólicas estão a redefinir operações para, por exemplo, fazer “o mapeamento das pás e detetam anomalias, por identificação de imagens e por utilização de mecanismos de IA, que aceleram e muito os processos de manutenção”.