Autoridades alertam para uso indevido de IA em imagens

Autoridades de proteção de dados de 61 países divulgaram uma declaração conjunta a alertar organizações que desenvolvem e utilizam sistemas de Inteligência Artificial (IA) generativa para a necessidade de implementar salvaguardas robustas contra abusos que envolvem a representação de pessoas reais.

O aviso surge após a divulgação de que o chatbot Grok gerou e partilhou milhões de imagens manipuladas de pessoas reais, incluindo conteúdos de natureza íntima criados sem consentimento. Na sequência da controvérsia, o proprietário da plataforma X anunciou o bloqueio da funcionalidade que permitia a criação desse tipo de imagens.

No comunicado, os reguladores manifestam “preocupações sérias” relativamente a sistemas de IA capazes de gerar imagens e vídeos realistas de indivíduos identificáveis sem o seu conhecimento ou consentimento. Para além da criação de imagens íntimas não consentidas, as autoridades destacam o risco de conteúdos difamatórios, ciberbullying e exploração infantil.

A declaração recorda ainda que a criação e partilha de imagens íntimas sem consentimento constitui crime em muitos países, reforçando a responsabilidade das empresas tecnológicas na prevenção deste tipo de abusos.

O documento foi subscrito por autoridades de vários países europeus, bem como por reguladores do Canadá, Coreia do Sul, Emirados Árabes Unidos, México, Argentina e Peru. Os Estados Unidos não constam entre os signatários.

Paralelamente, o Governo do Reino Unido anunciou que as empresas tecnológicas poderão ser obrigadas a remover imagens íntimas partilhadas sem consentimento no prazo de 48 horas, sob pena de coimas até 10% da receita global qualificada e eventual bloqueio do serviço no país.

Na declaração conjunta, os reguladores apelam às organizações para que colaborem proativamente com as autoridades, integrem mecanismos de proteção desde a fase de conceção dos sistemas e garantam que a inovação tecnológica não compromete direitos fundamentais como a privacidade, a dignidade e a segurança, sobretudo dos grupos mais vulneráveis.