IA generativa: o prompt é o novo canal de saída de dados

A IA generativa entrou nas empresas pela produtividade, não pela porta de segurança. Colaboradores colam contratos, código e dados de clientes em plataformas externas para poupar tempo e, nesse gesto, abriram um canal de saída de dados que nenhum controlo clássico vigia. O que durante vinte anos aprendemos a filtrar no email e na web volta a sair, desta vez dentro de um prompt, em texto livre, para um destino de terceiros. E não é um problema marginal: um inquérito da TELUS Digital indica que 57% dos colaboradores já introduziram dados confidenciais em ferramentas de IA públicas e que 68% o fazem através de contas pessoais, fora do alcance dos controlos da organização.

Os riscos não são teóricos e repetem-se. O primeiro é a fuga de informação sensível: os modelos retêm e podem devolver fragmentos do que lhes é dado, e o prompt do utilizador é a principal via de saída. O segundo é a manipulação por instrução maliciosa, com destaque para a variante indireta, em que comandos ocultos num documento partilhado são executados pelo modelo como se fossem ordens legítimas. O terceiro surge quando ligamos o modelo aos dados internos: os repositórios de conhecimento que o alimentam, e a própria configuração, passam a superfície de ataque. O quarto é a autonomia excessiva, porque dar ao agente mais permissões do que a tarefa exige converte capacidade em vetor.

O que deve preocupar as defesas não é o modelo, é a ausência de visibilidade e de fronteira entre dados de confiança e conteúdo não fiável: dados a fluir para plataformas externas sem prevenção de perda de dados nem controlo de retenção, identidades não humanas com acesso a ferramentas e dados sem privilégio mínimo, e falta de registo, porque sem registos não há investigação nem prova.

A resposta é por camadas, e nenhuma delas é nova na sua lógica. Um ponto de controlo dedicado inspeciona e filtra o que entra e sai dos modelos. A prevenção de perda de dados, aplicada ao próprio prompt, deteta e bloqueia informação sensível antes de sair. A segregação de conteúdo não fiável neutraliza a manipulação indireta. O privilégio mínimo e o Zero Trust estendem-se aos atores não humanos. A resposta do modelo é tratada como entrada não fiável e higienizada em conformidade. E a descoberta do uso não autorizado devolve a visibilidade que falta. Como sempre em segurança da informação, o controlo eficaz não é só tecnologia: é pessoas, processos e tecnologia a operar em conjunto.

O enquadramento legal já não é futuro. O Regulamento (UE) 2024/1689 impõe hoje obrigações para modelos de uso geral e literacia em IA e, a 2 de agosto de 2026, entram os deveres de transparência (art. 50.º) e a fiscalização, com coimas até 15 M€ ou 3% do volume de negócios global. E não abrange apenas quem desenvolve: a empresa que utiliza tem deveres próprios de literacia, transparência e governação.

Resta a pergunta que muitos decisores ainda colocam: isto diz-me respeito? Diz. E quem responde que não está a olhar para o alvo errado, porque o vetor não é o modelo, é o canal, e esse canal já está aberto dentro da organização. O primeiro passo não é adquirir tecnologia; é responder a três perguntas: que dados saíram, para onde, e em que prompt. Uma equipa competente resolve isto em duas semanas. Quem não conseguir responder não tem um problema de IA — tem um ponto cego no perímetro a exfiltrar dados em tempo real.

Conteúdo co-produzido pela MediaNext e pela CSO