Inteligência Artificial: quem está realmente no controlo?

Discutir cibersegurança sem abordar a AI deixou de ser realista: o volume colossal de dados, a velocidade dos ataques e a sofisticação dos próprios atacantes tornam inviável um modelo defensivo baseado exclusivamente na capacidade humana.

O estudo Global Cybersecurity Outlook 2026, do World Economic Forum, destaca a AI como uma das maiores forças de transformação do setor, revelando que 77% das organizações já a utilizam nas suas operações. A questão crucial já não é se devemos adotar a tecnologia, mas sim: quanto controlo estamos dispostos a delegar-lhe?

Quando a automação desafia a responsabilidade

Existe uma fronteira crítica entre utilizar a AI para apoiar decisões e permitir que a máquina decida por nós. Quando passamos da análise de padrões para o bloqueio e isolamento automáticos, entramos num terreno complexo. Num SOC, uma resposta automatizada a um falso positivo pode paralisar operações legítimas e interromper o negócio.

Se a máquina errar, dizer que “foi a AI” não é aceitável. Uma organização não pode transferir a responsabilidade de uma decisão para um algoritmo. É aqui que o conceito de human in the loop deixa de ser uma norma abstrata de governance e se torna um imperativo de responsabilidade.

O Homem no loop não é um mero botão de "ok"

Ter supervisão humana não significa manter um profissional a validar cegamente o que o sistema sugere. Aceitar recomendações de forma mecânica cria apenas uma falsa sensação de controlo. Supervisionar exige compreender o comportamento do sistema, conhecer as suas limitações e ter capacidade crítica para contrariar a máquina quando o contexto o exige.

O NIST (AI Risk Management Framework) alerta para a importância de definir claramente os papéis humanos na interação com a AI. A máquina identifica padrões; o profissional interpreta o contexto. É da combinação entre a velocidade da máquina e o discernimento humano que nasce uma segurança eficaz.

Aumentar as pessoas, não substituí-las 

O debate sobre a substituição de profissionais pela AI está mal focado. A verdadeira questão é o que queremos que os nossos especialistas façam quando forem libertados de tarefas repetitivas. Libertar um analista da triagem manual permite-lhe focar no que é insubstituível: avaliar o risco, investigar com profundidade e tomar decisões estratégicas.

A tecnologia exige um novo perfil profissional. É necessário dominar dados e AI, mas também compreender o impacto no negócio. Saber quando confiar na ferramenta — e, sobretudo, quando desconfiar dela — será uma das competências mais valiosas dos próximos anos.

Não há AI segura sem pessoas preparadas

Quanto mais sofisticadas forem as plataformas, maior será a nossa dependência delas e maior terá de ser a nossa capacidade de as gerir. Investir na melhor tecnologia do mercado é inútil se as equipas não souberem interpretá-la, configurá-la e questioná-la.

Na Securnet, entendemos que a transformação tecnológica exige um investimento equivalente nas pessoas. A formação contínua deixou de ser uma formalidade para cumprir requisitos; é uma necessidade operacional. Apostamos fortemente na capacitação, especialização e contratação contínua de recursos humanos, porque nenhuma plataforma substitui o sentido crítico de um especialista preparado.

O lugar de cada um 

A automação continuará a avançar. Segurança sem AI será inviável, mas AI sem pessoas preparadas é perigoso. O futuro passa por colocar a máquina a processar e correlacionar dados à velocidade necessária, garantindo que o ser humano mantém o controlo e a responsabilidade final.

No final, a pergunta essencial não é apenas o que a AI consegue fazer, mas sim: o que estamos verdadeiramente preparados para deixar a AI fazer sem nós?

Conteúdo co-produzido pela MediaNext e pela Securnet