Sophos ajuda a transformar ChatGPT num copiloto de ciberdefesa

O mais recente relatório da Sophos – “GPT for You and Me: Applying AI Languague Processing to Cyber Defenses” – revela como a cibersegurança pode tirar partido do GPT-3, o modelo de linguagem por detrás do framework ChatGPT, transformando-o num “copiloto” nesta área.

Os investigadores da Sophos X-Ops têm tentado demonstrar o potencial do GPT-3 numa ótica de ajuda aos profissionais de defesa e cibersegurança através de três projetos que recorrem à técnica few shot learning de forma a treinar o modelo de inteligência artificial.

Estes projetos de linguagem do GPT-3 ajudam a detetar atividades maliciosas em conjuntos de dados de software de segurança, enquanto filtram spam com mais precisão e aceleram a análise de ataques de binários.

“Desde que a OpenAI revelou o ChatGPT, em novembro, a comunidade de segurança tem estado sobretudo focada nos potenciais riscos que esta nova tecnologia pode trazer. Será que a Inteligência Artificial pode ajudar os atacantes amadores a escrever malware ou e-mails de phishing muito mais convincentes? Talvez. Contudo, há muito tempo que a Sophos vê a IA como uma aliada, em vez de uma inimiga, tornando-a uma tecnologia fundamental para nós – e o GPT-3 não é diferente. A comunidade de segurança deve prestar atenção não apenas aos potenciais riscos, mas também às oportunidades que o GPT-3 traz”, afirma Sean Gallagher, Principal Threat Researcher da Sophos.

A Sophos começou por testar o metido few shot learning através de uma interface de consulta de linguagem natural de forma a filtrar possível atividade maliciosa, testando o modelo no seu próprio produto de deteção e resposta de endpoints. Através desta interface, as equipas podem filtrar a telemetria com recurso a comandos básicos em inglês.

A empresa testou também um novo filtro de spam com recurso ao GPT-3, que se revelou mais preciso do que outros modelos de machine learning para filtrar spam.

Os investigadores da Sophos conseguiram ainda criar um programa para facilitar o processo de engenharia reversa das linhas de comando dos LOLBins.

Sean Gallagher defende que há “demasiadas notificações e deteções que é necessário filtrar, e muitas empresas têm recursos limitados para o fazer. Provámos que algo como o GPT-3 permite simplificar certos processos que necessitam de muita mão de obra e devolver tempo valioso aos defensores”.

Os resultados dos testes estão agora disponíveis para quem quiser testar o GPT-3 nos seus próprios ambientes de análise. “Acreditamos que o GPT-3 pode muito bem vir a tornar-se num ‘copiloto’ padrão para os especialistas de segurança”, conclui o Principal Threat Researcher da Sophos.