O que é DarkBERT? A IA pode ajudar a combater ameaças cibernéticas?

A popularidade dos grandes modelos de linguagem (LLMs) está disparando, com novos modelos aparecendo constantemente. Modelos como o ChatGPT são normalmente treinados em uma variedade de fontes da Internet, incluindo artigos, sites, livros e mídias sociais.

Uma equipe de pesquisadores coreanos desenvolveu o DarkBERT, um LLM treinado em conjuntos de dados provenientes exclusivamente da dark web . Seu objetivo é criar uma ferramenta de IA que supere os modelos de linguagem existentes e auxilie pesquisadores de ameaças, autoridades policiais e profissionais de segurança cibernética em seus esforços contra ameaças online.

O que é DarkBERT?

DarkBERT é um modelo de codificador baseado na arquitetura RoBERTa. O LLM foi treinado em milhões de sites obscuros, incluindo dados de fóruns de hackers, sites de phishing e outras fontes on-line envolvidas em atividades ilegais.

O termo “dark web” refere-se a uma parte oculta da Internet que não é acessível através de navegadores padrão. Esta parte da Internet é conhecida por abrigar sites anônimos e mercados ilegais, como a venda de dados roubados, drogas e armas.

Para treinar o DarkBERT, os pesquisadores obtiveram acesso à dark web por meio da rede Tor e coletaram dados brutos. Eles filtraram cuidadosamente esses dados usando técnicas como desduplicação, balanceamento de categoria e pré-processamento para criar um banco de dados dark web ajustado, que foi então alimentado no RoBERTa durante cerca de 15 dias para criar o DarkBERT.

Aplicações DarkBERT em segurança cibernética

DarkBERT tem um conhecimento superior da linguagem dos cibercriminosos e é excelente na detecção de ameaças potenciais específicas. Ele pode pesquisar a dark web e identificar e sinalizar com sucesso ameaças à segurança cibernética, como vazamentos de dados e ransomware, tornando-se uma ferramenta potencialmente útil para combater ameaças online.

Uma pesquisa publicada no arxiv.org mostra que para avaliar a eficácia do DarkBERT, os pesquisadores o compararam com dois modelos famosos de PNL, BERT e RoBERTa, avaliando seu desempenho em três casos de uso importantes relacionados à segurança de rede.

1. Monitore os fóruns da Dark Web em busca de tópicos potencialmente prejudiciais

Monitorar fóruns da dark web, frequentemente usados ​​para trocas ilegais de informações, é importante para identificar tópicos potencialmente perigosos. No entanto, revisá-los manualmente pode ser demorado, tornando a automação do processo benéfica para os profissionais de segurança.

Os pesquisadores se concentraram em atividades potencialmente prejudiciais em fóruns de hackers, fornecendo guias comentados sobre tópicos importantes, incluindo compartilhamento de dados confidenciais e distribuição de malware, danos graves ou vulnerabilidade.

DarkBERT supera outros modelos de linguagem em termos de precisão, recall e pontuação F1, emergindo como uma escolha superior para identificar tópicos de interesse jornalístico na dark web.

2. Detecte páginas que hospedam informações confidenciais

Hackers e grupos de ransomware usam a dark web para criar sites de vazamento onde publicam dados confidenciais roubados de organizações que se recusam a cumprir os pedidos de resgate. Outros cibercriminosos simplesmente carregam dados confidenciais vazados, como senhas e informações financeiras, para a dark web com a intenção de vendê-los.

Em seu estudo, os pesquisadores coletaram dados de grupos de ransomware notórios e analisaram sites de vazamento de ransomware que publicam dados privados de organizações. DarkBERT supera outros modelos de linguagem na identificação e classificação de tais sites, demonstrando sua compreensão da linguagem usada em fóruns de hackers clandestinos na dark web.

3. Identifique palavras-chave relacionadas a ameaças na Dark Web

O DarkBERT aproveita o preenchimento de máscaras, um recurso inerente aos modelos de linguagem da família BERT, para identificar com precisão palavras-chave relacionadas a atividades ilegais, incluindo vendas de drogas no lado obscuro da web.

Quando a palavra “MDMA” estava escondida em uma página de vendas de medicamentos, o DarkBERT gerava palavras relacionadas a medicamentos, enquanto outros modelos sugeriam palavras e termos genéricos não relacionados a medicamentos, como indústrias e profissões diferentes.

A capacidade do DarkBERT de identificar palavras-chave associadas a atividades ilegais pode ser valiosa no rastreamento e no tratamento de ameaças cibernéticas emergentes.

O público pode acessar o DarkBERT?

DarkBERT não está atualmente disponível ao público, mas pesquisadores interessados ​​podem solicitar seu uso para fins acadêmicos.