Cybercriminali addestrano chatbot AI per attacchi phishing e malware

Cybercrimine e Intelligenza Artificiale, a quanto pare, sono un binomio destinato a far parlare molto in futuro.

Dopo il “clone malvagio” di ChatGPT, ovvero WormGPT, è apparso online un nuovo strumento che sfrutta l’IA generativa per scopi malevoli. Stiamo parlando di FrauGPT che, stando alle informazioni note al momento, si baserebbe sul sistema AI di Google, ovvero Bard.

Il nuovo chatbot sarebbe preparato in maniera specifica per realizzare campagne phishing sfruttando forme raffinate di social engineering per diffondere malware e non solo.

FraudGPT è stato reso pubblico il 25 luglio, con tanto di pubblicità su vari forum di hacker. La prima segnalazione è opera di un hacker, noto nell’ambiente con il nome di CanadianKingpin12. Lo stesso ha affermato come questo strumento è già nelle mani di hacker e spammer e che, molto probabilmente, verrà adoperato massicciamente nell’immediato futuro.

Un’indagine dei ricercatori della società di sicurezza informatica SlashNext ha rivelato che CanadianKingpin12 sta attivamente addestrando nuovi chatbot utilizzando set di dati illimitati provenienti dal Dark Web.

Chatbot AI: FraudGPT e DarkBART sono il futuro del cybercrimine

Secondo gli esperti, lo stesso CanadianKingpin12 non si sta limitando al lavoro su FraudGPT.

Attraverso conversazioni private, l’hacker avrebbe rivelato il suo impegno nel contesto di DarkBART, un chatbot basato su DarkBERT. Questo è un modello di linguaggio sviluppato da ricercatori coreani, al momento (almeno teoricamente) prerogativa dell’ambiente accademico.

I ricercatori di SlashNext hanno rivelato come CanadianKingpin12 stia addestrando DarkBERT per renderlo efficace nel contesto di:

• creazione di campagne phishing avanzate;
• attacchi che utilizzano social engineering per ottenere informazioni sensibili;
• individuare e sfruttare vulnerabilità in sistemi informatici, software e reti;
• creazione e distribuzione malware;
• utilizzo di vulnerabilità zero-day per ottenere vantaggi e guadagni di vario tipo.

Uno scenario dunque tanto imprevedibile quanto inquietante. Anche perché CanadianKingpin12, con molta probabilità, non è l’unico hacker che sta studiando il modo per sfruttare l’Intelligenza Artificiale e le sue enorme potenzialità.