Microsoft e OpenAI: Hacker utilizzano l’IA generativa per migliorare gli attacchi informatici

Non sorprende scoprire che i criminali informatici organizzati stiano iniziando a utilizzare strumenti e servizi di intelligenza artificiale generativa per nuovi tipi di attacchi. Oggi abbiamo ottenuto molte più informazioni su come questi hacker sponsorizzati dallo stato stanno utilizzando grandi modelli di linguaggio.

In un post sul blog, Microsoft, in collaborazione con OpenAI, ha annunciato una nuova ricerca su come gli hacker stiano utilizzando i LLM (Large Language Models). Include informazioni su specifici gruppi identificati come utilizzatori di strumenti di intelligenza artificiale generativa.

I gruppi sono basati in paesi come Russia, Corea del Nord, Iran e Cina. Uno di essi è etichettato come Forest Blizzard ed è collegato all’unità GRU russa 26165. Microsoft afferma che il gruppo è attivo nel prendere di mira organizzazioni legate all’invasione in corso dell’Ucraina.

Microsoft sostiene che Forest Blizzard stia utilizzando i LLM “per comprendere i protocolli di comunicazione satellitare, le tecnologie di imaging radar e specifici parametri tecnici.” La ricerca aggiunge che questo gruppo sta cercando di automatizzare compiti come la selezione e la manipolazione di file con i LLM.

Un altro gruppo di cybercriminali che Microsoft afferma stia utilizzando l’IA è stato etichettato come Salmon Typhoon. Il gruppo con sede in Cina ha una storia di attacchi mirati a governi e appaltatori della difesa statunitensi. Secondo Microsoft, Salmon Typhoon ha utilizzato i LLM in vari modi, tra cui la ricerca di errori di codifica e la traduzione di documenti tecnici informatici.

Microsoft ha dichiarato che continuerà a collaborare con OpenAI per studiare l’uso dell’IA da parte dei cybercriminali.

“Come parte di questo impegno, abbiamo adottato misure per interrompere asset e account associati agli attori minacciosi, migliorare la protezione della tecnologia LLM di OpenAI e degli utenti da attacchi o abusi e definire le linee guida e i meccanismi di sicurezza attorno ai nostri modelli.”

L’azienda ha aggiunto che utilizzerà il proprio servizio Copilot for Security per contrastare queste minacce informatiche basate sui LLM.