Intelligenza artificiale generativa come ChatGPT usata per distribuire malware

Dal mese di marzo, gli esperti di Meta hanno osservato gruppi di criminali informatici distribuire estensioni di popolari browser and applicazioni malevole spacciandole per strumenti in grado di utilizzare ChatGPT o altri software simili basati su Generative AI.

Sono già state individuate almeno una decina di malware appartenenti a diverse famiglie di codici malevoli, e probabilmente distribuite da gruppi distinti, a dimostrazione del crescente interesse da parte degli attaccanti nell’uso come esca di software basati sulla Generative AI.

“Solo da marzo, i nostri analisti della sicurezza hanno trovato circa 10 famiglie di malware che si spacciano per ChatGPT e strumenti simili per compromettere gli account su Internet. Ad esempio, abbiamo visto attori delle minacce creare estensioni del browser dannose disponibili negli store ufficiali che affermano di offrire strumenti relativi a ChatGPT. si legge nel rapporto sulla sicurezza di Meta relativo al primo trimestre 2023 “In effetti, alcune di queste estensioni dannose includevano funzionalità ChatGPT funzionanti insieme al malware. Questo probabilmente per evitare sospetti da parte dei negozi e degli utenti.”

I codici malevoli sono nascosti all’interno di software funzionanti, la cui esecuzione da via al processo di infezione. Queste applicazioni sono pubblicizzate attraverso messaggi pubblicati sui social network o condivisi su piattaforme di instant messaging.

Meta ha rivelato di aver bloccato oltre 1.000 link condivisi attraverso le sue piattaforme e che puntavano alle applicazioni di cui sopra.

Il gigante IT ha inoltre ribadito l’importanza di condividere quando scoperto con altre aziende del settore operanti piattaforme di social network e social media allo scopo di prevenire la diffusione di questi software malevoli.

La rapida evoluzione delle tecnologie basate sull’intelligenza artificiale generativa sta attirando un numero crescente di attori malevoli, per questo motivo Meta raccomanda di essere vigili sull'evoluzione del panorama delle minacce.

"ChatGPT sono le nuove criptovalute." ha affermato Guy Rosen, Chief Information Security Officer di Meta, riferendosi all’interesse catalizzato dall’argomento.

Il rapporto infine riporta che i gruppi di ricerca dell’azienda stanno lavorando a progetti che prevedono lo sviluppo di sistemi basati su AI generativa per rilevare e bloccare le campagne di disinformazione in rete.

Purtroppo, l’AI generativa potrebbe essere utilizzata anche per altre finalità malevole da parte degli attaccanti, pensiamo ad esempio alla creazione di email di phishing e spear-phishing, il cui contenuto potrebbe essere interpretato da un umano come legittimo e quindi essere indotto a condividere informazioni sensibili.

l’AI generativa potrebbe essere utilizzata anche per la creazione di falsi account social che possono essere coordinati per diffondere false notizie oppure promuovere frodi di vario genere. Sempre l’AI generativa può essere utilizzata per creare fake news utilizzando falsi contenuti (i.e. immagini, video o audio) in grado di manipolare l'opinione pubblica su specifici temi.

Infine, i sistemi basati su AI generativa potrebbero coadiuvare lo sviluppo di codice malevolo da parte di programmatori esperti.

Abbiamo in questa sede illustrato solo i possibili abusi della generative AI, tuttavia è fondamentale ricordare che la stessa tecnologia, come anticipato da Meta, può essere utilizzata per fini difensivi.

Diversi sono i progetti in corso per l’utilizzo di questi sistemi per prevenire e rilevare attacchi.