Dietro le quinte di ChatGPT e Lensa: cosa sono Laion 5B e Common Crawl e come funzionano
Il lato oscuro di ChatGPT: così l’intelligenza artificiale viene usata per il cybercrimine
Il 2023 sarà decisamente l’anno delle intelligenze artificiali: un po’ all’improvviso, già a partire dalla fine dell’anno scorso, ci siamo accorti di come le IA possano essere utili per fare film migliori, per potenziare i motori di ricerca online, per fare i compiti di scuola e pure per chiacchierare (virtualmente) con Elon Musk, Barack Obama o anche con Elisabetta II.
Tante possibilità, e tante altre se ne presenteranno sicuramente nei prossimi mesi, ma anche tanti rischi, come su Italian Tech abbiamo scritto spesso. Uno è legato alla cybersicurezza: secondo quanto spiegato da Check Point Software, società israeliana attiva nel campo della cybersicurezza, gli LLM (cos’è?) come ChatGPT possono essere utilizzati per creare da zero strumenti di attacco informatico. E anche in maniera relativamente semplice.
Intelligenza artificiale
Creare malware con ChatGPT: facile per (quasi) tutti
Gli analisti della divisione CPR di Check Point hanno fatto notare di aver osservato “i primi casi di criminali informatici e utenti che usano ChatGPT per sviluppare tool pericolosi” e che nei forum di hacking clandestini (immagine qui sopra), vengono già ora creati i cosiddetti infostealer (software che facilitano il furto di informazioni personali), strumenti di crittografia e altri per facilitare le attività di frode.
In particolare, proprio a fine 2022, su un popolare forum di hacking clandestino è apparso un thread intitolato ChatGPT – Benefits of Malware, il cui autore ha appunto svelato di essere alle prese con alcune prove per ricreare malware attraverso la popolare IA, anche per “dimostrare ai criminali informatici meno capaci tecnicamente come utilizzarla per scopi dannosi, con esempi reali da applicare immediatamente”.
Ancora: in un altro thread, una persona ha mostrato uno script Python, descritto come “il primo script che abbia mai creato”, confermando che lo strumento di OpenAI gli ha dato “una bella mano a finirlo”, a dimostrazione del fatto che potenziali criminali informatici, con poche o nessuna capacità di sviluppo, potrebbero sfruttare ChatGPT per sviluppare tool dannosi e dedicarsi a questa attività. Che è un’attività già redditizia: sempre nel Dark Web si trovano discussioni su Guida per fare 1000 dollari al giorno con ChatGPT o Come guadagnare 600 dollari con ChatGPT.
La prova
ChatGPT: come funziona l’intelligenza artificiale educata che scrive temi e risolve equazioni
Creare mail di phishing con ChatGPT: come si fa
Per dimostrare quanto sia semplice, anche il personale di Check Point ha provato a usare ChatGPT per creare mail di phishing e codice malevolo: attraverso l’IA di OpenAI, quelli di CPR sono stati in grado di creare una mail, con un documento Excel allegato contenente codice dannoso in grado di scatenare quella che in gergo si chiama reverse shell (semplificando, serve per prendere da remoto il controllo di un computer).
Un analista di CPR ha prima chiesto a ChatGPT di impersonare una società di hosting; poi ha chiesto a ChatGPT di ripetere la procedura, però creando una mail di phishing con un allegato Excel malevolo; infine ha chiesto a ChatGPT di creare un codice VBA dannoso all’interno di un documento Excel. Che è poi quello che l’ipotetico criminale dovrebbe allegare all’ipotetica mail da mandare alle potenziali vittime.
Sergey Shykevich, responsabile del team Threat Intelligence di Check Point, ha ricordato che “ChatGPT è stata ideata a fin di bene per assistere gli sviluppatori nella scrittura di codice, ma può anche essere usata per scopi pericolosi” e che appunto “nelle ultime settimane stiamo osservando i criminali iniziare a usare ChatGPT per scrivere codice malevolo, dando loro il potenziale per accelerare il processo d’attacco e buone basi di partenza. Sebbene i tool analizzati siano piuttosto elementari, è solo questione di tempo prima che i criminali più tecnici migliorino il modo in cui utilizzano gli strumenti basati sull’intelligenza artificiale”.
