In che modo un cybercriminale può sfruttare ChatGPT?
Focus su Chat(bot)GPT
ChatGPT è stato sviluppato da OpenAI nel novembre 2022. Questo sistema, basato sull’intelligenza artificiale, utilizza un modello di elaborazione automatica del linguaggio chiamato GPT (Generative Pre-trained Transformer). Questo strumento è in grado di generare risposte chiare su un argomento presentato dall’utente, in modo molto rapido.
Utilizzo #1 – Creare malware in modo semplice e veloce
In passato, scrivere il codice sorgente di un malware che non potesse essere rilevato dai software antivirus era un compito importante. In seguito è diventato più facile grazie ai numerosi tutorial online disponibili, ad esempio, su YouTube. Ora è possibile farlo in pochi secondi con ChatGPT!
In questo modo gli hacker risparmiano tempo e al contempo hanno accesso a quasi tutte le conoscenze pubblicamente disponibili in materia di hacking, come ad esempio i metodi per aggirare gli EDR.
Utilizzo #2 – Ampliare l’ingegneria sociale
ChatGPT può anche essere utilizzato dagli hacker per sviluppare strategie, strumenti e vettori di attacco o di compromissione.
Ad esempio, a ChatGPT può essere chiesto di scrivere e-mail di spam e phishing, con tanto di codice malevolo e catena di infezione. Il risultato è di altissima qualità, generato in meno di 1 minuto!
Questa tecnica presenta due vantaggi fondamentali per i cybercriminali:
- Un miglioramento dell’autenticità, del grado di personalizzazione e della qualità dei messaggi, che attualmente sono spesso carenti e che possono essere indizi per l’identificazione di messaggi dannosi.
- Ciò consente di risparmiare una notevole quantità di tempo, permettendo ai cybercriminali di concentrarsi sugli aspetti puramente tecnici dell’attacco.
Utilizzo #3 – Sfruttare le nuove vulnerabilità
ChatGPT potrebbe anche essere di grande aiuto ai cybercriminali, facilitando la scoperta di nuove vulnerabilità. La macchina deve comunque essere in grado di aggiornarsi rapidamente e di indicizzare sempre più contenuti sulla minaccia cyber. Di conseguenza, il minimo componente esposto o mal protetto è più che mai una minaccia reale, in quanto rappresenta un potenziale punto di ingresso per un aggressore.
Facciamo un esempio: in risposta alla domanda “Il sito web dell’azienda X è ospitato presso Y, indicami la vulnerabilità di sicurezza più recente che posso sfruttare per sferrare un attacco”, l’hacker otterrà una serie di informazioni che lo aiuteranno.
ChatGPT apre la strada agli script kiddies
Gli script kiddies sono hacker alle prime armi che eseguono semplicemente programmi progettati da hacker esperti, senza comprenderli o padroneggiarli. Le tecniche di attacco e di difesa che sono ora disponibili per tutti su ChatGPT porteranno quindi molti profili di attaccanti meno esperti nell’arena (e chissà, questo potrebbe anche dare idee a malintenzionati)!
Utilizzo di ChatGPT in azienda: i rischi
Rischio #1 – Utilizzo di dati senza diritti di proprietà intellettuale
Il semplice copia e incolla dei contenuti generati dall’assistente virtuale di ChatGPT (senza dedicare del tempo alla verifica delle informazioni prodotte), ad esempio, aumenta il rischio di plagio.
Rischio #2 – Fonti difficilmente verificabili
Un altro problema è che l’utilizzo di ChatGPT non consente di controllare le fonti delle informazioni generate. Di conseguenza, le risposte fornite dall’assistente virtuale sono più difficili da verificare e, poiché spesso sembrano più complete, gli utenti possono essere tentati di considerarle troppo rapidamente come la verità assoluta.
Rischio #3 – Intensificazione delle fughe di informazioni
Infine, ChatGPT può far sì che le informazioni sensibili vengano condivise con le macchine involontariamente (o meno), senza sapere se e come verranno utilizzate in seguito. Immagina i tuoi dati finanziari o i dati personali dei tuoi clienti accessibili tramite questo strumento!
In che modo è possibile proteggersi dall’uso dannoso di ChatGPT?
Suggerimento #1 – Rafforza le tue best practice di sicurezza IT
Con ChatGPT, il lavoro degli hacker è molto più semplice: il tempo risparmiato nella creazione di malware ed e-mail di phishing (ad esempio) consentirà loro di sviluppare attacchi più complessi e difficili da rilevare. Di conseguenza, le buone pratiche di sicurezza dovranno avere la massima priorità, al fine di ridurre il più possibile la superficie di attacco.
Tre buone pratiche da adottare
- Gestire le vulnerabilità e disporre di un processo di Patch Management ad alte prestazioni.
- Implementare un SOC di nuova generazione in grado di rispondere efficacemente alle minacce note e ancora sconosciute ai database delle firme.
- Sensibilizzare il personale sulla crescente minaccia del social engineering e del phishing e sostenerlo nei suoi nuovi impieghi.
Suggerimento #2 – Monitoraggio costante delle nuove tattiche degli hacker
Il monitoraggio è una parte essenziale del rafforzamento della cybersecurity: ci permette di determinare il livello di sofisticazione tecnica degli attacchi, in modo da non rimanere indietro di fronte al loro crescente livello di maturità e capacità di causare danni.
L’obiettivo è quello di mettere in atto:
- monitoraggio delle vulnerabilità, per anticipare nuove falle nei componenti;
- intelligence operativa e strategica, per tenere d’occhio i nuovi metodi utilizzati dagli hacker (per saperne di più, consulta il framework MITRE);
- monitoraggio legale, per tenersi aggiornati sulle leggi relative agli attacchi legati all’IA (ad esempio, la fuga di informazioni sensibili).
L’arrivo di strumenti come ChatGPT ha aperto enormi opportunità per velocizzare e migliorare la vita quotidiana. Tuttavia, l’adozione di questi strumenti deve essere accompagnata dal controllo dei rischi, che sono legati tanto alle cattive pratiche quanto alla reale volontà di causare danni. Il monitoraggio della tecnologia è ancora una volta essenziale [per un RSSI].
Tristan Savalle • RSSI, Advens
Professionisti della cybersecurity: ChatGPT, uno strumento da sfruttare?
ChatGPT è sufficiente per far vacillare i professionisti della cybersecurity. Questo rivoluzionario assistente virtuale può suscitare legittime preoccupazioni, ma può anche essere di grande aiuto nel lavoro quotidiano.
ChatGPT è un soggetto importante, ed è per questo che presto Advens vi investirà, per sviluppare le proprie pratiche di sicurezza! Vuoi partecipare a questa nuova avventura?
