I cybercriminali utilizzano forme di intelligenza artificiale da decenni. Tuttavia, sono soprattutto le tecnologie più recenti – in particolare quelle basate sulla Generative AI e sui Large Language Models (LLM)1 – ad aver cambiato radicalmente lo scenario negli ultimi anni. Oggi chiunque può diventare vittima di una truffa, non solo online ma anche offline, attraverso telefonate, visite a domicilio o altri contatti diretti.
Queste tecnologie permettono di creare contenuti estremamente realistici e, allo stesso tempo, di automatizzare le truffe su larga scala. Diversi ricercatori2 hanno individuato tre pilastri principali attraverso cui la GenAI amplifica gli attacchi di social engineering:
- creazione di contenuti realistici
- targeting e personalizzazione avanzati
- infrastrutture di attacco automatizzate
Le tipologie di intelligenza artificiale utilizzate variano in base al tipo di truffa e alla fase dell’attacco.
Le prime fasi: raccolta informazioni e profiling
Nelle fasi iniziali – definizione del bersaglio e raccolta delle informazioni – vengono utilizzate soprattutto tecniche come:
- AI scraping
- AI automation
- AI analysis
L’AI scraping (una forma avanzata di web scraping), combinata con l’automazione, consente l’estrazione sistematica di informazioni da siti web, social media, database pubblici e altre fonti. I dati raccolti possono includere testi, metadati, immagini e video.
L’AI analysis permette invece di individuare pattern all’interno dei dati, comprendere contesto e sentiment e costruire profili dei potenziali bersagli sempre più dettagliati.
Le fasi successive: contenuti e interazione
Nelle fasi operative della truffa troviamo più frequentemente:
- Generative AI
- Agentic AI
- Chatbot AI (o Conversational AI)
La GenAI viene utilizzata per creare siti e portali falsi, profili fake, email fraudolente, ma anche contenuti audio e video. Il livello di realismo raggiunto è ormai tale da rendere sempre più difficile distinguere ciò che è autentico da ciò che non lo è.
Le chatbot basate su AI sono in grado non solo di simulare conversazioni credibili, ma anche di personalizzare le interazioni in base alle preferenze, al comportamento e persino allo stato emotivo della persona coinvolta.
Un’evoluzione ulteriore è rappresentata dall’Agentic AI: una tecnologia proattiva, capace di avviare azioni autonomamente e adattare le risposte in tempo reale, senza la necessità di una supervisione umana costante. Questo tipo di AI può decidere quali canali di comunicazione utilizzare, come proseguire una conversazione e, in alcuni casi, arrivare fino a forme di malware autogestite.
Anche i “buoni” usano l’AI
Allo stesso tempo, anche la prevenzione e l’individuazione delle truffe basate sull’intelligenza artificiale stanno evolvendo rapidamente. Oggi esistono strumenti in grado di rilevare deepfake vocali, video e immagini, verificare l’autenticità di documenti e testi e utilizzare sistemi avanzati di liveness detection.
L’AI viene impiegata, tra le altre cose, per:
- rilevamento delle anomalie, identificando comportamenti che deviano dalla norma
- generazione di dati sintetici, utili per riconoscere anche truffe rare o emergenti
- indagini e analisi, supportando gli analisti nella gestione di grandi volumi di dati
- sistemi di difesa adattivi, capaci di apprendere e anticipare nuove minacce
- individuazione e risposta in tempo reale, anche nell’arco di pochi millisecondi
Grazie a queste tecnologie, la sicurezza informatica sta evolvendo quasi di pari passo con gli strumenti utilizzati dai criminali.
Il fattore umano resta centrale
Nonostante questo, il fattore umano continua a rappresentare l’anello più vulnerabile. Molti cittadini non hanno accesso a sistemi di protezione avanzati e, soprattutto, manca ancora una diffusa conoscenza e consapevolezza su come funzionano davvero le truffe.
Ed è proprio su questo punto che diventa fondamentale lavorare: comprendere come pensiamo, a chi diamo fiducia e perché, in certe situazioni, abbassiamo le nostre difese.
Per approfondire
Se vuoi andare un po’ più a fondo su alcuni dei temi citati:
- Cosa sono davvero i Large Language Model (LLM)
Una spiegazione chiara e comprensibile di cosa sono i modelli linguistici su cui si basa gran parte dell’AI generativa.
👉 https://www.cloudflare.com/it-it/learning/ai/what-is-large-language-model/ - Come l’AI generativa potenzia il social engineering e il phishing
Un’analisi su come i contenuti generati artificialmente rendono le truffe più credibili e personalizzate.
👉 https://doi.org/10.1007/s10462-024-10973-2 - Cos’è l’AI data scraping e perché è rilevante per le truffe
Una panoramica su come l’AI può raccogliere e analizzare automaticamente grandi quantità di dati online.
👉 https://www.miquido.com/ai-glossary/what-is-ai-data-scraping - Impostor scam e GenAI: cosa sta succedendo davvero
Un approfondimento su come l’AI stia alimentando nuove forme di truffe basate sull’impersonificazione.
👉 https://thepaypers.com/expert-opinion/genai-developments-in-2025-impact-regulations-and-the-rise-of-impostor-scams–1273127 - L’evoluzione delle chatbot AI
Come le chatbot stanno diventando sempre più sofisticate, adattive e “conversazionali”.
👉 https://medium.com/@Quickway_Infosystems/the-evolution-of-ai-chatbots-whats-shaping-2025-and-beyond-70b3cd0715c8 - Agentic AI e malware autonomo
Uno sguardo su come l’AI agentica potrebbe cambiare il modo in cui vengono creati e gestiti i malware.
👉 https://www.scworld.com/perspective/how-agentic-ai-will-drive-the-future-of-malware - AI e prevenzione delle frodi
Come le aziende stanno utilizzando l’intelligenza artificiale per individuare e prevenire truffe e frodi.
👉 https://www.thomsonreuters.com/en-us/posts/corporates/technological-considerations-fraud-prevention/ - Cos’è la liveness detection
Una tecnologia usata per verificare che dietro uno schermo ci sia una persona reale e non un’immagine o un video.
👉 https://chekin.com/it/blog/liveness-detection-sicurezza-per-il-check-in-digitale/ - AI per il rilevamento delle frodi online
Un’introduzione pratica su come l’AI viene usata per individuare attività fraudolente in tempo reale.
👉 https://datadome.co/learning-center/ai-fraud-detection/
- In termini semplici, un LLM è un programma informatico a cui sono stati forniti esempi sufficienti per renderlo in grado di riconoscere e interpretare il linguaggio umano o altri tipi di dati complessi ↩︎
- Schmitt, M., Flechais, I. Digital deception: generative artificial intelligence in social engineering and phishing. Artif Intell Rev 57, 324 (2024). https://doi.org/10.1007/s10462-024-10973-2 ↩︎