Truffe sentimentali: processi operativi supportati dall’IA

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di febbraio 2026⁠(si apre in una nuova finestra) sul contrasto agli usi malevoli dell’IA.

Da quando, un anno fa⁠(si apre in una nuova finestra), abbiamo iniziato a riferire dei nostri interventi contro le reti di truffatori che cercavano di abusare dei nostri modelli, abbiamo smantellato numerose operazioni fraudolente in diverse parti del mondo. Tra queste figuravano truffe dei “lavoretti”, che convincono le vittime a versare denaro per accedere a guadagni inesistenti ottenuti svolgendo compiti banali, e truffe sugli investimenti, che le inducono a investire in società inesistenti.

Una tipologia diffusa già molto prima dell’avvento dell’IA è la truffa sentimentale: i truffatori si fingono potenziali partner e cercano di convincere le vittime di aver trovato l’anima gemella, per poi chiedere loro sempre più denaro. Il nostro primo resoconto di un intervento contro una truffa riguardava un’operazione criminale appena avviata in Cambogia, che aveva usato ChatGPT per generare messaggi destinati a una truffa sentimentale, alcuni dei quali erano stati diffusi sui social media. Da allora abbiamo bloccato vari tentativi di truffa sentimentale. Come abbiamo scritto a giugno⁠(si apre in una nuova finestra), queste e altre truffe tendono a seguire uno schema comune nell’uso dell’IA, che suddividiamo in tre fasi: aggancio (contatto a freddo), coinvolgimento (suscitare emozioni) e incasso (sottrarre denaro).

L’aggancio (contatto a freddo): il truffatore genera contenuti pensati per attirare l’attenzione della potenziale vittima facendo leva sui suoi interessi. Ad esempio, la truffa della “macellazione del maiale” di cui abbiamo riferito lo scorso anno prendeva spesso di mira uomini americani sulla quarantina che lavoravano in ambito medico, rispondendo ai loro post sul golf sui social media. Altre operazioni usavano SMS non richiesti, false offerte di lavoro o, nel caso di truffa sentimentale più recente (descritto di seguito), annunci sui social media. In tutti i casi, gli attori malevoli usavano ChatGPT per generare messaggi potenzialmente più coinvolgenti e meno riconoscibili come scritti da non madrelingua rispetto a quelli delle truffe tradizionali.

Il coinvolgimento (suscitare emozioni): il truffatore genera contenuti pensati per suscitare emozioni forti nella vittima, rendendola così più facile da manipolare. Le truffe sentimentali cercano di far sì che la vittima provi attrazione per il truffatore. Altre truffe possono cercare di entusiasmare la vittima per un affare potenzialmente redditizio, farle temere di perdere un’opportunità o allarmarla per un presunto rischio legale o una fattura non pagata. A volte, il coinvolgimento emotivo può essere ricercato già nel messaggio di aggancio.

L’incasso (sottrarre denaro): il truffatore genera contenuti pensati per convincere la vittima a consegnargli del denaro. Le motivazioni addotte possono variare enormemente. Ad esempio, nelle truffe sentimentali si può chiedere alla vittima di investire nell’attività della persona amata o di darle del denaro per far fronte a una crisi finanziaria. Le truffe dei “lavoretti” chiedono alle vittime di versare denaro per accedere ai guadagni (fittizi) che credono di aver maturato. Le truffe sugli investimenti chiedono alle vittime di destinare il proprio denaro a investimenti inesistenti.

Come suggerisce questa sequenza, un elemento essenziale delle truffe è la rete di distribuzione. Le diverse operazioni fraudolente che abbiamo portato alla luce inviavano i messaggi di aggancio tramite SMS, app di messaggistica crittografata, post sui social media, annunci online o una combinazione di questi canali; le truffe precedenti all’era dell’IA sono note per l’uso di email⁠(si apre in una nuova finestra), telefonate⁠(si apre in una nuova finestra) o persino, nell’Ottocento, lettere⁠(si apre in una nuova finestra) e telegrammi⁠(si apre in una nuova finestra). Molte truffe adottano un approccio indiscriminato alla distribuzione, ma alcune sembrano cercare di raggiungere bersagli ben precisi. Ad esempio, la truffa della “macellazione del maiale” di cui abbiamo riferito a febbraio 2025⁠(si apre in una nuova finestra) si concentrava su argomenti come il golf; un’altra truffa sentimentale usava annunci sui social media per prendere di mira giovani uomini in Indonesia; nelle truffe legate alle celebrità⁠(si apre in una nuova finestra), invece, i truffatori si spacciano in genere per un personaggio famoso e prendono di mira i suoi gruppi di fan. Sebbene la natura frammentaria delle prove renda difficile confrontare in modo affidabile le diverse truffe che abbiamo bloccato, riteniamo che il metodo di distribuzione scelto (ad esempio, indiscriminato o mirato) incida significativamente sulla capacità di ogni truffa di raggiungere e sfruttare le proprie vittime, indipendentemente dalla misura in cui l’operazione ha usato l’IA per le diverse funzioni.