Operazioni fraudolente: reti di truffe online

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di ottobre 2025⁠(si apre in una nuova finestra).

Reti probabilmente originarie di Cambogia, Myanmar e Nigeria hanno usato impropriamente ChatGPT in quelli che sembrano tentativi di frode online.

Ci impegniamo a individuare, prevenire e contrastare i tentativi di utilizzare impropriamente i nostri modelli per scopi dannosi. Tra questi abusi rientrano le truffe: individuiamo e blocchiamo i malintenzionati che tentano di usare impropriamente i nostri modelli per ingannare e frodare le persone. Negli ultimi tre mesi abbiamo smantellato reti di truffatori probabilmente originarie di Cambogia, Myanmar e Nigeria. A dimostrazione del ruolo che l’IA può svolgere nella lotta alle frodi, mentre indagavamo su questi modelli di abuso abbiamo anche osservato molte persone usare i nostri modelli per riconoscere le truffe. Questo rapporto esamina entrambi i casi d’uso.

L’uso improprio dei nostri modelli a sostegno delle truffe spazia dai singoli autori di tentativi di frode a operazioni persistenti e su larga scala, probabilmente collegate a gruppi criminali organizzati. Indipendentemente dall’origine e dalle tattiche specifiche, le attività legate alle truffe che abbiamo contrastato seguono in genere uno schema comune, che definiamo ping (il primo contatto a freddo), zing (il tentativo di suscitare entusiasmo o panico) e sting (la sottrazione di denaro o informazioni di valore).

Questi truffatori iniziano diffondendo contenuti, generati o meno dall’IA, sui servizi di messaggistica e su Internet, anche attraverso annunci sui social media. Tentano poi di suscitare in chiunque risponda entusiasmo per un’opportunità redditizia oppure timore di un’imminente perdita finanziaria, sfruttando tale emozione per convincere la vittima a consegnare denaro o informazioni sensibili.

Abbiamo inoltre osservato numerosi casi in cui i nostri modelli hanno probabilmente contribuito a proteggere le persone dalle frodi. Abbiamo riscontrato milioni di volte al mese l’uso di ChatGPT per riconoscere ed evitare le truffe online; in tutte le operazioni descritte in questo rapporto, abbiamo visto il modello aiutare le persone a identificare correttamente la truffa e consigliare misure di sicurezza appropriate. Secondo le nostre stime attuali, ChatGPT viene usato per individuare le truffe con una frequenza fino a tre volte superiore rispetto al suo impiego per realizzarle.

Esempio di un membro del team investigativo di OpenAI che incolla in ChatGPT lo screenshot di un SMS fraudolento ricevuto e usa il modello per identificarlo correttamente come truffa. In questo caso, gli autori della minaccia hanno tentato di spacciarsi per recruiter di TikTok.

Dalla pubblicazione dell’ultimo rapporto abbiamo rafforzato la nostra capacità di individuare e contrastare le truffe. Abbiamo smantellato altre reti di truffatori che sembravano avere origine in Cambogia, Myanmar e Nigeria. Insieme agli interventi precedenti, queste operazioni ci consentono di individuare alcune tendenze emergenti in molteplici attività fraudolente condotte da paesi diversi.

La maggior parte delle attività fraudolente che abbiamo contrastato mirava a integrare l’IA in copioni di truffa già esistenti, anziché a crearne di nuovi basati sull’IA. Tutte le operazioni fraudolente che abbiamo individuato e bloccato quest’anno usavano l’IA principalmente per aumentare la scala e l’efficienza delle attività. In genere, ciò comprendeva l’uso dei nostri modelli per tradurre, scrivere messaggi e creare contenuti per i social media.

Di recente, ad esempio, abbiamo bloccato operazioni fraudolente probabilmente originarie di Cambogia e Nigeria che si spacciavano per “società di investimento” nel tentativo di frodare vittime in diversi paesi. I truffatori creavano siti web e annunci online per promuovere le società fittizie e usavano account social probabilmente non autentici, presentandosi come esperti di trading per invitare le persone a entrare in gruppi di messaggistica privati. Promettendo opportunità di guadagno redditizie e prive di rischi, gli autori della minaccia cercavano poi di indurre le potenziali vittime a versare denaro su piattaforme di trading fittizie. In tutte queste truffe, i responsabili usavano i nostri modelli soprattutto per generare e tradurre la corrispondenza, creare contenuti per siti web e account social e svolgere ricerche di base.

In un altro caso, abbiamo bloccato un centro per le truffe situato con ogni probabilità in Myanmar, che usava i nostri modelli sia per generare contenuti destinati ai propri schemi fraudolenti sia per svolgere attività operative quotidiane. Tra queste figuravano l’organizzazione dei turni, la stesura di comunicazioni interne, l’assegnazione di postazioni e alloggi nei dormitori e la gestione dei conti finanziari. Alcuni operatori hanno chiesto informazioni sulle sanzioni penali previste per chi viene sorpreso a compiere truffe online.

Non tutti i truffatori che abbiamo fermato usavano i nostri modelli allo stesso modo o con lo stesso grado di complessità. La maggior parte delle interazioni dei truffatori con ChatGPT riguardava attività relativamente semplici, come la traduzione, ma alcune operazioni erano più ambiziose ed elaborate.

Ad esempio, un’operazione fraudolenta che abbiamo smantellato, probabilmente originaria della Cambogia, usava i nostri modelli per generare biografie dettagliate di falsi esperti di investimenti e dipendenti fittizi di società di trading inesistenti. I truffatori chiedevano poi a ChatGPT di scrivere messaggi per i social media imitando la voce di quei personaggi. Spesso gli autori della minaccia inserivano nel nostro modello messaggi apparentemente ricevuti dalle vittime e chiedevano al modello di proseguire la conversazione nei panni del personaggio fittizio.

Una seconda operazione fraudolenta, anch’essa probabilmente originaria della Cambogia, ha iniziato usando i nostri modelli per generare SMS di primo contatto, inviati in massa a numeri telefonici statunitensi. Uno di questi è stato inviato a un membro del team investigativo di OpenAI, analogamente al caso segnalato a giugno. Questi SMS contenevano inviti a entrare in gruppi WhatsApp, successivamente bloccati, i cui nomi ricordavano quelli di una società di investimento legittima.

A giudicare da una serie di messaggi WhatsApp inviati al membro del team investigativo di OpenAI, se una potenziale vittima fosse entrata in uno di questi gruppi avrebbe subito assistito a una “conversazione” tra una mezza dozzina di account, tutti intenti a parlare di investimenti. Uno di questi si presentava come “l’esperto di investimenti”, mentre gli altri si spacciavano per investitori con livelli diversi di sicurezza ed esperienza. Ogni parte della conversazione era generata dai truffatori, che la traducevano in un unico blocco dal cinese, probabilmente per dare l’impressione di un gruppo vivace di trader entusiasti e di successo. Alla fine, “l’esperto di investimenti” suggeriva alla vittima di provare a investire a sua volta.

In un altro caso, un’operazione fraudolenta legata agli investimenti e molto probabilmente originaria della Nigeria ha chiesto al modello istruzioni dettagliate su come usare gli annunci sui social media per raggiungere persone facoltose in America Latina, nascondere la propria posizione ed eludere le restrizioni delle piattaforme social. A tale scopo, gli operatori indirizzavano il modello ai termini di servizio pubblici di una piattaforma e gli chiedevano di verificare che i contenuti pubblicitari proposti fossero conformi.

I truffatori, soprattutto quelli che operano in grandi centri organizzati, sono tenaci. Molto spesso, dopo un intervento tentano di riprendere le attività in violazione delle norme, modificando alcuni aspetti del proprio comportamento, probabilmente per evitare di essere nuovamente individuati. Questo è uno dei motivi per cui è importante condividere nel settore le informazioni sull’evoluzione delle loro attività, come quando OpenAI e Meta hanno fornito dati sugli autori delle minacce che hanno contribuito a ulteriori indagini e provvedimenti.

Forse in risposta ai nostri interventi o al più ampio dibattito online sui segnali che possono rivelare l’uso dell’IA, abbiamo osservato tentativi dei truffatori di nascondere l’impiego dell’IA nei contenuti online e nelle comunicazioni con le vittime. Tra questi rientrano operazioni fraudolente probabilmente originarie della Cambogia che chiedevano al modello di eliminare i trattini lunghi dalle risposte.

In un caso, i truffatori hanno tentato di spiegare la rimozione su larga scala dei propri account social inventando una scusa per il blocco. Si trattava del centro per le truffe descritto sopra, probabilmente originario della Cambogia, che operava tramite SMS e WhatsApp. Dopo che WhatsApp ha bloccato i “gruppi di investimento” legati all’operazione, gli operatori hanno iniziato a generare messaggi in cui sostenevano che quei gruppi fossero stati falsamente segnalati da un concorrente, probabilmente per giustificare i blocchi.

Screenshot di un messaggio WhatsApp inviato al membro del team investigativo di OpenAI dall’operazione fraudolenta legata alla Cambogia, dopo l’intervento di WhatsApp.