Dolandırıcılık operasyonları: Çevrimiçi dolandırıcılık ağları

Bu vaka çalışması ilk olarak OpenAI’ın Ekim 2025⁠(yeni bir pencerede açılır) tarihli raporunda yayımlandı.

Kökeninin Kamboçya, Myanmar ve Nijerya olduğu düşünülen ağlar, insanları internette dolandırmaya yönelik görünen girişimlerde ChatGPT’yi kötüye kullanıyor.

Modellerimizi zararlı amaçlarla kötüye kullanma girişimlerini tespit etmeye, önlemeye ve engellemeye kararlıyız. Bu kötüye kullanım biçimleri arasında dolandırıcılık da bulunuyor. Modellerimizi insanları kandırmak ve dolandırmak için kullanmaya çalışan kötü niyetli aktörleri tespit edip engelliyoruz. Son üç ay içinde, kökeninin Kamboçya, Myanmar ve Nijerya olduğu düşünülen dolandırıcılık ağlarını engelledik. Yapay zekânın dolandırıcılıkla mücadelede oynayabileceği rolün bir göstergesi olarak, bu kötüye kullanım örüntülerini araştırırken modellerimizden dolandırıcılık girişimlerini tespit etmek için yararlanan pek çok kişi de gördük. Bu raporda her iki kullanım biçimi de ele alınıyor.

Modellerimizin dolandırıcılığı desteklemek amacıyla kötüye kullanılması, tek başına hareket eden dolandırıcılardan organize suç gruplarıyla bağlantılı olduğu düşünülen geniş ölçekli ve sürekli operasyonlara kadar uzanıyor. Kökenleri ve kullandıkları taktikler ne olursa olsun, engellediğimiz dolandırıcılık faaliyetleri genellikle ortak bir örüntü izliyor: temas (beklenmedik ilk iletişim), kışkırtma (heyecan veya panik yaratma girişimi) ve vurgun (para ya da değerli bilgi ele geçirme).

Bu dolandırıcılar işe, sosyal medya reklamları da dâhil olmak üzere mesajlaşma hizmetlerinde ve internette yapay zekâyla üretilmiş veya üretilmemiş içerikler yayarak başlıyor. Ardından yanıt veren kişilerde kazançlı bir fırsata karşı heyecan ya da yaklaşan bir maddi kayba ilişkin korku uyandırmaya çalışıyor ve bu duygudan yararlanarak hedeflerini para veya hassas bilgi vermeye ikna ediyorlar.

Modellerimizin insanları dolandırıcılıktan korumaya yardımcı olmuş olabileceği çok sayıda vaka da gözlemledik. İnsanların çevrimiçi dolandırıcılıkları tespit edip bunlardan kaçınmak için ayda milyonlarca kez ChatGPT’den yararlandığına dair kanıtlar gördük. Bu rapordaki her dolandırıcılık operasyonunda modelin insanlara dolandırıcılığı doğru şekilde tespit etme ve uygun güvenlik önlemlerini alma konusunda yardımcı olduğunu gözlemledik. Mevcut tahminimize göre ChatGPT, dolandırıcılık yapmak için kullanıldığından üç kata kadar daha sık dolandırıcılığı tespit etmek için kullanılıyor.

Bir OpenAI araştırmacısının kendisine gelen dolandırıcılık amaçlı SMS’in ekran görüntüsünü ChatGPT’ye yükleyerek mesajın dolandırıcılık olduğunu başarıyla tespit etmesine ilişkin örnek. Bu olayda tehdit aktörleri TikTok işe alım görevlilerini taklit etmeye çalıştı.

Son raporumuzdan bu yana dolandırıcılıkları tespit etme ve engelleme kapasitemizi daha da güçlendirdik. Kökeninin Kamboçya, Myanmar ve Nijerya olduğu düşünülen başka dolandırıcılık ağlarını da engelledik. Önceki müdahalelerimizle birlikte bu operasyonlar, farklı ülkelerdeki çok sayıda dolandırıcılık faaliyeti arasında beliren bazı eğilimleri tespit etmemizi sağlıyor.

Engellediğimiz dolandırıcılık faaliyetlerinin çoğunda, yapay zekâ merkezli yeni yöntemler geliştirmek yerine mevcut dolandırıcılık yöntemlerine yapay zekâ dâhil ediliyordu. Bu yıl tespit edip engellediğimiz tüm dolandırıcılık operasyonları, yapay zekâyı öncelikle ölçeği büyütme ve verimliliği artırma aracı olarak kullandı. Bu genellikle modellerimizin çeviri yapmak, mesaj yazmak ve sosyal medya içeriği oluşturmak için kullanılmasını kapsıyordu.

Örneğin kısa süre önce, kökeninin Kamboçya ve Nijerya olduğu düşünülen ve farklı ülkelerdeki mağdurları dolandırmak için “yatırım şirketi” kılığına giren operasyonları engelledik. Dolandırıcılar sahte şirketleri tanıtmak için web siteleri ve çevrimiçi reklamlar oluşturdu; insanları özel mesajlaşma gruplarına davet etmek için de yatırım uzmanı gibi davranan, muhtemelen sahte sosyal medya hesapları kullandı. Kazançlı ve sıfır riskli gelir fırsatları vadeden tehdit aktörleri, potansiyel mağdurları hayalî yatırım platformlarına para yatırmaya ikna etmeye çalıştı. Dolandırıcılar tüm operasyonlarda modellerimizi öncelikle yazışma üretmek ve çevirmek, web siteleri ile sosyal medya hesapları için içerik oluşturmak ve temel araştırmalar yapmak amacıyla kullandı.

Başka bir vakada ise büyük olasılıkla Myanmar’da bulunan ve modellerimizi hem dolandırıcılık planlarına içerik üretmek hem de günlük işlerini yürütmek için kullanan bir dolandırıcılık merkezini engelledik. Bu işler arasında programları düzenlemek, kurum içi duyurular hazırlamak, çalışma masası ve yatakhane yerleşimlerini belirlemek ve finansal hesapları yönetmek vardı. Bazı operatörler, çevrimiçi dolandırıcılık yaparken yakalanan kişilere verilen cezaları sordu.

Engellediğimiz dolandırıcıların tümü modellerimizi aynı şekilde veya aynı karmaşıklık düzeyinde kullanmadı. Dolandırıcıların ChatGPT ile etkileşimlerinin çoğu çeviri gibi nispeten basit görevlerden oluşuyordu ancak bazı dolandırıcılık operasyonları daha iddialı ve ayrıntılıydı.

Örneğin engellediğimiz ve kökeninin Kamboçya olduğu düşünülen bir dolandırıcılık operasyonu, sahte yatırım uzmanları ile sahte yatırım şirketlerinin hayalî çalışanları için ayrıntılı özgeçmişler oluşturmak amacıyla modellerimizi kullandı. Dolandırıcılar daha sonra ChatGPT’den bu kişilerin ağzından sosyal medya mesajları yazmasını istedi. Tehdit aktörleri çoğu zaman hedeflerinden gelmiş gibi görünen mesajları modelimize girip konuşmayı sahte kimlikle sürdürmesini istedi.

Yine kökeninin Kamboçya olduğu düşünülen ikinci bir dolandırıcılık operasyonu, modellerimizi ABD’deki telefon numaralarına toplu olarak gönderilen, önceden iletişim kurulmamış kişilere yönelik SMS’ler üretmek için kullanarak işe başladı. Haziran ayında bildirdiğimiz vakaya benzer şekilde bu mesajlardan biri bir OpenAI araştırmacısına gönderildi. Bu SMS’lerde, adları gerçek bir yatırım şirketini andıran ve daha sonra engellenen WhatsApp gruplarına katılım davetleri bulunuyordu.

OpenAI araştırmacısına gönderilen bir dizi WhatsApp mesajına göre potansiyel bir hedef bu gruplardan birine katıldığında, yatırım hakkında konuşan altı kadar farklı hesap arasındaki bir “sohbete” hemen tanık oluyordu. Bu hesaplardan biri “yatırım uzmanı”, diğerleri ise farklı güven ve deneyim düzeylerine sahip yatırımcılar gibi davranıyordu. Bu sohbetin tamamı dolandırıcılar tarafından oluşturulup Çince aslından tek parça hâlinde çevrilmişti. Amaç muhtemelen hevesli ve başarılı yatırımcılardan oluşan canlı bir grup izlenimi yaratmaktı. Sonunda “yatırım uzmanı”, hedefteki kişiye yatırım yapmayı denemesini öneriyordu.

Bundan ayrı olarak, kökeninin büyük olasılıkla Nijerya olduğu düşünülen bir yatırım dolandırıcılığı operasyonu; Latin Amerika’daki varlıklı kişilere sosyal medya reklamlarıyla nasıl ulaşılacağı, konumun nasıl gizleneceği ve sosyal medya platformlarının kısıtlamalarından nasıl kaçınılacağı konusunda modelden adım adım tavsiye istedi. Bunun için modeli bir platformun herkese açık hizmet şartlarına yönlendirip önerilen reklam içeriğinin bu şartlara uygunluğunu incelemesini istediler.

Dolandırıcılar, özellikle de büyük ölçekli dolandırıcılık merkezleri, ısrarcıdır. Faaliyetleri engellendiğinde genellikle davranışlarının bazı unsurlarını değiştirerek ihlal niteliğindeki faaliyetlerine yeniden başlamaya çalışıyorlar; muhtemelen amaçları tekrar tespit edilmekten kaçınmak. Bu nedenle, OpenAI ve Meta’nın daha kapsamlı araştırma ve yaptırımlara katkıda bulunan tehdit aktörü bilgilerini paylaşması örneğinde olduğu gibi, bu aktörlerin değişen faaliyetlerine ilişkin bulguların sektör genelinde paylaşılması önem taşıyor.

Muhtemelen müdahalelere veya yapay zekâ kullanımını ele verebilecek işaretlere ilişkin daha geniş çaplı çevrimiçi tartışmalara yanıt olarak, dolandırıcıların çevrimiçi içeriklerde ve hedefleriyle iletişimlerinde yapay zekâ kullandıklarını gizlemeye çalıştıklarını gördük. Buna, kökeninin Kamboçya olduğu düşünülen dolandırıcılık operasyonlarının modelden çıktılardaki uzun tireleri kaldırmasını istemesi de dâhil.

Bir vakada dolandırıcılar, sosyal medya varlıklarının geniş çapta engellenmesini, neden engellendiklerine dair bir bahane uydurarak açıklamaya çalıştı. Bu vaka, yukarıda açıklanan ve SMS ile WhatsApp üzerinden faaliyet gösteren, kökeninin Kamboçya olduğu düşünülen dolandırıcılık merkeziyle ilgiliydi. WhatsApp operasyona bağlı “yatırım gruplarını” engelledikten sonra operatörler, muhtemelen bu engellemeleri açıklamak amacıyla grupların bir rakip tarafından haksız yere şikâyet edildiğini iddia eden mesajlar üretmeye başladı.

Kamboçya bağlantılı dolandırıcılık operasyonunun, WhatsApp’ın müdahalesinden sonra bir OpenAI araştırmacısına gönderdiği WhatsApp mesajının ekran görüntüsü.