Kamboçya merkezli suç amaçlı dolandırıcılık operasyonunu sekteye uğratmak
OpenAI, yatırım, aşk, kumar ve kimliğe bürünme dolandırıcılıklarını desteklemek için ChatGPT kullanan Kamboçya merkezli bir operasyonu sekteye uğrattı.
Giriş
Bu yılın başlarında, yatırım, aşk, kumar ve kolluk kuvvetlerinin kimliğine bürünme dolandırıcılıklarını desteklemek için ChatGPT kullanan Kamboçya merkezli bir operasyonu sekteye uğrattık. Bu faaliyeti WhatsApp'taki meslektaşlarımızdan gelen bir ihbar üzerine incelemeye başladık ve o zamandan bu yana sektördeki ortaklarımızla ve ilgili makamlarla başka tehdit sinyalleri de paylaştık.
Bu operasyon, günümüz dolandırıcılık ağlarıyla ilgili önemli bir gerçeği ortaya koyuyor: Organize suç grupları kendilerini nadiren tek bir dolandırıcılık türüyle sınırlar. Bunun yerine, kurbanları aldatmada en etkili olacağını düşündükleri her türlü anlatıdan, sahte kimlikten ve taktikten fırsatçı biçimde yararlanırlar. İncelemelerimizde, aktörlerin farklı dolandırıcılık türlerine geçtiğini veya tek bir operasyonda birden fazla dolandırıcılık tekniğini birleştirdiğini sıkça gözlemliyoruz.
Ağdaki bazı kullanıcılar, insan ticareti ve zorla suç işletmeyle bağlantılara işaret eden içerikler de üretti. Bu gözlemler, Güneydoğu Asya'da işçileri meşru iş vaatleriyle işe aldıktan sonra borç esareti ve zorlama düzenlerine hapseden organize suç gruplarını konu alan(yeni bir pencerede açılır) kapsamlı kamuya açık haberlerle(yeni bir pencerede açılır) örtüşüyor. Olaya karışan her kişinin içinde bulunduğu koşulları bağımsız olarak belirleyemesek de bu faaliyet, dolandırıcılık yapan kişilerin kendilerinin de sömürü mağduru olabileceğini hatırlatıyor.
Aktör
Büyük olasılıkla Kamboçya kaynaklı olan ve muhtemelen Banteay Meanchey ilindeki Poipet şehri veya çevresinde faaliyet gösteren koordineli bir ChatGPT hesapları ağını yasakladık. Kamuya açık haberlerde(yeni bir pencerede açılır) bu şehir, çevrim içi dolandırıcılık yerleşkeleri ve insan ticareti operasyonlarıyla defalarca(yeni bir pencerede açılır) ilişkilendirilmiştir(yeni bir pencerede açılır).
Ağ; sahte çevrim içi kimlikler oluşturup kullanmak, dolandırıcılık hedeflerine gönderilen mesajları üretip çevirmek, hileli planları için tanıtım içerikleri hazırlamak ve günlük operasyonlara yardımcı olmak amacıyla modellerimizi kullandı.
Daha önce sekteye uğrattığımız diğer(yeni bir pencerede açılır) dolandırıcılık ağlarında olduğu gibi, bazı kullanıcılar ChatGPT'yi şirket içi duyurular hazırlamak, çalışanlar arasındaki mesajları çevirmek ve işe alım, göçmenlik durumu, çalışma koşulları ve çalışan disipliniyle ilgili görünen konuları belgelemek gibi idari işler için de kullandı.
Davranış
Ağ, çoğu zaman farklı planların unsurlarını harmanlayarak aynı anda birden fazla dolandırıcılık türü yürüttü. Örneğin operatörler, kripto paralar ve spot altın alım satımıyla ilgili hileli yatırım fırsatları sunmadan önce güven oluşturmak için flört kimlikleri kullandı. Diğer kullanıcılar ise sahte kimliklerle hedefleri uzun romantik sohbetlere çekti, sahte bonuslar ve kazançlar sunan çevrim içi kumar platformlarının temsilcileri gibi davrandı veya kolluk kuvvetlerinin kimliğine bürünerek hedeflere ciddi suçlar işledikleri için para cezası ödemeleri gerektiğini söyledi.
Anlatılar farklılık gösterse de ağdaki kullanıcılar sürekli olarak aynı temel aldatıcı davranış kalıbını sergiledi. Örneğin sahte flört profilleri ve yatırım uzmanı kimliklerinin yanı sıra kolluk kuvvetlerine aitmiş gibi görünen sahte kimlikler oluşturup kullandılar. Ayrıca pasaportlar, yasal bildirimler, hisse senedi satın alma onayları ve kumar platformu arayüzleri dâhil olmak üzere sahte belge görselleri ürettiler.
Daha(yeni bir pencerede açılır) önceki(yeni bir pencerede açılır) raporlarımızda(yeni bir pencerede açılır) vurguladığımız gibi dolandırıcılar, hedeflerle etkileşimlerinde yoklama (temas kurma), duygulandırma (duygu yaratma) ve vurgun (para alma) olarak adlandırdığımız yaygın bir kalıp izledi.
Yoklama: Ağ, WhatsApp ve Telegram gibi mesajlaşma platformlarında hedeflerle yapılan konuşmaları çevirmek ve oluşturmak için ChatGPT'yi kullandı. Dolandırıcılar ayrıca sahte kimliklerini desteklemek için sosyal medya içerikleri oluşturdu ve flört profillerinde kullanabilecekleri materyalleri araştırdı.
Duygulandırma: Dolandırıcıların mesajlarında sıklıkla duygusal baskı ve güven oluşturma tekniklerinden yararlanıldı. Bunlar arasında garantili getiri ve “risksiz” yatırım vaatleri, romantik ifadeler, konuşmaların gizli tutulması yönündeki talimatlar ve hayalî bonusların süresi dolmadan önce harekete geçilmesini isteyen acil çağrılar vardı.
Vurgun: Dolandırıcılar, sözde ödülleri açmak için kurbanlara para yatırmalarını, etkinleştirme ücretleri ödemelerini ve hayalî para cezalarını kapatmalarını; ardından ödeme kanıtı olarak para transferi ekran görüntülerini veya hesap bilgilerini sunmalarını söyledi.

Ağdaki bir dolandırıcının ChatGPT kullanarak oluşturduğu sahte kripto para alım satım arayüzü.

Ağdaki bir dolandırıcının sahte bir yatırım planını tanıtmak için oluşturduğu yapay zekâ üretimi görsel.
İnsan Ticareti Göstergeleri
Dolandırıcılıkların yanı sıra bazı kullanıcılar, tespit edip sekteye uğrattığımız insan ticareti veya zorla çalıştırma gibi diğer ihlal niteliğindeki faaliyetlere karışıldığına işaret eden içerikler üretti. Bunlar arasında Poipet'te uçuş, konaklama, yemek, vize ve çalışma izni vadeden “mesajlaşma görevlisi” işleri için sosyal medya reklamları oluşturmak da vardı.
Diğer faaliyetlerin ise operasyon bünyesindeki çalışanların idaresiyle ilgili olduğu görüldü. Kullanıcılar çalışanların borçları, maaş kesintileri, disiplin cezaları ve kredi geri ödemelerine ilişkin kayıtlar tuttu; göçmenlik durumu, çalışma izinleri, vize süresinin aşılması ve işe alım teşvikleri hakkındaki görüşmeleri çevirdi.
Bazı konuşmalarda ayrıca alıkoyma, kaçma girişimleri ve insan ticaretine maruz bırakılıp dolandırıcılık operasyonlarında çalışmaya zorlanan kişilerin karşılaşabileceği cezai sorumluluklardan söz ediliyordu. Bu konuşmalar belirli bir kişinin içinde bulunduğu koşulları saptamamıza imkân vermese de Güneydoğu Asya'daki organize suç gruplarının faaliyetlerini konu alan(yeni bir pencerede açılır) kapsamlı kamuya açık haberlerle(yeni bir pencerede açılır) örtüşüyor.


Ağdaki dolandırıcıların Kamboçya'daki iş ilanlarını sosyal medyada tanıtmak için oluşturduğu yapay zekâ üretimi görseller. Karartmalar OpenAI tarafından eklenmiştir.
Etki
Bu operasyonla ilişkili ChatGPT hesaplarını yasakladık, ilgili göstergeleri sektördeki ortaklarımız ve yetkili makamlarla paylaştık ve bu aktörlerin ürün ve hizmetlerimize yeniden erişmesini zorlaştıracak adımlar attık.
Ağla ilişkili mali kayıpların toplam boyutu bilinmiyor ancak dolandırıcıların kendi yazışmalarına göre operasyon, birden fazla dolandırıcılık türünde yüzlerce hedefle etkileşime geçmiş olabilir. Kullanıcı konuşmalarında bazı kurbanların binlerce dolar kaybettiği belirtiliyordu ancak bu iddiaları bağımsız olarak doğrulayamıyoruz.
Daha genel olarak bu vaka iki eğilimi pekiştiriyor. Birincisi, organize dolandırıcılık ağları tek bir dolandırıcılık türüne sıkı sıkıya bağlı kalmak yerine aynı anda birden fazla hileli plan yürüterek faaliyetlerini büyük ölçüde çeşitlendirebilir. İkincisi, çevrim içi dolandırıcılık, organize suç ve insan ticareti arasındaki sınırlar çoğu zaman belirsizdir. Bu nedenle etkili bir müdahale, yalnızca kurbanları hedef alan dolandırıcılık faaliyetlerine değil, bunları düzenleyip bunlardan kazanç sağlayan suç örgütlerine de odaklanmayı gerektirir.