“Yanlış Numara” Operasyonu: Yapay zekâ destekli görev dolandırıcılığı
OpenAI, muhtemelen Kamboçya kaynaklı olan ve Birleşik Krallık'taki kişileri hedef alan dolandırıcılık iş akışlarını yapay zekâyla destekleyen hesapları engelledi.
Bu vaka çalışması ilk olarak OpenAI'ın Haziran 2025(yeni bir pencerede açılır) raporunda yayımlandı.
Aktör
İngilizce, İspanyolca, Svahili, Kinyarwanda, Almanca ve Haiti Kreolcesinde kısa işe alım mesajları oluşturan ChatGPT hesaplarını engelledik. Bu mesajlarda alıcılara sosyal medya gönderilerini beğenmek gibi basit işler karşılığında yüksek ücretler teklif ediliyor ve başkalarını işe almaları teşvik ediliyordu. Operasyon oldukça merkezî bir yapıya sahip görünüyordu ve muhtemelen Kamboçya kaynaklıydı.
Yapay zekâ destekli çeviri araçlarını kullanarak kampanyanın OpenAI hizmetlerinden yararlanma biçimini hızla araştırıp sekteye uğratabildik.
Davranış
Ağın etkileşimlerinin büyük bölümü çeviri görevleriyle ilgiliydi. ChatGPT'yi Çince ile başta İngilizce, İspanyolca, Kinyarwanda, Svahili, Almanca ve Haiti Kreolcesi olmak üzere çeşitli diller arasında günlük konuşma cümlelerini çevirmek için kullandılar. Bu görevlerde genellikle gelen bir mesaj önce Çinceye, ardından Çince verilen yanıt tekrar özgün dile çevriliyordu.
Bu mesajların bir bölümü, çok az çalışma karşılığında yüksek saatlik ücret sunan soğuk iletişim yöntemiyle gönderilmiş iş ilanlarını andırıyordu. Bu tür mesajlardan biri, rastgele seçilmiş görünen Birleşik Krallık cep telefonu numaralarına SMS ile gönderilmişti; numaralardan biri bir OpenAI araştırmacısına aitti. İlk SMS'e atfen bu operasyona “Yanlış Numara” adını verdik.
ChatGPT kullanılarak oluşturulup rastgele bir OpenAI araştırmacısına gönderilen SMS.
Tehdit aktörlerinin birden fazla mesajlaşma platformundan yararlandığı görülüyordu. İlk SMS, alıcıları WhatsApp üzerinden iletişime geçmeye yönlendiriyor; yanıt verenler ise daha sonra Telegram'daki bir “mentora” aktarılıyordu. Bazı faaliyetlerde BonChat mesajlaşma uygulamasından da söz ediliyordu. Bu kanallardan gönderilen ilk tanışma mesajlarının modellerimiz kullanılarak oluşturulduğu düşünülmüyor. Bunlar, muhtemelen her konuşmada kullanılabilecek standart mesajlardan oluşuyordu.
SMS'in ardından gönderilen WhatsApp takip mesajı. Bu mesajın modellerimiz tarafından oluşturulduğu düşünülmüyor.
Çeviri görevlerinin birçoğunda, sözde “işveren” şirketlerin temsilcilerinden geldiği iddia edilen yazışmalar yer alıyordu. Aynı şirket adları, bu soruşturma kapsamındaki çok sayıda ChatGPT konuşmasında tekrar tekrar karşımıza çıktı. Bunlar arasında Hyesung Advertising(yeni bir pencerede açılır) ve Lightning Shared Scooter Co (LSSC)(yeni bir pencerede açılır) bulunuyordu. Kamuya açık haber ve raporlarda Hyesung ile LSSC'nin görev dolandırıcılığı yaptığı öne sürülüyor. Bu kuruluşların niteliğini bağımsız olarak doğrulamamış olsak da soruşturmamız, sözde bu kuruluşlardan gelen mesajların muhtemelen Kamboçya'da faaliyet gösteren, Çince konuşan ChatGPT kullanıcıları tarafından oluşturulduğunu ortaya koydu.
Çıktılar
Bu ağın temsil ettiğini iddia ettiği şirketler; hisse senedi alım satımından scooter kiralamaya ve sosyal medya beğenisi satmaya kadar çok çeşitli sektörlerde faaliyet gösteriyordu. Tek bir TikTok beğenisi için 5 dolardan fazla ödeme teklif edilmesi açık bir tehlike işaretiydi. Buna karşılık, çevrim içi pazar yerlerinde yaptığımız manuel incelemede bazı sosyal medya beğenisi satıcılarının 1.000 beğeni için 10 dolardan az ücret aldığı görüldü.
Platform dışındaki göstergeleri şirket içi gözlemlerimizle birleştirerek yinelenen bir iş akışı kalıbı belirledik. Bu taktiğin daha iyi anlaşılmasını sağlamak ve sınıflandırılmasını kolaylaştırmak için kalıbı şöyle tanımlıyoruz: temas (soğuk iletişim), heveslendirme (heyecan yaratma) ve vurgun (para alma):
Temas (soğuk iletişim): Ağ, tanımadıkları kişilere ulaşmak amacıyla genellikle çok az çalışma karşılığında olağan dışı yüksek ücretler veya borsa yatırımlarından yüksek getiri vadeden içerikler oluşturur. Bu tekliflerde sosyal medya gönderilerini beğenmek gibi basit işler için yüksek ücretler veya kazançlı yatırım fırsatları sunulur.
Heveslendirme (heyecan yaratma): Ağ, muhtemelen operatör ile “çalışanları” arasındaki konuşmaları çevirir. Bu yazışmalarda görevlerle ilgili lojistik ayrıntılar bulunur ancak bunların arasına sık sık kazançlar ve olası ikramiyeler hakkında motive edici mesajlar serpiştirilir.
Vurgun (para alma): Ağ, “çalışanı” veya “yatırımcıyı” daha büyük ödüllerin kilidini açmak için para yatırmaya zorlayan içerikler oluşturur ve/veya gönderir. Bu, başlangıçta alınan bir “depozito”, kripto para alımları ve “işlem ücretleri” gibi çeşitli biçimlerde gerçekleşir.
ChatGPT kullanılarak oluşturulan ve bu ağ tarafından dağıtılan bir soğuk iletişim mesajı örneği. Mesaj, aynı anda sekiz telefon numarasına gönderildi; bu numaraların hiçbiri alıcının kişi listesinde değildi. Alıcılardan biri gruptan hemen ayrıldı.
Ağın potansiyel bir mağdura gönderdiği, 20 sterlin değerinde kripto para satın alıp adı belirtilmeyen bir satıcıya aktarmasını isteyen Telegram mesajı.
Kamuya açık haber ve raporlar(yeni bir pencerede açılır), bu şirketlerden bazılarının yeni katılanlardan yüksek giriş ücretleri aldığını ve ardından bu paranın bir bölümünü mevcut “çalışanların” ilgisini sürdürecek kadar ödeme yapmak için kullandığını gösteriyor. Bu yapı, görev dolandırıcılıklarının(yeni bir pencerede açılır) tipik bir özelliğidir.
Etki
Görünürlüğümüz sınırlı olduğundan bu ağın gerçek erişimini ölçmek zor. Ancak platform dışındaki bildirimler(yeni bir pencerede açılır) ve “çalışanların” para iadesi talep ettiği konuşmalar, en azından bazı kişilerin bu sözde işverenlere ödeme yaptığını gösteriyor. Ayrıca gerçek kullanıcıların sosyal medyada bu şirketleri savunduğunu gözlemledik; bu da gerçek dünyada belirli ölçüde etkileşim yaşandığını gösteriyor.