Aşk dolandırıcılıkları: Yapay zekâ destekli iş akışları
OpenAI; ilk temas, çeviri, mağdurlarla iletişim ve yatırım dolandırıcılığı tuzakları dâhil aşk dolandırıcılığı süreçlerini yapay zekâyla destekleyen hesapları yasakladı.
Bu vaka incelemesi ilk olarak OpenAI'ın, yapay zekânın kötü amaçlı kullanımını engellemeye ilişkin Şubat 2026(yeni bir pencerede açılır) raporunda yayımlandı.
Modellerimizi kötüye kullanmaya çalışan dolandırıcılık ağlarına yönelik müdahalelerimizi bir yıl önce(yeni bir pencerede açılır) raporlamaya başladığımızdan beri dünyanın farklı bölgelerindeki birçok dolandırıcılık operasyonunu çökerttik. Bunlar arasında, önemsiz görevlerden elde edildiği iddia edilen ancak gerçekte var olmayan kazançlara erişmek için para yatırmaları gerektiğine mağdurları inandıran “görev” dolandırıcılıkları ile mağdurları gerçekte var olmayan yatırım şirketlerine para yatırmaya ikna eden yatırım dolandırıcılıkları bulunuyordu.
Yapay zekâ çağından çok daha önce de yaygın olan dolandırıcılık türlerinden biri aşk dolandırıcılığıdır. Dolandırıcılar burada potansiyel bir romantik partner gibi davranır, hedeflerini hayatlarının aşkını bulduklarına inandırmaya çalışır ve ardından giderek daha fazla para ister. Yayımladığımız ilk dolandırıcılık müdahalesi, Kamboçya'da yeni kurulmuş ve bazıları sosyal medyada yayılan aşk dolandırıcılığı mesajlarını ChatGPT ile oluşturmuş bir suç operasyonuyla ilgiliydi. O zamandan beri çeşitli aşk dolandırıcılığı girişimlerini engelledik. Haziran ayında(yeni bir pencerede açılır) belirttiğimiz üzere bunlar ve diğer dolandırıcılıklar, yapay zekâ kullanımında genellikle ortak bir örüntü izliyor: temas (soğuk iletişim), duygu (duygu yaratma) ve vurgun (parayı alma).
Temas (soğuk iletişim): Dolandırıcı, potansiyel hedefin ilgi alanlarına hitap ederek dikkatini çekmek üzere içerik üretir. Örneğin geçen yıl bildirdiğimiz “domuz kasaplığı” dolandırıcılığı, sağlık sektöründe çalışan 40'lı yaşlarındaki Amerikalı erkeklerin golfle ilgili sosyal medya gönderilerine yanıt vererek onları sıkça hedef alıyordu. Diğer operasyonlar soğuk SMS mesajları, sahte işe alım mesajları veya en son aşk dolandırıcılığı vakamızda (aşağıda açıklanmıştır) sosyal medya reklamları kullandı. Tehdit aktörleri her vakada, geleneksel dolandırıcılık mesajlarına göre daha ilgi çekici ve ana dili İngilizce olmayan biri tarafından yazıldığı daha az belli olan mesajlar üretmek için ChatGPT'yi kullandı.
2025'te bildirdiğimiz “domuz kasaplığı” ağından golf temalı bir ilk temas mesajı; operasyonla bağlantısı olmayan bir kullanıcının Facebook gönderisine yanıt olarak paylaşılmış.
Duygu (duygu yaratma): Dolandırıcı, hedefte güçlü duygular uyandırarak onu yönlendirmeyi kolaylaştırmak üzere içerik üretir. Aşk dolandırıcılıkları, hedefin dolandırıcıya ilgi duymasını sağlamaya çalışır. Diğer dolandırıcılıklarda hedef; kazançlı olabilecek bir anlaşma konusunda heyecanlandırılabilir, bir fırsatı kaçırmaktan korkutulabilir veya sözde bir hukuki risk ya da ödenmemiş fatura nedeniyle paniğe sevk edilebilir. Bazen duygu aşaması, temas mesajının içine de dâhil edilebilir.
Haziran 2025'te ortaya çıkardığımız “Yanlış Numara” dolandırıcılık operasyonundan gelen soğuk SMS; az çalışmayla gerçekçi olmayacak kadar yüksek kazanç vaatleri içeriyor ve muhtemelen “duygu” etkisi yaratmak üzere tasarlanmış.
Vurgun (parayı alma): Dolandırıcı, hedefi para vermeye ikna etmek üzere içerik üretir. Öne sürülen gerekçeler büyük ölçüde değişebilir. Örneğin aşk dolandırıcılıklarında hedeften sevgilisinin işine yatırım yapması veya mali bir krizi aşmak için para vermesi istenebilir. “Görev” dolandırıcılıkları, hedeflerine kazandıklarını sandıkları (hayalî) paraya erişebilmek için ödeme yapmaları gerektiğini söyler. Yatırım dolandırıcılıkları, hedeflere paralarını gerçekte var olmayan yatırımlara yatırmalarını söyler.
Haziran 2025'te ortaya çıkardığımız “Yanlış Numara” dolandırıcılık operasyonundan gelen soğuk SMS; az çalışmayla gerçekçi olmayacak kadar yüksek kazanç vaatleri içeriyor ve muhtemelen “duygu” etkisi yaratmak üzere tasarlanmış.
Bu akışın da gösterdiği gibi, dağıtım ağı dolandırıcılıkların temel unsurlarından biridir. Ortaya çıkardığımız farklı dolandırıcılık operasyonları ilk temas mesajlarını SMS, şifreli mesajlaşma uygulamaları, sosyal medya gönderileri, çevrimiçi reklamlar veya bunların bir birleşimi üzerinden gönderdi. Yapay zekâ öncesi dönemdeki dolandırıcılıkların ise e-postaları(yeni bir pencerede açılır), telefon aramalarını(yeni bir pencerede açılır), hatta on dokuzuncu yüzyılda mektupları(yeni bir pencerede açılır) ve telgrafları(yeni bir pencerede açılır) kullandığı biliniyor. Birçok dolandırıcılık dağıtımda geniş kitlelere rastgele ulaşmaya çalışırken bazıları hassas hedefleme yapıyor gibi görünüyor. Örneğin Şubat 2025'te bildirdiğimiz(yeni bir pencerede açılır) “domuz kasaplığı” dolandırıcılığı golf gibi konulara odaklandı; başka bir aşk dolandırıcılığı, Endonezya'daki genç erkekleri hedeflemek için sosyal medya reklamlarını kullandı; ünlü dolandırıcılıklarında(yeni bir pencerede açılır) ise genellikle ünlü biri taklit edilerek o kişinin hayran grupları hedeflenir. Kanıtların parçalı yapısı, engellediğimiz farklı dolandırıcılıkları güvenilir biçimde karşılaştırmayı zorlaştırsa da operasyonun farklı işlevlerde yapay zekâyı ne ölçüde kullandığından bağımsız olarak seçilen dağıtım yönteminin (ör. geniş kitlelere rastgele ulaşma veya hedefli dağıtım), her dolandırıcılığın hedeflerine başarıyla ulaşıp onları istismar etmesinde önemli rol oynadığını değerlendiriyoruz.
