Görev dolandırıcılığı: Yapay zekâ destekli sahte yorum işleri

Bu vaka çalışması ilk olarak OpenAI’ın Şubat 2025⁠(yeni bir pencerede açılır) tarihli raporunda yayımlandı.

Urduca ile İngilizce arasında kısa yorumlar çeviren bir grup ChatGPT hesabını yasakladık. Bu yorumlar, mağdurlara yüksek ücretli bir iş teklif edilip sözde “kazançlarına” erişebilmeleri için önce sisteme kendi paralarını yatırmalarının istendiği bir “görev⁠(yeni bir pencerede açılır)” dolandırıcılığıyla tutarlıydı. Bu faaliyetin Kamboçya kaynaklı olduğu görülüyordu. Bu dolandırıcılıklarda mağdurlar genellikle hem sözde “kazançlarını” hem de kendi paralarını kaybediyor. Bu faaliyeti Meta’dan gelen bir ihbarın ardından incelemeye başladık.

Bu ağ, modellerimizi ağırlıklı olarak Urduca ile İngilizce arasında, dolandırıcılarla mağdurları arasındaki yazışmalarla tutarlı kısa yorumları çevirmek için kullandı. Mesajlaşma için Telegram’ın (görünüşe göre ana platformları), WhatsApp’ın ve SMS’in kullanıldığına; ayrıca iş ilanlarının yayımlanabildiği çeşitli istihdam forumları ve gruplarına yönelik atıflar tespit ettik.

Dolandırıcıların başlıca iki farklı kimliğe büründüğü görülüyordu. Bunlardan biri “işe alım uzmanıydı”: Bu kimlikle önceden bağlantısı olmayan kişilere ulaşıyor ve iyi ücretli uzaktan çalışma ilanları yayımlıyorlardı. Daha yoğun faaliyet gösteren diğer kimlik ise “mentordu”. Bu kişi, “işe alım uzmanının” ulaştığı hedeflerle iletişimi sürdürüyor ve onlara işi nasıl yapacaklarını öğretiyordu. Mentorlar, Telegram’daki eğitim oturumlarından çok sık söz ediyordu.

Dolandırıcılar zaman zaman web sitelerindeki metinleri düzeltmek için de modellerimizi kullandı. Bu sitelerin lüks tasarım, moda ve seyahat markalarının adlarını ve görünümlerini taklit ettiği anlaşılıyor. “Mentor” kimliğindeki kişiler bu markalar adına işe alım yaptıklarını iddia ediyordu. Bu da web sitelerinin dolandırıcılığı daha inandırıcı göstermek için kullanılmış olabileceğine işaret ediyor.

Sınırlı görünürlüğümüze dayanarak dolandırıcıların, hedefleriyle ilk temastan dolandırıcılık aşamasına geçerken yaygın bir iş akışını izlediği anlaşılıyor:

1. İş ilanı: Dolandırıcılar, istemlerine ve üretilen içeriklere göre işe çeşitli çevrimiçi forumlarda iş ilanları yayımlayarak başlamış görünüyor. İşe alım mesajlarında genellikle uzaktan çalışmadan söz ediliyor ve az miktarda işe kıyasla görece yüksek ücretler sunuluyordu. Örneğin birkaç saatlik çalışma karşılığında günlük 300 dolar ve ek prim vaat ediliyordu. Bu ilanları genellikle “işe alım uzmanı” kimliğindeki kişiler yayımlıyordu.

2. İşe alım: Dolandırıcılar daha sonra “mentor” kimliğiyle mesajlar oluşturuyor, çeşitli mesajlaşma uygulamalarını kullanarak potansiyel çalışanlarla iletişime geçiyor ve “işe alım uzmanıyla” birlikte çalıştıklarını söylüyordu. “Mentor”, operasyonun adına web sitesi kurduğu lüks markalardan biri için çalıştığını iddia ediyordu. Görevi, sözde müşteri puanlarını yükseltmek amacıyla bu lüks markaların sitelerine beş yıldızlı yorumlar göndermek olarak tanımlıyorlardı.

3. Güven verme: Dolandırıcılar, üretilen içeriklerde hedeflerine çoğu zaman işin köklü bir şirket adına yürütüldüğü için meşru olduğu güvencesini veriyordu. Hedef tedirginlik gösterirse dolandırıcı, kendisinin de daha önce dolandırıldığını ancak bu fırsatın güvenli olduğunu iddia ediyordu.

4. Eğitim: Hedef ilgisini sürdürürse üretilen içerikler, “mentorun” genellikle Telegram üzerinden eğitim teklif edeceğini gösteriyordu. Hedefe önce günde 25-35 yorum görevini tamamlamasının beklendiği bir “eğitim hesabına” erişim veriliyordu. “Eğitim hesabı”, hedefin sözde “kazancının” hızla arttığını gösteriyordu.

5. Heyecanlandırma: Hedef eğitime devam ederse üretilen içeriklere göre çoğu zaman daha yüksek prim vadeden “özel” veya “nihai” bir yorum görevi teklif ediliyordu. “Mentor”, bunun ne kadar nadir olduğunu ve hedefin ne kadar şanslı olduğunu vurguluyordu.

6. “Etkinleştirme ücreti”: Hedefin sözde “kazancı” belirli bir düzeye ulaştığında “mentor”, parayı çekebilmesi için bir “etkinleştirme ücreti” ödemesi gerektiğini söylüyordu. Gerekirse dolandırıcı, hedefi parayı arkadaşlarından veya ailesinden borç almaya teşvik ediyordu.

7. Baskı kurma: Üretilen içerikler, hedef para ödemeye yanaşmazsa dolandırıcının giderek saldırganlaştığını gösteriyordu. Hedefi daha verimli çalışanlarla kıyaslayarak ve ödeme yapmazsa kazancını kaybedeceğini söyleyerek baskı kuruyordu.

8. Bahane üretme: Üretilen içeriklerde hedefin para ödediğine dair bir işaret varsa dolandırıcı, kazancın neden çekilemediğine ilişkin peş peşe bahaneler üretiyor ve çoğu zaman daha fazla ödeme yapılması gerektiğini söylüyordu.

Bazı konuşmalar hedeflerin son derece şüpheci olduğunu gösteriyordu. Dolandırıcıların oluşturduğu bazı yorumlarda da mentor, hedefin mesajlaşmayı neden bıraktığını soruyordu. Bu durum, dolandırıcılığın genel başarı oranının muhtemelen düşük olduğuna işaret ediyor. Ancak bazı konuşmalar ve çevrimiçi raporlar, mağdurların en azından bir bölümünün bu dolandırıcılıklara gerçekten para yatırdığını gösteriyor. Araçlarımızın dışında gerçekleşen faaliyetleri bağımsız olarak doğrulayamıyoruz.

OpenAI politikaları, araçlarımızın çıktılarının sahtekârlık veya dolandırıcılık amacıyla kullanılmasını kesinlikle yasaklar. Yapay zekânın kötü niyetli davranışları nasıl etkilediğini anlamak ve hizmetlerimizi kötüye kullanan dolandırıcılık faaliyetlerini etkin biçimde engellemek için sektördeki diğer kuruluşlar ve yetkili mercilerle iş birliği yapmaya kararlıyız. Bu taahhüdümüz doğrultusunda, ortak güvenliğimizi artırmak amacıyla engellediğimiz dolandırıcılık ağlarına ilişkin bilgileri sektördeki diğer kuruluşlarla ve ilgili yetkili mercilerle paylaştık.