“Sahte Tanık” Operasyonu: Yetkilileri taklit eden sahte para kurtarma hizmeti

Bu vaka çalışması ilk olarak OpenAI'ın, yapay zekânın kötü amaçlı kullanımlarını engellemeye ilişkin Şubat 2026⁠(yeni bir pencerede açılır) raporunda yayımlandı.

Modellerimizi kullanarak hayalî hukuk büroları gibi davranan, gerçek avukatları ve ABD kolluk kuvvetlerini taklit eden bir grup ChatGPT hesabını yasakladık. Bu hesaplar, dolandırıcılık mağdurlarını kaybettikleri parayı geri alma vaadiyle hedefliyordu. Bu faaliyet büyük olasılıkla Kamboçya kaynaklıydı ve ülkedeki Çinlilerin yönettiği suç amaçlı dolandırıcılık operasyonlarına ilişkin yakın tarihli kamuya açık haberlerle örtüşüyordu.

Hesaplar, sahte hukuk bürolarına ve gerçek avukatlar ile FBI İnternet Suçları Şikâyet Merkezi (IC3) gibi güvenilir kuruluşların taklit edilmesine dayanan, dolandırıcılık kayıplarını geri alma vaadiyle yürütülen bir dolandırıcılık operasyonunu desteklemek için ChatGPT'yi kullandı.

1. Temas: Dolandırıcılar, en az altı sahte hukuk bürosundan geliyormuş gibi gösterilen içerikler oluşturmak için ChatGPT'yi kullandı. Bu içeriklerin bir kısmı daha sonra hayalî para kurtarma hizmetlerini tanıtan sosyal medya hesaplarında ve çevrimiçi reklamlarda yayımlandı. Eyalet barosu ruhsatlarına dair hiçbir kanıt bulunmaması, faaliyetleriyle uyuşmayan web alan adları kullanılması, mevcut görünmeyen adreslerin iletişim bilgisi olarak verilmesi ve avukatlarla mesajlaşma uygulamaları üzerinden iletişime geçilmesinin istenmesi gibi kamuya açık birçok gösterge, bu büroların sahte olduğuna işaret ediyordu.

2. İkna: Dolandırıcılar, dolandırıcılık mağdurlarının maddi kayıplarını geri almalarına yardımcı olma konusunda uzman avukatların üslubunu ve profesyonelliğini taklit eden yorumlar oluşturarak hedeflerinin güvenini kazanmaya çalıştı. Avukat kimliklerinden geliyormuş gibi gösterilen içerikler oluşturdular. Bu sahte kimliklerden bazılarını çeşitli web sitelerinde tespit ettik; profil fotoğrafları görünüşe göre sosyal medyadan alınmış veya yapay zekâyla oluşturulmuştu. Dolandırıcı bazı durumlarda aynı “avukat” kimliklerini birden fazla sözde hukuk bürosunda yeniden kullandı. Tespit ettiğimiz web sitelerinden biri IC3'ü taklit ediyordu.

Bu çeşitli dolandırıcılık sitelerinde yayımlanan iletişim bilgileri, ziyaretçileri Telegram gibi özel mesajlaşma uygulamalarına yönlendiriyordu. Dolandırıcılar, ChatGPT kullanılarak hazırlanan ve hedeflere gönderilen mesajlarda Uluslararası Ceza Mahkemesinin gözetiminde faaliyet gösterdiklerini ve mağdurun parasının tamamı başarıyla geri alınana kadar hiçbir ücret talep edilmeyeceğini asılsız biçimde öne sürdü.

3. Vurgun: Dolandırıcılar, herhangi bir “kurtarma” işlemi yapılmadan önce ücret ve ön ödeme talep ederek hedeflerinden para almaya çalıştı. Bunun için sözde kurtarılan para teslim edilmeden önce hedeflerden %15 “hizmet ücreti” ödemeleri, bir hesabı etkinleştirmek için para yatırmaları istendi ve “danışmanlık ücretleri” alındı. Dolandırıcıların ChatGPT kullanılarak hazırlanan mesajlarında, hedeflerden kripto para ödemesi yapmaları ve ödeme kanıtı olarak işlem onaylarının ekran görüntülerini göndermeleri isteniyordu.

Operasyon, sosyal medyaya yönelik tanıtım içerikleri ve hedeflere gönderilecek ilk temas mesajları oluşturmak gibi iş akışının birçok aşamasını desteklemek için modellerimizi kullandı. Ancak dolandırıcılar ChatGPT'yi en çok, özel mesajlaşma uygulamalarında hedeflerle yaptıkları yazışmaları çevirmek için kullandı; buna “Amerikan İngilizcesiyle” veya bir avukat üslubuyla yanıt yazma talepleri de dâhildi.

Dolandırıcılık hesaplarının bir bölümü, güvenilirliklerini artırmayı amaçlayan yanıltıcı materyaller oluşturmak için de modellerimizi kullandı. Bunlar arasında sahte avukat sicil kayıtları, sahte baro üyelik kartları ve mağdurları dışarıdan yardım istemekten caydırmayı amaçlayan asılsız gizlilik sözleşmeleri bulunuyordu.

Başlıca kanıt kaynaklarından biri dolandırıcıların kendi girdileri olduğundan, etkiyi değerlendirirken dikkatli olmak gerekir. Bu girdiler, dolandırıcıların bazı mağdurlardan binlerce dolar almış olabileceğine işaret ediyor; ancak bu iddiaları bağımsız olarak doğrulayamıyoruz. FBI ve kimliği taklit edilen en az bir hukuk bürosu, bu dolandırıcılık hakkında kamuya açık uyarılar yayımladı. FBI yetkilileri, operasyonun dolandırıcılık mağdurlarının duygusal durumundan ve kaybettikleri parayı hızla geri alma isteğinden yararlanarak başta yaşlılar olmak üzere savunmasız kitleleri hedeflediği konusunda uyardı.

OpenAI politikaları, araçlarımızın çıktılarının dolandırıcılık amacıyla kullanılmasını kesinlikle yasaklar. Yapay zekânın kötü niyetli davranışları nasıl etkilediğini anlamak ve hizmetlerimizi kötüye kullanan dolandırıcılık faaliyetlerini etkin biçimde engellemek için sektördeki diğer kuruluşlar ve yetkililerle iş birliği yapmaya kararlıyız.