Umut Işığı Rehberi: ABD'li kişileri hedef alan, muhtemelen Çin kaynaklı faaliyet

Bu vaka çalışması ilk olarak OpenAI'ın, yapay zekânın kötü amaçlı kullanımını engellemeye ilişkin Şubat 2026⁠(yeni bir pencerede açılır) tarihli raporunda yayımlandı.

Muhtemelen Çin kaynaklı olan ve modellerimizi ABD'li kişiler, forumlar ve federal binaların konumları hakkında bilgi istemek, yüz değiştirme yazılımlarıyla ilgili yönlendirme almak ve sosyal mühendislik girişimlerini andıran İngilizce e-postalar oluşturmak için kullanan az sayıda ChatGPT hesabını yasakladık. Modellerimize Çince istemler gönderdiler, çoğunlukla Çin ana karasındaki mesai saatlerinde etkin oldular ve platformumuza erişmek için VPN kullandılar.

Hesaplar, “Nimbus Hub Consulting” adlı Hong Kong merkezli bir şirketin çalışanları tarafından gönderilmiş gibi sunulan e-posta taslakları oluşturdu. Ancak modellerimize Geleneksel Çince karakterler (genellikle Hong Kong'da kullanılır) yerine Basitleştirilmiş Çince karakterlerle (genellikle Çin ana karasında kullanılır) istem göndermeleri, gerçek operatörlerin Çin ana karasında bulunduğuna işaret ediyordu. Ayrıca bir hesap, ABD ile Şanghay arasındaki ekonomik ve kültürel ilişkileri destekleyen Şanghay merkezli bir halkla ilişkiler kuruluşunun temsilcisi tarafından gönderilmiş gibi görünen bir e-posta oluşturdu. Şirket adında yağmur bulutu veya hale anlamındaki “Nimbus” sözcüğünün geçmesinden hareketle bu operasyona “Umut Işığı Rehberi” adını verdik.

Hesaplar, ABD'deki eyalet düzeyinde görev yapan yetkililere veya işletme ve finans alanında çalışan politika analistlerine hitaben İngilizce e-posta taslakları oluşturdu. Bu kişileri, müşterileri için politikaları yorumlama ve stratejik danışmanlık sunma olarak tanımladıkları ücretli danışmanlık çalışmalarına katılmaya davet ediyor gibi görünüyorlardı. E-posta taslaklarının kısa, açık ve profesyonel olmasını; konu satırlarının ise aciliyet hissi yaratıp örtük psikolojik mesajlar içermesini istediler.

Ayrıca ChatGPT hesapları, genel bilgi edinmek için modellerimizi kullandı ve modelimiz bu talepleri kamuya açık kaynaklardan yararlanarak yanıtladı. Bunlar arasında şu konulara ilişkin sorgular bulunuyordu:

• Ana ofisler dâhil ABD federal devlet dairelerinin konumları ve federal kurumlar ile yetkililerin yoğun olarak bulunduğu eyaletlerin sıralı listesi.

• ABD federal personelinin eyaletlere göre dağılımı.

• Voice of America sunucuları gibi ABD'li kişiler; geçmiş röportajları ve ilgi duydukları konular dâhil.

• ABD ekonomi ve finans sektöründeki profesyoneller ile iş arayanların yaygın olarak kullandığı çevrim içi forumlar ve web siteleri.

Özellikle bir hesap, yüz değiştirme ve diğer medya iyileştirme işlemlerinde kullanılan FaceFusion adlı yüz manipülasyonu platformunu bilgisayarına indirip kurma konusunda yönlendirme istedi. ChatGPT etkinliklerine göre özellikle platformun canlı yüz değiştirme işlevini kullanmak istediklerini belirttiler. Adım adım, teknik olmayan kurulum yönlendirmesi istediler ve programlamaya yeni başladıklarını, bu nedenle talimatların basit olması gerektiğini öne sürdüler. Kuruluma yardımcı olması için bilgisayarlarının donanım özelliklerini gösteren bir ekran görüntüsü yüklediler. Model, FaceFusion'ın kamuya açık web sitesi ve belgelerinden alınan bilgilerle yanıt verdi.

Modellerimizi kullanarak e-posta taslakları oluşturmaya yönelik talimatları, sıradan işe alım mesajlarından ziyade yabancı bir istihbarat servisinin temas kurmak için kullandığı sosyal mühendislik yöntemlerini⁠(yeni bir pencerede açılır) andırıyordu. Her e-posta taslağında şu bölümleri istediler:

Güvenilirlik izlenimi yaratma: “Nimbus Hub”ı jeopolitik ve ulusötesi politika alanında yetkin uzmanlığa sahip profesyonel bir stratejik danışmanlık firması olarak sundular. Nimbus Hub'ın web sitesine bir bağlantı eklediler (aşağıdaki ekran görüntüsüne bakın).

Hedefe özel mesaj hazırlama ve hedefi övme: Modele, alıcının kamu sektöründeki geçmişini bu role tam olarak uygun olduğunun kanıtı şeklinde açıkça belirtmesini söylediler. Bir vakada hesap, Şanghay'da yaşayan ABD'li bir kişinin LinkedIn profilinin ekran görüntülerini yükledi ve modele bu görüntülerde yer alan, kişinin deneyimleri ile geçmişine ilişkin metinlerden yararlanarak e-posta taslağını kişiselleştirmesi talimatını verdi.

Teşvikleri artırma: Danışmanlık teklifi genellikle asıl işin ne olduğu belirsiz bırakılarak performans primleri ve yönlendirme ödülleri sunan, kazançlı bir çevrim içi fırsat gibi gösterildi.

Güven verici bir dil kullanma ve algılanan riskleri azaltma: İşin rahat, ödemelerin zamanında ve çalışmanın gizli olduğunu sık sık öne sürdüler.

İletişimi hızla platform dışına taşıma: Alıcıları her zaman e-postadan uzaklaştırıp WhatsApp, Zoom veya Teams üzerinden ilk çevrim içi video konferans görüşmesine yönlendirmeye çalıştılar.

Bu vakada ağların modellerle etkileşimleri teknik açıdan karmaşık değildi; talepleri de zaman zaman makul işe alım davetleri hazırlamaya veya meşru yazılım kurulumuna benziyordu. Ancak kullanıcıların sahte bir kurumsal kimliğin arkasına saklanma taktikleri ve jeopolitik konulara ilgileri, hasmane amaçlı işe alım niyetleri olabileceğine işaret ediyor.

Hesapların ChatGPT kullanımına bakıldığında, hedeflerinden davetlerine yanıt vermelerini sağlamayı başardıklarına dair hiçbir kanıt yoktu. E-posta davetlerinin gerçekten gönderilip gönderilmediğini veya hedeflenen alıcılardan herhangi birinin yanıt verip vermediğini bağımsız olarak belirleyemedik.

Birçok demokratik ülkenin hükümeti (ör. ABD⁠(yeni bir pencerede açılır), Birleşik Krallık⁠(yeni bir pencerede açılır), Avustralya⁠(yeni bir pencerede açılır)), yabancı istihbarat servislerinin sosyal ve profesyonel ağ platformlarında danışmanlık firmaları ve başka kuruluşlar gibi davranarak mevcut ve eski kamu çalışanlarını kendi saflarına katmayı hedeflediği konusunda uyarıda bulundu. Bazı ortak özellikler taşıdıkları için sıradan işe alım mesajlarını bu hedefli sosyal mühendislik yaklaşımlarından ayırt etmek zor olabilir. Ancak meşru iletişimler genellikle daha yavaş ilerleyen değerlendirme süreçlerine göre düzenlenir ve pozisyonun unvanı, güvenilir işveren bilgileri, makul piyasa ücret aralıkları ve gerçek iş ilanlarına bağlantılar gibi doğrulanabilir bilgiler içerir. Kısacası, gerçek olamayacak kadar iyiyse muhtemelen gerçek değildir.