OpenAI Red Teaming Ağı

OpenAI Red Teaming Ağı için açık başvuru çağrısı yapıyor, OpenAI modellerinin güvenliğini artırmak isteyen alan uzmanlarını çalışmalarımıza katılmaya davet ediyoruz. Yapay zekâ modellerimizi titizlikle değerlendirmek ve red teaming çalışmalarını yürütmek için bizimle iş birliği yapacak farklı alanlardan uzmanlar arıyoruz.

Red teaming^A, yinelemeli kullanıma sunma sürecimizin⁠ ayrılmaz bir parçasıdır. Son birkaç yılda red teaming çalışmalarımız, OpenAI bünyesindeki saldırı odaklı testlerle sınırlı olmaktan çıkıp dışarıdan bir grup uzmanla^B iş birliğini de kapsayacak şekilde genişledi. Bu uzmanlarla, alanlara özgü risk sınıflandırmaları geliştirmek ve yeni sistemlerdeki potansiyel olarak zararlı yetenekleri değerlendirmek için çalışıyoruz. Dış uzmanlarla geçmişte yaptığımız çalışmalar da dâhil olmak üzere, DALL·E 2⁠(yeni bir pencerede açılır) ve GPT‑4⁠(yeni bir pencerede açılır) gibi modellere yönelik önceki red teaming çalışmalarımız hakkında daha fazla bilgi edinebilirsiniz.^C

Bugün, daha önce attığımız bu temeller üzerine inşa etmek ve modellerimizi daha güvenli hâle getirmek amacıyla dış uzmanlarla iş birliklerimizi derinleştirip genişletmek için daha kurumsal bir girişim başlatıyoruz. Bireysel uzmanlar, araştırma kurumları ve sivil toplum kuruluşlarıyla çalışmak, sürecimizin önemli bir parçasıdır. Bu çalışmaları, üçüncü taraf denetimleri gibi dışarıdan belirlenen yönetişim uygulamalarının tamamlayıcısı olarak görüyoruz.

OpenAI Red Teaming Ağı, önemli modeller kullanıma sunulmadan önce yürütülen tek seferlik iş birlikleri ve seçim süreçleriyle sınırlı kalmak yerine, risk değerlendirme ve azaltma çalışmalarımıza daha geniş kapsamlı katkı sağlayabilecek güvenilir ve deneyimli uzmanlardan oluşan bir topluluktur. Ağ üyeleri, model ve ürün geliştirme yaşam döngüsünün çeşitli aşamalarındaki red teaming çalışmalarına yardımcı olmaları için uzmanlıklarına göre davet edilecektir. Her üye, her yeni model veya ürün üzerinde çalışmayacaktır. Ayrılacak süre, her üyeyle ayrı ayrı belirlenecek ve yılda yalnızca 5–10 saat kadar olabilecektir.

Üyeler, OpenAI’ın talebiyle yürütülen red teaming çalışmalarının dışında da genel red teaming uygulamaları ve bulguları hakkında birbirleriyle fikir alışverişinde bulunabilecektir. Amaç, daha çeşitli ve sürekli katkılar sağlamak ve red teaming çalışmalarını daha yinelemeli bir sürece dönüştürmektir. Bu ağ, Araştırmacı Erişim Programı⁠’mız ve açık kaynaklı değerlendirmelerimiz⁠(yeni bir pencerede açılır) de dâhil olmak üzere, yapay zekâ güvenliği alanındaki diğer iş birliği fırsatlarını tamamlar.

Bu ağ, daha güvenli yapay zekâ teknolojileri ve politikalarının geliştirilmesini ve yapay zekânın yaşama, çalışma ve etkileşim kurma biçimlerimiz üzerindeki olası etkilerini şekillendirmek için benzersiz bir fırsat sunuyor. Bu ağa katılarak, modellerimizi ve sistemlerimizi kullanıma sunma sürecinin çeşitli aşamalarında değerlendirmeye davet edilebilecek alan uzmanlarımız arasında yer alacaksınız.

Yapay zekâ sistemlerini değerlendirmek, çok çeşitli alanlar, farklı bakış açıları ve yaşam deneyimleri hakkında bilgi sahibi olmayı gerektirir. Dünyanın dört bir yanındaki uzmanları başvurmaya davet ediyor, seçim sürecimizde hem coğrafi çeşitliliğe hem de uzmanlık alanlarının çeşitliliğine öncelik veriyoruz. 

İlgilendiğimiz alanlardan bazıları şunlardır; ancak başvurular bunlarla sınırlı değildir:

Yapay zekâ sistemleri veya dil modelleriyle ilgili deneyim şart değildir, ancak faydalı olabilir. Bizim için en önemlisi, çalışmalara katılma ve yapay zekâ sistemlerinin etkilerini değerlendirme sürecimize kendi bakış açınızı katma isteğinizdir.

OpenAI Red Teaming Ağı’nın tüm üyelerine, bir red teaming projesine katıldıklarında katkıları karşılığında ödeme yapılacaktır. Bu ağa üye olmanız, araştırmalarınızı yayımlamanızı veya başka fırsatları değerlendirmenizi kısıtlamaz. Ancak red teaming ve diğer projelere katılımın genellikle gizlilik sözleşmelerine (NDA) tabi olduğunu veya süresiz olarak gizli tutulduğunu göz önünde bulundurmalısınız.

Başvurular sona erdi.

Soru: Ağa katılmak neleri içeriyor?

Yanıt: Ağın bir üyesi olarak, yeni bir modeli test etmek veya hâlihazırda kullanıma sunulmuş bir modeli belirli bir ilgi alanında test etmek üzere sizinle iletişime geçilebilir. Ağ kapsamındaki çalışmalar bir gizlilik sözleşmesi (NDA) çerçevesinde yürütülür. Bununla birlikte, geçmişte red teaming bulgularımızın birçoğunu sistem kartlarında ve blog yazılarında yayımladık. Red teaming projelerine ayırdığınız süre için size ödeme yapılacaktır.

Soru: Ağın bir üyesi olarak ne kadar zaman ayırmam bekleniyor? 

Yanıt: Ayıracağınız süre, programınıza göre düzenlenebilir. Her fırsat için ağdaki herkesle iletişime geçilmeyeceğini unutmayın. OpenAI, katılımcıları ilgili red teaming projesine uygunluklarına göre seçecek ve sonraki red teaming çalışmalarında yeni bakış açılarına ağırlık verecektir. Yılda yalnızca 5 saat ayırmanız bile bizim için değerli. Bu nedenle, ilgileniyorsanız ancak zamanınız kısıtlıysa başvurmaktan çekinmeyin.

Soru: Başvuru sahiplerine kabul edildikleri ne zaman bildirilecek?

Yanıt: OpenAI, ağ üyelerini başvurular geldikçe değerlendirecek ve seçecektir. 1 Aralık 2023’e kadar başvurabilirsiniz. Bu başvuru dönemi sona erdikten sonra, ileride yeniden başvuru alıp almayacağımızı değerlendireceğiz.

Soru: Ağa katılırsam her yeni model için red teaming yapmam istenecek mi?

Yanıt: Hayır. OpenAI, katılımcıları ilgili red teaming projesine uygunluklarına göre seçecektir. Dolayısıyla her yeni modeli test etmeyi beklememelisiniz.

Soru: Ağ üyelerinde aradığınız özelliklerden bazıları neler?

Yanıt: Aradığımız özelliklerden bazıları şunlardır:

• Red teaming ile ilgili belirli bir alanda kanıtlanmış uzmanlık veya deneyim

• Yapay zekâ güvenliğini geliştirmeye güçlü ilgi

• Çıkar çatışmasının bulunmaması

• Farklı geçmişlere sahip ve geleneksel olarak yeterince temsil edilmeyen gruplardan katılımcılar

• Farklı coğrafyalardan katılım 

• Birden fazla dili akıcı konuşabilme

• Teknik beceri (şart değil)

Soru: Güvenlik alanında başka hangi iş birliği fırsatları var?

Yanıt: Ağa katılmanın dışında, yapay zekâ güvenliğine katkıda bulunabileceğiniz başka iş birliği fırsatları da var. Örneğin, yapay zekâ sistemleri için güvenlik değerlendirmeleri tasarlayabilir veya uygulayabilir ve sonuçlarını analiz edebilirsiniz.

OpenAI’ın GPT‑4’ün kullanıma sunulması⁠ kapsamında yayımlanan açık kaynaklı Evals⁠(yeni bir pencerede açılır) deposu, bu sürece hızlıca başlamanız için kullanıcı dostu şablonlar ve örnek yöntemler sunar.

Değerlendirmeler, basit soru-cevap testlerinden daha karmaşık simülasyonlara kadar uzanabilir. Somut örnekler olarak, OpenAI tarafından yapay zekâ davranışlarını çeşitli açılardan değerlendirmek için geliştirilen bazı örnek değerlendirmeler şunlardır:

İkna

• MakeMeSay⁠(yeni bir pencerede açılır): Bir yapay zekâ sistemi, başka bir yapay zekâ sistemini kandırarak gizli bir kelimeyi söyletmekte ne kadar başarılı olabilir?

• MakeMePay⁠(yeni bir pencerede açılır): Bir yapay zekâ sistemi, başka bir yapay zekâ sistemini para bağışlamaya ikna etmekte ne kadar başarılı olabilir?

• Oylama Önerisi⁠(yeni bir pencerede açılır): Bir yapay zekâ sistemi, başka bir yapay zekâ sisteminin siyasi bir öneriye verdiği desteği ne ölçüde etkileyebilir?

Steganografi (gizli mesajlaşma)

• Steganografi⁠(yeni bir pencerede açılır): Bir yapay zekâ sistemi, başka bir yapay zekâ sistemine yakalanmadan gizli mesajlar iletmekte ne kadar başarılı olabilir?

• Metin Sıkıştırma⁠(yeni bir pencerede açılır): Bir yapay zekâ sistemi, gizli mesajların saklanmasını sağlamak için mesajları sıkıştırma ve açma işlemlerinde ne kadar başarılı olabilir?

• Schelling Noktası⁠(yeni bir pencerede açılır): Bir yapay zekâ sistemi, doğrudan iletişim kurmadan başka bir yapay zekâ sistemiyle ne kadar iyi koordinasyon sağlayabilir?

Yapay zekâ sistemlerini değerlendirirken yaratıcı olmanızı ve farklı yaklaşımlar denemenizi teşvik ediyoruz. Değerlendirmenizi tamamladığınızda, daha geniş yapay zekâ topluluğunun kullanımına sunmak üzere açık kaynaklı Evals⁠(yeni bir pencerede açılır) deposuna eklemenizi bekliyoruz.

Ayrıca Araştırmacı Erişim Programı⁠’mıza da başvurabilirsiniz. Bu program, ürünlerimizi kullanarak yapay zekânın sorumlu biçimde kullanıma sunulması ve ilgili risklerin azaltılması üzerine çalışan araştırmacılara kredi desteği sağlar.