Daha yetkin ve faydalı AI için güncellenen model spesifikasyonu
Modellerimiz daha akıllı hâle geldikçe ve dünyada daha önemli sonuçlar doğuran eylemlerde bulundukça, yalnızca aldıkları belirli talimatları yorumlamakla yetinmemeleri giderek daha önemli oluyor. Modellerin, insanların niyetlerini ve değerlerini de anlaması gerekiyor. Böylece, talimatlarında açıkça ele alınmayan durumlarda insanların niyetlerine sadık kalarak ve denetimlerine tabi olarak sağlıklı kararlar verebilirler.
Bugün, modellerimizin nasıl davranmasını istediğimizi kamuoyuna açıkladığımız model spesifikasyonunu(yeni bir pencerede açılır) güncelliyoruz. Bu güncelleme, rehberi beş temel değer etrafında yeniden düzenliyor: insanların niyetlerine sadakat, zararı en aza indirme, dürüstlük ve şeffaflık, insanın karar ve eylem özgürlüğü ve özen. Bu düzenleme, değerlerle uyum çalışmalarımızdaki bir hedefi yansıtıyor: modellerin, insanların niyetlerine sadık kalarak insan değerlerini alışılmadık durumlarda da anlaması ve uygulaması. Bu revizyon, mevcut ilkeleri daha açık biçimde açıklamanın yanı sıra bağlam, denetim ve karar ve eylem özgürlüğü konularında yol gösteriyor, bazı varsayılan davranışları değiştiriyor ve ayrıntılı üslup yönergelerinin büyük bölümünü kaldırıyor.
Yukarıdaki beş değer, model spesifikasyonunun genelinde zaten yer alan kapsamlı taahhütleri dile getiriyor: insanların amaçlarına hizmet etmek, doğruyu söylemek, zararı en aza indirmek, insanların kendi görüşlerini oluşturma özgürlüğüne saygı duymak ve içinde bulundukları koşulları ciddiye almak. Bu taahhütleri bir araya getirmek, spesifikasyonda modellerden beklenen davranışların nedenlerini açıklamaya ve bu taahhütlerin yeterince ifade edilmediği konularda daha açık yönergeler geliştirmemize yardımcı oluyor. Bu güncelleme; araştırmalar, modelleri kullanıma sunarken edindiğimiz deneyimler, spesifikasyon ve model davranışları hakkında kamuoyundan gelen geri bildirimler, kullanıcılarla ve kurum dışındaki uzmanlarla yaptığımız görüşmeler aracılığıyla yürüttüğümüz spesifikasyonu iyileştirme çalışmalarında bir adım daha.
AI’ın, ihtiyaçları, değerleri ve geleceğe dair umutları farklı olan insanlardan oluşan bir dünyaya fayda sağlamasını istiyoruz.
Bu yaklaşımın temelinde insanların niyetlerine sadakat yatıyor: insanlar için neyin önemli olduğunu anlamak ve bunların peşinden gitmelerine yardımcı olmak. OpenAI spesifikasyonu yazar, sınırları belirler ve modelleri bu sınırlara uymaları için eğitir; geliştiriciler bu sınırlar içinde uygulamaları yönlendirir; kullanıcılar da bu kısıtlamalara tabi olarak modelin çalışmalarını yönlendirir. Modellerimiz, insanların dünyayı anlamalarına, olasılıkları keşfetmelerine ve seçtikleri hedeflere ulaşmalarına yardımcı olarak kendi yaşamlarını şekillendirme kapasitelerini artırmalı; bunu yaparken sundukları yardımın başkalarını nasıl etkilediğini de ciddiye almalı. İnsanların niyetlerine sadakat ve diğer dört değer, spesifikasyonun yapısını oluşturuyor ve modellerimizin karşılaştıkları en önemli öncelik çatışmalarından bazılarını nasıl ele alması gerektiğine yön veriyor. Bunlar, modellerimizin saygı duyması ve insanların hayata geçirmesine yardımcı olması gereken tüm insani değerleri kapsama iddiası taşımıyor.
Sadakat, talimatları harfiyen uygulamanın ötesine geçerek OpenAI’ın, geliştiricilerin ve kullanıcıların neyi amaçladığını ve neye değer verdiğini derinlemesine anlamak, bu anlayış eksik kaldığında ise sağduyuyla hareket etmek demektir. Aynı zamanda insanların inanç ve değerlerinin değişebileceğini kabul etmek; onları fark ettirmeden yönlendirmeden veya seçimlerini geçersiz kılmadan, kendilerinin de onaylayacağı biçimde düşünmelerine ve gelişmelerine yardımcı olmak demektir. Örneğin model, bir kişinin iş tekliflerini karşılaştırmasına yardımcı olurken düzenli çalışma saatleri gibi daha önce paylaştığı öncelikleri dikkate alabilir; ancak bu varsayımları açıkça belirtmeli ve kolayca düzeltilebilmelerini sağlamalıdır.
Misyonumuz, genel yapay zekanın tüm insanlığa fayda sağlamasını güvence altına almaktır. Bu, yalnızca kişinin o anki niyetlerini değil, uzun vadeli çıkarlarını ve başkaları üzerindeki etkileri de dikkate almayı gerektirir. Diğer dört değer, bu hususları açıkça ortaya koyuyor:
Zararı en aza indirmek, kesin güvenlik sınırlarına uymak ve modelin eylemlerinin öngörülebilir sonuçlarını hesaba katmak demektir.
Dürüstlük ve şeffaflık, insanların modelin akıl yürütmesini ve çalışmalarını anlayıp değerlendirebilmesi için modelin ne bildiği, ne yaptığı ve nelerden emin olmadığı konusunda doğruyu söylemek demektir.
İnsanın karar ve eylem özgürlüğünü desteklemek, insanların kendi başlarına anlama, seçim yapma ve harekete geçme becerilerini güçlendirmek demektir.
Özen, yapılan işten etkilenenlerin koşullarını gözetmek, ilgili toplumsal ve mesleki normlara uymak ve insanların güvenebileceği işler yapmak demektir.
Spesifikasyon, insanları ve toplumu korumak için gerektiğinde kesin sınırlar koyarak bu değerleri uygulamaya dönük yönergelere dönüştürüyor. Bunun dışında ise çoğunlukla kullanıcıların ve geliştiricilerin değiştirebileceği varsayılan davranışları tanımlıyor.
Bu model spesifikasyonu güncellemesinin yanı sıra, modellerimizin bu temel değerleri öğrenmesine ve spesifikasyondaki belirli davranış ilkelerini daha iyi anlayıp uygulamasına yardımcı olacak yeni eğitim yöntemlerini de araştırıyoruz. Amaç, bu ilkelerin neden önemli olduğunu ve yeni durumlarda nasıl uygulanacağını kavramalarını sağlamak: doğru şeyleri doğru nedenlerle yapmak. Bu anlayışın, önemli sonuçlar doğuran kararlarda sağduyuyu; birikerek insanlara ve topluma kalıcı faydalar(yeni bir pencerede açılır) sağlayabilecek gündelik kararlarda ise özeni desteklemesini istiyoruz. Bu eğitim çalışmalarının sonuçlarını ve öğrendiklerimizi ilerideki güncellemelerde paylaşacağız.
Bu yeniden düzenleme, hangi konularda ek yönergelere ihtiyaç olduğunu belirlememize, bunlara yönelik yeni ilkeler geliştirmemize ve gerektiğinde mevcut yönergeleri gözden geçirmemize veya kaldırmamıza da yardımcı oldu.
İnsanların niyetlerine sadakat hakkındaki yeni bölüm, esas olanın insanların değer verdiği şeyler olduğu ve talimatların genellikle bu değerlerin en açık ve en önemli göstergeleri olduğu düşüncesinden yola çıkıyor. Bu yaklaşım, uyum sorununu yardım oyunları çerçevesinde ele alan çalışmalardan yararlanıyor (bkz. ilk çalışmalar(yeni bir pencerede açılır) ve daha sonraki bir genel değerlendirme(yeni bir pencerede açılır)). Bu bölüm, hangi talimatların geçerli olduğunu ve çatışmaların nasıl çözüldüğünü açıklayan güncellenmiş bir komuta zinciri(yeni bir pencerede açılır) içeriyor. Yeni bir alt bölüm olan bağlamı dikkatle değerlendirin(yeni bir pencerede açılır), konuşmaların, anıların ve bağlamdan elde edilen diğer ipuçlarının, modelin insanların niyetlerini ve tercihlerini anlamasına nasıl katkıda bulunması gerektiğini açıklıyor.
Ayrıca insanın karar ve eylem özgürlüğünü destekleme(yeni bir pencerede açılır) ve ilgili toplumsal normlara uyma(yeni bir pencerede açılır) konusunda varsayılan davranışlar ekledik; yan etkileri kontrol etme ve bildirme(yeni bir pencerede açılır) konusundaki mevcut yönergeleri de genişlettik. Bu ilkeler, diğer değerlerin model davranışlarına yansıması gereken ek yolları tanımlıyor. Bunlar çoğu zaman ince ama önemli ayrıntılar içeriyor: kullanıcının hedeflerine ve talimatlarına saygı gösterirken yapılan işin başkaları üzerindeki etkilerini dikkate almak, kullanıcıların becerilerini güçlendirmek ve insanların güvenebileceği işler üretmek.
Aynı zamanda, spesifikasyondaki ayrıntılı üslup yönergelerinin çoğunu kaldırıyoruz. Üslup, insanların hem genel olarak hem de dil, kültür ve kişi özelindeki tercihlerine uyum sağlamalı. Kullanıcı geri bildirimleri ve bağlam da bu tercihlere dair ipuçları sunmalı. Spesifikasyon, sorulara nesnel yaklaşmak(yeni bir pencerede açılır) gibi daha güçlü varsayılan davranışları koruyor. Kullanıcılar ve geliştiriciler, modelden açıkça belirli bir bakış açısını benimsemesini isteyebilir. Ancak model, yalnızca onların ne duymak istediğine dair tahmininden yola çıkarak böyle bir tercihleri olduğu sonucuna varmamalı.
Son olarak, modellerimizin kullanım alanlarının ve kullanıma sunuldukları ortamların giderek çeşitlenmesini yansıtmak için spesifikasyonda modelden artık “asistan” yerine “GPT” olarak söz ediyoruz.
Bu güncelleme, modeller daha yetkin hâle geldikçe spesifikasyonun temelindeki değerleri ve gerekçeleri daha açık biçimde ortaya koymaya yönelik ilk adım. Model spesifikasyonu, ulaşmak için çalıştığımız davranış biçimini tanımlıyor; modellerimiz bunu henüz tam olarak yansıtmıyor. Araştırmalardan, gerçek dünyadaki kullanımdan ve geri bildirimlerden öğrendiklerimizle hem spesifikasyonu hem de modelleri geliştirmeye devam edeceğiz.
Spesifikasyonun hangi bölümlerini ikna edici bulduğunuzu, kurduğu dengeye hangi noktalarda katılmadığınızı, neleri gözden kaçırdığını veya belirsiz bıraktığını duymak istiyoruz. Değerler, öncelikler arasında kurulan dengeler ve kullanılan ifadeler hakkındaki geri bildirimler, spesifikasyonu iyileştirmemize yardımcı olabilir. Sizi güncellenen model spesifikasyonunu(yeni bir pencerede açılır) okumaya ve görüşlerinizi paylaşmaya(yeni bir pencerede açılır) davet ediyoruz.
