OpenAI API’si

OpenAI’ın geliştirdiği yeni yapay zeka modellerine erişme imkânı sağlayacak bir API yayınlıyoruz. Tek bir kullanım alanına yönelik olarak tasarlanmış olan çoğu yapay zeka sisteminin aksine bugünkü API, genel amaçlı bir metin tabanlı girdi-çıktı arayüzü sunuyor, böylece kullanıcıların neredeyse tüm İngilizce dil görevlerinde bu arayüzü denemesine olanak sağlıyor. Artık API’yi ürününe entegre etmek, tümüyle yeni bir uygulama geliştirmek veya bu teknolojinin güçlü yönlerini ve sınırlarını keşfetmemize yardımcı olmak için erişim talebinde bulunabilirsin.

API, herhangi bir metin istemi girildiğinde kendisine sağlanan örüntüyle eşleşecek şekilde tamamlanmış bir metin üretir. API’yi “programlamak” için ne yapmasını istediğine dair birkaç örnek vermen yeterlidir. API’nin başarısı, genellikle kendisine verilen görevin karmaşıklığına bağlı olarak değişir. Ayrıca API sayesinde belirli görevlerdeki performansı geliştirebilirsin. Bunun için API’yi girdiğin örneklerden oluşan bir veri setiyle (küçük veya büyük) eğitebilir veya modelin kullanıcıların ya da etiketleyicilerin verdiği insan geri bildirimlerinden öğrenmesini sağlayabilirsin.

API’yi hem herkesin kullanabileceği kadar basit hem de makine öğrenmesi ekiplerinin üretkenliğini artıracak şekilde esnek olmak üzere tasarladık. Hatta ekiplerimizin çoğu şu anda API’yi kullanıyor ve böylece yapay zeka modellerini eğitmek ve çalıştırmakla ilgili dağıtık sistem sorunlarını yönetmek yerine makine öğrenmesi araştırmalarına odaklanabiliyor. API şu anda, öğrenilmiş parametreleri GPT‑3⁠(yeni bir pencerede açılır) ailesine dayanan ve hız ile veri aktarım hızında birçok gelişme gösteren modelleri çalıştırıyor. Makine öğrenimi alanı çok hızlı gelişiyor. Biz de kullanıcılarımızın yeniliklerden yararlanabilmesi için teknolojimizi sürekli olarak yükseltiyoruz.

Bu alandaki yüksek hızlı ilerlemeler, yapay zekanın hem olumlu hem de olumsuz anlamda şaşırtıcı yeni uygulama alanlarıyla sık sık karşılaşmamız anlamına geliyor. Taciz, istenmeyen gönderiler, radikalleştirme veya sahte kamuoyu desteği oluşturma gibi açıkça zararlı kullanımlar gözlemlediğimizde API erişimini sonlandıracağız. Öte yandan bu teknolojinin olası tüm sonuçlarını öngöremeyeceğimizi de biliyoruz. Bu yüzden bu modeli genel kullanıma sunmak yerine bugün özel bir beta sürümünü başlatıyoruz. API’mizin ürettiği içerikleri kullanıcıların daha iyi kontrol etmelerine yardımcı olacak araçlar geliştiriyor ve dil teknolojisinin güvenlikle ilgili yönlerini (zararlı ön yargıları analiz etme, azaltma ve bunlara müdahale etme vb.) araştırıyoruz. Hem kullanıcılarımızın hem de yapay zeka topluluğunun insanlık için daha yararlı yapay zeka sistemleri oluşturabilmesi amacıyla öğrendiklerimizi paylaşacağız.

API, misyonumuz ⁠doğrultusunda maliyetlerimizi karşılamamıza⁠ yardımcı olan bir gelir kaynağı olmanın yanı sıra genel amaçlı yapay zeka teknolojisine odağımızı keskinleştirmemizi sağladı. Bu süreç; yapay zeka teknolojisini geliştirmeyi, kullanılabilir hâle getirmeyi ve bu teknolojinin gerçek dünya üzerindeki etkilerini değerlendirmeyi kapsıyor. API’nin, yapay zeka destekli faydalı ürünler geliştirmenin önündeki engelleri⁠(yeni bir pencerede açılır) büyük oranda azaltacağını ve bugün hayal edilmesi bile zor olan araç ile hizmetlerin ortaya çıkmasını sağlayacağını umuyoruz.

API’yi keşfetmek mi istiyorsun? Özel beta sürümümüzü⁠(yeni bir pencerede açılır) kullanarak Algolia⁠(yeni bir pencerede açılır), Quizlet⁠(yeni bir pencerede açılır) ve Reddit⁠(yeni bir pencerede açılır) gibi şirketlere ve Middlebury Enstitüsü⁠(yeni bir pencerede açılır) gibi kurumlardaki araştırmacılara katılabilirsin.

Nihayetinde, yapay genel zekanın herkese fayda sağlaması bizim için en önemli konu⁠. Başarılı olmamızı sağlayacak yeterli finansmanı temin etmenin yollarından biri de ticari ürünler geliştirmek.

Ayrıca, güçlü yapay zeka sistemlerini dünyada güvenli bir şekilde kullanıma sokmanın zor olacağına inanıyoruz. API’yi yayınlarken, yapay zeka sistemleri gerçek dünyada kullanıma girdiğinde doğan zorlukları gözlemlemek amacıyla ortaklarımızla yakın iş birliği içinde çalışıyoruz. Bu süreç, hem gelecekteki yapay zeka sistemlerinin nasıl kullanıma sokulacağını anlamamıza hem de herkes için güvenli ve faydalı olmalarını sağlamak adına atılması gereken adımlara ışık tutacak.

Bu tercihin üç temel nedeni var. İlki, teknolojiyi ticarileştirmenin yapay zekaya yönelik araştırma, güvenlik ve politika alanlarında devam eden faaliyetlerimizin finansmanını sağlamaya yardımcı olması.

İkincisi, API’nin temelinde yer alan modellerin çoğunun oldukça büyük boyutlu olması. Bu modellerin geliştirilmesi ve kullanıma sokulması ciddi uzmanlık gerektirdiği için çalıştırılma maliyetleri de oldukça yüksek. Bu durum, büyük şirketler dışında kalanların söz konusu temel teknolojiden yararlanmasını zorlaştırıyor. Bu API sayesinde daha küçük işletmelerin ve kuruluşların güçlü yapay zeka sistemlerine daha kolay erişmesini umuyoruz.

Üçüncüsü, API modelinin bu teknolojinin kötüye kullanılmasına karşı önlem almamızı kolaylaştırması. Modellerimizin gelecekteki kullanım alanlarını öngörmek zor olduğundan, zararlı uygulamalar ortaya çıktığında erişimi kısıtlamanın mümkün olmadığı açık kaynaklı modeller yayınlamak yerine, bunları bir API aracılığıyla sunmak ve erişimi kademeli olarak genişletmek, özünde daha güvenli bir yaklaşım.

GPT‑2 ile ilgili temel endişelerimizden biri modelin (ör. dezenformasyon amaçlı) kötü niyetli kullanımıydı. Açık kaynaklı modellerde bunu önlemek zordur. API sayesinde, erişimi yalnızca onaylı müşteriler ve belirlenmiş kullanım senaryolarıyla sınırlandırarak kötüye kullanımı daha etkili bir şekilde önleyebiliyoruz. Önerilen uygulamalar kullanıma sunulmadan önce zorunlu bir üretim denetimi sürecinden geçiriliyor. Üretim denetimleri sırasında aşağıdaki gibi sorular sorarak uygulamaları birkaç farklı eksende değerlendiriyoruz: Bu şu anda desteklenen bir kullanım alanı mı?, Uygulama ne ölçüde açık uçlu?, Uygulama ne kadar riskli?, Olası kötüye kullanıma karşı nasıl önlem alınması planlanıyor? ve Uygulamanın son kullanıcıları kimler?.

İnsanlara fiziksel, duygusal veya psikolojik açıdan zarar verdiği (veya vermeyi amaçladığı) belirlenen kullanım alanlarıyla karşılaştığımızda API erişimini sonlandırıyoruz. Bunlar, listelenenlerle sınırlı olmamak üzere taciz, kasıtlı aldatma, radikalleştirme, sahte kamuoyu desteği oluşturma veya istenmeyen gönderiler yollama gibi kullanımları kapsıyor. Ayrıca son kullanıcıların kötüye kullanımını engellemek konusunda yeterli koruyucu önlemlere sahip olmayan uygulamalara da API üzerinden erişilmesine izin vermiyoruz. API’nin gerçek dünyada çalıştırılmasına yönelik deneyimimiz arttıkça destekleyebileceğimiz kullanım kategorilerini sürekli olarak iyileştirmeye devam edeceğiz. Bu sayede hem destekleyebildiğimiz uygulamaların yelpazesini genişletecek hem de kötüye kullanılabileceğinden endişelendiğimiz uygulamalar için daha ayrıntılı kategoriler oluşturacağız.

API kullanımlarını onaylarken dikkate aldığımız temel etmenlerden biri, uygulamanın üretken yapay zekanın yeteneklerini nasıl kullandığı. Yani, temel yeteneklerle ilgili olarak ne ölçüde açık uçlu veya kısıtlanmış bir davranış sergilediği. API’nin açık uçlu uygulamaları (yani rastgele istemlerle büyük miktarda özelleştirilebilir metnin kolayca üretilmesini sağlayan uygulamalar), kötüye kullanıma özellikle yatkın. Üretken yapay zeka kullanımını daha güvenli kılmak için getirilebilecek kısıtlamalar şunları içeriyor: İnsan denetiminin dâhil edildiği sistem tasarımları, son kullanıcı erişimine getirilen kısıtlamalar, çıktıların işlem sonrası denetimi, içerik filtreleme, girdi/çıktı uzunluk sınırlamaları, aktif izleme ve konu sınırlamaları.

Ayrıca, API üzerinden sunulan modellerin potansiyel kötüye kullanımlarına yönelik araştırmalarımızı sürdürüyoruz. Bu araştırmalar, akademik erişim programımız⁠(yeni bir pencerede açılır) aracılığıyla üçüncü taraf araştırmacıların çalışmalarını da kapsıyor. Bu aşamada çok sınırlı sayıda araştırmacıyla yola çıktık. Middlebury Enstitüsü⁠(yeni bir pencerede açılır), Washington Üniversitesi ve Allen Yapay Zeka Enstitüsü⁠(yeni bir pencerede açılır) gibi akademik ortaklarımızdan şimdiden bazı sonuçlar elde ettik. Bu program için şimdiden on binlerce başvuru almış durumdayız. Şu anda ise özellikle adil davranışa ve temsile yönelik araştırmalara odaklanan başvurulara öncelik tanıyoruz.

Zararlı ön yargılar gibi olumsuz etkilere karşı önlem alınması, sektör genelinde çok büyük önem taşıyan zor bir konu. GPT‑3 ile ilgili makalede⁠(yeni bir pencerede açılır) ve model kartında⁠(yeni bir pencerede açılır) belirttiğimiz üzere API modellerimiz, üretilen metinlere yansıyacak ön yargılar sergiliyor. Bu sorunlara karşı önlem almak için attığımız adımlar:

• Geliştiricilerin olası güvenlik sorunlarını anlamalarına ve bunlara karşı önlem almalarına yardımcı olacak kullanım kılavuzları geliştirdik.
• Kullanıcıların kullanım senaryolarını anlamak için onlarla yakın iş birliği içinde çalışıyoruz. Bu sayede, zararlı ön yargıları ortaya çıkarmaya ve bunları azaltmaya yönelik müdahale araçları geliştirmeyi amaçlıyoruz.
• Zararlı ön yargıların çeşitli tezahürleri ile adil davranış ve temsil alanlarındaki daha geniş sorunlara ilişkin kendi araştırmalarımızı yürütüyoruz. Bu araştırmalar, hem mevcut modellerin daha iyi belgelendirilmesine hem de gelecekteki modellerde çeşitli iyileştirmeler yapmamıza yardımcı olacak.
• Ön yargının, bir sistem ile kullanıldığı bağlamın kesiştiği noktada ortaya çıkan bir sorun olduğunun bilincindeyiz. Teknolojimizi kullanan uygulamalar, sosyoteknik sistemler olduğu için geliştiricilerimizle iş birliği yaparak olumsuz davranışları gözlemlemek adına gerekli süreçleri ve insan denetiminin dâhil edildiği sistemleri devreye sokmalarını sağlıyoruz.

Amacımız, API’nin her kullanım bağlamındaki potansiyel zararlarına dair kavrayışımızı sürekli olarak geliştirmek. Bu doğrultuda, söz konusu zararları en aza indirmek için araçlarımızı ve süreçlerimizi sürekli iyileştirmeyi hedefliyoruz.

18 Eylül 2020’de güncellendi