Yapay zekanın sonraki aşaması için standartlar oluşturmak
Misyonumuz, genel yapay zekanın tüm insanlığa fayda sağlamasını güvence altına almaktır. Sam Altman'ın yakın zamanda açıkladığı ve Jakub Pachocki'nin belirttiği üzere, bu misyona yönelik çalışmalarımızı üç ana hedef doğrultusunda önceliklendiriyoruz:
Otomatik bir yapay zeka araştırmacısı geliştirerek, uyum sorunu üzerinde onunla birlikte yinelemeli çalışmalar yaparak ve insanların öz iyileştirme döngüsünün parçası olarak kalmasını sağlayacak yollar bularak yapay zeka ilerlemesinin sonraki dönemini yönetmek.
Çok zeki makinelerin mümkün kıldığı bilimsel ilerleme ve ekonomik büyümenin faydalarını hayata geçirmek.
Herkesi kişisel bir AGI (genel yapay zeka) ile bireysel olarak güçlendirmek.
Yapay zeka, araştırma ve mühendislik çalışmalarımızı hızlandırıyor; yapay zeka destekli araştırmalar da matematikte ilerlemeler sağladı. Bunlar arasında Navier-Stokes Milenyum Problemi de bulunuyor. Bu ilerleme, diğer iki hedefimiz açısından büyük umut vadediyor; dünyanın her yerinde tıp alanında önemli keşiflere, geniş kitlelerin erişebileceği sağlık hizmetlerine ve küçük işletmeler ile bireysel girişimcilerin ekonomik açıdan güçlenmesine yol açabilir.
Yapay zeka birçok şirket ve ülkede ilerliyor; alan genelindeki ilerlemeler herkesin karşı karşıya olduğu fırsatları ve zorlukları değiştiriyor. Diğer faydalarının yanı sıra yetkin ve uyumlu yapay zeka, bu geçişi yönetme biçimimizin önemli bir parçası olacaktır: savunmaları güçlendirecek, uyum araştırmalarını ilerletecek ve insanların yapay zeka gelişiminin sonraki aşamalarını anlayıp yönlendirmesine yardımcı olacaktır.
Bu geçişi güvenli biçimde yönetmek için uyum araştırmalarının bu yeteneklere ayak uydurması gerekir. Böylece bizim ve başkalarının geliştirdiği sistemler insan değerleriyle uyumlu ve insanların kontrolü altında kalabilir. Yapay zeka sistemleri daha yetkin ve özerk hâle geldikçe, özellikle yapay zeka araştırma ve geliştirme çalışmalarının daha büyük bir bölümünü üstlendikçe bu giderek daha önemli olacaktır. Yapay zekadaki ilerlemenin güvenli ve faydalı biçimde sürmesi için hem uyum araştırmalarında ilerleme hem de laboratuvarlar ve ülkeler genelinde geliştirme çalışmalarına yön verecek ortak standartlar gerekecektir.
Otomatik yapay zeka araştırmaları, farklı düzeylerde insan gözetimi içerebilir. Yapay zeka sistemleri, birbirini izleyen yeni yapay zeka nesillerini geliştirme işinin daha büyük bir bölümünü üstlendikçe insanlar sürece dâhil olmaya devam etse bile yinelemeli öz iyileştirme (RSI) sürecini giderek daha fazla yönlendirebilir. Bu süreç daha otomatik hâle geldikçe yapay zeka ilerlemesinin hızı çarpıcı biçimde artabilir.
Otomatik yapay zeka araştırmalarının, insanların yaşamını doğrudan iyileştiren modeller ortaya çıkaracağına inanıyoruz. Gelişmiş zekanın maliyetini düşürerek dünyanın dört bir yanındaki insanların bundan faydalanmasını sağlayabilir. Otomatik araştırmalar, uyumu önemli ölçüde geliştirmemize ve giderek daha yetkin hâle gelen yapay zekaya karşı savunmalar oluşturmamıza da yardımcı olabilir; otomatik bir yapay zeka araştırmacısı, aynı zamanda otomatik bir yapay zeka güvenliği araştırmacısı olabilir. Daha yetkin ve uyumlu sistemler, kritik altyapının güvenliğini sağlamaya, tehlikeli yapay zeka ajanlarına karşı savunma yapmaya ve yeni koruyucu önlemler geliştirmeye yardımcı olabilir.
Tamamen özerk RSI bugün gerçekleşmiyor; güvenli biçimde yapılabileceği kanıtlanmadıkça bunun peşinden gitmemeliyiz. İlerleyip ilerlememe ve nasıl ilerleme kararı, insan kontrolünü koruma becerimize ve faydalarla risklere ilişkin bilgiye dayalı demokratik tercihlere(yeni bir pencerede açılır) bağlı olmalıdır. Gerekli özen ve ihtiyat gösterilmeden uygulanırsa RSI, insanların yapay zeka gelişimi üzerindeki fiilî kontrolü yitirmesine ve artık anlamadıkları araştırma süreçlerini denetleyememesine yol açabilir. Bunun sonucunda yapay zeka daha tehlikeli, daha uyumsuz ve genel olarak insanlar için bir tehdit hâline gelebilir. Açıkladığımız Hugging Face Olayı, RSI'ın doğrudan bir sonucu olmasa da sağlam güvenceler ve uyum olmadan çok daha ciddi hâle gelebilecek risklerin bir ön izlemesidir.
En üst seviye yapay zeka geliştirmede güvenlik uygulamalarına yönelik uluslararası standartlar, en üst seviyedeki ilerlemenin hızını ayarlamak açısından uyum araştırmaları kadar önemli olabilir. Standartlar, nitelikli kanıtlara ilişkin ortak tanımlar ve teknik güvencelerin titizliğine yönelik üzerinde uzlaşılmış asgari ölçütler oluşturabilir. Kısacası şu soruyu yanıtlamamıza yardımcı olurlar: “Felaket düzeyindeki yapay zeka riskini azaltmada iyi uygulama nasıl görünür?”
Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI) gibi mevcut demokratik kurumlar, eyalet yasaları ve federal bir yapay zeka çerçevesinin yanı sıra yeni kamu-özel sektör ortaklığı biçimleri(yeni bir pencerede açılır) de bu konuda yardımcı olabilir. Ancak yapay zeka geliştirme ve kullanıma sunma çalışmaları birden fazla ülkede yürütülüyor, yapay zeka küresel ölçekte benimseniyor ve etkilerini büyük olasılıkla herkes farklı biçimlerde ve zamanlarda yaşayacak.
Bu nedenle bazı temel zorlukları çözmek için uluslararası standart geliştirme çalışmalarına ihtiyaç vardır:
Parçalanma—Farklı ülkelerin değerlendirmeleri, raporlama gereklilikleri ve olay tanımları birbiriyle çelişebilir; bu da kanıtları karşılaştırmayı, yeni yetenekleri anlamayı ve sınırları aşan risklere müdahale etmeyi zorlaştırabilir.
Ortak hareket—Her ülkenin bağımsız hareket etmesi, hiçbir ülkenin istemediği sonuçlara yol açabilir. RSI, yapay zeka araştırmalarını hızlandırabilir ve ilerlemeyi anlama, riskleri değerlendirme ve anlamlı insan gözetimini sürdürme konusundaki ortak kapasitemizi aşabilir.
Eşitsiz kapasite—En üst seviye geliştirme faaliyetleri ve ilgili uzmanlık dünya genelinde eşit dağılmamıştır. Bu durum yukarıdaki iki sorunu da ağırlaştırır.
Bu zorluklar hem açık hem de kapalı modeller için geçerlidir.
Açıkça belirtmek gerekirse otomatik yapay zeka araştırmaları veya başka gelişmiş yetenekler üzerinde çalışan her yapay zeka laboratuvarı, temel öz sorumluluk ilkeleri ve mevcut yasalar uyarınca bu çalışmaları güvenli biçimde yürütmenin sorumluluğunu üstlenmelidir. Standartları desteklememizin temelinde gücün belirli ellerde toplanmasını önleme ve uygulamada daha iyi sonuçlar elde etme amacı yatıyor. Standartlar, laboratuvarların dışındaki daha fazla paydaşın bu teknolojinin nasıl gelişmesi gerektiği konusunda söz sahibi olmasını sağlar ve herhangi bir laboratuvarın özel uygulamalarından bağımsız olarak güvenilebilecek görünür bir ilkeler bütünü sunar. Tarafların yukarıdaki zorlukları ele almak için iş birliği yapması hâlinde muhtemelen daha iyi sonuçlar elde ederiz.
Bu nedenle Amerika Birleşik Devletleri'nin, RSI dâhil en üst seviye yapay zeka için küresel teknik standartlar geliştirmek üzere dünyanın dört bir yanındaki ülkelerle ortak bir çalışmaya liderlik etmesi gerektiğine inanıyoruz.
Bu yaklaşımın zaman içinde önemli ölçüde gelişmesini beklesek de iki unsur vazgeçilmez olacaktır.
Bunu başarmanın bir yolu; Avustralya, Kanada, Almanya, Fransa, Kenya, Japonya, Kore, Singapur, Hindistan ve Birleşik Krallık'ta kurulmuş olanlar gibi yeni gelişen yapay zeka güvenliği enstitüleri ağından yararlanarak CAISI ve ulusal sektör kuruluşları aracılığıyla standart belirleme çalışmalarını kolaylaştırmaktır. Bu çalışmalar özellikle (1) yetenek ölçütleriyle değerlendirilen en üst seviye yapay zeka modellerine ve geliştiricilerine; (2) RSI dâhil otomatik yapay zeka araştırmalarında fayda-risk yönetimine odaklanmalıdır. Amerika Birleşik Devletleri, kamu kurumlarını yapay zeka ölçümü, değerlendirmesi ve bilimi alanlarında iş birliği yapmak üzere bir araya getiren Uluslararası İleri Yapay Zeka Ölçüm, Değerlendirme ve Bilim Ağı'nın(yeni bir pencerede açılır) CAISI tarafından 2024'te kurulmasını temel alabilir.
Bu çalışma kapsamında geliştirilen standartlar; yeteneklerin ölçülmesi ve değerlendirilmesi, risk değerlendirmesi ve güvencelerin yeterliliği için ortak bir teknik temel sağlayacaktır. Bu teknik standartlar; yapay zeka modelleri için lisans, kullanıma sunulmadan önce zorunlu inceleme veya onay şartı niteliğinde olmayacaktır. Ulusal hükûmetler, bu standartları kendi hukuk sistemlerine dâhil edip etmeyeceklerine ve bunu nasıl yapacaklarına karar verecektir.
Bu çalışma ayrıca açık model ve kapalı model geliştiricilerine, bağımsız teknik uzmanlara ve akademik çevrelere danışarak rekabetçi bir yapay zeka ekosistemini desteklemelidir. Ortak standartlar şeffaf biçimde geliştirilmeli; yeni katılımcıların veya açık ağırlıklı model geliştiricilerinin rekabet etmesini zorlaştırmak da dâhil olmak üzere belirli şirketlere, ülkelere ya da iş modellerine avantaj sağlamayacak şekilde tasarlanmalıdır.
Daha önce önerdiğimiz(yeni bir pencerede açılır) gibi bu yaklaşım, ülkelerin ulusal yetkilerinden vazgeçmeden ortak teknik standartlar ve güvenilir iş birliği kanalları geliştirdiği havacılık ve finansal istikrar gibi alanlardan ders çıkarabilir. Ayrıca ISO(yeni bir pencerede açılır), En Üst Seviye Model Forumu(yeni bir pencerede açılır), Ajan Tabanlı Yapay Zeka Vakfı(yeni bir pencerede açılır) ve Açık ve Güvenli Yapay Zeka İttifakı(yeni bir pencerede açılır) gibi yerleşik ve yeni standart kuruluşlarının yanı sıra uluslararası standartları gerçek dünyadaki yapay zeka değerlendirmeleriyle buluşturan uygulanabilir teknik şartnameler geliştiren Appia Vakfı gibi uygulama odaklı kuruluşlarla yakın çalışmalıdır.
Uluslararası yapay zeka standartları, yapay zeka araştırmalarındaki artan özerkliği ve yinelemeli öz iyileştirmeyi yönetmede özellikle önemli olacaktır. Bu standartlar özellikle şunları kapsayabilir:
RSI ile ilgili yapay zeka ilerlemesinin ve bir yapay zeka şirketinde yürütülen özerk araştırma miktarının değerlendirilmesi. Araştırmaların hızlanmasına ilişkin yakın tarihli raporumuz, bu çalışmaya yönelik ilk katkılardan biridir.
Hangi otomatik yapay zeka araştırma süreçlerinin derhâl insan incelemesini gerektirmesi gerektiği dâhil olmak üzere otomatik yapay zeka araştırmaları üzerindeki insan gözetimi.
Ortak olay önem düzeyleri ve bildirim eşikleri gibi unsurlar dâhil olmak üzere uyum ve otomatik yapay zeka araştırmalarıyla ilgili olayların sınıflandırılması, izlenmesi, bildirilmesi ve bunlara müdahale edilmesi. Uyumsuzluk bildirim çerçevemiz bu alandaki ilk katkılardan biridir.
Bu standartlara ek olarak, dünya genelindeki kritik altyapı işletmecileri ile hükûmetlerin ulusal güvenlik kaygılarını, yeni ortaya çıkan güvenlik açıklarını ve tehditleri, ayrıca hızla gelişen en üst seviye yapay zeka güvenliği alanındaki en iyi uygulamaları paylaşmak için güvenli iletişim kanalları kurmasının önemli olacağına inanıyoruz. Bu alanlarda Amerika Birleşik Devletleri ile Çin arasında diyalog kurulması olumlu bir adım olacaktır; yaklaşan görüşmeler de bunun için uygun bir zamanda gerçekleşiyor.
Yapay zekanın gelişim hızını ayarlamak, önceden belirlenmiş bir hızı korumak demek değildir. Teknik açıdan amaç, uyum araştırmalarının ve sonuçlarının uygulamaya geçirilmesinin yeteneklerin önünde kalmasını sağlamaktır. Toplumsal açıdan ise standartlar, kurumlar ve iş birliği aracılığıyla sektör ağlarını, toplumsal ilişkileri ve piyasa güçlerini destekleyerek herkesin kazançlı çıkacağı sonuçlar üretmektir. Yakın zamanda yapılan siber savunmada ortak hareket etme çağrısı buna bir örnektir.
Amerika Birleşik Devletleri liderlik etmek için güçlü bir konumdadır; çünkü yapay zeka sektörü teknik açıdan en üst seviyededir ve finans, ticaret, savunma, teknoloji ve bilgi sistemleri gibi kritik alanlarda küresel ağlar içinde hâlâ ayrıcalıklı bir konuma sahiptir. Bugün liderlik etmek, küresel yapay zeka çerçevesini Amerika Birleşik Devletleri'nin mi şekillendireceğini, yoksa ülkenin çevresinde parçalı, dengesiz ve çatışmalarla dolu bir sistemin yerleşmesini mi izleyeceğini belirleyecektir. Bu aynı zamanda gelişmiş yapay zekanın Amerika Birleşik Devletleri ile müttefiklerinin mevcut ağlarını güçlendirip güçlendirmeyeceğini de belirleyecektir; liderlik edilmemesi bu ağları zayıflatabilir.
Jeopolitik rekabet yalnızca teknik açıdan kimin önde olduğuyla değil, yapay zekanın benimsenmesi ve yayılmasıyla da ilgili olacaktır. Yapay zekanın benimsenmesi ve yayılması, geleceğini bu teknoloji üzerine kuracak şirketlerin ve toplumların isteyeceği uygulanabilir iş birliğine ve makul temel kurallara kimin öncülük ettiğiyle giderek daha fazla belirlenecektir.
Uygulanabilir uluslararası iş birliğiyle bağlantılı güçlü ulusal yönetişim; daha sağlam güvencelere, sürekli inovasyona ve yapay zekanın faydalarına geniş erişime giden bir yol sunar.
