Yapay zeka politikaları için fırsat var. Harekete geçmeliyiz.

Yapay zekanın yeteneklerinde yeni bir döneme girdik. Bu da yapay zeka politikalarında yeni bir dönemi gerekli kılıyor. Hiçbir şirket, sektör veya hükümet bu zorluğun üstesinden tek başına gelemez. Bu dönemin gereğini yerine getirmek için kusursuz politikalar beklemektense somut sonuçlar doğuracak adımlara öncelik vermeliyiz.

Attığımız adımlar şöyle:

1. Ulusal düzeyde zorunlu yapay zeka güvenliği koşulları için çalışıyoruz. Yetenekleri temel alan, ulusal düzeyde zorunlu bir yapay zeka güvenliği düzenlemesi üzerinde Kongre ile birlikte çalışmak istiyoruz.

2. Eyaletlerdeki ivmeyi sürdürüyoruz. Kongre harekete geçene kadar yapay zeka güvenliği ekosistemini genel olarak güçlendiren eyalet düzenlemelerini desteklemeyi sürdüreceğiz. Bugün dört Kaliforniya yasa tasarısına desteğimizi açıklıyoruz: bağımsız güvenlik değerlendirmeleri için genel altyapıyı ele alan SB 813, yapay zeka denetçilerine yönelik standartları ele alan AB 1405, gençlerin korunmasını ele alan SB 1119 ve yapay zekanın mümkün kıldığı biyolojik tehditlere karşı tedbirleri ele alan AB 1864.

3. Sektör öncülüğündeki standartları geliştiriyoruz. En üst seviye yapay zeka standartlarını geliştirmek için bu alanda çalışan diğer laboratuvarlarla iş birliği yapacağız. Devlet desteği olsun ya da olmasın, gönüllü bir girişimi bugünden oluşturacağız.

4. Küresel standartlar oluşturuyoruz. Yeteneklerin ölçülmesi, risklerin yönetilmesi, insan kontrolünün korunması ve geliştirme çalışmalarının ne zaman, nasıl yavaşlatılması veya durdurulması gerektiğinin belirlenmesi için birbiriyle uyumlu uluslararası yaklaşımları savunacağız. Bunun model yeteneklerinin gelişimini yavaşlatması gerekse bile bu tutumumuzu sürdüreceğiz.

Baş Bilim İnsanımız Jakub Pachocki kısa süre önce yayınladığı yazısında⁠, makine zekasının hızlı gelişiminin ve kendi kendini iyileştirme döngüsü potansiyelinin "son derece dikkatli olmayı" gerektirdiğini belirtti. OpenAI, uyumlanma ve izleme için teknik çözümler geliştirmeye, savunma sistemleri kurmaya ve gerektiğinde geliştirme çalışmalarını yavaşlatmaya devam edecek. Ancak laboratuvarların kendi bünyelerinde yürüttüğü teknik çalışmalar tek başına yeterli olmayacak. Geliştirme çalışmalarının ne zaman yavaşlatılması veya durdurulması gerektiğini de belirleyen ortak standartlara ihtiyacımız var.

Kazanılabilecekler de kaybedilebilecekler de çok büyük. Gelişmiş yapay zeka, yeni ilaçların⁠ geliştirilmesini hızlandırabilir, kritik altyapıyı⁠ güçlendirebilir, ekonomik fırsatları⁠ artırabilir ve nesiller boyunca insanların çabalarına rağmen çözülemeyen bilimsel sorunların⁠ çözümüne yardımcı olabilir. Ancak modelleri daha kullanışlı kılan yetenekler, beraberinde riskler de getiriyor. Üstelik bu yetenekler, en üst seviye yapay zeka üzerinde çalışan birkaç laboratuvarla sınırlı kalmayacak. Açık modeller de dahil, dünyanın dört bir yanında geliştirilen modeller bugünün en üst seviyesine giderek yaklaşacak ve yaygın biçimde erişilebilir hale gelecek.

Astra'nın yetenekleri, yapay zekanın araştırmaları hızlandırdığına ilişkin ilk bulgular ve Jakub'un yazısı aynı gerçeğe işaret ediyor: Yapay zeka hızla ilerliyor ve politikaların da buna ayak uydurması gerekiyor.

Greg Brockman, "savunma tarafı için bir fırsat penceresi" tanımladı⁠(yeni bir pencerede açılır): Güçlü saldırı yetenekleri yaygınlaşmadan önce en üst seviye yapay zekanın, savunma tarafının kritik sistemleri güçlendirmesine yardımcı olabileceği sınırlı bir dönem. Politika yapıcılar da benzer bir noktada: Yapay zekanın yetenekleri, onu yönetmekten sorumlu kurumların kapasitesini aşmadan önce kalıcı koruma tedbirleri oluşturmak için sahip oldukları fırsat daralıyor.

Yapay zekanın yetenekleri geliştikçe, güvenliğinden ne ölçüde emin olduğumuz ilerleme hızında giderek daha belirleyici olmalı. Güvenlik, ilerlemeyi engellemez; daha ileriye taşınmasını ve daha fazla insana fayda sağlamasını mümkün kılar.

Model geliştirme yaşam döngüsünün tamamında izleme, uyumlanma ve güvenlik tedbirlerini güçlendirdik. En üst seviye araştırma iş yükleri için daha güçlü yalıtım sağladık, araçların kullanıldığı eğitim ve değerlendirmelerde model davranışlarını daha kapsamlı izlemeye başladık ve endişelerin ne zaman üst mercilere iletilmesi gerektiğine ilişkin kuralları netleştirdik. Astra için ayrıca düşünce zincirleri dahil tüm işlem akışlarını baştan sona izlemeye başladık. Kurum içinde daha geniş kullanıma sunulmadan önce modelin zorunlu bir uyumlanma değerlendirmesinden geçmesi koşulunu da getirdik.

Bu koruma tedbirleri, yeteneklerdeki gelişimin önünde kalmayı sürdürmeli. Çalışmalara devam etmek kabul edilemez bir güvenlik riski doğuracaksa, daha önce yaptığımız gibi ve Risklere Hazırlık Çerçevemizin⁠(yeni bir pencerede açılır) gerektirdiği şekilde, yeterince güvenli hale getiremediğimiz sistemleri geliştirmeyi veya kullanıma sunmayı yavaşlatacağız ya da durduracağız.

Yapay zeka sistemlerinin giderek daha yetenekli yapay zeka nesillerini art arda ve bağımsız biçimde geliştirdiği, tamamen otonom kendi kendini iyileştirme döngüsü bugün gerçekleşmiyor. Güvenli biçimde yapılabilir hale gelmeden bu hedefin peşinden gitmemeliyiz.

Ancak yapay zeka, yeni nesil modellerin geliştirilmesi ve uyumlanması için yürütülen araştırmaların bazı aşamalarını şimdiden hızlandırıyor. En son araştırmamız⁠, yapay zeka ajanlarının, yetkin araştırmacıların birkaç gününü alacak bazı görevleri yerine getirebildiğini gösteriyor. Bu, kendi kendini iyileştirme döngüsü olmasa da hangi yöne ilerlediğimize dair bir kanıt.

Bu hızlanma, güvenlik çalışmalarına da yönlendirilebilir ve yönlendirilmelidir. Amacımız, insan gözetiminde çalışarak hem derin öğrenmeyi hem de uyumlanmayı ilerleten otomatik yapay zeka araştırmacılarını güvenli biçimde geliştirmek. Her yapay zeka neslini, bir sonrakini yalnızca daha yetenekli değil, aynı zamanda daha güvenli, uyumlanma düzeyi daha yüksek ve kontrolü daha kolay hale getirmek için kullanmayı hedefliyoruz.

Hükümetler bu ilerlemeyi ölçmek için ortak yöntemler geliştirmeli, insanın etkili kontrolünü korumalı ve geliştirme çalışmalarının ne zaman, nasıl yavaşlatılması veya durdurulması gerektiğini belirleyen ortak güvenlik eşikleri oluşturmalı. Belirli güvenlik eşiklerini yeteneklerdeki gelişimi yavaşlatmadan karşılayamıyorsak önceliği bu eşikleri karşılamaya vermeliyiz. Teknoloji güçlendikçe ona yönelik koruma tedbirleri de güçlenmeli.

Yapay zekanın kendi gelişimini hızlandırma potansiyeli, gönüllü taahhütlerin ötesinde adımlar atmayı gerektiriyor. Amerika Birleşik Devletleri'nin, teknolojiyle birlikte gelişebilen, yetenekleri temel alan ve ulusal düzeyde zorunlu olan düzenlemelere ihtiyacı var.

En Üst Seviye Yapay Zekanın Demokratik Yönetişimi için Yol Haritamız⁠, kalıcı bir federal çerçeveye giden yolu ortaya koyuyor: ortak test ve bağımsız değerlendirme koşulları, daha güçlü siber güvenlik tedbirleri, açık olay bildirim kuralları, ulusal düzeyde daha yüksek hazırlık ve kendi kendini iyileştirme döngüsüne doğru ilerlemeyi izlemek için ortak ölçütler.

Kongre'de en üst seviye yapay zekanın güvenliğine ilişkin çeşitli ciddi öneriler şekillenmeye başladı. Yapıcı katkılar sunmayı sürdüreceğiz. Güvenlik çıtasını kayda değer ölçüde yükselten düzenlemeleri desteklemeyi öngörüyoruz. Kazanılabilecekler ve kaybedilebilecekler bu kadar büyükken, kusursuzu ararken iyi adımların önünü kesemeyiz. Kongre, çalışmalarına ara vermeden önce harekete geçmeli.

Ulusal çerçeve güçlü olmalı, ancak kapsamı özenle belirlenmeli. En üst seviye yapay zekaya ilişkin güvenlik koşulları, en yetenekli sistemleri geliştiren, geniş kaynaklara sahip az sayıdaki laboratuvar için geçerli olmalı. En üst seviyeye yaklaşmayan alanlarda çalışan girişimlere, küçük geliştiricilere veya araştırmacılara uygulanmamalı. Yükümlülükler, yetenekler ve risklerle orantılı olmalı.

En üst seviye yapay zekaya ilişkin güvenlik politikası, farklı bir ad altında açık ağırlıkları düzenleyen bir politikaya da dönüşmemeli. Açık modeller, özellikle siber güvenlikte ve egemenlik, güvenlik veya veri yerleşimi ihtiyaçlarının yerel kurulumu daha uygun kıldığı durumlarda çözümün bir parçası olabilir. Çoğu, en üst seviye yeteneklerde değil; maliyet, kontrol ve gecikme süresinde rekabet eder. Open Weights and American AI Leadership (Açık Ağırlıklar ve Amerika'nın Yapay Zeka Liderliği) mektubunu⁠(yeni bir pencerede açılır) imzalarken de vurguladığımız gibi, Amerika'nın hem açık hem de kapalı modellere ihtiyacı var. Federal bir çerçeve; rekabeti zayıflatmadan, yerleşik şirketlerin hakimiyetini pekiştirmeden ve yenilikçi çalışmaları yurt dışına yöneltmeden en üst seviye yetenekleri ve riskleri ele almalı.

Ciddi bir kamusal çerçeve, gücün az sayıda elde toplanmasını artırmak yerine azaltmalı. Bugün en üst seviye yapay zeka laboratuvarları, en üst seviye model risklerini yönetmeye ilişkin kurallarını büyük ölçüde kendileri belirliyor. Demokratik hesap verebilirliğe dayanan standartlar, bağımsız doğrulama ve gerçek bir şeffaflık, şirketlerin kendi kurallarını koyduğu bu parçalı yönetişim sisteminin yerini alabilir.

Bu, Amerika'nın liderliği için vazgeçilmez. Amerika Birleşik Devletleri, yapay zeka çağında yalnızca yetenekleriyle üstünlük sağlayamaz. İnsanlar, kurumlar ve hükümetler bu teknolojiyi benimseyecek kadar güven duymazsa teknik açıdan önde olmanın pek bir anlamı kalmaz. Güçlü koruma tedbirleri, yenilikçilikten ödün vermek değildir. Bu tedbirler, teknolojinin yaygın biçimde benimsenmesi ve Amerika'nın kalıcı liderliği için gereken altyapının bir parçasıdır.

Yapay zeka alanında ulusal standartlara büyük ihtiyaç duyuyoruz. En üst seviye yapay zeka üzerine çalışan herkes bu ihtiyacın aciliyetini görüyor. Kongre harekete geçene kadar eyaletler bu boşluğu doldurmak ve çıtayı yükseltmek için adım atmayı sürdürmeli.

OpenAI, Kaliforniya'nın SB 53'ünü, New York'un RAISE Yasası'nı, Illinois'nin SB 315'ini ve Massachusetts'te değerlendirilmekte olan en üst seviye yapay zeka güvenliği mevzuatındaki bağımsız denetimleri destekledi. Eyaletleri bu ortak güvenlik önlemleri etrafında uzlaşmaya teşvik ediyoruz. Böylece Kongre'nin zamanla yasalaştırabileceği, ülke genelinde fiilen geçerli bir asgari standart oluşturabilirler. Bu yaklaşıma ⁠tersine federalizm⁠ diyoruz. Ancak gereklilikleri birbiriyle uyumlu hale getirmek, onları değişmez kılmak anlamına gelmez.

Bugün, Kaliforniya yasama meclisinden geçen ve Vali Newsom'un onayına sunulacak dört yasa tasarısına daha resmi destek veriyoruz. Bu tasarılar, yapay zeka güvenliği ekosisteminin birbirini tamamlayan farklı alanlarını ele alıyor.

SB 813⁠(yeni bir pencerede açılır), yapay zeka risklerini değerlendirme yetkinliğine sahip, nitelikli ve bağımsız kuruluşların belirlenmesi için bir süreç oluşturmayı öngörüyor. Daha önce ⁠(yeni bir pencerede açılır)en üst seviye yapay zeka güvenliğine ilişkin yol haritamızda⁠(yeni bir pencerede açılır) belirttiğimiz gibi, bağımsız teknik değerlendirmelerin federal düzeyde zorunlu tutulmasını tercih ediyoruz. Bu düzeyde politika yapıcılar, değerlendiricilerin nitelikleri, güvenlik ve son derece hassas bilgilere erişim konusunda tutarlı standartlar belirleyebilir. Ancak federal düzeyde adım atılmadığı sürece Kaliforniya, güvenlik açısından daha iyi sonuçlar veren, güvenli ve yetkin bir ulusal bağımsız değerlendirme sisteminin temel kurallarını oluşturmaya yardımcı olabilir.

AB 1405⁠(yeni bir pencerede açılır), yapay zeka denetçileri için kayıt, bağımsızlık, şeffaflık ve hesap verebilirlik koşulları getirmeyi öngörüyor.

SB 1119⁠(yeni bir pencerede açılır), arkadaşlık amaçlı sohbet botlarını kullanan çocuklar ve gençler için yaş tespitine yönelik önlemleri, risk değerlendirmelerini, bağımsız denetimleri, ebeveyn kontrollerini ve zararlı içeriklere karşı koruma önlemlerini zorunlu kılmayı öngörüyor. Yakın zamanda bu yasa tasarısına destek verdiğimizi açıkladık⁠. Tasarı, OpenAI olarak ürünlerimiz, ⁠küresel politika ilkelerimiz⁠ ve ⁠(yeni bir pencerede açılır)Ebeveynler ve Çocuklar için Güvenli Yapay Zeka Yasası⁠(yeni bir pencerede açılır)'na verdiğimiz destek yoluyla geliştirdiğimiz gençleri koruma önlemlerini temel alıyor. Ayrıca Gençler için ChatGPT'deki hassas konularda daha güçlü varsayılan ayarlar, Sessiz Saatler, Adım Adım Öğrenme Saatleri ve mola hatırlatmaları gibi yerleşik korumalara dayanıyor.

AB 1864⁠(yeni bir pencerede açılır), en sentezi hizmeti sunan kuruluşların ve masaüstü sentez cihazı üreticilerinin federal tarama standartlarına uymasını zorunlu kılmayı öngörüyor. Bu zorunluluk, yapay zeka destekli biyolojik tehditlere karşı önemli bir fiziksel güvenlik tedbirini güçlendirecek.

Bu yasa tasarılarından bazılarını geçmişte desteklemiyorduk. Ancak son dönemde yeteneklerde gördüğümüz sıçramayı dikkate alarak tutumumuzu yeniden değerlendirdik ve artık destekliyoruz.

Bu yasa tasarıları federal düzenlemelerin yerini tutmaz. Bunlar, insanları bugünden koruyabilecek, uygulanabilir güvenlik önlemlerinin nasıl olması gerektiğini gösterebilecek ve federal düzeyde harekete geçilmesine ivme kazandırabilecek ciddi girişimler.

Gelişmiş yapay zekayı güvenli hale getirmek için yasalar tek başına yeterli olmayacak. En yetenekli sistemleri geliştiren laboratuvarlarda somut uygulamalara da ihtiyacımız var. En acil öncelik, izleme çalışmalarına başlamak.

Bu, özellikle uyumlanma sorunları açısından önemli. Bu sorunlar, bir modelin bir hedefe ulaşmaya çalışırken insanın niyetine veya belirlenmiş sınırlara aykırı yollar izlemesiyle ortaya çıkar; bunun için modelin bilinçli ya da kötü niyetli olması gerekmez. Modeller daha otonom hale geldikçe, daha güçlü araçlar kullandıkça ve daha uzun süre çalıştıkça geliştiriciler, uyumlanma hedefleriyle bağdaşmayan bu davranışları izlemek ve etkili koruma önlemlerinin uygulandığını göstermekle yükümlü olmalı.

İzleme çalışmalarına açıkça tanımlanmış bildirim yükümlülükleri eşlik etmeli. Kaliforniya'da da savunduğumuz gibi, şirketler, geliştirme veya değerlendirme sırasında modellerinin başka bir kuruluşun güvenlik kontrollerini izinsiz aşarak o kuruluşun korunan sistemlerine ya da gizli bilgilerine kayda değer ölçüde erişmesi, bunları değiştirmesi veya yok etmesi halinde etkilenen taraflara gecikmeden yazılı bildirimde bulunmakla yükümlü olmalı. Yapay zekayla ilgili diğer ciddi olaylar için de federal bildirim yükümlülüklerini destekliyoruz. Hangi olayların kapsama alınması ve bu yükümlülüklerin neleri içermesi gerektiğini belirlemek üzere çalışıyoruz.

Geçen hafta paylaştığımız gibi OpenAI, uyumlanma sorunlarının ciddi sonuçlara yol açtığı olayları bildirmek ve kurum içi kullanım da dahil olmak üzere en üst seviye modellerin faaliyetlerini sistematik olarak izlemek için bir çerçeve geliştiriyor. Bu çalışma şirket öncülüğünde başlasa da daha geniş kapsamlı federal politikaların ve bildirim yükümlülüklerinin şekillenmesine katkı sağlamasını umuyoruz.

Sektör öncülüğünde geliştirilecek standartlar için diğer laboratuvarlarla birlikte çalışmak istiyoruz. Sektör öncülüğünde geliştirilen tüm standartlar, zorunlu federal güvenlik önlemlerini ve demokratik denetimi tamamlayıcı niteliktedir; bunların yerini almaz. Ancak yapay zekanın yetenekleri açısından farklı bir aşamaya girdik ve tüm seçenekleri değerlendirmeliyiz. Buna, hemen atılabilecek bir adım olarak devlet dışında gönüllü girişimlerle neler yapılabileceğini değerlendirmek de dahil.

Bu tür standartlar zamanla ulusal sınırların ötesinde de geçerli olmalı. Modeller, araştırmalar ve teknik uzmanlık dünya genelinde yayılıyor. En yetenekli sistemlerde yaşanabilecek aksaklıkların sonuçları da bu sistemlerin geliştirildiği ülkenin çok ötesine uzanabilir. Amerika Birleşik Devletleri, uluslararası alanda liderlik etmek istiyorsa kendi ülkesinde güvenilir standartlar oluşturmalı. Birbiriyle uyumlu uluslararası standartlara ihtiyaç duyulacağına dair inancımız da giderek güçleniyor.

Yapay zeka politikaları için fırsat penceresi şimdilik açık. Bu fırsatı değerlendirmeye niyetliyiz.

Bu, vakit kaybetmeden, alçakgönüllülükle ve uyum sağlamaya açık bir tutumla hareket etmek demek. Bizim hazırlayacağımız önerilerle birebir örtüşmeseler bile güvenlik çıtasını kayda değer ölçüde yükselten ciddi önerileri desteklemek demek. Ve teknoloji geliştikçe bu çerçeveyi güçlendirmek demek.

Hiçbir ilk adım kusursuz olmayacaktır. Ancak artık daha büyük risk, ilk adımı atmak için çok uzun süre beklemektir.