OpenAI, Kaliforniya'nın gençler için yapay zeka güvenliği yasa tasarısını destekliyor

Ann O'Leary, Küresel Politikalardan Sorumlu Başkan Yardımcısı

OpenAI, gençlerin öğrenmelerine, üretmelerine ve geleceğe hazırlanmalarına yardımcı olabilecek araçlara erişimini korurken yapay zekayı nasıl kullandıklarına yönelik anlamlı güvenceler getiren 1119 sayılı Kaliforniya Senato Yasa Tasarısı'nı destekliyor. Bu destek, OpenAI kurucu ortağı ve CEO'su Sam Altman'ın geçen yıl gençlere ilişkin şirket ilkelerimizi açıklarken verdiği taahhüdün devamı niteliğinde.

Federal düzeyde harekete geçilmediği için Kaliforniya, gençlerin yapay zeka güvenliği konusunda güçlü bir standart belirleme fırsatına sahip.

Vali Newsom'a gönderdiğimiz mektupta⁠(yeni bir pencerede açılır), bu önemli konuda gösterdikleri liderlikten dolayı Vali Newsom'u, Senatör Steve Padilla'yı, Kaliforniya Eyalet Meclisi üyeleri Buffy Wicks ve Rebecca Bauer-Kahan'ı ve Kaliforniya Yasama Meclisini takdir ediyoruz. SB 1119; ürünlerimiz, küresel politika ilkelerimiz, Kaliforniya'daki savunuculuk çalışmalarımız ve Ebeveynler ve Çocuklar için Güvenli Yapay Zeka Yasası kapsamındaki çalışmalarımız aracılığıyla desteklediğimiz genç güvenliği önlemlerini daha da ileri taşıyor. Vali Newsom'a tasarıyı imzalayarak yasalaştırması çağrısında bulunuyoruz.

Gençler, yapay zekayla büyüyen ilk nesil. Her hafta ChatGPT kullanan gençlerin yaklaşık onda dokuzu öğrenmek, bilgi edinmek, becerilerini geliştirmek veya üretkenliğini artırmak için ChatGPT'ye başvuruyor. Bu fırsat açık bir sorumluluğu da beraberinde getiriyor: Gençlere, kendilerine özgü gelişim ihtiyaçları gözetilerek tasarlanan, varsayılan olarak güçlü korumalar ile öğrenme, üretme ve keşfetme fırsatları sunan deneyimler sağlanmalı.

Yeni kullanıma sunduğumuz Gençler için ChatGPT bu yaklaşımı yansıtıyor. Bu deneyim, 18 yaşından küçük kullanıcıların öğrenmesine, eleştirel düşünmesine ve üretmesine yardımcı olacak şekilde tasarlandı. Aynı zamanda sağlıklı kullanımı teşvik ediyor, yerleşik güvenceler sunuyor ve ebeveynlere ek kontroller sağlıyor. Sistemimiz bir kişinin 18 yaşından küçük olduğunu tahmin ederse veya kişi yaşının 13 ile 17 arasında olduğunu belirtirse Gençler için ChatGPT otomatik olarak etkinleştirilir. Bu korumalar, kullanıcıların kapatabileceği isteğe bağlı ayarlar değil, temel deneyimin bir parçasıdır.

Daha genel olarak, gençlerin güvenlikten ödün vermeden yapay zekadan yararlanabileceğine inanıyoruz. Bu hedef, SB 1119'un temelini oluşturuyor.

SB 1119, güçlü korumaları yararlı yapay zeka araçlarına sürekli erişimle bir araya getiriyor. Şu temel gereklilikleri kuvvetle destekliyoruz:

• Kullanıcının yaşını belirlemek;
• Bir ürünü gençlerin kullanımına sunmadan önce güvenlik risklerini belirlemek ve ele almak;
• Bağımsız denetimlerden geçmek;
• Gençleri kendine zarar verme, cinsel sömürü içeren içerikler ve diğer yüksek riskli etkileşimler dahil olmak üzere zararlı içeriklerden korumak;
• Ebeveynlere çocuklarının kullanımını yönlendirmelerine ve sınırlamalarına yardımcı olacak araçlar sunmak;
• Ciddi güvenlik riskleri ortaya çıktığında gençleri kriz destek kaynaklarıyla buluşturmak ve
• Hedefli reklamları sınırlayıp gençlerin kişisel bilgilerini korumak.

Yaşının 13 ile 17 arasında olduğu belirlenen kullanıcılara bu korumalar otomatik olarak uygulanmalı. Bu yasa, anlamlı bir hesap verebilirlik mekanizmasını gençleri yapay zeka kullanırken korumaya yardımcı olacak güvencelerle bir araya getirecek.

SB 1119, yapay zekanın sosyal medya olmadığını da yerinde bir yaklaşımla kabul ediyor. Tasarı, gençlerin yapay zekayı öğrenmek, üretmek ve keşfetmek için kullanmasına yardımcı olacak özel korumalar getiriyor. Politika yapıcılar bu çerçeveyi geliştirirken gençler için daha güvenli ve yaşa uygun deneyimleri teşvik etmeyi, aynı zamanda ChatGPT'nin bellek özelliğinin sorumlu kullanımları dahil olmak üzere eğitim ve güvenlik açısından kritik özelliklere erişimi korumayı amaçladı.

Gençler için ChatGPT; Testler, Öğrenme Görselleştirmeleri ve Adım Adım Öğrenme Modu gibi gençlerin öğrenmesine yardımcı olmak üzere özel olarak tasarlanmış çeşitli özellikler içeriyor. Eğitimciler ve öğrenme uzmanlarıyla geliştirilen bu özellikler, öğrencilere problemleri adım adım çözme konusunda rehberlik ediyor. Bu araçlar, kavrayışı derinleştirmeyi ve daha güçlü öğrenme alışkanlıklarını desteklemeyi amaçlıyor. Bellek dahil olmak üzere önceki konuşmaların bağlamından yararlanan özellikler, güvencelerin tutarlı biçimde uygulanmasına, kaygı verici örüntülerin fark edilmesine ve zaman içinde daha yararlı öğrenme desteği sunulmasına yardımcı oluyor.

Bağlam, bu güvenlik ve öğrenme araçlarının zaman içinde daha tutarlı çalışmasına da yardımcı oluyor. ChatGPT, bellek gibi özellikler sayesinde önceki konuşmalardaki ilgili bilgileri ve tercihleri sonraki konuşmalara aktarabiliyor. Böylece gençler uzun vadeli öğrenme projelerine baştan başlamak zorunda kalmadan devam edebiliyor. Bu devamlılık, zararlı örüntülerin pekişmesini önlemeye ve bir gencin ek yardıma veya kaynaklara ihtiyaç duyabileceği durumlarda daha etkili yanıtlar verilmesine de yardımcı olabiliyor.

Güvenlik ile öğrenme arasında denge kurmak bizim için yeni değil. Geçtiğimiz yıl, modellerimizin gençlerle nasıl etkileşim kurması gerektiğine ilişkin yeni standartlar belirlemek amacıyla ebeveyn kontrollerini, yaş tahminini, Teen Safety Blueprint çerçevemizi kullanıma sunduk. Ayrıca Model Spesifikasyonumuza 18 Yaş Altı İlkelerini (modellerimizin nasıl davranması gerektiğine ilişkin kurallar) ekledik. Bu kurallar romantik ilişki kurmayı, duygusal bağımlılığı teşvik etmeyi ve ChatGPT'nin insan veya bilinç sahibi olduğunu iddia etmeyi yasaklıyor. Ailelerin gençlere yönelik temel ayarları yönetmesine ve yüksek riskli durumlarda bildirim almasına olanak tanıyan ebeveyn kontrolleri de sunuyoruz.

SB 1119, Kaliforniya'da gençlerin yapay zeka güvenliği için güçlü bir çerçeve oluşturuyor. Uygulama sürecinde araştırma ve iş birliğinin sürdürülmesi, temel hükümlerin iyileştirilmesine ve teknoloji geliştikçe çerçevenin etkili kalmasına yardımcı olabilir. OpenAI, bu çalışmayı desteklemeye ve gençlerin yaşlarına ve gelişim ihtiyaçlarına uygun, daha güçlü otomatik korumalar ile anlamlı öğrenme ve gelişim fırsatları sunan yapay zeka deneyimleri geliştirmeye devam etmeyi amaçlıyor.