Küresel liderlikle gençlerin güvenliğini ve fırsatlarını ilerletmek

Yapay zekâ, gençler için güçlü bir araç olabilir. Öğrencilerin zor bir kavramı anlamasına, yeni bir dil pratiği yapmasına, iş görüşmesine hazırlanmasına, yaratıcı fikirleri keşfetmesine veya yeni bir beceri öğrenmesine yardımcı olabilir. 20. yüzyılın ortasında dünyaya yayılan okuryazarlık hareketinin basılı metinlerin kitlesel dağıtımını ve eğitimli öğretmenlere erişimi gerektirmesi gibi, bugün güvenli yapay zekâya erişim sağlamak da kişiselleştirilmiş öğrenme için yeni fırsatların önünü açacak, yeterince hizmet alamayan kesimler için engelleri azaltmaya yardımcı olacak ve iş gücüne hazırlığı artıracaktır.

Potansiyel faydalar bu kadar önemli olduğundan, gençlerin yapay zekâya güvenli, yaşlarına uygun ve sağlıklı gelişimi destekleyen yollarla erişebilmesi esastır. Bu sorumluluk öncelikle ebeveynlerin veya gençlerin kendilerinin omuzlarına bırakılmamalıdır. OpenAI dahil şirketlerin, varsayılan olarak uygun güvenlik önlemleriyle ürünler geliştirme ve aynı zamanda aileleri yapay zekânın nasıl kullanılacağına rehberlik edecek araçlar ve bilgilerle güçlendirme sorumluluğu vardır.

Devlet Başkanları bu ayın ilerleyen günlerinde Fransa’nın Évian kentindeki G7 Liderler Zirvesi’nde bir araya geldiğinde, gençlerin yapay zekâ güvenliği konusu temel odak noktalarından biri olacak. OpenAI, gençlerin güvenliği konusunda daha fazla iş birliğini, sektör standartlarını yükseltmek için birlikte nasıl çalışabileceğimizi ve OpenAI’nin uluslararası bir gençlik güvenliği enstitüsü kurulmasına yönelik yeni çağrısını görüşmek üzere katılacak.

G7 Liderler Zirvesi, gençlerin güvenliği konusunda küresel koordinasyon için nadir bir fırsat sunuyor. Ancak özel bir enstitü, tek bir zirvenin ötesinde gereken sürekliliği ve takibi sağlayarak hükümetlerin, araştırmacıların, sivil toplumun ve sektörün kanıt paylaşmak, rehberlik geliştirmek ve zaman içinde standartları yükseltmek için birlikte çalışmaya devam etmesine yardımcı olur.

Bunun yapılabileceği birkaç güvenilir yol var: yeni bir uluslararası enstitü aracılığıyla ya da mevcut veya yeni kurulmuş bir ulusal yapay zekâ enstitüsüne, araştırma, kanıt ve rehberliği dünyanın dört bir yanındaki ortaklarla paylaşması için küresel bir yetki verilerek. En önemli olan, yerine getirdiği işlevdir. Gençlerin yapay zekâ güvenliği; sürekli ilgiye, güvenilir kanıtlara ve teknolojiye ayak uydurabilecek pratik rehberliğe ihtiyaç duyar.

Böyle bir enstitü, OpenAI Foundation tarafından desteklenen Common Sense Media’nın Youth AI Safety Institute girişimi gibi yeni ortaya çıkan girişimlerin yanı sıra OpenAI’nin Amerikan Öğretmenler Federasyonu ile çalışması⁠ dahil eğitimcilerle yürütülen pratik iş birliklerinin üzerine inşa edilebilir. Ayrıca, Estonya’nın okullarda ulusal ChatGPT uygulaması gibi gerçek dünyadaki yaygınlaştırmalardan da yararlanmalıdır; OpenAI burada etkiyi incelemek ve öğrenmede daha güvenli, daha etkili kullanımı desteklemek için Stanford ve Estonyalı araştırmacılarla çalışıyor.

OpenAI, bu hayati çalışma ve gençlerin güvenliği konusunda küresel standartları yükseltmek için Fransız Hükümeti, diğer G7 hükümetleri ve sivil toplum, akademi ve sektör genelindeki ortaklarla çalışma fırsatını memnuniyetle karşılıyor.

G7 toplantılarında varılabilecek olası herhangi bir anlaşma dahil olmak üzere, güçlü yapay zekâ gençlik güvenliği çerçevelerinin burada ortaya koyduğumuz ilkelerle yönlendirilmesi gerektiğine inanıyoruz.

1. Şirketler, bir kullanıcının reşit olmadığını bilmeli ve yaşa uygun korumalar uygulamalıdır. Bu, sağlayıcıların reşit olmayanları yetişkinlerden ayırt etmek için etkili ve gizliliği koruyan yaş tahmini gibi yöntemler kullanmasının zorunlu tutulması ve bir kullanıcının yaşı belirlenemediğinde koruyucu güvenlik önlemlerinin varsayılan olarak uygulanması anlamına gelir. Bu temel olmadan, en iyi niyetli gençlik korumaları bile korumayı amaçladıkları gençlere ulaşamayabilir.
2. Şirketler, gençler için hem riskleri hem de faydaları düzenli olarak değerlendirmeli ve bunları ele almak için adım atmalıdır—zarar meydana gelmeden önce. Bu, sağlayıcıların yıllık gençlik güvenliği risk değerlendirmeleri yapmasının ve belirledikleri risklere göre orantılı güvenlik önlemleri uygulamasının zorunlu tutulması anlamına gelir. Bu değerlendirmeler, gençlere yönelik riskleri gelişim evrelerine, gerçek kullanımdan elde edilen ampirik kanıtlara ve ilgili araştırma veya düzenleyici rehberliğe göre ele almalıdır. Değerlendirmeler yalnızca olası zararları değil, yapay zekânın öğrenme, yaratıcılık, beceri geliştirme ve fırsatlara erişim gibi olumlu sonuçları destekleyip desteklemediğini de dikkate almalıdır.
3. Ebeveynler ve vasiler, yaşa uygun bağımsızlığı desteklerken çocuklarının deneyimlerine rehberlik etmelerine yardımcı olacak erişilebilir, kullanımı kolay kontrollere sahip olmalıdır. Bunlar; bellek, veri kullanımı ve süre sınırları dahil temel ayarları yönetmeye yönelik araçları içermelidir. Ebeveyn araçları, ebeveynlerin bu araçların varlığını bilmesi ve nasıl kullanacaklarını anlaması için etkin biçimde tanıtılmalıdır. 
4. Aileler, şirketlerin genç kullanıcıları nasıl koruduğu hakkında açık ve anlaşılır bilgileri ve gençlerin yapay zekâ kullanımının hem faydaları hem de riskleri hakkında anlamlı bilgileri hak eder. Şirketler, gençleri korumak için hangi güvenlik önlemlerinin bulunduğunu, mevcut ebeveyn araçlarını ve riskler değiştikçe korumaların nasıl güncellendiğini açıklayan güvenlik politikaları yayımlamalıdır. Bu şeffaflık güven oluşturur ve ebeveynlerin bilinçli seçimler yapmasına yardımcı olur.
5. Şirketlerin kendine zarar verme, istismar, istismar amacıyla kandırma, cinsel istismar içerikleri ve diğer yüksek riskli etkileşimler dahil ciddi güvenlik durumlarını ele almak için net protokolleri olmalıdır. Bunlar, hizmet içi desteği, uygun kaynaklara yönlendirmeleri ve uygun olduğunda ebeveynlere zamanında bildirim yapılmasını içermelidir. Şirketler ayrıca sistemlerini, grafik cinsel veya şiddet içerikli materyaller dahil çocuklar için güvenli olmayan ya da gelişimsel olarak uygun olmayan içerik üretmelerini önleyecek şekilde tasarlamalıdır.  
6. Gençler tarafından kullanılan yapay zekâ sistemleri, öğrenmeyi, gelişimi ve gerçek dünyadaki ilişkileri desteklemek üzere tasarlanmalıdır; bunların yerini almak üzere değil. Yapay zekâ, gençlerin öğrenmesine, üretmesine, beceriler geliştirmesine ve geleceğe hazırlanmasına yardımcı olan bir araç olarak hizmet etmelidir. Aynı zamanda şirketler, sağlıklı gelişimin insan muhakemesine, gerçek dünyadaki ilişkilere ve profesyonel desteğe bağlı olduğu alanlarda net sınırlar koymalıdır.
7. Reşit olmayanların kişisel bilgileri korunmalıdır. Bu, gençlere yönelik gizliliği ihlal eden hedefli reklamcılığın yasaklanması ve şirketlerin kişisel bilgileri satmasının engellenmesi anlamına gelir.
8. Gençlik güvenliği çerçeveleri fırsatı, okuryazarlığı ve korumayı teşvik etmelidir. Gençler, öğrenmeyi, yaratıcılığı, beceri geliştirmeyi ve gelecekteki fırsatları destekleyen yapay zekâ araçlarına erişebilmeli; aynı zamanda yapay zekâyı güvenli ve sorumlu biçimde kullanmak için gereken bilgi ve eleştirel düşünme becerileriyle donatılmalıdır. Bu, yapay zekâ okuryazarlığını teşvik etmeyi ve gençlerin yapay zekâ sistemlerinin fırsatlarını ve sınırlamalarını anlamalarına yardımcı olmayı içerir; böylece dijital alanlarda özgüvenle ve sorumlulukla yer alabilirler.
9. Bağımsız denetimler dahil güçlü hesap verebilirlik mekanizmaları, bu korumaların pratikte anlamlı olmasını sağlamak için esastır. Denetimler, yargı bölgeleri arasında birlikte çalışabilir denetimlere olanak tanıyan ortak standartlar kümesiyle desteklenmelidir. Yasal çerçeveler, hükümetlerin şirketlerin gençlik güvenliği önlemlerini etkili biçimde uygulayıp uygulamadığını, belirlenen riskleri azaltıp azaltmadığını ve gençlik güvenliği ile gizlilik yükümlülüklerine uyup uymadığını değerlendirmesine olanak tanıyan gözetim ve yaptırım tedbirlerini içermelidir.

İlkeler, model davranışı ve ürün tasarımından uzman katkısına ve gerçek dünya desteğine kadar ChatGPT’yi nasıl geliştirdiğimiz ve işlettiğimizde yansıtılır. 18 yaş altı kullanıcılar için güvenlik önlemlerini güçlendirdik, proaktif bildirimlerle ebeveyn kontrollerini⁠ ve ChatGPT’nin birinin 18 yaşından küçük olabileceği durumlarda daha güçlü korumalar uygulayabilmesi için gelişmiş yaş tahmini sistemlerini⁠ kullanıma sunduk. Modellerimizin nasıl davranması gerektiğini özetleyen model spesifikasyonumuz da genç güvenliğini, yaşa uygun deneyimleri, gerçek dünya desteğini ve net beklentileri önceliklendirerek 18 yaş altı kullanıcılar için özel ilkeler⁠(yeni bir pencerede açılır) içerir. Pratikte bu, kendine zarar verme, tehlikeli faaliyetler, grafik içerik, beden algısı ve gizlilik konularında daha güçlü güvenlik bariyerleri; ayrıca gerektiğinde güvenilir çevrimdışı destek veya kriz kaynakları aramaya teşvik anlamına gelir. Yaş belirsiz olduğunda, varsayılan olarak daha güçlü güvenlik önlemleri uygularız.

Güçlü güvenlik önlemleriyle tasarlanan, açık rehberlikle sunulan ve aileler ile eğitimcilerin desteğini alan yapay zekâ, gençlerin öğrenmeyi, yaratıcılığı ve fırsatları genişleten araçlardan güvenle yararlanmasına yardımcı olabilir. Yapay zekâ, öğrencilerin zor kavramları anlamasına, dil pratiği yapmasına, yazılarını geliştirmesine, kod yazmayı öğrenmesine, araştırmaları düzenlemesine, yaratıcı fikirleri keşfetmesine ve halihazırda değişmekte olan işlere hazırlanmasına yardımcı olabilir. OpenAI, Ülkeler için Eğitim⁠ aracılığıyla, yapay zekâ benimsemesinin kanıtlara ve gerçek sınıf ihtiyaçlarına dayanması için araştırma odaklı yaygınlaştırmalar, yerelleştirilmiş öğrenme araçları ve öğretmen eğitimi konusunda hükümetler ve eğitimcilerle çalışıyor. Bu çalışma, Estonya⁠, Yunanistan⁠ ve Singapur⁠ dahil ortak ülkelerimizle ulusal eğitim çabalarını şimdiden destekliyor.

Liderler Zirvesi’ne katılımın yanı sıra, hükümetlerin, araştırmacıların, sivil toplumun, eğitimcilerin ve sektörün ortak gençlik güvenliği hedeflerini somut güvenlik önlemlerine, standartlara ve uygulama pratiklerine nasıl dönüştürebileceği konusunda pratik bir görüşme düzenlemek üzere OpenAI Forum⁠(yeni bir pencerede açılır)’u Paris’e taşıyacağız. Fransa’nın Yapay Zekâ ve Dijital İşler Büyükelçisi Clara Chappaz, OpenAI Global İlişkilerden Sorumlu Üst Yöneticisi Chris Lehane, iRaise/Everyone.AI’dan gençlik güvenliği liderleri ve diğer uzmanlarla birlikte, riskleri azaltırken gençlerin yapay zekâdan nasıl yararlanabileceği üzerine bir tartışmaya katılacak.