Çocuklar için Güvenli Yapay Zeka Planı ile Tanışın
Çocuk cinsel istismarına karşı yapay zeka destekli mücadele ve önleme çerçevesi
Çocuk cinsel istismarı, dijital çağın en acil sorunlarından biri. Yapay zeka, bu tür zararların sektörde nasıl ortaya çıktığını ve geniş ölçekte ele alınabileceğini hızla değiştiriyor.
OpenAI olarak, sistemlerimizin kötüye kullanılmasını önlemek için çeşitli güvenlik önlemleri geliştirdik ve bunları sürekli güçlendiriyoruz. Ayrıca National Center for Missing and Exploited Children (NCMEC - Kayıp ve İstismara Uğrayan Çocuklar için Ulusal Merkez) ve emniyet güçleri gibi kurumlarla yakın bir şekilde çalışarak tespit ve bildirim süreçlerini iyileştiriyoruz. Bu çalışmalar, sektör genelinde daha güçlü ve ortak standartlara hangi noktalarda ihtiyaç duyulduğunu daha net ortaya koydu.
Bugün, yapay zeka çağında ABD'deki çocuk koruma çerçevelerini güçlendirmek için izlenebilecek pratik bir yol haritası sunan bir politika planı paylaşıyoruz. Bu plan; NCMEC, Attorney General Alliance ve bu kuruluşun Yapay Zeka Görev Gücü eş başkanları olan Kuzey Carolina Başsavcısı Jeff Jackson ile Utah Başsavcısı Derek Brown başta olmak üzere, çocuk güvenliği alanındaki önde gelen kuruluş ve uzmanların geri bildirimlerini yansıtır ve bunları kapsar. Ayrıca Thorn'un katkılarıyla, önceliklerini dikkate alan ve çocuklara yönelik zararları önlemede daha etkili iş birliğini destekleyen bir yapı oluşturmayı amaçlar.
Plan, üç temel önceliğe odaklanır: yapay zeka ile üretilen veya değiştirilen çocuk cinsel istismar materyallerini (CSAM) kapsayacak şekilde mevzuatın güncellenmesi, daha etkili soruşturmalara olanak tanımak için sağlayıcılar arasındaki bildirim ve koordinasyonun iyileştirilmesi ve kötüye kullanımı tespit edip önlemek amacıyla güvenliğin doğrudan yapay zeka sistemlerinin tasarımına entegre edilmesi.
Bu sorunu tek başına çözebilecek tek bir adım yok. Bu çerçeve, riskleri daha iyi tespit etmek, müdahaleleri hızlandırmak ve hesap verebilirliği desteklemek için hukuki, operasyonel ve teknik yaklaşımları bir araya getirirken, teknoloji geliştikçe yetkili kurumların da güçlü kalmasını hedefler.
Bu adımlar birlikte, sektörün çocuk güvenliği konusuna daha erken ve daha etkili şekilde müdahale etmesini mümkün kılar. Bu çerçeve, istismar girişimlerini daha erken aşamada durdurarak, emniyet güçlerine iletilen sinyallerin kalitesini artırarak ve ekosistem genelinde hesap verebilirliği güçlendirerek zararı ortaya çıkmadan önce önlemeyi ve riskler belirdiğinde çocukları daha hızlı koruyabilmeyi amaçlar.
"Attorney General Alliance Yapay Zeka Görev Gücü'nün eş başkanları olarak, bu planı teknoloji sektöründeki çocuk güvenliği uygulamalarını, ofislerimizin her gün karşılaştığı saha gerçekleriyle daha uyumlu hale getirmeye yönelik anlamlı ve önemli bir adım olarak değerlendiriyoruz. Üretken yapay zeka için etkili güvenlik önlemlerinin tek bir teknik kontrolden değil; tespit sistemleri, reddetme mekanizmaları, insan denetimi ve ortaya çıkan kötüye kullanım biçimlerine sürekli uyum sağlayan çok katmanlı bir yapı olması gerektiğinin vurgulanması bizim için özellikle önemli. Bu yaklaşım sahada gördüklerimizle örtüşüyor: Tehdit sürekli değişiyor ve sabit çözümler yeterli olmuyor. Önleme mimarisini en baştan doğru inşa etmek, sektörün çocuk güvenliği için yapabileceği en etkili yatırımlardan biridir.
Sonuç olarak, gönüllü her çerçevenin gücü, içerdiği taahhütlerin ne kadar somut olduğuna ve sektörün bu taahhütler doğrultusunda hesap verme sorumluluğunu üstlenmesine bağlıdır. OpenAI, NCMEC ve diğer başsavcılarla iş birliğimizi sürdürerek bu önerileri çocuklar için kalıcı güvenlik önlemlerine dönüştürmeyi sabırsızlıkla bekliyoruz."
—Eyalet Başsavcıları Jeff Jackson (Kuzey Carolina) ve Derek Brown (Utah), Attorney General Alliance Yapay Zeka Görev Gücü Eş Başkanları.
"Attorney General Alliance, başsavcıları, sektör liderlerini, sivil toplum kuruluşlarını ve küresel paydaşları bir araya getirerek yapay zeka ve dijital güvenlik alanında uygulanabilir ve ileriye dönük çözümler geliştirilmesine öncülük ediyor ve gençleri çevrimiçi ortamda koruma konusunda önemli bir rol üstleniyor. İş birliği ve yenilikçi yaklaşımlar sayesinde AGA, yeni teknolojileri sorumlu şekilde benimserken gençleri koruma konusunda güçlü bir standart ortaya koyuyor. OpenAI'ın güvenlik odağını sürdürmesini ve çocuk güvenliği için yüksek değer taşıyan bu planın geliştirilmesi sürecinde AGA ve başsavcılarla yürüttüğü iş birliğini takdir ediyoruz."
—Karen White, İcra Direktörü, Attorney General Alliance
"Üretken yapay zeka, çevrimiçi çocuk cinsel istismarı suçunu endişe verici biçimlerde hızlandırıyor; erişim engellerini azaltıyor, ölçeği büyütüyor ve yeni zarar türlerinin ortaya çıkmasına yol açıyor. Ancak aynı zamanda National Center for Missing and Exploited Children (NCMEC), OpenAI gibi şirketlerin bu araçları en baştan yerleşik güvenlik önlemleriyle daha bilinçli şekilde tasarlama yaklaşımını olumlu karşılıyor.. Hiçbir kurum, şirket veya sektör bu sorunu tek başına çözemez. Çocuklara yönelik riskleri azaltan ve onların emniyetini daha iyi destekleyen çözümler geliştirmek için sektör, kamu ve çocuk koruma alanındaki paydaşlarla birlikte çalışmaya kararlıyız."
—Michelle DeLaune, Başkan ve CEO, National Center for Missing ve Exploited Children
