Daha güvenli ve daha şeffaf bir yapay zeka ekosistemi için içerik kaynağını geliştiriyoruz

İnsanlar, iletişimi daha etkileyici, kullanışlı ve erişilebilir kılan şekillerde görseller ve sesler oluşturmak ve düzenlemek için her gün OpenAI'ın araçlarını kullanıyor. Bu araçlar insanların üretme, hayal etme ve paylaşma biçimlerinin bir parçası haline geldikçe, medyanın nereden geldiğini anlayıp doğrulayabilmeleri önem kazanıyor; böylece onu daha güvenle yorumlayabiliyorlar. Kaynak sinyalleri, insanlara içeriğin nereden geldiği, nasıl oluşturulduğu veya düzenlendiği ve iddia ettiği şey olup olmadığı hakkında bağlam sunarak yardımcı olabilir.

Bugün, online ortamda güven inşa etmeye yönelik çok katmanlı, ekosistem odaklı bir modelle içerik kaynağına yaklaşımımızı güçlendiriyoruz. Kaynak sinyallerimizin diğer araçlar ve platformlar tarafından tanınmasını C2PA uyumluluğu sayesinde kolaylaştırıyor, Google ile ortaklık kapsamında görsellere platformlar arası kalıcı SynthID filigranı ekliyor ve görsellerin OpenAI'dan gelip gelmediğini doğrulamak için halkın kullanabileceği bir aracın önizlemesini paylaşıyoruz.

Bu güncellemeler birlikte, açık standartları desteklemeye, OpenAI tarafından üretilen içeriğin daha kolay tanımlanmasını sağlamaya ve daha güvenilir bir bilgi ekosistemini desteklemek için sektör genelinde iş birliği yapmaya yönelik önceki çalışmalarımızın⁠ üzerine inşa ediliyor.

OpenAI, 2024’ten bu yana kaynak standartlarının geliştirilmesi ve benimsenmesinde yer alıyor; 2024'te DALL·E 3⁠(yeni bir pencerede açılır) ile üretilen görsellere ve daha sonra ImageGen⁠(yeni bir pencerede açılır) ile Sora⁠(yeni bir pencerede açılır)'ya Content Credentials'ı eklemeye başladık. Ayrıca, içerik kaynağına yönelik açık teknik standardın arkasındaki sektörler arası grup olan Coalition for Content Provenance and Authenticity’nin (C2PA) Yönetici Komitesi’ne de katıldık. C2PA'nın teknik yaklaşımı, bir medya parçasıyla ilgili bilgilerin içeriğin kendisiyle birlikte güvenli şekilde taşınmasına yardımcı olmak için meta verilerden ve kriptografik imzalardan yararlanır. Bu bilgiler; bir kaynağı değerlendiren gazeteciler, içerik bütünlüğüyle ilgili kararlar veren platformlar ve online ortamda gördüğü içerikleri anlamlandırmaya çalışan kişiler için yararlı bağlam sağlar.

Yakın zamanda OpenAI'ı C2PA Uyumlu Üretici Ürün⁠(yeni bir pencerede açılır) haline getirme yönünde bir adım attık. C2PA uyumlu hale gelerek platformlara, içeriklerimize eklediğimiz kaynak bilgilerini okumak, korumak ve aktarmak için güvenilir bir yol sunuyoruz. Kaynak bilgisinin işe yaraması için, içeriğin ilk oluşturulduğu platformun ötesine de taşınabilmesi gerekir. Uyumluluk da bunu mümkün kılar.

C2PA meta verileri, kaynak bilgisi için önemli bir temeldir. İçeriğin, nereden geldiği, nasıl oluşturulduğu veya düzenlendiği ve bu bilgiyi kimin imzaladığına dair bilgileri taşımasına yardımcı olur. Ancak meta veriler kusursuz değildir. Yükleme ve indirmeler sırasında silinebilir, kaybolabilir ya da dosya biçimi değişiklikleri, yeniden boyutlandırma veya ekran görüntüleri gibi dönüşümlerle bozulabilir.

Kaynak bilgisini daha dayanıklı hale getirmek için çok katmanlı bir yaklaşım benimsiyor ve Google DeepMind'ın SynthID⁠(yeni bir pencerede açılır)'si aracılığıyla filigranlamayı da bu yaklaşıma dahil ediyoruz. Buna ChatGPT⁠, Codex veya OpenAI API üzerinden oluşturulan görsellerle başlıyoruz. SynthID, C2PA'nın meta veriye dayalı yaklaşımını tamamlayan görünmez bir filigran katmanı ekler.

Bir süredir bu yönde çalışmalar yürütüyorduk. Sora'da görünür filigranlar⁠, Voice Engine'de ise ses filigranı⁠ kullandık. Zaman içinde devreye alım süreci boyunca doğruluğu ve güvenilirliği test etmeye ve araştırmaya devam ettik.

Bu iki sistem birbirini güçlendirir. C2PA, içeriğin ayrıntılı bağlam taşımasına yardımcı olur; SynthID ise meta veriler korunmadığında bir sinyalin sürmesini sağlar. Filigranlar; ekran görüntüleri gibi dönüşümlere karşı daha dayanıklı olabilirken meta veriler tek başına bir filigrandan daha fazla bilgi sağlayabilir. Birlikte, kaynak bilgisini bu katmanlardan her birinin tek başına sağlayabileceğinden daha dayanıklı hale getirirler.

Çoğu değişikliğe dayanabilen güvenilir meta veriler ve filigranlar, kaynak sinyallerinin daha kalıcı hale gelmesine yardımcı olabilir. Ancak insanların bu sinyalleri tespit edebilmek için bir yola ihtiyacı var. Şimdi, yüklenen bir görselin ChatGPT, OpenAI API veya Codex'te oluşturulup oluşturulmadığını doğrulamaya yardımcı olacak herkese açık doğrulama aracının⁠ önizlemesini sunuyoruz. Araç, Content Credentials ve SynthID dahil olmak üzere görselde kaynak sinyalleri bulunup bulunmadığını kontrol eder.

Kaynak bilgisinin insanlar tarafından daha kolay doğrulanıp yorumlanabilmesi gerektiğine inanıyoruz. Aracımızın, birden fazla sinyali bir araya getirerek insanların "Bu yapay zeka ile mi oluşturuldu?" sorusunu yanıtlamasına yardımcı olabileceğini düşünüyoruz. Bu çalışma, 2024'te kullanıma sunduğumuz görsel algılama sınıflandırıcısı⁠ araştırma önizlemesinden edindiğimiz öğrenimlerin üzerine inşa ediliyor. İnsanların medyada OpenAI kaynaklı bir SynthID filigranı bulunup bulunmadığını güvenilir şekilde tespit etmesine ve varsa C2PA meta verilerini görünür hale getirmesine olanak tanıyor.

Hiçbir tespit yöntemi kusursuz değildir; bu nedenle tespitin başarısız olduğu durumlarda temkinli bir yaklaşım benimsiyoruz. Örneğin, hiçbir meta veri veya filigran tespit edilmezse, araç görselin OpenAI araçlarıyla üretilip üretilmediğine dair kesin bir sonuca varmaz; çünkü bazı durumlarda kaynak sinyalleri silinmiş olabilir.

Araç, kullanıma sunulduğunda OpenAI tarafından üretilen içerikle sınırlıdır. Önümüzdeki aylarda, platformlar arasında doğrulamayı mümkün kılacak sektörler arası çabaları desteklemeyi hedefliyoruz. Zamanla, insanların çevrimiçi ortamda karşılaşabileceği daha fazla içerik türünü de desteklemeyi bekliyoruz.

Tek bir kaynak tekniği tek başına yeterli değildir. Güçlü bir yaklaşımın ortak standartları, dayanıklı filigran sinyallerini ve herkese açık doğrulamayı birleştirdiğine inanıyoruz. Content Credentials'a uzun süredir verdiğimiz desteğin üzerine C2PA uyumluluğunu, SynthID'yi ve herkese açık doğrulama araçlarının önizlemesini ekleyerek uzun vadede daha birlikte çalışabilir bir kaynak bilgisi ekosistemine katkıda bulunmayı umuyoruz.