Menawarkan retensi data nol untuk model terdepan

Retensi data nol memberikan janji yang jelas kepada pelanggan API yang memenuhi syarat: OpenAI tidak menyimpan prompt atau respons model mereka setelah permintaan diproses. Konten pelanggan tidak tersedia bagi personel OpenAI untuk ditinjau¹, dan data pelanggan perusahaan tidak digunakan untuk melatih model kami kecuali pelanggan secara tegas menyetujuinya.

Ketika model menangani tugas yang lebih panjang dan kompleks, beberapa risiko serius mungkin baru terlihat setelah beberapa interaksi. Sistem keamanan yang saat ini kompatibel dengan ZDR mengevaluasi setiap interaksi secara terpisah. Hari ini, kami memperkenalkan pratinjau Pemrosesan Keamanan Privat, yang dirancang untuk mengenali pola di antara interaksi terkait tanpa memberi personel OpenAI akses ke konten yang mendasarinya.

Dalam penerapan ZDR, konten pelanggan tetap berada di infrastruktur yang dikendalikan pelanggan. Kami juga mengembangkan opsi penyimpanan konten di infrastruktur OpenAI, dengan enkripsi menggunakan kunci yang dikendalikan pelanggan. Dalam kedua kasus tersebut, sistem otomatis dapat mengenali potensi penyalahgunaan dan memberikan sinyal keamanan terbatas tanpa mengungkap prompt atau respons yang mendasarinya kepada personel OpenAI.

Risiko keamanan AI yang paling serius tidak selalu terlihat dalam satu interaksi. Sering kali, niat yang berpotensi membahayakan baru terlihat jelas ketika beberapa interaksi diamati bersama-sama. Risiko serupa dapat timbul ketika pelaku jahat berulang kali menguji perlindungan, berkoordinasi melalui beberapa akun, atau menyamarkan ancaman sebagai penelitian rutin. Risiko juga dapat berkembang selama berlangsungnya tugas berbasis agen—misalnya, jika tindakan sistem menyimpang dari maksud pengguna karena terus beroperasi setelah diperintahkan untuk berhenti.

Seiring sistem AI menangani tugas yang lebih panjang dan kompleks, konteks yang lebih luas ini menjadi makin penting untuk membedakan aktivitas sah dari penyalahgunaan dan memastikan agen AI tetap berada dalam batas kewenangan yang ditetapkan.

Beberapa penerapan model terdepan baru-baru ini mengharuskan pelanggan mengizinkan penyedia AI mereka menyimpan konten sensitif untuk pemantauan keamanan. Bagi banyak organisasi, persyaratan tersebut bertentangan dengan kewajiban keamanan atau komitmen mereka kepada pihak yang mereka layani.

Pemrosesan Keamanan Privat dirancang agar kami dapat terus menawarkan ZDR.

Pemrosesan Keamanan Privat dikembangkan dari perlindungan otomatis yang telah digunakan dalam ZDR dan penerapan lainnya. Sistem keamanan yang saat ini kompatibel dengan ZDR mengevaluasi interaksi secara terpisah. Pemrosesan Keamanan Privat memperluas perlindungan tersebut ke berbagai interaksi terkait, sehingga sistem otomatis dapat mengenali pola tanpa memberi personel OpenAI akses ke konten pelanggan yang disimpan.

Pemrosesan Keamanan Privat memanfaatkan konten pelanggan di mana pun konten tersebut disimpan—baik di infrastruktur yang dikendalikan pelanggan (penerapan ZDR) maupun di penyimpanan yang disediakan OpenAI. Dalam penyimpanan yang disediakan OpenAI, konten pelanggan dienkripsi menggunakan kunci yang dikendalikan pelanggan. Personel OpenAI tidak memiliki salinan kunci tersebut sehingga tidak dapat mengakses konten yang mendasarinya.

Ketika risiko teridentifikasi, OpenAI menerima sinyal dengan cakupan terbatas yang menunjukkan jenis aktivitas terkait, serupa dengan sistem keamanan kami saat ini. Sinyal tersebut dapat digunakan untuk menentukan apakah tindakan penegakan diperlukan. Personel OpenAI tidak memperoleh akses ke konten pelanggan meskipun konten tersebut ditandai.

Pelanggan dapat menyelidiki peringatan dan keputusan penegakan menggunakan informasi yang tersedia di sistem mereka sendiri. Jika ingin mengajukan banding, menjelaskan aktivitas yang sah, atau mendukung penyelidikan atas penyalahgunaan yang telah terverifikasi, mereka dapat memilih untuk membagikan informasi yang relevan kepada OpenAI.

Pemrosesan Keamanan Privat saat ini sedang diuji bersama pelanggan tahap awal. Kami membagikan pratinjau ini sekarang karena pelanggan telah menyampaikan dengan sangat jelas bahwa mereka memerlukan kepastian tentang cara konten mereka akan dilindungi seiring sistem AI menjadi makin mumpuni.

Misi kami adalah memastikan kecerdasan umum buatan bermanfaat bagi seluruh umat manusia. Kolaborasi dengan pelanggan dan mitra sangat penting bagi cara kami membangun perlindungan yang efektif. Sebagaimana ditegaskan dalam prinsip-prinsip kami, tidak ada laboratorium AI yang dapat mengatasi risiko baru sendirian. Pemrosesan Keamanan Privat mencerminkan pendekatan tersebut dan dibentuk dengan masukan dari pelanggan di berbagai industri, wilayah, dan skala perusahaan.

Organisasi yang bekerja sama dengan kami menangani sejumlah informasi paling sensitif di sektor mereka, termasuk catatan keuangan, data kesehatan, rencana bisnis rahasia, dan penelitian eksklusif. Melindungi informasi tersebut sangat penting untuk memenuhi kewajiban regulasi, menjaga kepercayaan pelanggan, dan mempertahankan keunggulan kompetitif mereka.

Masukan mereka membantu kami membangun perlindungan yang lebih kuat sekaligus menjaga agar informasi mereka tetap berada dalam kendali mereka.

Kami akan terus bekerja sama dengan pelanggan mengenai detail teknis dan operasional pendekatan kami. Kami berencana mulai meluncurkan Pemrosesan Keamanan Privat dan membagikan laporan teknis pada September. Kami akan terus memberi tahu pelanggan di setiap tahap, menyampaikan pembaruan sejak awal, menjelaskan dampaknya terhadap komitmen yang ada, serta menyediakan waktu dan dukungan yang mereka perlukan untuk membuat rencana ke depan.