Menawarkan Pengekalan Data Sifar untuk model perbatasan

Pengekalan Data Sifar memberikan janji yang jelas kepada pelanggan API yang layak: OpenAI tidak mengekalkan gesaan atau respons model mereka selepas sesuatu permintaan diproses. Kandungan pelanggan tidak tersedia untuk disemak oleh kakitangan OpenAI¹, dan data pelanggan perusahaan tidak digunakan untuk melatih model kami melainkan pelanggan memilih untuk menyertainya secara jelas.

Apabila model melaksanakan tugas yang lebih panjang dan rumit, sesetengah risiko serius mungkin hanya dapat dikesan merentas beberapa interaksi. Sistem keselamatan sedia ada yang serasi dengan ZDR menilai setiap interaksi secara berasingan. Hari ini, kami memperkenalkan pratonton Pemprosesan Keselamatan Persendirian, yang direka untuk mengenal pasti corak merentas interaksi berkaitan tanpa memberi kakitangan OpenAI akses kepada kandungan asas.

Bagi pelaksanaan ZDR, kandungan pelanggan kekal dalam infrastruktur yang dikawal oleh pelanggan. Kami juga sedang membangunkan pilihan untuk menyimpan kandungan dalam infrastruktur OpenAI, yang disulitkan dengan kunci di bawah kawalan pelanggan. Dalam kedua-dua keadaan, sistem automatik boleh mengenal pasti kemungkinan penyalahgunaan dan mengembalikan isyarat keselamatan terhad tanpa mendedahkan gesaan atau respons asas kepada kakitangan OpenAI.

Risiko keselamatan AI yang paling serius tidak semestinya dapat dilihat dalam satu interaksi. Sering kali, niat yang mungkin mendatangkan mudarat hanya menjadi jelas apabila beberapa interaksi dilihat bersama-sama. Risiko serupa boleh timbul apabila pihak berniat jahat berulang kali menguji perlindungan, menyelaraskan tindakan merentas akaun atau menyamarkan ancaman sebagai penyelidikan rutin. Risiko juga boleh berkembang sepanjang pelaksanaan tugas berasaskan agen—contohnya, jika sistem tersasar daripada niat pengguna dengan terus bertindak selepas diarahkan supaya berhenti.

Apabila sistem AI melaksanakan tugas yang lebih panjang dan rumit, konteks yang lebih luas ini menjadi semakin penting untuk membezakan aktiviti yang sah daripada penyalahgunaan serta memastikan agen AI kekal dalam batas kuasa yang ditetapkan.

Sesetengah pelaksanaan model perbatasan baru-baru ini menghendaki pelanggan membenarkan penyedia AI mereka mengekalkan kandungan sensitif untuk pemantauan keselamatan. Bagi banyak organisasi, keperluan sedemikian bercanggah dengan kewajipan keselamatan atau komitmen mereka kepada pihak yang menerima khidmat mereka.

Pemprosesan Keselamatan Persendirian direka agar kami dapat terus menawarkan ZDR.

Pemprosesan Keselamatan Persendirian berasaskan perlindungan automatik yang telah digunakan dalam ZDR dan pelaksanaan lain. Sistem keselamatan sedia ada yang serasi dengan ZDR menilai interaksi secara berasingan. Pemprosesan Keselamatan Persendirian memperluas perlindungan tersebut merentas interaksi berkaitan, membolehkan sistem automatik mengenal pasti corak tanpa memberi kakitangan OpenAI akses kepada kandungan pelanggan yang disimpan.

Pemprosesan Keselamatan Persendirian menggunakan kandungan pelanggan tanpa mengira tempat kandungan itu disimpan—sama ada dalam infrastruktur yang dikawal pelanggan (pelaksanaan ZDR) atau storan yang disediakan oleh OpenAI. Dengan storan yang disediakan oleh OpenAI, kandungan pelanggan disulitkan menggunakan kunci yang dikawal oleh pelanggan. Kakitangan OpenAI tidak memiliki salinan kunci tersebut, maka mereka tidak boleh mengakses kandungan asas.

Apabila risiko dikenal pasti, OpenAI menerima isyarat dengan skop terhad yang menunjukkan jenis aktiviti terlibat, serupa dengan sistem keselamatan sedia ada kami. Isyarat tersebut boleh digunakan untuk menentukan sama ada tindakan penguatkuasaan diperlukan. Kakitangan OpenAI tidak diberikan akses kepada kandungan pelanggan walaupun kandungan itu ditandai.

Pelanggan boleh menyiasat makluman dan keputusan penguatkuasaan menggunakan maklumat yang tersedia dalam sistem mereka sendiri. Jika ingin membuat rayuan, menjelaskan aktiviti yang sah atau menyokong siasatan terhadap penyalahgunaan yang disahkan, mereka boleh memilih untuk berkongsi maklumat berkaitan dengan OpenAI.

Pemprosesan Keselamatan Persendirian sedang diuji bersama pelanggan perintis. Kami berkongsi pratonton ini sekarang kerana pelanggan telah menyatakan dengan jelas bahawa mereka memerlukan kepastian tentang cara kandungan mereka akan dilindungi apabila sistem AI menjadi semakin berkeupayaan.

Misi kami adalah untuk memastikan kecerdasan am buatan memberi manfaat kepada seluruh manusia. Kerjasama dengan pelanggan dan rakan kongsi amat penting dalam usaha kami membina perlindungan yang berkesan. Seperti yang dijelaskan dalam prinsip kami, tiada makmal AI yang mampu menangani risiko baharu secara bersendirian. Pemprosesan Keselamatan Persendirian mencerminkan pendekatan tersebut dan dibentuk dengan pandangan pelanggan daripada pelbagai industri, rantau dan saiz syarikat.

Organisasi yang bekerjasama dengan kami mengendalikan antara maklumat paling sensitif dalam sektor masing-masing, termasuk rekod kewangan, data kesihatan, rancangan perniagaan sulit dan penyelidikan proprietari. Melindungi maklumat tersebut amat penting untuk memenuhi kewajipan kawal selia, mengekalkan kepercayaan pelanggan dan memelihara kelebihan daya saing mereka.

Maklum balas mereka membantu kami membina perlindungan yang lebih kukuh sambil memastikan maklumat mereka kekal di bawah kawalan mereka.

Kami akan terus bekerjasama dengan pelanggan mengenai butiran teknikal dan operasi pendekatan kami. Kami merancang untuk mula melancarkan Pemprosesan Keselamatan Persendirian dan berkongsi kertas putih teknikal pada bulan September. Kami akan terus memaklumkan pelanggan pada setiap peringkat dengan berkongsi perkembangan lebih awal, menerangkan kesannya terhadap komitmen sedia ada serta menyediakan masa dan sokongan yang diperlukan pelanggan untuk membuat perancangan awal.