Memperkenalkan Mode Lockdown dan label Elevated Risk yang konsisten di ChatGPT

Seiring sistem AI mengambil alih tugas yang lebih kompleks—khususnya yang melibatkan web dan aplikasi terhubung—risiko keamanan berubah.

Satu risiko yang baru muncul telah menjadi sangat penting: injeksi prompt⁠. Dalam serangan ini, pihak ketiga mencoba menyesatkan sistem AI percakapan agar mengikuti instruksi berbahaya atau mengungkapkan informasi sensitif.

Hari ini, kami memperkenalkan dua perlindungan baru yang dirancang untuk membantu pengguna dan organisasi mengurangi serangan injeksi prompt, dengan visibilitas yang lebih jelas terhadap risiko dan kontrol yang lebih kuat:

• Mode Lockdown di ChatGPT, sebuah pengaturan keamanan lanjutan yang bersifat opsional untuk pengguna dengan risiko lebih tinggi
• Label “Elevated Risk” untuk kemampuan tertentu yang dapat menimbulkan risiko tambahan pada ChatGPT, ChatGPT Atlas, dan Codex

Penambahan ini memperkuat perlindungan kami yang sudah ada di tingkat model, produk, dan sistem. Ini mencakup sandboxing, perlindungan terhadap eksfiltrasi data berbasis URL⁠, pemantauan dan penegakan, serta kontrol perusahaan⁠ seperti kontrol akses berbasis peran dan log audit.

Mode Lockdown adalah pengaturan keamanan lanjutan opsional yang dirancang untuk sekelompok kecil pengguna yang sangat sadar akan keamanan—seperti eksekutif atau tim keamanan di organisasi terkemuka—yang memerlukan perlindungan tambahan terhadap ancaman tingkat lanjut. Ini tidak perlu bagi sebagian besar pengguna. Mode Lockdown secara ketat membatasi interaksi ChatGPT dengan sistem eksternal untuk mengurangi risiko eksfiltrasi data yang disebabkan oleh injeksi prompt.

Mode Lockdown secara deterministik menonaktifkan alat dan kemampuan tertentu di ChatGPT yang dapat dieksploitasi oleh pihak lawan untuk mencuri data sensitif dari percakapan pengguna atau aplikasi yang terhubung melalui serangan seperti injeksi prompt.

Sebagai contoh, penjelajahan web dalam Mode Lockdown dibatasi pada konten yang di-cache, sehingga tidak ada permintaan jaringan langsung yang meninggalkan jaringan yang dikendalikan OpenAI. Pembatasan ini dirancang untuk mencegah data sensitif dicuri oleh penyerang melalui penjelajahan. Beberapa fitur dinonaktifkan sepenuhnya ketika kami tidak dapat memberikan jaminan pasti yang kuat atas keamanan data.

Paket bisnis ChatGPT sudah menyediakan keamanan data kelas perusahaan⁠. Mode Lockdown dibangun di atas perlindungan tersebut dan tersedia untuk ChatGPT Enterprise, ChatGPT Edu, ChatGPT untuk Layanan Kesehatan, dan ChatGPT untuk Pengajar. Admin dapat mengaktifkannya di Pengaturan Workspace⁠(terbuka di jendela baru) dengan membuat peran⁠(terbuka di jendela baru) baru. Saat diaktifkan, Mode Lockdown menambahkan pembatasan tambahan pada pengaturan admin yang sudah ada.

Pelajari lebih lanjut tentang Mode Lockdown di Pusat Bantuan⁠(terbuka di jendela baru) kami.

Karena beberapa alur kerja penting bergantung pada aplikasi, Admin Workspace mempertahankan kontrol yang lebih terperinci. Mereka dapat memilih dengan tepat aplikasi mana—dan tindakan spesifik mana dalam aplikasi tersebut—yang dapat diakses oleh pengguna dalam Mode Lockdown. Selain itu, terpisah dari Mode Lockdown, Platform Log API Kepatuhan⁠(terbuka di jendela baru) memberikan visibilitas terperinci terhadap penggunaan aplikasi, data yang dibagikan, dan sumber yang terhubung, membantu admin dalam mempertahankan pengawasan.

Kami berencana untuk membuat Mode Lockdown tersedia bagi konsumen dalam beberapa bulan mendatang.

Produk AI dapat lebih bermanfaat saat terhubung ke aplikasi dan web Anda, dan kami telah berinvestasi besar dalam menjaga keamanan data yang terhubung⁠. Pada saat yang sama, beberapa kemampuan terkait jaringan memperkenalkan risiko baru yang belum sepenuhnya diatasi oleh langkah-langkah keselamatan dan keamanan industri. Beberapa pengguna mungkin merasa nyaman mengambil risiko ini, dan kami percaya penting bagi pengguna untuk memiliki kemampuan memutuskan apakah dan bagaimana menggunakannya, terutama saat bekerja dengan data pribadi mereka.

Pendekatan kami adalah memberikan panduan dalam produk untuk fitur yang mungkin menimbulkan risiko tambahan. Untuk memperjelas dan menyelaraskan hal ini, kami menstandardisasikan cara kami memberi label pada daftar singkat kemampuan yang sudah ada. Fitur-fitur ini sekarang akan menggunakan label “Elevated Risk” yang konsisten di seluruh ChatGPT, ChatGPT Atlas, dan Codex, sehingga pengguna menerima panduan yang sama di mana pun mereka menemuinya.

Misalnya, dalam Codex, asisten pengodean kami, pengembang dapat memberikan akses jaringan kepada Codex sehingga dapat melakukan tindakan di web seperti mencari dokumentasi. Layar pengaturan yang relevan mencakup label “Elevated Risk”, beserta penjelasan yang jelas tentang perubahan yang terjadi, risiko yang mungkin timbul, dan kapan akses tersebut tepat.

Kami terus berinvestasi dalam memperkuat langkah-langkah perlindungan keselamatan dan keamanan kami, terutama untuk risiko baru, yang sedang muncul, atau yang makin meningkat. Saat kami memperkuat langkah-langkah perlindungan untuk fitur-fitur ini, kami akan menghapus label “Elevated Risk” setelah kami menentukan bahwa kemajuan keamanan telah cukup memitigasi risiko tersebut untuk penggunaan umum. Kami juga akan terus memperbarui fitur mana yang menyandang label ini seiring waktu untuk mengomunikasikan risiko kepada pengguna dengan sebaik-baiknya.