Cara kami membangun keselamatan, keamanan, dan privasi dalam dots

Dots adalah agen yang selalu aktif dan menangani tanggung jawab secara berkelanjutan, sehingga Anda memiliki lebih banyak waktu dan perhatian untuk hal-hal yang penting bagi Anda. Setiap dot memiliki komputernya sendiri dan bekerja di berbagai aplikasi yang Anda pilih untuk dihubungkan. Anda memberi dots tujuan dan menentukan apa yang boleh mereka lakukan sendiri. Mereka dapat menjalankan langkah-langkah yang diperlukan, beradaptasi saat situasi berubah, dan terus melanjutkan pekerjaan di sela-sela percakapan. Mereka dapat mengikuti perkembangan suatu berita dan menyiapkan draf buletin, atau membantu memperbarui proyek saat ada informasi baru—menyerahkan hasil untuk Anda tinjau dan meminta keputusan Anda jika diperlukan pertimbangan pribadi.

Memberi dots tanggung jawab tersebut berarti memercayakan lebih banyak informasi dan pekerjaan Anda kepada mereka. Anda perlu memahami apa saja yang dapat diakses setiap dot, bagaimana akses itu digunakan, dan kapan dot perlu melibatkan Anda. Hal-hal tersebut penting karena kesalahan agen dapat berdampak di luar percakapan: salah memahami permintaan dapat membuatnya mengubah file yang salah atau membagikan informasi yang ingin Anda jaga kerahasiaannya.

Kami membangun perlindungan untuk setiap bagian dari pekerjaan tersebut. Kami memulai dengan GPT‑6 Astra, yang kami latih untuk memahami maksud Anda dan mengikuti aturan keselamatan, lalu menambahkan pengamanan pada informasi yang digunakan dots, lingkungan tempat mereka bekerja, dan tindakan yang mereka rencanakan. Workspace cloud yang terlindungi membantu membatasi dampak kesalahan, alur login aman membantu melindungi kredensial sensitif, dan pemeriksaan tindakan secara terpisah membantu mendeteksi langkah yang menyimpang dari instruksi Anda atau persyaratan keselamatan. Anda memilih apa yang akan dihubungkan, mengatur preferensi, serta memantau atau mengarahkan ulang pekerjaan seiring perkembangannya.

Dots tetap dapat melakukan kesalahan, dan kami akan terus meningkatkan perlindungan ini berdasarkan pembelajaran dari penggunaan nyata. Di sini, kami menjelaskan bagaimana berbagai pengamanan saling melengkapi, apa yang Anda kendalikan, dan keterbatasan yang masih ada—agar Anda dapat mengambil keputusan dengan pemahaman yang memadai tentang pekerjaan yang Anda percayakan kepada dots.

Dots didukung oleh GPT‑6 Astra, model kami yang paling mumpuni dan paling selaras dengan tujuan serta nilai manusia. Astra unggul dalam memahami tujuan Anda, tetap bekerja dalam cakupan permintaan Anda, dan mengajukan pertanyaan terarah jika jawabannya dapat mengubah tindakan yang perlu diambil. Kemampuan ini membantu dots menjalankan tugas secara berkelanjutan tanpa melupakan maksud Anda.

Kami telah melatih Astra untuk menolak permintaan berbahaya, termasuk yang melibatkan penyalahgunaan di bidang biologi atau keamanan siber. Kami menguji cara dots menangani instruksi yang berubah, permintaan yang ambigu, dan upaya mendorong mereka melampaui izin yang Anda berikan. Red teaming oleh manusia maupun secara otomatis membantu kami menemukan kelemahan, meningkatkan model dan sistem pendukungnya, lalu menguji kembali perubahan tersebut.

Kami melengkapi pengamanan model tersebut dengan perlindungan keamanan ChatGPT dan langkah tambahan untuk agen yang dapat terus bekerja atas nama Anda.

Perlindungan bawaan ChatGPT mencakup enkripsi konten Anda saat disimpan maupun saat dikirim antara Anda, OpenAI, dan penyedia layanan kami, serta kontrol akses yang membantu melindungi informasi tersimpan. Sistem keamanan akun kami juga memantau penggunaan akun OpenAI Anda yang mencurigakan dan dapat mewajibkan login ulang jika suatu sesi tampak telah disusupi.

Agen juga memerlukan perlindungan dari informasi yang mereka temui saat bekerja. Halaman web, email, atau dokumen dapat memuat instruksi berbahaya yang berusaha mengalihkan tindakan agen atau membuatnya membagikan informasi pribadi—masalah yang disebut injeksi prompt. Kami menggabungkan pengamanan model dengan pembatasan alat, pemeriksaan sebelum tindakan, dan pemantauan untuk membantu mencegah konten tersebut memicu tindakan yang tidak diinginkan.

Kami juga memantau dots saat merencanakan dan menjalankan tindakan untuk mendeteksi perilaku yang berpotensi berbahaya, seperti bertindak di luar instruksi Anda atau mencoba mengakali pengamanan. Jika pemantauan keselamatan mendeteksi masalah dalam pekerjaan yang sedang dijalankan dot, sistem dapat menjeda pekerjaan tersebut dan menampilkan peringatan untuk Anda tinjau. Pemantauan bawaan ini membantu mendeteksi masalah seiring berlangsungnya tugas, melengkapi perlindungan yang membatasi apa yang dapat diakses dan dilakukan dots.

Setiap dot memiliki komputer cloud sendiri, tempatnya dapat menjelajah web, menganalisis informasi, membuat file, dan menjalankan alat. Dots dapat terus melanjutkan pekerjaan di workspace ini, bahkan saat Anda tidak terlibat secara aktif.

Anda memilih akun yang dapat digunakan dots, baik dengan menghubungkan aplikasi sesuai izin yang telah Anda berikan kepada ChatGPT maupun dengan login ke situs web di browser dot, menggunakan login aman jika didukung. Anda juga dapat memilih untuk menghubungkan komputer pribadi agar dots dapat membantu dengan lebih banyak cara—misalnya, menganalisis spreadsheet yang disimpan di desktop Anda atau menggunakan alat pemrograman yang terinstal di perangkat Anda.

Di dalam workspace terlindungi setiap dot, sandbox membatasi akses kode dan alat yang dijalankan dot tersebut, sehingga membantu membatasi dampak kode berbahaya atau perintah yang keliru. Kami juga mengisolasi lingkungan cloud masing-masing pengguna dan memelihara sistem operasi Linux serta browser Chrome yang mendasarinya.

Dots menjalankan kode di lingkungan yang terpisah dari sistem yang mengoordinasikan pekerjaan mereka dan menegakkan pengamanan utama. Mereka dapat membuat file dan menjalankan alat di sana, tetapi tidak dapat menggunakan akses tersebut untuk mengubah sistem keselamatan itu atau menonaktifkan pemeriksaan wajib. Pemisahan ini membantu menjaga pengamanan tetap berlaku meskipun dot melakukan kesalahan.

Aturan tindakan yang dijelaskan di bawah mengatur apa yang dapat dilakukan dots dengan akses mereka.

Login aman memungkinkan dots bekerja di dalam akun tanpa memasukkan kata sandi ke dalam percakapan. Untuk login yang didukung, model dijeda saat Anda mengisi formulir login aman. Formulir ini mengirimkan kredensial Anda langsung ke lingkungan browser dan menggunakannya untuk login tanpa memasukkannya ke dalam konteks model. Dot kemudian melanjutkan pekerjaan di akun yang sudah login. Menjaga kata sandi tetap di luar percakapan mengurangi risiko kata sandi muncul dalam jawaban atau dibagikan secara tidak sengaja.

Alur kata sandi tersimpan yang didukung mempertahankan pemisahan tersebut melalui layanan khusus untuk kredensial terenkripsi. Layanan ini menyediakan kata sandi untuk login tanpa meneruskannya ke model, sehingga dots dapat bekerja di akun yang telah Anda izinkan sementara kata sandi tetap berada di luar konteks model. Perlindungan ini khusus berlaku untuk alur login aman dan kata sandi tersimpan; informasi rahasia yang ditempatkan secara terpisah dalam pesan atau dokumen yang dapat dibaca mungkin masih terlihat oleh model.

Anda mengelola aplikasi yang dapat digunakan dots melalui koneksi dan izin ChatGPT yang sudah ada, yang berlaku bersama di ChatGPT, ChatGPT Work, dan Codex. Di bagian Plugin dalam Pengaturan, Anda dapat meninjau akun yang terhubung dan mengubah apa yang dapat diakses dots ke depannya. Memutus koneksi aplikasi akan menghentikan pembagian informasi baru melalui koneksi tersebut. Namun, informasi yang telah dipelajari dot tetap tersimpan dalam konteksnya sendiri. Izin ini mengatur akses ke aplikasi Anda; izin tersebut tidak mengesampingkan persyaratan keselamatan wajib.

Jika Anda ingin dots bekerja dengan file atau alat lokal, Anda juga dapat memilih untuk menghubungkan komputer Anda. Koneksi tersebut tetap tunduk pada pembatasan sandbox lokal dan pemeriksaan tindakan yang berlaku. Penggunaan mikrofon atau kamera komputer Anda juga memerlukan izin perangkat, yang dapat Anda pilih untuk diberikan kepada ChatGPT.

Tampilan Aktivitas di aplikasi desktop memungkinkan Anda memantau dan mengarahkan pekerjaan yang sedang berlangsung. Tampilan ini menunjukkan tugas yang sedang berlangsung dan yang didelegasikan, beserta statusnya. Anda dapat menambahkan konteks, meluruskan kesalahpahaman, mengubah arah, atau meminta dot untuk berhenti.

Dots membangun konteks seiring waktu agar bantuan mereka semakin berguna. Saat mereka mendelegasikan pekerjaan, agen lain diinstruksikan untuk menyimpan informasi yang diperlukan untuk tugas tersebut dan tidak menyimpan detail sensitif yang tidak diperlukan. Setiap dot memiliki konteksnya sendiri yang dapat Anda reset kapan saja.

Untuk workspace ChatGPT Business, Enterprise, dan Edu, secara default kami tidak menggunakan data Anda untuk melatih model kami. Untuk paket ChatGPT pribadi, Anda mengendalikan apakah percakapan dots Anda dan pekerjaan yang mereka lakukan digunakan untuk meningkatkan model kami, melalui pengaturan “Tingkatkan model untuk semua orang”. Jika pelatihan model diaktifkan, data yang digunakan dapat mencakup tindakan dots dan otomatisasi yang Anda siapkan, setelah kami berupaya menghapus informasi pengenal pribadi. Anda dapat membaca lebih lanjut tentang penggunaan data Anda dalam artikel ini⁠(terbuka di jendela baru) di pusat bantuan kami.

Selain pekerjaan yang Anda minta, dots dapat memulai tugas riset di latar belakang untuk mencari cara lain membantu Anda—misalnya, mendeteksi perubahan pada rencana perjalanan Anda. Kami menyebutnya riset proaktif.

Tugas-tugas ini berjalan di lingkungan cloud setiap dot. Tugas ini menggunakan alat dengan akses hanya-baca untuk mengumpulkan informasi dari sumber terhubung yang diizinkan, lalu menyimpan catatan pribadi untuk dot tersebut. Kami menegakkan batasan ini melalui kode: tugas riset tidak dapat secara langsung mengirim pesan kepada orang lain, mengubah konten di aplikasi terhubung, atau mengendalikan browser maupun desktop. Dots dapat menggunakan temuan tersebut untuk memutuskan cara membantu, tetapi setiap tindakan lanjutan harus mengikuti aturan dan pemeriksaan yang berlaku seperti biasa.

Kami tidak melatih model kami secara langsung menggunakan utas riset latar belakang tersebut maupun catatan yang dihasilkannya. Namun, dot dapat menerima catatan dari tugas riset latar belakangnya atau membaca bagian dari utas risetnya. Informasi yang dimasukkan dengan cara ini ke dalam percakapan atau tugas yang memenuhi syarat dapat digunakan untuk pelatihan model, bergantung pada pengaturan Anda. Misalnya, tugas riset latar belakang dapat mengumpulkan informasi tentang beberapa destinasi untuk perjalanan mendatang ke Eropa. Utas riset dan catatannya itu tidak digunakan secara langsung untuk pelatihan. Kemudian, saat Anda meminta dot membantu merencanakan perjalanan ke Lisbon, dot mungkin membaca catatan tentang Lisbon dari tugas riset latar belakangnya. Catatan tersebut menjadi bagian dari konteks percakapan perencanaan perjalanan Anda dan kemudian dapat digunakan untuk pelatihan, bergantung pada pengaturan Anda. Bagian riset latar belakang lainnya tidak digunakan untuk pelatihan kecuali juga dimasukkan ke dalam percakapan atau tugas yang memenuhi syarat.

Dots mengikuti batasan pengaman bawaan yang dirancang untuk mencegah bahaya dan memastikan keputusan berdampak penting tetap berada di tangan Anda. Aturan keselamatan mewajibkan mereka menolak permintaan berbahaya, termasuk penyalahgunaan di bidang biologi atau keamanan siber. Untuk tugas yang dapat mereka bantu, aturan tindakan menentukan kapan mereka boleh melanjutkan, kapan harus meminta konfirmasi, dan kapan harus menyerahkan kembali suatu langkah kepada Anda.

Dalam batasan tersebut, dots dapat membaca informasi yang diizinkan untuk mereka akses, menganalisisnya, dan menyiapkan draf dalam percakapan Anda. Untuk mengirim pesan atau membagikan file, mereka diajari meminta izin yang mencakup informasi dan jenis penerimanya—semakin sensitif datanya, semakin spesifik penerima yang harus ditentukan. Misalnya, untuk data kesehatan, pengguna selalu harus menyebutkan nama penerima (“bagikan riwayat kesehatan saya kepada dr. Thompson”). Untuk data pribadi yang kurang sensitif, seperti alamat email atau nomor telepon, secara default pengguna harus menentukan kategori penerima (“maskapai penerbangan mana pun”). Pengguna dapat memperluas aturan untuk data pribadi yang kurang sensitif (“bagikan melalui formulir online apa pun”) dengan membuat Aturan Kustom—lihat bagian berikutnya untuk detail lebih lanjut tentang fitur ini. Izin tersebut tetap terikat pada instruksi Anda untuk tugas itu; melanjutkan pekerjaan nanti atau mendelegasikannya tidak memperluas izin tersebut.

Dots dapat melakukan pembelian menggunakan kartu yang sudah Anda simpan di situs web penjual. Pembelian tersebut memerlukan persetujuan Anda.

Beberapa tindakan memerlukan konfirmasi Anda setiap kali dilakukan, termasuk menghapus data secara permanen, menginstal atau menjalankan perangkat lunak dari sumber yang tidak dikenal, atau memberikan akses baru yang sensitif dari sisi keamanan. Persyaratan ini memberi Anda kesempatan untuk meninjau perubahan yang mungkin sulit dibatalkan atau yang memberi seseorang akses baru.

Untuk langkah sensitif lainnya, termasuk mengubah kata sandi atau mentransfer uang antar-rekening keuangan, dots dapat membantu bagian tugas lainnya, tetapi harus menyerahkan kembali langkah sensitif itu kepada Anda.

Aturan Kustom memungkinkan Anda mengatur cara dots membantu dalam batas perlindungan bawaan ini—misalnya, dengan melarang mereka mengirim email. Anda juga dapat memberikan arahan khusus untuk suatu tugas, seperti meminta dot memberi tahu rekan kerja bahwa Anda sedang tidak di tempat tanpa membagikan alasan pribadi Anda. Instruksi tersebut tetap berlaku saat dot mendelegasikan pekerjaan atau bekerja di latar belakang.

Dots dapat membantu Anda menulis Aturan Kustom, tetapi memerlukan persetujuan Anda untuk mengubahnya. Preferensi ini berlaku dalam batasan pengaman bawaan dan tidak dapat menghapus kewajiban konfirmasi, penyerahan langkah kepada Anda, atau persyaratan keselamatan inti.

Sebelum dots melakukan tindakan seperti mengirim email atau mengubah file, sistem keselamatan terpisah bernama Peninjauan Otomatis memeriksa kesesuaian langkah yang direncanakan dengan instruksi Anda, Aturan Kustom, dan persyaratan keselamatan. Untuk email, sistem ini memeriksa penerima dan isi pesan guna membantu mendeteksi alamat yang salah atau informasi yang tidak ingin Anda bagikan.

Jika Peninjauan Otomatis mengizinkan suatu langkah, dot yang mengusulkannya menjalankan langkah itu menggunakan komputer atau alat aplikasi yang sesuai, lalu menggunakan hasilnya untuk melanjutkan tugas Anda. Dot dapat menggunakan persetujuan yang telah Anda berikan jika persetujuan tersebut mencakup tindakan itu dan aturan tidak mewajibkan konfirmasi baru.

Jika Peninjauan Otomatis memblokir suatu langkah, sistem mencegah tindakan tersebut dijalankan dan memberi tahu dot alasannya. Dot tersebut dapat meminta informasi tambahan atau persetujuan Anda jika hal itu dapat mengatasi pemblokiran, lalu mengajukan kembali langkah tersebut untuk ditinjau. Bergantung pada alasannya, dot dapat memilih untuk mencoba alternatif yang diizinkan, menyerahkan kembali langkah sensitif kepada Anda, atau berhenti. Persetujuan Anda tidak dapat mengesampingkan persyaratan keselamatan inti.

Kami menempatkan kontrol yang menegakkan Peninjauan Otomatis di luar lingkungan yang dapat diubah dots, sehingga mereka tidak dapat mengubah atau menonaktifkan pemeriksaan wajib. Langkah hanya-baca biasa tetap mengikuti izin aplikasi, pembatasan alat, dan pengamanan lainnya, tetapi tidak memerlukan peninjauan tambahan ini.

Memercayakan pekerjaan berkelanjutan kepada dots berarti mengetahui bagaimana mereka akan mengikuti instruksi Anda dan merespons saat terjadi hal yang tidak terduga. Astra membantu mereka memahami maksud Anda, sementara perlindungan pada data, workspace, kredensial, dan tindakan mereka membantu membatasi dampak buruk akibat kesalahan atau konten berbahaya. Secara bersama-sama, pengamanan ini memberi dots ruang untuk melakukan pekerjaan yang bermanfaat sekaligus mengurangi kemungkinan kesalahan berujung pada tindakan atau pengungkapan informasi yang tidak diinginkan.

Anda memilih apa yang dapat dihubungkan ke dots dan bagaimana mereka membantu, serta dapat memantau kemajuan mereka atau mengubah arah sesuai perubahan kebutuhan Anda. Persetujuan dan penyerahan langkah kepada Anda memastikan keputusan utama tetap berada di tangan Anda. Dots tetap dapat melakukan kesalahan, jadi kami akan terus menguji dan meningkatkan perlindungan mereka berdasarkan pembelajaran dari penggunaan nyata. Tujuan kami adalah memudahkan Anda menyerahkan pekerjaan kepada dots dan kembali saat pekerjaan sudah mengalami kemajuan yang berarti, dengan preferensi Anda sebagai panduan dan keputusan penting tetap di tangan Anda.

Baca kartu sistem⁠(terbuka di jendela baru) untuk detail lebih lanjut tentang pengamanan, evaluasi keselamatan, dan keterbatasan yang masih ada.

Untuk mengetahui dasar-dasar keamanan ChatGPT, lihat Keamanan dan privasi di OpenAI. Untuk memahami lebih jauh salah satu perlindungan keamanan web, lihat Menjaga data Anda tetap aman saat agen AI mengklik tautan.