Ngenalake Mode Lockdown lan label Elevated Risk ing ChatGPT

Nalika sistem AI nangani tugas sing saya kompleks—utamane sing nglibatake web lan app sing kasambung—taruhan keamanane owah.

Salah siji risiko sing lagi muncul dadi saya penting yaiku injeksi prompt⁠. Ing serangan iki, pihak katelu nyoba nyasarke sistem AI percakapan supaya nuruti instruksi ala utawa mbukak informasi sensitif.

Dina iki, kita ngenalake rong proteksi anyar sing dirancang kanggo mbantu pangguna lan organisasi nyuda serangan injeksi prompt, kanthi visibilitas risiko sing luwih cetha lan kontrol sing luwih kuat:

• Mode Lockdown ing ChatGPT, setelan keamanan lanjutan opsional kanggo pangguna kanthi risiko luwih dhuwur
• label “Elevated Risk” kanggo kapabilitas tartamtu ing ChatGPT, ChatGPT Atlas, lan Codex sing bisa nambah risiko

Tambahan iki ngembangake proteksi sing wis ana ing level model, produk, lan sistem. Iki kalebu sandboxing, proteksi marang eksfiltrasi data adhedhasar URL⁠, pemantauan lan penegakan, lan kontrol enterprise⁠ kaya akses adhedhasar peran lan log audit.

Mode Lockdown yaiku setelan keamanan lanjutan opsional sing dirancang kanggo sakelompok cilik pangguna sing banget ngati-ati soal keamanan—kayata eksekutif utawa tim keamanan ing organisasi gedhe—sing mbutuhake perlindungan luwih dhuwur marang ancaman tingkat lanjut. Iki ora perlu kanggo umume pangguna. Mode Lockdown kanthi ketat matesi cara ChatGPT bisa sesambungan karo sistem eksternal kanggo nyuda risiko eksfiltrasi data adhedhasar injeksi prompt.

Mode Lockdown kanthi deterministik mateni alat lan kapabilitas tartamtu ing ChatGPT sing bisa dicoba dimanfaatake mungsuh kanggo ngeksfiltrasi data sensitif saka obrolan pangguna utawa app sing kasambung liwat serangan kayata injeksi prompt.

Contone, browsing web ing Mode Lockdown diwatesi mung kanggo konten cache, mula ora ana panjalukan jaringan langsung sing metu saka jaringan sing dikontrol OpenAI. Watesan iki dirancang kanggo nyegah data sensitif dieksfiltrasi menyang penyerang liwat browsing. Sawetara fitur dipateni kabeh nalika kita ora bisa menehi jaminan deterministik sing kuwat babagan keamanan data.

Rencana bisnis ChatGPT wis nyedhiyakake keamanan data tingkat enterprise⁠. Mode Lockdown ngembangake proteksi kasebut lan kasedhiya kanggo ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, lan ChatGPT for Teachers. Admin bisa ngaktifake iki ing Setelan papan kerja⁠(mbukak ing jendhela anyar) kanthi nggawe peran⁠(mbukak ing jendhela anyar) anyar. Nalika diaktifake, Mode Lockdown nambah lapisan watesan tambahan ing ndhuwur setelan admin sing wis ana.

Sinau luwih lengkap babagan Mode Lockdown ing Pusat Bantuan⁠(mbukak ing jendhela anyar) kita.

Amarga sawetara alur kerja kritis gumantung marang app, Admin papan kerja tetep nduweni kontrol sing luwih rinci. Dheweke bisa milih persis app endi—lan tumindak spesifik apa ing njero app kasebut—sing kasedhiya kanggo pangguna ing Mode Lockdown. Kajaba iku, lan kapisah saka Mode Lockdown, Compliance API Logs Platform⁠(mbukak ing jendhela anyar) menehi visibilitas rinci babagan panggunaan app, data sing dibagekake, lan sumber sing kasambung, mbantu admin njaga pengawasan.

Kita ngrencanakake supaya Mode Lockdown kasedhiya kanggo konsumen ing sawetara sasi ngarep.

Produk AI bisa luwih migunani nalika kasambung karo app lan web sampeyan, lan kita wis nandur modal gedhe kanggo njaga keamanan data sing kasambung⁠. Ing wektu sing padha, sawetara kapabilitas sing gegayutan karo jaringan ngenalake risiko anyar sing durung rampung ditangani dening mitigasi safety lan keamanan industri. Sawetara pangguna bisa wae kepenak nampa risiko iki, lan kita yakin penting supaya pangguna duwe kemampuan kanggo mutusake apa lan kepiye cara nggunakane, utamane nalika nggarap data pribadine.

Pendekatan kita yaiku nyedhiyakake pandhuan ing produk kanggo fitur sing bisa nambah risiko. Supaya luwih cetha lan konsisten, kita nyeragamakake cara menehi label kanggo dhaptar cekak kapabilitas sing wis ana. Fitur-fitur iki saiki bakal nggunakake label “Elevated Risk” sing konsisten ing ChatGPT, ChatGPT Atlas, lan Codex, supaya pangguna nampa pandhuan sing padha ing endi wae dheweke nemoni fitur kasebut.

Contone, ing Codex, asisten coding kita, pangembang bisa menehi Codex akses jaringan supaya bisa tumindak ing web kaya nggoleki dokumentasi. Layar setelan sing relevan ngemot label “Elevated Risk”, bebarengan karo panjelasan cetha babagan apa sing owah, risiko apa sing bisa muncul, lan kapan akses kasebut cocog.

Kita terus nandur modal kanggo nguatake perlindungan safety lan keamanan, utamane kanggo risiko sing anyar, lagi muncul, utawa saya tuwuh. Nalika kita nguatake perlindungan kanggo fitur-fitur iki, kita bakal mbusak label “Elevated Risk” yen kita nemtokake manawa kemajuan keamanan wis cukup nyuda risiko kasebut kanggo panggunaan umum. Kita uga bakal terus nganyari fitur endi wae sing nggawa label iki saka wektu ke wektu supaya komunikasi risiko marang pangguna dadi paling apik.