Ipinakikilala ang Lockdown Mode at ang pare-parehong label ng Elevated Risk sa ChatGPT

Habang ang mga sistema ng AI ay humahawak ng mas masalimuot na mga gawain—lalo na ang mga may kinalaman sa web at mga nakakonektang app—nagbabago ang mga nakataya sa seguridad.

May umuusbong na panganib na naging lalong mahalaga: prompt injection⁠. Sa mga pag-atakeng ito, sinusubukan ng third party na iligaw ang kombersasyonal na AI system upang sundin ang mga nakakapinsalang tagubilin o magbunyag ng sensitibong impormasyon.

Ngayon, ipinapakilala namin ang dalawang bagong proteksyon na dinisenyo upang tulungan ang mga user at organisasyon na mabawasan ang mga pag-atakeng prompt injection, na may mas malinaw na bisibilidad sa panganib at mas matitibay na kontrol:

• Lockdown Mode sa ChatGPT, isang advanced at opsyonal na setting ng seguridad para sa mga user na may mas mataas na panganib
• Mga label na “Mas Mataas na Panganib” para sa ilang kakayahan na maaaring magdulot ng karagdagang panganib sa ChatGPT, ChatGPT Atlas, at Codex

Ang mga karagdagang ito ay nakabatay sa aming mga umiiral na proteksyon sa antas ng modelo, produkto, at sistema. Kabilang dito ang sandboxing, mga proteksyon laban sa exfiltration ng data na nakabatay sa URL⁠, pagsubaybay at pagpapatupad, at mga kontrol ng enterprise⁠ tulad ng kontrol sa pag-access batay sa tungkulin at mga log ng pag-audit.

Ang Lockdown Mode ay opsyonal at advanced na setting ng seguridad na dinisenyo para sa maliit na grupo ng mga user na lubos na nakatuon sa seguridad—tulad ng mga executive team o team sa seguridad sa mga kilalang organisasyon—na nangangailangan ng mas mataas na proteksyon laban sa mga advanced na banta. Hindi ito kinakailangan ng karamihan sa mga user. Mahigpit na nililimitahan ng Lockdown Mode kung paano makikipag-ugnayan ang ChatGPT sa mga panlabas na sistema upang mabawasan ang panganib ng pag-exfiltrate ng data na batay sa prompt injection.

Tukoy na hinihinto ng Lockdown Mode ang paggana ng ilang partikular na tool at kakayahan sa ChatGPT na maaaring subukang gamitin ng kalaban para makuha ang sensitibong data mula sa mga pag-uusap ng mga user o mga nakakonektang app sa pamamagitan ng mga atake gaya ng prompt injection.

Halimbawa, ang pag-browse sa web sa Lockdown Mode ay limitado sa naka-cache na nilalaman, kaya walang mga live na kahilingan sa network na lumalabas sa kontroladong network ng OpenAI. Ang paghihigpit na ito ay dinisenyo upang maiwasan ang pag-exfiltrate ng sensitibong data sa umaatake sa pamamagitan ng pagba-browse. Ang ilang tampok ay ganap na hindi pinapagana kapag hindi namin maibigay ang matitibay na pantukoy na garantiya sa kaligtasan ng data.

Ang mga business plan ng ChatGPT ay nagbibigay ng seguridad ng data sa antas ng enterprise⁠. Ang Lockdown Mode ay nakabatay sa mga proteksyong iyon at magagamit para sa ChatGPT Enterprise, ChatGPT Edu, ChatGPT para sa Healthcare, at ChatGPT para sa mga Guro. Pwedeng i-enable ng mga admin ito sa Mga Setting ng Workspace⁠(magbubukas sa bagong window) sa pamamagitan ng paglikha ng bagong tungkulin⁠(magbubukas sa bagong window). Kapag na-enable, naglalagay ang Lockdown Mode ng mga karagdagang paghihigpit sa ibabaw ng mga kasalukuyang setting ng admin.

Dagdagan ang nalalaman tungkol sa Lockdown Mode sa aming Help Center⁠(magbubukas sa bagong window).

Dahil umaasa ang ilang kritikal na daloy ng trabaho sa mga app, nananatili sa mga admin ng Workspace ang mas masusing kontrol. Pwede nilang piliin kung aling mga app—at kung aling mga partikular na aksyon sa loob ng mga app na iyon—ang magagamit ng mga user sa Lockdown Mode. Bukod pa rito, at hiwalay sa Lockdown Mode, ang Platform ng Mga Log ng Compliance API⁠(magbubukas sa bagong window) ay nagbibigay ng detalyadong kakayahang makita sa paggamit ng app, ibinahaging data, at mga nakakonektang pinagmumulan, na tumutulong sa mga admin na mapanatili ang pangangasiwa.

Plano naming gawing available ang Lockdown Mode para sa mga mamimili sa mga darating na buwan.

Mas magiging kapaki-pakinabang ang mga produktong AI kapag nakakonekta sa iyong mga app at sa web, at naglaan kami ng malaking puhunan sa pagtiyak na ligtas ang konektadong data⁠. Kasabay nito, ang ilang kakayahang nauugnay sa network ay nagdudulot ng mga bagong panganib na hindi pa ganap na natutugunan ng mga hakbang sa kaligtasan at seguridad ng industriya. Maaaring komportable ang ilang user na tanggapin ang mga panganib na ito, at naniniwala kami na mahalagang magkaroon ang mga user ng kakayahang magpasya kung gagamitin nila at kung paano ang mga ito, lalo na habang ginagamit ang kanilang pribadong data.

Ang aming pamamaraan ay magbigay ng gabay sa loob ng produkto para sa mga tampok na maaaring magdulot ng karagdagang panganib. Para gawing mas malinaw at mas pare-pareho ito, isinasapamantayan namin kung paano namin tinatandaan ang maikling listahan ng mga kasalukuyang kakayahan. Gagamitin na ngayon ng mga tampok na ito ang label na “Elevated Risk” sa ChatGPT, ChatGPT Atlas, at Codex, upang matanggap ng mga user ang parehong gabay saanman nila ito matagpuan.

Halimbawa, sa Codex, ang aming coding assistant, maaaring bigyan ng mga developer ang Codex ng access sa network upang makagawa ito ng mga aksyon sa web tulad ng paghahanap ng dokumentasyon. Kasama sa kaugnay na screen ng mga setting ang label na “Elevated Risk,” kasama ang malinaw na paliwanag kung ano ang nagbabago, kung anong mga panganib ang maaaring maidulot, at kung kailan angkop ang access na iyon.

Patuloy kaming namumuhunan sa pagpapalakas ng aming mga pananggalang sa kaligtasan at seguridad, lalo na para sa mga bago, umuusbong, o lumalaking panganib. Habang pinapatibay namin ang mga pag-iingat para sa mga tampok na ito, aalisin namin ang label na “Elevated Risk” kapag natukoy naming sapat nang nabawasan ng mga pag-unlad sa seguridad ang mga panganib na iyon para sa pangkalahatang paggamit. Patuloy din naming ia-update kung aling mga tampok ang may taglay na label na ito sa pagdaan ng panahon upang mas mahusay na maipabatid ang panganib sa mga user.