Hekk kif is-sistemi tal-IA jieħdu f’idejhom kompiti aktar kumplessi—speċjalment dawk li jinvolvu l-web u apps konnessi—jinbidel il-livell tar-riskju tas-sigurtà.
Riskju emerġenti wieħed sar partikolarment importanti: injezzjoni tal-prompts. F’dawn l-attakki, parti terza tipprova tqarraq b’sistema ta’ IA konversazzjonali biex issegwi istruzzjonijiet malizzjużi jew tikxef informazzjoni sensittiva.
Illum, qed nintroduċu żewġ protezzjonijiet ġodda mfassla biex jgħinu lill-utenti u lill-organizzazzjonijiet itaffu attakki ta’ injezzjoni tal-prompts, b’viżibbiltà aktar ċara tar-riskju u kontrolli aktar b’saħħithom:
- Lockdown Mode f’ChatGPT, setting tas-sigurtà avvanzat u fakultattiv għal utenti b’riskju ogħla
- it-tikketti “Elevated Risk” għal ċerti kapaċitajiet f’ChatGPT, ChatGPT Atlas, u Codex li jistgħu jintroduċu riskju addizzjonali
Dawn iż-żidiet jibnu fuq il-protezzjonijiet eżistenti tagħna fil-livelli tal-mudell, tal-prodott, u tas-sistema. Dan jinkludi sandboxing, protezzjonijiet kontra eżfiltrazzjoni tad-data bbażata fuq URL, monitoraġġ u infurzar, u kontrolli enterprise bħal aċċess ibbażat fuq ir-rwoli u audit logs.
Lockdown Mode huwa setting tas-sigurtà avvanzat u fakultattiv imfassal għal grupp żgħir ta’ utenti konxji ħafna mis-sigurtà—bħal eżekuttivi jew teams tas-sigurtà f’organizzazzjonijiet prominenti—li jeħtieġu protezzjoni akbar kontra theddid avvanzat. Mhuwiex meħtieġ għall-biċċa l-kbira tal-utenti. Lockdown Mode jillimita b’mod strett kif ChatGPT jista’ jinteraġixxi ma’ sistemi esterni biex inaqqas ir-riskju ta’ eżfiltrazzjoni tad-data bbażata fuq injezzjoni tal-prompts.
Lockdown Mode b’mod deterministiku jiddiżattiva ċerti għodod u kapaċitajiet f’ChatGPT li avversarju jista’ jipprova jisfrutta biex jeżfiltra data sensittiva mill-konversazzjonijiet tal-utenti jew minn apps konnessi permezz ta’ attakki bħal injezzjonijiet tal-prompts.
Pereżempju, il-browsing tal-web f’Lockdown Mode huwa limitat għal kontenut fil-cache, sabiex l-ebda talba tan-network live ma toħroġ min-network ikkontrollat ta’ OpenAI. Din ir-restrizzjoni hija mfassla biex tipprevjeni li data sensittiva tiġi eżfiltrata lejn attakkant permezz tal-browsing. Xi karatteristiċi jiġu diżattivati għalkollox meta ma nkunux nistgħu nipprovdu garanziji deterministiċi b’saħħithom għas-sigurtà tad-data.
Lockdown Mode huwa setting deterministiku ġdid li jgħin jipproteġi d-data milli tinqasam bla ħsieb ma’ partijiet terzi billi jillimita b’mod strett kif ChatGPT jista’ jinteraġixxi ma’ ċerti sistemi esterni.
Il-pjanijiet business ta’ ChatGPT diġà jipprovdu sigurtà tad-data ta’ livell enterprise. Lockdown Mode jibni fuq dawn il-protezzjonijiet u huwa disponibbli għal ChatGPT Enterprise, ChatGPT Edu, ChatGPT għall-Kura tas-Saħħa, u ChatGPT for Teachers. L-amministraturi jistgħu jattivawh fi Workspace Settings(jinfetaħ f’tieqa ġdida) billi joħolqu rwol(jinfetaħ f’tieqa ġdida) ġdid. Meta jiġi attivat, Lockdown Mode jżid restrizzjonijiet addizzjonali fuq is-settings eżistenti tal-amministratur.
Sir af aktar dwar Lockdown Mode fiċ-Ċentru tal-Għajnuna(jinfetaħ f’tieqa ġdida) tagħna.
Minħabba li xi flussi tax-xogħol kritiċi jiddependu fuq l-apps, l-Amministraturi tal-Workspace jżommu kontrolli aktar granulari. Jistgħu jagħżlu eżattament liema apps—u liema azzjonijiet speċifiċi fi ħdan dawk l-apps—ikunu disponibbli għall-utenti f’Lockdown Mode. Barra minn hekk, u separatament minn Lockdown Mode, il-Compliance API Logs Platform(jinfetaħ f’tieqa ġdida) tipprovdi viżibbiltà dettaljata dwar l-użu tal-apps, id-data maqsuma, u s-sorsi konnessi, u tgħin lill-amministraturi jżommu superviżjoni.
Qed nippjanaw li nagħmlu Lockdown Mode disponibbli għall-konsumaturi fix-xhur li ġejjin.
Il-prodotti tal-IA jistgħu jkunu aktar utli meta jkunu konnessi mal-apps tiegħek u mal-web, u investejna ħafna biex inżommu d-data konnessa sigura. Fl-istess ħin, xi kapaċitajiet relatati man-network jintroduċu riskji ġodda li għadhom mhumiex indirizzati bis-sħiħ mill-miżuri ta’ mitigazzjoni tas-sikurezza u s-sigurtà tal-industrija. Xi utenti jistgħu jħossuhom komdi jieħdu fuqhom dawn ir-riskji, u nemmnu li huwa importanti li l-utenti jkollhom il-kapaċità jiddeċiedu jekk u kif jużawhom, speċjalment waqt li jkunu qed jaħdmu bid-data privata tagħhom.
L-approċċ tagħna kien li nipprovdu gwida fil-prodott għal karatteristiċi li jistgħu jintroduċu riskju addizzjonali. Biex nagħmlu dan aktar ċar u konsistenti, qed nistandardizzaw kif nittikkettaw lista qasira ta’ kapaċitajiet eżistenti. Dawn il-karatteristiċi issa se jużaw tikketta konsistenti “Elevated Risk” f’ChatGPT, ChatGPT Atlas, u Codex, biex l-utenti jirċievu l-istess gwida kull fejn jiltaqgħu magħhom.
Pereżempju, f’Codex, l-assistent tagħna għall-coding, l-iżviluppaturi jistgħu jagħtu lil Codex aċċess għan-network biex ikun jista’ jwettaq azzjonijiet fuq il-web bħal ifittex dokumentazzjoni. L-iskrin tas-settings rilevanti jinkludi t-tikketta “Elevated Risk”, flimkien ma’ spjegazzjoni ċara ta’ x’jinbidel, x’riskji jistgħu jiġu introdotti, u meta dak l-aċċess ikun xieraq.
Screenshot tal-iskrin tas-settings ta’ Codex fejn l-utenti jistgħu jikkonfiguraw x’aċċess għan-network għandu Codex.
Nibqgħu ninvestu fit-tisħiħ tal-miżuri protettivi tagħna tas-sikurezza u s-sigurtà, speċjalment għal riskji ġodda, emerġenti, jew li qed jikbru. Hekk kif insaħħu l-miżuri protettivi għal dawn il-karatteristiċi, inneħħu t-tikketta “Elevated Risk” ladarba niddeterminaw li l-avvanzi fis-sigurtà naqqsu biżżejjed dawk ir-riskji għall-użu ġenerali. Se nkomplu wkoll naġġornaw liema karatteristiċi jġorru din it-tikketta maż-żmien biex nikkomunikaw bl-aħjar mod ir-riskju lill-utenti.
Awtur
Kompli aqra
