Kadangi DI sistemos imasi sudėtingesnių užduočių, ypač susijusių su saitynu ir susietomis programomis, keičiasi su saugumu susijusi rizika.
Viena iš kylančių rizikų tapo ypač svarbi: užklausų įterpimas. Per šias atakas trečioji šalis bando suklaidinti pokalbių DI sistemą, kad ši vykdytų kenkėjiškas instrukcijas arba atskleistų neskelbtiną informaciją.
Šiandien pristatome dvi naujas apsaugos priemones, skirtas padėti naudotojams ir organizacijoms sušvelninti užklausų įterpimo atakas, užtikrinant aiškesnį rizikos matomumą ir stipresnę kontrolę:
- Užrakinimo režimas (angl. „Lockdown Mode“) „ChatGPT“ platformoje – tai pažangi, pasirenkama saugumo nuostata, skirtas didesnės rizikos naudotojams;
- „Padidintos rizikos“ etiketės tam tikroms galimybėms, kurios gali sukelti papildomą riziką „ChatGPT“, „ChatGPT Atlas“ ir „Codex“.
Šie papildymai išplečia mūsų esamas apsaugos priemones modelio, produkto ir sistemos lygmenimis. Tai apima smėliadėžes, apsaugą nuo URL pagrįsto duomenų išgavimo, stebėseną ir vykdymo užtikrinimą bei įmonės lygio valdiklius, pvz., vaidmenimis grįstą prieigą ir audito žurnalus.
Užrakinimo režimas yra pasirenkama, pažangi saugumo nuostata, skirta nedidelei grupei labai saugumu besirūpinančių naudotojų, pvz., vadovams ar saugumo komandoms žinomose organizacijose, kuriems reikia didesnės apsaugos nuo pažangių grėsmių. Daugumai naudotojų jis nėra būtinas. Užrakinimo režimas griežtai apriboja „ChatGPT“ sąveiką su išorinėmis sistemomis, kad sumažintų užklausų įterpimu pagrįsto duomenų išgavimo riziką.
Užrakinimo režimas deterministiškai išjungia tam tikrus įrankius ir galimybes „ChatGPT“ platformoje, kuriuos priešininkas galėtų bandyti išnaudoti neskelbtiniems duomenims iš naudotojų pokalbių ar susietų programų išgauti per atakas, pvz., užklausų įterpimą.
Pavyzdžiui, naršymas saityne Užrakinimo režimu apsiriboja talpykloje esančiu turiniu, todėl jokios tiesioginės tinklo užklausos nepalieka „OpenAI“ kontroliuojamo tinklo. Šis apribojimas skirtas užkirsti kelią neskelbtinų duomenų išgavimui per naršymą. Kai kurios funkcijos išjungiamos visiškai, kai negalime suteikti tvirtų deterministinių duomenų saugumo garantijų.
Užrakinimo režimas – tai nauja deterministinė nuostata, padedanti apsaugoti duomenis nuo netyčinio bendrinimo su trečiosiomis šalimis, griežtai apribojant „ChatGPT“ sąveiką su tam tikromis išorinėmis sistemomis.
„ChatGPT“ verslo planai jau užtikrina įmonės lygio duomenų saugumą. Užrakinimo režimas remiasi šiomis apsaugos priemonėmis ir yra prieinamas „ChatGPT Enterprise“, „ChatGPT Edu“, „ChatGPT for Healthcare“ ir „ChatGPT for Teachers“. Administratoriai gali jį įjungti Darbo erdvės nuostatose(atsidaro naujame lange) sukurdami naują vaidmenį(atsidaro naujame lange). Kai Užrakinimo režimas įjungtas, jis prideda papildomų apribojimų prie esamų administratoriaus nuostatų.
Sužinokite daugiau apie Užrakinimo režimą mūsų Pagalbos centre(atsidaro naujame lange).
Kadangi kai kurios kritinės darbo eigos priklauso nuo programų, darbo erdvės administratoriai išlaiko smulkesnį valdymą. Jie gali pasirinkti, kurios tiksliai programos ir kurie konkretūs veiksmai tose programose yra prieinami naudotojams Užrakinimo režimu. Be to, atskirai nuo Užrakinimo režimo, Atitikties API žurnalų platforma(atsidaro naujame lange) suteikia išsamų programų naudojimo, bendrinamų duomenų ir susietų šaltinių matomumą, padedant administratoriams palaikyti priežiūrą.
Planuojame padaryti Užrakinimo režimą prieinamą vartotojams per ateinančius mėnesius.
DI produktai gali būti naudingesni, kai jie susieti su jūsų programomis ir saitynu, ir mes daug investavome į tai, kad susieti duomenys būtų saugūs. Tuo pačiu metu kai kurios su tinklu susijusios galimybės sukelia naujų rizikų, kurių pramonės saugos ir saugumo priemonės dar nėra visiškai išsprendusios. Kai kurie naudotojai gali jaustis patogiai prisiimdami šią riziką, ir manome, kad svarbu, jog naudotojai turėtų galimybę nuspręsti, ar ir kaip jomis naudotis, ypač dirbant su savais privačiais duomenimis.
Mūsų požiūris buvo teikti patarimus produkte dėl funkcijų, kurios gali sukelti papildomą riziką. Siekdami padaryti tai aiškiau ir nuosekliau, standartizuojame trumpo esamų galimybių sąrašo žymėjimą. Šios funkcijos dabar naudos nuoseklią „Padidintos rizikos“ etiketę „ChatGPT“, „ChatGPT Atlas“ ir „Codex“ platformose, todėl naudotojai gaus tuos pačius nurodymus, kad ir kur su jomis susidurtų.
Pavyzdžiui, „Codex“, mūsų programavimo asistento, atveju kūrėjai gali suteikti „Codex“ tinklo prieigą, kad jis galėtų atlikti veiksmus saityne, pvz., ieškoti dokumentacijos. Atitinkamame nuostatų ekrane yra „Padidintos rizikos“ etiketė kartu su aiškiu paaiškinimu, kas keičiasi, kokia rizika gali kilti ir kada tokia prieiga yra tinkama.
„Codex“ nuostatų ekrano, kuriame naudotojai gali konfigūruoti, kokią tinklo prieigą turi „Codex“, ekrano kopija.
Toliau investuojame į savo saugos ir saugumo priemonių stiprinimą, ypač dėl naujų, kylančių ar augančių rizikų. Stiprindami šių funkcijų apsaugos priemones, pašalinsime „Padidintos rizikos“ etiketę, kai nustatysime, kad saugumo pažanga pakankamai sumažino šią riziką bendram naudojimui. Taip pat laikui bėgant toliau atnaujinsime funkcijų, turinčių šią etiketę, sąrašą, kad kuo geriau informuotume naudotojus apie riziką.
Autorius
Skaityti toliau
