Nulinis duomenų saugojimas reikalavimus atitinkantiems API klientams suteikia aiškų pažadą: apdorojusi užklausą OpenAI nesaugo jų užklausų ar modelio atsakymų. OpenAI darbuotojai negali peržiūrėti klientų turinio1, o verslo klientų duomenys nenaudojami mūsų modeliams mokyti, nebent klientai aiškiai sutinka.
Modeliams atliekant ilgesnes ir sudėtingesnes užduotis, kai kurios rimtos rizikos gali išryškėti tik per kelias sąveikas. Esamos su ZDR suderinamos saugos sistemos kiekvieną sąveiką vertina atskirai. Šiandien pristatome išankstinę privačiojo saugos apdorojimo versiją, skirtą susijusių sąveikų dėsningumams nustatyti nesuteikiant OpenAI darbuotojams prieigos prie pirminio turinio.
Naudojant ZDR, klientų turinys lieka kliento valdomoje infrastruktūroje. Taip pat kuriame parinktį, pagal kurią turinys būtų saugomas OpenAI infrastruktūroje ir šifruojamas kliento valdomais raktais. Abiem atvejais automatinės sistemos gali nustatyti galimą piktnaudžiavimą ir pateikti ribotus saugos signalus, OpenAI darbuotojams neatskleisdamos pirminių užklausų ar atsakymų.
Didžiausios DI saugos rizikos ne visada pastebimos per vieną sąveiką. Dažnai galimai žalingi ketinimai paaiškėja tik kartu įvertinus kelias sąveikas. Panašių rizikų gali kilti, kai piktavaliai pakartotinai bando apeiti apsaugos priemones, koordinuoja veiksmus keliose paskyrose arba grėsmes maskuoja kaip įprastus tyrimus. Rizika gali atsirasti ir vykdant agentinę užduotį, pavyzdžiui, jei sistema nukrypsta nuo naudotojo ketinimų ir toliau veikia net gavusi nurodymą sustoti.
DI sistemoms atliekant vis ilgesnes ir sudėtingesnes užduotis, platesnis kontekstas tampa vis svarbesnis norint atskirti teisėtą veiklą nuo piktnaudžiavimo ir užtikrinti, kad DI agentai neperžengtų jiems suteiktų įgaliojimų.
Kai kuriuose naujausiuose priešakinių modelių diegimuose klientai turėjo leisti savo DI paslaugų teikėjui saugoti jautrų turinį saugos stebėsenos tikslais. Daugeliui organizacijų tokie reikalavimai prieštarauja jų saugumo prievolėms arba įsipareigojimams žmonėms, kuriems jos teikia paslaugas.
Privatusis saugos apdorojimas sukurtas taip, kad galėtume ir toliau siūlyti ZDR.
Privatusis saugos apdorojimas papildo automatines apsaugos priemones, jau naudojamas ZDR ir kitais diegimo atvejais. Esamos su ZDR suderinamos saugos sistemos sąveikas vertina atskirai. Privatusis saugos apdorojimas išplečia šias apsaugos priemones, kad jos apimtų susijusias sąveikas ir automatinės sistemos galėtų nustatyti dėsningumus, o OpenAI darbuotojai negautų prieigos prie saugomo klientų turinio.
Privatusis saugos apdorojimas naudoja klientų turinį, kad ir kur jis būtų saugomas: klientų valdomoje infrastruktūroje (diegiant ZDR) ar OpenAI teikiamoje saugykloje. OpenAI teikiamoje saugykloje klientų turinys šifruojamas kliento valdomais raktais. OpenAI darbuotojai neturi šių raktų kopijos, todėl negali pasiekti pirminio turinio.
Nustačius riziką, OpenAI gauna siaurai apibrėžtą signalą, nurodantį susijusios veiklos rūšį, panašiai kaip dabartinėse mūsų saugos sistemose. Pagal šį signalą galima nustatyti, ar būtina imtis vykdymo užtikrinimo veiksmų. Net pažymėjus klientų turinį, OpenAI darbuotojams prieiga prie jo nesuteikiama.
Klientai gali tirti įspėjimus ir vykdymo užtikrinimo sprendimus, naudodami savo sistemose pasiekiamą informaciją. Norėdami pateikti apeliaciją, paaiškinti teisėtą veiklą ar padėti tirti patvirtintą piktnaudžiavimą, jie gali nuspręsti bendrinti susijusią informaciją su OpenAI.
Šiuo metu privatusis saugos apdorojimas bandomas su pirmaisiais klientais. Šią išankstinę versiją pristatome dabar, nes klientai aiškiai išsakė poreikį žinoti, kaip bus apsaugotas jų turinys DI sistemoms tampant pajėgesnėms.
Mūsų misija – užtikrinti, kad bendrasis dirbtinis intelektas būtų naudingas visai žmonijai. Norint kurti veiksmingas apsaugos priemones, būtina bendradarbiauti su klientais ir partneriais. Kaip aiškiai nurodyta mūsų principuose, nė viena DI laboratorija negali viena įveikti kylančių rizikų. Privatusis saugos apdorojimas atspindi šį požiūrį ir yra formuojamas atsižvelgiant į įvairių sektorių, regionų bei dydžių įmonių poreikius.
Organizacijos, su kuriomis bendradarbiaujame, tvarko itin jautrią savo sektorių informaciją, įskaitant finansinius įrašus, sveikatos duomenis, konfidencialius verslo planus ir nuosavybinius tyrimus. Šią informaciją būtina apsaugoti, kad būtų laikomasi reguliavimo prievolių, išsaugotas klientų pasitikėjimas ir jų konkurencinis pranašumas.
Jų atsiliepimai padeda mums kurti patikimesnes apsaugos priemones, kartu paliekant jų informaciją jų pačių žinioje.
„DI diegimas įmonėse priklauso tik nuo to, ar klientai valdo savo duomenis ir ar jie nei tiesiogiai, nei išvestiniu būdu nenaudojami už pasirinktos paslaugos ribų. OpenAI įsipareigojimas nenaudoti duomenų mokymui ir ZDR suteikia „Glean“ pasitikėjimo kurti su OpenAI. Modeliams tampant pajėgesniems, OpenAI rodo, kad saugą galima gerinti nepakenkiant privatumui ir kontrolei, kuriais grindžiamas įmonių pasitikėjimas.“
—Sunilas Agrawalas, „Glean“ vyriausiasis informacijos saugumo pareigūnas
Toliau bendradarbiausime su klientais derindami technines ir veiklos metodo detales. Rugsėjį planuojame pradėti diegti privatųjį saugos apdorojimą ir paskelbti techninę baltąją knygą. Informuosime klientus kiekviename etape: iš anksto skelbsime naujienas, paaiškinsime jų reikšmę esamiems įsipareigojimams ir suteiksime klientams pakankamai laiko bei pagalbos pasiruošti.
Autorius
- 1
Kaip ir kiti priešakinių modelių teikėjai, OpenAI pagal įstatymus privalo(atsidaro naujame lange) pranešti apie galimą vaikų seksualinio išnaudojimo medžiagą (Vaikų seksualinio išnaudojimo medžiaga). Vaizdai, pažymėti kaip galima Vaikų seksualinio išnaudojimo medžiaga, ir toliau bus saugomi rankinei peržiūrai bei pranešimams teikti net naudojant nulinį duomenų saugojimą, kaip ir dabar.
