Nulles datu saglabāšana atbilstošajiem API klientiem sniedz skaidru solījumu: pēc pieprasījuma apstrādes OpenAI nesaglabā ne viņu uzvednes, ne modeļa atbildes. OpenAI darbiniekiem klientu saturs nav pieejams pārskatīšanai1, un uzņēmumu klientu dati netiek izmantoti mūsu modeļu apmācībai, ja vien klienti tam nepārprotami nepiekrīt.
Modeļiem uzņemoties ilgākus un sarežģītākus uzdevumus, daži nopietni riski var kļūt redzami tikai vairākās mijiedarbībās. Pašreizējās ar ZDR saderīgās drošības sistēmas katru mijiedarbību izvērtē atsevišķi. Šodien piedāvājam ieskatu Privātajā drošības apstrādē, kas izstrādāta, lai atklātu saistītu mijiedarbību likumsakarības, nedodot OpenAI darbiniekiem piekļuvi pamatā esošajam saturam.
ZDR risinājumos klientu saturs paliek klienta pārvaldītajā infrastruktūrā. Izstrādājam arī iespēju saturu glabāt OpenAI infrastruktūrā, šifrējot to ar klienta pārvaldītām atslēgām. Abos gadījumos automatizētās sistēmas var konstatēt iespējamu ļaunprātīgu izmantošanu un nosūtīt ierobežotus drošības signālus, neatklājot OpenAI darbiniekiem pamatā esošās uzvednes vai atbildes.
Nopietnākie MI drošības riski ne vienmēr ir pamanāmi vienā mijiedarbībā. Bieži potenciāli kaitīgi nodomi kļūst skaidri tikai tad, ja vairākas mijiedarbības aplūko kopā. Līdzīgi riski var rasties, ja ļaunprātīgi lietotāji atkārtoti pārbauda aizsardzības pasākumu robežas, koordinē darbības vairākos kontos vai maskē draudus kā parastu izpēti. Riski var attīstīties arī aģenta uzdevuma izpildes gaitā, piemēram, ja sistēmas darbība vairs neatbilst lietotāja nodomam un tā turpina rīkoties arī pēc norādījuma apstāties.
MI sistēmām uzņemoties ilgākus un sarežģītākus uzdevumus, šis plašākais konteksts kļūst arvien svarīgāks, lai atšķirtu leģitīmu darbību no ļaunprātīgas izmantošanas un nodrošinātu, ka MI aģenti nepārsniedz tiem paredzēto pilnvaru robežas.
Dažos nesenos robežšķirtnes modeļu risinājumos klientiem bija jāļauj savam MI pakalpojumu sniedzējam saglabāt sensitīvu saturu drošības uzraudzībai. Daudzām organizācijām šādas prasības ir pretrunā drošības pienākumiem vai saistībām pret cilvēkiem, kuriem tās sniedz pakalpojumus.
Privātā drošības apstrāde ir izstrādāta tā, lai mēs varētu turpināt piedāvāt ZDR.
Privātā drošības apstrāde papildina automatizētos aizsardzības pasākumus, kas jau tiek izmantoti ZDR un citos risinājumos. Pašreizējās ar ZDR saderīgās drošības sistēmas mijiedarbības izvērtē atsevišķi. Privātā drošības apstrāde šos aizsardzības pasākumus attiecina uz saistītām mijiedarbībām, ļaujot automatizētajām sistēmām atklāt likumsakarības, bet OpenAI darbiniekiem nepiekļūt saglabātajam klientu saturam.
Privātā drošības apstrāde izmanto klientu saturu neatkarīgi no tā glabāšanas vietas — klientu pārvaldītajā infrastruktūrā (ZDR risinājumos) vai OpenAI nodrošinātajā krātuvē. OpenAI nodrošinātajā krātuvē klientu saturs tiek šifrēts ar klienta pārvaldītām atslēgām. OpenAI darbiniekiem nav šo atslēgu kopijas, tāpēc viņi nevar piekļūt pamatā esošajam saturam.
Konstatējot risku, OpenAI saņem šauri definētu signālu, kas norāda attiecīgās darbības veidu, līdzīgi kā mūsu pašreizējās drošības sistēmās. Šo signālu var izmantot, lai noteiktu, vai jāpiemēro ierobežojumi. OpenAI darbinieki nevar piekļūt klienta saturam pat tad, ja tas ir atzīmēts.
Klienti var izmeklēt brīdinājumus un lēmumus par ierobežojumiem, izmantojot savās sistēmās pieejamo informāciju. Ja klienti vēlas iesniegt apelāciju, paskaidrot leģitīmu darbību vai palīdzēt izmeklēt apstiprinātu ļaunprātīgu izmantošanu, viņi var izvēlēties kopīgot attiecīgo informāciju ar OpenAI.
Pašlaik Privātā drošības apstrāde tiek izmēģināta ar pirmajiem klientiem. Ar šo ieskatu dalāmies jau tagad, jo klienti mums ir skaidri norādījuši, ka viņiem nepieciešama paredzamība par satura aizsardzību, MI sistēmām kļūstot spējīgākām.
Mūsu misija ir panākt, lai mākslīgais vispārējais intelekts sniegtu labumu visai cilvēcei. Sadarbība ar klientiem un partneriem ir būtiska efektīvu aizsardzības pasākumu izstrādē. Kā skaidri noteikts mūsu principos, neviena MI laboratorija nevar viena pati novērst jaunos riskus. Privātā drošības apstrāde atspoguļo šo pieeju, un tās izstrādi palīdz veidot dažādu nozaru, reģionu un lielumu uzņēmumu klienti.
Organizācijas, ar kurām sadarbojamies, apstrādā vienu no sensitīvākajiem informācijas veidiem savās nozarēs, tostarp finanšu dokumentus, veselības datus, konfidenciālus uzņēmējdarbības plānus un patentētus pētījumus. Šīs informācijas aizsardzība ir būtiska, lai izpildītu regulatīvās prasības, saglabātu klientu uzticību un aizsargātu organizāciju konkurences priekšrocības.
Viņu atsauksmes palīdz mums veidot stingrākus aizsardzības pasākumus, vienlaikus atstājot viņu informāciju viņu pašu kontrolē.
„MI ieviešana uzņēmumos ir pilnībā atkarīga no klientu kontroles pār datiem, nepieļaujot to tiešu vai atvasinātu izmantošanu ārpus izvēlētā pakalpojuma. OpenAI apņemšanās neizmantot datus apmācībai un ZDR sniedz Glean pārliecību izstrādāt risinājumus ar OpenAI. Modeļiem kļūstot spējīgākiem, OpenAI pierāda, ka drošību var pilnveidot, neapdraudot privātumu un kontroli, uz kuriem balstās uzņēmumu uzticība.”
—Sunils Agravals, Glean informācijas drošības vadītājs
Mēs turpināsim kopā ar klientiem pilnveidot mūsu pieejas tehniskos un darbības aspektus. Septembrī plānojam sākt Privātās drošības apstrādes ieviešanu un publicēt tehnisko balto grāmatu. Mēs informēsim klientus ikvienā procesa posmā, savlaicīgi sniegsim jaunumus, skaidrosim to ietekmi uz esošajām saistībām un nodrošināsim klientiem plānošanai nepieciešamo laiku un atbalstu.
Autors
- 1
Tāpat kā citiem robežšķirtnes modeļu nodrošinātājiem, OpenAI ir juridisks pienākums(atveras jaunā logā) ziņot par iespējamiem materiāliem, kuros atspoguļota bērnu seksuāla izmantošana (CSAM). Attēli, kas atzīmēti kā potenciāls CSAM, arī turpmāk tiks saglabāti manuālai pārskatīšanai un ziņošanai pat nulles datu saglabāšanas risinājumos, tāpat kā pašlaik.
