Omogočamo ničelno hrambo podatkov za prelomne modele

Ničelna hramba podatkov upravičenim strankam platforme z API-ji zagotavlja jasno zavezo: OpenAI po obdelavi zahteve ne hrani njihovih pozivov ali odgovorov modela. Osebje družbe OpenAI nima dostopa do vsebine strank za namene pregleda¹, podatki poslovnih strank pa se ne uporabljajo za usposabljanje naših modelov, razen če stranke v to izrecno privolijo.

Ko modeli prevzemajo daljše in zahtevnejše naloge, lahko nekatera resna tveganja postanejo vidna šele skozi več interakcij. Obstoječi varnostni sistemi, združljivi z ničelno hrambo podatkov, vsako interakcijo ocenijo posebej. Danes predstavljamo predogled zasebne varnostne obdelave, namenjene prepoznavanju vzorcev v povezanih interakcijah, ne da bi osebju družbe OpenAI omogočila dostop do njihove vsebine.

Pri uvedbah ničelne hrambe podatkov vsebina strank ostane v infrastrukturi, ki jo nadzoruje stranka. Razvijamo tudi možnost, pri kateri je vsebina shranjena v infrastrukturi družbe OpenAI in šifrirana s ključi pod nadzorom stranke. V obeh primerih lahko avtomatizirani sistemi prepoznajo morebitno zlorabo in posredujejo omejene varnostne signale, ne da bi osebju družbe OpenAI razkrili povezane pozive ali odgovore.

Najresnejša varnostna tveganja umetne inteligence niso vedno vidna pri eni sami interakciji. Morebitne škodljive namere pogosto postanejo očitne šele ob skupnem pregledu več interakcij. Podobna tveganja se lahko pojavijo, ko zlonamerni akterji večkrat preizkušajo zaščitne ukrepe, usklajujejo dejavnosti med računi ali grožnje prikrivajo kot običajno raziskovanje. Tveganja se lahko razvijejo tudi med izvajanjem naloge agenta, na primer če sistem odstopi od uporabnikovega namena in deluje naprej tudi po navodilu, naj se ustavi.

Ko sistemi umetne inteligence prevzemajo daljše in zahtevnejše naloge, postaja ta širši kontekst vse pomembnejši za razlikovanje med legitimno dejavnostjo in zlorabo ter zagotavljanje, da agenti umetne inteligence ostanejo znotraj meja predvidenih pooblastil.

Pri nekaterih nedavnih uvedbah prelomnih modelov so morale stranke ponudniku umetne inteligence dovoliti hrambo občutljive vsebine za spremljanje varnosti. Za številne organizacije so takšne zahteve v nasprotju z njihovimi varnostnimi obveznostmi ali zavezami do ljudi, ki jim služijo.

Zasebna varnostna obdelava je zasnovana tako, da lahko še naprej omogočamo ničelno hrambo podatkov.

Zasebna varnostna obdelava nadgrajuje avtomatizirane zaščite, ki se že uporabljajo pri ničelni hrambi podatkov in drugih uvedbah. Obstoječi varnostni sistemi, združljivi z ničelno hrambo podatkov, interakcije ocenjujejo posamično. Zasebna varnostna obdelava te zaščite razširja na povezane interakcije, tako da lahko avtomatizirani sistemi prepoznajo vzorce, ne da bi osebje družbe OpenAI imelo dostop do shranjene vsebine strank.

Zasebna varnostna obdelava uporablja vsebino strank ne glede na mesto hrambe – bodisi v infrastrukturi pod nadzorom strank (uvedbe pristopa ničelne hrambe podatkov) bodisi v shrambi, ki jo zagotavlja OpenAI. Pri shrambi, ki jo zagotavlja OpenAI, je vsebina strank šifrirana s ključi pod nadzorom stranke. Osebje družbe OpenAI nima kopije teh ključev, zato ne more dostopati do povezane vsebine.

Ko je prepoznano tveganje, OpenAI prejme ozko opredeljen signal o vrsti zadevne dejavnosti, podobno kot pri naših sedanjih varnostnih sistemih. Na podlagi tega signala je mogoče ugotoviti, ali so potrebni izvršilni ukrepi. Osebje družbe OpenAI tudi ob označitvi vsebine stranke ne dobi dostopa do nje.

Stranke lahko opozorila in odločitve o ukrepih raziščejo z informacijami, ki so na voljo v njihovih sistemih. Če se želijo pritožiti, pojasniti legitimno dejavnost ali podpreti preiskavo potrjene zlorabe, se lahko odločijo, da bodo ustrezne informacije delile z družbo OpenAI.

Zasebno varnostno obdelavo trenutno preizkušamo s prvimi strankami. Ta predogled objavljamo že zdaj, ker so nam stranke jasno sporočile, da ob čedalje večji zmogljivosti sistemov umetne inteligence potrebujejo predvidljivost glede varovanja svoje vsebine.

Naše poslanstvo je zagotoviti, da splošna umetna inteligenca koristi vsemu človeštvu. Sodelovanje s strankami in partnerji je bistveno za razvoj učinkovitih varoval. Kot jasno določajo naša načela, se noben laboratorij za umetno inteligenco ne more sam spopasti z nastajajočimi tveganji. Zasebna varnostna obdelava odraža ta pristop, pri njenem oblikovanju pa sodelujejo stranke iz različnih panog, regij in podjetij različnih velikosti.

Organizacije, s katerimi sodelujemo, obdelujejo nekatere najobčutljivejše informacije v svojih panogah, med drugim finančne evidence, zdravstvene podatke, zaupne poslovne načrte in lastniške raziskave. Varovanje teh informacij je ključno za izpolnjevanje zakonskih obveznosti, ohranjanje zaupanja strank in zaščito njihove konkurenčne prednosti.

Njihove povratne informacije nam pomagajo razvijati strožje zaščitne ukrepe, pri čemer njihove informacije ostajajo pod njihovim nadzorom.

S strankami bomo še naprej sodelovali pri tehničnih in operativnih podrobnostih našega pristopa. Septembra nameravamo začeti uvajati zasebno varnostno obdelavo in objaviti tehnično belo knjigo. Stranke bomo obveščali na vsakem koraku: zgodaj bomo objavljali novosti, pojasnjevali njihov pomen za obstoječe zaveze ter strankam zagotovili čas in podporo, ki ju potrebujejo za načrtovanje.