Bez zadržavanja podataka korisnicima API-ja koji ispunjavaju uvjete donosi jasno obećanje: OpenAI ne zadržava njihove upite ni odgovore modela nakon obrade zahtjeva. OpenAI-jevo osoblje nema pristup korisničkom sadržaju radi pregleda1, a podaci poslovnih korisnika ne upotrebljavaju se za obuku naših modela osim ako korisnici to izričito dopuste.
Kako modeli preuzimaju dulje i složenije zadatke, neki ozbiljni rizici mogu postati vidljivi tek kroz više interakcija. Postojeći sigurnosni sustavi kompatibilni sa ZDR-om procjenjuju svaku interakciju zasebno. Danas predstavljamo privatnu sigurnosnu obradu, osmišljenu za prepoznavanje obrazaca u povezanim interakcijama bez omogućavanja pristupa temeljnom sadržaju OpenAI-jevu osoblju.
U implementacijama sa ZDR-om korisnički sadržaj ostaje na infrastrukturi kojom upravlja korisnik. Razvijamo i mogućnost pohrane sadržaja na OpenAI-jevoj infrastrukturi, uz šifriranje ključevima kojima upravlja korisnik. U oba slučaja automatizirani sustavi mogu prepoznati moguću zlouporabu i vratiti ograničene sigurnosne signale, a da OpenAI-jevu osoblju ne otkriju temeljne upite ili odgovore.
Najozbiljniji sigurnosni rizici umjetne inteligencije nisu uvijek vidljivi u jednoj interakciji. Potencijalno štetne namjere često postaju jasne tek kada se više interakcija sagleda zajedno. Slični rizici mogu nastati kada zlonamjerni akteri opetovano ispituju zaštitne mjere, koordiniraju aktivnosti na više računa ili prikrivaju prijetnje kao rutinsko istraživanje. Rizici se mogu razviti i tijekom izvršavanja zadatka s pomoću agenta — primjerice, ako sustav odstupi od korisnikove namjere i nastavi djelovati nakon što mu je rečeno da stane.
Kako sustavi umjetne inteligencije preuzimaju dulje i složenije zadatke, taj širi kontekst postaje sve važniji za razlikovanje legitimnih aktivnosti od zlouporabe te za osiguravanje da agenti umjetne inteligencije ostanu unutar granica svojih predviđenih ovlasti.
Neke nedavne implementacije najnaprednijih modela zahtijevale su da korisnici svojem pružatelju umjetne inteligencije dopuste zadržavanje osjetljivog sadržaja radi sigurnosnog nadzora. Mnogim su organizacijama takvi zahtjevi u sukobu sa sigurnosnim obvezama ili obvezama prema ljudima kojima služe.
Privatna sigurnosna obrada osmišljena je kako bismo mogli nastaviti nuditi ZDR.
Privatna sigurnosna obrada nadograđuje automatizirane zaštitne mjere koje se već upotrebljavaju u ZDR-u i drugim implementacijama. Postojeći sigurnosni sustavi kompatibilni sa ZDR-om procjenjuju interakcije zasebno. Privatna sigurnosna obrada proširuje te zaštitne mjere na povezane interakcije, omogućujući automatiziranim sustavima da prepoznaju obrasce bez pristupa OpenAI-jeva osoblja zadržanom korisničkom sadržaju.
Privatna sigurnosna obrada koristi korisnički sadržaj neovisno o tome gdje je pohranjen — na infrastrukturi kojom upravlja korisnik (implementacije sa ZDR-om) ili u pohrani koju pruža OpenAI. U pohrani koju pruža OpenAI korisnički se sadržaj šifrira ključevima kojima upravlja korisnik. OpenAI-jevo osoblje nema kopiju tih ključeva, pa ne može pristupiti temeljnom sadržaju.
Kada se prepozna rizik, OpenAI prima usko definiran signal koji označava vrstu aktivnosti, slično signalima koje šalju naši postojeći sigurnosni sustavi. Taj se signal može upotrijebiti za utvrđivanje potrebe za provedbenim mjerama. OpenAI-jevo osoblje ne dobiva pristup korisničkom sadržaju čak ni kada je označen.
Korisnici mogu istražiti upozorenja i odluke o provedbenim mjerama s pomoću informacija dostupnih u vlastitim sustavima. Ako se žele žaliti, pojasniti legitimnu aktivnost ili pomoći u istrazi potvrđene zlouporabe, mogu odlučiti podijeliti relevantne informacije s OpenAI-jem.
Privatna sigurnosna obrada trenutačno se testira s prvim korisnicima. Ovaj pregled dijelimo već sada jer su nam korisnici jasno poručili da im je potrebna predvidljivost u pogledu zaštite njihova sadržaja kako sustavi umjetne inteligencije postaju sposobniji.
Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Suradnja s korisnicima i partnerima ključna je za razvoj učinkovitih zaštitnih mjera. Kao što jasno navode naša načela, nijedan laboratorij za umjetnu inteligenciju ne može samostalno odgovoriti na nove rizike. Privatna sigurnosna obrada odražava taj pristup, a oblikuju je korisnici iz različitih sektora, regija i tvrtki različitih veličina.
Organizacije s kojima surađujemo obrađuju neke od najosjetljivijih informacija u svojim sektorima, uključujući financijske evidencije, zdravstvene podatke, povjerljive poslovne planove i vlasnička istraživanja. Zaštita tih informacija ključna je za ispunjavanje regulatornih obveza, očuvanje povjerenja korisnika i zadržavanje njihove konkurentske prednosti.
Njihove povratne informacije pomažu nam izgraditi snažnije zaštitne mjere, a da pritom zadrže nadzor nad svojim podacima.
„Prihvaćanje poslovnog AI-ja u potpunosti ovisi o tome da korisnici zadrže nadzor nad podacima, bez njihove izravne ili izvedene uporabe izvan odabrane usluge. OpenAI-jeva obveza da neće upotrebljavati podatke za obuku i ZDR daju Gleanu sigurnost da gradi uz OpenAI. Kako modeli postaju sposobniji, OpenAI pokazuje da se sigurnost može unaprijediti bez ugrožavanja privatnosti i nadzora na kojima počiva povjerenje poslovnih korisnika.”
—Sunil Agrawal, glavni direktor za informacijsku sigurnost, Glean
Nastavit ćemo surađivati s korisnicima na tehničkim i operativnim pojedinostima svojeg pristupa. U rujnu planiramo početi uvoditi privatnu sigurnosnu obradu i objaviti tehnički dokument. Korisnike ćemo obavještavati u svakom koraku: rano ćemo dijeliti novosti, objašnjavati što znače za postojeće obveze te im pružati vrijeme i podršku potrebne za planiranje.
Autor
- 1
Kao i drugi pružatelji najnaprednijih modela, OpenAI je zakonski obvezan(otvara se u novom prozoru) prijaviti sadržaj koji se naizgled odnosi na seksualno zlostavljanje djece (CSAM). Slike označene kao potencijalni CSAM i dalje će se zadržavati radi ručnog pregleda i prijavljivanja, čak i u implementacijama bez zadržavanja podataka, kao što je slučaj i danas.
