Kako sustavi umjetne inteligencije preuzimaju složenije zadatke — posebno one koji uključuju web i povezane aplikacije — sigurnosni ulozi se mijenjaju.
Jedan novi rizik postao je posebno važan: ubrizgavanje upita. U tim napadima, treća strana pokušava prevariti konverzacijski AI sustav da slijedi zlonamjerne upute ili otkrije osjetljive informacije.
Danas uvodimo dvije nove zaštite osmišljene kako bi korisnicima i organizacijama pomogle ublažiti napade ubrizgavanjem upita, uz jasniju vidljivost rizika i snažnije kontrole:
- Način zaključavanja u ChatGPT‑u, napredna, opcionalna sigurnosna postavka za korisnike s većim rizikom
- Oznake „Povećani rizik“ za određene mogućnosti koje mogu uvesti dodatni rizik u ChatGPT, ChatGPT Atlas i Codex
Ti dodaci nadograđuju naše postojeće zaštite na razinama modela, proizvoda i sustava. To uključuje izolaciju u sandboxu, zaštitu od eksfiltracije podataka putem URL-a, nadzor i provedbu te kontrole poduzeća kao što su kontrole pristupa temeljene na ulogama i zapisnici revizije.
Način rada Lockdown je neobavezna, napredna sigurnosna postavka osmišljena za mali broj korisnika koji su izrazito usmjereni na sigurnost, poput rukovoditelja ili sigurnosnih timova u istaknutim organizacijama, kojima je potrebna povećana zaštita od naprednih prijetnji. Većini korisnika to nije potrebno. Način zaključavanja strogo ograničava kako ChatGPT može komunicirati s vanjskim sustavima kako bi se smanjio rizik od eksfiltracije podataka temeljenih na ubrizgavanju upita.
Način rada Lockdown deterministički onemogućuje određene alate i funkcionalnosti u ChatGPT‑u koje bi protivnik mogao pokušati iskoristiti za eksfiltraciju osjetljivih podataka iz korisničkih razgovora ili povezanih aplikacija putem napada kao što su ubrizgavanje upita.
Na primjer, pregledavanje weba u načinu rada Lockdown ograničeno je na predmemorirani sadržaj, tako da nijedan zahtjev uživo ne napušta mrežu pod kontrolom OpenAI-ja. To ograničenje je osmišljeno kako bi se spriječilo iznošenje osjetljivih podataka napadaču putem pregledavanja. Neke značajke su potpuno onemogućene kada ne možemo osigurati snažna deterministička jamstva za sigurnost podataka.
Način zaključavanja je nova deterministička postavka koja pomaže u zaštiti podataka od nenamjernog dijeljenja s trećim stranama tako što strogo ograničava kako ChatGPT može komunicirati s određenim vanjskim sustavima.
Poslovni planovi ChatGPT već nude sigurnost podataka na razini poduzeća. Način rada Lockdown nadograđuje te zaštite i dostupan je za ChatGPT Enterprise, ChatGPT Edu, ChatGPT za zdravstvo i ChatGPT za nastavnike. Administratori mogu omogućiti tu opciju u Postavkama radnog prostora(otvara se u novom prozoru) stvaranjem nove uloge(otvara se u novom prozoru). Kada je omogućen, način rada Lockdown dodaje dodatna ograničenja na postojeće administratorske postavke.
Saznajte više o načinu rada Lockdown u našem Centru za pomoć(otvara se u novom prozoru).
Budući da se neki ključni tijekovi rada oslanjaju na aplikacije, administratori radnog prostora zadržavaju detaljniju kontrolu. Oni mogu točno odabrati koje aplikacije – i koje specifične radnje unutar tih aplikacija – su dostupne korisnicima u načinu Lockdown. Osim toga, neovisno o načinu rada Lockdown, Platforma za zapisivanje API-ja u svrhu usklađenosti(otvara se u novom prozoru) pruža detaljan uvid u korištenje aplikacija, dijeljene podatke i povezane izvore, pomažući administratorima u održavanju nadzora.
Planiramo način Lockdown omogućiti potrošačima u idućim mjesecima.
AI proizvodi mogu biti korisniji kada su povezani s vašim aplikacijama i internetom, a uložili smo značajna sredstva u osiguravanje sigurnosti povezanih podataka. Istodobno, neke mrežne mogućnosti uvode nove rizike koji još nisu u potpunosti obuhvaćeni sigurnosnim i zaštitnim mjerama koje primjenjuje industrija. Neki korisnici možda su spremni preuzeti te rizike, a mi vjerujemo da je važno da korisnici imaju mogućnost odlučiti hoće li i kako ih upotrebljavati, posebno dok rade s privatnim podacima.
Naš pristup je bio pružiti smjernice unutar proizvoda za značajke koje mogu predstavljati dodatni rizik. Kako bismo to učinili jasnijim i dosljednijim, standardiziramo način označavanja kratkog popisa postojećih mogućnosti. Te će značajke sada koristiti dosljednu oznaku „Povećani rizik“ u ChatGPT‑u, ChatGPT Atlasu i Codexu, kako bi korisnici dobili iste smjernice gdje god ih susretnu.
Na primjer, u Codexu, našem pomoćniku za kodiranje, razvojni inženjeri mogu Codexu omogućiti pristup mreži kako bi mogao izvršavati radnje na webu, poput pretraživanja dokumentacije. Relevantni zaslon postavki uključuje oznaku „Povećani rizik“, zajedno s jasnim objašnjenjem što se mijenja, koji rizici mogu biti uvedeni i kada je taj pristup primjeren.
Snimka zaslona postavki Codexa gdje korisnici mogu konfigurirati mrežni pristup koji Codex ima.
Nastavljamo ulagati u jačanje naših sigurnosnih i zaštitnih mjera, posebno za nove, nastajuće ili rastuće rizike. Kako budemo jačali zaštitne mjere za ove značajke, uklonit ćemo oznaku „Povećani rizik” kada utvrdimo da su sigurnosna poboljšanja dovoljno ublažila te rizike za opću upotrebu. Također ćemo nastaviti ažurirati koje značajke imaju tu oznaku kako bismo korisnicima što bolje prenijeli rizik tijekom vremena.
Autor
Nastavite čitati
