Kako AI sistemi preuzimaju složenije zadatke—posebno one koji uključuju web i povezane aplikacije—sigurnosni rizici se mijenjaju.
Jedan novi rizik postao je posebno važan: ubrizgavanje upita. U ovim napadima treća strana pokušava prevariti konverzacijski AI sistem da slijedi zlonamjerne upute ili otkrije povjerljive informacije.
Danas uvodimo dvije nove zaštite osmišljene da pomognu korisnicima i organizacijama u ublažavanju ubrizgavanja upita, uz jasniji uvid u rizike i jače kontrole:
- Lockdown Mode u ChatGPT‑u, napredna, opcionalna sigurnosna postavka za korisnike s visokim rizikom
- Oznake „Povećan rizik” za određene funkcionalnosti koje mogu uvesti dodatni rizik u ChatGPT, ChatGPT Atlas i Codex
Ovi dodaci nadograđuju naše postojeće zaštite na razini modela, proizvoda i sistema. Ovo uključuje sandboxing, zaštite protiv eksfiltracije podataka putem URL-a, nadzor i provođenje, te kontrole za preduzeća kao što su kontrole pristupa zasnovane na ulogama i revizijski zapisi.
Lockdown Mode je opcionalna, napredna sigurnosna postavka osmišljena za mali broj korisnika koji su izrazito usmjereni na sigurnost—poput rukovodilaca ili sigurnosnih timova u istaknutim organizacijama—kojima je potrebna povećana zaštita od naprednih prijetnji. Nije potrebno za većinu korisnika. Režim Lockdown strogo ograničava način na koji ChatGPT može komunicirati s vanjskim sistemima kako bi se smanjio rizik od eksfiltracije podataka zasnovane na ubrizgavanju upita.
Način rada Lockdown deterministički onemogućava određene alate i funkcionalnosti u ChatGPT‑u koje bi protivnik mogao pokušati iskoristiti za eksfiltraciju osjetljivih podataka iz korisničkih razgovora ili povezanih aplikacija putem napada kao što su ubrizgavanja upita.
Na primjer, pregledavanje weba u režimu Lockdown ograničeno je na keširani sadržaj, tako da nijedan zahtjev uživo ne napušta mrežu pod kontrolom OpenAI-ja. Ovo ograničenje je osmišljeno da spriječi da osjetljivi podaci budu eksfiltrirani napadaču putem pregledavanja. Neke funkcije su potpuno isključene kada ne možemo pružiti čvrste determinističke garancije za sigurnost podataka.
Lockdown Mode je nova deterministička postavka koja pomaže u zaštiti podataka od nenamjernog dijeljenja s trećim stranama tako što strogo ograničava kako ChatGPT može komunicirati s određenim vanjskim sistemima.
ChatGPT poslovni planovi već nude sigurnost podataka na nivou preduzeća. Režim Lockdown nadograđuje te zaštite i dostupan je za ChatGPT Enterprise, ChatGPT Edu, ChatGPT za zdravstvenu zaštitu i ChatGPT za nastavnike. Administratori mogu omogućiti ovu opciju u postavkama radnog prostora(otvara se u novom prozoru) kreiranjem nove uloge(otvara se u novom prozoru). Kada je omogućen, Lockdown režim dodaje dodatna ograničenja na postojeće administratorske postavke.
Saznaj više o Lockdown režimu u našem Centru za pomoć(otvara se u novom prozoru).
Budući da se neki kritični tokovi rada oslanjaju na aplikacije, administratori radnog prostora zadržavaju detaljniju kontrolu. Oni mogu tačno odabrati koje aplikacije—i koje specifične radnje unutar tih aplikacija—su dostupne korisnicima u režimu Lockdown. Dodatno, i odvojeno od režima Lockdown, Platforma za zapisnike usklađenosti API-ja(otvara se u novom prozoru) pruža detaljan uvid u korištenje aplikacija, dijeljene podatke i povezane izvore, pomažući administratorima da zadrže nadzor.
Planiramo učiniti režim Lockdown dostupnim potrošačima u narednim mjesecima.
AI proizvodi mogu biti korisniji kada su povezani s tvojim aplikacijama i webom, a mi smo uložili značajna sredstva u očuvanje sigurnosti povezanih podataka. Istovremeno, neke mrežne mogućnosti uvode nove rizike koji još nisu u potpunosti riješeni mjerama sigurnosti i zaštite u industriji. Neki korisnici možda su spremni preuzeti ove rizike, i vjerujemo da je važno da korisnici imaju mogućnost odlučiti hoće li i kako ih koristiti, posebno dok rade s privatnim podacima.
Naš pristup je bio da pružimo smjernice unutar proizvoda za funkcije koje mogu donijeti dodatni rizik. Da bismo ovo učinili jasnijim i konzistentnijim, standardiziramo kako označavamo kratku listu postojećih mogućnosti. Ove funkcije će sada koristiti dosljednu oznaku „Elevated Risk“ u ChatGPT‑u, ChatGPT Atlasu i Codexu, kako bi korisnici dobili iste smjernice gdje god ih sretnu.
Na primjer, u Codexu, našem asistentu za kodiranje, programeri mogu omogućiti Codexu pristup mreži kako bi mogao izvršavati radnje na webu, poput pretraživanja dokumentacije. Relevantni ekran postavki uključuje oznaku „Elevated Risk“, zajedno s jasnim objašnjenjem šta se mijenja, koji rizici mogu biti uvedeni i kada je taj pristup prikladan.
Snimak ekrana postavki Codexa gdje korisnici mogu konfigurirati mrežni pristup koji Codex ima.
Nastavljamo ulagati u jačanje naših mjera sigurnosti, posebno za nove, nastajuće ili rastuće rizike. Kako budemo jačali zaštitne mjere za ove funkcije, uklonit ćemo oznaku „Povišeni rizik“ kada utvrdimo da su sigurnosna unapređenja dovoljno ublažila te rizike za opću upotrebu. Nastavit ćemo ažurirati koje funkcije nose ovu oznaku kako bismo s vremenom što bolje komunicirali rizik korisnicima.
Autor
Nastavite čitati
