Predstavljamo Lockdown Mode i oznake Elevated Risk u ChatGPT‑u

Kako AI sistemi preuzimaju složenije zadatke — naročito one koji uključuju veb i povezane aplikacije — bezbednosni ulozi se menjaju.

Jedan rizik u nastajanju postao je posebno važan: umetanje instrukcije⁠. U ovim napadima, treća strana pokušava da navede konverzacijski AI sistem da prati zlonamerne instrukcije ili otkrije osetljive informacije.

Danas uvodimo dve nove zaštite osmišljene da pomognu korisnicima i organizacijama da ublaže napade umetanjem instrukcije, uz jasniji uvid u rizik i snažnije kontrole:

• Lockdown Mode u ChatGPT‑u, napredno, opciono bezbednosno podešavanje za korisnike sa većim rizikom
• oznake „Elevated Risk“ za određene mogućnosti u ChatGPT‑u, ChatGPT Atlas-u i Codex-u koje mogu da uvedu dodatni rizik

Ovi dodaci nadograđuju naše postojeće zaštite na nivou modela, proizvoda i sistema. To uključuje sandboxing, zaštite od eksfiltracije podataka zasnovane na URL-u⁠, nadzor i sprovođenje, kao i enterprise kontrole⁠ poput pristupa zasnovanog na ulogama i dnevnika revizije.

Lockdown Mode je opciono, napredno bezbednosno podešavanje namenjeno malom broju korisnika sa veoma izraženom svešću o bezbednosti — kao što su rukovodioci ili bezbednosni timovi u istaknutim organizacijama — kojima je potrebna povećana zaštita od naprednih pretnji. Nije neophodno za većinu korisnika. Lockdown Mode strogo ograničava kako ChatGPT može da komunicira sa spoljnim sistemima kako bi se smanjio rizik od eksfiltracije podataka zasnovane na umetanju instrukcije.

Lockdown Mode deterministički onemogućava određene alate i mogućnosti u ChatGPT‑u koje bi protivnik mogao pokušati da iskoristi za eksfiltraciju osetljivih podataka iz korisničkih razgovora ili povezanih aplikacija putem napada kao što je umetanje instrukcije.

Na primer, pregledanje veba u režimu Lockdown Mode ograničeno je na keširani sadržaj, tako da nijedan mrežni zahtev uživo ne napušta mrežu pod kontrolom OpenAI-ja. Ovo ograničenje je osmišljeno da spreči eksfiltraciju osetljivih podataka napadaču putem pregledanja. Neke funkcije su potpuno onemogućene kada ne možemo da pružimo snažne determinističke garancije bezbednosti podataka.

Poslovni planovi za ChatGPT već pružaju bezbednost podataka na nivou preduzeća⁠. Lockdown Mode se nadovezuje na te zaštite i dostupan je za ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare i ChatGPT for Teachers. Administratori mogu da ga omoguće u Podešavanjima radnog prostora⁠(отвара се у новом прозору) kreiranjem nove uloge⁠(отвара се у новом прозору). Kada je omogućen, Lockdown Mode dodaje dodatna ograničenja preko postojećih administratorskih podešavanja.

Saznajte više o režimu Lockdown Mode u našem Centru za pomoć⁠(отвара се у новом прозору).

Pošto se neki ključni tokovi rada oslanjaju na aplikacije, administratori radnog prostora zadržavaju detaljnije kontrole. Mogu precizno da izaberu koje aplikacije — i koje konkretne radnje unutar tih aplikacija — su dostupne korisnicima u režimu Lockdown Mode. Dodatno, i odvojeno od režima Lockdown Mode, Compliance API Logs Platform⁠(отвара се у новом прозору) pruža detaljan uvid u korišćenje aplikacija, deljene podatke i povezane izvore, pomažući administratorima da zadrže nadzor.

Planiramo da Lockdown Mode učinimo dostupnim potrošačima u narednim mesecima.

AI proizvodi mogu biti korisniji kada su povezani sa vašim aplikacijama i vebom, i mnogo smo ulagali u zaštitu bezbednosti povezanih podataka⁠. Istovremeno, neke mogućnosti povezane sa mrežom uvode nove rizike koje industrijske mere bezbednosti i sigurnosti još nisu u potpunosti obuhvatile. Nekim korisnicima može odgovarati da prihvate te rizike, i verujemo da je važno da korisnici imaju mogućnost da odluče da li i kako će ih koristiti, naročito kada rade sa svojim privatnim podacima.

Naš pristup je bio da pružimo smernice unutar proizvoda za funkcije koje mogu da uvedu dodatni rizik. Da bismo to učinili jasnijim i doslednijim, standardizujemo način na koji označavamo uži spisak postojećih mogućnosti. Ove funkcije će sada koristiti doslednu oznaku „Elevated Risk“ u ChatGPT‑u, ChatGPT Atlas-u i Codex-u, tako da korisnici dobijaju iste smernice gde god da se sa njima susretnu.

Na primer, u Codex-u, našem pomoćniku za programiranje, programeri mogu Codex-u da odobre pristup mreži kako bi mogao da preduzima radnje na vebu, kao što je traženje dokumentacije. Odgovarajući ekran podešavanja uključuje oznaku „Elevated Risk“, zajedno sa jasnim objašnjenjem šta se menja, koji rizici mogu biti uvedeni i kada je takav pristup primeren.

Nastavljamo da ulažemo u jačanje naših mera bezbednosti i sigurnosnih zaštita, naročito za nove, nastajuće ili rastuće rizike. Kako budemo jačali zaštite za ove funkcije, uklonićemo oznaku „Elevated Risk“ kada utvrdimo da su bezbednosna unapređenja dovoljno ublažila te rizike za opštu upotrebu. Takođe ćemo nastaviti da vremenom ažuriramo koje funkcije nose ovu oznaku kako bismo korisnicima što bolje preneli rizik.