Představujeme režim uzamčení a konzistentní štítky zvýšeného rizika v ChatGPT

S tím, jak systémy umělé inteligence přebírají složitější úkoly – zejména ty, které zahrnují web a propojené aplikace – se mění i bezpečnostní aspekty.

Jedno nově vznikající riziko se stalo obzvláště důležitým: injektáž promptů⁠. Při těchto útocích se třetí strana pokouší oklamat konverzační systém umělé inteligence, aby následoval pokyny útočníka nebo odhalil citlivé informace.

Dnes představujeme dva nové způsoby ochrany, které mají uživatelům a organizacím pomoci bránit se útokům injektáží promptů, a to díky jasnějšímu přehledu o rizicích a silnějším kontrolám:

• Režim uzamčení v ChatGPT je pokročilé a volitelné nastavení zabezpečení pro uživatele s vyšším rizikem

• Označení „Zvýšené riziko“pro určité funkce, které mohou v ChatGPT, ChatGPT Atlas a Codex představovat dodatečné riziko

Tyto doplňky navazují na naše stávající ochranná opatření na úrovni modelu, produktu a systému. To zahrnuje sandboxing, ochranu proti úniku dat na základě URL adres⁠, monitorování a vynucování a podnikové řídicí prvky⁠, jako je přístup na základě rolí a auditní protokoly.

Režim uzamčení je volitelné, pokročilé nastavení zabezpečení určené pro malou skupinu uživatelů, kteří jsou velmi citliví na zabezpečení – například pro manažery nebo týmy pro zabezpečení ve významných organizacích – kteří vyžadují zvýšenou ochranu před pokročilými hrozbami. Pro většinu uživatelů není potřeba. Režim uzamčení striktně omezuje interakci nástroje ChatGPT s externími systémy, aby se snížilo riziko úniku dat prostřednictvím injektáže promptů.

Režim uzamčení deterministicky deaktivuje určité nástroje a funkce v ChatGPT, které by se útočník mohl pokusit zneužít k odcizení citlivých dat z konverzací uživatelů nebo připojených aplikací prostřednictvím útoků, jako je například injektáž promptů.

Například prohlížení webu v režimu uzamčení je omezeno na obsah uložený v mezipaměti, takže žádné síť kontrolovanou OpenAI neopouštějí živé síťové požadavky. Toto omezení je navrženo tak, aby zabránilo úniku citlivých dat k útočníkovi prostřednictvím procházení. Některé funkce jsou zcela deaktivovány, pokud nemůžeme poskytnout silné deterministické záruky bezpečnosti dat.

Plány ChatGPT pro firmy již nabízejí zabezpečení dat podnikové úrovně⁠. Režim uzamčení staví na těchto ochranách a je k dispozici pro ChatGPT Enterprise, ChatGPT Edu, ChatGPT pro zdravotnictví a ChatGPT pro učitele. Správci mohou tuto funkci aktivovat v nabídce Nastavení pracovního prostoru⁠(otevře se v novém okně) vytvořením nové role⁠(otevře se v novém okně). Když je režim uzamčení aktivní, přidává další omezení nad stávající nastavení správce.

Více informací o režimu uzamčení naleznete v našem Centru nápovědy⁠(otevře se v novém okně).

Protože některé kritické pracovní postupy závisí na aplikacích, správcům pracovních prostorů zůstává granulárnější kontrolu. Mohou si přesně vybrat, které aplikace – a které konkrétní akce v rámci těchto aplikací – budou uživatelům v režimu uzamčení k dispozici. Kromě toho a nezávisle na režimu uzamčení platforma protokolů rozhraní API pro dodržování předpisů⁠(otevře se v novém okně) poskytuje podrobný přehled o používání aplikací, sdílených datech a připojených zdrojích, což pomáhá správcům udržovat si dohled.

Režim uzamčení plánujeme zpřístupnit spotřebitelům v nadcházejících měsících.

Produkty s umělou inteligencí mohou být užitečnější, když jsou připojeny k aplikacím a webu, a my jsme investovali značné prostředky do zabezpečení připojených dat⁠. Zároveň některé síťové funkce zavádějí nová rizika, která dosud nejsou plně řešena bezpečnostními opatřeními v tomto odvětví. Někteří uživatelé nemusí být s podstupováním těchto rizik spokojeni a my věříme, že je důležité, aby měli možnost rozhodnout se, zda a jak je budou používat, zejména při práci se svými soukromými daty.

Naším přístupem bylo přímo v produktu poskytovat pokyny k funkcím, které mohou představovat dodatečné riziko. Aby to bylo jasnější a konzistentnější, sjednocujeme způsob, jak označujeme krátký seznam stávajících schopností. Tyto funkce nyní budou používat jednotný štítek „Zvýšené riziko“ napříč produkty ChatGPT, ChatGPT Atlas a Codex, aby uživatelé dostávali stejné informace všude, kde se s nimi setkají.

Například nástroji Codex, našem asistentovi pro kódování, mohou vývojáři udělit přístup k síti, aby mohl provádět akce na webu, jako je vyhledávání dokumentace. Na příslušné obrazovce nastavení je uveden štítek „Zvýšené riziko“ spolu s jasným vysvětlením změn, tím, jaká rizika mohou být zavedena a kdy je tento přístup vhodný.

Pokračujeme v investování do posilování našich opatření pro bezpečnost a zabezpečení, zejména pokud jde o nová, vznikající nebo rostoucí rizika. Až posílíme ochranná opatření pro tyto funkce, odstraníme štítek „Zvýšené riziko“, jakmile zjistíme, že pokroky v zabezpečení dostatečně zmírnily tato rizika pro běžné použití. Také budeme průběžně aktualizovat, které funkce nesou toto označení, abychom uživatelům rizika sdělovali co nejlépe.