Nabídka nulového uchovávání dat pro průkopnické modely

Nulové uchovávání dat (Zero Data Retention, ZDR) dává vybraným zákazníkům API jasný příslib: OpenAI po zpracování požadavku neuchovává jejich zadání ani odpovědi modelu. Zákaznický obsah není pracovníkům OpenAI k dispozici ke kontrole¹ a data firemních zákazníků nepoužíváme k trénování našich modelů, pokud se k tomu zákazníci výslovně nepřihlásí.

S tím, jak modely pracují na delších a složitějších úkolech, mohou být některá závažná rizika patrná až z více interakcí. Stávající bezpečnostní systémy kompatibilní se ZDR vyhodnocují každou interakci samostatně. Dnes představujeme ukázku Soukromého bezpečnostního zpracování, které má rozpoznávat vzorce napříč souvisejícími interakcemi, aniž by pracovníci OpenAI získali přístup k jejich obsahu.

Při nasazení ZDR zůstává zákaznický obsah v infrastruktuře řízené zákazníkem. Vyvíjíme také variantu, při níž se obsah ukládá v infrastruktuře OpenAI a šifruje pomocí klíčů řízených zákazníkem. V obou případech mohou automatizované systémy odhalit možné zneužití a vracet omezené bezpečnostní signály, aniž by pracovníkům OpenAI zpřístupnily původní zadání nebo odpovědi.

Nejzávažnější bezpečnostní rizika AI nejsou vždy patrná z jediné interakce. Potenciálně škodlivé záměry se často projeví až při společném posouzení více interakcí. Podobná rizika mohou vzniknout, když útočníci opakovaně testují ochranná opatření, koordinují činnost napříč účty nebo maskují hrozby jako běžný výzkum. Rizika se mohou rozvinout také v průběhu úkolu vykonávaného agentem – například pokud se systém odchýlí od záměru uživatele a pokračuje v činnosti i poté, co dostal pokyn přestat.

S tím, jak systémy AI přebírají delší a složitější úkoly, je tento širší kontext stále důležitější pro rozlišení legitimní činnosti od zneužití a pro zajištění toho, aby agenti AI nepřekračovali zamýšlený rozsah svých oprávnění.

Některá nedávná nasazení průkopnických modelů vyžadovala, aby zákazníci dovolili poskytovateli AI uchovávat citlivý obsah za účelem sledování bezpečnosti. U mnoha organizací jsou takové požadavky v rozporu s jejich bezpečnostními povinnostmi nebo závazky vůči lidem, kterým slouží.

Soukromé bezpečnostní zpracování je navrženo k tomu, abychom mohli i nadále nabízet ZDR.

Soukromé bezpečnostní zpracování vychází z automatizovaných ochranných mechanismů, které se již používají u ZDR a dalších typů nasazení. Stávající bezpečnostní systémy kompatibilní se ZDR vyhodnocují interakce samostatně. Soukromé bezpečnostní zpracování rozšiřuje tyto ochranné mechanismy napříč souvisejícími interakcemi, takže automatizované systémy mohou rozpoznávat vzorce, aniž by pracovníci OpenAI měli přístup k uchovávanému zákaznickému obsahu.

Soukromé bezpečnostní zpracování využívá zákaznický obsah bez ohledu na místo jeho uložení – ať už v infrastruktuře řízené zákazníky (nasazení ZDR), nebo v úložišti poskytovaném OpenAI. V úložišti poskytovaném OpenAI je zákaznický obsah šifrován pomocí klíčů řízených zákazníkem. Pracovníci OpenAI kopii těchto klíčů nemají, takže k původnímu obsahu nemohou přistupovat.

Když je zjištěno riziko, OpenAI obdrží úzce vymezený signál označující typ činnosti, podobně jako u našich současných bezpečnostních systémů. Tento signál lze použít k určení, zda je nutné přijmout donucovací opatření. Pracovníci OpenAI nezískají přístup k zákaznickému obsahu ani tehdy, když je označen.

Zákazníci mohou upozornění a rozhodnutí o donucovacích opatřeních prošetřit pomocí informací dostupných v jejich vlastních systémech. Pokud se chtějí odvolat, objasnit legitimní činnost nebo podpořit vyšetřování ověřeného zneužití, mohou se rozhodnout sdílet příslušné informace s OpenAI.

Soukromé bezpečnostní zpracování se v současnosti testuje s prvními zákazníky. Tuto ukázku sdílíme již nyní, protože od zákazníků slýcháme jednoznačně, že potřebují předvídatelnost v tom, jak bude jejich obsah s rostoucími schopnostmi systémů AI chráněn.

Naším posláním je zajistit, aby obecná umělá inteligence byla přínosem pro celé lidstvo. Spolupráce se zákazníky a partnery je pro vytváření účinných ochranných opatření zásadní. Jak jasně uvádějí naše zásady, žádná laboratoř AI nedokáže nově vznikající rizika řešit sama. Soukromé bezpečnostní zpracování tento přístup odráží a utvářejí je zákazníci z různých odvětví, regionů i různě velkých společností.

Organizace, se kterými spolupracujeme, nakládají s maximálně citlivými informacemi ve svých odvětvích, včetně finančních záznamů, zdravotních údajů, důvěrných obchodních plánů a vlastního výzkumu. Ochrana těchto informací je zásadní pro plnění regulačních povinností, udržení důvěry zákazníků a zachování jejich konkurenční výhody.

Jejich zpětná vazba nám pomáhá vytvářet účinnější ochranná opatření a zároveň jim ponechat informace pod kontrolou.

Se zákazníky budeme nadále spolupracovat na technických a provozních podrobnostech našeho přístupu. Soukromé bezpečnostní zpracování plánujeme začít zavádět v září, kdy také zveřejníme technickou bílou knihu. Zákazníky budeme průběžně informovat: novinky budeme sdílet včas, vysvětlíme jejich dopad na stávající závazky a poskytneme zákazníkům čas i podporu potřebné k plánování.