Незадржавање података за граничне моделе

Незадржавање података пружа клијентима API-ја који испуњавају услове јасно обећање: OpenAI не задржава њихове упите нити одговоре модела након обраде захтева. Особље привредног друштва OpenAI нема приступ садржају клијената ради прегледа¹, а подаци клијената који су велика предузећа не користе се за обуку наших модела, осим ако клијенти за то изричито не дају сагласност.

Како модели преузимају дуже и сложеније задатке, неки озбиљни ризици могу постати видљиви тек кроз више интеракција. Постојећи безбедносни системи компатибилни са ZDR-ом процењују сваку интеракцију засебно. Данас представљамо рани увид у приватну обраду ради безбедности, осмишљену да препозна обрасце у повезаним интеракцијама, а да особљу компаније OpenAI не омогући приступ основном садржају.

Код примена са ZDR-ом, садржај клијента остаје на инфраструктури коју клијент контролише. Развијамо и опцију у којој се садржај чува на инфраструктури компаније OpenAI, шифрован кључевима под контролом клијента. У оба случаја, аутоматизовани системи могу да препознају потенцијалну злоупотребу и врате ограничене безбедносне сигнале, не откривајући особљу компаније OpenAI основне упите или одговоре.

Најозбиљнији безбедносни ризици AI технологије нису увек видљиви у једној интеракцији. Потенцијално штетне намере често постану јасне тек када се више интеракција сагледа заједно. Слични ризици могу настати када злонамерни актери узастопно испитују заштитне мере, координирају активности преко више налога или прикривају претње као рутинско истраживање. Ризици се могу развити и током агентског задатка — на пример, ако се систем удаљи од намере корисника тако што настави да делује након што му је речено да стане.

Како AI системи преузимају дуже и сложеније задатке, овај шири контекст постаје све важнији за разликовање легитимних активности од злоупотребе и обезбеђивање да AI агенти остану у оквирима предвиђених овлашћења.

Неке недавне примене граничних модела захтевале су од клијената да дозволе свом пружаоцу услуге AI технологије да задржава осетљив садржај ради праћења безбедности. За многе организације такви захтеви нису у складу с њиховим безбедносним обавезама или обавезама према људима којима пружају услуге.

Приватна обрада ради безбедности осмишљена је тако да можемо и даље да нудимо ZDR.

Приватна обрада ради безбедности надограђује аутоматизоване заштитне мере које се већ користе у применама са ZDR-ом и другим применама. Постојећи безбедносни системи компатибилни са ZDR-ом процењују интеракције засебно. Приватна обрада ради безбедности проширује те заштитне мере на повезане интеракције, омогућавајући аутоматизованим системима да препознају обрасце, а да особље компаније OpenAI нема приступ задржаном садржају клијената.

Приватна обрада ради безбедности користи садржај клијената без обзира на то где се чува — на инфраструктури коју клијенти контролишу (примене са ZDR-ом) или у складишту које обезбеђује OpenAI. Када складиште обезбеђује OpenAI, садржај клијената шифрује се кључевима под контролом клијента. Особље компаније OpenAI нема копију тих кључева, па не може да приступи основном садржају.

Када се препозна ризик, OpenAI добија уско дефинисан сигнал који указује на врсту активности, слично сигналима у нашим постојећим безбедносним системима. Тај сигнал може да се користи за утврђивање да ли је потребно предузети мере. Особље компаније OpenAI не добија приступ садржају клијента чак ни када је он означен.

Клијенти могу да истраже упозорења и одлуке о предузимању мера користећи информације доступне у сопственим системима. Ако желе да уложе жалбу, разјасне легитимну активност или помогну у истрази потврђене злоупотребе, могу да изаберу да релевантне информације поделе са компанијом OpenAI.

Приватна обрада ради безбедности тренутно се тестира с првим клијентима. Овај рани увид објављујемо сада јер су нам клијенти јасно ставили до знања да им је потребна предвидљивост у погледу заштите њиховог садржаја како AI системи постају способнији.

Наша мисија је да обезбедимо да општа вештачка интелигенција користи читавом човечанству. Сарадња с клијентима и партнерима кључна је за начин на који градимо делотворне заштитне мере. Као што јасно показују наша начела, ниједна AI лабораторија не може сама да одговори на нове ризике. Приватна обрада ради безбедности одражава тај приступ, а обликују је клијенти из различитих делатности и региона, као и компаније различитих величина.

Организације с којима сарађујемо рукују неким од најосетљивијих информација у својим секторима, укључујући финансијску документацију, здравствене податке, поверљиве пословне планове и власничка истраживања. Заштита тих информација неопходна је за испуњавање регулаторних обавеза, очување поверења клијената и њихове конкурентске предности.

Њихове повратне информације помажу нам да изградимо снажније заштитне мере, док њихове информације остају под њиховом контролом.

Наставићемо да сарађујемо с клијентима на техничким и оперативним појединостима нашег приступа. Планирамо да у септембру почнемо да уводимо приватну обраду ради безбедности и објавимо техничку белу књигу. Обавештаваћемо клијенте током читавог процеса: благовремено ћемо објављивати новости, објашњавати шта оне значе за постојеће обавезе и пружати им време и подршку потребне за планирање.