Нула задржување на податоци за гранични модели

Нула задржување на податоци им дава јасно ветување на подобните API-клиенти: OpenAI не ги задржува нивните инструкции или одговорите на моделот откако барањето ќе се обработи. Содржината на клиентите не им е достапна на вработените во OpenAI за проверка¹, а податоците на деловните клиенти не се користат за обука на нашите модели, освен ако клиентите изречно не се согласат.

Како што моделите преземаат подолги и посложени задачи, некои сериозни ризици може да станат видливи дури по повеќе интеракции. Постојните безбедносни системи компатибилни со ZDR ја проценуваат секоја интеракција одделно. Денес ја најавуваме Приватната безбедносна обработка, осмислена да препознава обрасци во поврзани интеракции без да им даде на вработените во OpenAI пристап до основната содржина.

Кај примените со ZDR, содржината на клиентот останува на инфраструктура под негова контрола. Развиваме и опција во која содржината се чува на инфраструктурата на OpenAI, шифрирана со клучеви под контрола на клиентот. Во двата случаи, автоматизираните системи може да откријат можна злоупотреба и да вратат ограничени безбедносни сигнали, без да им ги откријат основните инструкции или одговори на вработените во OpenAI.

Најсериозните безбедносни ризици од ВИ не се секогаш видливи во една интеракција. Потенцијално штетните намери често стануваат јасни дури кога повеќе интеракции ќе се разгледаат заедно. Слични ризици може да се појават кога злонамерни лица постојано ги испитуваат заштитните мерки, се координираат преку повеќе сметки или ги прикриваат заканите како рутинско истражување. Ризици може да се појават и во текот на агентска задача — на пример, ако системот се оддалечи од намерата на корисникот и продолжи да дејствува откако му било кажано да запре.

Како што системите за ВИ преземаат подолги и посложени задачи, овој поширок контекст станува сè поважен за разликување на легитимните активности од злоупотребите и за да се обезбеди дека агентите за ВИ остануваат во границите на предвидените овластувања.

Некои неодамнешни примени на гранични модели бараа клиентите да му дозволат на својот давател на ВИ да задржува чувствителна содржина заради безбедносен надзор. За многу организации, таквите барања се во судир со нивните безбедносни обврски или со обврските кон луѓето на кои им служат.

Приватната безбедносна обработка е осмислена за да можеме и понатаму да нудиме ZDR.

Приватната безбедносна обработка се надоврзува на автоматизираните заштитни мерки што веќе се користат во ZDR и во други примени. Постојните безбедносни системи компатибилни со ZDR ги проценуваат интеракциите одделно. Приватната безбедносна обработка ги проширува тие заштитни мерки на поврзаните интеракции, овозможувајќи им на автоматизираните системи да препознаваат обрасци без вработените во OpenAI да имаат пристап до задржаната содржина на клиентите.

Приватната безбедносна обработка ја користи содржината на клиентите без оглед каде е складирана — во инфраструктура под контрола на клиентите (примени со ZDR) или во складиште обезбедено од OpenAI. Кога складиштето го обезбедува OpenAI, содржината на клиентот се шифрира со клучеви под контрола на клиентот. Вработените во OpenAI немаат копија од тие клучеви, па затоа не можат да пристапат до основната содржина.

Кога ќе се открие ризик, OpenAI добива прецизно дефиниран сигнал што го покажува видот на активноста, слично на нашите постојни безбедносни системи. Тој сигнал може да се користи за да се утврди дали е потребно преземање мерки. Вработените во OpenAI не добиваат пристап до содржината на клиентот дури ни кога таа е означена.

Клиентите може да ги истражат предупредувањата и одлуките за преземање мерки со помош на информациите достапни во нивните системи. Ако сакаат да поднесат жалба, да појаснат легитимна активност или да помогнат во истрага на потврдена злоупотреба, може да изберат да ги споделат релевантните информации со OpenAI.

Приватната безбедносна обработка моментално се тестира со првите клиенти. Оваа најава ја споделуваме сега затоа што клиентите јасно ни ставија до знаење дека им е потребна предвидливост за тоа како ќе се заштитува нивната содржина додека системите за ВИ стануваат поспособни.

Нашата мисија е да обезбедиме општата вештачка интелигенција да му користи на целото човештво. Соработката со клиентите и партнерите е суштински дел од начинот на кој создаваме ефикасни заштитни мерки. Како што јасно покажуваат нашите принципи, ниту една лабораторија за ВИ не може сама да се справи со новите ризици. Приватната безбедносна обработка го одразува тој пристап и се обликува со учество на клиенти од различни индустрии, региони и компании со различна големина.

Организациите со кои соработуваме ракуваат со дел од најчувствителните информации во своите сектори, вклучувајќи финансиски записи, здравствени податоци, доверливи деловни планови и сопственички истражувања. Заштитата на тие информации е неопходна за исполнување на регулаторните обврски, одржување на довербата на клиентите и зачувување на нивната конкурентска предност.

Нивните повратни информации ни помагаат да создадеме посилни заштитни мерки, додека нивните информации остануваат под нивна контрола.

Ќе продолжиме да соработуваме со клиентите на техничките и оперативните детали од нашиот пристап. Планираме во септември да почнеме со воведување на Приватната безбедносна обработка и да објавиме технички документ. Ќе ги информираме клиентите на секој чекор, навремено ќе споделуваме новости, ќе објаснуваме што значат тие за постојните обврски и ќе им ги дадеме потребните време и поддршка за однапред да планираат.