Озық модельдер үшін деректерді мүлде сақтамау

Деректерді мүлде сақтамау талаптарға сай API тұтынушыларына нақты кепілдік береді: сұрау өңделгеннен кейін OpenAI олардың көмексөздерін де, модель жауаптарын да сақтамайды. Тұтынушы контенті OpenAI қызметкерлеріне тексеру үшін қолжетімді емес¹, ал корпоративтік тұтынушылардың деректері олар бұған тікелей келісім бермесе, модельдерімізді оқытуға пайдаланылмайды.

Модельдер ұзағырақ әрі күрделірек тапсырмаларды орындаған сайын, кейбір елеулі тәуекелдер бірнеше өзара әрекетті бірге қарастырғанда ғана байқалуы мүмкін. Қолданыстағы ZDR-үйлесімді қауіпсіздік жүйелері әр өзара әрекетті жеке бағалайды. Бүгін біз OpenAI қызметкерлеріне бастапқы контентке қол жеткізуге мүмкіндік бермей, өзара байланысты әрекеттердегі заңдылықтарды анықтауға арналған Құпия қауіпсіздік өңдеуін алдын ала таныстырып отырмыз.

ZDR қолданылатын ортада тұтынушы контенті оның өзі басқаратын инфрақұрылымда қалады. Сондай-ақ контент OpenAI инфрақұрылымында сақталып, тұтынушы басқаратын кілттермен шифрланатын нұсқаны әзірлеп жатырмыз. Екі жағдайда да автоматтандырылған жүйелер ықтимал теріс пайдалануды анықтап, бастапқы көмексөздер мен жауаптарды OpenAI қызметкерлеріне ашпай-ақ, шектеулі қауіпсіздік сигналдарын бере алады.

ЖИ қауіпсіздігіне қатысты ең елеулі тәуекелдер бір ғана өзара әрекеттен әрдайым байқала бермейді. Көбіне ықтимал зиянды ниет бірнеше өзара әрекетті бірге қарастырғанда ғана айқын болады. Қаскүнемдер қорғаныс шараларын қайта-қайта сынағанда, бірнеше аккаунт арқылы әрекетін үйлестіргенде немесе қатерлерді қалыпты зерттеу ретінде жасырғанда да осындай тәуекелдер туындауы мүмкін. Тәуекел агенттік тапсырманы орындау барысында да туындауы мүмкін. Мысалы, жүйеге тоқтау бұйырылғаннан кейін де әрекетін жалғастырып, пайдаланушының ниетінен ауытқыса.

ЖИ жүйелері ұзағырақ әрі күрделірек тапсырмаларды орындаған сайын, заңды әрекетті теріс пайдаланудан ажырату және ЖИ агенттерінің берілген өкілеттік шегінен шықпауын қамтамасыз ету үшін осы кеңірек мәнмәтіннің маңызы арта түседі.

Озық модельдерді жақында енгізудің кейбір жағдайларында тұтынушылар қауіпсіздікті бақылау үшін ЖИ провайдеріне құпия контентті сақтауға рұқсат беруге мәжбүр болды. Көптеген ұйым үшін мұндай талаптар олардың қауіпсіздік міндеттемелеріне немесе өздері қызмет көрсететін адамдар алдындағы міндеттеріне қайшы келеді.

Құпия қауіпсіздік өңдеуі ZDR мүмкіндігін әрі қарай да ұсына алуымыз үшін әзірленген.

Құпия қауіпсіздік өңдеуі ZDR және басқа енгізу орталарында қолданылып жүрген автоматтандырылған қорғаныс шараларына негізделген. Қолданыстағы ZDR-үйлесімді қауіпсіздік жүйелері өзара әрекеттерді жеке-жеке бағалайды. Құпия қауіпсіздік өңдеуі бұл қорғанысты өзара байланысты әрекеттерге кеңейтеді. Осылайша автоматтандырылған жүйелер OpenAI қызметкерлеріне сақталған тұтынушы контентіне қол жеткізбей-ақ заңдылықтарды анықтай алады.

Құпия қауіпсіздік өңдеуі тұтынушы контентін оның қайда сақталғанына қарамастан пайдаланады: тұтынушы басқаратын инфрақұрылымда да (ZDR ортасы), OpenAI ұсынған сақтау орнында да. OpenAI ұсынған сақтау орнында тұтынушы контенті тұтынушы басқаратын кілттер арқылы шифрланады. OpenAI қызметкерлерінде бұл кілттердің көшірмесі жоқ, сондықтан олар бастапқы контентке қол жеткізе алмайды.

Тәуекел анықталса, OpenAI қазіргі қауіпсіздік жүйелеріндегідей, әрекет түрін көрсететін нақты шектелген сигнал алады. Бұл сигнал тиісті шара қолдану қажет пе екенін анықтауға мүмкіндік береді. Тұтынушы контенті белгіленген күннің өзінде OpenAI қызметкерлері оған қол жеткізе алмайды.

Тұтынушылар өз жүйелеріндегі ақпарат арқылы ескертулер мен шара қолдану туралы шешімдерді тексере алады. Шешімге шағымданғысы, заңды әрекетті түсіндіргісі немесе расталған теріс пайдалануды тергеуге көмектескісі келсе, олар тиісті ақпаратты OpenAI-мен бөлісуді таңдай алады.

Қазір Құпия қауіпсіздік өңдеуі алғашқы тұтынушылармен бірге сынақтан өткізіліп жатыр. ЖИ жүйелері қабілетті бола түскен сайын, контентінің қалай қорғалатыны туралы айқындық қажет екенін тұтынушыларымыз нақты білдіргендіктен, осы алдын ала таныстырылымды қазір ұсынып отырмыз.

Біздің миссиямыз — жалпы жасанды интеллектінің бүкіл адамзатқа пайдасын тигізуін қамтамасыз ету. Тиімді қорғаныс шараларын әзірлеу үшін тұтынушылармен және серіктестермен ынтымақтастық орнату аса маңызды. Қағидаларымызда анық көрсетілгендей, ешбір ЖИ зертханасы туындайтын тәуекелдерді жалғыз өзі еңсере алмайды. Құпия қауіпсіздік өңдеуі осы тәсілді басшылыққа алады және әртүрлі салалардағы, өңірлердегі әрі көлемі әрқилы компаниялардың пікірімен қалыптасып келеді.

Біз жұмыс істейтін ұйымдар өз салаларындағы аса құпия ақпаратпен, соның ішінде қаржылық жазбалармен, медициналық деректермен, құпия бизнес-жоспарлармен және меншікті зерттеулермен жұмыс істейді. Бұл ақпаратты қорғау нормативтік міндеттерді орындау, тұтынушылар сенімін сақтау және ұйымдардың бәсекелік артықшылығын қорғау үшін аса маңызды.

Олардың пікірі ақпаратты өз бақылауында қалдыра отырып, анағұрлым мықты қорғаныс шараларын әзірлеуімізге көмектеседі.

Тәсіліміздің техникалық және операциялық егжей-тегжейін тұтынушылармен бірге пысықтауды жалғастырамыз. Қыркүйекте Құпия қауіпсіздік өңдеуін кезең-кезеңімен іске қосып, техникалық шолу құжатын жариялауды жоспарлап отырмыз. Әр кезеңде тұтынушыларды хабардар етіп отырамыз: жаңартуларды алдын ала бөлісіп, олардың қолданыстағы міндеттемелерге әсерін түсіндіреміз және тұтынушыларға алдағы қадамдарды жоспарлауға қажетті уақыт пен қолдау береміз.