Ոչ մի պահվող տվյալ՝ առաջադեմ մոդելների համար

«Ոչ մի պահվող տվյալ» ռեժիմն իրավասու API հաճախորդներին հստակ երաշխիք է տալիս. հարցումը մշակելուց հետո OpenAI-ը չի պահում նրանց հուշումները կամ մոդելի պատասխանները։ OpenAI-ի աշխատակիցներին հաճախորդների բովանդակությունը հասանելի չէ ստուգման համար¹, իսկ կորպորատիվ հաճախորդների տվյալները չեն օգտագործվում մեր մոդելներն ուսուցանելու համար, եթե հաճախորդները բացահայտորեն չեն համաձայնում դրան։

Քանի որ մոդելները ստանձնում են ավելի երկարատև և բարդ առաջադրանքներ, որոշ լուրջ ռիսկեր կարող են տեսանելի դառնալ միայն մի քանի փոխազդեցությունների ընթացքում։ ZDR-ի հետ համատեղելի անվտանգության գործող համակարգերը յուրաքանչյուր փոխազդեցություն գնահատում են առանձին։ Այսօր ներկայացնում ենք Մասնավոր անվտանգության մշակման նախնական տարբերակը, որը նախատեսված է փոխկապակցված փոխազդեցություններում օրինաչափություններ հայտնաբերելու համար՝ առանց հիմքում ընկած բովանդակությունը OpenAI-ի աշխատակիցներին հասանելի դարձնելու։

ZDR ներդրումների դեպքում հաճախորդների բովանդակությունը մնում է նրանց կողմից վերահսկվող ենթակառուցվածքում։ Մենք նաև մշակում ենք տարբերակ, որի դեպքում բովանդակությունը պահվում է OpenAI-ի ենթակառուցվածքում և գաղտնագրվում հաճախորդի կողմից վերահսկվող բանալիներով։ Երկու դեպքում էլ ավտոմատացված համակարգերը կարող են հայտնաբերել հնարավոր չարաշահումը և վերադարձնել անվտանգության սահմանափակ ազդանշաններ՝ առանց հիմքում ընկած հուշումները կամ պատասխանները OpenAI-ի աշխատակիցներին բացահայտելու։

AI-ի անվտանգության ամենալուրջ ռիսկերը միշտ չէ, որ տեսանելի են մեկ փոխազդեցության ընթացքում։ Հաճախ հնարավոր վնասակար մտադրությունները պարզ են դառնում միայն մի քանի փոխազդեցություններ միասին դիտարկելիս։ Նմանատիպ ռիսկեր կարող են առաջանալ նաև, երբ չարագործները բազմիցս փորձում են շրջանցել պաշտպանական միջոցները, համակարգում են գործողությունները տարբեր հաշիվներում կամ սպառնալիքները ներկայացնում որպես սովորական հետազոտություն։ Ռիսկեր կարող են առաջանալ նաև գործակալի կատարած առաջադրանքի ընթացքում, օրինակ՝ եթե համակարգը շեղվում է օգտատիրոջ մտադրությունից և շարունակում է գործել նույնիսկ դադարեցնելու հրահանգ ստանալուց հետո։

Քանի որ AI համակարգերը ստանձնում են ավելի երկարատև ու բարդ առաջադրանքներ, այս ավելի լայն համատեքստը գնալով ավելի կարևոր է դառնում օրինական գործունեությունը չարաշահումից տարբերելու և AI գործակալներին իրենց նախատեսված լիազորությունների սահմաններում պահելու համար։

Առաջադեմ մոդելների որոշ վերջին ներդրումների դեպքում հաճախորդներից պահանջվել է թույլ տալ իրենց AI մատակարարին պահպանել զգայուն բովանդակությունը՝ անվտանգության մշտադիտարկման նպատակով։ Շատ կազմակերպությունների համար նման պահանջները հակասում են անվտանգության իրենց պարտավորություններին կամ իրենց սպասարկած անձանց տված խոստումներին։

Մասնավոր անվտանգության մշակումը նախատեսված է այնպես, որ մենք կարողանանք շարունակել առաջարկել ZDR։

Մասնավոր անվտանգության մշակումը հիմնվում է ZDR և այլ ներդրումներում արդեն կիրառվող ավտոմատացված պաշտպանական միջոցների վրա։ ZDR-ի հետ համատեղելի անվտանգության գործող համակարգերը փոխազդեցությունները գնահատում են առանձին։ Մասնավոր անվտանգության մշակումն այդ պաշտպանական միջոցները տարածում է փոխկապակցված փոխազդեցությունների վրա՝ ավտոմատացված համակարգերին թույլ տալով հայտնաբերել օրինաչափություններ՝ առանց OpenAI-ի աշխատակիցներին հաճախորդների պահպանված բովանդակությունը հասանելի դարձնելու։

Մասնավոր անվտանգության մշակումն օգտագործում է հաճախորդի բովանդակությունը՝ անկախ դրա պահպանման վայրից՝ լինի դա հաճախորդի կողմից վերահսկվող ենթակառուցվածք (ZDR ներդրումներ), թե OpenAI-ի տրամադրած պահոց։ OpenAI-ի տրամադրած պահոցում հաճախորդի բովանդակությունը գաղտնագրվում է նրա կողմից վերահսկվող բանալիներով։ OpenAI-ի աշխատակիցները չունեն այդ բանալիների պատճենը, ուստի չեն կարող հասանելիություն ստանալ հիմքում ընկած բովանդակությանը։

Ռիսկ հայտնաբերելիս OpenAI-ը ստանում է գործունեության տեսակը մատնանշող խիստ սահմանափակ ազդանշան՝ նման մեր ներկայիս անվտանգության համակարգերի ազդանշաններին։ Այդ ազդանշանը կարող է օգտագործվել՝ որոշելու, թե արդյոք անհրաժեշտ են հարկադիր միջոցներ։ OpenAI-ի աշխատակիցները հաճախորդի բովանդակությանը հասանելիություն չեն ստանում նույնիսկ այն դրոշակվելու դեպքում։

Հաճախորդները կարող են ուսումնասիրել ծանուցումներն ու հարկադիր միջոցների մասին որոշումները՝ օգտվելով իրենց համակարգերում առկա տեղեկություններից։ Եթե ցանկանում են բողոքարկել, պարզաբանել օրինական գործունեությունը կամ աջակցել հաստատված չարաշահման հետաքննությանը, կարող են որոշել համապատասխան տեղեկությունները տրամադրել OpenAI-ին։

Մասնավոր անվտանգության մշակումն այժմ փորձարկվում է առաջին հաճախորդների հետ։ Մենք այս նախնական տարբերակը ներկայացնում ենք հիմա, քանի որ մեր հաճախորդները հստակ հայտնել են, որ AI համակարգերի հնարավորությունների ընդլայնմանը զուգընթաց իրենց անհրաժեշտ է կանխատեսելիություն՝ հասկանալու, թե ինչպես է պաշտպանվելու իրենց բովանդակությունը։

Մեր առաքելությունն է ապահովել, որ արհեստական ընդհանուր բանականությունը օգուտ բերի ողջ մարդկությանը։ Հաճախորդների և գործընկերների հետ համագործակցությունն առանցքային է արդյունավետ պաշտպանական միջոցներ ստեղծելու մեր գործելակերպում։ Ինչպես հստակ նշված է մեր սկզբունքներում, AI-ի ոչ մի լաբորատորիա չի կարող միայնակ լուծել ի հայտ եկող ռիսկերը։ Մասնավոր անվտանգության մշակումն արտացոլում է այդ մոտեցումը և ձևավորվում տարբեր ոլորտների, տարածաշրջանների ու չափերի ընկերությունների հաճախորդների մասնակցությամբ։

Մեր գործընկեր կազմակերպությունները մշակում են իրենց ոլորտների ամենազգայուն տեղեկություններից մի քանիսը, ներառյալ ֆինանսական գրառումները, առողջապահական տվյալները, բիզնեսի գաղտնի ծրագրերն ու սեփականության իրավունքով պաշտպանված հետազոտությունները։ Այդ տեղեկությունների պաշտպանությունն անհրաժեշտ է կարգավորող պահանջները կատարելու, հաճախորդների վստահությունը պահպանելու և նրանց մրցակցային առավելությունը պաշտպանելու համար։

Նրանց արձագանքն օգնում է մեզ ավելի ամուր պաշտպանական միջոցներ ստեղծել՝ միաժամանակ նրանց տեղեկությունները պահելով իրենց վերահսկողության ներքո։

Մենք կշարունակենք հաճախորդների հետ աշխատել մեր մոտեցման տեխնիկական և գործառնական մանրամասների շուրջ։ Մենք նախատեսում ենք սեպտեմբերին սկսել Մասնավոր անվտանգության մշակման աստիճանական ներդրումը և հրապարակել տեխնիկական զեկույց։ Մենք հաճախորդներին տեղյակ կպահենք յուրաքանչյուր փուլում՝ նախապես հրապարակելով թարմացումները, բացատրելով դրանց ազդեցությունը գործող պարտավորությունների վրա և տրամադրելով առաջիկա քայլերը ծրագրելու համար անհրաժեշտ ժամանակն ու աջակցությունը։