Ներկայացնում ենք Լոքդաուն ռեժիմը և կայուն բարձր ռիսկ պիտակները ChatGPT‑ում
Քանի որ ԱԲ-ի համակարգերը ստանձնում են ավելի բարդ առաջադրանքներ՝ հատկապես այնպիսիք, որոնք ներառում են վեբը և միացված հավելվածները, անվտանգության ռիսկերը փոխվում են։
Հատկապես կարևոր է դարձել նոր ռիսկերից մեկը՝ հարցումների ներարկում-ը։ Այս հարձակումների ժամանակ երրորդ կողմը փորձում է մոլորեցնել խոսակցական ԱԲ-ի համակարգը՝ ստիպելով այն հետևել չարամիտ հրահանգներին կամ բացահայտել զգայուն տեղեկատվություն։
Այսօր մենք ներկայացնում ենք երկու նոր պաշտպանության միջոցներ, որոնք նախատեսված են օգնելու օգտատերերին և կազմակերպություններին մեղմել հարցումների ներարկման հարձակումները՝ ռիսկի ավելի հստակ տեսանելիությամբ և ավելի ուժեղ վերահսկողություններով՝
- Լոքդաուն ռեժիմը ChatGPT‑ում՝ առաջադեմ և կամընտրական անվտանգության կարգավորում ավելի բարձր ռիսկ ունեցող օգտատերերի համար
- «Բարձր ռիսկ» պիտակներ որոշ հնարավորությունների համար, որոնք կարող են լրացուցիչ ռիսկ առաջացնել ChatGPT‑ում, ChatGPT Atlas-ում և Codex-ում
Այս հավելումները հիմնվում են մեր առկա պաշտպանությունների վրա՝ մոդելի, պրոդուկտի և համակարգի մակարդակներում։ Սա ներառում է սենդբոքսինգ, URL-ի վրա հիմնված տվյալների արտահոսքից պաշտպանություն, մոնիթորինգ և կիրարկում, ինչպես նաև ձեռնարկության վերահսկողություններ, ինչպիսիք են դերերի վրա հիմնված մուտքի վերահսկումը և աուդիտի մատյանները։
Լոքդաուն ռեժիմը կամընտիր, անվտանգության առաջադեմ կարգավորում է, որը նախատեսված է անվտանգության նկատմամբ բարձր զգայունություն ունեցող օգտատերերի փոքր խմբի համար, օրինակ՝ ղեկավարների կամ հայտնի կազմակերպությունների անվտանգության թիմերի, որոնք պահանջում են ուժեղացված պաշտպանություն առաջադեմ սպառնալիքների դեմ։ Անհրաժեշտ չէ օգտատերերի մեծամասնության համար։ Լոքդաուն ռեժիմը խիստ սահմանափակում է, թե ինչպես ChatGPT‑ն կարող է փոխազդել արտաքին համակարգերի հետ՝ նվազեցնելով հարցումների ներարկման հիմքով տվյալների արտահոսքի ռիսկը։
Լոքդաուն ռեժիմը որոշակիորեն անջատում է ChatGPT‑ի որոշ գործիքներ և հնարավորություններ, որոնք հակառակորդը կարող է փորձել օգտագործել՝ օգտատերերի խոսակցություններից կամ միացված հավելվածներից զգայուն տվյալներ արտահոսեցնելու համար, օրինակ՝ հարցումների ներարկումների միջոցով։
Օրինակ՝ Լոքդաուն ռեժիմում վեբ զննարկումը սահմանափակվում է քեշավորված բովանդակությամբ, այնպես որ OpenAI-ի վերահսկվող ցանցից դուրս կենդանի ցանցային հարցումներ չեն կատարվում։ Այս սահմանափակումը նախատեսված է կանխելու, որ զգայուն տվյալները դիտարկման միջոցով արտահոսեն հարձակվողին։ Որոշ գործառույթներ ամբողջությամբ անջատվում են, երբ մենք չենք կարող ապահովել տվյալների անվտանգության հուսալի դետերմինիստական երաշխիքներ։
Լոքդաուն ռեժիմը նոր դետերմինիստական կարգավորում է, որը օգնում է պաշտպանել տվյալները պատահաբար երրորդ կողմերի հետ կիսվելուց՝ խիստ սահմանափակելով, թե ինչպես կարող է ChatGPT‑ը փոխազդել որոշ արտաքին համակարգերի հետ։
ChatGPT‑ի բիզնես պլաններն արդեն ապահովում են ձեռնարկային մակարդակի տվյալների անվտանգություն։ Լոքդաուն ռեժիմը հիմնվում է այդ պաշտպանության միջոցների վրա և հասանելի է ChatGPT Enterprise-ի, ChatGPT Edu-ի, ChatGPT for Healthcare-ի և ChatGPT for Teachers-ի համար։ Ադմինները կարող են միացնել այն աշխատատարածքի կարգավորումներ(բացվում է նոր պատուհանում)-ում ՝ ստեղծելով նոր պաշտոն(բացվում է նոր պատուհանում)։ Միացնելու դեպքում Լոքդաուն ռեժիմը հավելյալ սահմանափակումներ է ավելացնում առկա ադմինիստրատիվ կարգավորումների վրա։
Լոքդաուն ռեժիմի մասին ավելին իմանալու համար այցելեք մեր Օգնության կենտրոն(բացվում է նոր պատուհանում)։
Քանի որ որոշ կարևոր աշխատանքային հոսքեր հիմնվում են հավելվածների վրա, Աշխատատարածքի ադմինիստրատորները պահպանում են ավելի մանրակրկիտ վերահսկողություն։ Նրանք կարող են ընտրել, թե կոնկրետ որ հավելվածները և այդ հավելվածների ներսում կոնկրետ որ գործողությունները հասանելի կլինեն օգտատերերին Լոքդաուն ռեժիմում։ Բացի այդ, և Լոքդաուն ռեժիմից առանձին, Համապատասխանության API-ի գրանցամատյանների հարթակը(բացվում է նոր պատուհանում) ապահովում է հավելվածի օգտագործման, համօգտագործված տվյալների և միացված աղբյուրների վերաբերյալ մանրամասն տեսանելիություն՝ օգնելով ադմինիստրատորներին պահպանել վերահսկողությունը։
Մենք նախատեսում ենք Լոքդաուն ռեժիմը հասանելի դարձնել սպառողների համար առաջիկա ամիսների ընթացքում։
ԱԲ-ի պրոդուկտները կարող են ավելի օգտակար լինել, երբ միացված են ձեր հավելվածներին և համացանցին, և մենք մեծ ներդրումներ ենք կատարել միացված տվյալների անվտանգությունը պահպանելու համար։ Միևնույն ժամանակ, ցանցային որոշ հնարավորություններ ներկայացնում են նոր ռիսկեր, որոնք դեռևս լիովին չեն լուծվում ոլորտի անվտանգության և պաշտպանության միջոցներով։ Որոշ օգտատերեր կարող են հարմարավետ զգալ՝ ստանձնելով այս ռիսկերը, և մենք կարևոր ենք համարում, որպեսզի օգտատերերը հնարավորություն ունենան որոշելու՝ արդյոք և ինչպես օգտագործել դրանք, հատկապես իրենց անձնական տվյալների հետ աշխատելիս։
Մեր մոտեցումն այն է եղել, որ պրոդուկտի ներսում տրամադրենք ուղեցույց այն ֆունկցիաների համար, որոնք կարող են լրացուցիչ ռիսկ առաջացնել։ Սա ավելի հստակ և կայուն դարձնելու համար մենք ստանդարտացնում ենք, թե ինչպես ենք պիտակավորում գոյություն ունեցող հնարավորությունների կարճ ցանկը։ Այս գործառույթներն այժմ կօգտագործեն կայուն «Բարձր ռիսկ» պիտակը ChatGPT‑ում, ChatGPT Atlas-ում և Codex-ում, որպեսզի օգտատերերը ստանան նույն ուղեցույցը՝ որտեղ էլ որ հանդիպեն դրանց։
Օրինակ՝ Codex-ում, մեր կոդավորման օգնականում, ծրագրավորողները կարող են Codex-ին տրամադրել ցանցային հասանելիություն, որպեսզի այն կարողանա վեբում գործողություններ կատարել, ինչպես օրինակ՝ փաստաթղթեր որոնել։ Համապատասխան կարգավորումների էկրանը ներառում է «Բարձր ռիսկ» պիտակը՝ ինչպես նաև հստակ բացատրություն այն մասին, թե ինչ փոփոխություններ են տեղի ունենում, ինչ ռիսկեր կարող են առաջանալ, և երբ է այդ հասանելիությունը տեղին։
Codex-ի կարգավորումների էկրանի սքրինշոթ, որտեղ օգտատերերը կարող են կարգավորել, թե ինչ ցանցային հասանելիություն ունի Codex-ը։
Մենք շարունակում ենք ներդրումներ կատարել՝ ամրապնդելու մեր անվտանգության և պաշտպանության միջոցները, հատկապես նոր, ի հայտ եկող կամ աճող ռիսկերի համար։ Քանի որ մենք ամրապնդում ենք այս գործառույթների պաշտպանության միջոցառումները, մենք կհեռացնենք «Բարձր ռիսկ» պիտակը, երբ որոշենք, որ անվտանգության առաջընթացները բավարար չափով մեղմել են այդ ռիսկերը ընդհանուր օգտագործման համար։ Մենք նաև կշարունակենք ժամանակի ընթացքում թարմացնել, թե որ հնարավորություններն են կրում այս պիտակը՝ օգտատերերին ռիսկը լավագույնս հաղորդելու համար։
Հեղինակ
Շարունակել կարդալ
