ChatGPT‑та Lockdown Mode және Elevated Risk белгілерін таныстыру

ЖИ жүйелері күрделірек тапсырмаларды, әсіресе веб пен байланысқан қолданбаларды қамтитын тапсырмаларды орындай бастаған сайын, қауіпсіздік тәуекелдерінің сипаты өзгереді.

Пайда болып келе жатқан бір қауіп ерекше маңызды бола түсті: көмексөзге зиян келтіру⁠. Мұндай шабуылдарда үшінші тарап сөйлесуге негізделген ЖИ жүйесін зиянды нұсқауларды орындауға немесе құпия ақпаратты ашуға жаңылыстыруға тырысады.

Бүгін біз пайдаланушылар мен ұйымдарға көмексөзге зиян келтіру шабуылдарын азайтуға көмектесуге арналған, тәуекелді айқынырақ көруге және бақылауды күшейтуге мүмкіндік беретін екі жаңа қорғаныс шарасын ұсынамыз:

• Lockdown Mode — ChatGPT‑та тәуекелі жоғары пайдаланушыларға арналған жетілдірілген, қосымша қауіпсіздік баптауы
• “Elevated Risk” белгілері — ChatGPT, ChatGPT Atlas және Codex ішіндегі қосымша тәуекел тудыруы мүмкін кейбір мүмкіндіктер үшін

Бұл толықтырулар біздің модель, өнім және жүйе деңгейлеріндегі қолданыстағы қорғаныс шараларымызды негізге алады. Оған sandboxing, URL негізіндегі деректердің сыртқа шығарылуына қарсы қорғаныс⁠, мониторинг пен бақылау, сондай-ақ рөлге негізделген қолжетімділік пен аудит журналдары сияқты кәсіпорындық басқару тетіктері⁠ кіреді.

Lockdown Mode — жоғары деңгейдегі қауіптерден күшейтілген қорғауды қажет ететін, қауіпсіздікке өте мұқият қарайтын аз ғана пайдаланушылар тобына, мысалы, ірі ұйымдардың басшыларына немесе қауіпсіздік командаларына арналған қосымша, жетілдірілген қауіпсіздік баптауы. Ол пайдаланушылардың көпшілігіне қажет емес. Lockdown Mode көмексөзге зиян келтіруге негізделген деректердің сыртқа шығарылу қаупін азайту үшін ChatGPT‑тің сыртқы жүйелермен қалай әрекеттесе алатынын қатаң шектейді.

Lockdown Mode ChatGPT‑та қарсылас пайдаланушылардың сөйлесулерінен немесе байланысқан қолданбалардан құпия деректерді көмексөзге зиян келтіру сияқты шабуылдар арқылы сыртқа шығаруға пайдаланып көруі мүмкін кейбір құралдар мен мүмкіндіктерді детерминистік түрде өшіреді.

Мысалы, Lockdown Mode режимінде вебті шолу кэштелген мазмұнмен шектеледі, сондықтан OpenAI басқаратын желіден тыс ешқандай тікелей желілік сұрау жіберілмейді. Бұл шектеу құпия деректердің шолу арқылы шабуылдаушыға сыртқа шығарылуын болдырмауға арналған. Деректер қауіпсіздігіне қатысты күшті детерминистік кепілдіктер бере алмаған кезде, кейбір мүмкіндіктер толық өшіріледі.

ChatGPT бизнес жоспарлары қазірдің өзінде кәсіпорын деңгейіндегі деректер қауіпсіздігін⁠ ұсынады. Lockdown Mode осы қорғаныс шараларын толықтырады және ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare және ChatGPT for Teachers үшін қолжетімді. Әкімшілер оны жаңа рөл⁠(жаңа терезеде ашылады) жасау арқылы Жұмыс кеңістігінің баптауларында⁠(жаңа терезеде ашылады) қоса алады. Қосылған кезде, Lockdown Mode қолданыстағы әкімші баптауларының үстіне қосымша шектеулер енгізеді.

Lockdown Mode туралы толығырақ біздің Көмек көрсету орталығынан⁠(жаңа терезеде ашылады) біліңіз.

Кейбір маңызды жұмыс ағындары қолданбаларға сүйенетіндіктен, жұмыс кеңістігінің әкімшілері анағұрлым егжей-тегжейлі басқару тетіктерін сақтайды. Олар пайдаланушыларға Lockdown Mode режимінде дәл қай қолданбалар және сол қолданбалардың ішіндегі нақты қай әрекеттер қолжетімді болатынын таңдай алады. Бұған қоса, Lockdown Mode-тан бөлек, Compliance API Logs Platform⁠(жаңа терезеде ашылады) қолданба пайдаланылуы, ортақ деректер және байланысқан көздер туралы егжей-тегжейлі көрініс береді, бұл әкімшілерге бақылауды сақтауға көмектеседі.

Алдағы айларда Lockdown Mode режимін жеке пайдаланушыларға да қолжетімді етуді жоспарлап отырмыз.

ЖИ өнімдері қолданбаларыңызға және вебке қосылған кезде пайдалырақ бола алады, және біз байланысқан деректердің қауіпсіздігін сақтауға⁠ көп инвестиция салдық. Сонымен қатар, желіге қатысты кейбір мүмкіндіктер саладағы қауіпсіздік және қорғаныс шаралары әлі толық шеше қоймаған жаңа тәуекелдерді енгізеді. Кейбір пайдаланушылар бұл тәуекелдерді қабылдауға дайын болуы мүмкін, және әсіресе өздерінің жеке деректерімен жұмыс істегенде, оларды пайдалану-пайдаланбауды және қалай пайдалануды пайдаланушылардың өздері шеше алуы маңызды деп санаймыз.

Біздің тәсіл — қосымша тәуекел тудыруы мүмкін мүмкіндіктер үшін өнім ішіндегі нұсқаулық беру. Мұны анығырақ әрі бірізді ету үшін, біз қолданыстағы мүмкіндіктердің қысқа тізімі қалай белгіленетінін стандарттап жатырмыз. Енді бұл мүмкіндіктер ChatGPT, ChatGPT Atlas және Codex бойынша бірізді “Elevated Risk” белгісін пайдаланады, сондықтан пайдаланушылар оларды қай жерден көрсе де бірдей нұсқаулық алады.

Мысалы, біздің код жазу көмекшіміз Codex-та әзірлеушілер Codex-қа құжаттаманы іздеу сияқты вебтегі әрекеттерді орындай алуы үшін желіге қолжетімділік бере алады. Тиісті баптаулар экранында “Elevated Risk” белгісі, сонымен бірге ненің өзгеретіні, қандай тәуекелдер пайда болуы мүмкін екені және мұндай қолжетімділік қашан орынды болатыны туралы нақты түсіндірме беріледі.

Біз қауіпсіздік пен қорғаныс шараларын, әсіресе жаңа, пайда болып келе жатқан немесе өсіп жатқан тәуекелдерге қатысты, одан әрі күшейтуге инвестиция салуды жалғастырамыз. Осы мүмкіндіктер үшін қорғаныс шараларын күшейткен сайын, қауіпсіздік саласындағы ілгерілеулер бұл тәуекелдерді жалпы пайдалану үшін жеткілікті деңгейде азайтты деп анықтаған кезде, “Elevated Risk” белгісін алып тастаймыз. Сондай-ақ пайдаланушыларға тәуекелді барынша түсінікті жеткізу үшін, уақыт өте келе бұл белгі қай мүмкіндіктерге қолданылатынын жаңартып отырамыз.