Dots агенттерінің қауіпсіздігін, қорғанысын және құпиялығын қалай қамтамасыз етеміз

Dots — тұрақты міндеттерді мойнына алып, сіз үшін маңызды істерге көбірек уақыт пен көңіл бөлуге мүмкіндік беретін, үнемі жұмыс істейтін агенттер. Әр dot агентінің өз компьютері бар және ол сіз қосуды таңдаған қолданбаларда жұмыс істейді. Dots агенттеріне мақсат қойып, олардың өз бетінше не істей алатынын белгілейсіз. Олар қадамдарды ретімен орындап, өзгерістерге бейімделе алады және әңгімелер арасындағы уақытта да жұмысты ілгерілете береді. Олар өрбіп жатқан оқиғаны бақылап, жаңалықтар таратылымының нобайын дайындай алады немесе жаңа ақпарат түскен сайын жобаны жаңартуға көмектеседі. Нәтижелерді тексеруіңізге ұсынып, өз пайымыңыз қажет шешімдерді сізге қалдырады.

Dots агенттеріне мұндай жауапкершілік жүктеу оларға көбірек ақпаратыңыз бен жұмысыңызды сеніп тапсыруды білдіреді. Әр dot нелерге қол жеткізе алатынын, бұл мүмкіндікті қалай пайдаланатынын және қай кезде сіздің қатысуыңыз қажет болатынын білуіңіз керек. Бұл сұрақтар маңызды, себебі агенттің қателері әңгімеден тыс салдарға әкелуі мүмкін: сұрауды дұрыс түсінбесе, басқа файлды өзгертуі немесе сіз құпия сақтағыңыз келген ақпаратты бөлісуі ықтимал.

Біз осы жұмыстың әр бөлігіне қорғаныс шараларын енгіземіз. Алдымен GPT‑6 Astra моделін ниетіңізді түсінуге және қауіпсіздік ережелерін ұстануға үйретеміз. Одан кейін dots пайдаланатын ақпаратқа, жұмыс істейтін орталарға және жоспарлаған әрекеттеріне қатысты қорғаныс шараларын қосамыз. Бұлттағы қорғалған жұмыс кеңістігі қателердің салдарын шектеуге, қауіпсіз кіру рәсімдері құпия тіркелгі деректерін қорғауға, ал әрекеттерді бөлек тексеру нұсқауларыңыздан немесе қауіпсіздік талаптарынан тыс қадамдарды анықтауға көмектеседі. Нені қосу керегін таңдап, қалауларыңызды белгілейсіз және жұмыс барысында оны бақылап не бағытын өзгертіп отырасыз.

Dots әлі де қателесуі мүмкін. Біз нақты қолданыстан тәжірибе жинақтай отырып, осы қорғаныс шараларын жетілдіре береміз. Мұнда қорғаныс шараларының бірге қалай жұмыс істейтінін, нені өзіңіз басқаратыныңызды және қандай шектеулер әлі бар екенін түсіндіреміз. Бұл dots агенттеріне қандай жұмысты сеніп тапсыруға болатынын саналы түрде шешуге көмектеседі.

Dots біздің мүмкіндігі ең жоғары әрі адам ниеті мен құндылықтарына ең жақсы бейімделген GPT‑6 Astra моделінің негізінде жұмыс істейді. Astra мақсатыңызды жақсы түсінеді, сұрауыңыздың шегінен шықпайды және жауаптары келесі әрекетіне әсер етуі мүмкін кезде нақтылау сұрақтарын қояды. Осы қабілеттер dots агенттеріне бастапқы ниетіңізді естен шығармай, тапсырмаларды ұзақ уақыт бойы орындауға көмектеседі.

Біз Astra моделін зиянды сұраулардан, соның ішінде биология немесе киберқауіпсіздік мүмкіндіктерін теріс пайдалануға қатысты сұраулардан бас тартуға үйреттік. Dots агенттерінің өзгерген нұсқауларға, екіұшты сұрауларға және сіз берген рұқсаттардың шегінен шығаруға бағытталған әрекеттерге қалай жауап беретінін сынаймыз. Адамдар жүргізетін және автоматтандырылған редтиминг осал тұстарды табуға, модель мен оны қоршаған жүйелерді жетілдіруге және сол өзгерістерді қайта сынауға көмектеседі.

Модельдің осы қорғаныс шараларын ChatGPT қорғаныс тетіктерімен және сіздің атыңыздан үздіксіз жұмыс істей алатын агенттерге арналған қосымша шаралармен толықтырамыз.

ChatGPT жүйесіне кіріктірілген қорғаныс шаралары контентіңізді сақтау кезінде де, сіз, OpenAI және қызмет жеткізушілеріміз арасында тасымалдау кезінде де шифрлауды, сондай-ақ сақталған ақпаратты қорғауға көмектесетін қол жеткізуді басқару тетіктерін қамтиды. Тіркелгі қауіпсіздігі жүйелеріміз OpenAI тіркелгіңіздің күмәнді пайдаланылуын да бақылайды. Сеансқа бөгде адам кірген болуы мүмкін деген белгі байқалса, жүйе қайта кіруді талап етуі мүмкін.

Агенттерді жұмыс барысында кездесетін ақпараттан да қорғау қажет. Веб-бетте, электрондық хатта немесе құжатта агенттерді басқа бағытқа бұруға не құпия ақпаратты бөлісуге итермелейтін зиянды нұсқаулар болуы мүмкін. Бұл мәселе көмексөзге зиян келтіру деп аталады. Мұндай контенттің қалаусыз әрекетке әкелуіне жол бермеу үшін модельдің қорғаныс шараларын құралдарға қойылатын шектеулермен, әрекет алдындағы тексерулермен және мониторингпен ұштастырамыз.

Dots әрекеттерді жоспарлап, орындап жатқанда да оларды бақылап, нұсқауларыңыздан тыс әрекет ету немесе қорғаныс шараларын айналып өтуге тырысу сияқты ықтимал зиянды мінез-құлықты анықтаймыз. Қауіпсіздік мониторингі dot орындап жатқан жұмыста қауіп байқаса, сол жұмысты уақытша тоқтатып, қарап шығуыңыз үшін ескерту көрсете алады. Бұл мониторинг жүйеге кіріктірілген. Ол dots агенттерінің қол жеткізуі мен әрекеттерін шектейтін қорғаныс шараларымен қатар, тапсырма орындалу барысында туындайтын қауіптерді анықтауға көмектеседі.

Әр dot агентінің өз бұлттық компьютері бар. Онда ол вебті шолып, ақпаратты талдап, файлдар жасап, құралдарды іске қоса алады. Сіз белсенді қатыспаған кезде де dots осы жұмыс кеңістіктерінде жұмысты ілгерілете береді.

Dots қай тіркелгілерді пайдалана алатынын өзіңіз таңдайсыз: ChatGPT жүйесіне берген рұқсаттар шегінде қолданбаларды қосуға немесе dot браузерінде веб-сайтқа кіруге болады. Қолдау көрсетілсе, қауіпсіз кіру мүмкіндігін пайдалана аласыз. Dots агенттеріне көмектесудің қосымша жолдарын ашу үшін жеке компьютеріңізді де қоса аласыз. Мысалы, олар жұмыс үстелінде сақталған электрондық кестені талдай алады немесе құрылғыңызда орнатылған бағдарламалау құралдарын пайдалана алады.

Әр dot агентінің қорғалған жұмыс кеңістігіндегі оқшаулау тетігі оның қандай код пен құралдарға қол жеткізе алатынын шектеп, зиянды кодтың немесе қате пәрменнің әсерін тежеуге көмектеседі. Біз пайдаланушылардың бұлттық орталарын бір-бірінен оқшаулаймыз, сондай-ақ олардың негізінде жатқан Linux операциялық жүйесі мен Chrome браузеріне техникалық қызмет көрсетеміз.

Dots кодты олардың жұмысын үйлестіретін және негізгі қорғаныс шараларының орындалуын қамтамасыз ететін жүйелерден бөлек орталарда іске қосады. Олар онда файлдар жасап, құралдарды іске қоса алады, бірақ осы қол жеткізу мүмкіндігімен қауіпсіздік жүйелерін өзгерте немесе міндетті тексерулерді өшіре алмайды. Мұндай бөлу dot қателескен жағдайда да қорғаныс шараларының сақталуына көмектеседі.

Төменде сипатталған әрекет ережелері dots агенттерінің өздеріне берілген қол жеткізу мүмкіндігімен не істей алатынын реттейді.

Қауіпсіз кіру мүмкіндігі dots агенттеріне құпиясөздерді әңгімеге қоспай-ақ тіркелгілерде жұмыс істеуге мүмкіндік береді. Қауіпсіз кіруге қолдау көрсетілген жағдайда, сіз қауіпсіз кіру пішінін толтырған кезде модельдің жұмысы уақытша тоқтайды. Пішін тіркелгі деректеріңізді тікелей браузер ортасына жіберіп, модель контексіне ашпай-ақ кіру үшін пайдаланады. Содан кейін dot кірілген тіркелгіде жұмысын жалғастырады. Құпиясөзді әңгімеге қоспау оның жауапта көріну немесе қателесіп бөлісілу қаупін азайтады.

Қолдау көрсетілетін сақталған құпиясөзбен кіру рәсімдері осы бөлектеуді тіркелгі деректеріне арналған арнайы шифрланған қызмет арқылы сақтайды. Бұл қызмет кіруге қажет құпиясөзді модельге бермей жеткізеді. Осылайша dots сіз рұқсат берген тіркелгілерде жұмыс істей алады, ал құпиясөздер модель контексінен тыс қалады. Бұл қорғаныс шаралары тек қауіпсіз кіруге және сақталған құпиясөзді пайдалануға қатысты. Оқуға болатын хабарламаға немесе құжатқа бөлек жазылған құпия дерек модельге көрінуі мүмкін.

Dots қай қолданбаларды пайдалана алатынын ChatGPT жүйесіндегі бұрыннан бар қосылымдар мен рұқсаттар арқылы басқарасыз. Олар ChatGPT, ChatGPT Жұмыс және Codex үшін ортақ. Баптаулардың «Плагиндер» бөлімінде қосылған тіркелгілерді қарап, dots алдағы уақытта нелерге қол жеткізе алатынын өзгерте аласыз. Қолданбаны ажыратсаңыз, сол қосылым арқылы жаңа ақпарат алмасу тоқтайды. Бірақ dot бұрын білген ақпарат оның өз контексінде қалады. Бұл рұқсаттар қолданбаларыңызға қол жеткізуді реттейді, бірақ міндетті қауіпсіздік талаптарын жоймайды.

Dots жергілікті файлдармен немесе құралдармен жұмыс істесін десеңіз, компьютеріңізді де қоса аласыз. Бұл қосылымға да жергілікті оқшауланған ортаның шектеулері мен тиісті әрекет тексерулері қолданылады. Компьютеріңіздің микрофонын немесе камерасын пайдалану үшін де құрылғы рұқсаттары қажет. Оларды ChatGPT жүйесіне беру-бермеуді өзіңіз шешесіз.

Компьютерге арналған қолданбадағы «Әрекеттер көрінісі» жүріп жатқан жұмысты бақылап, бағыттауға мүмкіндік береді. Онда орындалып жатқан және басқа агенттерге берілген тапсырмалар мен олардың күйі көрсетіледі. Қосымша контекст бере аласыз, қате түсінікті түзете аласыз, бағытты өзгерте аласыз немесе dot агентінен тоқтауды сұрай аласыз.

Dots көмегін пайдалырақ ету үшін уақыт өте келе контекст жинақтайды. Жұмысты басқа агенттерге бергенде, оларға тапсырмаға қажет ақпаратты ғана сақтап, қажетсіз құпия мәліметтерді сақтамау нұсқалады. Әр dot агентінің өз контексі бар, оны кез келген уақытта тазалай аласыз.

ChatGPT Business, Enterprise және Edu жұмыс кеңістіктерінде деректеріңізді модельдерімізді үйрету үшін әдепкіде пайдаланбаймыз. Жеке ChatGPT жоспарларында dots агенттерімен әңгімелеріңіз бен олардың атқаратын жұмысы модельдерімізді жетілдіруге пайдаланылатынын «Модельді барлығы үшін жақсарту» баптауы арқылы басқарасыз. Модельді үйрету қосулы болса, жеке тұлғаны анықтайтын деректерді жою шараларын жүргізгеннен кейін бұған dots орындайтын әрекеттер мен сіз орнатқан автоматтандырулар да кіруі мүмкін. Деректеріңіздің қалай пайдаланылатыны туралы анықтама орталығындағы осы мақаладан⁠(жаңа терезеде ашылады) толығырақ оқи аласыз.

Сіз тапсырған жұмыспен қатар, dots көмектесудің басқа жолдарын іздеу үшін фондық зерттеу тапсырмаларын бастай алады. Мысалы, олар сапар жоспарыңыздағы өзгерісті байқауы мүмкін. Мұны бастамашыл зерттеу деп атаймыз.

Бұл тапсырмалар әр dot агентінің бұлттық ортасында орындалады. Олар рұқсат етілген қосылған дереккөздерден ақпарат жинау үшін тек оқуға арналған құралдарды пайдаланады, содан кейін тек сол dot агентіне арналған жазбаларды сақтайды. Бұл шектеулерді код деңгейінде қамтамасыз етеміз: зерттеу тапсырмалары басқа адамдарға тікелей хабарлама жібере алмайды, қосылған қолданбалардағы контентті өзгерте алмайды және браузерді не жұмыс үстелін басқара алмайды. Dots нәтижелерді қалай көмектесу керегін шешу үшін пайдалана алады, бірақ одан кейінгі кез келген әрекет әдеттегі ережелер мен тексерулерге бағынуы тиіс.

Біз модельдерімізді осы фондық зерттеу тармақтары немесе олардан алынған жазбалар негізінде тікелей үйретпейміз. Бірақ dot өз фондық зерттеу тапсырмасынан жазбалар алуы немесе зерттеу тармақтарының кейбір бөліктерін оқуы мүмкін. Осы жолмен үйретуге жарамды әңгімеге не тапсырмаға енгізілген ақпарат баптауларыңызға қарай модельді үйрету үшін пайдаланылуы мүмкін. Мысалы, фондық зерттеу тапсырмасы Еуропаға алдағы сапарыңыз үшін бірнеше бағыт туралы ақпарат жинауы мүмкін. Сол зерттеу тармағы мен оның жазбалары үйрету үшін тікелей пайдаланылмайды. Кейін dot агентінен Лиссабонға сапар жоспарлауға көмектесуін сұрасаңыз, ол фондық зерттеу тапсырмасындағы Лиссабон туралы жазбаны оқуы мүмкін. Бұл жазба сапарды жоспарлау туралы әңгімеңіздің контексіне айналады және содан кейін баптауларыңызға қарай үйрету үшін пайдаланылуы мүмкін. Фондық зерттеудің қалған бөлігі де үйретуге жарамды әңгімеге не тапсырмаға енгізілмесе, үйрету үшін пайдаланылмайды.

Dots зиянның алдын алуға және маңызды шешімдерді өз қолыңызда қалдыруға арналған кіріктірілген қорғаныс шектеулерін ұстанады. Қауіпсіздік ережелері олардан зиянды сұраулардан, соның ішінде биология немесе киберқауіпсіздік мүмкіндіктерін теріс пайдалануға қатысты сұраулардан бас тартуды талап етеді. Олар көмектесе алатын тапсырмаларда әрекет ережелері қай кезде жалғастыруға болатынын, қай кезде растау сұрау керегін және қай қадамды сізге қайтару қажет екенін белгілейді.

Осы шектер аясында dots қол жеткізуге рұқсат берілген ақпаратты оқып, талдай алады және әңгімелеріңізде нобайлар дайындай алады. Хабарлама жіберу немесе файл бөлісу үшін олар ақпарат пен алушы түрін қамтитын рұқсат сұрауға үйретілген. Дерек неғұрлым құпия болса, алушыны соғұрлым нақты көрсету қажет. Мысалы, денсаулық деректері үшін пайдаланушы әрдайым алушының атын көрсетуі керек («медициналық тарихымды доктор Томпсонмен бөліс»). Электрондық пошта мекенжайы немесе телефон нөмірі сияқты құпиялық деңгейі төменірек жеке деректер үшін әдепкіде пайдаланушы алушылар санатын көрсетуі керек («кез келген әуе компаниясы»). Пайдаланушы жеке ереже жасау арқылы құпиялық деңгейі төменірек жеке деректерді бөлісу аясын кеңейте алады («кез келген онлайн пішінде бөліс»). Бұл мүмкіндік туралы келесі бөлімде толығырақ айтылады. Бұл рұқсат тапсырмаға қатысты нұсқауларыңыздың шегінде қалады. Жұмысты кейін жалғастыру немесе басқа агентке беру оны кеңейтпейді.

Dots сатушының веб-сайтында бұрын сақтаған карталарыңызбен сатып алу жасай алады. Мұндай сатып алулар үшін сіздің мақұлдауыңыз қажет.

Кейбір әрекеттер әр жолы растауыңызды талап етеді. Оларға деректерді біржола жою, белгісіз дереккөзден алынған бағдарламаны орнату не іске қосу немесе қауіпсіздікке әсер ететін жаңа қол жеткізу құқығын беру жатады. Бұл талаптар кері қайтару қиын болуы мүмкін немесе біреуге жаңа қол жеткізу құқығын беретін өзгерістерді алдын ала қарап шығуға мүмкіндік береді.

Құпиясөзді өзгерту немесе қаржылық шоттар арасында ақша аудару сияқты басқа да сақтықты қажет ететін қадамдарда dots жалпы тапсырмаға көмектесе алады, бірақ сол қадамдардың өзін сізге қайтаруы тиіс.

«Жеке ережелер» кіріктірілген қорғаныс шараларының аясында dots сізге қалай көмектесетінін реттеуге мүмкіндік береді. Мысалы, оларға ешқашан электрондық хат жібермеуді тапсыра аласыз. Нақты тапсырмаға қатысты нұсқау да бере аласыз. Мысалы, dot агентінен әріптесіңізге орныңызда жоқ екеніңізді хабарлап, жеке себебін айтпауды сұрай аласыз. Сол dot жұмысты басқа агентке бергенде немесе фондық режимде істегенде де бұл нұсқаулар күшінде қалады.

Dots жеке ережелерді жазуға көмектесе алады, бірақ оларды өзгерту үшін сіздің мақұлдауыңыз қажет. Бұл қалаулар кіріктірілген қорғаныс шектеулері аясында қолданылады және міндетті растауды, қадамдарды сізге қайтаруды немесе негізгі қауіпсіздік талаптарын жоя алмайды.

Dots электрондық хат жіберу немесе файлдарды өзгерту сияқты әрекеттерді орындамас бұрын, «Автоматты тексеру» деп аталатын бөлек қауіпсіздік жүйесі жоспарланған қадамдардың нұсқауларыңызға, жеке ережелеріңізге және қауіпсіздік талаптарына сәйкестігін тексереді. Электрондық хат үшін ол алушыны және хат мәтінін тексеріп, қате мекенжайды немесе сіз бөлісуді ойламаған ақпаратты анықтауға көмектеседі.

Автоматты тексеру қадамға рұқсат берсе, оны ұсынған dot тиісті компьютер не қолданба құралын пайдаланып орындайды, содан кейін нәтижесімен тапсырмаңызды жалғастырады. Бұрын берген мақұлдауыңыз сол әрекетті қамтыса және ережелер жаңа растауды талап етпесе, ол сол мақұлдауға сүйене алады.

Автоматты тексеру қадамды бұғаттаса, әрекеттің орындалуына жол бермейді және dot агентіне себебін хабарлайды. Бұғаттауды шешуге көмектесетін болса, dot қосымша ақпарат немесе мақұлдауыңызды сұрап, содан кейін қадамды қайта тексеруге ұсына алады. Себебіне қарай ол рұқсат етілген баламаны қолданып көруі, сақтықты қажет ететін қадамды сізге қайтаруы немесе тоқтауы мүмкін. Сіздің мақұлдауыңыз негізгі қауіпсіздік талаптарын жоя алмайды.

Автоматты тексерудің орындалуын қамтамасыз ететін басқару тетіктерін dots өзгерте алатын орталардан тыс ұстаймыз. Сондықтан олар міндетті тексеруді өзгерте де, өшіре де алмайды. Тек оқуға арналған кәдімгі қадамдар қолданба рұқсаттарына, құрал шектеулеріне және басқа қорғаныс шараларына бағынады, бірақ бұл қосымша тексеруді қажет етпейді.

Dots агенттеріне тұрақты жұмысты сеніп тапсыру үшін олардың нұсқауларыңызды қалай орындайтынын және күтпеген жағдайға қалай жауап беретінін білу қажет. Astra оларға ниетіңізді түсінуге көмектеседі, ал деректеріне, жұмыс кеңістіктеріне, тіркелгі деректеріне және әрекеттеріне қатысты қорғаныс шаралары қателерден немесе зиянды контенттен келетін залалды шектеуге көмектеседі. Осы қорғаныс шаралары бірге dots агенттеріне пайдалы жұмыс істеуге мүмкіндік беріп, қатенің қалаусыз әрекетке немесе ақпараттың ашылуына әкелу ықтималдығын азайтады.

Dots нелерге қосыла алатынын және қалай көмектесетінін өзіңіз таңдайсыз. Олардың жұмыс барысын бақылап, қажеттіліктеріңіз өзгерген сайын бағытын өзгерте аласыз. Мақұлдау сұрау және қадамдарды сізге қайтару негізгі шешімдерді өз қолыңызда қалдырады. Dots әлі де қателесуі мүмкін, сондықтан нақты қолданыстан тәжірибе жинақтай отырып, олардың қорғаныс шараларын сынап, жетілдіре береміз. Мақсатымыз — жұмысты dots агенттеріне тапсырып, кейін оның ілгерілегенін көруді жеңілдету. Бұл ретте тапсырма сіздің қалауларыңызға сай орындалып, маңызды шешімдер өз қолыңызда қалады.

Қорғаныс шараларымыз, қауіпсіздік бағалаулары және әлі де бар шектеулер туралы толығырақ білу үшін жүйе картасын⁠(жаңа терезеде ашылады) оқыңыз.

ChatGPT қауіпсіздігінің негіздері туралы OpenAI жүйесіндегі қауіпсіздік және құпиялық материалын қараңыз. Веб-қауіпсіздік қорғаныстарының бірін толығырақ білу үшін ЖИ агенті сілтемені басқанда деректеріңізді қорғау материалын қараңыз.