Kaip užtikriname „dots“ agentų saugą, saugumą ir privatumą

„dots“ – tai nuolat veikiantys agentai, kurie perima tęstines užduotis, kad galėtumėte daugiau laiko ir dėmesio skirti tam, kas jums rūpi. Kiekvienas „dot“ agentas turi savo kompiuterį ir dirba su programomis, kurias pasirenkate prijungti. Jūs nustatote „dots“ agentų tikslus ir apibrėžiate, ką jie gali daryti savarankiškai. Jie gali nuosekliai atlikti užduoties veiksmus, prisitaikyti prie pokyčių ir tęsti darbą tarp pokalbių. Pavyzdžiui, jie gali sekti besirutuliojančius įvykius ir parengti naujienlaiškio juodraštį arba padėti atnaujinti projektą gavę naujos informacijos – pateikti rezultatus jums peržiūrėti ir kreiptis į jus, kai sprendimui reikia jūsų vertinimo.

Patikėdami „dots“ agentams tokią atsakomybę, patikite jiems ir daugiau savo informacijos bei darbų. Turėtumėte suprasti, ką kiekvienas „dot“ agentas gali pasiekti, kaip jis naudojasi suteikta prieiga ir kada jam reikia jūsų įsitraukimo. Šie klausimai svarbūs, nes agento klaidos gali turėti pasekmių ir už pokalbio ribų: neteisingai supratęs prašymą, jis gali pakeisti ne tą failą arba pasidalyti informacija, kurią norėjote išlaikyti privačią.

Kuriame apsaugos priemones kiekvienai šio darbo daliai. Pradedame nuo „GPT‑6 Astra“, kurį mokome suprasti jūsų ketinimus ir laikytis saugos taisyklių. Tada pridedame apsaugos priemones, apimančias „dots“ agentų naudojamą informaciją, jų darbo aplinkas ir planuojamus veiksmus. Apsaugota debesijos darbo erdvė padeda apriboti klaidų poveikį, saugaus prisijungimo procesai – apsaugoti slaptus prisijungimo duomenis, o atskiros veiksmų patikros – aptikti veiksmus, neatitinkančius jūsų nurodymų ar saugos reikalavimų. Jūs pasirenkate, ką prijungti, nustatote nuostatas ir stebite vykdomą darbą arba keičiate jo kryptį.

„dots“ agentai vis tiek gali klysti, todėl toliau tobulinsime šias apsaugos priemones remdamiesi realaus naudojimo patirtimi. Čia paaiškiname, kaip šios apsaugos priemonės veikia kartu, ką galite valdyti ir kokių apribojimų lieka, kad galėtumėte pagrįstai nuspręsti, kokį darbą patikėti „dots“ agentams.

„dots“ agentai veikia naudodami „GPT‑6 Astra“ – mūsų pajėgiausią ir geriausiai su žmogaus ketinimais bei vertybėmis suderintą modelį. „Astra“ puikiai supranta jūsų tikslą, neperžengia prašymo ribų ir užduoda tikslingus klausimus, kai atsakymai gali pakeisti tai, ką reikėtų daryti. Šie gebėjimai padeda „dots“ agentams ilgainiui tęsti užduotis nepametant jūsų sumanymo.

Išmokėme „Astra“ atmesti žalingus prašymus, įskaitant susijusius su piktnaudžiavimu biologijos ar kibernetinio saugumo srityse. Tikriname, kaip „dots“ agentai reaguoja į besikeičiančius nurodymus, dviprasmiškus prašymus ir bandymus paskatinti juos peržengti jūsų suteiktų leidimų ribas. Žmonių atliekamas ir automatizuotas testavimas spragoms nustatyti padeda mums rasti trūkumus, tobulinti modelį bei su juo veikiančias sistemas ir iš naujo išbandyti pakeitimus.

Šias modelio apsaugos priemones papildome „ChatGPT“ saugumo priemonėmis ir papildoma apsauga agentams, galintiems nuolat dirbti jūsų vardu.

Į „ChatGPT“ integruotos apsaugos priemonės apima jūsų turinio šifravimą jį saugant ir perduodant tarp jūsų, „OpenAI“ ir mūsų paslaugų teikėjų, taip pat prieigos kontrolę, padedančią apsaugoti saugomą informaciją. Mūsų paskyros saugumo sistemos taip pat ieško įtartino jūsų „OpenAI“ paskyros naudojimo požymių ir gali pareikalauti prisijungti iš naujo, jei sesija atrodo pažeista.

Agentus taip pat reikia apsaugoti nuo informacijos, su kuria jie susiduria dirbdami. Tinklalapyje, el. laiške ar dokumente gali būti kenkėjiškų nurodymų, kuriais bandoma nukreipti agentus kita linkme arba priversti juos atskleisti privačią informaciją. Ši problema vadinama užklausos įterpimu. Modelio apsaugos priemones deriname su įrankių apribojimais, patikromis prieš atliekant veiksmus ir stebėsena, kad toks turinys nepaskatintų nepageidaujamų veiksmų.

Taip pat stebime „dots“ agentus, kai jie planuoja ir atlieka veiksmus, ieškodami galimai žalingo elgesio, pavyzdžiui, jūsų nurodymų ribų peržengimo ar bandymų apeiti apsaugos priemones. Jei saugos stebėsenos sistema aptinka riziką vykdomame „dot“ agento darbe, ji gali pristabdyti tą darbą ir parodyti jums įspėjimą, kurį turėtumėte peržiūrėti. Ši integruota stebėsena padeda aptikti rizikas vykdant užduotį ir papildo apsaugos priemones, ribojančias tai, ką „dots“ agentai gali pasiekti ir atlikti.

Kiekvienas „dot“ agentas turi savo debesijos kompiuterį, kuriame gali naršyti, analizuoti informaciją, kurti failus ir paleisti įrankius. „dots“ agentai gali tęsti darbą šiose darbo erdvėse net ir tada, kai aktyviai nedalyvaujate.

Jūs pasirenkate, kuriomis paskyromis „dots“ agentai gali naudotis: prijungiate programas pagal „ChatGPT“ suteiktus leidimus arba prisijungiate prie svetainės „dot“ agento naršyklėje, naudodami saugų prisijungimą, jei jis palaikomas. Taip pat galite prijungti asmeninį kompiuterį ir suteikti „dots“ agentams daugiau galimybių padėti, pavyzdžiui, analizuoti darbalaukyje išsaugotą skaičiuoklę arba naudoti įrenginyje įdiegtus programavimo įrankius.

Kiekvieno „dot“ agento apsaugotoje darbo erdvėje izoliuota vykdymo aplinka riboja, kokį kodą ir įrankius agentas gali pasiekti, ir taip padeda apriboti žalingo kodo ar klaidingos komandos poveikį. Taip pat atskiriame naudotojų debesijos aplinkas vieną nuo kitos ir prižiūrime jose veikiančią „Linux“ operacinę sistemą bei „Chrome“ naršyklę.

„dots“ agentai vykdo kodą aplinkose, atskirtose nuo sistemų, kurios koordinuoja jų darbą ir užtikrina pagrindinių apsaugos priemonių taikymą. Ten jie gali kurti failus ir paleisti įrankius, tačiau negali pasinaudoti šia prieiga saugos sistemoms keisti ar privalomoms patikroms išjungti. Toks atskyrimas padeda išlaikyti apsaugos priemones veikiančias net ir „dot“ agentui suklydus.

Toliau aprašytos veiksmų taisyklės nustato, ką „dots“ agentai gali daryti naudodamiesi suteikta prieiga.

Saugus prisijungimas leidžia „dots“ agentams dirbti paskyrose neįtraukiant slaptažodžių į pokalbį. Kai palaikomas saugus prisijungimas, modelio veikimas pristabdomas, kol užpildote saugią prisijungimo formą. Ji siunčia jūsų prisijungimo duomenis tiesiai į naršyklės aplinką ir juos pateikia neatskleisdama modelio kontekstui. Tada „dot“ agentas tęsia darbą paskyroje, prie kurios prisijungėte. Kai slaptažodis nepatenka į pokalbį, sumažėja rizika, kad jis pasirodys atsakyme arba bus netyčia atskleistas.

Palaikomi prisijungimo su išsaugotu slaptažodžiu procesai išlaiko šį atskyrimą pasitelkdami specialią šifruotą prisijungimo duomenų tarnybą. Tarnyba pateikia slaptažodį prisijungimui neperduodama jo modeliui, todėl „dots“ agentai gali dirbti jūsų leistose paskyrose, o slaptažodžiai lieka už modelio konteksto ribų. Šios apsaugos priemonės taikomos tik saugaus prisijungimo ir prisijungimo su išsaugotu slaptažodžiu procesams; atskirai į skaitomą pranešimą ar dokumentą įrašyta slapta informacija modeliui vis tiek gali būti matoma.

Kurias programas gali naudoti „dots“ agentai, valdote per esamas „ChatGPT“ jungtis ir leidimus, kurie yra bendri „ChatGPT“, „ChatGPT Work“ ir „Codex“. Nustatymų skiltyje „Papildiniai“ galite peržiūrėti prijungtas paskyras ir pakeisti, ką „dots“ agentai galės pasiekti ateityje. Atjungus programą, per tą jungtį nauja informacija nebebendrinama. Tačiau informacija, kurią „dot“ agentas jau sužinojo, lieka jo kontekste. Šie leidimai reguliuoja prieigą prie jūsų programų, bet nepanaikina privalomų saugos reikalavimų.

Jei norite, kad „dots“ agentai dirbtų su vietiniais failais ar įrankiais, taip pat galite prijungti savo kompiuterį. Šiai jungčiai ir toliau taikomi vietinės izoliuotos vykdymo aplinkos apribojimai bei atitinkamos veiksmų patikros. Norint naudoti kompiuterio mikrofoną ar kamerą, taip pat reikia įrenginio leidimų, kuriuos galite suteikti „ChatGPT“.

Kompiuterio programos veiklos rodinyje galite stebėti vykdomą darbą ir jį nukreipti. Jame rodomos vykdomos ir deleguotos užduotys bei jų būsena. Galite papildyti kontekstą, ištaisyti nesusipratimą, pakeisti kryptį arba paprašyti „dot“ agento sustoti.

„dots“ agentai ilgainiui kaupia kontekstą, kad jų pagalba būtų naudingesnė. Kai jie deleguoja darbą, kitiems agentams nurodoma išsaugoti užduočiai reikalingą informaciją ir nekaupti nereikalingų neskelbtinų duomenų. Kiekvienas „dot“ agentas turi savo kontekstą, kurį galite bet kada išvalyti.

„ChatGPT Business“, „Enterprise“ ir „Edu“ darbo erdvių duomenų pagal numatytuosius nustatymus nenaudojame savo modeliams mokyti. Naudodami asmeninius „ChatGPT“ planus, nustatymu „Tobulinti modelį visiems“ galite pasirinkti, ar pokalbiai su jūsų „dots“ agentais ir jų atliekamas darbas bus naudojami mūsų modeliams tobulinti. Kai modelių mokymas įjungtas, tam gali būti naudojami ir „dots“ agentų atliekami veiksmai bei jūsų nustatyti automatizavimai, prieš tai imantis priemonių asmens tapatybę nustatyti leidžiantiems duomenims pašalinti. Daugiau apie tai, kaip naudojami jūsų duomenys, galite perskaityti mūsų pagalbos centro straipsnyje⁠(atsidaro naujame lange).

Be jūsų pavestų darbų, „dots“ agentai gali pradėti informacijos rinkimo užduotis fone ir ieškoti kitų būdų padėti, pavyzdžiui, pastebėti jūsų kelionės planų pasikeitimą. Tai vadiname iniciatyviu informacijos rinkimu.

Šios užduotys vykdomos kiekvieno „dot“ agento debesijos aplinkoje. Joms naudojami tik skaityti skirti įrankiai, kuriais renkama informacija iš prijungtų šaltinių, kuriuos leidžiama pasiekti. Tada išsaugomos privačios pastabos tam „dot“ agentui. Šiuos apribojimus užtikriname programiniu kodu: informacijos rinkimo užduotys negali tiesiogiai siųsti žinučių kitiems žmonėms, keisti turinio prijungtose programose ar valdyti naršyklės arba darbalaukio. „dots“ agentai gali remtis surinkta informacija spręsdami, kaip padėti, tačiau visi tolesni veiksmai turi atitikti įprastas taisykles ir patikras.

Savo modelių tiesiogiai nemokome naudodami šių fone vykdomų informacijos rinkimo užduočių gijas ar jų sukurtas pastabas. Tačiau „dot“ agentas gali gauti pastabas iš savo fone vykdomos informacijos rinkimo užduoties arba perskaityti jos gijų dalis. Taip į pokalbį ar užduotį, kuriuos leidžiama naudoti mokymui, įtraukta informacija gali būti naudojama modeliams mokyti, atsižvelgiant į jūsų nustatymus. Pavyzdžiui, fone vykdoma užduotis gali surinkti informaciją apie kelias būsimos kelionės po Europą kryptis. Šios informacijos rinkimo užduoties gija ir jos pastabos mokymui tiesiogiai nenaudojamos. Vėliau, kai paprašysite savo „dot“ agento padėti suplanuoti kelionę į Lisaboną, jis gali perskaityti per fone vykdytą užduotį parengtą pastabą apie Lisaboną. Ši pastaba tampa jūsų pokalbio apie kelionės planavimą konteksto dalimi ir tuomet gali būti naudojama mokymui, atsižvelgiant į jūsų nustatymus. Likusi fone surinkta medžiaga mokymui nenaudojama, nebent ji taip pat įtraukiama į pokalbį ar užduotį, kuriuos leidžiama naudoti mokymui.

„dots“ agentai laikosi integruotų apsaugos taisyklių, skirtų išvengti žalos ir svarbius sprendimus palikti jums. Jų saugos taisyklės reikalauja atmesti žalingus prašymus, įskaitant susijusius su piktnaudžiavimu biologijos ar kibernetinio saugumo srityse. Vykdant užduotis, kurias jie gali padėti atlikti, veiksmų taisyklės apibrėžia, kada galima tęsti, kada būtina paprašyti patvirtinimo ir kada veiksmą reikia perduoti jums.

Laikydamiesi šių ribų, „dots“ agentai gali skaityti informaciją, kurią turi leidimą pasiekti, ją analizuoti ir rengti juodraščius jūsų pokalbiuose. Jie mokomi prieš siunčiant žinutę ar bendrinant failą gauti leidimą, apimantį informaciją ir gavėjo tipą. Kuo duomenys jautresni, tuo tiksliau reikia nurodyti gavėjus. Pavyzdžiui, norėdamas bendrinti sveikatos duomenis, naudotojas visada turės įvardyti konkretų gavėją („pasidalyk mano ligos istorija su gydytoju Thompsonu“). Bendrinant mažiau jautrius asmens duomenis, pavyzdžiui, el. pašto adresą ar telefono numerį, pagal numatytuosius nustatymus naudotojas turės nurodyti gavėjų kategorijas („bet kuri oro linijų bendrovė“). Sukūręs pasirinktinę taisyklę, naudotojas gali dar labiau išplėsti mažiau jautrių asmens duomenų bendrinimo leidimus („pateik bet kurioje internetinėje formoje“). Daugiau apie šią funkciją skaitykite kitame skyriuje. Šis leidimas lieka susietas su jūsų užduoties nurodymais; vėliau tęsiamas ar deleguojamas darbas jo ribų neišplečia.

„dots“ agentai gali pirkti naudodami korteles, kurias jau išsaugojote pardavėjo svetainėje. Tokiems pirkimams reikia jūsų pritarimo.

Kai kuriems veiksmams jūsų patvirtinimas būtinas kiekvieną kartą, pavyzdžiui, negrįžtamai trinant duomenis, diegiant ar paleidžiant programinę įrangą iš neatpažinto šaltinio arba suteikiant naują prieigą, turinčią įtakos saugumui. Šie reikalavimai suteikia jums galimybę peržiūrėti pakeitimus, kuriuos gali būti sunku atšaukti arba kuriais kam nors suteikiama nauja prieiga.

Atliekant kitus jautrius veiksmus, pavyzdžiui, keičiant slaptažodį ar pervedant pinigus tarp finansinių sąskaitų, „dots“ agentai gali padėti su likusia užduoties dalimi, tačiau pačius jautrius veiksmus turi perduoti jums.

Pasirinktinės taisyklės leidžia nustatyti, kaip „dots“ agentai jums padės neperžengdami integruotų apsaugos priemonių ribų, pavyzdžiui, galite nurodyti niekada nesiųsti el. laiškų. Taip pat galite duoti konkrečiai užduočiai skirtų nurodymų, pavyzdžiui, paprašyti „dot“ agento pranešti kolegai, kad jūsų nėra, neatskleidžiant asmeninės priežasties. Šie nurodymai galioja ir tada, kai agentas deleguoja darbą arba dirba fone.

„dots“ agentai gali padėti parašyti pasirinktines taisykles, tačiau norint jas keisti reikia jūsų pritarimo. Šios nuostatos veikia integruotų apsaugos taisyklių ribose ir negali panaikinti privalomų patvirtinimų, veiksmų perdavimo jums ar pagrindinių saugos reikalavimų.

Prieš „dots“ agentams atliekant tokius veiksmus kaip el. laiškų siuntimas ar failų keitimas, atskira saugos sistema, vadinama automatine peržiūra, patikrina, ar planuojami veiksmai atitinka jūsų nurodymus, pasirinktines taisykles ir saugos reikalavimus. Siunčiant el. laišką, ji patikrina gavėją ir laiško turinį, kad padėtų aptikti neteisingą adresą ar informaciją, kuria neketinote dalytis.

Jei automatinė peržiūra leidžia veiksmą, jį pasiūlęs „dot“ agentas atlieka jį naudodamas atitinkamą kompiuterio ar programos įrankį, o gautu rezultatu remiasi tęsdamas jūsų užduotį. Jis gali remtis jau duotu jūsų pritarimu, jei šis apima numatomą veiksmą ir taisyklės nereikalauja naujo patvirtinimo.

Jei automatinė peržiūra blokuoja veiksmą, ji neleidžia jo atlikti ir nurodo „dot“ agentui priežastį. Agentas gali paprašyti daugiau informacijos arba jūsų pritarimo, jei tai galėtų pašalinti blokavimo priežastį, ir vėl pateikti veiksmą peržiūrai. Priklausomai nuo priežasties, jis gali vietoj to išbandyti leidžiamą alternatyvą, perduoti jautrų veiksmą jums arba sustoti. Jūsų pritarimas negali panaikinti pagrindinių saugos reikalavimų.

Automatinės peržiūros taikymą užtikrinančias priemones laikome už aplinkų, kurias „dots“ agentai gali keisti, ribų, todėl jie negali pakeisti ar išjungti privalomos patikros. Įprastiems tik skaitymo veiksmams ir toliau taikomi programų leidimai, įrankių apribojimai bei kitos apsaugos priemonės, tačiau ši papildoma peržiūra jiems nereikalinga.

Patikint „dots“ agentams tęstinius darbus, svarbu žinoti, kaip jie laikysis jūsų nurodymų ir reaguos į netikėtas situacijas. „Astra“ padeda jiems suprasti jūsų ketinimus, o jų duomenų, darbo erdvių, prisijungimo duomenų ir veiksmų apsaugos priemonės padeda apriboti klaidų ar kenkėjiško turinio žalą. Kartu šios apsaugos priemonės leidžia „dots“ agentams atlikti naudingą darbą ir mažina tikimybę, kad klaida lems nepageidaujamą veiksmą ar informacijos atskleidimą.

Jūs pasirenkate, prie ko „dots“ agentai gali prisijungti ir kaip jie jums padės, o pasikeitus poreikiams galite stebėti jų pažangą ar pakeisti darbo kryptį. Pritarimo reikalavimai ir veiksmų perdavimas jums užtikrina, kad svarbiausi sprendimai liktų jūsų rankose. „dots“ agentai vis tiek gali klysti, todėl toliau tikrinsime ir tobulinsime jų apsaugos priemones remdamiesi realaus naudojimo patirtimi. Mūsų tikslas – kad jums būtų lengviau patikėti darbą „dots“ agentams ir grįžus rasti naudingų rezultatų, o užduotis būtų vykdoma pagal jūsų nuostatas ir svarbūs sprendimai liktų jūsų rankose.

Daugiau apie mūsų apsaugos priemones, saugos vertinimus ir likusius apribojimus skaitykite sistemos kortelėje⁠(atsidaro naujame lange).

Apie „ChatGPT“ saugumo pagrindus skaitykite straipsnyje „OpenAI“ saugumas ir privatumas. Išsamiau apie vieną žiniatinklio saugumo priemonę skaitykite straipsnyje Kaip apsaugome jūsų duomenis, kai DI agentas spusteli nuorodą.