Kā mēs nodrošinām Dots aģentu drošumu, drošību un privātumu

Dots ir pastāvīgi aktīvi aģenti, kas uzņemas ilgstošus pienākumus, ļaujot jums veltīt vairāk laika un uzmanības tam, kas jums ir svarīgs. Katram Dots aģentam ir savs dators, un tas darbojas lietotnēs, kuras izvēlaties savienot. Jūs nosakāt Dots aģentu mērķus un to, ko tie drīkst darīt patstāvīgi. Tie var secīgi veikt uzdevuma soļus, pielāgoties izmaiņām un turpināt darbu starp sarunām. Tie var sekot kāda notikuma attīstībai un sagatavot jaunumu vēstules melnrakstu vai palīdzēt atjaunināt projektu, saņemot jaunu informāciju, — iesniedzot rezultātus jums pārskatīšanai un vēršoties pie jums, kad lēmumam vajadzīgs jūsu vērtējums.

Uzticot Dots aģentiem šos pienākumus, jūs tiem uzticat arī vairāk savas informācijas un darba. Jums jābūt skaidram, kam katrs Dots aģents var piekļūt, kā tas izmanto šo piekļuvi un kad tam jāiesaista jūs. Šie jautājumi ir svarīgi, jo aģenta kļūdu sekas var sniegties ārpus sarunas: pārprotot pieprasījumu, tas var mainīt nepareizo failu vai izpaust informāciju, kuru vēlējāties paturēt privātu.

Mēs ieviešam aizsardzību katrā šī darba posmā. Sākam ar GPT‑6 Astra, ko apmācām izprast jūsu nodomu un ievērot drošības noteikumus, pēc tam pievienojam aizsardzības pasākumus informācijai, ko Dots aģenti izmanto, videi, kurā tie strādā, un darbībām, ko tie plāno veikt. Aizsargāta mākoņa darbvieta palīdz ierobežot kļūdu sekas, drošas pierakstīšanās procesi palīdz aizsargāt sensitīvus piekļuves datus, bet atsevišķas darbību pārbaudes palīdz atklāt soļus, kas neatbilst jūsu norādījumiem vai drošības prasībām. Jūs izvēlaties, ko savienot, nosakāt savas preferences un darba gaitā sekojat progresam vai maināt darba virzienu.

Dots aģenti joprojām var kļūdīties, un mēs turpināsim pilnveidot šo aizsardzību, mācoties no praktiskās lietošanas pieredzes. Šeit skaidrojam, kā aizsardzības pasākumi darbojas kopā, ko kontrolējat jūs un kādi ierobežojumi joprojām pastāv, lai jūs varētu pieņemt pārdomātus lēmumus par darbu, ko uzticat Dots aģentiem.

Dots aģentu darbību nodrošina GPT‑6 Astra — mūsu spējīgākais un ar cilvēku nodomiem vislabāk saskaņotais modelis. Astra īpaši labi izprot jūsu mērķi, nepārsniedz pieprasījuma robežas un uzdod mērķtiecīgus jautājumus, ja atbildes varētu mainīt nepieciešamo rīcību. Šīs spējas palīdz Dots aģentiem ilgstoši veikt uzdevumus, nezaudējot izpratni par jūsu sākotnējo ieceri.

Mēs esam apmācījuši Astra noraidīt kaitīgus pieprasījumus, tostarp tādus, kas saistīti ar ļaunprātīgu izmantošanu bioloģijas vai kiberdrošības jomā. Mēs pārbaudām, kā Dots aģenti tiek galā ar mainīgiem norādījumiem, neskaidriem pieprasījumiem un mēģinājumiem panākt, lai tie pārsniegtu jūsu piešķirtās atļaujas. Cilvēku veikti un automatizēti imitēti uzbrukumi palīdz mums atrast vājās vietas, uzlabot modeli un ar to saistītās sistēmas un pēc tam vēlreiz pārbaudīt veiktās izmaiņas.

Šos modeļa aizsardzības pasākumus mēs papildinām ar ChatGPT drošības mehānismiem un papildu pasākumiem aģentiem, kas var ilgstoši strādāt jūsu uzdevumā.

ChatGPT iebūvētā aizsardzība ietver jūsu satura šifrēšanu gan glabāšanas laikā, gan pārsūtot to starp jums, OpenAI un mūsu pakalpojumu sniedzējiem, kā arī piekļuves kontroles mehānismus, kas palīdz aizsargāt glabāto informāciju. Mūsu kontu drošības sistēmas arī meklē aizdomīgas darbības jūsu OpenAI kontā un var pieprasīt pierakstīties atkārtoti, ja ir pazīmes, ka sesija ir apdraudēta.

Aģentiem ir vajadzīga aizsardzība arī pret informāciju, ar ko tie saskaras darba gaitā. Tīmekļlapa, e-pasts vai dokuments var saturēt ļaunprātīgus norādījumus, kuru mērķis ir mainīt aģentu rīcību vai likt tiem izpaust privātu informāciju. Šo problēmu sauc par uzvedņu injekciju. Mēs apvienojam modeļa aizsardzības pasākumus ar rīku ierobežojumiem, pārbaudēm pirms darbību izpildes un uzraudzību, lai palīdzētu novērst šāda satura izraisītu nevēlamu rīcību.

Mēs arī uzraugām Dots aģentus, kad tie plāno un veic darbības, meklējot potenciāli kaitīgu rīcību, piemēram, jūsu norādījumu robežu pārkāpšanu vai mēģinājumus apiet aizsardzības mehānismus. Ja drošības uzraudzības sistēma Dots aģenta pašreizējā darbā konstatē iespējamu problēmu, tā var apturēt šo darbu un parādīt jums brīdinājumu izvērtēšanai. Šī uzraudzība ir iebūvēta un palīdz atklāt problēmas uzdevuma gaitā, papildinot aizsardzības pasākumus, kas ierobežo Dots aģentu piekļuvi un rīcību.

Katram Dots aģentam ir savs mākoņdators, kurā tas var pārlūkot tīmekli, analizēt informāciju, veidot failus un izmantot rīkus. Dots aģenti var turpināt darbu šajās darbvietās arī tad, kad jūs aktīvi neiesaistāties.

Jūs izvēlaties, kurus kontus Dots aģenti var izmantot: savienojot lietotnes atbilstoši ChatGPT piešķirtajām atļaujām vai pierakstoties vietnē Dots aģenta pārlūkā un izmantojot drošo pierakstīšanos, ja tā tiek atbalstīta. Varat arī pievienot savu personālo datoru, lai Dots aģenti varētu palīdzēt vēl vairāk, piemēram, analizēt darbvirsmā saglabātu izklājlapu vai izmantot ierīcē instalētos programmēšanas rīkus.

Katra Dots aģenta aizsargātajā darbvietā smilškastes izolācija ierobežo, kādam kodam un rīkiem tas var piekļūt, palīdzot mazināt kaitīga koda vai kļūdainas komandas ietekmi. Mēs arī izolējam lietotāju mākoņa vides citu no citas un uzturam to pamatā esošo Linux operētājsistēmu un Chrome pārlūku.

Dots aģenti izpilda kodu vidēs, kas ir nodalītas no sistēmām, kuras koordinē to darbu un nodrošina galveno aizsardzības pasākumu ievērošanu. Šajās vidēs tie var veidot failus un izmantot rīkus, taču nevar izmantot šo piekļuvi, lai mainītu drošības sistēmas vai izslēgtu obligātās pārbaudes. Šāds nodalījums palīdz saglabāt aizsardzības mehānismus arī tad, ja Dots aģents kļūdās.

Tālāk aprakstītie darbību noteikumi nosaka, ko Dots aģenti var darīt ar tiem piešķirto piekļuvi.

Drošā pierakstīšanās ļauj Dots aģentiem strādāt kontos, neiekļaujot paroles sarunā. Atbalstītajos pierakstīšanās procesos modeļa darbība tiek apturēta, kamēr aizpildāt drošu pierakstīšanās veidlapu. Tā nosūta jūsu piekļuves datus tieši uz pārlūka vidi un iesniedz tos, neiekļaujot modeļa kontekstā. Pēc tam Dots aģents atsāk darbu kontā, kurā esat pierakstījies. Neiekļaujot paroli sarunā, samazinās risks, ka tā parādīsies atbildē vai tiks nejauši izpausta.

Atbalstītie saglabāto paroļu izmantošanas procesi saglabā šo nodalījumu, izmantojot īpašu šifrētu piekļuves datu pakalpojumu. Šis pakalpojums nodrošina paroli pierakstīšanās vajadzībām, nenododot to modelim. Tādējādi Dots aģenti var strādāt jūsu atļautajos kontos, bet paroles paliek ārpus modeļa konteksta. Šie aizsardzības pasākumi attiecas tieši uz drošās pierakstīšanās un saglabāto paroļu izmantošanas procesiem; slepena informācija, kas atsevišķi ievietota lasāmā ziņojumā vai dokumentā, joprojām var būt modelim redzama.

Jūs pārvaldāt, kuras lietotnes Dots aģenti var izmantot, izmantojot esošos ChatGPT savienojumus un atļaujas, kas ir kopīgas ChatGPT, ChatGPT Work un Codex. Iestatījumu sadaļā “Spraudņi” varat pārskatīt savienotos kontus un mainīt to, kam Dots aģenti turpmāk varēs piekļūt. Atvienojot lietotni, tiek pārtraukta jaunas informācijas apmaiņa, izmantojot šo savienojumu. Taču informācija, ko Dots aģents jau ir ieguvis, paliek tā kontekstā. Šīs atļaujas nosaka piekļuvi jūsu lietotnēm; tās neatceļ obligātās drošības prasības.

Ja vēlaties, lai Dots aģenti strādātu ar lokāliem failiem vai rīkiem, varat arī pievienot savu datoru. Uz šo savienojumu joprojām attiecas lokālās smilškastes ierobežojumi un attiecīgās darbību pārbaudes. Datora mikrofona vai kameras izmantošanai ir vajadzīgas arī ierīces atļaujas, kuras varat piešķirt ChatGPT.

Darbību skats datora lietotnē ļauj sekot notiekošajam darbam un to virzīt. Tajā ir redzami pašreizējie un deleģētie uzdevumi un to statuss. Varat pievienot kontekstu, novērst pārpratumu, mainīt darba virzienu vai lūgt Dots aģentam apstāties.

Dots aģenti laika gaitā uzkrāj kontekstu, lai varētu palīdzēt lietderīgāk. Deleģējot darbu, citiem aģentiem tiek norādīts saglabāt uzdevumam vajadzīgo informāciju un neglabāt nevajadzīgas sensitīvas detaļas. Katram Dots aģentam ir savs konteksts, ko varat jebkurā laikā atiestatīt.

ChatGPT Business, Enterprise un Edu darbvietu datus pēc noklusējuma neizmantojam savu modeļu apmācībai. Personīgajos ChatGPT plānos ar iestatījumu “Uzlabot modeli visiem” jūs nosakāt, vai jūsu Dots aģentu sarunas un paveiktais darbs tiek izmantots mūsu modeļu uzlabošanai. Ja modeļu apmācība ir iespējota, izmantotā informācija var ietvert Dots aģentu veiktās darbības un jūsu iestatītos automatizētos procesus pēc tam, kad esam veikuši pasākumus personas identifikatoru noņemšanai. Vairāk par to, kā tiek izmantoti jūsu dati, varat lasīt šajā rakstā⁠(atveras jaunā logā) mūsu palīdzības centrā.

Līdztekus jūsu uzdotajam darbam Dots aģenti var sākt izpētes uzdevumus fonā, lai meklētu citas iespējas palīdzēt, piemēram, pamanot izmaiņas jūsu ceļojuma plānos. Mēs to saucam par proaktīvo izpēti.

Šie uzdevumi tiek izpildīti katra Dots aģenta mākoņa vidē. To izpildē tiek izmantoti tikai lasīšanai paredzēti rīki, lai vāktu informāciju no atļautajiem savienotajiem avotiem un pēc tam saglabātu privātas piezīmes attiecīgajam Dots aģentam. Šos ierobežojumus nodrošinām koda līmenī: izpētes uzdevumi nevar tieši sūtīt ziņojumus citiem cilvēkiem, mainīt saturu savienotajās lietotnēs vai vadīt pārlūku vai darbvirsmu. Dots aģenti var izmantot atklājumus, lai izlemtu, kā palīdzēt, taču visām turpmākajām darbībām jāatbilst ierastajiem noteikumiem un pārbaudēm.

Mēs neizmantojam šos fona izpētes pavedienus vai tajos izveidotās piezīmes tieši modeļu apmācībai. Tomēr Dots aģents var saņemt piezīmes no sava fona izpētes uzdevuma vai lasīt daļu savu izpētes pavedienu. Informāciju, kas šādi nonāk apmācībai izmantojamā sarunā vai uzdevumā, atkarībā no jūsu iestatījumiem var izmantot modeļu apmācībai. Piemēram, fona izpētes uzdevums varētu apkopot informāciju par vairākiem galamērķiem gaidāmajam ceļojumam uz Eiropu. Šis izpētes pavediens un tā piezīmes netiek tieši izmantotas apmācībai. Vēlāk, kad lūdzat savam Dots aģentam palīdzēt plānot ceļojumu uz Lisabonu, tas var izlasīt piezīmi par Lisabonu no sava fona izpētes uzdevuma. Šī piezīme kļūst par daļu no ceļojuma plānošanas sarunas konteksta, un atkarībā no jūsu iestatījumiem to pēc tam var izmantot apmācībai. Pārējā fona izpētes informācija netiek izmantota apmācībai, ja vien arī tā nenonāk apmācībai izmantojamā sarunā vai uzdevumā.

Dots aģenti ievēro iebūvētus aizsargmehānismus, kas paredzēti kaitējuma novēršanai un nodrošina, ka būtisku lēmumu pieņemšana paliek jūsu ziņā. To drošības noteikumi prasa noraidīt kaitīgus pieprasījumus, tostarp tādus, kas saistīti ar ļaunprātīgu izmantošanu bioloģijas vai kiberdrošības jomā. Uzdevumos, kuros tie var palīdzēt, darbību noteikumi nosaka, kad aģenti drīkst turpināt, kad tiem jālūdz apstiprinājums un kad kāds solis jānodod izpildei jums.

Šajās robežās Dots aģenti var lasīt informāciju, kurai tiem ir atļauts piekļūt, analizēt to un sagatavot melnrakstus jūsu sarunās. Pirms ziņojuma nosūtīšanas vai faila kopīgošanas tie ir apmācīti prasīt atļauju, kas aptver gan informāciju, gan saņēmēja veidu, — jo sensitīvāki dati, jo precīzāk jānorāda saņēmēji. Piemēram, veselības datu gadījumā lietotājam vienmēr būs jānorāda konkrēts saņēmējs vārdā (“nosūti manu slimības vēsturi doktoram Tompsonam”). Mazāk sensitīvu personas datu, piemēram, e-pasta adreses vai tālruņa numura, gadījumā lietotājam pēc noklusējuma būs jānorāda saņēmēju kategorijas (“jebkurai aviokompānijai”). Lietotājs var vēl vairāk paplašināt mazāk sensitīvu personas datu izmantošanas noteikumus (“ievadi jebkurā tiešsaistes veidlapā”), izveidojot pielāgotu noteikumu. Plašāku informāciju par šo funkciju skatiet nākamajā sadaļā. Šī atļauja paliek saistīta ar jūsu norādījumiem konkrētajam uzdevumam; darba turpināšana vēlāk vai deleģēšana to nepaplašina.

Dots aģenti var veikt pirkumus, izmantojot kartes, kuras jau esat saglabājis tirgotāja vietnē. Šiem pirkumiem ir vajadzīgs jūsu apstiprinājums.

Dažām darbībām jūsu apstiprinājums ir vajadzīgs katru reizi, tostarp neatgriezeniskai datu dzēšanai, programmatūras instalēšanai vai palaišanai no neatpazīta avota un jaunas, no drošības viedokļa sensitīvas piekļuves piešķiršanai. Šīs prasības dod jums iespēju pārskatīt izmaiņas, kuras varētu būt grūti atsaukt vai kuras kādam piešķirtu jaunu piekļuvi.

Citu sensitīvu soļu gadījumā, piemēram, mainot paroli vai pārskaitot naudu starp finanšu kontiem, Dots aģenti var palīdzēt ar pārējo uzdevumu, taču šie sensitīvie soļi tiem jāatstāj jūsu ziņā.

Pielāgotie noteikumi ļauj jums noteikt, kā Dots aģenti palīdz, ievērojot iebūvēto aizsardzību, — piemēram, norādīt, lai tie nekad nesūta e-pastus. Varat arī dot konkrētam uzdevumam paredzētus norādījumus, piemēram, lūgt Dots aģentam paziņot kolēģim par jūsu prombūtni, neizpaužot personīgo iemeslu. Šie norādījumi paliek spēkā arī tad, kad Dots aģents deleģē darbu vai strādā fonā.

Dots aģenti var palīdzēt jums uzrakstīt pielāgotos noteikumus, taču to mainīšanai ir vajadzīgs jūsu apstiprinājums. Šīs preferences darbojas iebūvēto aizsargmehānismu robežās un nevar atcelt obligātos apstiprinājumus, soļu nodošanu jums vai drošības pamatprasības.

Pirms Dots aģenti veic tādas darbības kā e-pastu sūtīšana vai failu mainīšana, atsevišķa drošības sistēma — automātiskā pārbaude — pārbauda plānoto soļu atbilstību jūsu norādījumiem, pielāgotajiem noteikumiem un drošības prasībām. E-pasta gadījumā tā pārbauda saņēmēju un ziņojumu, lai palīdzētu atklāt nepareizu adresi vai informāciju, kuru neplānojāt izpaust.

Ja automātiskā pārbaude atļauj kādu soli, Dots aģents, kurš to ierosināja, izpilda to ar atbilstošo datora vai lietotnes rīku un pēc tam izmanto rezultātu, lai turpinātu jūsu uzdevumu. Tas var balstīties uz jūsu jau sniegto apstiprinājumu, ja tas aptver konkrēto darbību un noteikumi neprasa jaunu apstiprinājumu.

Ja automātiskā pārbaude bloķē kādu soli, tā neļauj darbību izpildīt un paziņo Dots aģentam iemeslu. Dots aģents var lūgt papildu informāciju vai jūsu apstiprinājumu, ja tas varētu novērst bloķēšanas iemeslu, un pēc tam iesniegt šo soli pārbaudei atkārtoti. Atkarībā no iemesla tas var izvēlēties izmēģināt atļautu alternatīvu, nodot sensitīvu soli izpildei jums vai apstāties. Jūsu apstiprinājums nevar atcelt drošības pamatprasības.

Vadības mehānismi, kas nodrošina automātisko pārbaudi, atrodas ārpus vidēm, kuras Dots aģenti var mainīt, tāpēc tie nevar mainīt vai izslēgt obligātu pārbaudi. Parastiem soļiem, kuros informāciju tikai lasa, joprojām jāatbilst lietotņu atļaujām, rīku ierobežojumiem un citiem aizsardzības pasākumiem, taču šī papildu pārbaude tiem nav vajadzīga.

Uzticot Dots aģentiem ilgstošu darbu, ir svarīgi zināt, kā tie ievēros jūsu norādījumus un reaģēs uz negaidītiem notikumiem. Astra palīdz tiem izprast jūsu nodomu, savukārt datu, darbvietu, piekļuves datu un darbību aizsardzība palīdz ierobežot kaitējumu, ko var radīt kļūdas vai ļaunprātīgs saturs. Kopā šie aizsardzības pasākumi ļauj Dots aģentiem veikt noderīgu darbu, vienlaikus samazinot iespēju, ka kļūda noved pie nevēlamas darbības vai informācijas izpaušanas.

Jūs izvēlaties, kam Dots aģenti var pieslēgties un kā tie palīdz, un varat sekot to progresam vai mainīt darba virzienu, ja mainās jūsu vajadzības. Apstiprinājumi un soļu nodošana jums nodrošina, ka galvenie lēmumi paliek jūsu ziņā. Dots aģenti joprojām var kļūdīties, tāpēc mēs turpināsim pārbaudīt un pilnveidot to aizsardzību, mācoties no praktiskās lietošanas pieredzes. Mūsu mērķis ir atvieglot darba uzticēšanu Dots aģentiem, lai, atgriežoties pie tā, jūs redzētu noderīgu progresu, jūsu preferences virzītu uzdevumu un svarīgie lēmumi joprojām paliktu jūsu rokās.

Lasiet sistēmas karti⁠(atveras jaunā logā), lai uzzinātu vairāk par mūsu aizsardzības pasākumiem, drošības novērtējumiem un atlikušajiem ierobežojumiem.

Par ChatGPT drošības pamatiem lasiet rakstā Drošība un privātums uzņēmumā OpenAI. Lai sīkāk iepazītu vienu no tīmekļa drošības aizsardzības pasākumiem, lasiet rakstu Kā aizsargājam jūsu datus, kad MI aģents noklikšķina uz saites.