Kuidas loome ohutuid, turvalisi ja privaatsust kaitsvaid dotte

Dotid on pidevalt tegutsevad agendid, kes võtavad enda kanda kestvaid ülesandeid, et sul oleks rohkem aega ja tähelepanu sulle olulise jaoks. Igal dotil on oma arvuti ning ta töötab rakendustes, mille sina ühendad. Sina sead dottidele eesmärgid ja määrad, mida nad võivad iseseisvalt teha. Nad saavad ülesandeid sammhaaval täita, muutustega kohaneda ja ka vestluste vahel tööd edasi teha. Näiteks võivad nad jälgida mõne sündmuse arengut ja koostada uudiskirja mustandi või aidata uue teabe saabudes projekti uuendada. Nad toovad tulemused sulle ülevaatamiseks ja pöörduvad sinu poole otsustes, mis vajavad sinu hinnangut.

Dottidele sellise vastutuse andmine tähendab, et usaldad neile rohkem oma teavet ja tööd. Sul peaks olema selge, millele iga dot ligi pääseb, kuidas ta seda ligipääsu kasutab ja millal ta peab sind kaasama. Need küsimused on olulised, sest agendi vigadel võivad olla tagajärjed ka väljaspool vestlust: palve valesti mõistmine võib panna ta muutma valet faili või jagama teavet, mida tahtsid privaatsena hoida.

Loome kaitsemeetmed selle töö iga osa jaoks. Alustame mudelist GPT‑6 Astra, mida treenime sinu kavatsusi mõistma ja ohutusreegleid järgima. Seejärel lisame kaitsemeetmed teabele, mida dotid kasutavad, keskkondadele, kus nad töötavad, ja toimingutele, mida nad kavatsevad teha. Kaitstud pilvetööjaam aitab piirata vigade mõju, turvalised sisselogimisprotsessid kaitsta tundlikke sisselogimisandmeid ning eraldi toimingukontrollid märgata samme, mis ei vasta sinu juhistele või ohutusnõuetele. Sina valid, mida ühendada, sead eelistused ning jälgid või suunad tööd selle käigus.

Dotid võivad siiski eksida ning täiustame neid kaitsemeetmeid pidevalt tegelikust kasutusest õpitu põhjal. Siin selgitame, kuidas kaitsemeetmed koos toimivad, mida sina saad juhtida ja millised piirangud veel jäävad, et saaksid teadlikult otsustada, millist tööd dottidele usaldada.

Dottide aluseks on GPT‑6 Astra, meie kõige võimekam ning inimeste kavatsuste ja väärtustega kõige paremini kooskõlas olev mudel. Astra oskab eriti hästi mõista sinu eesmärki, püsida sinu palve piires ja esitada sihitud küsimusi, kui vastustest võib sõltuda see, mida tal tuleks teha. Need võimed aitavad dottidel ülesannetega pikema aja jooksul tegeleda, kaotamata silmist sinu kavatsust.

Oleme treeninud Astrat keelduma kahjulikest palvetest, sealhulgas bioloogia või küberturvalisuse väärkasutusega seotud palvetest. Testime, kuidas dotid tulevad toime muutuvate juhiste, mitmetähenduslike palvete ja katsetega panna neid ületama sinu antud õigusi. Nii inimeste tehtav kui ka automatiseeritud lööktestimine aitab meil leida nõrkusi, täiustada mudelit ja seda ümbritsevaid süsteeme ning neid muudatusi uuesti testida.

Täiendame mudeli kaitsemeetmeid ChatGPT turvameetmete ja lisakaitsega agentidele, kes saavad sinu nimel pidevalt töötada.

ChatGPT sisseehitatud kaitsemeetmed hõlmavad sinu sisu krüpteerimist nii salvestamisel kui ka selle liikumisel sinu, OpenAI ja meie teenusepakkujate vahel, samuti juurdepääsukontrolle, mis aitavad salvestatud teavet kaitsta. Meie kontoturbesüsteemid jälgivad ka sinu OpenAI konto kahtlast kasutust ja võivad nõuda uuesti sisselogimist, kui on märke seansi turvalisuse rikkumisest.

Agendid vajavad kaitset ka teabe eest, millega nad töö käigus kokku puutuvad. Veebileht, e-kiri või dokument võib sisaldada pahatahtlikke juhiseid, millega püütakse agente eksiteele juhtida või panna neid privaatset teavet jagama. Seda probleemi nimetatakse viipade süstimiseks. Ühendame mudeli kaitsemeetmed tööriistapiirangute, toimingueelsete kontrollide ja seirega, et selline sisu ei viiks soovimatu toiminguni.

Jälgime dotte ka toimingute kavandamise ja tegemise ajal, et märgata võimalikku kahjulikku käitumist, näiteks sinu juhiste piire ületavat tegevust või katseid kaitsemeetmetest mööda hiilida. Kui ohutusseire tuvastab doti pooleliolevas töös probleemi, võib see töö peatada ja näidata sulle hoiatust, mille pead üle vaatama. See seire on sisseehitatud ja aitab ülesande täitmisel probleeme tuvastada, täiendades kaitsemeetmeid, mis piiravad dottide ligipääsu ja tegevusi.

Igal dotil on oma pilvearvuti, kus ta saab veebis sirvida, teavet analüüsida, faile luua ja tööriistu käivitada. Dotid saavad neis tööjaamades tööd jätkata ka siis, kui sina aktiivselt ei osale.

Sina valid, milliseid kontosid dotid võivad kasutada. Selleks saad ühendada rakendusi ChatGPT‑le antud õiguste piires või logida doti brauseris veebisaidile sisse, kasutades turvalist sisselogimist seal, kus seda toetatakse. Võid ühendada ka oma arvuti, et anda dottidele rohkem võimalusi aidata, näiteks analüüsida sinu töölauale salvestatud arvutustabelit või kasutada sinu seadmesse paigaldatud programmeerimistööriistu.

Iga doti kaitstud tööjaamas piirab liivakast seda, millisele koodile ja millistele tööriistadele dot ligi pääseb. See aitab piirata kahjuliku koodi või eksliku käsu mõju. Samuti isoleerime kasutajate pilvekeskkonnad üksteisest ning hooldame nende aluseks olevat Linuxi operatsioonisüsteemi ja Chrome’i brauserit.

Dotid käivitavad koodi keskkondades, mis on eraldatud nende tööd koordineerivatest ja peamisi kaitsemeetmeid jõustavatest süsteemidest. Nad saavad seal faile luua ja tööriistu käivitada, kuid ei saa selle ligipääsu abil ohutussüsteeme muuta ega nõutavaid kontrolle välja lülitada. Selline eraldatus aitab kaitsemeetmeid säilitada ka siis, kui dot eksib.

Allpool kirjeldatud toimingureeglid määravad, mida dotid neile antud ligipääsuga teha võivad.

Turvaline sisselogimine võimaldab dottidel kontodel töötada, ilma et paroolid satuksid vestlusse. Toetatud sisselogimisviiside korral peatatakse mudel ajaks, mil täidad turvalist sisselogimisvormi. Vorm saadab sinu sisselogimisandmed otse brauserikeskkonda ja esitab need nii, et need ei satu mudeli konteksti. Seejärel jätkab dot tööd kontol, kuhu oled sisse loginud. Parooli hoidmine väljaspool vestlust vähendab ohtu, et see ilmub vastuses või seda jagatakse kogemata.

Toetatud salvestatud parooli kasutamise viisid säilitavad selle eraldatuse spetsiaalse krüpteeritud sisselogimisandmete teenuse abil. Teenus edastab parooli sisselogimiseks ilma seda mudelile andmata. Nii saavad dotid töötada kontodel, mille kasutamiseks oled loa andnud, samal ajal kui paroolid jäävad mudeli kontekstist välja. Need kaitsemeetmed kehtivad ainult turvalise sisselogimise ja salvestatud paroolide kasutamise puhul. Loetavasse sõnumisse või dokumenti eraldi lisatud saladus võib mudelile endiselt nähtav olla.

Sa haldad seda, milliseid rakendusi dotid kasutada saavad, olemasolevate ChatGPT ühenduste ja õiguste kaudu, mis kehtivad ühiselt ChatGPT‑s, ChatGPT Workis ja Codexis. Seadete jaotises „Pluginad“ saad ühendatud kontod üle vaadata ja muuta seda, millele dotid edaspidi ligi pääsevad. Rakenduse lahtiühendamine peatab selle ühenduse kaudu uue teabe jagamise. Teave, mille dot on juba omandanud, jääb aga tema konteksti alles. Need õigused reguleerivad juurdepääsu sinu rakendustele, kuid ei tühista kohustuslikke ohutusnõudeid.

Kui soovid, et dotid töötaksid kohalike failide või tööriistadega, võid ühendada ka oma arvuti. Sellele ühendusele kehtivad endiselt kohaliku liivakasti piirangud ja asjakohased toimingukontrollid. Arvuti mikrofoni või kaamera kasutamiseks on vaja ka seadmeõigusi, mille võid ChatGPT‑le anda.

Töölauarakenduse tegevusvaates saad pooleliolevat tööd jälgida ja suunata. Seal kuvatakse pooleliolevad ja delegeeritud ülesanded ning nende olek. Saad lisada konteksti, parandada vääritimõistmist, muuta suunda või paluda dotil peatuda.

Dotid koguvad aja jooksul konteksti, et nende abi oleks kasulikum. Kui nad tööd delegeerivad, antakse teistele agentidele juhis säilitada ülesandeks vajalik teave ja vältida tarbetute tundlike üksikasjade talletamist. Igal dotil on oma kontekst, mille saad igal ajal lähtestada.

ChatGPT Businessi, Enterprise’i ja Edu tööjaamade puhul ei kasuta me sinu andmeid vaikimisi oma mudelite treenimiseks. Isiklike ChatGPT pakettide puhul saad seadega „Aita mudelit kõigi jaoks täiustada“ määrata, kas sinu dottide vestlusi ja nende tehtud tööd kasutatakse meie mudelite täiustamiseks. Kui mudeli treenimine on lubatud, võib see hõlmata dottide tehtud toiminguid ja sinu seadistatud automatiseeringuid, pärast seda kui oleme püüdnud isikut tuvastavad andmed eemaldada. Lisateavet sinu andmete kasutamise kohta leiad meie abikeskuse sellest artiklist⁠(avaneb uues aknas).

Lisaks tööle, mida neilt palud, saavad dotid alustada taustal uurimisülesandeid, et leida muid võimalusi aidata, näiteks märgata muutust sinu reisiplaanides. Nimetame seda ennetavaks uurimistööks.

Need ülesanded täidetakse iga doti pilvekeskkonnas. Nende käigus kogutakse ainult lugemiseks mõeldud tööriistadega teavet lubatud ühendatud allikatest ning salvestatakse seejärel dotile privaatsed märkmed. Jõustame need piirangud koodis: uurimisülesanded ei saa otse teistele inimestele sõnumeid saata, ühendatud rakendustes sisu muuta ega brauserit või töölauda juhtida. Dotid saavad leitu põhjal otsustada, kuidas aidata, kuid kõik järgnevad toimingud peavad vastama tavapärastele reeglitele ja läbima tavapärased kontrollid.

Me ei treeni oma mudeleid otse nende taustauurimise lõimede ega nende käigus koostatud märkmete põhjal. Dot võib aga saada oma taustauurimisülesandest märkmeid või lugeda osi selle uurimislõimedest. Nii treenimiseks sobivasse vestlusse või ülesandesse lisatud teavet võidakse sõltuvalt sinu seadetest kasutada mudeli treenimiseks. Näiteks võib taustauurimisülesanne koguda eelseisvaks Euroopa-reisiks teavet mitme sihtkoha kohta. Seda uurimislõime ega selle märkmeid ei kasutata otse treenimiseks. Hiljem, kui palud oma dotil aidata kavandada reisi Lissaboni, võib ta lugeda taustauurimisülesande käigus koostatud märkust Lissaboni kohta. See märkus saab osaks sinu reisiplaneerimise vestluse kontekstist ning seda võidakse seejärel sõltuvalt sinu seadetest treenimiseks kasutada. Ülejäänud taustauurimist ei kasutata treenimiseks, välja arvatud juhul, kui ka see lisatakse treenimiseks sobivasse vestlusse või ülesandesse.

Dotid järgivad sisseehitatud kaitsepiire, mille eesmärk on vältida kahju ja jätta kaalukad otsused sinu teha. Nende ohutusreeglid nõuavad kahjulikest palvetest, sealhulgas bioloogia või küberturvalisuse väärkasutusest keeldumist. Ülesannete puhul, millega nad saavad aidata, määravad toimingureeglid, millal nad võivad jätkata, millal peavad kinnitust küsima ja millal peavad mõne sammu sinu teha jätma.

Nende piiride raames saavad dotid lugeda teavet, millele neil on ligipääsuõigus, seda analüüsida ja sinu vestlustes mustandeid koostada. Sõnumi saatmiseks või faili jagamiseks on neid õpetatud küsima luba, mis hõlmab nii teavet kui ka saaja tüüpi. Mida tundlikumad andmed, seda täpsemalt tuleb saajad määratleda. Näiteks nõuavad terviseandmed alati, et kasutaja nimetaks konkreetse saaja („jaga minu haiguslugu dr Thompsoniga“). Vähem tundlike isikuandmete, näiteks e-posti aadressi või telefoninumbri puhul peab kasutaja vaikimisi määratlema saajate rühma („mis tahes lennufirma“). Kasutaja saab vähem tundlike isikuandmete jagamise reegleid veelgi laiendada („jaga mis tahes veebivormil“), luues kohandatud reegli. Lisateavet selle funktsiooni kohta leiad järgmisest jaotisest. See luba jääb seotuks sinu ülesandejuhistega. Hilisem jätkamine või töö delegeerimine ei laienda seda.

Dotid saavad oste teha kaartidega, mille oled juba kaupmehe veebisaidile salvestanud. Need ostud vajavad sinu heakskiitu.

Mõni toiming vajab sinu kinnitust iga kord, näiteks andmete jäädav kustutamine, tundmatust allikast pärit tarkvara paigaldamine või käivitamine või uue, turvalisuse seisukohalt tundliku ligipääsu andmine. Need nõuded annavad sulle võimaluse üle vaadata muudatused, mida võib olla raske tagasi võtta või mis võivad anda kellelegi uue ligipääsu.

Muude tundlike sammude puhul, näiteks parooli muutmisel või finantskontode vahel raha ülekandmisel, saavad dotid aidata ülejäänud ülesandega, kuid peavad need tundlikud sammud sinu teha jätma.

Kohandatud reeglitega saad suunata seda, kuidas dotid sind sisseehitatud kaitsemeetmete piires aitavad, näiteks öeldes neile, et nad ei tohi kunagi e-kirju saata. Võid anda ka ülesandepõhiseid juhiseid, näiteks paluda dotil kolleegile öelda, et oled ära, ilma isiklikku põhjust jagamata. Need juhised kehtivad edasi ka siis, kui dot delegeerib tööd või töötab taustal.

Dotid saavad aidata sul kohandatud reegleid kirjutada, kuid nende muutmiseks vajavad nad sinu heakskiitu. Need eelistused toimivad sisseehitatud kaitsepiiride raames ega saa kõrvaldada kohustuslikke kinnitusi, sammude sinu teha jätmist ega põhilisi ohutusnõudeid.

Enne kui dotid teevad toiminguid, näiteks saadavad e-kirju või muudavad faile, kontrollib eraldi ohutussüsteem nimega automaatkontroll, kas kavandatud sammud vastavad sinu juhistele, kohandatud reeglitele ja ohutusnõuetele. E-kirja puhul kontrollib see saajat ja sõnumit, et märgata valet aadressi või teavet, mida sa ei kavatsenud jagada.

Kui automaatkontroll lubab sammu, teeb selle välja pakkunud dot selle sobiva arvuti- või rakendustööriistaga ära ning kasutab tulemust sinu ülesandega jätkamiseks. See võib tugineda sinu varem antud heakskiidule, kui see hõlmab asjaomast toimingut ja reeglid ei nõua uut kinnitust.

Kui automaatkontroll blokeerib sammu, takistab see toimingu tegemist ja teatab dotile põhjuse. Dot võib küsida lisateavet või sinu heakskiitu, kui see võiks blokeeringu põhjuse kõrvaldada, ning esitada seejärel sammu uuesti kontrollimiseks. Olenevalt põhjusest võib ta selle asemel proovida lubatud alternatiivi, jätta tundliku sammu sinu teha või peatuda. Sinu heakskiit ei saa tühistada põhilisi ohutusnõudeid.

Hoiame automaatkontrolli jõustavad mehhanismid väljaspool keskkondi, mida dotid saavad muuta, et nad ei saaks nõutavat kontrolli muuta ega välja lülitada. Tavapärased ainult lugemisega seotud sammud järgivad endiselt rakenduseõigusi, tööriistapiiranguid ja muid kaitsemeetmeid, kuid ei vaja seda lisakontrolli.

Et usaldada dottidele kestvaid ülesandeid, pead teadma, kuidas nad sinu juhiseid järgivad ja ootamatustele reageerivad. Astra aitab neil sinu kavatsust mõista, samal ajal kui nende andmeid, tööjaamu, sisselogimisandmeid ja toiminguid ümbritsevad kaitsemeetmed aitavad piirata vigadest või pahatahtlikust sisust tulenevat kahju. Koos annavad need kaitsemeetmed dottidele tegutsemisruumi kasuliku töö tegemiseks ning vähendavad tõenäosust, et viga viib soovimatu toimingu või teabe avaldamiseni.

Sina valid, millega dotid saavad ühenduse luua ja kuidas nad aitavad, ning saad nende edenemist jälgida või oma vajaduste muutudes suunda muuta. Heakskiidud ja sammude sinu teha jätmine hoiavad tähtsad otsused sinu käes. Dotid võivad siiski eksida, seega jätkame nende kaitsemeetmete testimist ja täiustamist tegelikust kasutusest õpitu põhjal. Meie eesmärk on muuta lihtsamaks töö usaldamine dottidele nii, et naastes oleks töö sisuliselt edasi liikunud, ülesannet suunaksid sinu eelistused ja tähtsad otsused jääksid endiselt sinu kätesse.

Lisateavet meie kaitsemeetmete, ohutushindamiste ja allesjäänud piirangute kohta leiad süsteemikaardilt⁠(avaneb uues aknas).

ChatGPT turvalisuse aluste kohta loe artiklist „Turvalisus ja privaatsus OpenAI-s“. Ühe veebiturbe kaitsemeetmega saad lähemalt tutvuda artiklis „Kuidas kaitseme sinu andmeid, kui tehisintellekti agent lingil klõpsab“.