Si integrojmë sigurinë, mbrojtjen dhe privatësinë te dots

Dots janë agjentë gjithmonë aktivë që marrin përsipër përgjegjësi të vazhdueshme, duke ju lënë më shumë kohë dhe vëmendje për gjërat që kanë rëndësi për ju. Çdo dot ka kompjuterin e vet dhe punon në aplikacionet që zgjidhni të lidhni. Ju u caktoni objektiva agjentëve dots dhe përcaktoni çfarë mund të bëjnë në mënyrë të pavarur. Ata mund të kryejnë hapat e nevojshëm, të përshtaten me ndryshimet dhe të vazhdojnë të përparojnë në punë edhe ndërmjet bisedave. Mund të ndjekin një ngjarje në zhvillim dhe të përgatisin një draft buletini informativ, ose të ndihmojnë në përditësimin e një projekti teksa mbërrijnë informacione të reja — duke ju sjellë rezultatet për shqyrtim dhe duke iu drejtuar juve për vendime që kërkojnë gjykimin tuaj.

T'u jepni agjentëve dots këtë përgjegjësi do të thotë t'u besoni më shumë nga informacioni dhe puna juaj. Duhet të kuptoni ku ka qasje çdo dot, si e përdor këtë qasje dhe kur duhet t'ju përfshijë juve. Këto pyetje kanë rëndësi sepse gabimet e një agjenti mund të kenë pasoja përtej një bisede: keqkuptimi i një kërkese mund ta çojë të ndryshojë skedarin e gabuar ose të ndajë informacione që synonit t'i mbanit private.

Ne vendosim masa mbrojtëse për çdo pjesë të kësaj pune. Nisim me GPT‑6 Astra, të cilin e trajnojmë të kuptojë qëllimin tuaj dhe të ndjekë rregullat e sigurisë. Më pas shtojmë masa mbrojtëse për informacionin që përdorin agjentët dots, mjediset ku punojnë dhe veprimet që planifikojnë të kryejnë. Një hapësirë pune e mbrojtur në renë kompjuterike ndihmon në kufizimin e pasojave të gabimeve, procedurat e sigurta të hyrjes ndihmojnë në mbrojtjen e kredencialeve të ndjeshme dhe kontrollet e veçanta të veprimeve ndihmojnë në zbulimin e hapave që dalin jashtë udhëzimeve tuaja ose kërkesave të sigurisë. Ju zgjidhni çfarë të lidhni, caktoni preferencat dhe ndiqni ose ridrejtoni punën teksa ajo përparon.

Agjentët dots mund të gabojnë ende dhe ne do të vazhdojmë t'i përmirësojmë këto masa mbrojtëse duke mësuar nga përdorimi në praktikë. Këtu shpjegojmë si funksionojnë së bashku masat mbrojtëse, çfarë kontrolloni ju dhe cilat janë kufizimet e tyre — që të merrni vendime të informuara për punën që u besoni agjentëve dots.

Agjentët dots bazohen në GPT‑6 Astra, modeli ynë më i aftë dhe më i përafruar me synimet njerëzore. Astra dallohet për aftësinë për të kuptuar objektivin tuaj, për të qëndruar brenda kufijve të kërkesës suaj dhe për të bërë pyetje të përqendruara kur përgjigjet mund të ndryshojnë mënyrën se si duhet të veprojë. Këto aftësi i ndihmojnë agjentët dots t'i ndjekin detyrat me kalimin e kohës pa humbur nga vëmendja qëllimin tuaj.

E kemi trajnuar Astra të refuzojë kërkesat e dëmshme, përfshirë ato që lidhen me keqpërdorime në fushën biologjike ose të sigurisë kibernetike. Testojmë si i trajtojnë agjentët dots udhëzimet që ndryshojnë, kërkesat e paqarta dhe përpjekjet për t'i shtyrë përtej lejeve që keni dhënë. Simulimi i sulmeve, si nga njerëzit ashtu edhe i automatizuar, na ndihmon të gjejmë dobësi, të përmirësojmë modelin dhe sistemet që e mbështesin, si dhe t'i testojmë sërish këto ndryshime.

Këtyre masave mbrojtëse të modelit u shtojmë mbrojtjet e sigurisë së ChatGPT dhe masa shtesë për agjentët që mund të vazhdojnë të punojnë në emrin tuaj.

Mbrojtjet e integruara të ChatGPT përfshijnë enkriptimin e përmbajtjes suaj gjatë ruajtjes dhe gjatë transmetimit mes jush, OpenAI dhe ofruesve tanë të shërbimeve, bashkë me kontrolle qasjeje që ndihmojnë në mbrojtjen e informacionit të ruajtur. Sistemet tona të sigurisë së llogarisë kërkojnë gjithashtu shenja përdorimi të dyshimtë të llogarisë suaj OpenAI dhe mund t'ju kërkojnë të hyni sërish nëse një seancë duket e komprometuar.

Agjentët kanë nevojë edhe për mbrojtje nga informacioni që hasin gjatë punës. Një faqe interneti, email ose dokument mund të përmbajë udhëzime keqdashëse që përpiqen t'i devijojnë ose t'i bëjnë të ndajnë informacione private — një problem i quajtur injektim i kërkesave. Ne ndërthurim masat mbrojtëse të modelit me kufizime të mjeteve, kontrolle përpara veprimeve dhe monitorim, për të ndihmuar që kjo përmbajtje të mos çojë në një veprim të padëshiruar.

Gjithashtu i monitorojmë agjentët dots teksa planifikojnë dhe kryejnë veprime, për të zbuluar sjellje potencialisht të dëmshme, si veprime jashtë udhëzimeve tuaja ose përpjekje për të anashkaluar masat mbrojtëse. Nëse monitorimi i sigurisë sinjalizon një shqetësim në punën që po kryen një dot, ai mund ta pezullojë atë punë dhe t'ju shfaqë një paralajmërim për shqyrtim. Ky monitorim është i integruar dhe ndihmon në zbulimin e shqetësimeve gjatë ecurisë së një detyre, krahas masave mbrojtëse që kufizojnë qasjen dhe veprimet e agjentëve dots.

Çdo dot ka kompjuterin e vet në renë kompjuterike, ku mund të shfletojë, të analizojë informacione, të krijojë skedarë dhe të ekzekutojë mjete. Agjentët dots mund të vazhdojnë të përparojnë në këto hapësira pune edhe kur ju nuk jeni të përfshirë në mënyrë aktive.

Ju zgjidhni cilat llogari mund të përdorin agjentët dots, ose duke lidhur aplikacione brenda lejeve që i keni dhënë ChatGPT, ose duke hyrë në një faqe interneti në shfletuesin e një dot-i, me hyrje të sigurt aty ku mbështetet. Mund të zgjidhni të lidhni edhe kompjuterin tuaj personal për t'u dhënë agjentëve dots më shumë mënyra për t'ju ndihmuar — për shembull, duke analizuar një fletëllogaritëse të ruajtur në desktopin tuaj ose duke përdorur mjete programimi të instaluara në pajisjen tuaj.

Brenda hapësirës së mbrojtur të punës së çdo dot-i, izolimi në mjedis të kufizuar përcakton në cilin kod dhe në cilat mjete mund të ketë qasje ai dot, duke ndihmuar në kufizimin e ndikimit të kodit të dëmshëm ose të një komande të gabuar. Gjithashtu izolojmë mjediset e përdoruesve në renë kompjuterike nga njëri-tjetri dhe mirëmbajmë sistemin operativ Linux dhe shfletuesin Chrome mbi të cilët bazohen.

Agjentët dots ekzekutojnë kod në mjedise të ndara nga sistemet që bashkërendojnë punën e tyre dhe zbatojnë masat kryesore mbrojtëse. Ata mund të krijojnë skedarë dhe të ekzekutojnë mjete aty, por nuk mund ta përdorin këtë qasje për të ndryshuar ato sisteme sigurie ose për të çaktivizuar kontrollet e detyrueshme. Kjo ndarje ndihmon që masat mbrojtëse të mbeten në fuqi edhe nëse një dot gabon.

Rregullat e veprimit të përshkruara më poshtë përcaktojnë çfarë mund të bëjnë agjentët dots me qasjen që kanë.

Hyrja e sigurt u lejon agjentëve dots të punojnë në llogari duke i mbajtur fjalëkalimet jashtë bisedës. Për hyrjet që e mbështesin këtë funksion, modeli pezullohet ndërsa ju plotësoni një formular të sigurt hyrjeje, i cili i dërgon kredencialet tuaja drejtpërdrejt në mjedisin e shfletuesit dhe i dorëzon pa i ekspozuar në kontekstin e modelit. Më pas dot-i rifillon punën në llogarinë ku keni hyrë. Mbajtja e fjalëkalimit jashtë bisedës ul rrezikun që ai të shfaqet në një përgjigje ose të ndahet gabimisht.

Procedurat e mbështetura me fjalëkalime të ruajtura e ruajnë këtë ndarje përmes një shërbimi të posaçëm të enkriptuar për kredencialet. Shërbimi siguron fjalëkalimin për hyrje pa ia kaluar modelit, kështu që agjentët dots mund të punojnë në llogaritë që keni autorizuar, ndërsa fjalëkalimet mbeten jashtë kontekstit të modelit. Këto mbrojtje vlejnë posaçërisht për procedurat e hyrjes së sigurt dhe të përdorimit të fjalëkalimeve të ruajtura; një e dhënë sekrete e vendosur veçmas në një mesazh ose dokument të lexueshëm mund të mbetet e dukshme për modelin.

Ju menaxhoni cilat aplikacione mund të përdorin agjentët dots përmes lidhjeve dhe lejeve ekzistuese në ChatGPT, të cilat janë të përbashkëta për ChatGPT, ChatGPT Punë dhe Codex. Në seksionin Shtojcat te Cilësimet, mund të shqyrtoni llogaritë e lidhura dhe të ndryshoni se ku do të kenë qasje agjentët dots në vijim. Shkëputja e një aplikacioni ndalon ndarjen e informacioneve të reja përmes asaj lidhjeje. Por informacioni që një dot ka mësuar tashmë mbetet në kontekstin e tij. Këto leje përcaktojnë qasjen në aplikacionet tuaja; ato nuk i shfuqizojnë kërkesat e detyrueshme të sigurisë.

Nëse dëshironi që agjentët dots të punojnë me skedarë ose mjete lokale, mund të zgjidhni të lidhni edhe kompjuterin tuaj. Kjo lidhje mbetet nën kufizimet e mjedisit të izoluar lokal dhe kontrolleve përkatëse të veprimeve. Përdorimi i mikrofonit ose kamerës së kompjuterit tuaj kërkon edhe lejet e pajisjes, të cilat mund të zgjidhni t'ia jepni ChatGPT.

Pamja e aktivitetit në aplikacionin për kompjuter ju lejon të ndiqni dhe të udhëhiqni punën në vazhdim. Ajo shfaq detyrat në vazhdim, detyrat e deleguara dhe statusin e tyre. Mund të shtoni kontekst, të korrigjoni një keqkuptim, të ndryshoni drejtimin ose t'i kërkoni një dot-i të ndalojë.

Agjentët dots e pasurojnë kontekstin me kalimin e kohës për t'ju ofruar ndihmë më të dobishme. Kur delegojnë punë, agjentët e tjerë udhëzohen të mbajnë informacionin e nevojshëm për detyrën dhe të shmangin ruajtjen e hollësive të ndjeshme të panevojshme. Çdo dot ka kontekstin e vet, të cilin mund ta rivendosni në çdo kohë.

Për hapësirat e punës ChatGPT Business, Enterprise dhe Edu, si parazgjedhje nuk i përdorim të dhënat tuaja për të trajnuar modelet tona. Për planet personale të ChatGPT, ju kontrolloni nëse bisedat me agjentët tuaj dots dhe puna që kryejnë ata përdoren për të përmirësuar modelet tona, përmes cilësimit „Përmirëso modelin për të gjithë“. Kur trajnimi i modelit është i aktivizuar, kjo mund të përfshijë veprimet që kryejnë agjentët dots dhe automatizimet që konfiguroni, pasi të kemi punuar për të hequr të dhënat që ju identifikojnë. Mund të lexoni më shumë rreth përdorimit të të dhënave tuaja në këtë artikull⁠(hapet në një dritare të re) në qendrën tonë të ndihmës.

Krahas punës që u kërkoni të bëjnë, agjentët dots mund të nisin detyra kërkimore në sfond për të gjetur mënyra të tjera për t'ju ndihmuar — për shembull, duke vënë re një ndryshim në planet tuaja të udhëtimit. Këtë e quajmë kërkim proaktiv.

Këto detyra kryhen në mjedisin në renë kompjuterike të çdo dot-i. Ato përdorin mjete vetëm për lexim që të mbledhin informacione nga burimet e lidhura për të cilat kanë leje, pastaj ruajnë shënime private për dot-in përkatës. Këto kufizime i zbatojmë në kod: detyrat kërkimore nuk mund t'u dërgojnë drejtpërdrejt mesazhe personave të tjerë, të ndryshojnë përmbajtje në aplikacionet e lidhura ose të kontrollojnë një shfletues apo desktop. Agjentët dots mund t'i përdorin gjetjet për të vendosur si të ndihmojnë, por çdo veprim pasues duhet t'u nënshtrohet rregullave dhe kontrolleve të zakonshme.

Ne nuk i trajnojmë modelet tona drejtpërdrejt me bisedat e këtyre kërkimeve në sfond ose me shënimet që ato prodhojnë. Por një dot mund të marrë shënime nga detyra e tij kërkimore në sfond ose të lexojë pjesë nga bisedat e tij kërkimore. Informacioni i përfshirë në këtë mënyrë në një bisedë ose detyrë që lejohet të përdoret për trajnim mund të përdoret për trajnimin e modelit, në varësi të cilësimeve tuaja. Për shembull, një detyrë kërkimore në sfond mund të mbledhë informacione për disa destinacione për një udhëtim të ardhshëm në Evropë. Ajo bisedë kërkimore dhe shënimet e saj nuk përdoren drejtpërdrejt për trajnim. Më vonë, kur t'i kërkoni dot-it tuaj ndihmë për të planifikuar një udhëtim në Lisbonë, ai mund të lexojë një shënim për Lisbonën nga detyra e tij kërkimore në sfond. Ai shënim bëhet pjesë e kontekstit të bisedës suaj për planifikimin e udhëtimit dhe më pas mund të përdoret për trajnim, në varësi të cilësimeve tuaja. Pjesa tjetër e kërkimit në sfond nuk përdoret për trajnim, përveçse nëse përfshihet edhe ajo në një bisedë ose detyrë që lejohet të përdoret për trajnim.

Agjentët dots ndjekin kufizime mbrojtëse të integruara, të krijuara për të parandaluar dëmet dhe për t'i lënë në duart tuaja vendimet me pasoja të rëndësishme. Rregullat e tyre të sigurisë u kërkojnë të refuzojnë kërkesat e dëmshme, përfshirë keqpërdorimet në fushën biologjike ose të sigurisë kibernetike. Për detyrat ku mund të ndihmojnë, rregullat e veprimit përcaktojnë kur mund të vazhdojnë, kur duhet të kërkojnë konfirmim dhe kur duhet t'jua lënë juve në dorë një hap.

Brenda këtyre kufijve, agjentët dots mund të lexojnë informacione në të cilat kanë leje qasjeje, t'i analizojnë dhe të përgatisin drafte në bisedat tuaja. Për të dërguar një mesazh ose për të ndarë një skedar, ata trajnohen të kërkojnë autorizim që mbulon informacionin dhe llojin e marrësit — sa më të ndjeshme të jenë të dhënat, aq më saktë duhet të përcaktohen marrësit. Për shembull, për të dhënat shëndetësore përdoruesit do t'i kërkohet gjithmonë të përcaktojë një marrës me emër („ndaje historikun tim mjekësor me Dr. Thompson“). Për të dhënat personale më pak të ndjeshme, si një adresë emaili ose numër telefoni, si parazgjedhje përdoruesit do t'i kërkohet të përcaktojë kategori marrësish („çdo kompani ajrore“). Përdoruesi mund t'i zgjerojë më tej rregullat për të dhënat personale më pak të ndjeshme („ndaji në çdo formular në internet“) duke krijuar një Rregull të personalizuar — shihni seksionin vijues për më shumë hollësi rreth këtij funksioni. Ky autorizim mbetet i lidhur me udhëzimet tuaja për detyrën; vazhdimi i punës më vonë ose delegimi i saj nuk e zgjeron atë.

Agjentët dots mund të bëjnë blerje me kartat që keni ruajtur tashmë në faqen e internetit të një tregtari. Këto blerje kërkojnë miratimin tuaj.

Disa veprime kërkojnë konfirmimin tuaj çdo herë, përfshirë fshirjen përfundimtare të të dhënave, instalimin ose ekzekutimin e programeve nga një burim i panjohur, apo dhënien e qasjes së re me ndikim në siguri. Këto kërkesa ju japin mundësinë të shqyrtoni ndryshime që mund të jenë të vështira për t'u zhbërë ose që mund t'i japin dikujt qasje të re.

Për hapa të tjerë të ndjeshëm, si ndryshimi i një fjalëkalimi ose transferimi i parave mes llogarive financiare, agjentët dots mund të ndihmojnë me pjesën tjetër të detyrës, por këta hapa duhet t'jua lënë juve në dorë.

Rregullat e personalizuara ju lejojnë të përcaktoni si ju ndihmojnë agjentët dots brenda këtyre mbrojtjeve të integruara — për shembull, duke u thënë të mos dërgojnë kurrë email. Mund të jepni edhe udhëzime për një detyrë të caktuar, si t'i kërkoni një dot-i t'i tregojë një kolegu se mungoni, pa zbuluar arsyen personale. Këto udhëzime vazhdojnë të zbatohen edhe kur ai dot delegon punë ose punon në sfond.

Agjentët dots mund t'ju ndihmojnë të shkruani Rregulla të personalizuara, por u duhet miratimi juaj për t'i ndryshuar ato. Këto preferenca veprojnë brenda kufizimeve mbrojtëse të integruara dhe nuk mund të heqin konfirmimet e detyrueshme, kalimin e hapave në duart tuaja ose kërkesat themelore të sigurisë.

Përpara se agjentët dots të kryejnë veprime si dërgimi i emaileve ose ndryshimi i skedarëve, një sistem i veçantë sigurie, i quajtur Shqyrtimi automatik, kontrollon nëse hapat e planifikuar përputhen me udhëzimet tuaja, Rregullat e personalizuara dhe kërkesat e sigurisë. Për një email, ai kontrollon marrësin dhe mesazhin për të ndihmuar në zbulimin e një adrese të gabuar ose të informacionit që nuk kishit ndërmend të ndanit.

Nëse Shqyrtimi automatik e lejon një hap, dot-i që e propozoi e kryen me mjetin e duhur të kompjuterit ose aplikacionit, pastaj përdor rezultatin për të vazhduar detyrën tuaj. Ai mund të mbështetet në miratimin që keni dhënë më parë, kur ai miratim e mbulon veprimin dhe rregullat nuk kërkojnë një konfirmim të ri.

Nëse Shqyrtimi automatik e bllokon një hap, ai pengon kryerjen e veprimit dhe i tregon dot-it arsyen. Dot-i përkatës mund të kërkojë më shumë informacion ose miratimin tuaj, nëse kjo mund ta zgjidhë bllokimin, dhe më pas ta paraqesë sërish hapin për shqyrtim. Në varësi të arsyes, ai mund të provojë një alternativë të lejuar, t'jua lërë juve në dorë një hap të ndjeshëm ose të ndalojë. Miratimi juaj nuk mund t'i shfuqizojë kërkesat themelore të sigurisë.

Mekanizmat që garantojnë zbatimin e Shqyrtimit automatik i mbajmë jashtë mjediseve që agjentët dots mund të ndryshojnë, në mënyrë që ata të mos mund të ndryshojnë ose të çaktivizojnë një kontroll të detyrueshëm. Hapat e zakonshëm vetëm për lexim vazhdojnë t'u nënshtrohen lejeve të aplikacioneve, kufizimeve të mjeteve dhe masave të tjera mbrojtëse, por nuk kanë nevojë për këtë shqyrtim shtesë.

T'u besoni agjentëve dots punë të vazhdueshme do të thotë të dini si do t'i ndjekin udhëzimet tuaja dhe si do të reagojnë kur ndodh diçka e papritur. Astra i ndihmon të kuptojnë qëllimin tuaj, ndërsa masat mbrojtëse për të dhënat, hapësirat e punës, kredencialet dhe veprimet e tyre ndihmojnë në kufizimin e dëmit nga gabimet ose përmbajtja keqdashëse. Së bashku, këto masa mbrojtëse u japin agjentëve dots hapësirë për të bërë punë të dobishme, duke ulur mundësinë që një gabim të çojë në një veprim ose zbulim të padëshiruar informacioni.

Ju zgjidhni me çfarë mund të lidhen agjentët dots dhe si t'ju ndihmojnë. Mund të ndiqni ecurinë e tyre ose të ndryshoni drejtimin sipas nevojave tuaja. Miratimet dhe kalimi i hapave në duart tuaja bëjnë që vendimet kryesore të mbeten te ju. Agjentët dots mund të gabojnë ende, ndaj do të vazhdojmë t'i testojmë dhe t'i përmirësojmë masat e tyre mbrojtëse duke mësuar nga përdorimi në praktikë. Synimi ynë është t'jua bëjmë më të lehtë t'ua lini punën agjentëve dots dhe të ktheheni për të parë përparim të dobishëm, me preferencat tuaja që udhëheqin detyrën dhe vendimet e rëndësishme ende në duart tuaja.

Lexoni kartën e sistemit⁠(hapet në një dritare të re) për më shumë hollësi mbi masat tona mbrojtëse, vlerësimet e sigurisë dhe kufizimet e mbetura.

Për themelet e sigurisë së ChatGPT, shihni Siguria dhe privatësia në OpenAI. Për një vështrim më të hollësishëm mbi një masë sigurie në internet, shihni Mbrojtja e të dhënave tuaja kur një agjent i IA-së klikon një lidhje.