Így építjük be a biztonságot, az információbiztonságot és az adatvédelmet a dotok működésébe

A dotok folyamatosan működő ügynökök, amelyek tartósan átvesznek tőled feladatokat, így több időd és figyelmed marad arra, ami fontos neked. Minden dotnak saját számítógépe van, és az általad összekapcsolt alkalmazásokban dolgozik. Te tűzöd ki a dotok céljait, és határozod meg, mit tehetnek önállóan. Végighaladnak a lépéseken, alkalmazkodnak a változásokhoz, és a beszélgetések között is folytatják a munkát. Követhetik például egy aktuális téma fejleményeit, és hírlevélvázlatot készíthetnek, vagy segíthetnek frissíteni egy projektet az új információk alapján. Az eredményeket bemutatják neked ellenőrzésre, és hozzád fordulnak, ha a döntéshez a te ítélőképességedre van szükség.

Ha ilyen felelősséget adsz a dotoknak, azzal több információdat és munkádat bízod rájuk. Fontos, hogy tudd, mihez férhet hozzá egy-egy dot, hogyan él ezzel a hozzáféréssel, és mikor kell bevonnia téged. Ezek a kérdések azért lényegesek, mert egy ügynök hibái a beszélgetésen túl is következményekkel járhatnak: egy félreértett kérés miatt rossz fájlt módosíthat, vagy olyan információt oszthat meg, amelyet bizalmasan szerettél volna kezelni.

A munka minden részét védelmi intézkedésekkel vesszük körül. Az alap a GPT‑6 Astra, amelyet a szándékod megértésére és a biztonsági szabályok követésére tanítunk be. Erre épülnek a dotok által használt információkat, a munkakörnyezetüket és a tervezett műveleteiket védő intézkedések. A védett felhőalapú munkaterület segít korlátozni a hibák hatását, a biztonságos bejelentkezési folyamatok védik az érzékeny hitelesítő adatokat, a műveletek külön ellenőrzése pedig segít kiszűrni az utasításaidtól vagy a biztonsági követelményektől eltérő lépéseket. Te választod ki, mit kapcsolsz össze, megadod a preferenciáidat, és menet közben követheted vagy új irányba terelheted a munkát.

A dotok továbbra is hibázhatnak, ezért a valós használat tapasztalatai alapján folyamatosan fejlesztjük ezeket a védelmi intézkedéseket. Itt bemutatjuk, hogyan működnek együtt a védelmi intézkedések, mit irányíthatsz te, és hol maradnak korlátok – hogy megalapozottan dönthess arról, milyen munkát bízol a dotokra.

A dotokat a GPT‑6 Astra működteti: ez a legnagyobb tudású, az emberi szándékokhoz és értékekhez legjobban igazodó modellünk. Az Astra kiválóan megérti a célodat, a kérésed keretein belül marad, és célzott kérdéseket tesz fel, ha a válaszok befolyásolhatják, mit kell tennie. Ezek a képességek segítenek a dotoknak hosszabb távon is követni a feladatokat anélkül, hogy szem elől tévesztenék az eredeti szándékodat.

Az Astrát arra tanítottuk be, hogy utasítsa el a káros kéréseket, köztük a biológiai vagy kiberbiztonsági visszaélésekre irányulókat. Teszteljük, hogyan kezelik a dotok a változó utasításokat, a kétértelmű kéréseket és azokat a kísérleteket, amelyekkel az általad adott engedélyek túllépésére próbálják rávenni őket. Az emberi közreműködéssel végzett és az automatizált támadásszimuláció segít feltárni a gyenge pontokat, fejleszteni a modellt és a köré épülő rendszereket, majd újra tesztelni a módosításokat.

A modell védelmi intézkedéseit a ChatGPT biztonsági megoldásaival és további intézkedésekkel egészítjük ki azoknak az ügynököknek, amelyek folyamatosan dolgozhatnak a nevedben.

A ChatGPT beépített védelme titkosítja a tartalmaidat a tárolás során és a közted, az OpenAI és a szolgáltatóink közötti továbbításkor, a tárolt információkat pedig hozzáférés-szabályozással is védi. Fiókbiztonsági rendszereink az OpenAI-fiókod gyanús használatát is figyelik, és új bejelentkezést kérhetnek, ha úgy tűnik, hogy illetéktelenek fértek hozzá egy munkamenethez.

Az ügynököket a munkájuk során megismert információktól is védeni kell. Egy weboldal, e-mail vagy dokumentum rosszindulatú utasításokat tartalmazhat, amelyek megpróbálják eltéríteni őket, vagy privát információk megosztására rávenni. Ezt a problémát úgy nevezzük: utasítás injekció. A modell védelmi intézkedéseit az eszközök korlátozásával, a műveletek előtti ellenőrzésekkel és felügyelettel ötvözzük, hogy az ilyen tartalmakból ne legyen nem kívánt művelet.

A dotokat a műveletek tervezése és végrehajtása közben is figyeljük, és keressük a potenciálisan káros viselkedést, például az utasításaidtól eltérő lépéseket vagy a védelmi intézkedések megkerülésére tett kísérleteket. Ha a biztonsági felügyelet problémát észlel egy dot folyamatban lévő munkájában, szüneteltetheti azt, és figyelmeztetést jeleníthet meg neked ellenőrzésre. Ez a beépített felügyelet segít észlelni a feladat során felmerülő problémákat, kiegészítve azokat a védelmi intézkedéseket, amelyek korlátozzák, hogy a dotok mihez férhetnek hozzá és mit tehetnek.

Minden dotnak saját felhőalapú számítógépe van, ahol böngészhet, információkat elemezhet, fájlokat hozhat létre és eszközöket futtathat. A dotok ezeken a munkaterületeken akkor is haladhatnak, amikor te nem veszel részt aktívan a munkában.

Te döntöd el, mely fiókokat használhatják a dotok: összekapcsolhatsz alkalmazásokat a ChatGPT‑nek megadott engedélyeken belül, vagy bejelentkezhetsz egy weboldalra a dot böngészőjében, ahol támogatott, biztonságos bejelentkezéssel. Saját számítógépedet is csatlakoztathatod, hogy a dotok még többféleképpen segíthessenek – például elemezhetnek egy, az asztalodra mentett táblázatot, vagy használhatják az eszközödre telepített kódolási eszközöket.

Az egyes dotok védett munkaterületén az elkülönített futtatókörnyezet korlátozza, milyen kódokhoz és eszközökhöz férhetnek hozzá, így segít mérsékelni a káros kódok vagy hibás parancsok hatását. A felhasználók felhőkörnyezeteit egymástól is elkülönítjük, és gondoskodunk az alapul szolgáló Linux operációs rendszer és Chrome böngésző karbantartásáról.

A dotok olyan környezetekben futtatnak kódot, amelyek elkülönülnek a munkájukat koordináló és a kulcsfontosságú védelmi intézkedéseket érvényesítő rendszerektől. Ott létrehozhatnak fájlokat és futtathatnak eszközöket, de ezzel a hozzáféréssel nem módosíthatják a biztonsági rendszereket, és nem kapcsolhatják ki a kötelező ellenőrzéseket. Ez az elkülönítés segít fenntartani a védelmet akkor is, ha egy dot hibázik.

Az alább ismertetett műveleti szabályok határozzák meg, mire használhatják a dotok a hozzáférésüket.

A biztonságos bejelentkezéssel a dotok úgy dolgozhatnak a fiókokban, hogy a jelszavak nem kerülnek be a beszélgetésbe. A támogatott bejelentkezéseknél a modell működése szünetel, amíg kitöltesz egy biztonságos bejelentkezési űrlapot. Az űrlap közvetlenül a böngészőkörnyezetnek továbbítja és ott küldi el a hitelesítő adataidat, anélkül, hogy azok bekerülnének a modell kontextusába. A dot ezután folytatja a munkát a bejelentkezett fiókban. Ha a jelszó nem kerül be a beszélgetésbe, kisebb az esélye, hogy megjelenjen egy válaszban, vagy véletlenül megosszák.

A mentett jelszavakkal történő, támogatott bejelentkezési folyamatok ezt az elkülönítést egy erre szolgáló, titkosított hitelesítőadat-kezelő szolgáltatással tartják fenn. A szolgáltatás a modell bevonása nélkül biztosítja a jelszót a bejelentkezéshez. Így a dotok dolgozhatnak az általad engedélyezett fiókokban, miközben a jelszavak a modell kontextusán kívül maradnak. Ezek a védelmi intézkedések kifejezetten a biztonságos bejelentkezési és a mentett jelszavakat használó folyamatokra vonatkoznak; a külön, olvasható üzenetben vagy dokumentumban elhelyezett titkos adatokat a modell továbbra is láthatja.

A meglévő ChatGPT‑kapcsolatokkal és -engedélyekkel szabályozhatod, mely alkalmazásokat használhatják a dotok. Ezek a ChatGPT, a ChatGPT Work és a Codex között közösek. A Beállítások Bővítmények részében áttekintheted a csatlakoztatott fiókokat, és módosíthatod, mihez férhetnek hozzá a dotok a továbbiakban. Egy alkalmazás leválasztásával megszűnik az új információk megosztása az adott kapcsolaton keresztül. A dot által már megismert információk azonban megmaradnak a saját kontextusában. Ezek az engedélyek az alkalmazásaidhoz való hozzáférést szabályozzák; a kötelező biztonsági követelményeket nem írják felül.

Ha szeretnéd, hogy a dotok helyi fájlokkal vagy eszközökkel dolgozzanak, a számítógépedet is csatlakoztathatod. Erre a kapcsolatra is érvényesek a helyi elkülönített futtatókörnyezet korlátozásai és a vonatkozó műveletellenőrzések. A számítógéped mikrofonjának vagy kamerájának használatához eszközengedélyek is szükségesek, amelyeket saját döntésed szerint adhatsz meg a ChatGPT‑nek.

Az asztali alkalmazás Tevékenységnézetében követheted és irányíthatod a folyamatban lévő munkát. Itt láthatod a folyamatban lévő és a delegált feladatokat, valamint az állapotukat. További háttérinformációt adhatsz meg, tisztázhatsz egy félreértést, megváltoztathatod az irányt, vagy leállíthatod a dotot.

A dotok idővel egyre több kontextust gyűjtenek, hogy hasznosabban segíthessenek. Amikor munkát delegálnak, a többi ügynök azt az utasítást kapja, hogy őrizze meg a feladathoz szükséges információkat, de ne tartson meg felesleges érzékeny részleteket. Minden dotnak saját kontextusa van, amelyet bármikor alaphelyzetbe állíthatsz.

A ChatGPT Business, Enterprise és Edu munkaterületeken alapértelmezés szerint nem használjuk fel az adataidat modelljeink betanítására. A személyes ChatGPT‑csomagoknál a „Modell fejlesztése mindenki számára” beállítással te döntöd el, hogy felhasználhatjuk-e a dotjaiddal folytatott beszélgetéseidet és az általuk végzett munkát modelljeink fejlesztésére. Ha engedélyezed a modell betanítását, ez a dotok által végzett műveletekre és az általad beállított automatizálásokra is kiterjedhet, miután megteszünk minden szükséges lépést a személyazonosító adatok eltávolítására. Adataid felhasználásáról súgóközpontunk ezen cikkében⁠(új ablakban nyílik meg) olvashatsz bővebben.

Az általad kért munka mellett a dotok háttérben futó kutatási feladatokat is indíthatnak, hogy további lehetőségeket találjanak a segítségnyújtásra – például észrevegyék, ha változnak az utazási terveid. Ezt nevezzük proaktív kutatásnak.

Ezek a feladatok az egyes dotok felhőkörnyezetében futnak. Csak olvasásra használható eszközökkel gyűjtenek információt az engedélyezett, csatlakoztatott forrásokból, majd privát jegyzeteket mentenek az adott dotnak. Ezeket a korlátokat kódszinten érvényesítjük: a kutatási feladatok nem küldhetnek közvetlenül üzeneteket másoknak, nem módosíthatják a csatlakoztatott alkalmazások tartalmát, és nem vezérelhetnek böngészőt vagy asztali felületet. A dotok az eredmények alapján eldönthetik, hogyan segítsenek, de minden további műveletre a szokásos szabályok és ellenőrzések vonatkoznak.

A háttérben futó kutatási szálakat és az ezekből származó jegyzeteket nem használjuk közvetlenül modelljeink betanítására. Egy dot azonban kaphat jegyzeteket a háttérben futó kutatási feladatából, vagy elolvashatja a kutatási szálai egyes részeit. Az így egy betanításhoz felhasználható beszélgetésbe vagy feladatba kerülő információkat a beállításaidtól függően felhasználhatjuk a modell betanítására. Egy háttérben futó kutatási feladat például több úti célról is gyűjthet információt egy közelgő európai utazáshoz. Ezt a kutatási szálat és a jegyzeteit nem használjuk közvetlenül betanításra. Később, amikor megkéred a dotodat, hogy segítsen megtervezni egy lisszaboni utazást, elolvashat egy Lisszabonról szóló jegyzetet a háttérben futó kutatási feladatából. Ez a jegyzet az utazástervezési beszélgetés kontextusának részévé válik, és ettől kezdve a beállításaidtól függően felhasználható betanításra. A háttérkutatás többi részét nem használjuk betanításra, kivéve, ha azok is bekerülnek egy erre felhasználható beszélgetésbe vagy feladatba.

A dotok beépített védelmi korlátokat követnek, amelyek célja a károk megelőzése és az, hogy a komoly következményekkel járó döntések a te kezedben maradjanak. Biztonsági szabályaik előírják a káros kérések elutasítását, beleértve a biológiai vagy kiberbiztonsági visszaélésekre irányuló kéréseket. Azoknál a feladatoknál, amelyekben segíthetnek, a műveleti szabályok határozzák meg, mikor léphetnek tovább, mikor kell megerősítést kérniük, és mikor kell visszaadniuk neked egy lépés végrehajtását.

E kereteken belül a dotok elolvashatják és elemezhetik azokat az információkat, amelyekhez hozzáférési engedélyük van, és vázlatokat készíthetnek a beszélgetéseidben. Arra tanítjuk őket, hogy üzenetküldéshez vagy fájlmegosztáshoz olyan felhatalmazást kérjenek, amely az információra és a címzett típusára is kiterjed – minél érzékenyebb az adat, annál pontosabban kell megadni a címzetteket. Egészségügyi adatoknál például a felhasználónak mindig név szerint kell megadnia a címzettet („oszd meg a kórtörténetemet Dr. Thompsonnal”). Kevésbé érzékeny személyes adatoknál, például e-mail-címnél vagy telefonszámnál alapértelmezés szerint a címzettek kategóriáját kell megadni („bármely légitársaság”). Egy egyéni szabály létrehozásával a felhasználó tovább tágíthatja a kevésbé érzékeny személyes adatok megosztásának körét („bármely online űrlapon megadhatod”). A funkcióról a következő részben olvashatsz bővebben. Ez a felhatalmazás továbbra is a feladathoz adott utasításaidhoz kötődik; a munka későbbi folytatása vagy delegálása nem bővíti ki.

A dotok vásárolhatnak azokkal a kártyákkal, amelyeket korábban elmentettél egy kereskedő weboldalán. Ezekhez a vásárlásokhoz a jóváhagyásod szükséges.

Bizonyos műveleteket minden alkalommal meg kell erősítened: ilyen az adatok végleges törlése, az ismeretlen forrásból származó szoftverek telepítése vagy futtatása, illetve a biztonsági szempontból érzékeny új hozzáférések megadása. Ezek a követelmények lehetőséget adnak arra, hogy ellenőrizd a nehezen visszavonható változtatásokat, illetve azokat, amelyek új hozzáférést biztosítanak valakinek.

Más érzékeny lépéseknél, például jelszómódosításnál vagy pénzügyi számlák közötti átutalásnál a dotok segíthetnek a kapcsolódó feladatban, de magukat az érzékeny lépéseket neked kell átadniuk.

Az Egyéni szabályokkal a beépített védelem keretein belül alakíthatod, hogyan segítsenek a dotok – például előírhatod nekik, hogy soha ne küldjenek e-mailt. Feladatspecifikus utasításokat is adhatsz: például megkérheted a dotot, hogy jelezze egy kollégádnak a távollétedet anélkül, hogy elárulná annak személyes okát. Ezek az utasítások akkor is érvényben maradnak, ha a dot delegálja a munkát, vagy a háttérben dolgozik.

A dotok segíthetnek egyéni szabályokat írni, de a módosításukhoz a jóváhagyásod kell. Ezek a preferenciák a beépített védelmi korlátokon belül érvényesülnek, és nem szüntethetik meg a kötelező megerősítéseket, a neked átadandó lépéseket vagy az alapvető biztonsági követelményeket.

Mielőtt a dotok e-mailt küldenének, fájlokat módosítanának vagy hasonló műveleteket végeznének, egy külön biztonsági rendszer, az Automatikus ellenőrzés összeveti a tervezett lépéseket az utasításaiddal, az egyéni szabályaiddal és a biztonsági követelményekkel. Egy e-mailnél ellenőrzi a címzettet és az üzenetet, hogy kiszűrje a hibás címet vagy azokat az információkat, amelyeket nem akartál megosztani.

Ha az Automatikus ellenőrzés engedélyez egy lépést, az azt javasló dot végrehajtja a megfelelő számítógépes vagy alkalmazáseszközzel, majd az eredmény alapján folytatja a feladatodat. Támaszkodhat a korábban megadott jóváhagyásodra, ha az kiterjed az adott műveletre, és a szabályok nem írnak elő új megerősítést.

Ha az Automatikus ellenőrzés letilt egy lépést, megakadályozza a művelet végrehajtását, és közli az okát a dottal. A dot további információt vagy jóváhagyást kérhet tőled, ha ezzel feloldható a tiltás, majd újra ellenőrzésre küldheti a lépést. Az októl függően ehelyett megpróbálkozhat egy engedélyezett alternatívával, visszaadhatja neked egy érzékeny lépés végrehajtását, vagy leállhat. A jóváhagyásod nem írhatja felül az alapvető biztonsági követelményeket.

Az Automatikus ellenőrzést érvényesítő vezérlőelemeket a dotok által módosítható környezeteken kívül tartjuk, így nem módosíthatják és nem kapcsolhatják ki a kötelező ellenőrzéseket. A szokásos, csak olvasást végző lépésekre továbbra is vonatkoznak az alkalmazásengedélyek, az eszközkorlátozások és az egyéb védelmi intézkedések, de ezt a külön ellenőrzést nem igénylik.

Ahhoz, hogy folyamatos munkát bízz a dotokra, tudnod kell, hogyan követik az utasításaidat, és hogyan reagálnak, ha valami váratlan történik. Az Astra segít nekik megérteni a szándékodat, az adataikra, munkaterületeikre, hitelesítő adataikra és műveleteikre kiterjedő védelem pedig segít korlátozni a hibákból vagy rosszindulatú tartalmakból eredő károkat. Ezek a védelmi intézkedések együtt teret adnak a dotoknak a hasznos munkához, miközben csökkentik annak esélyét, hogy egy hibából nem kívánt művelet vagy adatközlés legyen.

Te döntöd el, mihez kapcsolódhatnak a dotok, és hogyan segítsenek. Követheted a haladásukat, és az igényeid változásával új irányt is adhatsz nekik. A jóváhagyások és a neked átadott lépések biztosítják, hogy a kulcsfontosságú döntések nálad maradjanak. A dotok továbbra is hibázhatnak, ezért a valós használat tapasztalatai alapján folyamatosan teszteljük és fejlesztjük a védelmüket. Célunk, hogy könnyebben rábízhasd a munkát a dotokra, és visszatérve érdemi előrelépést láss – miközben a te preferenciáid határozzák meg a feladat menetét, és a fontos döntések továbbra is a kezedben maradnak.

A védelmi intézkedéseinkről, a biztonsági értékelésekről és a fennmaradó korlátokról a rendszerkártya⁠(új ablakban nyílik meg) nyújt további részleteket.

A ChatGPT biztonsági alapjait a Biztonság és adatvédelem az OpenAI-nál című írás mutatja be. Egy webbiztonsági védelmi megoldást részletesebben is bemutatunk az Így óvjuk az adataidat, amikor egy MI-ügynök hivatkozásra kattint című írásban.