Näin rakennamme dot-agenttien turvallisuutta, tietoturvaa ja tietosuojaa

Dot-agentit toimivat jatkuvasti ja ottavat vastuuta pitkäkestoisista tehtävistä, jotta sinulle jää enemmän aikaa ja huomiota tärkeisiin asioihin. Jokaisella dot-agentilla on oma tietokone, ja se työskentelee sovelluksissa, jotka päätät yhdistää. Annat dot-agenteille tavoitteet ja määrität, mitä ne voivat tehdä itsenäisesti. Ne voivat suorittaa tehtävän vaiheita, mukautua muutoksiin ja jatkaa työtä keskustelujen välillä. Ne voivat seurata ajankohtaisen aiheen kehittymistä ja laatia uutiskirjeluonnoksen tai auttaa päivittämään projektia uusien tietojen perusteella. Ne tuovat tulokset tarkistettaviksesi ja pyytävät sinulta päätöstä asioissa, jotka edellyttävät harkintaasi.

Kun annat dot-agenteille tällaista vastuuta, uskot niille myös enemmän tietojasi ja työtäsi. Sinun on tärkeää ymmärtää, mihin kukin dot-agentti pääsee käsiksi, miten se käyttää näitä oikeuksia ja milloin se tarvitsee sinua. Nämä kysymykset ovat tärkeitä, sillä agentin virheillä voi olla seurauksia keskustelun ulkopuolella: väärin ymmärretty pyyntö voi johtaa väärän tiedoston muokkaamiseen tai sellaisten tietojen jakamiseen, jotka halusit pitää yksityisinä.

Rakennamme suojauksia tämän työn jokaiseen osaan. Lähtökohtana on GPT‑6 Astra, jota koulutamme ymmärtämään tarkoituksesi ja noudattamaan turvallisuussääntöjä. Sen lisäksi suojaamme dot-agenttien käyttämiä tietoja, niiden työympäristöjä ja niiden suunnittelemia toimintoja. Suojattu pilvityötila auttaa rajaamaan virheiden vaikutuksia, suojatut kirjautumismenettelyt suojaavat arkaluonteisia kirjautumistietoja ja erilliset toimintojen tarkistukset auttavat havaitsemaan vaiheet, jotka eivät vastaa ohjeitasi tai turvallisuusvaatimuksia. Valitset itse, mitä yhdistät, määrität asetukset ja seuraat tai ohjaat työtä sen edetessä.

Dot-agentit voivat silti tehdä virheitä. Jatkamme suojausten kehittämistä käytännön kokemusten pohjalta. Tässä kerromme, miten suojaukset toimivat yhdessä, mistä sinä päätät ja mitä rajoituksia suojauksiin yhä liittyy. Näin voit tehdä tietoon perustuvia päätöksiä siitä, millaista työtä uskot dot-agenteille.

Dot-agenttien taustalla toimii GPT‑6 Astra, kyvykkäin ja parhaiten ihmisten tavoitteiden mukaisesti toimiva mallimme. Astra on erityisen taitava ymmärtämään tavoitteesi, pysymään pyyntösi rajoissa ja esittämään täsmällisiä kysymyksiä silloin, kun vastaukset voivat vaikuttaa siihen, mitä sen pitäisi tehdä. Näiden kykyjen ansiosta dot-agentit voivat hoitaa tehtäviä pitkäjänteisesti kadottamatta alkuperäistä tarkoitustasi.

Olemme kouluttaneet Astran kieltäytymään haitallisista pyynnöistä, mukaan lukien biologiseen väärinkäyttöön tai kyberväärinkäyttöön liittyvät pyynnöt. Testaamme, miten dot-agentit käsittelevät muuttuvia ohjeita, epäselviä pyyntöjä ja yrityksiä saada ne ylittämään myöntämäsi oikeudet. Ihmisten tekemä ja automatisoitu hyökkäävä tietoturvatestaus auttavat meitä löytämään heikkouksia, parantamaan mallia ja sitä ympäröiviä järjestelmiä sekä testaamaan muutokset uudelleen.

Täydennämme mallin suojauksia ChatGPT:n tietoturvasuojauksilla ja lisätoimilla, jotka on tarkoitettu puolestasi pitkäkestoisesti työskenteleville agenteille.

ChatGPT:n sisäänrakennettuihin suojauksiin kuuluvat sisältösi salaus sekä tallennettuna että siirrettäessä sinun, OpenAI:n ja palveluntarjoajiemme välillä sekä tallennettuja tietoja suojaava pääsynhallinta. Tiliturvajärjestelmämme etsivät myös merkkejä OpenAI-tilisi epäilyttävästä käytöstä ja voivat vaatia uutta kirjautumista, jos istunto vaikuttaa vaarantuneelta.

Agentteja on suojattava myös tiedoilta, joita ne kohtaavat työssään. Verkkosivu, sähköposti tai asiakirja voi sisältää haitallisia ohjeita, joilla agentti yritetään ohjata pois tehtävästään tai saada jakamaan yksityisiä tietoja. Tätä kutsutaan kehoteinjektioksi. Yhdistämme mallin suojaukset työkalujen rajoituksiin, toimintoja edeltäviin tarkistuksiin ja valvontaan, jotta tällainen sisältö ei johtaisi ei-toivottuun toimintaan.

Valvomme myös dot-agenttien toimintojen suunnittelua ja suorittamista. Etsimme mahdollisesti haitallista toimintaa, kuten ohjeidesi vastaista toimintaa tai yrityksiä kiertää suojauksia. Jos turvallisuusvalvonta havaitsee dot-agentin käynnissä olevassa työssä huolenaiheen, se voi keskeyttää työn ja näyttää sinulle varoituksen tarkistettavaksi. Tämä sisäänrakennettu valvonta auttaa havaitsemaan huolenaiheita tehtävän edetessä. Se täydentää suojauksia, jotka rajoittavat dot-agenttien pääsyä tietoihin ja niiden toimintaa.

Jokaisella dot-agentilla on oma pilvitietokone, jolla se voi selata verkkoa, analysoida tietoja, luoda tiedostoja ja käyttää työkaluja. Dot-agentit voivat jatkaa työtä näissä työtiloissa silloinkin, kun et itse ole aktiivisesti mukana.

Valitset, mitä tilejä dot-agentit voivat käyttää. Voit yhdistää sovelluksia ChatGPT:lle myöntämiesi oikeuksien rajoissa tai kirjautua verkkosivustolle dot-agentin selaimessa. Tuetuissa kirjautumisissa voit käyttää suojattua kirjautumista. Voit myös yhdistää oman tietokoneesi, jolloin dot-agenteilla on enemmän tapoja auttaa. Ne voivat esimerkiksi analysoida työpöydällesi tallennettua laskentataulukkoa tai käyttää laitteellesi asennettuja koodaustyökaluja.

Kunkin dot-agentin suojatussa työtilassa hiekkalaatikkoeristys rajoittaa agentin pääsyä koodiin ja työkaluihin. Tämä auttaa rajaamaan haitallisen koodin tai virheellisen komennon vaikutuksia. Eristämme myös käyttäjien pilviympäristöt toisistaan ja ylläpidämme niiden Linux-käyttöjärjestelmää ja Chrome-selainta.

Dot-agentit suorittavat koodia ympäristöissä, jotka on erotettu niiden työtä koordinoivista ja keskeisiä suojauksia toteuttavista järjestelmistä. Ne voivat luoda niissä tiedostoja ja käyttää työkaluja, mutta eivät voi näiden oikeuksien avulla muuttaa turvajärjestelmiä tai poistaa pakollisia tarkistuksia käytöstä. Tämä erottelu auttaa pitämään suojaukset käytössä silloinkin, kun dot-agentti tekee virheen.

Jäljempänä kuvatut toimintasäännöt määrittävät, mitä dot-agentit voivat oikeuksillaan tehdä.

Suojatun kirjautumisen avulla dot-agentit voivat työskennellä tileilläsi ilman, että salasanat päätyvät keskusteluun. Tuetuissa kirjautumisissa mallin toiminta keskeytetään siksi aikaa, kun täytät suojatun kirjautumislomakkeen. Lomake lähettää kirjautumistietosi suoraan selainympäristöön ja välittää ne kirjautumiseen tuomatta niitä mallin kontekstiin. Tämän jälkeen dot-agentti jatkaa työtään tilillä, jolle kirjauduit. Salasanan pitäminen keskustelun ulkopuolella vähentää riskiä, että se näkyisi vastauksessa tai jaettaisiin vahingossa.

Tuetut tallennettujen salasanojen käyttötavat säilyttävät tämän erottelun erillisen, salatun kirjautumistietopalvelun avulla. Palvelu toimittaa salasanan kirjautumiseen välittämättä sitä mallille. Näin dot-agentit voivat työskennellä tileillä, joiden käyttöön olet antanut luvan, ja salasanat pysyvät mallin kontekstin ulkopuolella. Nämä suojaukset koskevat vain suojattua kirjautumista ja tallennettujen salasanojen käyttöä. Luettavaan viestiin tai asiakirjaan erikseen lisätty salainen tieto voi silti näkyä mallille.

Hallitset dot-agenttien käytettävissä olevia sovelluksia nykyisillä ChatGPT‑yhteyksilläsi ja käyttöoikeuksillasi. Ne ovat yhteisiä ChatGPT:lle, ChatGPT Workille ja Codexille. Asetusten Lisäosat-osiossa voit tarkistaa yhdistetyt tilit ja muuttaa sitä, mihin dot-agenteilla on jatkossa pääsy. Sovelluksen yhteyden katkaiseminen lopettaa uusien tietojen jakamisen kyseisen yhteyden kautta. Dot-agentin jo saamat tiedot kuitenkin säilyvät sen omassa kontekstissa. Nämä käyttöoikeudet määrittävät pääsyn sovelluksiisi. Ne eivät ohita pakollisia turvallisuusvaatimuksia.

Jos haluat dot-agenttien käyttävän paikallisia tiedostoja tai työkaluja, voit yhdistää myös tietokoneesi. Myös tätä yhteyttä koskevat paikallisen hiekkalaatikon rajoitukset ja sovellettavat toimintojen tarkistukset. Tietokoneesi mikrofonin tai kameran käyttö edellyttää myös laitekohtaisia käyttöoikeuksia, jotka voit halutessasi myöntää ChatGPT:lle.

Työpöytäsovelluksen toimintanäkymässä voit seurata ja ohjata käynnissä olevaa työtä. Siinä näkyvät käynnissä olevat ja delegoidut tehtävät sekä niiden tila. Voit lisätä taustatietoja, korjata väärinkäsityksen, muuttaa suuntaa tai pyytää dot-agenttia lopettamaan.

Dot-agenteille kertyy ajan mittaan kontekstia, jonka avulla ne voivat auttaa hyödyllisemmin. Kun ne delegoivat työtä, muita agentteja ohjeistetaan säilyttämään tehtävässä tarvittavat tiedot ja välttämään tarpeettomien arkaluonteisten yksityiskohtien säilyttämistä. Jokaisella dot-agentilla on oma konteksti, jonka voit nollata milloin tahansa.

ChatGPT Business-, Enterprise- ja Edu-työtiloissa emme oletusarvoisesti käytä tietojasi malliemme kouluttamiseen. Henkilökohtaisissa ChatGPT‑tilauksissa päätät ”Paranna mallia kaikille” -asetuksella, käytetäänkö dot-agenttiesi keskusteluja ja niiden tekemää työtä malliemme parantamiseen. Kun mallin koulutus on käytössä, siihen voidaan käyttää myös dot-agenttien suorittamia toimintoja ja määrittämiäsi automaatioita sen jälkeen, kun olemme pyrkineet poistamaan henkilön yksilöivät tiedot. Voit lukea lisää tietojesi käytöstä ohjekeskuksemme tästä artikkelista⁠(avautuu uudessa ikkunassa).

Pyytämäsi työn ohella dot-agentit voivat käynnistää taustalla tiedonhakutehtäviä etsiäkseen muita tapoja auttaa. Ne voivat esimerkiksi huomata muutoksen matkasuunnitelmissasi. Kutsumme tätä ennakoivaksi tiedonhauksi.

Nämä tehtävät suoritetaan kunkin dot-agentin pilviympäristössä. Ne keräävät vain lukemiseen tarkoitetuilla työkaluilla tietoja yhdistetyistä lähteistä, joihin on myönnetty pääsy, ja tallentavat sitten yksityisiä muistiinpanoja kyseiselle dot-agentille. Toteutamme nämä rajoitukset koodissa: tiedonhakutehtävät eivät voi suoraan lähettää viestejä muille ihmisille, muuttaa yhdistettyjen sovellusten sisältöä eivätkä ohjata selainta tai työpöytää. Dot-agentit voivat päättää löydösten perusteella, miten auttaa, mutta kaikkien jatkotoimien on noudatettava tavanomaisia sääntöjä ja tarkistuksia.

Emme kouluta mallejamme suoraan näillä taustatiedonhaun ketjuilla tai niiden tuottamilla muistiinpanoilla. Dot-agentti voi kuitenkin saada muistiinpanoja taustalla toimivalta tiedonhakutehtävältään tai lukea osia tiedonhakuketjuistaan. Näin keskusteluun tai tehtävään tuotuja tietoja voidaan käyttää mallin kouluttamiseen asetustesi mukaan, jos kyseinen keskustelu tai tehtävä kuuluu koulutukseen käytettäviin tietoihin. Taustalla toimiva tiedonhakutehtävä voi esimerkiksi kerätä tietoja useista kohteista tulevaa Euroopan-matkaa varten. Kyseistä tiedonhakuketjua ja sen muistiinpanoja ei käytetä suoraan koulutukseen. Kun myöhemmin pyydät dot-agenttiasi auttamaan Lissabonin-matkan suunnittelussa, se saattaa lukea taustatiedonhaussa syntyneen Lissabonia koskevan muistiinpanon. Muistiinpanosta tulee osa matkasuunnittelukeskustelusi kontekstia, ja sitä voidaan sen jälkeen käyttää koulutukseen asetustesi mukaan. Muuta taustatiedonhakua ei käytetä koulutukseen, ellei sitäkin tuoda keskusteluun tai tehtävään, jonka tietoja voidaan käyttää koulutuksessa.

Dot-agentit noudattavat sisäänrakennettuja turvarajoja, joiden tarkoitus on ehkäistä haittoja ja pitää merkittävät päätökset sinulla. Niiden turvallisuussäännöt edellyttävät kieltäytymistä haitallisista pyynnöistä, mukaan lukien biologinen väärinkäyttö ja kyberväärinkäyttö. Tehtävissä, joissa ne voivat auttaa, toimintasäännöt määrittävät, milloin ne voivat edetä, milloin niiden on pyydettävä vahvistusta ja milloin niiden on siirrettävä jokin vaihe takaisin sinulle.

Näiden rajojen puitteissa dot-agentit voivat lukea tietoja, joihin niillä on pääsy, analysoida niitä ja laatia luonnoksia keskusteluihisi. Viestin lähettämistä tai tiedoston jakamista varten ne on opetettu pyytämään lupa, joka kattaa jaettavat tiedot ja vastaanottajan tyypin. Mitä arkaluonteisempia tiedot ovat, sitä tarkemmin vastaanottajat on määritettävä. Esimerkiksi terveystietojen jakaminen edellyttää aina, että käyttäjä nimeää vastaanottajan (”jaa sairaushistoriani tohtori Thompsonille”). Vähemmän arkaluonteisten henkilötietojen, kuten sähköpostiosoitteen tai puhelinnumeron, jakaminen edellyttää oletusarvoisesti, että käyttäjä määrittää vastaanottajaryhmät (”mikä tahansa lentoyhtiö”). Käyttäjä voi väljentää vähemmän arkaluonteisten henkilötietojen jakamista koskevia sääntöjä (”jaa millä tahansa verkkolomakkeella”) luomalla oman säännön. Lisätietoja ominaisuudesta on seuraavassa osiossa. Lupa pysyy sidottuna tehtävää koskeviin ohjeisiisi. Työn jatkaminen myöhemmin tai sen delegointi ei laajenna lupaa.

Dot-agentit voivat tehdä ostoksia korteilla, jotka olet jo tallentanut kauppiaan verkkosivustolle. Nämä ostokset edellyttävät hyväksyntääsi.

Jotkin toiminnot edellyttävät vahvistustasi joka kerta. Tällaisia ovat esimerkiksi tietojen pysyvä poistaminen, tuntemattomasta lähteestä peräisin olevan ohjelmiston asentaminen tai suorittaminen sekä uusien tietoturvan kannalta arkaluonteisten käyttöoikeuksien myöntäminen. Näin voit tarkistaa muutokset, joita voi olla vaikea perua tai jotka antavat jollekulle uusia käyttöoikeuksia.

Muissa arkaluonteisissa vaiheissa, kuten salasanan vaihtamisessa tai rahansiirrossa tilien välillä, dot-agentit voivat auttaa muissa tehtävän osissa, mutta niiden on jätettävä itse arkaluonteiset vaiheet sinun tehtäviksesi.

Omilla säännöillä voit ohjata dot-agenttien tapaa auttaa sisäänrakennettujen suojausten puitteissa. Voit esimerkiksi kieltää niitä lähettämästä sähköposteja koskaan. Voit antaa myös tehtäväkohtaisia ohjeita, esimerkiksi pyytää dot-agenttia kertomaan kollegalle poissaolostasi paljastamatta sen henkilökohtaista syytä. Nämä ohjeet pätevät myös silloin, kun dot-agentti delegoi työtä tai työskentelee taustalla.

Dot-agentit voivat auttaa sinua laatimaan omia sääntöjä, mutta tarvitsevat hyväksyntäsi niiden muuttamiseen. Nämä valinnat toimivat sisäänrakennettujen turvarajojen puitteissa. Ne eivät voi poistaa pakollisia vahvistuksia, vaiheiden siirtämistä sinulle tai keskeisiä turvallisuusvaatimuksia.

Ennen kuin dot-agentit esimerkiksi lähettävät sähköposteja tai muuttavat tiedostoja, erillinen Automaattinen tarkistus -turvajärjestelmä tarkistaa suunnitellut vaiheet ohjeidesi, omien sääntöjesi ja turvallisuusvaatimusten perusteella. Sähköpostista se tarkistaa vastaanottajan ja viestin havaitakseen väärän osoitteen tai tietoja, joita et tarkoittanut jakaa.

Jos automaattinen tarkistus sallii vaiheen, sitä ehdottanut dot-agentti suorittaa sen sopivalla tietokone- tai sovellustyökalulla ja jatkaa sitten tehtävääsi tuloksen perusteella. Se voi käyttää jo antamaasi hyväksyntää, jos hyväksyntä kattaa toiminnon eivätkä säännöt edellytä uutta vahvistusta.

Jos automaattinen tarkistus estää vaiheen, se estää toiminnon suorittamisen ja kertoo syyn dot-agentille. Dot-agentti voi pyytää lisätietoja tai hyväksyntääsi, jos se voisi poistaa esteen, ja lähettää sitten vaiheen uudelleen tarkistettavaksi. Syystä riippuen se voi sen sijaan kokeilla sallittua vaihtoehtoa, siirtää arkaluonteisen vaiheen takaisin sinulle tai lopettaa. Hyväksyntäsi ei voi ohittaa keskeisiä turvallisuusvaatimuksia.

Pidämme automaattisen tarkistuksen toteuttavat hallintamekanismit dot-agenttien muokattavissa olevien ympäristöjen ulkopuolella. Näin agentit eivät voi muuttaa pakollista tarkistusta tai poistaa sitä käytöstä. Tavanomaisissa, vain tietojen lukemiseen rajoittuvissa vaiheissa noudatetaan edelleen sovellusten käyttöoikeuksia, työkalujen rajoituksia ja muita suojauksia, mutta ne eivät tarvitse tätä lisätarkistusta.

Jotta voit uskoa dot-agenteille pitkäkestoista työtä, sinun on tiedettävä, miten ne noudattavat ohjeitasi ja reagoivat odottamattomiin tilanteisiin. Astra auttaa niitä ymmärtämään tarkoituksesi. Tietoja, työtiloja, kirjautumistietoja ja toimintoja koskevat suojaukset puolestaan auttavat rajoittamaan virheistä tai haitallisesta sisällöstä aiheutuvia vahinkoja. Yhdessä nämä suojaukset antavat dot-agenteille tilaa tehdä hyödyllistä työtä ja vähentävät samalla riskiä, että virhe johtaisi ei-toivottuun toimintaan tai tietojen paljastumiseen.

Valitset itse, mihin dot-agentit voivat muodostaa yhteyden ja miten ne auttavat. Voit seurata niiden edistymistä tai muuttaa suuntaa tarpeidesi muuttuessa. Hyväksynnät ja vaiheiden siirtäminen takaisin sinulle pitävät keskeiset päätökset sinulla. Dot-agentit voivat silti tehdä virheitä, joten jatkamme niiden suojausten testaamista ja parantamista käytännön kokemusten pohjalta. Tavoitteemme on, että sinun on helpompi jättää työ dot-agenteille ja palatessasi huomata sen edenneen hyödyllisesti. Omat toiveesi ohjaavat tehtävää, ja tärkeät päätökset pysyvät käsissäsi.

Lue järjestelmäkortista⁠(avautuu uudessa ikkunassa) tarkemmin suojauksistamme, turvallisuusarvioinneistamme ja jäljellä olevista rajoituksista.

Lue ChatGPT:n tietoturvan perusteista artikkelista Tietoturva ja tietosuoja OpenAI:lla. Tutustu yhteen verkkoturvasuojaukseemme tarkemmin artikkelissa Näin suojaamme tietosi, kun tekoälyagentti napsauttaa linkkiä.