Esittelyssä lukitustila ja yhdenmukaiset kohonneen riskin merkinnät ChatGPT:ssä

Kun tekoälyjärjestelmät ottavat hoitaakseen yhä monimutkaisempia tehtäviä—erityisesti verkkoon ja yhdistettyihin sovelluksiin liittyviä—tietoturvan merkitys muuttuu.

Yksi nouseva riski on tullut erityisen merkittäväksi: kehoteinjektio⁠. Näissä hyökkäyksissä kolmas osapuoli yrittää harhauttaa keskustelevaa tekoälyjärjestelmää noudattamaan haitallisia ohjeita tai paljastamaan arkaluonteisia tietoja.

Tänään esittelemme kaksi uutta suojausta, jotka on suunniteltu auttamaan käyttäjiä ja organisaatioita lieventämään kehoteinjektiohyökkäyksiä, tarjoamalla selkeämmän näkyvyyden riskeihin sekä vahvempia hallintakeinoja:

• Lukitustila ChatGPT:ssä on edistynyt ja valinnainen suojausasetus korkeamman riskin käyttäjille
• "Kohonneen riskin" merkinnät tietyille ominaisuuksille, jotka voivat aiheuttaa lisäriskiä ChatGPT:ssä, ChatGPT Atlasissa ja Codexissa

Nämä lisäykset vahvistavat olemassa olevia suojatoimiamme malli-, tuote- ja järjestelmätasoilla. Tämä sisältää hiekkalaatikkoteknologiat, suojaukset URL-pohjaista tiedonsiirtoa vastaan⁠, valvonnan ja toimeenpanon sekä yritystason hallintatoiminnot⁠, kuten roolipohjaiset käyttöoikeudet ja auditointilokit.

Lukitustila on valinnainen, edistynyt suojausasetus, joka on suunniteltu pienelle joukolle erittäin tietoturvatietoisia käyttäjiä, kuten johtajille tai merkittävien organisaatioiden tietoturvatiimeille, jotka tarvitsevat tehostettua suojaa kehittyneitä uhkia vastaan. Se ei ole välttämätöntä useimmille käyttäjille. Lukitustila rajoittaa tiukasti ChatGPT:n vuorovaikutusta ulkoisten järjestelmien kanssa vähentääkseen kehoteinjektioon perustuvan tietojen ulosvuotamisen riskiä.

Lukitustila poistaa deterministisesti käytöstä tietyt ChatGPT:n työkalut ja ominaisuudet, joita vastustaja voisi yrittää hyödyntää arkaluonteisten tietojen ulosvuotamiseen käyttäjien keskusteluista tai yhdistetyistä sovelluksista, esimerkiksi kehoteinjektioiden kaltaisilla hyökkäyksillä.

Lukitustilassa esimerkiksi verkkoselaaminen on rajoitettu välimuistissa olevaan sisältöön, joten OpenAI:n hallitusta verkosta ei lähde lainkaan reaaliaikaisia verkkopyyntöjä. Tämä rajoitus on suunniteltu estämään arkaluonteisten tietojen päätymisen hyökkääjälle selaamisen kautta. Jotkin ominaisuudet poistetaan kokonaan käytöstä, jos emme voi tarjota vahvoja deterministisiä takeita tietoturvasta.

ChatGPT:n liiketoimintasuunnitelmat tarjoavat jo yritystason tietoturvaa⁠. Lukitustila perustuu näihin suojauksiin ja on saatavilla ChatGPT Enterpriselle, ChatGPT Edulle, ChatGPT for Healthcarelle ja ChatGPT for Teachersille. Ylläpitäjät voivat ottaa sen käyttöön Työtilan asetuksissa⁠(avautuu uudessa ikkunassa) luomalla uuden roolin⁠(avautuu uudessa ikkunassa). Kun lukitustila on käytössä, se lisää lisärajoituksia olemassa olevien ylläpitäjäasetusten päälle.

Lue lisää lukitustilasta ohjekeskuksestamme⁠(avautuu uudessa ikkunassa).

Koska jotkin kriittiset työnkulut ovat riippuvaisia sovelluksista, työtilan ylläpitäjillä on tarkemmat hallintamahdollisuudet. He voivat valita tarkalleen, mitkä sovellukset ja mitkä tietyt toiminnot näissä sovelluksissa ovat käyttäjien saatavilla lukitustilassa. Lisäksi, ja erillään lukitustilasta, Compliance API -lokialusta⁠(avautuu uudessa ikkunassa) tarjoaa yksityiskohtaisen näkyvyyden sovelluksen käyttöön, jaettuihin tietoihin ja yhdistettyihin lähteisiin, mikä auttaa järjestelmänvalvojia ylläpitämään valvontaa.

Aiomme tuoda lukitustilan kuluttajien saataville tulevina kuukausina.

Tekoälytuotteet voivat olla hyödyllisempiä, kun ne on yhdistetty sovelluksiisi ja verkkoon, ja olemme investoineet merkittävästi yhdistettyjen tietojen turvaamiseen⁠. Jotkin verkkoon liittyvät ominaisuudet tuovat kuitenkin mukanaan uusia riskejä, joita alan turvallisuus- ja tietoturvatoimet eivät vielä täysin kata. Jotkut käyttäjät saattavat olla valmiita ottamaan nämä riskit, ja mielestämme on tärkeää, että käyttäjillä on mahdollisuus päättää, käytetäänkö niitä ja miten, erityisesti työskennellessään yksityisten tietojensa kanssa.

Lähestymistapamme on ollut tarjota tuotteen sisäistä ohjausta ominaisuuksille, jotka voivat aiheuttaa lisäriskiä. Jotta tämä olisi selkeämpää ja johdonmukaisempaa, standardoimme, miten nimeämme lyhyen luettelon nykyisistä ominaisuuksista. Nämä ominaisuudet käyttävät nyt yhtenäistä "Kohonnut riski" -merkintää ChatGPT:ssä, ChatGPT Atlasissa ja Codexissa, jotta käyttäjät saavat samat ohjeet riippumatta siitä, missä he niitä kohtaavat.

Esimerkiksi Codex-koodausavustajassamme kehittäjät voivat myöntää Codexille verkon käyttöoikeuden, jotta se voi suorittaa toimintoja verkossa, kuten etsiä dokumentaatiota. Asiaankuuluvalla asetusnäytöllä on "Kohonnut riski" -tunniste sekä selkeä selitys siitä, mitä muuttuu, mitä riskejä voi syntyä ja milloin kyseinen käyttöoikeus on asianmukainen.

Jatkamme investointeja turvallisuus- ja tietoturvatoimiemme vahvistamiseen, erityisesti uusien, nousevien tai kasvavien riskien varalta. Vahvistaessamme näiden ominaisuuksien suojatoimia, poistamme "Kohonnut riski" -merkinnän, kun olemme todenneet, että tietoturvaparannukset ovat vähentäneet näitä riskejä riittävästi yleistä käyttöä varten. Päivitämme myös jatkuvasti sitä, mitkä ominaisuudet saavat tämän merkinnän, jotta voimme viestiä riskeistä käyttäjille parhaalla mahdollisella tavalla.