Tietojen määräaikainen säilyttäminen edistyneille malleille

Tietojen määräaikainen säilyttäminen antaa ehdot täyttäville API-asiakkaille selkeän lupauksen: OpenAI ei säilytä heidän kehotteitaan tai mallin vastauksia pyynnön käsittelyn jälkeen. OpenAI:n henkilöstö ei voi tarkastella asiakkaiden sisältöä¹, eikä yritysasiakkaiden tietoja käytetä malliemme kouluttamiseen, ellei asiakas nimenomaisesti salli sitä.

Kun mallit suorittavat entistä pidempiä ja monimutkaisempia tehtäviä, jotkin vakavat riskit saattavat tulla näkyviin vasta useiden vuorovaikutusten aikana. Nykyiset ZDR-yhteensopivat turvallisuusjärjestelmät arvioivat jokaisen vuorovaikutuksen erikseen. Esittelemme nyt ennakkoon yksityisen turvallisuuskäsittelyn, joka on suunniteltu tunnistamaan toisiinsa liittyvien vuorovaikutusten malleja antamatta OpenAI:n henkilöstölle pääsyä taustalla olevaan sisältöön.

ZDR-käyttöönotossa asiakkaan sisältö pysyy asiakkaan hallitsemassa infrastruktuurissa. Kehitämme myös vaihtoehtoa, jossa sisältö tallennetaan OpenAI:n infrastruktuuriin asiakkaan hallitsemilla avaimilla salattuna. Molemmissa tapauksissa automaattiset järjestelmät voivat tunnistaa mahdollisen väärinkäytön ja palauttaa rajattuja turvallisuussignaaleja paljastamatta kehotteita tai vastauksia OpenAI:n henkilöstölle.

Vakavimmat tekoälyn turvallisuusriskit eivät aina näy yhdessä vuorovaikutuksessa. Mahdollisesti haitalliset aikomukset käyvät usein ilmi vasta, kun useita vuorovaikutuksia tarkastellaan yhdessä. Samankaltaisia riskejä voi syntyä, kun pahantahtoiset toimijat koettelevat suojatoimia toistuvasti, koordinoivat toimintaansa eri tilien välillä tai naamioivat uhkia tavanomaiseksi tutkimukseksi. Riskejä voi kehittyä myös agenttipohjaisen tehtävän aikana, esimerkiksi jos järjestelmän toiminta poikkeaa käyttäjän aikomuksesta ja se jatkaa toimintaansa lopettamiskäskyn jälkeen.

Kun tekoälyjärjestelmät suorittavat entistä pidempiä ja monimutkaisempia tehtäviä, tämä laajempi asiayhteys on yhä tärkeämpi hyväksyttävän toiminnan erottamiseksi väärinkäytöstä ja sen varmistamiseksi, että tekoälyagentit pysyvät niille annetun toimivallan rajoissa.

Jotkin viimeaikaiset edistyneiden mallien käyttöönotot ovat edellyttäneet, että asiakkaat sallivat tekoälypalveluntarjoajansa säilyttää arkaluonteista sisältöä turvallisuuden valvontaa varten. Monilla organisaatioilla tällaiset vaatimukset ovat ristiriidassa niiden turvallisuusvelvoitteiden tai palvelemilleen ihmisille annettujen sitoumusten kanssa.

Yksityinen turvallisuuskäsittely on suunniteltu niin, että voimme jatkaa ZDR:n tarjoamista.

Yksityinen turvallisuuskäsittely perustuu ZDR:ssä ja muissa käyttöönotoissa jo käytettäviin automaattisiin suojatoimiin. Nykyiset ZDR-yhteensopivat turvallisuusjärjestelmät arvioivat vuorovaikutukset erikseen. Yksityinen turvallisuuskäsittely ulottaa nämä suojatoimet toisiinsa liittyviin vuorovaikutuksiin, jolloin automaattiset järjestelmät voivat tunnistaa malleja ilman, että OpenAI:n henkilöstö pääsee käsiksi säilytettyyn asiakassisältöön.

Yksityinen turvallisuuskäsittely hyödyntää asiakkaan sisältöä sen tallennuspaikasta riippumatta, olipa se asiakkaan hallitsemassa infrastruktuurissa (ZDR-käyttöönotot) tai OpenAI:n tarjoamassa tallennustilassa. OpenAI:n tarjoamassa tallennustilassa asiakkaan sisältö salataan asiakkaan hallitsemilla avaimilla. OpenAI:n henkilöstöllä ei ole kopiota näistä avaimista, joten henkilöstö ei pääse käsiksi taustalla olevaan sisältöön.

Kun riski tunnistetaan, OpenAI saa tarkasti rajatun signaalin, joka ilmaisee kyseessä olevan toiminnan tyypin samaan tapaan kuin nykyiset turvallisuusjärjestelmämme. Signaalin perusteella voidaan arvioida, tarvitaanko valvontatoimia. OpenAI:n henkilöstö ei pääse käsiksi asiakkaan sisältöön edes silloin, kun se merkitään tarkastettavaksi.

Asiakkaat voivat tutkia hälytyksiä ja valvontapäätöksiä omissa järjestelmissään olevien tietojen avulla. Jos he haluavat valittaa päätöksestä, selventää hyväksyttävää toimintaa tai tukea vahvistetun väärinkäytön tutkintaa, he voivat halutessaan jakaa asiaankuuluvia tietoja OpenAI:n kanssa.

Yksityistä turvallisuuskäsittelyä testataan parhaillaan ensimmäisten asiakkaiden kanssa. Esittelemme tämän ennakkoversion nyt, koska asiakkaamme ovat ilmaisseet selvästi tarvitsevansa ennakoitavuutta siihen, miten heidän sisältöään suojataan tekoälyjärjestelmien kykyjen kehittyessä.

Missiomme on varmistaa, että yleinen tekoäly hyödyttää koko ihmiskuntaa. Yhteistyö asiakkaiden ja kumppaneiden kanssa on olennaista tehokkaiden suojatoimien kehittämisessä. Kuten periaatteistamme käy selvästi ilmi, mikään tekoälylaboratorio ei voi ratkaista uusia riskejä yksin. Yksityinen turvallisuuskäsittely noudattaa tätä lähestymistapaa, ja sitä kehitetään eri toimialoja, alueita ja yrityskokoja edustavien asiakkaiden kanssa.

Yhteistyöorganisaatiomme käsittelevät toimialojensa arkaluonteisimpiin kuuluvia tietoja, kuten taloustietoja, terveystietoja, luottamuksellisia liiketoimintasuunnitelmia ja omistusoikeudellista tutkimustietoa. Näiden tietojen suojaaminen on olennaista sääntelyvelvoitteiden täyttämiseksi, asiakkaiden luottamuksen ylläpitämiseksi ja kilpailuedun säilyttämiseksi.

Heidän palautteensa auttaa meitä vahvistamaan suojatoimia niin, että heidän tietonsa pysyvät heidän hallinnassaan.

Jatkamme lähestymistapamme teknisten ja operatiivisten yksityiskohtien työstämistä asiakkaidemme kanssa. Aiomme aloittaa yksityisen turvallisuuskäsittelyn käyttöönoton ja julkaista teknisen white paper -asiakirjan syyskuussa. Pidämme asiakkaat ajan tasalla kaikissa vaiheissa: kerromme päivityksistä hyvissä ajoin, selitämme niiden vaikutukset nykyisiin sitoumuksiin sekä annamme asiakkaille suunnitteluun tarvittavan ajan ja tuen.