Põhimõte „andmeid ei säilitata“ annab tingimustele vastavatele API klientidele selge lubaduse: OpenAI ei säilita pärast päringu töötlemist nende sisestusi ega mudeli vastuseid. OpenAI töötajad ei saa kliendi sisu kontrollimiseks kasutada1 ning äriklientide andmeid ei kasutata meie mudelite treenimiseks, kui klient pole selleks sõnaselgelt nõusolekut andnud.
Kui mudelid hakkavad täitma pikemaid ja keerukamaid ülesandeid, võivad mõned tõsised riskid ilmneda alles mitme suhtluse jooksul. Olemasolevad ZDR-iga ühilduvad ohutussüsteemid hindavad iga suhtlust eraldi. Tutvustame täna privaatset ohutustöötlust, mis on loodud tuvastama seotud suhtlustes mustreid, andmata OpenAI töötajatele juurdepääsu aluseks olevale sisule.
ZDR-i rakendustes jääb kliendi sisu tema enda hallatavasse taristusse. Arendame ka võimalust salvestada sisu OpenAI taristus, krüpteerides selle kliendi hallatavate võtmetega. Mõlemal juhul saavad automaatsed süsteemid tuvastada võimalikku väärkasutust ja edastada piiratud ohutussignaale, paljastamata OpenAI töötajatele aluseks olevaid sisestusi või vastuseid.
Kõige tõsisemad tehisintellekti ohutusriskid ei ole alati ühe suhtluse põhjal nähtavad. Sageli ilmnevad võimalikud kahjulikud kavatsused alles siis, kui vaadelda mitut suhtlust koos. Sarnased riskid võivad tekkida, kui pahatahtlikud osalejad testivad korduvalt kaitsemeetmete piire, koordineerivad tegevust mitme konto kaudu või maskeerivad ohte tavapäraseks uurimistööks. Riskid võivad kujuneda ka agentse ülesande käigus, näiteks kui süsteemi tegevus läheb kasutaja kavatsusega vastuollu, sest süsteem jätkab tegutsemist ka pärast peatamiskäsku.
Kui tehisintellektisüsteemid hakkavad täitma pikemaid ja keerukamaid ülesandeid, muutub laiem kontekst üha olulisemaks, et eristada õiguspärast tegevust väärkasutusest ning tagada, et tehisintellektiagendid püsiksid neile antud volituste piires.
Mõne hiljutise tipptasemel mudeli kasutuselevõtul on klientidelt nõutud nõusolekut, et nende tehisintellekti pakkuja säilitaks ohutuse jälgimiseks tundlikku sisu. Paljude organisatsioonide jaoks lähevad sellised nõuded vastuollu nende turvakohustuste või klientidele antud lubadustega.
Privaatne ohutustöötlus on loodud nii, et saaksime jätkuvalt pakkuda ZDR-i.
Privaatne ohutustöötlus tugineb automaatsetele kaitsemeetmetele, mida juba kasutatakse ZDR-i ja muude juurutusviiside puhul. Olemasolevad ZDR-iga ühilduvad ohutussüsteemid hindavad suhtlusi eraldi. Privaatne ohutustöötlus laiendab need kaitsemeetmed seotud suhtlustele, võimaldades automaatsetel süsteemidel tuvastada mustreid, ilma et OpenAI töötajad pääseksid juurde säilitatavale kliendisisule.
Privaatne ohutustöötlus kasutab kliendisisu olenemata selle salvestuskohast: kliendi hallatavas taristus (ZDR-i rakendused) või OpenAI pakutavas salvestusruumis. OpenAI pakutavas salvestusruumis krüpteeritakse kliendisisu kliendi hallatavate võtmetega. OpenAI töötajatel pole nende võtmete koopiaid, seega ei pääse nad aluseks olevale sisule juurde.
Riski tuvastamisel saab OpenAI täpselt piiritletud signaali, mis näitab asjaomase tegevuse liiki, nagu meie praegustes ohutussüsteemides. Selle signaali põhjal saab otsustada, kas piiravaid meetmeid on vaja rakendada. OpenAI töötajad ei saa kliendisisule juurdepääsu isegi siis, kui see märgistatakse.
Kliendid saavad hoiatusi ja piiravate meetmete otsuseid uurida oma süsteemides oleva teabe põhjal. Kui nad soovivad otsuse vaidlustada, õiguspärast tegevust selgitada või kinnitatud väärkasutuse uurimisele kaasa aidata, võivad nad asjakohast teavet OpenAI-ga jagada.
Privaatset ohutustöötlust katsetatakse praegu esimeste klientidega. Jagame seda eelvaadet juba praegu, sest kliendid on meile selgelt öelnud, et vajavad tehisintellektisüsteemide võimekuse kasvades kindlust, kuidas nende sisu kaitstakse.
Meie missioon on tagada, et üldine tehisintellekt tooks kasu kogu inimkonnale. Koostöö klientide ja partneritega on tõhusate kaitsemeetmete loomisel hädavajalik. Nagu meie põhimõtted selgelt ütlevad, ei suuda ükski tehisintellektilabor tekkivaid riske üksi lahendada. Privaatne ohutustöötlus järgib seda lähenemist ning seda aitavad kujundada eri tegevusalade, piirkondade ja suurusega ettevõtete kliendid.
Organisatsioonid, kellega koostööd teeme, käitlevad oma valdkonna kõige tundlikumat teavet, sealhulgas finantsdokumente, terviseandmeid, konfidentsiaalseid äriplaane ja kaitstud teadusuuringuid. Selle teabe kaitsmine on hädavajalik õigusnõuete täitmiseks, klientide usalduse hoidmiseks ja konkurentsieelise säilitamiseks.
Nende tagasiside aitab meil luua tugevamaid kaitsemeetmeid, jättes samal ajal kontrolli nende teabe üle nende endi kätte.
„Tehisintellekti kasutuselevõtt ettevõtetes sõltub täielikult sellest, et klient säilitab kontrolli oma andmete üle ning neid ei kasutata otseselt ega kaudselt väljaspool valitud teenust. OpenAI lubadus mitte kasutada andmeid treenimiseks ja ZDR annavad Gleanile kindlust OpenAI abil lahendusi luua. Mudelite võimekuse kasvades näitab OpenAI, et ohutust saab edendada, kahjustamata privaatsust ja kontrolli, millel püsib ettevõtete usaldus.“
—Sunil Agrawal, Gleani infoturbejuht
Jätkame klientidega koostööd, et täpsustada oma lähenemisviisi tehnilisi ja töökorralduslikke üksikasju. Kavatseme alustada privaatse ohutustöötluse järkjärgulist kasutuselevõttu ja avaldada tehnilise valge raamatu septembris. Hoiame kliente igal sammul kursis: jagame varakult uuendusi, selgitame nende mõju senistele kohustustele ning anname klientidele edasiseks planeerimiseks vajaliku aja ja toe.
Autor
- 1
Nagu teisedki tipptasemel mudelite pakkujad, on OpenAI seadusega kohustatud(avaneb uues aknas) teatama laste seksuaalset väärkohtlemist kujutavast materjalist (CSAM laste seksuaalkuritarvitav materjal). Võimalikule CSAM-ile ehk laste seksuaalkuritarvitavale materjalile viitavad pildid säilitatakse ka edaspidi käsitsi kontrollimiseks ja neist teatamiseks, sealhulgas rakendustes, kus andmeid ei säilitata, nagu praegugi.
