Engin gögn varðveitt fyrir háþróuð líkön

Engin gögn varðveitt felur í sér skýrt loforð til gjaldgengra API-viðskiptavina: OpenAI varðveitir hvorki fyrirmæli þeirra né svör líkans eftir að beiðni hefur verið afgreidd. Starfsfólk OpenAI hefur ekki aðgang að efni viðskiptavina til yfirferðar¹ og gögn fyrirtækjaviðskiptavina eru ekki notuð til að þjálfa líkön okkar nema þeir samþykki það sérstaklega.

Þegar líkön takast á við lengri og flóknari verkefni geta sumar alvarlegar hættur aðeins komið í ljós í mörgum samskiptum. Núverandi öryggiskerfi sem samrýmast ZDR meta hvert samskipti fyrir sig. Í dag kynnum við einkarekna öryggisvinnslu, sem er ætlað að greina mynstur í tengdum samskiptum án þess að starfsfólk OpenAI fái aðgang að undirliggjandi efni.

Í ZDR-innleiðingum er efni viðskiptavina áfram í innviðum undir stjórn þeirra. Við erum einnig að þróa valkost þar sem efni er geymt í innviðum OpenAI og dulkóðað með lyklum sem viðskiptavinurinn stjórnar. Í báðum tilvikum geta sjálfvirk kerfi greint hugsanlega misnotkun og sent takmarkaðar öryggisvísbendingar án þess að starfsfólk OpenAI sjái undirliggjandi fyrirmæli eða svör.

Alvarlegustu öryggisáhættur gervigreindar sjást ekki alltaf í einum samskiptum. Oft kemur hugsanlega skaðlegur ásetningur aðeins í ljós þegar mörg samskipti eru skoðuð saman. Sambærileg áhætta getur skapast þegar illgjarnir aðilar prófa varnir ítrekað, samræma aðgerðir milli reikninga eða dylja ógnir sem venjulegar rannsóknir. Áhætta getur einnig myndast meðan fulltrúakerfi leysir verkefni, til dæmis ef kerfið fer að vinna gegn ásetningi notandans með því að halda áfram eftir að því hefur verið sagt að stöðva.

Eftir því sem gervigreindarkerfi takast á við lengri og flóknari verkefni verður þetta víðara samhengi sífellt mikilvægara til að greina lögmæta starfsemi frá misnotkun og tryggja að gervigreindarfulltrúar haldi sig innan fyrirhugaðs valdsviðs.

Við sumar nýlegar innleiðingar háþróaðra líkana hefur verið gerð sú krafa að viðskiptavinir heimili gervigreindarveitanda sínum að varðveita viðkvæmt efni vegna öryggiseftirlits. Hjá mörgum fyrirtækjum stangast slíkar kröfur á við öryggisskyldur þeirra eða skuldbindingar gagnvart þeim sem þau þjóna.

Einkarekin öryggisvinnsla er hönnuð þannig að við getum áfram boðið ZDR.

Einkarekin öryggisvinnsla byggir á sjálfvirkum vörnum sem þegar eru notaðar í ZDR og öðrum innleiðingum. Núverandi öryggiskerfi sem samrýmast ZDR meta samskipti hvert fyrir sig. Einkarekin öryggisvinnsla útvíkkar þessar varnir yfir tengd samskipti svo sjálfvirk kerfi geti greint mynstur án þess að starfsfólk OpenAI fái aðgang að varðveittu efni viðskiptavina.

Einkarekin öryggisvinnsla notar efni viðskiptavina óháð því hvar það er geymt, hvort sem það er í innviðum undir stjórn viðskiptavina (ZDR-innleiðingar) eða í geymslu OpenAI. Þegar geymsla OpenAI er notuð er efni viðskiptavina dulkóðað með lyklum sem þeir stjórna. Starfsfólk OpenAI hefur ekki afrit af lyklunum og getur því ekki nálgast undirliggjandi efni.

Þegar áhætta greinist fær OpenAI afmarkað merki sem tilgreinir tegund starfseminnar, líkt og í núverandi öryggiskerfum okkar. Hægt er að nota merkið til að ákvarða hvort grípa þurfi til aðgerða. Starfsfólk OpenAI fær ekki aðgang að efni viðskiptavinarins, jafnvel þótt það sé merkt.

Viðskiptavinir geta rannsakað viðvaranir og ákvarðanir um aðgerðir með upplýsingum úr eigin kerfum. Vilji þeir áfrýja, skýra lögmæta starfsemi eða styðja rannsókn á staðfestri misnotkun geta þeir valið að deila viðeigandi upplýsingum með OpenAI.

Einkarekin öryggisvinnsla er nú prófuð með fyrstu viðskiptavinum. Við kynnum þetta núna vegna þess að viðskiptavinir okkar hafa komið því skýrt á framfæri að þeir þurfi fyrirsjáanleika um hvernig efni þeirra verður verndað þegar gervigreindarkerfi verða öflugri.

Markmið okkar er að tryggja að almenn gervigreind gagnist öllu mannkyni. Samstarf við viðskiptavini og samstarfsaðila er grundvallaratriði þegar við þróum árangursríkar varnir. Eins og meginreglur okkar sýna skýrt getur engin gervigreindarstofa tekist ein á við nýja áhættu. Einkarekin öryggisvinnsla endurspeglar þessa nálgun og mótast í samstarfi við viðskiptavini úr ýmsum atvinnugreinum og heimshlutum og af ólíkri stærð.

Fyrirtækin sem við vinnum með annast einhverjar viðkvæmustu upplýsingarnar í sínum geirum, þar á meðal fjárhagsgögn, heilbrigðisgögn, trúnaðaráætlanir og rannsóknir sem eru eign þeirra. Vernd þessara upplýsinga er nauðsynleg til að uppfylla lagaskyldur, viðhalda trausti viðskiptavina og varðveita samkeppnisforskot þeirra.

Endurgjöf þeirra hjálpar okkur að byggja upp öflugri varnir en halda upplýsingunum áfram undir þeirra stjórn.

Við munum áfram vinna með viðskiptavinum að tæknilegum og rekstrarlegum útfærslum nálgunar okkar. Við stefnum að því að hefja innleiðingu einkarekinnar öryggisvinnslu og birta tæknilega hvítbók í september. Við munum upplýsa viðskiptavini í hverju skrefi, birta uppfærslur tímanlega, útskýra áhrif þeirra á fyrirliggjandi skuldbindingar og veita þann tíma og stuðning sem þarf til að geta gert áætlanir fram í tímann.