Kuna tehisintellekti süsteemid võtavad enda kanda üha keerukamaid ülesandeid—eriti neid, mis hõlmavad veebi ja ühendatud rakendusi—muutuvad ka turvariskid.
Üks tekkivaid riske on eriti oluliseks muutunud: viipade süstimine. Nendes rünnakutes püüab kolmas osapool eksitada vestluslikku tehisintellektisüsteemi järgima pahatahtlikke juhiseid või avaldama tundlikku teavet.
Täna tutvustame kahte uut kaitsemeedet, mis on loodud selleks, et aidata kasutajatel ja organisatsioonidel leevendada viipade süstimise rünnakutega seotud probleeme, pakkudes selgemat ülevaadet riskidest ja tugevamaid kontrollimehhanisme:
- Lukustusrežiim ChatGPT‑s, täiustatud ja valikuline turvaseade suurema riskiga kasutajatele
- “Kõrgendatud riski” sildid teatud võimete jaoks, mis võivad tekitada täiendavat riski ChatGPT‑s, ChatGPT Atlases ja Codexis
Need täiendused tuginevad meie olemasolevatele kaitsemeetmetele mudeli, toote ja süsteemi tasanditel. See hõlmab liivakastimist, kaitset URL-põhise andmete väljavoolu vastu, seiret ja jõustamist ning ettevõtte kontrolli, nagu rollipõhised juurdepääsukontrollid ja auditeerimislogid.
Lukustusrežiim on valikuline, täiustatud turvaseade, mis on mõeldud väikesele hulgale väga turvateadlikele kasutajatele – näiteks juhtidele või tuntud organisatsioonide turvameeskondadele –, kes vajavad suuremat kaitset arenenud ohtude vastu. Enamikule kasutajatele ei ole see vajalik. Lukustusrežiim piirab rangelt, kuidas ChatGPT saab väliste süsteemidega suhelda, et vähendada viipade süstimisel põhineva andmete väljafiltreerimise riski.
Lukustusrežiim keelab deterministlikult teatud tööriistad ja funktsioonid ChatGPT‑s, mida vastane võiks proovida ära kasutada, et rünnakute, näiteks viipade süstimise kaudu, kasutajate vestlustest või ühendatud rakendustest tundlikke andmeid välja viia.
Näiteks lukustusrežiimis on veebi sirvimine piiratud vahemällu salvestatud sisuga, nii et OpenAI kontrollitud võrgust ei lahku ühtegi reaalajas võrgupäringut. See piirang on loodud selleks, et vältida tundlike andmete eksfiltratsiooni ründajale sirvimise kaudu. Mõned funktsioonid on täielikult keelatud, kui me ei suuda tagada andmete ohutuse tugevaid deterministlikke garantiisid.
Lukustusrežiim on uus deterministlik säte, mis aitab kaitsta andmeid kogemata kolmandate isikutega jagamise eest, piirates rangelt ChatGPT suhtlemist teatud väliste süsteemidega.
ChatGPT äriplaanid pakuvad juba ettevõtte tasemel andmeturvet. Lukustusrežiim tugineb nendele kaitsemeetmetele ja on saadaval ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare ja ChatGPT for Teacher jaoks. Administraatorid saavad selle lubada tööjaama seadetes(avaneb uues aknas), luues selleks uue rolli(avaneb uues aknas). Kui see on lubatud, lisab lukustusrežiim olemasolevatele administraatori seadetele täiendavaid piiranguid.
Lisateavet lukustusrežiimi kohta leiate meie Abikeskusest(avaneb uues aknas).
Kuna mõned kriitilised töövoo protsessid tuginevad rakendustele, säilitavad tööjaama administraatorid osadeks jaotatuma kontrolli. Nad saavad täpselt valida, millised rakendused ja millised konkreetsed toimingud nendes rakendustes on kasutajatele lukustusrežiimis saadaval. Lisaks ja eraldi lukustusrežiimist pakub vastavuse API logide platvorm(avaneb uues aknas) üksikasjalikku ülevaadet rakenduse kasutusest, jagatud andmetest ja ühendatud allikatest, aidates administraatoritel säilitada kontrolli.
Plaanime lähikuudel teha lukustusrežiimi tarbijatele kättesaadavaks.
Tehisintellekti tooted võivad olla kasulikumad, kui need on ühendatud teie rakenduste ja veebiga, ning oleme teinud suuri investeeringuid ühendatud andmete turvalisuse tagamisse. Samal ajal toovad mõned võrguga seotud võimekused kaasa uusi riske, mida tööstusharu ohutus- ja turvameetmed ei ole veel täielikult käsitlenud. Mõned kasutajad võivad tunda end nende riskide võtmisel mugavalt ning me usume, et on oluline, et kasutajatel oleks võimalus otsustada, kas ja kuidas neid kasutada, eriti oma privaatsete andmetega töötades.
Meie lähenemine on olnud pakkuda tootesisest juhendamist funktsioonide jaoks, mis võivad suurendada riski. Et muuta see selgemaks ja järjepidevamaks, standardiseerime, kuidas me märgistame lühikese loetelu olemasolevatest võimekustest. Need funktsioonid kasutavad nüüd ChatGPT‑s, ChatGPT Atlases ja Codexis järjepidevalt silti „kõrgenenud risk“, et kasutajad saaksid sama juhise kõikjal, kus nad nendega kohtavad.
Näiteks Codexis, meie koodimisassistendis, saavad arendajad anda Codexile võrguühenduse, et see saaks veebis toiminguid teha, näiteks dokumentatsiooni otsida. Asjakohane seadete ekraan sisaldab silti “kõrgenenud risk” koos selge selgitusega selle kohta, mis muutub, milliseid riske võidakse lisada ja millal on see juurdepääs asjakohane.
Kuvatõmmis Codex'i seadete ekraanist, kus kasutajad saavad seadistada, milline juurdepääs võrgule Codex'il on.
Jätkame investeerimist oma ohutuse ja turvalisuse kaitsemeetmete tugevdamisse, eriti uute, esilekerkivate või kasvavate riskide korral. Kui me tugevdame nende funktsioonide kaitsemeetmeid, eemaldame sildi “kõrgenenud risk” niipea, kui oleme kindlaks teinud, et turvalisuse edusammud on need riskid üldiseks kasutuseks piisavalt leevendanud. Jätkame ka aja jooksul nende funktsioonide ajakohastamist, mis seda silti kannavad, et riski kasutajatele võimalikult hästi edastada.
Autor
Jätka lugemist
