Við kynnum Læsingarstillingu og samræmdar merkingar fyrir aukna áhættu í ChatGPT

Þegar gervigreindarkerfi taka að sér flóknari verkefni—sérstaklega þau sem tengjast vefnum og tengdum öppum—breytast öryggisáhættur.

Ein ný áhætta hefur orðið sérstaklega mikilvæg: kvaðningarvörpun⁠. Í þessum árásum reynir þriðji aðili að blekkja samtalsgervigreindarkerfi til að fylgja illgjörnum leiðbeiningum eða afhjúpa viðkvæmar upplýsingar.

Í dag kynnum við tvær nýjar varnir sem ætlaðar eru til að hjálpa notendum og stofnunum að draga úr kvaðningarvörpun, með skýrari sýn á áhættu og öflugri stjórntækjum:

• Læsingarstilling í ChatGPT, háþróuð, valkvæð öryggisstilling fyrir notendur í meiri áhættu
• Merkingar fyrir „aukna áhættu“ fyrir tiltekna eiginleika sem geta aukið áhættu í ChatGPT, ChatGPT Atlas og Codex

Þessar viðbætur byggja á núverandi vernd okkar á sviði líkans, vöru og kerfis. Þetta felur í sér sandkassakerfi, vörn gegn gagnastuldi sem byggir á vefslóðum⁠, eftirlit og framfylgd og fyrirtækjastýringar⁠ eins og hlutverkatengdan aðgang og endurskoðunarskrár.

Læsingarstilling er valfrjáls, háþróuð öryggisstilling sem er hönnuð fyrir lítinn hóp notenda sem leggja mikla áherslu á öryggi—svo sem stjórnendur eða öryggisteymi hjá áberandi stofnunum—sem þurfa aukna vernd gegn háþróuðum ógnunum. Hún er ekki nauðsynleg fyrir flesta notendur. Læsingarstilling setur mjög þröngar skorður á hvernig ChatGPT getur átt samskipti við ytri kerfi til að draga úr hættu á gagnastuldi sem byggir á kvaðningarvörpun.

Læsingarstilling Mode gerir ákveðin verkfæri og eiginleika í ChatGPT óvirk á áreiðanlegan hátt sem andstæðingur gæti reynt að nýta til að sækja viðkvæm gögn úr samtölum notenda eða tengdum öppum með árásum eins og kvaðningarvörpunum.

Til dæmis er fletting um vefinn í vafra í Læsingarstillingu takmörkuð við efni í skyndiminni, svo engar lifandi netbeiðnir fara út fyrir stýrða netkerfi OpenAI. Þessi takmörkun er hönnuð til að koma í veg fyrir að viðkvæm gögn verði lekið til árásaraðila í gegnum vafra. Sumir eiginleikar eru algjörlega óvirkir þegar við getum ekki veitt sterkar, áreiðanlegar tryggingar um öryggi gagna.

ChatGPT‑viðskiptaáætlanir veita nú þegar gagnaöryggi á fyrirtækjastigi⁠. Læsingarstilling byggir á þessari vernd og er í boði fyrir ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare og ChatGPT for Teachers. Stjórnendur geta virkjað hana í stillingum vinnusvæðis⁠(opnast í nýjum glugga) með því að búa til nýtt hlutverk⁠(opnast í nýjum glugga). Þegar kveikt er á henni, bætir Læsingarstilling Mode við frekari takmörkunum ofan á núverandi stjórnandastillingar.

Frekari upplýsingar um Læsingarstillingu er að finna í hjálparmiðstöð⁠(opnast í nýjum glugga) okkar.

Þar sem sum mikilvæg verkferli reiða sig á öpp hafa stjórnendur vinnusvæðisins meiri stjórn á smáatriðum. Þú getur valið nákvæmlega hvaða öpp og hvaða tilteknu aðgerðir innan þeirra eru í boði fyrir notendur í Læsingarstillingu. Að auki, og fyrir utan Læsingarstillingu, veitir Compliance API Logs Platform⁠(opnast í nýjum glugga) ítarlega yfirsýn yfir notkun appa, sameiginleg gögn og tengdar heimildir, sem hjálpar stjórnendum að viðhalda eftirliti.

Við ætlum að gera Læsingarstillingu aðgengilega fyrir neytendur á næstu mánuðum.

Gervigreindarvörur geta verið gagnlegri þegar þær eru tengdar við öppin þín og vefinn, og við höfum fjárfest mikið í að tryggja öryggi tengdra gagna⁠. Á sama tíma fela sumar nettengdar aðgerðir í sér nýjar áhættur sem öryggis- og öryggisráðstafanir greinarinnar hafa ekki enn tekist að taka að fullu á. Sumum notendum gæti fundist þægilegt að taka þessa áhættu og við teljum mikilvægt að þeir hafi möguleika á að ákveða hvort og hvernig þeir nota hana, sérstaklega þegar þeir vinna með persónuupplýsingar sínar.

Við höfum lagt áherslu á að veita leiðbeiningar innan vörunnar fyrir eiginleika sem gætu aukið áhættu. Til að gera þetta skýrara og samræmdara erum við að staðla hvernig við merkjum stuttan lista yfir núverandi eiginleika. Þessir eiginleikar munu nú nota samræmda merkingu um „aukna áhættu“ í ChatGPT, ChatGPT Atlas og Codex, svo notendur fái sömu leiðbeiningar hvar sem þeir rekast á þá.

Til dæmis geta forritarar í Codex, kóðunaraðstoðarmanninum okkar, veitt Codex netaðgang svo hann geti framkvæmt aðgerðir á vefnum eins og að fletta upp skjölum. Viðeigandi stillingaskjár inniheldur merkinguna „Aukin áhætta“, ásamt skýrri útskýringu á því hvað breytist, hvaða áhætta kann að skapast og hvenær slíkur aðgangur er viðeigandi.

Við höldum áfram að fjárfesta í því að styrkja öryggis- og varúðarráðstafanir okkar, sérstaklega gagnvart nýjum, nýtilkomnum eða vaxandi áhættum. Eftir því sem við styrkjum öryggisráðstafanir fyrir þessa eiginleika, munum við fjarlægja merkinguna „Aukin áhætta“ þegar við metum að öryggisframfarir hafi nægilega dregið úr þeirri áhættu fyrir almenna notkun. Við munum einnig halda áfram að uppfæra hvaða eiginleikar bera þessa merkingu með tímanum til að miðla áhættu til notenda á sem bestan hátt.