Prezantimi i Modalitetit të Bllokimit dhe etiketave të qëndrueshme të Rrezikut të Lartë në ChatGPT

Ndërsa sistemet e inteligjencës artificiale marrin përsipër detyra më komplekse — veçanërisht ato që përfshijnë uebin dhe aplikacionet e lidhura — rreziqet e sigurisë ndryshojnë.

Një rrezik në zhvillim është bërë veçanërisht i rëndësishëm: injektim i kërkesave⁠. Në këto sulme, një palë e tretë përpiqet të mashtrojë një sistem bisedor AI që të ndjekë udhëzime keqdashëse ose të zbulojë informacion të ndjeshëm.

Sot, po prezantojmë dy mbrojtje të reja të dizajnuara për të ndihmuar përdoruesit dhe organizatat të zbusin sulmet e injektimit të kërkesave, me dukshmëri më të qartë mbi rrezikun dhe kontrolle më të forta:

• Modaliteti i bllokimit në ChatGPT, një cilësim i avancuar dhe opsional i sigurisë për përdoruesit me rrezik të lartë
• Etiketat “Rrezik i Shtuar” për disa aftësi që mund të sjellin rrezik shtesë në ChatGPT, ChatGPT Atlas dhe Codex

Këto shtesa ndërtohen mbi mbrojtjet tona ekzistuese në nivelet e modelit, produktit dhe sistemit. Kjo përfshin sandboxing, mbrojtje kundër eksfiltrimit të të dhënave të bazuara në URL⁠, monitorim dhe zbatim, dhe kontrolle të ndërmarrjes⁠ si kontrollet e qasjes së bazuar në role dhe regjistrat e auditimit.

Modaliteti i Bllokimit është një cilësim opsional dhe i avancuar sigurie, i krijuar për një grup të vogël përdoruesish shumë të ndërgjegjshëm për sigurinë — si drejtues ekzekutivë ose ekipe sigurie në organizata të njohura — të cilët kërkojnë mbrojtje të shtuar kundër kërcënimeve të avancuara. Nuk është e domosdoshme për shumicën e përdoruesve. Modaliteti i Bllokimit kufizon në mënyrë të rreptë ndërveprimin e ChatGPT me sistemet e jashtme për të reduktuar rrezikun e eksfiltrimit të të dhënave të bazuar në injektim i kërkesave.

Modaliteti i bllokimit çaktivizon në mënyrë të paracaktuar disa mjete dhe aftësi në ChatGPT që një kundërshtar mund të përpiqet t'i shfrytëzojë për të nxjerrë të dhëna të ndjeshme nga bisedat e përdoruesve ose aplikacionet e lidhura përmes sulmeve si injektimet e kërkesave.

Për shembull, shfletimi në internet në Modalitetin e Bllokimit është i kufizuar në përmbajtje të ruajtur në cache, kështu që asnjë kërkesë e drejtpërdrejtë në rrjet nuk del nga rrjeti i kontrolluar i OpenAI. Ky kufizim është krijuar për të parandaluar eksfiltrimin e të dhënave të ndjeshme te një sulmues përmes shfletimit. Disa veçori çaktivizohen plotësisht kur nuk mund të ofrojmë garanci të forta të sigurta për sigurinë e të dhënave.

Planet e biznesit të ChatGPT tashmë ofrojnë siguri të të dhënave në nivel ndërmarrjeje⁠. Modaliteti i Bllokimit ndërtohet mbi ato mbrojtje dhe është i disponueshëm për ChatGPT Enterprise, ChatGPT Edu, ChatGPT për Shëndetësinë dhe ChatGPT për Mësuesit. Administratorët mund ta aktivizojnë atë në Cilësimet e hapësirës pune⁠(hapet në një dritare të re) duke krijuar një rol⁠(hapet në një dritare të re) të ri. Kur aktivizohet, Modaliteti i Bllokimit vendos kufizime shtesë mbi cilësimet ekzistuese të administratorit.

Mëso më shumë rreth Modalitetit të Bllokimit në Qendrën e Ndihmës⁠(hapet në një dritare të re).

Për shkak se disa flukse pune kritike mbështeten te aplikacionet, administratorët e hapësirës së punës ruajnë kontrolle më të hollësishme. Ata mund të zgjedhin saktësisht se cilat aplikacione — dhe cilat veprime specifike brenda atyre aplikacioneve — janë të disponueshme për përdoruesit në Modalitetin e Bllokimit. Përveç kësaj, dhe veçmas nga Modaliteti i Bllokimit, Platforma e Regjistrave të API të Pajtueshmërisë⁠(hapet në një dritare të re) ofron një dukshmëri të detajuar mbi përdorimin e aplikacioneve, të dhënat e ndara dhe burimet e lidhura, duke ndihmuar administratorët të ruajnë mbikëqyrjen.

Ne planifikojmë ta bëjmë Modalitetin e Bllokimit të disponueshëm për konsumatorët në muajt e ardhshëm.

Produktet e inteligjencës artificiale mund të jenë më të dobishme kur lidhen me aplikacionet dhe uebin tuaj, dhe ne kemi investuar shumë në sigurimin e të dhënave të lidhura⁠. Në të njëjtën kohë, disa aftësi të lidhura me rrjetin prezantojnë rreziqe të reja që ende nuk janë adresuar plotësisht nga masat e sigurisë dhe mbrojtjes së industrisë. Disa përdorues mund të ndihen të qetë duke marrë përsipër këto rreziqe, dhe ne besojmë se është e rëndësishme që përdoruesit të kenë mundësinë të vendosin nëse dhe si t’i përdorin ato, veçanërisht kur punojnë me të dhënat e tyre personale.

Qasja jonë ka qenë të ofrojmë udhëzime brenda produktit për veçori që mund të paraqesin rrezik shtesë. Për ta bërë këtë më të qartë dhe më të qëndrueshme, po standardizojmë etiketimin e një liste të shkurtër të aftësive ekzistuese. Këto veçori tani do të përdorin një etiketë të qëndrueshme “Rrezik i Lartë” në të gjithë ChatGPT, ChatGPT Atlas dhe Codex, në mënyrë që përdoruesit të marrin të njëjtin udhëzim kudo që t’i hasin.

Për shembull, në Codex, asistentin tonë të kodimit, zhvilluesit mund t'i japin Codex qasje në rrjet në mënyrë që të mund të kryejë veprime në internet, si për shembull të kërkojë dokumentacion. Ekrani përkatës i cilësimeve përfshin etiketën “Rrezik i lartë”, së bashku me një shpjegim të qartë se çfarë ndryshon, çfarë rreziqesh mund të paraqiten dhe kur është i përshtatshëm ky akses.

Ne vazhdojmë të investojmë në forcimin e masave tona mbrojtëse të sigurisë, veçanërisht për rreziqe të reja, në zhvillim ose në rritje. Ndërsa forcojmë masat mbrojtëse për këto veçori, do ta heqim etiketën “Rrezik i Lartë” sapo të përcaktojmë se përparimet në siguri i kanë zbutur mjaftueshëm ato rreziqe për përdorim të përgjithshëm. Ne gjithashtu do të vazhdojmë të përditësojmë se cilat veçori mbajnë këtë etiketë me kalimin e kohës për të komunikuar sa më mirë rrezikun te përdoruesit.