ChatGPT માં Lockdown Mode અને Elevated Risk લેબલ્સની રજૂઆત

જેમ જેમ AI સિસ્ટમ્સ વધુ જટિલ કાર્યો સંભાળે છે, ખાસ કરીને વેબ અને જોડાયેલા એપ્સ સંબંધિત કાર્યો, તેમ સુરક્ષાના પડકારો બદલાય છે.

એક ઉદ્ભવતું જોખમ ખાસ કરીને મહત્વપૂર્ણ બન્યું છે: પ્રોમ્પ્ટ ઇન્જેક્શન⁠. આવા હુમલામાં, તૃતીય પક્ષ સંવાદાત્મક AI સિસ્ટમને દુર્ભાવનાપૂર્ણ સૂચનાઓ અનુસરવા અથવા સંવેદનશીલ માહિતી જાહેર કરવા માટે ભ્રમિત કરવાનો પ્રયાસ કરે છે.

આજે, અમે બે નવા સુરક્ષા ઉપાયો રજૂ કરી રહ્યા છીએ, જે વપરાશકર્તાઓ અને સંસ્થાઓને પ્રોમ્પ્ટ ઇન્જેક્શન હુમલાઓ ઘટાડવામાં મદદ કરવા માટે રચાયા છે, જેમાં જોખમ વિશે વધુ સ્પષ્ટ દૃશ્યતા અને વધુ મજબૂત નિયંત્રણો છે:

• વધારે જોખમવાળા વપરાશકર્તાઓ માટે ChatGPT માં Lockdown Mode, એક અદ્યતન અને વૈકલ્પિક સુરક્ષા સેટિંગ
• ChatGPT, ChatGPT Atlas, અને Codex માં કેટલીક ક્ષમતાઓ માટે “Elevated Risk” લેબલ્સ, જે વધારાનું જોખમ લાવી શકે છે

આ ઉમેરાઓ મોડલ, પ્રોડક્ટ અને સિસ્ટમ સ્તર પરની અમારી હાલની સુરક્ષાઓ પર આધારિત છે. તેમાં sandboxing, URL-આધારિત ડેટા exfiltration સામેની સુરક્ષાઓ⁠, મોનિટરિંગ અને અમલીકરણ, અને role-based access તથા audit logs જેવી enterprise controls⁠નો સમાવેશ થાય છે.

Lockdown Mode એક વૈકલ્પિક, અદ્યતન સુરક્ષા સેટિંગ છે, જે ખૂબ જ સુરક્ષા-જાગૃત એવા થોડા વપરાશકર્તાઓ માટે રચાયેલ છે, જેમ કે પ્રતિષ્ઠિત સંસ્થાઓના એક્ઝિક્યુટિવ્સ અથવા સુરક્ષા ટીમો, જેમને અદ્યતન ખતરાઓ સામે વધારાની સુરક્ષા જરૂરી હોય છે. મોટાભાગના વપરાશકર્તાઓ માટે તે જરૂરી નથી. Lockdown Mode, પ્રોમ્પ્ટ ઇન્જેક્શન આધારિત ડેટા exfiltration નો જોખમ ઓછો કરવા માટે, ChatGPT બાહ્ય સિસ્ટમ્સ સાથે કેવી રીતે ક્રિયા કરી શકે છે તેને કડક રીતે મર્યાદિત કરે છે.

Lockdown Mode નિર્ધારિત રીતે ChatGPT ની કેટલીક tools અને ક્ષમતાઓ નિષ્ક્રિય કરે છે, જેને કોઈ હુમલાખોર પ્રોમ્પ્ટ ઇન્જેક્શન જેવા હુમલાઓ દ્વારા વપરાશકર્તાની વાતચીત અથવા જોડાયેલા એપ્સમાંથી સંવેદનશીલ ડેટા બહાર કાઢવા માટે ઉપયોગ કરવાનો પ્રયાસ કરી શકે.

ઉદાહરણ તરીકે, Lockdown Mode માં વેબ બ્રાઉઝિંગ cached content સુધી મર્યાદિત છે, તેથી OpenAI ના નિયંત્રિત નેટવર્કની બહાર કોઈ live network requests જતી નથી. આ પ્રતિબંધ એવું સુનિશ્ચિત કરવા માટે રચાયેલ છે કે બ્રાઉઝિંગ દ્વારા સંવેદનશીલ ડેટા હુમલાખોર સુધી બહાર ન જાય. જ્યારે અમે ડેટા સુરક્ષા વિશે મજબૂત deterministic ખાતરી આપી શકતા નથી, ત્યારે કેટલીક સુવિધાઓ સંપૂર્ણપણે નિષ્ક્રિય કરવામાં આવે છે.

ChatGPT business plans પહેલેથી જ enterprise-grade data security⁠ પ્રદાન કરે છે. Lockdown Mode આ સુરક્ષાઓ પર આધારિત છે અને ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, અને ChatGPT for Teachers માટે ઉપલબ્ધ છે. Admins તેને Workspace Settings⁠(નવી વિન્ડોમાં ખૂલે છે) માં નવી role⁠(નવી વિન્ડોમાં ખૂલે છે) બનાવીને સક્રિય કરી શકે છે. સક્રિય થયા પછી, Lockdown Mode હાલની admin settings ઉપર વધારાના પ્રતિબંધો ઉમેરે છે.

અમારા હેલ્પ સેન્ટર⁠(નવી વિન્ડોમાં ખૂલે છે) માં Lockdown Mode વિશે વધુ જાણો.

કારણ કે કેટલીક મહત્વપૂર્ણ workflows એપ્સ પર આધાર રાખે છે, Workspace Admins વધુ સૂક્ષ્મ નિયંત્રણો જાળવી રાખે છે. તેઓ ચોક્કસપણે નક્કી કરી શકે છે કે કઈ એપ્સ અને તે એપ્સની કઈ ચોક્કસ actions Lockdown Mode માં વપરાશકર્તાઓ માટે ઉપલબ્ધ રહેશે. વધારામાં, અને Lockdown Mode થી અલગ રીતે, Compliance API Logs Platform⁠(નવી વિન્ડોમાં ખૂલે છે) એપ ઉપયોગ, શેર કરાયેલ ડેટા અને જોડાયેલા સ્રોતો વિશે વિગતવાર દૃશ્યતા આપે છે, જે admins ને દેખરેખ જાળવવામાં મદદ કરે છે.

આગામી મહિનાઓમાં અમે Lockdown Mode ને ગ્રાહકો માટે ઉપલબ્ધ કરવાની યોજના બનાવી રહ્યા છીએ.

AI પ્રોડક્ટ્સ તમારા એપ્સ અને વેબ સાથે જોડાય ત્યારે વધુ ઉપયોગી બની શકે છે, અને અમે જોડાયેલા ડેટાને સુરક્ષિત રાખવા⁠ માટે મોટા પ્રમાણમાં રોકાણ કર્યું છે. તે જ સમયે, કેટલીક નેટવર્ક-સંબંધિત ક્ષમતાઓ નવા જોખમો લાવે છે, જેને ઉદ્યોગની સલામતી અને સુરક્ષા નિવારણ વ્યવસ્થાઓ દ્વારા હજી સંપૂર્ણ રીતે આવરી લેવામાં આવ્યા નથી. કેટલાક વપરાશકર્તાઓ આ જોખમો સ્વીકારવામાં અનુકૂળ હોઈ શકે છે, અને અમને લાગે છે કે વપરાશકર્તાઓએ ખાસ કરીને પોતાના ખાનગી ડેટા સાથે કામ કરતી વખતે, તેનો ઉપયોગ કરવો કે નહીં અને કેવી રીતે કરવો તે નક્કી કરવાની ક્ષમતા હોવી જોઈએ.

અમારો અભિગમ એવો રહ્યો છે કે એવી સુવિધાઓ માટે in-product માર્ગદર્શન આપવામાં આવે જે વધારાનું જોખમ લાવી શકે. આને વધુ સ્પષ્ટ અને વધુ સઘન બનાવવા માટે, અમે હાલની કેટલીક ક્ષમતાઓને કેવી રીતે લેબલ કરીએ છીએ તે પ્રમાણભૂત બનાવી રહ્યા છીએ. હવે આ સુવિધાઓ ChatGPT, ChatGPT Atlas, અને Codex માં એકસરખું “Elevated Risk” લેબલ વાપરશે, જેથી વપરાશકર્તાઓને જ્યાં પણ તે મળે ત્યાં સમાન માર્ગદર્શન મળે.

ઉદાહરણ તરીકે, Codex માં, અમારા coding assistant માં, developers Codex ને નેટવર્ક ઍક્સેસ આપી શકે છે જેથી તે documentation શોધવા જેવી વેબ પરની ક્રિયાઓ કરી શકે. સંબંધિત settings screen માં “Elevated Risk” લેબલ સામેલ છે, સાથે શું બદલાય છે, કયા જોખમો ઊભા થઈ શકે છે, અને તે ઍક્સેસ ક્યારે યોગ્ય છે તેની સ્પષ્ટ સમજણ પણ છે.

અમે અમારી સલામતી અને સુરક્ષા સુરક્ષાત્મક વ્યવસ્થાઓને વધુ મજબૂત બનાવવા માટે સતત રોકાણ કરીએ છીએ, ખાસ કરીને નવા, ઉદ્ભવતા અથવા વધતા જોખમો માટે. જેમ જેમ અમે આ સુવિધાઓ માટેની સુરક્ષાત્મક વ્યવસ્થાઓ મજબૂત કરીશું, તેમ જ જ્યારે અમને લાગશે કે સુરક્ષા પ્રગતિએ સામાન્ય ઉપયોગ માટે આ જોખમોને પૂરતા પ્રમાણમાં ઘટાડી દીધા છે, ત્યારે અમે “Elevated Risk” લેબલ દૂર કરીશું. વપરાશકર્તાઓને જોખમ શ્રેષ્ઠ રીતે સમજાવવા માટે કઈ સુવિધાઓ પર આ લેબલ હશે તે પણ અમે સમય સાથે અપડેટ કરતા રહીશું.