ઝીરો ડેટા રિટેન્શન પાત્ર API ગ્રાહકોને સ્પષ્ટ ખાતરી આપે છે: વિનંતીની પ્રક્રિયા થયા પછી OpenAI તેમના પ્રોમ્પ્ટ કે મોડલના પ્રતિભાવો સાચવી રાખતું નથી. સમીક્ષા માટે OpenAIના કર્મચારીઓને ગ્રાહકની વિષયવસ્તુ ઉપલબ્ધ હોતી નથી1, અને ગ્રાહકો સ્પષ્ટપણે સંમતિ ન આપે ત્યાં સુધી ઉદ્યોગના ગ્રાહકોના ડેટાનો ઉપયોગ અમારા મોડલને તાલીમ આપવા માટે થતો નથી.
મોડલ વધુ લાંબા અને જટિલ કાર્યો સંભાળે તેમ, કેટલાક ગંભીર જોખમો અનેક વાર્તાલાપમાંથી જ દેખાઈ શકે છે. હાલની ZDR-સુસંગત સુરક્ષા પ્રણાલીઓ દરેક વાર્તાલાપનું અલગથી મૂલ્યાંકન કરે છે. આજે અમે ખાનગી સુરક્ષા પ્રક્રિયાની પૂર્વઝલક રજૂ કરી રહ્યા છીએ, જે OpenAIના કર્મચારીઓને મૂળ વિષયવસ્તુની ઍક્સેસ આપ્યા વિના સંબંધિત વાર્તાલાપોમાંની પેટર્ન ઓળખવા માટે બનાવવામાં આવી છે.
ZDRના અમલીકરણમાં ગ્રાહકની વિષયવસ્તુ ગ્રાહકના નિયંત્રણ હેઠળના માળખા પર જ રહે છે. અમે એવો વિકલ્પ પણ વિકસાવી રહ્યા છીએ જેમાં વિષયવસ્તુ OpenAIના માળખા પર સંગ્રહાય અને ગ્રાહકના નિયંત્રણ હેઠળની કળોથી એન્ક્રિપ્ટ થાય. બંને કિસ્સામાં, સ્વચાલિત પ્રણાલીઓ OpenAIના કર્મચારીઓ સમક્ષ મૂળ પ્રોમ્પ્ટ કે પ્રતિભાવો જાહેર કર્યા વિના સંભવિત દુરુપયોગ ઓળખી શકે છે અને મર્યાદિત સુરક્ષા સંકેતો મોકલી શકે છે.
AI સુરક્ષાનાં સૌથી ગંભીર જોખમો હંમેશાં એક જ વાર્તાલાપમાં દેખાતાં નથી. ઘણી વાર, અનેક વાર્તાલાપને એકસાથે જોવામાં આવે ત્યારે જ સંભવિત નુકસાનકારક ઇરાદા સ્પષ્ટ થાય છે. દુર્ભાવનાપૂર્ણ લોકો વારંવાર સુરક્ષાકવચોની કસોટી કરે, અનેક ખાતાંમાં સંકલન કરે અથવા જોખમોને સામાન્ય સંશોધન તરીકે છુપાવે ત્યારે પણ આવા જોખમો ઊભા થઈ શકે છે. સ્વાયત્ત કાર્ય દરમિયાન પણ જોખમો વિકસી શકે છે. ઉદાહરણ તરીકે, પ્રણાલીને રોકવાનું કહ્યા પછી પણ તે કામ ચાલુ રાખે અને વપરાશકર્તાના ઇરાદાથી ભટકી જાય.
AI પ્રણાલીઓ વધુ લાંબા અને જટિલ કાર્યો સંભાળે તેમ, કાયદેસર પ્રવૃત્તિને દુરુપયોગથી અલગ પાડવા અને AI એજન્ટો તેમના નિર્ધારિત અધિકારની મર્યાદામાં રહે તે સુનિશ્ચિત કરવા માટે આ વ્યાપક સંદર્ભ વધુ મહત્ત્વપૂર્ણ બને છે.
અત્યાધુનિક મોડલના કેટલાક તાજેતરના અમલીકરણોમાં ગ્રાહકોએ સુરક્ષા દેખરેખ માટે તેમના AI પ્રદાતાને સંવેદનશીલ વિષયવસ્તુ સાચવી રાખવાની મંજૂરી આપવી પડી છે. ઘણી સંસ્થાઓ માટે આવી જરૂરિયાતો તેમની સુરક્ષા જવાબદારીઓ અથવા તેઓ જેમને સેવા આપે છે તેમના પ્રત્યેની પ્રતિબદ્ધતાઓ સાથે વિસંગત છે.
અમે ZDR આપવાનું ચાલુ રાખી શકીએ તે રીતે ખાનગી સુરક્ષા પ્રક્રિયા બનાવવામાં આવી છે.
ખાનગી સુરક્ષા પ્રક્રિયા ZDR અને અન્ય અમલીકરણોમાં પહેલેથી ઉપયોગમાં લેવાતા સ્વચાલિત રક્ષણો પર આધારિત છે. હાલની ZDR-સુસંગત સુરક્ષા પ્રણાલીઓ વાર્તાલાપનું અલગથી મૂલ્યાંકન કરે છે. ખાનગી સુરક્ષા પ્રક્રિયા સંબંધિત વાર્તાલાપોમાં આ રક્ષણો વિસ્તારે છે, જેથી OpenAIના કર્મચારીઓને સાચવી રાખેલી ગ્રાહક વિષયવસ્તુની ઍક્સેસ આપ્યા વિના સ્વચાલિત પ્રણાલીઓ પેટર્ન ઓળખી શકે છે.
ખાનગી સુરક્ષા પ્રક્રિયા ગ્રાહકની વિષયવસ્તુ જ્યાં પણ સંગ્રહાય ત્યાં તેનો ઉપયોગ કરે છે, પછી તે ગ્રાહકોના નિયંત્રણ હેઠળના માળખામાં (ZDR ડિપ્લોયમેન્ટ) હોય કે OpenAI દ્વારા પૂરા પાડેલા સંગ્રહમાં. OpenAI દ્વારા પૂરા પાડેલા સંગ્રહમાં ગ્રાહકની વિષયવસ્તુ ગ્રાહકના નિયંત્રણ હેઠળની કળો વડે એન્ક્રિપ્ટ થાય છે. OpenAIના કર્મચારીઓ પાસે તે કળોની નકલ હોતી નથી, તેથી તેઓ મૂળ વિષયવસ્તુ મેળવી શકતા નથી.
જોખમ ઓળખાય ત્યારે OpenAIને પ્રવૃત્તિનો પ્રકાર દર્શાવતો સીમિત અને સ્પષ્ટ રીતે વ્યાખ્યાયિત સંકેત મળે છે, જે હાલની અમારી સુરક્ષા પ્રણાલીઓ જેવો હોય છે. આ સંકેતનો ઉપયોગ અમલી પગલાં જરૂરી છે કે નહીં તે નક્કી કરવા માટે થઈ શકે છે. ગ્રાહકની વિષયવસ્તુ ચિહ્નિત થાય ત્યારે પણ OpenAIના કર્મચારીઓને તેની ઍક્સેસ મળતી નથી.
ગ્રાહકો પોતાની પ્રણાલીઓમાં ઉપલબ્ધ માહિતીનો ઉપયોગ કરીને ચેતવણીઓ અને અમલી નિર્ણયોની તપાસ કરી શકે છે. જો તેઓ અપીલ કરવા, કાયદેસર પ્રવૃત્તિ અંગે સ્પષ્ટતા કરવા અથવા પ્રમાણિત દુરુપયોગની તપાસમાં સહાય કરવા ઇચ્છે, તો તેઓ સંબંધિત માહિતી OpenAI સાથે વહેંચવાનું પસંદ કરી શકે છે.
ખાનગી સુરક્ષા પ્રક્રિયાનું હાલમાં પ્રારંભિક ગ્રાહકો સાથે પરીક્ષણ થઈ રહ્યું છે. અમે આ પૂર્વઝલક અત્યારે વહેંચી રહ્યા છીએ કારણ કે અમારા ગ્રાહકોએ સ્પષ્ટપણે જણાવ્યું છે કે AI પ્રણાલીઓ વધુ સક્ષમ બને તેમ તેમની વિષયવસ્તુનું રક્ષણ કેવી રીતે થશે તે અંગે તેમને નિશ્ચિતતા જોઈએ છે.
આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ સમગ્ર માનવજાતને લાભ આપે તે સુનિશ્ચિત કરવું અમારું ધ્યેય છે. અસરકારક સુરક્ષાકવચો બનાવવાની અમારી રીત માટે ગ્રાહકો અને ભાગીદારો સાથેનો સહયોગ અનિવાર્ય છે. અમારા સિદ્ધાંતો સ્પષ્ટ કરે છે તેમ, કોઈ એક AI પ્રયોગશાળા ઊભરતાં જોખમોનો એકલા સામનો કરી શકતી નથી. ખાનગી સુરક્ષા પ્રક્રિયા આ અભિગમને પ્રતિબિંબિત કરે છે અને વિવિધ ઉદ્યોગો, પ્રદેશો તથા કદની કંપનીઓના ગ્રાહકો તેને આકાર આપી રહ્યા છે.
અમે જે સંસ્થાઓ સાથે કામ કરીએ છીએ તે પોતાના ક્ષેત્રોની અત્યંત સંવેદનશીલ માહિતી સંભાળે છે, જેમાં નાણાકીય રેકોર્ડ, આરોગ્ય ડેટા, ગોપનીય વ્યવસાયિક યોજનાઓ અને માલિકીનું સંશોધન સામેલ છે. નિયમનકારી જવાબદારીઓ પૂરી કરવા, ગ્રાહકોનો વિશ્વાસ જાળવવા અને તેમનો સ્પર્ધાત્મક લાભ સુરક્ષિત રાખવા માટે આ માહિતીનું રક્ષણ અનિવાર્ય છે.
તેમની માહિતી તેમના નિયંત્રણ હેઠળ રાખીને વધુ મજબૂત સુરક્ષાકવચો બનાવવામાં તેમનો પ્રતિસાદ અમને મદદ કરી રહ્યો છે.
“ઉદ્યોગોમાં AIનો સ્વીકાર સંપૂર્ણપણે ગ્રાહકના ડેટા પરના નિયંત્રણ પર નિર્ભર છે, જેમાં પસંદ કરેલી સેવા સિવાય તેનો કોઈ સીધો કે વ્યુત્પન્ન ઉપયોગ થતો નથી. તાલીમ માટે ડેટાનો ઉપયોગ ન કરવાની OpenAIની પ્રતિબદ્ધતા અને ZDRથી Gleanને OpenAI સાથે નિર્માણ કરવાનો વિશ્વાસ મળે છે. મોડલ વધુ સક્ષમ બનતાં જાય છે ત્યારે OpenAI દર્શાવે છે કે ઉદ્યોગોનો વિશ્વાસ ટકાવી રાખતી ગોપનીયતા અને નિયંત્રણ સાથે સમાધાન કર્યા વિના સુરક્ષામાં પ્રગતિ થઈ શકે છે.”
—સુનીલ અગ્રવાલ, મુખ્ય માહિતી સુરક્ષા અધિકારી, Glean
અમારા અભિગમની ટેકનિકલ અને કાર્યકારી વિગતો પર અમે ગ્રાહકો સાથે કામ કરવાનું ચાલુ રાખીશું. અમે સપ્ટેમ્બરમાં ખાનગી સુરક્ષા પ્રક્રિયા શરૂ કરવાની અને ટેકનિકલ શ્વેતપત્ર વહેંચવાની યોજના ધરાવીએ છીએ. અમે દરેક તબક્કે ગ્રાહકોને માહિતગાર રાખીશું, વહેલી તકે નવી માહિતી આપીશું, હાલની પ્રતિબદ્ધતાઓ માટે તેનો અર્થ સમજાવીશું અને ગ્રાહકોને આગોતરું આયોજન કરવા માટે જરૂરી સમય તથા સહાય પૂરી પાડીશું.
લેખક
- 1
અન્ય અત્યાધુનિક મોડલ પ્રદાતાઓની જેમ OpenAI પણ દેખીતી બાળ જાતીય શોષણ સામગ્રી (CSAM)ની જાણ કરવા માટે કાયદા દ્વારા બંધાયેલું છે(નવી વિન્ડોમાં ખૂલે છે). સંભવિત CSAM તરીકે ચિહ્નિત કરેલી છબીઓ હાલની જેમ ઝીરો ડેટા રિટેન્શનના અમલીકરણોમાં પણ માનવીય સમીક્ષા અને જાણ કરવાના હેતુઓ માટે સાચવી રાખવામાં આવશે.
