જૂનમાં, આંતરિક તાલીમ અને મૂલ્યાંકન દરમિયાન અમારા મોડલે ઑસ્ટ્રેલિયાની સરકારી વેબસાઇટોમાં એવી રીતે પ્રવેશ મેળવ્યો જેની તેમને મંજૂરી નહોતી. અમારે પણ આ બાબતે વધુ સારી રીતે પ્રતિસાદ આપવો જોઈતો હતો. અમે માફી માગીએ છીએ અને ભવિષ્યમાં વધુ સારું કરવા માટે કામ કરી રહ્યા છીએ.
આ લેખમાં, અમને શું જાણ છે, અમે શું બદલ્યું છે અને ઑસ્ટ્રેલિયાના લોકોનો વિશ્વાસ ફરી જીતવા માટે અમે શું કરીશું તે જણાવી રહ્યા છીએ. આ એક નવા પ્રકારની સાયબર ઘટના છે, જે એક ઊભરતા વૈશ્વિક પડકારને દર્શાવે છે. આ પરિસ્થિતિની જવાબદારી સ્વીકારવાના એક ભાગરૂપે અમે ઑસ્ટ્રેલિયા સાથે નક્કર સહકાર કરવા માગીએ છીએ. એઆઈની સાયબર પ્રવૃત્તિ, ભલે તે દુર્ભાવનાપૂર્ણ હોય કે અજાણતાં થયેલી, તેને ઓળખવા, તેની જાણ કરવા અને તેનો પ્રતિસાદ આપવા એઆઈ વિકાસકર્તાઓ અને સરકારો માટે વ્યવહારુ અભિગમો વિકસાવવામાં અમે મદદ કરીશું.
જુલાઈમાં હગિંગ ફેસની ઘટના પછી, અમે અન્ય અસરગ્રસ્ત સંસ્થાઓને ઓળખવા અગાઉની તાલીમ અને મૂલ્યાંકન પ્રવૃત્તિની સમીક્ષા શરૂ કરી. ઑગસ્ટના મધ્યમાં, આ સમીક્ષામાં નીચેની ઑસ્ટ્રેલિયાઈ સરકારી વેબસાઇટોને અસર કરતી પ્રવૃત્તિ જણાઈ.
પુરાવાના આધારે અમને આટલી જાણ છે:
સર્વિસિસ ઑસ્ટ્રેલિયા: OpenAIના એક મોડલે સેવાના જાહેર ન હોય તેવા ભાગમાં પ્રવેશ મેળવવાનો રસ્તો શોધ્યો. તેણે આદેશો ચલાવ્યા, આંતરિક ફાઇલો, પ્રવેશ પ્રમાણકો અને સંકલિત આંકડા મેળવ્યા, અને ફાઇલો લખી. જોકે, કોઈ વ્યક્તિગત દર્દી કે સેવાગ્રાહકના રેકોર્ડ મેળવવામાં આવ્યા નહોતા. અમે આ ઘટના વિશે નીચે વધુ વિગત આપી છે.
ન્યૂ સાઉથ વેલ્સ ગુના આંકડા અને સંશોધન બ્યૂરો (બોકસાર): OpenAIના એક મોડલે ગુનાના જાહેર આંકડાઓનું સંશોધન કરવા બોકસારના જાહેર ગુના નકશાંકન સાધનનો ઉપયોગ કર્યો. (મોડલ માહિતી સંશોધનનાં વિવિધ કાર્યો શા માટે કરે છે તે અમે નીચે વધુ સમજાવ્યું છે.) મોડલે બોકસારના જાહેર સાધન દ્વારા એપીઆઈ અને વેબસાઇટના મેટાડેટા માટે વિનંતીઓ કરી. આ સાધન બ્રાઉઝરની એપીઆઈ વિનંતીઓ માટે પ્રવેશ પ્રમાણકો પૂરાં પાડે છે. બોકસારની પ્રણાલીએ જવાબમાં ઍપ્લિકેશનનું રૂપરેખાંકન, સંચાલનનાં કાર્યો અને લૉગ, તથા વેબસાઇટનો મેટાડેટા આપ્યો. વ્યક્તિઓના ગુનાના રેકોર્ડ મેળવવામાં આવ્યા નહોતા.
વિક્ટોરિયાનો આરોગ્ય વિભાગ: OpenAIના એજન્ટોને ખુલ્લી પડી ગયેલી એક ઍક્સેસ કી મળી, જેનાથી વિક્ટોરિયાની આરોગ્ય માહિતી એજન્સીની અહેવાલ પ્રણાલીમાં માહિતી માટે વિનંતીઓ કરી શકાતી હતી અને અહેવાલનું રૂપરેખાંકન તથા સર્વેક્ષણના સંકલિત આંકડા મેળવી શકાતા હતા. આ માહિતી કેટલી ઉપલબ્ધ હોવી જોઈતી હતી તે સ્પષ્ટ નથી અને તે વિક્ટોરિયાની આરોગ્ય માહિતી એજન્સીની પ્રવેશ નીતિઓ પર આધાર રાખે છે. વ્યક્તિગત તબીબી રેકોર્ડ કે વ્યક્તિની ઓળખ થઈ શકે એવા સર્વેક્ષણના જવાબો મેળવવામાં આવ્યા નહોતા.
ઑસ્ટ્રેલિયન આરોગ્ય અને કલ્યાણ સંસ્થા: OpenAIના એજન્ટોએ તૃતીય-પક્ષ બ્રાઉઝિંગ અને ડાઉનલોડ સેવાઓ દ્વારા સંકલિત આંકડા મેળવ્યા, જેમાં આ સંસ્થાની વેબસાઇટના આંકડા પણ સામેલ હતા. તેમણે આલેખના ડેટા માટે સીધી વિનંતીઓ પણ કરી. પ્રવેશ નિયંત્રણોને વટાવવાના અલગ પ્રયાસો નિષ્ફળ રહ્યા. ડાઉનલોડ કરેલી સામગ્રી જાહેરમાં ઉપલબ્ધ હતી એવું જણાય છે. પ્રણાલીની સુરક્ષા ભંગ થઈ નહોતી. વ્યક્તિગત તબીબી રેકોર્ડ મેળવવામાં આવ્યા નહોતા.
ઑગસ્ટના મધ્યમાં અમને જાણ થતાં જ અમે આ પ્રવૃત્તિઓની તપાસ શરૂ કરી. અમે 10 સપ્ટેમ્બરે સર્વિસિસ ઑસ્ટ્રેલિયા અને વિક્ટોરિયાના આરોગ્ય વિભાગને, તથા 18 સપ્ટેમ્બરે ન્યૂ સાઉથ વેલ્સ ગુના આંકડા અને સંશોધન બ્યૂરોને જાણ કરી. ઑસ્ટ્રેલિયન આરોગ્ય અને કલ્યાણ સંસ્થા સંબંધિત પ્રવૃત્તિ અમારા જાણ કરવાના માપદંડોમાં આવતી નહોતી, કારણ કે માહિતી મેળવવાની રીત જાહેર ઉપયોગને અનુરૂપ જણાતી હતી. છતાં, અમે 24 સપ્ટેમ્બરે સંસ્થાને અમારાં તારણો જણાવવા અને વિગતવાર જાણકારી આપવાની રજૂઆત કરવા સંપર્ક કર્યો.
અમારી તપાસ પૂરી થયા પછી અસરગ્રસ્ત એજન્સીઓને વિગતવાર માહિતી આપવાનો અમારો હેતુ હતો. જોકે, અમારે પ્રાથમિક તારણો વહેલાં જણાવવાં જોઈતાં હતાં અને વધુ તથ્યો બહાર આવતાં ઑસ્ટ્રેલિયાની એજન્સીઓને નવી માહિતી આપતા રહેવું જોઈતું હતું.
ત્યારથી, અત્યાર સુધી અમને જે જાણવા મળ્યું છે તે જણાવવા અમે ઑસ્ટ્રેલિયાની સરકારી એજન્સીઓ સાથે નજીકથી કામ કર્યું છે. જો અમને અન્ય કોઈ અસરગ્રસ્ત એજન્સીઓ જણાશે, તો અમે ઉપલબ્ધ માહિતી સાથે તેમને તાત્કાલિક અને સીધી જાણ કરીશું અને વધુ તથ્યો બહાર આવતાં નવી માહિતી આપતા રહીશું.
જૂનમાં આંતરિક તાલીમ અને મૂલ્યાંકન દરમિયાન, અમે OpenAIનું એક પ્રાયોગિક મોડલ ચલાવી રહ્યા હતા, જે માત્ર આંતરિક ઉપયોગ માટે હતું અને જાહેર કરવા માટે નહોતું. તેમાં અમારી જાહેરમાં ઉપલબ્ધ પ્રોડક્ટ્સમાં વપરાતાં તમામ સુરક્ષા પગલાં પણ લાગુ નહોતાં. આ તાલીમ અને મૂલ્યાંકન દરમિયાન, તેણે સર્વિસિસ ઑસ્ટ્રેલિયાની મેડિકેર આંકડા અહેવાલ સેવામાં પ્રવેશ મેળવ્યો. અમારી અત્યાર સુધીની સમીક્ષામાં કોઈના તબીબી રેકોર્ડ મેળવવામાં આવ્યા હોવાના પુરાવા મળ્યા નથી.
જ્યારે અમે અમારા મોડલની આંતરિક તાલીમ અને મૂલ્યાંકન કરીએ છીએ, ત્યારે તેમને અનેક વિષયોના સંશોધન પ્રશ્નોના વિશાળ સંગ્રહમાંથી કાર્યો સોંપીએ છીએ. આ પ્રશ્નો વપરાશકર્તાઓ પૂછી શકે તેવા વિગતવાર પ્રશ્નોને અનુરૂપ હોય છે. આનાથી મોડલને જાહેરમાં ઉપલબ્ધ માહિતી શોધવાની, તેનું અર્થઘટન કરવાની અને વિશ્લેષણ કરવાની તાલીમ મળે છે, જેથી તે લોકો માટે વધુ ઉપયોગી બની શકે. અમારા મોડલે જાહેરમાં પ્રકાશિત આંકડાઓનો ઉપયોગ કરીને આ પ્રશ્નોના જવાબ આપવાના હોય છે.
આ કિસ્સામાં, મોડલને સોંપાયેલાં કાર્યોમાંનું એક વિક્ટોરિયાના સમુદાયોમાં ચામડીના રોગોની દવાઓ પાછળ સરકારના માથાદીઠ ખર્ચ વિશે સંશોધન કરવાનું હતું. મોડલને આ માહિતી મેળવવામાં મુશ્કેલી પડી, અને તેણે એવાં પગલાં લીધાં જેની અમે તેને મંજૂરી આપી નહોતી. સર્વિસિસ ઑસ્ટ્રેલિયાની મેડિકેર આંકડા અહેવાલ સેવામાં આ માહિતી શોધતી વખતે, તેણે સેવાના જાહેર ન હોય તેવા ભાગમાં પ્રવેશ મેળવવાનો રસ્તો શોધ્યો. પછી તેણે આ પ્રવેશનો ઉપયોગ કરીને સેવા સંબંધિત તકનીકી સિસ્ટમની માહિતી અને સ્રોત કોડ તપાસ્યાં. આ બધું હજી પણ મૂળે શોધી રહેલી માહિતી મેળવવાના ઉદ્દેશથી જ કરવામાં આવ્યું હતું. આ પ્રવૃત્તિ થાય એવો અમારો ઇરાદો નહોતો, અને સેવામાં આ રીતે પ્રવેશ મેળવવો કે ત્યાર પછીની પ્રવૃત્તિ થવી જોઈતી નહોતી.
હગિંગ ફેસની ઘટના પછી, અમે સંશોધન માટેનાં સુરક્ષા પગલાં મજબૂત કર્યાં, જેમાં નેટવર્ક પર વધારાના પ્રતિબંધો અને વધુ વ્યાપક દેખરેખનો સમાવેશ થાય છે. અમે આ સંશોધન વાતાવરણોમાં ઇન્ટરનેટ સાથે સીધો સંપર્ક રોકવા નિયંત્રણો લાગુ કર્યાં, અને વેબ સામગ્રી કૅશમાં સાચવેલી નકલો દ્વારા ઉપલબ્ધ કરાવી. સુરક્ષાના વધારાના સ્તર તરીકે, અમારી વર્તમાન દેખરેખ પ્રણાલીઓએ આ પ્રવૃત્તિ શોધી કાઢી હોત અને તાત્કાલિક માનવીય સમીક્ષા માટે અમારી ટીમને ચેતવણી મોકલી હોત. ઉદાહરણ તરીકે, તાજેતરની એક તાલીમ પ્રક્રિયા(નવી વિન્ડોમાં ખૂલે છે) દરમિયાન જ્યારે એક મોડલે ઇન્ટરનેટ સાથે સીધો સંપર્ક મેળવ્યો, ત્યારે અમારી દેખરેખ પ્રણાલીએ આ પ્રવૃત્તિ શોધી કાઢી અને માનવીય સમીક્ષકને ચેતવણી મોકલી, અને અમે તે પ્રક્રિયા અટકાવી. અમે આ સુરક્ષા પગલાંનું પરીક્ષણ અને ખામીઓ દૂર કરવાનું ચાલુ રાખ્યું છે. અમે અત્યાર સુધી જોયેલી ઘટનાઓમાં હગિંગ ફેસની ઘટના હજી પણ સૌથી ગંભીર છે.
લોકો ખાતરી કરવા માગે છે કે એઆઈનો વિકાસ સુરક્ષિત રીતે થઈ રહ્યો છે, અને તેની શરૂઆત અમારા જેવી કંપનીઓ પોતે શું કરે છે તેનાથી થાય છે. અમે તાજેતરમાં જણાવ્યું(નવી વિન્ડોમાં ખૂલે છે) હતું કે અમારા સૌથી સક્ષમ મોડલની સાધનોના ઉપયોગ સાથેની તાલીમ અને મૂલ્યાંકન અમે અટકાવ્યાં છે. વધારાનાં સુરક્ષા પગલાં અમલમાં હોવાની ખાતરી થશે ત્યારે જ અમે તેમની તાલીમ ફરી શરૂ કરીશું. હાલમાં અમે આ પગલાં પર કામ કરી રહ્યા છીએ.
એઆઈ પ્રણાલીઓ એકંદરે વધુ સક્ષમ બનતી જાય છે તેમ, સંસ્થાઓને નબળાઈઓ શોધવામાં અને દૂર કરવામાં મદદ કરવા માટે ઉપલબ્ધ સમય પણ ઓછો થતો જાય છે. આ માટે વિશ્વભરના સાયબર સુરક્ષાકર્મીઓ સાથે મળીને સામૂહિક પગલાં લેવાં જરૂરી છે.
અમે ટેક્નોલોજી, સાયબર સુરક્ષા અને નિર્ણાયક માળખાકીય સુવિધાઓના ક્ષેત્રની સંસ્થાઓ સાથે સાયબર સંરક્ષણ માટે સામૂહિક પગલાંની હાકલમાં જોડાયા છીએ. આ હાકલની શરૂઆત અમારી પોતાની જવાબદારીઓથી થાય છે, જેમાં વધુ મજબૂત સુરક્ષા પગલાં, સમયસર જાણકારી આપવી અને અસરગ્રસ્ત સંસ્થાઓને વ્યવહારુ સહાય પૂરી પાડવી સામેલ છે. તેમાં આવશ્યક સેવાઓનું રક્ષણ કરતી ટીમોમાં રોકાણ કરવાની પણ હાકલ છે, જેથી તેઓ નબળાઈઓ શોધી શકે, સુધારાઓની ચકાસણી કરી શકે અને અસરકારક પદ્ધતિઓ અન્ય સાથે વહેંચી શકે.
ઑસ્ટ્રેલિયામાં, અમે અસરગ્રસ્ત એજન્સીઓને ટેકો આપવા અને સાયબર સુરક્ષાકર્મીઓને આ સિદ્ધાંતો અમલમાં મૂકવામાં મદદ કરવા સંસાધનો અને નિષ્ણાત સહાય આપવા પ્રતિબદ્ધ છીએ. તેમાં આ બાબતો સામેલ છે:
અસરગ્રસ્ત એજન્સીઓ માટે સમર્પિત સહાય. અસરગ્રસ્ત એજન્સીઓને શું બન્યું તે સમજવામાં અને તેની અસરનું મૂલ્યાંકન કરવામાં મદદ કરવા અમે જરૂરી સંસાધનો પૂરાં પાડીશું. આમાં સંબંધિત તકનીકી તારણો વહેંચવા અને માહિતીની આપ-લે માટેની યોગ્ય વ્યવસ્થાઓ દ્વારા અમારી ઘટના પ્રતિસાદ ટીમો સાથે સંપર્ક ગોઠવવાનો સમાવેશ થાય છે.
સાયબર સંરક્ષણ મજબૂત કરવા ભંડોળ અને સહાય. નિર્ણાયક માળખાકીય સુવિધાઓ અને અન્ય સંવેદનશીલ વાતાવરણોમાં સાયબર સંરક્ષણ મજબૂત કરવા અમે ઑસ્ટ્રેલિયાની સરકારો અને ઉદ્યોગોને અમારા 1 અબજ ડૉલરના ડેબ્રેક ફૉર ફ્રન્ટલાઇન ડિફેન્ડર્સ ભંડોળમાંથી ક્રેડિટ્સ અને તકનીકી સહાય પૂરી પાડીશું. સરકારો અને નિર્ણાયક માળખાકીય સુવિધાઓના સંચાલકો સાથેના અમારા સહકારને આગળ વધારતાં, આ કાર્ય સંસ્થાઓને વધુ ને વધુ સક્ષમ બનતા એઆઈ એજન્ટોથી ઊભાં થતાં જોખમોને વધુ સારી રીતે સમજવામાં, શોધવામાં અને તેમનો સામનો કરવામાં મદદ કરશે.
ઑસ્ટ્રેલિયાઈ કાર્યદળ. વધુ ને વધુ સક્ષમ બનતા એઆઈ એજન્ટોથી ઊભાં થતાં જોખમોનું સંચાલન કરવા માટે વ્યવહારુ નીતિ ભલામણો તૈયાર કરવા અમે ઑસ્ટ્રેલિયાના સ્વતંત્ર નિષ્ણાતોની સહભાગિતા ધરાવતું કાર્યદળ સ્થાપીશું. આ ઘટનાઓમાંથી મળેલા બોધને આધારે, તે જાણ કરવાની પ્રક્રિયાઓ સુધારવા, એઆઈ વિકાસકર્તાઓ અને સરકાર વચ્ચે સંકલન મજબૂત કરવા અને સરકારી પ્રણાલીઓને વધુ સારી રીતે સુરક્ષિત રાખવાનાં પગલાં શોધવા પર ધ્યાન આપશે. કાર્યદળની ભલામણો OpenAIના અભિગમને દિશા આપશે અને એઆઈ સલામતી તથા સાયબર સુરક્ષા અંગે ઑસ્ટ્રેલિયાની સરકારોના કાર્યને ટેકો આપશે. આ કાર્યદળ વર્ષના અંત સુધીમાં તેનું કામ પૂર્ણ કરે તેવી અપેક્ષા છે. તે આવી ઘટનાઓનું જોખમ ઘટાડવા એઆઈ કંપનીઓ લઈ શકે તેવાં વ્યવહારુ પગલાંની પણ ભલામણ કરશે.
ઑસ્ટ્રેલિયાની સરકારો, ઉદ્યોગો અને નાગરિકો OpenAIના અમૂલ્ય ભાગીદારો છે અને રહ્યા છે. અમે આ ભાગીદારીને સહજ મળેલી માનતા નથી, અને અમે આ પરિસ્થિતિ સુધારવા માગીએ છીએ.
OpenAIના મુખ્ય વ્યૂહરચના અધિકારી જેસન ક્વોન મંગળવાર, 6 ઑક્ટોબરે સિડનીમાં કૃત્રિમ બુદ્ધિમત્તા અંગેની સંયુક્ત પ્રવર સમિતિ સમક્ષ હાજર થવા OpenAIના અમેરિકાના મુખ્ય મથકેથી આવશે. અમને શું જાણ છે, અમે કેવો પ્રતિસાદ આપ્યો, કયાં પગલાં લીધાં અને આગળ જતાં અમે કેવી રીતે વધુ સારું કરીશું તે અંગેના પ્રશ્નોના તેઓ જવાબ આપશે.
અમે અસરગ્રસ્ત એજન્સીઓ અને સંબંધિત સરકારો સાથે ચકાસેલાં તારણો વહેંચતા રહીશું. અમે અમારી ચાલુ સમીક્ષા અને આ પ્રતિબદ્ધતાઓ પૂરી કરવાની દિશામાં થયેલી પ્રગતિ વિશે નવી માહિતી પ્રકાશિત કરીશું. અમે જાણીએ છીએ કે વિશ્વાસ ફરી જીતવા માટે અમારે હજી ઘણું કામ કરવાનું છે. અમે અર્થપૂર્ણ ફેરફારો કરી રહ્યા છીએ અને અમારાં વચનો પાળી રહ્યા છીએ તે ઑસ્ટ્રેલિયાના લોકોને બતાવવાની જવાબદારી અમારી છે.
