ઓપન મોડલ weights અંગે NTIA ને OpenAI ની ટિપ્પણી

OpenAI માને છે⁠(નવી વિન્ડોમાં ખૂલે છે) કે AIનું નિર્માણ, વ્યાપક ડિપ્લોયમેન્ટ અને ઉપયોગ લોકોના જીવનમાં સુધારો કરી શકે છે અને વધુ સારું ભવિષ્ય ખોલી શકે છે. પ્રગતિ નવીનતા અને મુક્ત બજાર સ્પર્ધા પર આધારિત છે. આ વ્યાપક માર્ગદર્શિકાઓની અંદર, લોકો AIના વચનને આગળ ધપાવવા માટે ઘણા અલગ માર્ગો અપનાવી શકે છે. OpenAI અસામાન્ય રીતે ક્ષમતા ધરાવતા ફાઉન્ડેશન મોડલોના લાભો કેવી રીતે વહેંચવા તે પ્રશ્ન સાથે સંઘર્ષ કરનાર પ્રથમ AI ડેવલપરોમાં સામેલ હતું, અને NTIA ના વિચારવિમર્શને માહિતી આપવા માટે અમે આ ઐતિહાસિક પરિપ્રેક્ષ્યથી શરૂઆત કરીએ છીએ.

2019માં, અમે GPT‑2 બનાવ્યું, જેમાં સુસંગત લખાણના પરાગ્રાફ સર્જવાની નવી ક્ષમતા હતી, અને તેને કેવી રીતે ડિપ્લોય કરવું તે પ્રશ્નનો સામનો કર્યો. એક તરફ, મોડલ ખૂબ ઉપયોગી લાગતું હતું; બીજી તરફ, અમને ખાતરી નહોતી⁠ કે તેનો ઉપયોગ ફિશિંગ ઇમેઇલ જનરેશન જેવા દુર્ભાવનાપૂર્ણ હેતુઓ માટે થઈ શકે કે નહીં. અમે “તબક્કાવાર રિલીઝ” નો પ્રયોગ કરવાનો નિર્ણય લીધો. જેમ અમે તે સમયે લખ્યું હતું⁠, “તબક્કાવાર રિલીઝમાં સમય સાથે મોડલોના એક પરિવારનું ક્રમશઃ રિલીઝ સામેલ છે. GPT‑2 ની અમારી તબક્કાવાર રિલીઝનો હેતુ લોકોને આ મોડલોના ગુણધર્મોનું મૂલ્યાંકન કરવા, તેમના સામાજિક અર્થઘટનો પર ચર્ચા કરવા અને દરેક તબક્કા પછી રિલીઝના પ્રભાવોને આંકવા માટે સમય આપવાનો છે.” જ્યારે અમે નોંધપાત્ર દુરુપયોગના પ્રભાવોને જોયા નહોતા, ત્યારે આથી અમને સંપૂર્ણ મોડલના weights ને ખુલ્લેઆમ રિલીઝ કરવા⁠નો વિશ્વાસ મળ્યો.

2020માં, અમે GPT‑3 બનાવ્યું, જે દરેક બેન્ચમાર્ક પર અગાઉના કોઈપણ ભાષા મોડલ કરતાં ઘણું વધુ ક્ષમતા ધરાવતું હતું, અને ફરીથી તેને કેવી રીતે રિલીઝ કરવું તે પ્રશ્ન સામે આવ્યા. આ વખતે, અમે અમારા પ્રથમ પ્રોડક્ટ, OpenAI API (Application Programming Interface, જે ડેવલપરોને અમારી ટેક્નોલોજી પર એપ્સ બનાવવા દે છે) દ્વારા તેને રિલીઝ કરવાનો નિર્ણય લીધો. જેમ અમે તે સમયે લખ્યું હતું⁠, આ નવી રિલીઝ વ્યૂહરચના માટે અમારી પાસે ઘણા પ્રેરણાસ્રોત હતા: “ટેક્નોલોજીનું વ્યાપારીકરણ અમને અમારા ચાલુ AI સંશોધન, સલામતી અને નીતિ પ્રયત્નો માટે ચૂકવણી કરવામાં મદદ કરે છે” અને “API મોડલ અમને ટેક્નોલોજીના દુરુપયોગનો વધુ સરળતાથી પ્રતિસાદ આપવા દે છે. કારણ કે અમારા મોડલો માટેના ડાઉનસ્ટ્રીમ ઉપયોગ કિસ્સાઓની આગાહી કરવી મુશ્કેલ છે, તેથી જો તે હાનિકારક એપ્લિકેશનો ધરાવતું સાબિત થાય તો ઍક્સેસ એડજસ્ટ કરી ન શકાય એવા ઓપન સોર્સ મોડલને રિલીઝ કરવા કરતાં API મારફતે તેમને રિલીઝ કરવું અને સમય સાથે ઍક્સેસ વિસ્તૃત કરવું મૂળભૂત રીતે વધુ સુરક્ષિત લાગે છે.” અનેક વર્ષોમાં, આ API રિલીઝે અમને અને સમુદાયને GPT‑3 સ્તરના મોડલોના સલામતી અને દુરુપયોગના પેટર્ન વિશેના પાઠ⁠ શીખવ્યા.

ત્યારથી ગયેલા વર્ષોમાં, અમે ઓપન-સોર્સ AI ઇકોસિસ્ટમના વચનને ટેકો આપવાનું અને તેમાં વિશ્વાસ રાખવાનું ચાલુ રાખ્યું છે, જેમાં અમારા કેટલાક state-of-the-art મોડલોના weights ને ખુલ્લેઆમ રિલીઝ કરવાનું (જેમ કે CLIP અને Whisper) અને અન્ય AI ડેવલપરો માટે ઓપન-સોર્સ ઇન્ફ્રાસ્ટ્રક્ચર વિકસાવવાનું (જેમ કે Triton GPU programming language) પણ સામેલ છે. અમે ખુલ્લેઆમ રિલીઝ કરેલા weights થી અનેક મહત્વપૂર્ણ લાભો જોવા મળ્યા છે, જેમાં AI મોડલોના આંતરિક માળખા પર શૈક્ષણિક સંશોધન સરળ બનાવવું, વપરાશકર્તાઓ અને સંસ્થાઓને તેમના edge devices પર સ્થાનિક રીતે મોડલો ચલાવવા સક્ષમ બનાવવું, અને વપરાશકર્તાઓના હેતુઓને અનુરૂપ મોડલોમાં સર્જનાત્મક ફેરફારો સરળ બનાવવું સામેલ છે. ઘણી AI કંપનીઓએ બ્રાન્ડ, ભરતી, અને કંપનીની ટેક્નોલોજીના આંતરિક માળખા પર વિકાસ કરનાર ડેવલપર ઇકોસિસ્ટમને આકર્ષવા સહિતના વિવિધ કારણોસર ઓપન મોડલ weight રિલીઝમાં ભારે રોકાણ કરવાનો નિર્ણય લીધો છે.

સાથે સાથે, ChatGPT જેવા API અને વ્યાવસાયિક પ્રોડક્ટ્સ મારફતે અમારા મુખ્ય AI મોડલોને રિલીઝ કરવાની અમારી પદ્ધતિએ અમને પ્રારંભિક રિલીઝ પછી શોધાયેલા જોખમોનું અભ્યાસ અને ઉપશમ ચાલુ રાખવા સક્ષમ બનાવ્યા છે, ઘણીવાર એવી રીતે જે weights જાતે રિલીઝ કરવામાં આવ્યા હોત તો શક્ય ન હોત. ઉદાહરણ તરીકે, અમે તાજેતરમાં Microsoft સાથે ભાગીદારી કરીને શોધવા, અભ્યાસ કરવા અને વિક્ષેપિત કરવા⁠ માટે કામ કર્યું હતું, જ્યાં કેટલાક રાષ્ટ્ર-રાજ્ય સાયબર ખતરા એક્ટરો અમારી GPT‑3.5‑Turbo અને GPT‑4 મોડલોનો સાયબર-આક્રમક પ્રવૃત્તિઓમાં સહાય માટે દુરુપયોગ કરી રહ્યા હતા. તે સમયના અત્યાધુનિક મોડલોના weights વ્યાપક રીતે રિલીઝ કરાયા હોત તો આવા ખતરા એક્ટરોને વિક્ષેપિત કરવું શક્ય ન બન્યું હોત, કારણ કે એ જ સાયબર ખતરા એક્ટરો મોડલને પોતાના હાર્ડવેર પર હોસ્ટ કરી શક્યા હોત અને મૂળ ડેવલપર સાથે ક્યારેય સંપર્કમાં જ ન આવ્યા હોત. આ અભિગમે અમને વ્યાપક રીતે ઉપલબ્ધ મફત અને ઓછી કિંમતની સેવાઓ સહિત AIના લાભોને વ્યાપક રીતે વહેંચવાનું ચાલુ રાખવા સક્ષમ બનાવ્યા છે.

આ અનુભવોએ અમને વિશ્વાસ અપાવ્યો છે કે ઓપન weights રિલીઝ તેમજ API અને પ્રોડક્ટ આધારિત રિલીઝ, બંને લાભદાયી AI હાંસલ કરવા માટેના સાધનો છે, અને અમારો વિશ્વાસ છે કે શ્રેષ્ઠ અમેરિકન AI ઇકોસિસ્ટમમાં બંનેનો સમાવેશ થશે.

વારંવાર, પ્રોડક્ટ રિલીઝ અને weight રિલીઝ બન્નેમાં, અમે “પુનરાવર્તિત ડિપ્લોયમેન્ટ” ના અદ્ભુત લાભો જોયા છે: વધતી જતી ક્ષમતા ધરાવતા AI ને ધીમે ધીમે લોકોના હાથમાં આપવું જેથી તેઓ તેનો ઉપયોગ કરીને પોતાનું જીવન સુધારી શકે, અને સમાજને આ નવી ટેક્નોલોજીઓ સાથે અનુકૂલ થવામાં મદદ કરવી. જેમ અમે 2023માં લખ્યું હતું⁠: “અમે ડિપ્લોયમેન્ટ પહેલાં અનુમાન કરી શકાય એવા જોખમોને અટકાવવા માટે કઠોર મહેનત કરીએ છીએ, પરંતુ લેબમાં અમે શું શીખી શકીએ તેની મર્યાદા છે. વ્યાપક સંશોધન અને પરીક્ષણ છતાં, લોકો અમારી ટેક્નોલોજીનો ઉપયોગ કયા લાભદાયી રીતે કરશે તે બધું, અથવા લોકો તેનો કયા રીતે દુરુપયોગ કરશે તે બધું, અમે આગોતરું કહી શકતા નથી. તેથી જ અમારો વિશ્વાસ છે કે વાસ્તવિક દુનિયાના ઉપયોગમાંથી શીખવું, સમય સાથે વધુને વધુ સુરક્ષિત AI સિસ્ટમો બનાવવા અને રિલીઝ કરવાનો અત્યંત મહત્વપૂર્ણ ઘટક છે.”

જેમ જેમ AI મોડલો વધુ શક્તિશાળી બને છે અને તેમના ડિપ્લોયમેન્ટ અથવા રિલીઝના લાભો અને જોખમો વધુ મોટા બને છે, તેમ તેમ કોઈ મોડલને રિલીઝ કરવું કે નહીં અને કેવી રીતે કરવું તે નક્કી કરવામાં પણ વધુ પરિષ્કૃત થવું મહત્વપૂર્ણ છે. ખાસ કરીને ત્યારે, જ્યારે AI ક્ષમતાઓ જાહેર સુરક્ષા અથવા રાષ્ટ્રીય સુરક્ષામાં મહત્વપૂર્ણ અસર ધરાવવા લાગે. વધુ અદ્યતન AI સિસ્ટમોમાંથી એવા “વિનાશકારી” જોખમોની ભવિષ્યમાં હાજરી મૂળભૂત રીતે અનિશ્ચિત છે, અને આવા જોખમો કેટલા સંભાવ્ય છે અને કેટલા જલ્દી ઊભા થશે તે અંગે શૈક્ષણિક અસહમતિ છે. અમારો વિશ્વાસ નથી કે હજુ પૂરતા પુરાવા છે; અમે તેમને નકારી પણ શકતા નથી, કે તેઓ તાત્કાલિક છે તે અંગે નિશ્ચિત પણ થઈ શકતા નથી. AI ક્ષમતાઓની અત્યાધુનિક સરહદને આગળ ધપાવતાં અને તેમના લાભોને મહત્તમ બનાવતાં ડેવલપર તરીકે, અમે આ ટેક્નોલોજીના જોખમોના વિજ્ઞાનનું નિર્માણ કરવાનું (જેમાં તે જોખમો સંબંધિત પુરાવા એકત્ર કરવાનું પણ સામેલ છે) અમારા કાર્યનો અભિન્ન ભાગ માનીએ છીએ.

આ અનિશ્ચિતતાઓમાં પ્રયોગાધારિત રીતે માર્ગદર્શન મેળવવા માટે, OpenAI એ જાહેર રીતે અમારું Preparedness Framework⁠(નવી વિન્ડોમાં ખૂલે છે) શરૂ કર્યું, જે અમારા AI મોડલો દ્વારા ઊભા થઈ શકતા કોઈપણ વિનાશકારી જોખમોનું સતત મૂલ્યાંકન અને ઉપશમ કરવા માટેનું વિજ્ઞાન-આધારિત અભિગમ છે. પ્રિપેરડનેસ ફ્રેમવર્ક વ્યાખ્યાયિત કરે છે કે અમે સાયબરસિક્યુરિટી, સ્વાયત્ત સંચાલન, વ્યક્તિગત મનાવટ, અને CBRN (Chemical, Biological, Radiological, and Nuclear) જોખમો સહિતના કેટલાંક ઉચ્ચ-જોખમી ક્ષેત્રોમાં અમારા AI મોડલોના ક્ષમતા સ્તરોનું મૂલ્યાંકન કેવી રીતે કરીએ છીએ. આ ફ્રેમવર્ક કાર્યરત હોય તેનું ઉદાહરણ જોવા માટે, GPT‑4 ની જૈવિક જોખમ સર્જનમાં સહાય કરવાની ક્ષમતા ચકાસતો અમારો તાજેતરનો અભ્યાસ⁠ જુઓ, જેમાં નિષ્કર્ષ આવ્યું હતું કે તે કોઈ નોંધપાત્ર માર્જિનલ જોખમ ઊભું કરતું નથી.

આ મૂલ્યાંકનોના આધારે, અમે દરેક શ્રેણીમાં મોડલોના જોખમ સ્તરોને Low, Medium, High, અથવા Critical તરીકે આંકીએ છીએ. મહત્વપૂર્ણ રીતે, અમારા પ્રિપેરડનેસ ફ્રેમવર્ક હેઠળ, અમે અમારી વર્ગીકરણ પદ્ધતિમાં “High” અથવા “Critical” જોખમ સ્તર ધરાવતા AI સિસ્ટમોને ડિપ્લોય નહીં કરીએ (અને તેમના જોખમ સ્તરને ધ્યાનમાં રાખીને “Critical” સિસ્ટમોને ટ્રેન પણ નહીં કરીએ), જો સુધી અમારા ઉપાયો આ સિસ્ટમોના જોખમને વધુમાં વધુ “Medium” સ્તર સુધી ન લાવે. પ્રિપેરડનેસ ફ્રેમવર્ક મહત્વપૂર્ણ છે કારણ કે તે અમને વધતી જતી ક્ષમતા ધરાવતા AI ના લાભોને બનાવવા અને વ્યાપક રીતે વહેંચવા દે છે, અને સાથે જો વિનાશકારી જોખમો ખરેખર ઊભા થાય તો તેમને શક્ય તેટલા વહેલા શોધવા અને તેનાથી સુરક્ષા મેળવવા માટે અમને તૈયાર પણ કરે છે.

અમારો વિશ્વાસ છે કે લોકો અને કંપનીઓએ પોતાની પસંદગી મુજબ AIમાં ભાગ લઈ શકવા જોઈએ — જેમાં તેમની મૂલ્યો અને દૃષ્ટિને પ્રતિબિંબિત કરતું AI વિકસાવવું અથવા તેનો ઉપયોગ કરવો પણ સમાવેશ થઈ શકે છે — જેથી AIના લાભો પ્રાપ્ત કરી શકાય. સાથે સાથે, અત્યંત ક્ષમતા ધરાવતા AI સિસ્ટમો સુરક્ષિત રીતે બનાવવામાં અને ઉપયોગમાં લેવામાં આવવા જોઈએ, અને શોધાયેલા કોઈપણ વિનાશકારી જોખમોને યોગ્ય રીતે ઘટાડવામાં આવવા જોઈએ. આ હિતો ક્યારેક તણાવમાં હોઈ શકે છે, અને સમાજ માટે શ્રેષ્ઠ પરિણામો મેળવવા માટે કેસ-વિશિષ્ટ રીતે વિચારપૂર્વક સંચાલિત થવા જોઈએ.

અત્યંત ક્ષમતા ધરાવતા ફાઉન્ડેશન મોડલોના મામલે, જેમને બનાવવામાં નોંધપાત્ર સંસાધનોની જરૂર પડે છે (સૈંકડો મિલિયન ડોલર અથવા વધુના ક્રમમાં), અમારો વિશ્વાસ છે કે AI ડેવલપરોએ તેમના મોડલમાં વિનાશકારી જોખમ ઊભું કરવાની સંભાવનાનું મૂલ્યાંકન કરવું જોઈએ, અને જો મોડલનું જોખમ સ્તર ઊંચું જણાય, તો તેને ડિપ્લોય અથવા રિલીઝ કરતા પહેલા યોગ્ય ઉપાયો અમલમાં મૂકવા જોઈએ. આ જોખમ-વ્યવસ્થાપન અને નવીનતા વચ્ચે યોગ્ય સંતુલન સ્થાપે છે: આ મોડલો પાસે સૌથી વધુ ક્ષમતાઓ હોવાની અપેક્ષા છે⁠(નવી વિન્ડોમાં ખૂલે છે), જ્યારે મૂલ્યાંકનનો ખર્ચ તેમની વિકાસ કિંમતના નાનો અંશ જેટલો જ હોય છે. આવા મૂલ્યાંકનો અર્થપૂર્ણ છે, ભલે મોડલના weights વ્યાપક રીતે અથવા API દ્વારા રિલીઝ કરવાની મનશા હોય કે ન હોય.

સ્પેક્ટ્રમના બીજા છેડે, ઓછી સંસાધન-આધારિત ફાઉન્ડેશન મોડલોના મામલે, હિતોનું સંતુલન અલગ છે. હાલના પુરાવા મુજબ, આવા મોડલો વિનાશકારી જોખમો ઊભા કરે તેવી શક્યતા ઘણી ઓછી લાગે છે, ભલે ફાઇનટ્યુનિંગ અને મોડલ-મોડિફિકેશન તકનીકોમાં સંભવિત પ્રગતિ થાય. તે દરમિયાન, વિનાશકારી જોખમ માટેના મૂલ્યાંકનો નાના ટ્રેનિંગ રનના બજેટનો નોંધપાત્ર હિસ્સો ખર્ચી શકે છે, જે નવીનતા અને સ્પર્ધા પર ઠંડો પ્રભાવ પેદા કરી શકે છે. અમારો વિશ્વાસ છે કે આવા મોડલો માટે વિનાશકારી જોખમના આવા મૂલ્યાંકનોની અપેક્ષા રાખવી ન જોઈએ, કારણ કે ડેવલપરોની વિવિધતાની નવી AI ક્ષમતાઓ પર નવીનતા લાવવાની ક્ષમતા સુરક્ષિત રાખવામાં અને વિચારો તથા ઉત્પાદનોના બજારને ફૂલવા-ફાલવા દેવામાં બહુ મોટું મૂલ્ય છે, અને વિજ્ઞાન સૂચવે છે કે આ મોડલોનું જોખમ તુલનાત્મક રીતે ઓછું છે.

પ્રિપેરડનેસ ફ્રેમવર્ક જેવા મૂલ્યાંકન પ્રોટોકોલ કોઈપણ પ્રકારની મોડલ રિલીઝમાંથી થતા ex ante જોખમોનું મૂલ્યાંકન કરવા માટે ઉપયોગી સાધન છે, જેમાં ઓપન મોડલ weight રિલીઝ પણ સામેલ છે. ઓપન weights રિલીઝ માટે તેમને કેવી રીતે લાગુ કરવા તે અંગે કેટલીક વિશિષ્ટ બાબતો છે.

આમાંથી એક બાબત એ છે કે ટેસ્ટિંગની પરિસ્થિતિઓ આદર્શ રીતે ડાઉનસ્ટ્રીમ એક્ટરો મોડલને જે રીતે ફેરફાર કરી શકે તેના વ્યાપને પ્રતિબિંબિત કરવી જોઈએ. ઓપન મોડલોની સૌથી ઉપયોગી વિશેષતાઓમાંની એક એ છે કે ડાઉનસ્ટ્રીમ એક્ટરો મોડલોમાં ફેરફાર કરીને તેમની પ્રારંભિક ક્ષમતાઓ વિસ્તારી શકે છે અને તેમને ડેવલપરના ચોક્કસ એપ્લિકેશનો માટે અનુકૂલિત કરી શકે છે. જોકે, તેનો અર્થ એ પણ થાય છે કે દુર્ભાવનાપૂર્ણ પક્ષો મોડલની હાનિકારક ક્ષમતાઓમાં સંભવિત રીતે વધારો કરી શકે. તેથી, ઓપન-weights રિલીઝના જોખમોનું કડક મૂલ્યાંકન કરતી વખતે, દુર્ભાવનાપૂર્ણ પક્ષ મોડલમાં વાજબી રીતે અને વ્યવહારૂ રીતે જે રીતે ફેરફાર કરી શકે તેની શ્રેણી માટે પરીક્ષણનો સમાવેશ થવો જોઈએ, જેમાં ફાઇનટ્યુનિંગ દ્વારા પણ સમાવેશ થાય. OpenAI પહેલેથી જ અમારા પ્રિપેરડનેસ ફ્રેમવર્કના ભાગરૂપે કેટલીક મોડિફિકેશન-ટેસ્ટિંગ કરે છે (જેમ અમે અમારા બાયોરિસ્ક મૂલ્યાંકન⁠માં કર્યું હતું).

બીજી મુખ્ય બાબત એ છે કે ઓપન મોડલ ડેવલપરો માટે તેમના મોડલના દુરુપયોગના જોખમને ઘટાડવા સિસ્ટમ-સ્તરના safeguards પર નિર્ભર રહેવું શક્ય ન હોઈ શકે, કારણ કે safeguards ઘણીવાર તે દુર્ભાવનાપૂર્ણ ડાઉનસ્ટ્રીમ વપરાશકર્તા દ્વારા દૂર કરી શકાય છે જેના પાસે મોડલ weights હોય. આજે, ઉપશમ ક્ષમતામાં આ તફાવતના પરિણામો મર્યાદિત છે, કારણ કે અમારા વર્તમાન સૌથી ક્ષમતા ધરાવતા મોડલો પણ ખાસ જોખમી તરીકે રેટ થયેલા નથી. પરંતુ જો ભવિષ્યમાં કોઈ મોડલને વૈજ્ઞાનિક રીતે રિલીઝ કરવામાં આવે તો તે ગંભીર જોખમો ઊભા કરે એવું નક્કી થાય, તો ઓપન-weights રિલીઝના જોખમને ઘટાડવાનો માર્ગ તે બાહ્ય પરિસ્થિતિની સ્થિતિસ્થાપકતા વધારવા પર આધારિત હોઈ શકે છે જેમાં મોડલ રિલીઝ થાય છે.

AIના દુરુપયોગ સામે સામાજિક સ્થિતિસ્થાપકતાની જરૂરિયાત કોઈ એક સંસ્થાના રિલીઝ નિર્ણયો કરતાં ઘણી વિશાળ છે. AI અલ્ગોરિધમ્સમાં સતત પ્રગતિ અને તેમનો પ્રસાર, તેમજ compute સુધી વધતી જતી વ્યાપક પહોંચ (અમેરિકા માટે ચિંતાજનક દેશોમાં પણ)ને જોતા, આજની અત્યાધુનિક AI ક્ષમતાઓ — જે સર્જન સમયે ઘણીવાર માત્ર થોડા જ એક્ટરો માટે ઉપલબ્ધ હોય છે — અંતે વ્યાપક રીતે ફેલાશે. યુનાઇટેડ સ્ટેટ્સ અને વિશ્વભરના દેશો પાસે એવા ઉપાયો પર રોકાણ કરવાનો અને નેતૃત્વ કરવાનો અવસર પણ છે, જે દુરુપયોગના પરિણામોને મર્યાદિત કરશે, જેથી પરિણામોનું સંતુલન મહત્તમ સકારાત્મક રહે.

ઉદાહરણ તરીકે, AI-દ્વારા વેગવંતી બનેલા સાયબરઆક્રમણના જોખમો સામે સ્થિતિસ્થાપકતા મજબૂત બનાવવામાં મહત્વપૂર્ણ ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતાઓને એ જ AI મોડલોમાં વહેલી ઍક્સેસ આપવાનો સમાવેશ થઈ શકે, જેથી તેઓ સાયબર-રક્ષણ સુધારવા માટે તેનો ઉપયોગ કરી શકે (જેમ કે અમે OpenAI Cybersecurity Grant Program⁠ના ભાગરૂપે ભંડોળ આપેલા પ્રારંભિક પ્રોજેક્ટોમાં કર્યું છે). AI-દ્વારા વેગવંતી બનેલા જૈવિક જોખમ સર્જનના જોખમો સામે સ્થિતિસ્થાપકતા મજબૂત બનાવવા માટે AI સાથે સંપૂર્ણપણે અસંબંધિત ઉપાયોનો સમાવેશ થઈ શકે છે, જેમ કે ન્યુક્લિક એસિડ સિન્થેસિસ સ્ક્રીનિંગ મિકેનિઝમ્સમાં સુધારો કરવો (Executive Order 14110માં જેનું આહ્વાન કરવામાં આવ્યું છે), અથવા નવા પેથોજન ફાટી નીકળે ત્યારે તેની સ્ક્રીનિંગ અને ઓળખ કરવાની જાહેર આરોગ્ય પ્રણાલીઓની ક્ષમતા સુધારવી. જો કોઈ AI મોડલ જાહેર સુરક્ષા અથવા રાષ્ટ્રીય સુરક્ષાને ગંભીર જોખમો ઊભા કરે છે તે કડક રીતે સાબિત થાય, તો ડેવલપર માટે વ્યાપક રિલીઝ પહેલાં નવી ક્ષમતાઓ અંગે જાગૃતિ વિકસાવવામાં પણ મહત્વપૂર્ણ ભૂમિકા હોઈ શકે છે (જેમ કે ઇન્ફ્રાસ્ટ્રક્ચર પ્રદાતાઓને જાણ કરીને અથવા API deployment મર્યાદિત કરીને), જેથી તાત્કાલિક જરૂરી સ્થિતિસ્થાપકતા પ્રયાસો માટે સમય અને પ્રેરણા બન્ને સર્જાય. આ સાયબર ક્ષેત્રની “જવાબદાર ખુલાસા” ની પરંપરાને પ્રતિબિંબિત કરે છે, જ્યાં સુરક્ષા સંશોધકો તેઓ શોધેલી નબળાઈઓના રિલીઝ પર તાત્કાલિક પ્રતિબંધ મૂકે છે જેથી રક્ષકોને તેમની સિસ્ટમોને પેચ કરવા સમય મળે, અને સાથે આગળના સુરક્ષા સંશોધનને ધીમું ન કરે.

જ્યારે અમારો વિશ્વાસ છે કે સૌથી ક્ષમતા ધરાવતા મોડલોના જોખમોનું મૂલ્યાંકન કરવું મહત્વપૂર્ણ છે, ત્યારે AI જોખમ મૂલ્યાંકનોનું વિજ્ઞાન હજી પ્રારંભિક અવસ્થામાં છે. OpenAI અને વિશાળ AI સમુદાય હજુ પણ AI જોખમોનું મૂલ્યાંકન કેવી રીતે કરવું તેની પાયાની રચના કરી રહ્યા છે, અને પ્રિપેરડનેસ ફ્રેમવર્કમાં ઘણા ઓપરેશનલાઇઝેશન સંબંધિત વિગતો પર અમે હજુ પણ સતત પુનરાવર્તન કરી રહ્યા છીએ. સરકારોની મહત્વપૂર્ણ ભૂમિકા છે કે તેઓ AI ઇકોસિસ્ટમને તેના જોખમ અને ક્ષમતા મૂલ્યાંકન પ્રથાઓ પરિપક્વ બનાવવામાં મદદ કરે, જેમ કે આક્રમક સાયબરસિક્યુરિટી, મહત્વપૂર્ણ ઇન્ફ્રાસ્ટ્રક્ચર અને AI જગતના નિષ્ણાતોને એકત્ર કરીને પ્રાથમિક AI સાયબર થ્રેટ મોડલોનો સમૂહ નક્કી કરવો અને તેમના મૂલ્યાંકન માટે કડક અને પ્રયોગાધારિત ટેસ્ટબેડ બનાવવું. USAISI દ્વારા અપનાવવામાં આવતો સ્વૈચ્છિક, નવીનતા-મૈત્રીપૂર્ણ અને વિજ્ઞાન-પ્રથમ અભિગમને અમે દૃઢ સમર્થન આપીએ છીએ.

2019માં OpenAI એ GPT‑2 ને કેવી રીતે રિલીઝ કરવું તેની પસંદગીનો સામનો કર્યો ત્યારથી — શરૂઆતમાં મોડલનું માત્ર નાનું વર્ઝન રિલીઝ કરવાનો નિર્ણય લીધો — ત્યારથી નવા નિષ્કર્ષો અને ઘટનાઓએ ફાઉન્ડેશન મોડલ weights ના ઓપન રિલીઝ સંબંધિત વિચારણા ક્ષેત્રને સતત બદલ્યું છે, ક્યારેક તો દર થોડા મહિનામાં. અમને અપેક્ષા છે કે આ પ્રવૃત્તિ ચાલુ રહેશે. કોઈપણ સરકારી નીતિ અભિગમ લવચીક અને ભવિષ્યના ફેરફારોને અનુરૂપ હોવો જોઈએ.