AIના આગામી તબક્કા માટે ધોરણોનું નિર્માણ
અમારું ધ્યેય એ સુનિશ્ચિત કરવાનું છે કે આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ સમગ્ર માનવજાતને લાભ આપે. સેમ ઑલ્ટમેને તાજેતરમાં દર્શાવ્યા મુજબ અને યાકુબ પાખોત્સ્કીએ જણાવ્યા મુજબ, અમે આ ધ્યેય માટેના અમારા કાર્યમાં ત્રણ મુખ્ય લક્ષ્યોને પ્રાથમિકતા આપીએ છીએ:
સ્વચાલિત AI સંશોધક બનાવીને, તેની સાથે સંરેખણની સમસ્યા પર પુનરાવર્તિત રીતે કામ કરીને અને સ્વ-સુધારાની પ્રક્રિયામાં લોકો જોડાયેલા રહે તેવા માર્ગો શોધીને AIની પ્રગતિના આગામી સમયગાળાને યોગ્ય દિશા આપવી.
અત્યંત બુદ્ધિશાળી મશીનો શક્ય બનાવે તેવી વૈજ્ઞાનિક પ્રગતિ અને આર્થિક વૃદ્ધિના લાભ પહોંચાડવા.
દરેક વ્યક્તિને વ્યક્તિગત AGIથી સશક્ત બનાવવી.
AI અમારા પોતાના સંશોધન અને ઇજનેરીને વેગ આપી રહ્યું છે અને AIથી સક્ષમ બનેલા સંશોધનને કારણે ગણિતમાં પ્રગતિ થઈ છે, જેમાં નેવિયર-સ્ટોક્સ મિલેનિયમ સમસ્યાનો સમાવેશ થાય છે. આ પ્રગતિ અમારા અન્ય બે લક્ષ્યો માટે મોટી આશા જગાવે છે. તેનાથી દવામાં મહત્ત્વપૂર્ણ શોધો, વ્યાપકપણે ઉપલબ્ધ આરોગ્યસંભાળ અને વિશ્વભરના નાના વ્યવસાયો તથા વ્યક્તિગત ઉદ્યોગસાહસિકોનું આર્થિક સશક્તીકરણ શક્ય બની શકે છે.
અનેક કંપનીઓ અને દેશોમાં AI આગળ વધી રહ્યું છે અને સમગ્ર ક્ષેત્રની પ્રગતિ સૌની સામે રહેલી તકો તથા પડકારોને બદલે છે. અન્ય લાભોની સાથે, સક્ષમ અને સંરેખિત AI આ પરિવર્તનમાંથી પસાર થવામાં મહત્ત્વપૂર્ણ ભૂમિકા ભજવશે—સંરક્ષણ મજબૂત કરશે, સંરેખણ સંશોધન આગળ વધારશે અને લોકોને AIના વિકાસના આગામી તબક્કા સમજવા તથા તેમને દિશા આપવામાં મદદ કરશે.
આ પરિવર્તનને સુરક્ષિત રીતે પાર કરવા માટે સંરેખણ સંશોધને આ ક્ષમતાઓ સાથે ગતિ જાળવવી જરૂરી છે, જેથી અમે અને અન્ય લોકો બનાવતી પ્રણાલીઓ માનવીય મૂલ્યો સાથે સંરેખિત અને માનવીય નિયંત્રણ હેઠળ રહે. AI પ્રણાલીઓ વધુ સક્ષમ અને સ્વાયત્ત બનતી જાય અને AIના સંશોધન તથા વિકાસનું વધુ કામ જાતે સંભાળે તેમ આ બાબત વધુ મહત્ત્વપૂર્ણ બનતી જાય છે. AIની સતત પ્રગતિને સુરક્ષિત અને લાભદાયી બનાવવા માટે સંરેખણ સંશોધનમાં પ્રગતિ તથા વિવિધ પ્રયોગશાળાઓ અને દેશોમાં વિકાસને દિશા આપતાં સહિયારાં ધોરણો—બંને જરૂરી હશે.
સ્વચાલિત AI સંશોધનમાં માનવીય દેખરેખનું પ્રમાણ અલગ-અલગ હોઈ શકે છે. AI પ્રણાલીઓ AIની અનુગામી પેઢીઓ વિકસાવવાનું વધુ કામ સંભાળે તેમ, લોકોની ભાગીદારી ચાલુ રહે છતાં તેઓ પુનરાવર્તિત સ્વ-સુધારા (RSI)ની પ્રક્રિયાને વધુને વધુ આગળ ધપાવી શકે છે. આ પ્રક્રિયા વધુ સ્વચાલિત બનતાં AIની પ્રગતિની ગતિ ઝડપથી વધી શકે છે.
અમારું માનવું છે કે સ્વચાલિત AI સંશોધન લોકોના જીવનમાં સીધો સુધારો કરતાં મોડલ આપશે. તે અદ્યતન બુદ્ધિમત્તાનો ખર્ચ ઘટાડી શકે છે, જેથી વિશ્વભરના લોકો તેનો લાભ લઈ શકે. સ્વચાલિત સંશોધન સંરેખણમાં નોંધપાત્ર સુધારો કરવામાં અને વધુ સક્ષમ બનતા AI સામે સંરક્ષણ ઊભું કરવામાં પણ મદદ કરી શકે છે—સ્વચાલિત AI સંશોધક સ્વચાલિત AI સલામતી સંશોધક પણ બની શકે છે. વધુ સક્ષમ અને સંરેખિત પ્રણાલીઓ મહત્ત્વપૂર્ણ માળખાકીય સુવિધાઓને સુરક્ષિત કરવામાં, જોખમી AI એજન્ટો સામે સંરક્ષણ કરવામાં અને નવા રક્ષણાત્મક ઉપાયો વિકસાવવામાં મદદ કરી શકે છે.
આજે સંપૂર્ણ સ્વાયત્ત RSI થઈ રહ્યું નથી અને જ્યાં સુધી તેને સુરક્ષિત રીતે કરી શકાય નહીં ત્યાં સુધી આપણે તેને આગળ વધારવું ન જોઈએ. આગળ વધવું કે નહીં અને કેવી રીતે વધવું એ માનવીય નિયંત્રણ જાળવવાની આપણી ક્ષમતા તથા લાભો અને જોખમો વિશેની માહિતીસભર લોકશાહી પસંદગીઓ(નવી વિન્ડોમાં ખૂલે છે) પર આધારિત હોવું જોઈએ. યોગ્ય કાળજી અને સાવચેતી વિના કરવામાં આવે તો RSIને કારણે માનવો AIના વિકાસ પરનું વ્યવહારુ નિયંત્રણ ગુમાવી શકે છે અને પોતે હવે સમજી ન શકતી સંશોધન પ્રક્રિયાઓની દેખરેખ રાખવામાં અસમર્થ બની શકે છે. આ સ્થિતિમાંથી AI વધુ જોખમી, ઓછું સંરેખિત અને એકંદરે લોકો માટે ખતરો બની શકે છે. અમે જાહેર કરેલી હગિંગ ફેસની ઘટના RSIનું સીધું પરિણામ નહોતી, છતાં તે મજબૂત સુરક્ષાત્મક પગલાં અને સંરેખણ વિના વધુ ગંભીર બની શકે તેવાં જોખમોની ઝાંખી આપે છે.
અત્યાધુનિક AIના વિકાસમાં સલામતી અને સુરક્ષાની પદ્ધતિઓ માટેનાં આંતરરાષ્ટ્રીય ધોરણો, અત્યાધુનિક વિકાસની ગતિ સંભાળવા માટે સંરેખણ સંશોધન જેટલાં જ મહત્ત્વપૂર્ણ હોઈ શકે છે. ધોરણો ઉચ્ચ ગુણવત્તાવાળા પુરાવાની સહિયારી વ્યાખ્યાઓ અને ટેકનિકલ સુરક્ષાત્મક પગલાંની કડકાઈ માટે સર્વસંમત આધારરેખાઓ બનાવી શકે છે. ટૂંકમાં, તેઓ આ પ્રશ્નનો જવાબ આપવામાં મદદ કરે છે: “AIથી સર્જાતા વિનાશકારી જોખમને ઘટાડવાની સારી વ્યવસ્થા કેવી હોવી જોઈએ?”
AI ધોરણો અને નવીનતા કેન્દ્ર (CAISI) જેવી હાલની લોકશાહી સંસ્થાઓ, રાજ્યના કાયદા અને AI માટેનું સંઘીય માળખું આ કાર્યમાં મદદ કરી શકે છે. સાથે જ જાહેર-ખાનગી ભાગીદારીનાં નવાં સ્વરૂપો(નવી વિન્ડોમાં ખૂલે છે) પણ મદદરૂપ થઈ શકે છે. પરંતુ AIનો વિકાસ અને અમલ અનેક દેશોમાં થઈ રહ્યો છે, તેને વિશ્વભરમાં અપનાવવામાં આવી રહ્યું છે અને તેની અસરો કોઈ ને કોઈ રીતે તથા કોઈ ને કોઈ સમયે કદાચ દરેક વ્યક્તિ અનુભવશે.
તેથી કેટલાક મુખ્ય પડકારો ઉકેલવા માટે ધોરણો વિકસાવવાના આંતરરાષ્ટ્રીય પ્રયાસો જરૂરી છે:
ખંડિતતા—જુદા-જુદા દેશોનાં મૂલ્યાંકન, અહેવાલની આવશ્યકતાઓ અને ઘટનાની વ્યાખ્યાઓ વચ્ચે ટકરાવ થઈ શકે છે. પરિણામે પુરાવાની તુલના કરવી, ઊભરતી ક્ષમતાઓ સમજવી અને સરહદપાર જોખમોનો સામનો કરવો વધુ મુશ્કેલ બની શકે છે.
સામૂહિક કાર્યવાહી—દરેક દેશ સ્વતંત્ર રીતે કાર્ય કરે તો એવાં પરિણામો આવી શકે છે જે કોઈ દેશ ઇચ્છતો ન હોય. RSI પોતે AI સંશોધનને એટલો વેગ આપી શકે છે કે પ્રગતિને સમજવાની, જોખમોનું મૂલ્યાંકન કરવાની અને સાર્થક માનવીય દેખરેખ જાળવવાની આપણી સામૂહિક ક્ષમતા કરતાં પણ તે આગળ નીકળી જાય.
અસમાન ક્ષમતા—અત્યાધુનિક વિકાસની પ્રવૃત્તિ અને તેને સંબંધિત નિપુણતા વિશ્વભરમાં સમાન રીતે વિતરિત નથી. તેનાથી ઉપરોક્ત બંને સમસ્યાઓ વધુ ગંભીર બને છે.
આ પડકારો ઓપન અને ક્લોઝ્ડ—બંને પ્રકારનાં મોડલને લાગુ પડે છે.
સ્પષ્ટપણે કહીએ તો, સ્વચાલિત AI સંશોધન કે અન્ય અદ્યતન ક્ષમતાઓને આગળ વધારતી કોઈપણ AI પ્રયોગશાળાએ સ્વ-જવાબદારીના મૂળભૂત સિદ્ધાંતો અને હાલના કાયદા અનુસાર તે સુરક્ષિત રીતે કરવા માટે જવાબદારી સ્વીકારવી જ જોઈએ. ધોરણો માટેનો અમારો તર્ક સત્તાનું કેન્દ્રીકરણ ટાળવા અને વ્યવહારમાં વધુ સારાં પરિણામો મેળવવા પર આધારિત છે. ધોરણો પ્રયોગશાળાઓની બહારના વધુ હિતધારકોને આ ટેકનોલોજી કેવી રીતે વિકસવી જોઈએ એ અંગે અભિપ્રાય આપવાનો માર્ગ આપે છે. તેઓ એવા સ્પષ્ટ સિદ્ધાંતો પણ આપે છે, જેના પર કોઈ ચોક્કસ પ્રયોગશાળાની પદ્ધતિઓથી સ્વતંત્ર રહીને ભરોસો કરી શકાય. ઉપરના પડકારોનો સામનો કરવા સંબંધિત પક્ષો સહકાર આપે તો કદાચ આપણને વધુ સારાં પરિણામો મળશે.
એટલે જ અમારું માનવું છે કે RSI સહિતના અત્યાધુનિક AI માટે વૈશ્વિક ટેકનિકલ ધોરણો વિકસાવવા યુનાઇટેડ સ્ટેટ્સે વિશ્વભરના દેશો સાથે મળીને કામ કરવાના પ્રયાસનું નેતૃત્વ કરવું જોઈએ.
અમારી અપેક્ષા છે કે સમય જતાં આ સંકલ્પનામાં નોંધપાત્ર ફેરફાર થશે, છતાં બે પાસાં અનિવાર્ય રહેશે.
આ હાંસલ કરવાનો એક માર્ગ AI સલામતી સંસ્થાઓના ઊભરતા નેટવર્કનો લાભ લેવાનો છે—જેમ કે ઑસ્ટ્રેલિયા, કેનેડા, જર્મની, ફ્રાન્સ, કેન્યા, જાપાન, કોરિયા, સિંગાપુર, ભારત અને યુનાઇટેડ કિંગડમમાં પહેલેથી સ્થાપિત સંસ્થાઓ. તેમના દ્વારા CAISI અને રાષ્ટ્રીય ઉદ્યોગ સંગઠનો મારફતે ધોરણો ઘડવામાં મદદ મળી શકે છે, જેમાં વિશેષ ધ્યાન આ બાબતો પર રહેશે: (1) ક્ષમતાના માપદંડોથી મૂલવાતાં અત્યાધુનિક AI મોડલ અને વિકાસકર્તાઓ; અને (2) RSI સહિત સ્વચાલિત AI સંશોધન માટે લાભ-જોખમ વ્યવસ્થાપન. યુનાઇટેડ સ્ટેટ્સ 2024માં CAISI દ્વારા સ્થાપિત અદ્યતન AI માપન, મૂલ્યાંકન અને વિજ્ઞાન માટેના આંતરરાષ્ટ્રીય નેટવર્ક(નવી વિન્ડોમાં ખૂલે છે)ને આગળ વધારી શકે છે, જે AIના માપન, મૂલ્યાંકન અને વિજ્ઞાનમાં સહકાર માટે જાહેર સંસ્થાઓને એકત્ર કરે છે.
આ પ્રયાસ દ્વારા વિકસાવેલાં ધોરણો ક્ષમતાના માપન અને મૂલ્યાંકન, જોખમના આકલન તથા સુરક્ષાત્મક પગલાંની પર્યાપ્તતા માટે સહિયારો ટેકનિકલ આધાર આપશે. આ ટેકનિકલ ધોરણો AI મોડલ માટે પરવાના, પ્રકાશન પહેલાં ફરજિયાત સમીક્ષા કે મંજૂરીની આવશ્યકતાઓ નહીં હોય. આ ધોરણોને પોતાની કાનૂની પ્રણાલીઓમાં સામેલ કરવાં કે નહીં અને કેવી રીતે કરવાં એ રાષ્ટ્રીય સરકારો નક્કી કરશે.
આ કાર્યમાં ઓપન મોડલ અને ક્લોઝ્ડ મોડલના વિકાસકર્તાઓ, સ્વતંત્ર ટેકનિકલ નિષ્ણાતો અને શિક્ષણજગત સાથે પરામર્શ કરીને સ્પર્ધાત્મક AI પરિતંત્રને પણ સમર્થન આપવું જોઈએ. સહિયારાં ધોરણો પારદર્શક રીતે વિકસાવવાં જોઈએ અને એ રીતે ઘડવાં જોઈએ કે તે ચોક્કસ કંપનીઓ, દેશો કે વ્યવસાયિક મોડલને લાભ ન આપે. તેમાં નવા પ્રવેશકો કે ઓપન-વેઇટ વિકાસકર્તાઓ માટે સ્પર્ધા કરવાનું વધુ મુશ્કેલ ન બનાવવું પણ સામેલ છે.
અમે સૂચવ્યું છે(નવી વિન્ડોમાં ખૂલે છે) તેમ, આ અભિગમ ઉડ્ડયન અને નાણાકીય સ્થિરતા જેવાં ક્ષેત્રોમાંથી શીખી શકે છે, જ્યાં દેશોએ રાષ્ટ્રીય સત્તા છોડ્યા વિના સહિયારાં ટેકનિકલ ધોરણો અને સહકાર માટે વિશ્વસનીય માધ્યમો વિકસાવ્યાં છે. તેને ISO(નવી વિન્ડોમાં ખૂલે છે), અત્યાધુનિક મોડલ મંચ(નવી વિન્ડોમાં ખૂલે છે), એજન્ટિક AI ફાઉન્ડેશન(નવી વિન્ડોમાં ખૂલે છે) અને ઓપન સિક્યોર AI એલાયન્સ(નવી વિન્ડોમાં ખૂલે છે) જેવી સ્થાપિત તથા નવી ધોરણ સંસ્થાઓ સાથે પણ નિકટતાથી કામ કરવું જોઈએ. ઉપરાંત, આંતરરાષ્ટ્રીય ધોરણોને વાસ્તવિક AI મૂલ્યાંકન સાથે જોડતી વ્યવહારુ વિશિષ્ટતાઓ વિકસાવતી એપિયા ફાઉન્ડેશન જેવી અમલીકરણ-કેન્દ્રિત સંસ્થાઓ સાથે પણ સહકાર કરવો જોઈએ.
AI સંશોધનમાં વધતી સ્વાયત્તતા અને પુનરાવર્તિત સ્વ-સુધારાનું સંચાલન કરવા માટે આંતરરાષ્ટ્રીય AI ધોરણો ખાસ મહત્ત્વપૂર્ણ હશે. ખાસ કરીને, તેમાં નીચેની બાબતો માટેનાં ધોરણો સામેલ હોઈ શકે છે:
RSIને સંબંધિત AI પ્રગતિ અને AI કંપનીમાં થઈ રહેલા સ્વાયત્ત સંશોધનના પ્રમાણનું મૂલ્યાંકન. સંશોધનને વેગ આપવા વિશેનો અમારો તાજેતરનો અહેવાલ આ પ્રયાસમાં પ્રારંભિક યોગદાન છે.
સ્વચાલિત AI સંશોધન પર માનવીય દેખરેખ, જેમાં કયા પ્રકારની સ્વચાલિત AI સંશોધન પ્રક્રિયાઓની તાત્કાલિક માનવીય સમીક્ષા થવી જોઈએ તેનો સમાવેશ થાય છે.
સંરેખણ અને સ્વચાલિત AI સંશોધનને લગતી સમસ્યાઓ માટે ઘટનાનું વર્ગીકરણ, દેખરેખ, અહેવાલ અને પ્રતિસાદ, જેમ કે ઘટનાની ગંભીરતાના સહિયારા સ્તરો અને અહેવાલ માટેની મર્યાદાઓ. સંરેખણના અભાવ અંગે અહેવાલ આપવાનું અમારું માળખું એક પ્રારંભિક યોગદાન છે.
આ ધોરણો ઉપરાંત, અમારું માનવું છે કે વિશ્વભરના મહત્ત્વપૂર્ણ માળખાકીય સુવિધાઓના સંચાલકો અને સરકારોએ રાષ્ટ્રીય સુરક્ષાની ચિંતાઓ, ઊભરતી નબળાઈઓ અને જોખમો તથા ઝડપથી વિકસતા અત્યાધુનિક AI સલામતીના ક્ષેત્રની શ્રેષ્ઠ પદ્ધતિઓ વહેંચવા માટે સુરક્ષિત સંચાર માધ્યમો સ્થાપવાં જરૂરી રહેશે. આ ક્ષેત્રોમાં યુનાઇટેડ સ્ટેટ્સ અને ચીન વચ્ચેનો સંવાદ એક સકારાત્મક પગલું હશે અને આગામી વાટાઘાટો યોગ્ય સમયે થઈ રહી છે.
AIના વિકાસની ગતિ સંભાળવાનો અર્થ અગાઉથી નક્કી કરેલી ઝડપ જાળવવી એવો નથી. ટેકનિકલ દૃષ્ટિએ, તેનો અર્થ એ સુનિશ્ચિત કરવાનો છે કે સંરેખણ સંશોધન અને તેનો અમલ ક્ષમતાઓ કરતાં આગળ રહે. સામાજિક દૃષ્ટિએ, તેનો અર્થ ધોરણો, સંસ્થાઓ અને સહકારનો ઉપયોગ કરીને ઉદ્યોગનાં નેટવર્ક, સામાજિક સંબંધો અને બજારબળોને મજબૂત બનાવવાનો છે, જેથી સૌને લાભ થાય તેવાં પરિણામો મળે. તાજેતરમાં કરવામાં આવેલી સાયબર સંરક્ષણ માટે સામૂહિક કાર્યવાહીની હાકલ તેનું એક ઉદાહરણ છે.
યુનાઇટેડ સ્ટેટ્સ નેતૃત્વ કરવા માટે સારી સ્થિતિમાં છે, કારણ કે તેનો AI ઉદ્યોગ ટેકનિકલ રીતે અત્યાધુનિક છે અને નાણાં, વેપાર, સંરક્ષણ, ટેકનોલોજી તથા માહિતી પ્રણાલીઓ જેવાં મહત્ત્વપૂર્ણ ક્ષેત્રોમાં તે હજી પણ વૈશ્વિક નેટવર્કમાં વિશેષ સ્થાન ધરાવે છે. અત્યારે નેતૃત્વ કરવાથી નક્કી થશે કે યુનાઇટેડ સ્ટેટ્સ વૈશ્વિક AI માળખાને આકાર આપશે કે પછી પોતાની આસપાસ ખંડિત, અસમાન અને સંઘર્ષગ્રસ્ત વ્યવસ્થા સ્થિર થતી જોશે. તેનાથી એ પણ નક્કી થશે કે અદ્યતન AI યુનાઇટેડ સ્ટેટ્સ અને તેના સાથી દેશોના હાલના નેટવર્કને મજબૂત બનાવશે કે નહીં; નેતૃત્વ કરવામાં નિષ્ફળતા તેમને નબળાં પાડી શકે છે.
ભૂરાજકીય સ્પર્ધા માત્ર ટેકનિકલ રીતે કોણ આગળ છે એ વિશે નહીં, પરંતુ AIને અપનાવવા અને ફેલાવવા વિશે પણ હશે. જો વિશ્વભરના વ્યવસાયો અને સમાજોએ પોતાનું ભવિષ્ય આ ટેકનોલોજી પર આધારિત રાખવાનું હોય, તો AIને અપનાવવાનું અને ફેલાવવાનું કદાચ વધુને વધુ એ નક્કી કરશે કે કોણ વ્યવહારુ સહકાર અને વાજબી નિયમોને આગળ ધપાવે છે.
વ્યવહારુ આંતરરાષ્ટ્રીય સહકારથી જોડાયેલું મજબૂત રાષ્ટ્રીય શાસન વધુ અસરકારક સુરક્ષાત્મક પગલાં, સતત નવીનતા અને AIના લાભોની વ્યાપક ઉપલબ્ધતાનો માર્ગ આપે છે.
