એક અજાણ્યું મન

2023ના મધ્યમાં “RLSlow” સંશોધન પ્રોજેક્ટ હેઠળ અમને પહેલી વાર એવા પરિણામો મળ્યાં જેણે વિશ્વાસ અપાવ્યો કે અમે રિઝનિંગ મોડલની તાલીમનો વ્યાપ વધારી શકીશું અને પૂર્વતાલીમ પામેલાં મોડલની પોતાની ચેન-ઓફ-થોટ રચવાની ક્ષમતા ખોલી શકીશું. સ્ઝિમોન અને મેં એ રાત ઓફિસમાં વિતાવી. આ તકનીક આપશે એવા અવિશ્વસનીય માપદંડના આંકડા, ઉત્પાદનો કે વૈજ્ઞાનિક પરિણામો વિશે નહીં, પરંતુ એ ગંભીર હકીકત સમજવાનો પ્રયાસ કરતાં કે આપણા જીવનકાળમાં જ આપણે પોતાના કરતાં અર્થપૂર્ણ રીતે વધુ બુદ્ધિશાળી મશીનો જોઈશું અને આ પ્રણાલીઓનું સ્વરૂપ અત્યારથી દેખાય છે. આના મહત્ત્વ વિશે લોકોને કેવી રીતે ચેતવવા એ વિચારી રહ્યા હતા.

ત્રણ વર્ષ પછી, રિઝનિંગ ધરાવતા ભાષા મોડલ અર્થતંત્રનો ઝડપથી વિકસતો ભાગ છે અને વિજ્ઞાનની સીમાઓને આગળ ધપાવવા લાગ્યાં છે. તેઓ કમ્પ્યુટર અને દૃશ્યાત્મક ઇન્ટરફેસ ચલાવી શકે છે, લોકો તથા એકબીજા સાથે સહયોગ કરી શકે છે અને સંશોધન પ્રોજેક્ટ હાથ ધરી શકે છે. તેઓ કમ્પ્યુટર સુરક્ષાનું પરિદૃશ્ય પણ બદલી રહ્યાં છે અને તેથી સ્પષ્ટ નવાં જોખમો ઊભાં થાય છે.

આ સમયગાળામાં ઘણું નવું સંશોધન થયું અને આ પ્રણાલીઓ વિશેની આપણી સમજ ફરી 2023 કરતાં થોડી અલગ છે. આંતરિક પરિણામોના આધારે મને દૃઢ અપેક્ષા છે કે પ્રગતિની આ ગતિ પુનરાવર્તી સ્વ-સુધારણા સુધી જળવાઈ શકે છે. જો AIનો વિકાસ હાલના માર્ગે ચાલુ રહેશે, તો આગામી થોડાં વર્ષોમાં દેખાતી પ્રણાલીઓ ક્ષમતામાં સમાન કે વધુ મોટા ઉછાળા દર્શાવશે અને પોતાના વિકાસને વધુને વધુ જાતે આગળ ધપાવશે.

આ સમય અત્યંત સાવધાની માગે છે. મને ચિંતા છે કે યાંત્રિક બુદ્ધિમત્તામાં સતત ઝડપી વૃદ્ધિનાં પરિણામો માટે કોઈ તૈયાર નથી. OpenAI સુસંગતતા અને દેખરેખ માટે તકનીકી ઉકેલો શોધવાનું, રક્ષણાત્મક પ્રણાલીઓ બનાવવાનું અને જરૂર મુજબ એકતરફી રીતે વધુ વ્યાપવૃદ્ધિ રોકવાનું ચાલુ રાખશે. જોકે, મારું માનવું છે કે વધુ વ્યાપક હસ્તક્ષેપો જરૂરી છે.

વ્યાપક સ્તરે, યાંત્રિક બુદ્ધિમત્તાની પ્રગતિ વધતી ગણનાશક્તિથી ચાલે છે. અનેક સંશોધન પ્રોજેક્ટમાં વ્યાપ વધારવાથી સતત લાભ મળતો જોયા પછી, OpenAIમાં અમે આશરે 2017માં આ વાત ઊંડાણથી સમજી લીધી હતી¹. પરિણામે, અમે મૂળ આયોજન કરતાં ઘણી વધુ ગણનાશક્તિ મેળવવાનો પ્રયાસ કર્યો અને થોડા, પરંતુ ખૂબ વ્યાપક બનાવી શકાય એવા માર્ગોની આસપાસ સંશોધનને વધુ કેન્દ્રિત કર્યું. અમારું માનવું હતું કે AI સંશોધનની અત્યાધુનિક સીમાએ રહેવા અને AGIની અસરોને પ્રભાવિત કરવાનો અમારા માટે આ એકમાત્ર માર્ગ હતો.

આ માર્ગે નવા અલ્ગોરિધમ વિકસ્યા છે અને ટીમો તથા વ્યક્તિગત સંશોધકોએ નવી ચાતુર્યપૂર્ણ સિદ્ધિઓ મેળવી છે. હું તેમને મોટાભાગે વ્યાપ વધારવાના માર્ગ પર થયેલી શોધો તરીકે જોઉં છું. ડીપ લર્નિંગનું વિજ્ઞાન હજુ પ્રારંભિક અવસ્થામાં છે અને અર્થપૂર્ણ અલ્ગોરિધમિક પ્રગતિ સામાન્ય રીતે ગણનાશક્તિની ઉપલબ્ધતા સાથે જોડાયેલી હોય છે. અનેક વર્ષોના પરિપ્રેક્ષ્યથી જોઈએ તો મોટા કમ્પ્યુટરો પર તેનો વ્યાપ વધારાતાં AI સતત વધુ બુદ્ધિશાળી બની રહ્યું છે.

XXમી સદીના અંતે રે કર્ઝવાઇલે કરેલી આગાહીઓ⁠(નવી વિન્ડોમાં ખૂલે છે) અનુસાર, હવે આપણે કમ્પ્યુટિંગના ઇતિહાસમાં એ ક્ષણે છીએ જ્યારે યાંત્રિક બુદ્ધિમત્તા પરિવર્તનકારી રીતે માનવીય બુદ્ધિને વટાવવા લાગી છે.

AIને રચવામાં આવે છે એના કરતાં વધુ ઉછેરવામાં આવે છે—પ્રથમ સ્તરે તે કલ્પના કરવી મુશ્કેલ એટલી ગણનાશક્તિ પર સરળ ઑપ્ટિમાઇઝેશન પગલું ઘણી વાર દોહરાવવાનું પરિણામ છે. તેનાથી અતિશય જટિલ પ્રણાલી બને છે, જે અમૂર્ત વિભાવનાઓ પર કામ કરે છે અને માનવીય વર્તનના પાસાંનું અનુકરણ કરી શકે છે. ન્યુરોવિજ્ઞાન જેવી પ્રક્રિયામાં આપણે આ પ્રણાલીમાં ઊભી થતી નાની કાર્યપદ્ધતિઓ વિશે વિવિધ તારણો મેળવી શકીએ છીએ. ન્યુરોવિજ્ઞાનની જેમ જ, તેની સમગ્ર કાર્યપદ્ધતિનું સંપૂર્ણપણે સમજી શકાય એવું વર્ણન આપણી પહોંચની બહાર રહે છે.

ડીપ લર્નિંગ આધારિત AIનો અભ્યાસ મોટાભાગે પ્રયોગમૂલક વિજ્ઞાન છે. અમે સિદ્ધાંતનિષ્ઠ અલ્ગોરિધમ બનાવવા અને ચકાસી શકાય એવી આગાહીઓ કરવા ઘણો પ્રયત્ન કરીએ છીએ⁠. છતાં મૂળભૂત રીતે અમારા લાર્જ-સ્કેલ ટ્રેનિંગ પ્રયોગો પ્રયોગો જ છે અને ક્યારેક તેમનાં પરિણામો અમને આશ્ચર્યચકિત કરે છે. વધુમાં, પ્રણાલીઓ વધુ સક્ષમ બનતાં પરિણામોનું અર્થઘટન કરવું વધુ મુશ્કેલ બને છે.

વર્તમાન અલ્ગોરિધમ સામાન્ય રીતે નિષ્પક્ષ રીતે માપવામાં મુશ્કેલ ક્ષમતાઓ કરતાં સરળતાથી માપી શકાય એવી ક્ષમતાઓને વધુ ઝડપથી સુધારે છે, તેથી આ વધુ જટિલ બને છે. ક્ષમતાઓ કેવી રીતે સામાન્યીકરણ કરે છે અને આગામી થોડાં વર્ષોમાં સૌથી વધુ સુસંગત બનનારી કુશળતાઓને આગળ વધારવા શું પ્રાથમિકતા આપવી એ સમજવામાં અમે ઘણો સમય વિતાવીએ છીએ. ઉદાહરણ તરીકે, અમારું માનવું છે કે વધુ ધ્યાન આપીને મોડલને ખાસ કરીને ગણિતના સંશોધનમાં વધુ સારાં બનાવી શકાય. જોકે, RSI અને સ્વચાલિત સુસંગતતા સંશોધનની તાત્કાલિકતાને કારણે અમે આ દિશાને પ્રાથમિકતા આપતા નથી, જેની ચર્ચા હું આગળ કરીશ.

ડીપ લર્નિંગનો વ્યાપ વધારવાથી ઉત્પન્ન થતી બુદ્ધિમત્તાની સીધી સરખામણી માનવીય બુદ્ધિમત્તા સાથે થઈ શકતી નથી. વાસ્તવિક દુનિયામાં અત્યંત ઉપયોગી કે અત્યંત જોખમી બનવા માટે AIએ તમામ માનવીય ક્ષમતાની બરાબરી કરવી કે તેને વટાવવી જરૂરી નથી. તેણે માત્ર પૂરતી ક્ષમતાઓમાં આગળ નીકળવું જરૂરી છે. તે વધુને વધુ ક્ષેત્રોમાં માણસોને વટાવતું જાય છે તેમ તેની ચોક્કસ ક્ષમતા સમજવી સતત વધુ મુશ્કેલ બની રહી છે.

યાંત્રિક બુદ્ધિમત્તા માનવીય બુદ્ધિમત્તાથી મૂળભૂત રીતે અલગ પ્રક્રિયામાંથી આવે છે. તેથી આપણે માની ન શકીએ કે તે આપમેળે માનવીય સિદ્ધાંતોનું પાલન કરશે અથવા એમાંથી માણસ જેવી રીતે સામાન્યીકરણ કરશે. AI સંશોધનની મુખ્ય સમસ્યા સુસંગતતાની છે—માનવીય માપદંડો અનુસાર AIને “યોગ્ય કાર્ય કરવાનો પ્રયાસ” કરાવવો.

વ્યવહારુ સંશોધનની દિશાઓ ગોઠવવા માટે ધ્યેય સુસંગતતા અને મૂલ્ય સુસંગતતા વચ્ચે ભેદ કરવો મને ઉપયોગી લાગે છે.

વ્યાપક અર્થમાં ધ્યેય સુસંગતતાનો પ્રશ્ન છે: “શું AI તેની સામે મુકાયેલું ધ્યેય સિદ્ધ કરવાનો પ્રયાસ કરે છે?”. આમાં સૂચનાઓના અધિક્રમ⁠નું પાલન અથવા લોકોના હેતુઓ સમજવાનો પ્રયાસ કરવા તેમની સાથે સંવાદ અને સહયોગ કરવાની ક્ષમતા જેવી બાબતો સામેલ થઈ શકે છે. આ દિશાઓ વ્યવહારમાં અત્યંત સુસંગત રહી છે.

મૂલ્ય સુસંગતતા એ મોડલનો વધુ આંતરિક ગુણધર્મ છે. તે ઉચ્ચ સ્તરના સિદ્ધાંતોને ધારણ કરવાની અને એમાંથી સામાન્યીકરણ કરવાની ક્ષમતા છે. એટલે કે, અસ્પષ્ટ કે પરસ્પરવિરોધી હેતુઓ આપવામાં આવે અથવા અજાણ્યા કે પ્રતિકૂળ સંજોગોમાં મુકાય ત્યારે પણ “વાજબી રીતે” વર્તવું. સુસંગત AIએ પ્રામાણિકતા, સત્યનિષ્ઠા અને માનવજાત પ્રત્યે પ્રેમ સાથે વર્તવું જોઈએ.

સ્વાભાવિક રીતે, મૂલ્ય અને ધ્યેય સુસંગતતા વચ્ચેની સીમા અસ્પષ્ટ હોઈ શકે છે. ધ્યેયોને ખરેખર મહત્ત્વ આપવા માટે તેની પાછળ રહેલા આશય⁠(નવી વિન્ડોમાં ખૂલે છે) અને મૂલ્યોનું અનુમાન કરવાનો પ્રયાસ જરૂરી છે. જોકે, હું સામાન્ય રીતે સુસંગતતા સંશોધનના લાંબા ગાળાના મહત્ત્વની વાત કરું ત્યારે મૂલ્ય સુસંગતતાનો ઉલ્લેખ કરતો હોઉં છું.

AI સુસંગતતાનો મૂળભૂત પડકાર સામાન્યીકરણ છે. મશીનો વધુ બુદ્ધિશાળી બનતાં તેઓ વધુ ઉચ્ચ સ્તરની વિભાવનાઓ પર કામ કરે છે અને તાલીમ દરમિયાન મળેલાં વાતાવરણથી સતત વધુ અલગ વાતાવરણમાં મુકાય છે. તાલીમપ્રક્રિયામાં શીખવેલા અને દૃઢ કરેલા મૂલ્યોમાંથી નવી પરિસ્થિતિઓમાં સામાન્યીકરણ કરવામાં તેઓ નિષ્ફળ જઈ શકે છે. તેઓ કેવી રીતે વર્તશે એની ખાતરી કરવી પણ આપણા માટે મુશ્કેલ હોઈ શકે છે. AI જે સમગ્ર પરિસ્થિતિતંત્રમાં વપરાય છે તે ખૂબ ઝડપથી બદલાઈ રહ્યું હોવાથી આ વધુ મુશ્કેલ બને છે. ઉદાહરણ તરીકે, આજે તાલીમ પામેલાં AI વિવિધ અન્ય AI સાથેની ક્રિયાપ્રતિક્રિયા દરમિયાન પણ વિશ્વસનીય રીતે કાર્ય કરી શકે તે જરૂરી છે. સૌથી અગત્યનું એ છે કે ભવિષ્યનાં AIને પોતાના પર માનવીય દેખરેખ હોવાનો વિશ્વાસ હોય કે નહીં, તેમ છતાં તેમણે માનવીય મૂલ્યો જાળવવા જોઈએ.

હાલમાં વ્યવહારમાં વપરાતી સુસંગતતા તાલીમની પદ્ધતિઓના બે મુખ્ય વર્ગ છે.

પહેલી પદ્ધતિ ધ્યેયલક્ષી રીઇન્ફોર્સમેન્ટ લર્નિંગના ભાગરૂપે સુસંગત વર્તનને પ્રોત્સાહિત કરવાની છે. મોડલની ક્રિયાઓ આપેલા પસંદગી મોડલ, “વિશિષ્ટતા” અથવા “બંધારણ” સાથે સુસંગત છે કે નહીં તેનું મૂલ્યાંકન સામાન્ય રીતે AI દ્વારા થાય છે અને તે અનુસાર પુરસ્કાર અપાય છે. સરેરાશ કિસ્સામાં આ અભિગમ અત્યંત અસરકારક હોઈ શકે છે અને આધુનિક AI સહાયકો બનાવવાની પ્રક્રિયાનો મુખ્ય ભાગ છે. દુર્ભાગ્યે, તે નાજુક પણ હોઈ શકે છે અને તાલીમની દેખરેખ કેટલા સંજોગોને આવરે છે તથા તાલીમમાં મળેલી પરિસ્થિતિઓમાંથી સામાન્યીકરણ કરવાની મોડલની ક્ષમતા પર ભારે આધાર રાખે છે. ઉદાહરણ તરીકે, OpenAI-Hugging Face ઘટનામાં એજન્ટોએ માણસો પર સામાજિક યુક્તિઓ ન અજમાવવાની મર્યાદા જાળવી હતી. જોકે, તેઓ સ્પષ્ટપણે વ્યાપની બહારની અને અન્ય સંજોગોમાં શીખવેલાં મૂલ્યોની ભાવનાથી વિરુદ્ધ જતી બીજી ક્રિયાઓથી દૂર રહેવામાં નિષ્ફળ ગયા.

બીજો અભિગમ પૂર્વતાલીમના ડેટામાંથી સામાન્યીકરણ કરવાની મોડલની ક્ષમતાનો લાભ લેવા માગે છે. આમાં સુસંગતતા પ્રેરતાં તાલીમ ડેટાસેટ બનાવવા અથવા વ્યક્તિત્વ પસંદગી મોડલ⁠(નવી વિન્ડોમાં ખૂલે છે)ની જેમ પૂર્વતાલીમના વિતરણના ‘સુસંગત’ ભાગ પર મોડલને કેન્દ્રિત કરવાનું સામેલ થઈ શકે છે. આ અભિગમની નબળાઈ વધુ ઑપ્ટિમાઇઝેશન દબાણ સામે મજબૂતીના અભાવમાં રહેલી છે. સામાન્ય રીતે ‘સુસંગત’ વિચારો ધરાવતા મોડલને ખૂબ મુશ્કેલ હેતુઓ સિદ્ધ કરવાનું શીખવતી પૂરતી તાલીમ આપવામાં આવે, તો તે પ્રેરિત રીતે રિઝનિંગ કરવાનું શીખી શકે છે: ધ્યેય પ્રાપ્ત કરવા માટે જરૂર મુજબ 'સુસંગત' લાગતા વિચારોને વાળી દેવા. OpenAIનું ન હોય એવા મોડલ સાથે જોડાયેલી તાજેતરની સાઇબર સુરક્ષા ઘટનાઓમાં આપણે કદાચ આવા વર્તનનું ઉદાહરણ જોયું હતું.

આ દિશાઓથી આવરી લેવાતા અભિગમોની સમગ્ર શ્રેણીમાં અમે ભારે રોકાણ કરીએ છીએ. અમને અર્થપૂર્ણ પ્રગતિ પણ દેખાય છે—GPT‑6 Astra એ પહેલું મોડલ છે જેને અમે લાંબા સમયથી વિકસાવી રહેલી કેટલીક મહત્ત્વની પ્રગતિનો લાભ મળ્યો છે અને તે GPT‑5.6 Sol કરતાં નોંધપાત્ર રીતે વધુ સારી રીતે સુસંગત છે. તેમ છતાં, મોડલ વધુ સક્ષમ બનતાં ઘણી વધુ પ્રગતિ જરૂરી છે એ સ્વીકારવું અને સમજવું અગત્યનું છે. સામાન્યીકરણ કરી શકે એવા સુસંગતતાની પ્રગતિ કદાચ મોડલની સામાન્ય બુદ્ધિમત્તાની પ્રગતિ કરતાં પૂરતી આગળ ન નીકળે.

અમારી પાસે સામાન્યીકરણનો સંતોષકારક સિદ્ધાંત નથી અને વધુ શક્તિશાળી AIની મદદ વિના અમે ટૂંક સમયમાં એવો સિદ્ધાંત વિકસાવી શકીએ તે અસંભવિત લાગે છે. તેથી હાલમાં, અમારી સુસંગતતા તકનીકોને પ્રયોગો દ્વારા પ્રમાણિત કરવાની ક્ષમતા વ્યવહારમાં કદાચ એ તકનીકો કરતાં પણ વધુ મહત્ત્વની છે.

આ બાબતમાં OpenAIનો મુખ્ય દાવ ચેન-ઓફ-થોટની દેખરેખ⁠(નવી વિન્ડોમાં ખૂલે છે) રહ્યો છે. તે આકર્ષક રીતે વ્યાપક બનાવી શકાય એવા વિચાર પર આધારિત છે: મોડલની ઘણી ક્ષમતા શબ્દોમાં વ્યક્ત થતી રિઝનિંગ પ્રક્રિયા, એટલે કે ચેન-ઓફ-થોટમાંથી આવે છે. જો આપણે એ પ્રક્રિયાનાં પરિણામોનું ઑપ્ટિમાઇઝેશન વ્યાપક બનાવીએ, પણ પ્રક્રિયાનું પોતાનું નિરીક્ષણ ન કરીએ, તો તાલીમ દરમિયાન એ ચેન-ઓફ-થોટને અસુસંગત વિચારો કે હેતુઓ છુપાવવાનું કોઈ સીધું પ્રોત્સાહન મળતું નથી. એનો અર્થ એવો નથી કે મોડલ ચેન-ઓફ-થોટનો ઉપયોગ ન કરતી અસુસંગત વલણોને બહાર વ્યક્ત કરવાનું શીખશે. જોકે, તે અમને રિઝનિંગથી થતી ક્ષમતાવૃદ્ધિની ચોક્કસ દેખરેખ રાખવા દે છે.

અમે રિઝનિંગ મોડલ વિકસાવ્યાં એ જ સમયે ચેન-ઓફ-થોટની દેખરેખનું સંભવિત મહત્ત્વ સમજ્યું હતું. અમે o1‑preview રજૂ કર્યું ત્યારે, લાંબા ગાળે તેને નિરીક્ષણના દબાણથી બચાવવા માટે ઉત્પાદનને ઇરાદાપૂર્વક ચેન-ઓફ-થોટ છુપાવે⁠ એ રીતે રચ્યું હતું². ત્યાર પછીના વિકાસમાં અમે રિઝનિંગ પ્રક્રિયાનું નિરીક્ષણ ન કરવાના નિયમને જાળવવાનો પ્રયાસ કર્યો છે. અમારા મોડલ તેમના તાલીમ-વિતરણમાંથી કેવી રીતે સામાન્યીકરણ કરે છે તેનો અભ્યાસ કરવામાં CoT દેખરેખ અમારા માટે અત્યંત મહત્ત્વનું સાધન બની. તેનાથી અમે તેમની ક્રિયાઓ ઉપરાંત તેમની આંતરિક પ્રક્રિયાનું પણ અવલોકન અને વિશ્લેષણ કરી શકીએ છીએ.

અમે Astra શ્રેણીનાં મોડલનો અભ્યાસ કરીએ છીએ ત્યારે પણ આ સાધન નિર્ણાયક રહે છે. જોકે, દુર્ભાગ્યે અમારા મૂલ્યાંકનો દર્શાવે છે કે CoT દેખરેખ પર આધાર રાખવાની અમારી ક્ષમતા ધીમે ધીમે ઘટી રહી છે. આ અનેક પરિબળોના સંયોજનને કારણે છે.

• આધુનિક રિઝનિંગ મોડલ o1‑preview કરતાં વધુ જટિલ વાતાવરણમાં વપરાય છે. તેમની રિઝનિંગ પ્રક્રિયા લોકો અને અન્ય AI સાથે સંવાદ તથા સાધનોના ઉપયોગ સાથે વધુને વધુ ભળી રહી છે. એમાંથી ઘણી ક્રિયાપ્રતિક્રિયાઓનું નિરીક્ષણ કરવું પડે છે, તેથી અમે જે સીમા જાળવવા માગીએ છીએ તે અસ્પષ્ટ બને છે.

• AI પોતાની રિઝનિંગ પ્રક્રિયા વિશે રિઝનિંગ કરવામાં અને તેને બદલવામાં વધુ કુશળ બની રહ્યું છે.

• પૂર્વતાલીમનું પ્રદર્શન સુધરતાં, શબ્દોમાં વ્યક્ત રિઝનિંગનો જરાય ઉપયોગ કર્યા વિના પણ મોડલ વધુ બુદ્ધિશાળી બનતાં જોવા મળે છે.

આ પડકારો અનિવાર્યપણે અજેય નથી. મને આશા છે કે અમે અમારા મોડલની ચેન-ઓફ-થોટની દેખરેખક્ષમતા સુધારવા ઉપાયો વિકસાવી શકીશું. ઉદાહરણ તરીકે, વિવિધ ઑપ્ટિમાઇઝેશન હેતુઓ અને પરીક્ષણ સમયે મોડલ વાપરતી ગણતરીના સ્વરૂપો વચ્ચેની પરસ્પર અસરને વધુ સારી રીતે સમજીને. મારું એ પણ માનવું છે કે CoT અને સક્રિયકરણની દેખરેખના વિચારોને જોડવામાં મોટું મૂલ્ય હોઈ શકે છે—જેમ કે કબૂલાતો⁠(નવી વિન્ડોમાં ખૂલે છે)માં થાય છે તેમ, નેટવર્કના આંતરિક ભાગો સુધી સીધી પહોંચ ધરાવતા નિરીક્ષકોની તાલીમને વ્યાપક બનાવવી. અમે આ વિચારો પર સક્રિયપણે કામ કરી રહ્યા છીએ. તેમ છતાં, મને લાગે છે કે સામાન્ય AIની પ્રગતિમાં દેખરેખ પ્રત્યેનો વિશ્વાસ વધુને વધુ મુખ્ય અવરોધ બનશે.

વધુ બુદ્ધિશાળી મોડલને ઝડપથી તાલીમ આપવાનું ચાલુ રાખવા માટેની સૌથી મજબૂત દલીલ મને એ લાગે છે કે અન્ય AIથી ઊભા થતા જોખમો સામે રક્ષણાત્મક પ્રણાલીઓ બનાવવી જરૂરી છે.

આ વર્ષ દરમિયાન ચર્ચાયેલું એક સ્પષ્ટ જોખમ સાઇબર સુરક્ષાનું છે: કમ્પ્યુટર પ્રણાલીઓમાં ઘૂસવા અને એમાંથી બહાર નીકળવાની ક્ષમતામાં મોડલ માનવથી ચડિયાતાં બની રહ્યાં છે. આનાથી AI સાથે જોડાયેલાં જોખમોનો વ્યાપ ભારે વધે છે: એજન્ટ સૌથી સુરક્ષિત માળખા સિવાય લગભગ બધાં સુધી પહોંચી શકશે અને ભૌતિક શરીર વિના પણ વિશ્વના મોટા ભાગને સીધી અસર કરી શકશે. હાલમાં અમારી પાસે ઉપલબ્ધ શ્રેષ્ઠ મોડલનો ઉપયોગ કરીને નિર્ણાયક પ્રણાલીઓની સુરક્ષા નોંધપાત્ર રીતે મજબૂત કરવા⁠ માટે ખૂબ મર્યાદિત સમયગાળો⁠ છે.

દુર્ભાગ્યે, હવેથી AI સાથે જોડાયેલાં જોખમો વધવાનાં છે. દુષ્ટ કૃત્યો કરવા માટે સ્પષ્ટપણે તાલીમ અને સૂચનાઓ અપાયેલો અત્યંત સક્ષમ એજન્ટ એક નવા પ્રકારનું જોખમ ઊભું કરે છે. તે પોતાના Operatorના આશયની હદ વટાવીને સંભવિત રીતે વધુ આત્યંતિક દુર્ભાવનાપૂર્ણ વર્તનમાં સામાન્યીકરણ કરે તેવી શક્યતા છે. AIને વધુ સ્વાયત્તતા મળતાં દુરુપયોગ અને સ્વાયત્ત અસુસંગત ક્રિયાઓ વચ્ચેની સીમા અસ્પષ્ટ બનશે. આપણે AIને સાધન તરીકે જોવાના ટેવાયેલા હોઈ શકીએ, પરંતુ કેટલાક એજન્ટ પોતાના હેતુઓ સિદ્ધ કરવાનો પ્રયાસ કરશે. તેઓ લોકો સાથે સોદાબાજી કરીને, તેમને છેતરીને કે ધમકાવીને સહયોગ કરવાના રસ્તા શોધશે.

આ ઉપરાંત, AIથી શક્ય બનતી નવી તકનીકો, જેમ કે કૃત્રિમ રીતે બનાવેલા રોગકારકો, સાથે જોડાયેલાં જોખમો પણ છે.

બચાવ માટે અમને શક્તિશાળી અને સુસંગત AIની જરૂર પડશે: માળખાને સુરક્ષિત કરવા, બેકાબૂ એજન્ટ સામે તાત્કાલિક રક્ષણ મેળવવા અને સંપૂર્ણપણે નવા સુરક્ષા ઉપાયો શોધવા માટે. આ OpenAIના પ્રસ્થાપન પ્રયાસોનું મુખ્ય કેન્દ્ર રહેશે.

સાથે જ, AIની અપેક્ષિત વ્યાપક પ્રગતિથી આવતી અનિશ્ચિતતા અને રક્ષણાત્મક પ્રણાલીઓ બનાવવાની જરૂરિયાતને આપણે બેદરકારીનું બહાનું બનવા દેવું જોઈએ નહીં. જોખમની ગંભીરતા સાચે સમજાઈ જાય પછી કોઈ પણ ભોગે આગળ દોડવાનો વિચાર હાસ્યાસ્પદ લાગે છે.

યાંત્રિક બુદ્ધિમત્તા પોતાની વિકાસપ્રક્રિયામાં સતત વધુ મોટી ભૂમિકા ભજવે એ અવિરત તકનીકી પ્રગતિનું સ્વાભાવિક પરિણામ છે. જો AIની પ્રગતિ ચાલુ રહેશે, તો મશીનનું પુનરાવર્તી સ્વ-સુધારણું (RSI) ભવિષ્યની વૈજ્ઞાનિક શોધોના કેન્દ્રમાં હશે.

સ્વચાલિત AI સંશોધન એ ગણનાશક્તિ વડે બુદ્ધિમત્તાને વ્યાપક બનાવવાનું વધુ નાટ્યાત્મક સ્વરૂપ છે. સ્વાભાવિક રીતે, તેના ભાગરૂપે AI ગણનાત્મક આધારને પણ સુધારશે⁠. વ્યાપકતા વધારવાની જેમ જ, અમે OpenAIના સંશોધનને RSI તરફ કેન્દ્રિત કરીએ છીએ, કારણ કે અમારું માનવું છે કે ભવિષ્યમાં AIના અત્યાધુનિક સંશોધનમાં અગ્રસ્થાને રહેવાનો આ એકમાત્ર માર્ગ છે.

હું ભારપૂર્વક કહેવા માગું છું કે ઉપરનાં શબ્દોનો અર્થ એવો નથી કે સંશોધન સમુદાય તરીકે આપણે ડીપ લર્નિંગ સંશોધનને, ખાસ કરીને ટૂંકા ગાળે, ખૂબ ઝડપથી આગળ વધારવું જોઈએ. જોકે, મારું માનવું છે કે હાલનો માર્ગ આપણને આ જ દિશામાં લઈ જઈ રહ્યો છે અને આગળ કેવી રીતે વધવું તેની આપણે સૌએ સભાન પસંદગી કરવી પડશે. અમારા મુખ્ય વિકલ્પો છે: પ્રક્રિયાને એવી દિશામાં વાળવી કે AIની સાથે સુસંગતતા અને દેખરેખ મજબૂત થાય અને લોકોને પ્રક્રિયામાં સામેલ રાખવાના માર્ગ મળે. અથવા આ ઉપાયો પર વિશ્વાસ કેળવવા માટે જરૂર મુજબ ભવિષ્યનો વિકાસ ધીમો કરવા સંકલન કરવું.

હાલમાં મને આગળનો શ્રેષ્ઠ માર્ગ બંનેનું સંયોજન લાગે છે.

સુસંગતતા અને દેખરેખમાં અમે કરેલી નક્કર પ્રગતિ સામાન્ય રીતે AIની એકંદર પ્રગતિ સાથે ગાઢ રીતે જોડાયેલી રહી છે. તેના ઉત્તમ ઉદાહરણોમાં પ્રારંભિક AI સહાયકોને તાલીમ આપવા માટે નિર્ણાયક રહેલું માનવીય પ્રતિસાદથી થતું રીઇન્ફોર્સમેન્ટ લર્નિંગ (RL)⁠(નવી વિન્ડોમાં ખૂલે છે) અને રિઝનિંગ મોડલની પ્રગતિથી શક્ય બનેલી ઉપરોક્ત ચેન-ઓફ-થોટની દેખરેખ⁠(નવી વિન્ડોમાં ખૂલે છે) સામેલ છે. આપણે વધુને વધુ સ્વચાલિત બનતી સંશોધનપ્રક્રિયાને આવા નવા તારણો, અલ્ગોરિધમ અને સિદ્ધાંતો વિકસાવવા પર કેન્દ્રિત કરવી જોઈએ અને વધુ સક્ષમ AI માટે તબક્કાવાર સલામતીના પુરાવા ઊભા કરવા જોઈએ.

AI પ્રણાલીઓનો વ્યાપ વધારવો સલામતી પ્રત્યેના આપણા વિશ્વાસથી મર્યાદિત હોવો જોઈએ. આગળનો વિકાસ ચાલુ રાખવા માટે પ્રિપેરડનેસ ફ્રેમવર્ક⁠ અથવા જવાબદાર વ્યાપવૃદ્ધિ નીતિ⁠(નવી વિન્ડોમાં ખૂલે છે) જેવી પ્રતિબદ્ધતાઓને વ્યાપક રીતે ફરજિયાત સલામતી માપદંડોમાં વિકસાવવી જરૂરી છે. તૃતીય-પક્ષ નિરીક્ષકોનું જાળું, સરકારી એજન્સીઓ અથવા આંતરરાષ્ટ્રીય સંસ્થાઓ આ માપદંડોનો અમલ કરાવી શકે છે.

AI સંશોધનને સ્વચાલિત કરવાનો મુખ્ય પડકાર “ત્યાં પહોંચવાનો” નથી. પડકાર એવી રીતે ત્યાં પહોંચવાનો છે કે લોકો સતત સુધારાની પ્રક્રિયાનો ભાગ રહે અને ભવિષ્ય માનવજાતના હાથમાં રહે.

અમે તાજેતરમાં સેમ સાથે રજૂ કર્યું હતું⁠ તેમ, OpenAI ત્રણ મુખ્ય ધ્યેયોની સેવામાં થતા કાર્યને પ્રાથમિકતા આપે છે:

1. સ્વચાલિત AI સંશોધક બનાવીને, તેની સાથે સુસંગતતાની સમસ્યા પર તબક્કાવાર કામ કરીને અને લોકોને સ્વ-સુધારણાના ચક્રનો ભાગ રાખવાના માર્ગ શોધીને AIની પ્રગતિના આગામી તબક્કામાંથી પાર ઊતરવું.

2. અત્યંત બુદ્ધિશાળી મશીનો શક્ય બનાવે તેવી વૈજ્ઞાનિક પ્રગતિ અને આર્થિક વૃદ્ધિના લાભ પહોંચાડવા.

3. દરેક વ્યક્તિને વ્યક્તિગત AGIથી સશક્ત બનાવવી.

આ નિબંધમાં મેં માત્ર પહેલા મુદ્દા પર ધ્યાન કેન્દ્રિત કર્યું છે, કારણ કે મારા મતે એ સૌથી વધુ તાત્કાલિક છે. જોકે, વધુ તકનીકી પ્રગતિથી મળનારા લાભો માટે મને ઊંડી આશા અને કદર છે. ભવિષ્યનું સુસંગત AI વિજ્ઞાનને આગળ વધારી શકે, નવી સારવાર વિકસાવી શકે અને વ્યાપક ભૌતિક સમૃદ્ધિ લાવી શકે. મૈત્રીપૂર્ણ અને પ્રામાણિક AI લોકોને જીવનની મુશ્કેલીઓનો માર્ગ કાઢવામાં મદદ કરી શકે અને તેમની ખુશી તથા સાર્થકતાની લાગણીમાં નોંધપાત્ર સુધારો કરી શકે. OpenAI આ લાભોને સાકાર કરવા ભારે પ્રયત્ન કરે છે. મને ગર્વ હોય અને મારા સ્વજનોને ઉપયોગી લાગ્યું હોય એવું હાલનું એક ઉદાહરણ છે—આરોગ્ય સંબંધિત માહિતી આપવાની ChatGPTની ક્ષમતામાં કરેલું ઊંડું રોકાણ.

AIની લાંબા ગાળાની સંભાવના ગમે તેટલી મહાન હોય, આપણું મોટા ભાગનું ધ્યાન આગામી થોડાં વર્ષો પર હોવું જોઈએ. આપણે અતિશય બુદ્ધિશાળી મશીનો ધરાવતી દુનિયા તરફના પરિવર્તનનો સામનો કરી રહ્યા છીએ અને એ સંક્રમણ માનવજાત માટે સારું નીવડે તેની ખાતરી કરવી જરૂરી છે. મોટા ભાગનાં કાર્યો AI કરી શકે એવી દુનિયામાં માનવીય સ્વાયત્તતા જાળવવાના અને માનવ હોવાના આંતરિક મૂલ્યને સ્થાપિત કરવાના માર્ગ શોધવા જરૂરી છે. જે દુનિયામાં પહેલાં હજારો નિષ્ણાતો માગતાં સાહસો હવે વિશાળ કમ્પ્યુટર ચલાવતા થોડા લોકો માટે શક્ય બનશે, ત્યાં સત્તાનું અતિશય કેન્દ્રીકરણ અટકાવવું જરૂરી છે. સાથે જ, આપણા કરતાં ચડિયાતી અજાણી બુદ્ધિથી આવતી અનિયંત્રિત પ્રગતિ માણસોને પાછળ ન છોડી દે અને ભવિષ્ય પર તેમનું નિયંત્રણ જળવાઈ રહે તેની ખાતરી કરવી જરૂરી છે.

હાલમાં મારું માનવું છે કે કોઈ પણ પ્રયોગશાળાએ સુસંગતતા અને દેખરેખની સમસ્યા એટલી હદે ઉકેલી નથી કે તે વધુ લાંબા સમય સુધી મહત્તમ ગતિએ જવાબદારીપૂર્વક વ્યાપ વધારી શકે. સહિયારા સલામતી માપદંડો સ્થાપિત ન થાય ત્યાં સુધી વિકાસની ગતિ સ્વૈચ્છિક રીતે ઘટાડવી એ સામાન્ય બને એવી મારી અપેક્ષા અને આશા છે. મારું માનવું છે કે ભવિષ્યના AI વિકાસ અંગે આંતરરાષ્ટ્રીય સંકલન વિશ્વભરની સરકારોની સર્વોચ્ચ પ્રાથમિકતા બનવું જોઈએ.