મૌન સંમતિ
લેખકની નોંધ: આજનો નિબંધ લેખકે તાજેતરમાં હાર્વર્ડ ખાતે વિક-બેઇલી વ્યાખ્યાનમાળાના ભાગરૂપે આપેલા વ્યાખ્યાન પર આધારિત છે. આ લેખમાં વ્યક્ત થયેલા વિચારો લેખકના પોતાના છે; તે OpenAI કે તેના અન્ય કર્મચારીઓના વિચારો હોય એવું જરૂરી નથી.
આજે અહીં ઉપસ્થિત રહેવા બદલ આપનો આભાર. આપણે અહીં વાત કરી રહ્યા છીએ ત્યારે સાઇબર સુરક્ષાના ઇતિહાસના સૌથી મહત્ત્વના ઘટનાક્રમોમાંનો એક બની રહ્યો છે. સુરક્ષાની ગંભીર ખામીઓ એક પછી એક જાહેર થઈ રહી છે, જેને કેટલાક લોકો ‘કાળો ઑક્ટોબર’ કહી રહ્યા છે. ઇન્ટરનેટના કેટલાક પાયાના માળખામાં રહેલી આ ખામીઓ અત્યાધુનિક AI પ્રણાલીઓએ શોધી છે, અને તેમને જાહેર કરવી એ વિશ્વભરમાં સૉફ્ટવેરની સુરક્ષા મજબૂત બનાવવાના તાત્કાલિક પ્રયાસનો ભાગ છે. આ મહિને આ બાબત તાત્કાલિક ધ્યાન માગે છે; આવતા મહિને બીજી કોઈ બાબત હશે. સૉફ્ટવેરની સુરક્ષાખામીઓ શોધવી એ AI પ્રણાલીઓએ આજે મેળવેલી એવી ક્ષમતા છે જેનો સારો અને ખરાબ બંને રીતે ઉપયોગ થઈ શકે છે. પણ ટૂંક સમયમાં બીજી આવી ક્ષમતા આવશે, અને દુર્ભાવના ધરાવનારા તેનો ખરાબ ઉપયોગ કરે તે પહેલાં તેનો સારો ઉપયોગ કરી લેવા માટે એક નવો તાત્કાલિક પ્રકલ્પ હાથ ધરવો પડશે. તાત્કાલિક ધ્યાન માગતી આ બધી બાબતો અનિવાર્યપણે એકસાથે સામે આવશે, અને આજે આપણે જેને ‘AI નીતિ’ કહીએ છીએ તેનો મોટો ભાગ આ કોલાહલ વચ્ચે ઘડાય તેવી શક્યતા છે.
પણ હું આજે તમારી સાથે તાત્કાલિક પ્રતિસાદ માગતી બાબતો વિશે વાત કરવા આવ્યો નથી. તેના બદલે, હું તમારી સાથે વ્યાપક પરિપ્રેક્ષ્યમાં આપણે કઈ દિશામાં આગળ વધી રહ્યા હોઈ શકીએ તે વિશે વાત કરવા માગું છું. તાકીદની બાબતોના આવા મારા વચ્ચે આ વધુ અમૂર્ત અને દૂરના લાગતા પ્રશ્નો વિશે વિચારવું મુશ્કેલ હોઈ શકે છે. પણ આ પ્રશ્નો મહત્ત્વના છે. લાંબા ગાળે આપણે કેવું ભવિષ્ય ઇચ્છીએ છીએ—અને કેવું ટાળવા માગીએ છીએ—તેની સમજ વિના, માર્ગમાં દરેક પગલે સમજદારીભર્યા નિર્ણયો લીધા હોવા છતાં, એકંદરે આપણે ન ગમતા પરિણામ સુધી પહોંચી શકીએ.
ઘણી વાર કહેવાય છે કે ટેક્નોલોજી ઉદ્યોગ જે બનાવી રહ્યો છે તે આપણને ક્યાં લઈ જશે, તેની કોઈ સકારાત્મક ભવિષ્યકલ્પના તેની પાસે નથી. હું અસહમત છું: સાન ફ્રાન્સિસ્કો અને ઉદ્યોગસાહસિકતાનાં અન્ય કેન્દ્રોમાં આપણા તકનીકી ભવિષ્યની સકારાત્મક કલ્પનાઓની કોઈ કમી નથી. લોકો ખરેખર ઊડતી ગાડીઓ, સ્વાયત્ત વાહનો, અનેક કદ અને આકારનાં રોબોટ, પરમાણુ સંલયનની ટેક્નોલોજી અને, અલબત્ત, આર્ટિફિશિયલ જનરલ ઇન્ટેલિજન્સ વિકસાવી રહ્યા છે. આપણી પાસે ખરેખર જેનો અભાવ છે તે આપણા સંસ્થાકીય ભવિષ્યની સકારાત્મક કલ્પના છે: આ બધું ચાલશે કેવી રીતે?
જોકે, તેનો અર્થ એ નથી કે ભવિષ્ય માટેની સંસ્થાકીય કલ્પના છે જ નહીં. કમનસીબે, મને સૌથી પ્રચલિત જણાતી કલ્પનાને હું સકારાત્મક કહી શકું તેમ નથી. જ્યારે પણ તેને શબ્દો અપાય છે, ત્યારે સામાન્ય રીતે ગણગણાટમાં જ અપાય છે. પણ મોટે ભાગે તે વણકહી જ રહે છે, માત્ર સૂચિતાર્થમાંથી જ તેને સમજી શકાય છે. હું તેને મૌન સંમતિ કહું છું.
એવી કંપનીની કલ્પના કરો જે માનવીય શ્રમ વિના લગભગ બધું જ કરી શકે. તેની AI પ્રણાલીઓ સંશોધન અને વિકાસ કરે છે, શોધો કરે છે, કરારો માટે વાટાઘાટો કરે છે, મૂડી ફાળવે છે અને ઉત્પાદન કરે છે. માની લો કે તેના માનવ હરીફો પોતાના પ્રયાસોને AIથી વધુ સક્ષમ બનાવે તોપણ, આ કંપની આ બધાં કામ તેમના કરતાં વધુ સારી રીતે કરે છે. જો માનવીય ભાગીદારીથી વ્યવસાય માત્ર ધીમો જ પડતો હોય, તો માનવ સંચાલકો અને માલિકોને સુકાન પરથી હાથ હટાવી લેવા માટે પ્રબળ પ્રોત્સાહન મળશે. જો સમગ્ર વૈશ્વિક અર્થતંત્રમાં આવું બને, તો બજારની સ્પર્ધાનો તર્ક માનવોને વૈશ્વિક વેપાર પરનું પોતાનું પ્રાધાન્ય જતું કરવા પ્રેરશે. સમય જતાં, બજાર લોકોની માગણીઓ અને ઇચ્છાઓ જેટલી જ, અથવા તેના કરતાં પણ વધુ, યંત્રોની માગણીઓ પૂરી કરવા લાગી શકે છે.
ત્યાર પછી શું થાય એ વિશે માત્ર અટકળ જ કરી શકાય. કદાચ માનવજાતને અઢળક લાભ થાય. આપણને પોતાના તાબામાં સમાવી લેનારાં યંત્રો માનવોને તેમની ઉપયોગિતાથી પર પણ ઊંચું મૂલ્ય આપતાં હોય, તો આપણને તેમની મહેનત અને તેનાથી સર્જાતી સંપત્તિનો લાભ મળી શકે. અથવા કદાચ આર્થિક સત્તા અને ધીમે ધીમે રાજકીય સત્તા પણ છીનવાઈ જતાં, દુનિયામાં આપણું મહત્ત્વ ઘટતું જશે અને વિશ્વની ઘટનાઓને દિશા આપવાની આપણી શક્તિ પણ ઓછી થતી જશે. કદાચ મોટાભાગના લોકોને સત્તાવિહીન રાખીને મુઠ્ઠીભર માનવો અસાધારણ સત્તા અને સંપત્તિ ધરાવતા હશે, અથવા કદાચ સત્તાવિહીન થવાનું ભાગ્ય આપણા સૌનું હશે. વિગતો ગમે તેવી હોય, મૌન સંમતિમાં આ બધાને જોડતો એક જ તંતુ છે: આપણે જે દુનિયાને જાણીએ છીએ તેમાં માનવજાતના પ્રાધાન્યનો અંત.
આમાંથી કોઈ પણ પરિસ્થિતિ સર્જાવા માટે AIએ પોતાના સર્જકો સામે બળવો કરવો જરૂરી નથી. તેના માલિકો માનવજાતને સત્તાવિહીન કરવા ઇચ્છતા હોય એ પણ જરૂરી નથી. સત્તા સોંપવાનો દરેક નિર્ણય પોતાની રીતે વાજબી હોઈ શકે. છતાં, આ બધા નિર્ણયો મળીને એવી દુનિયા સર્જી શકે જેમાં લોકોએ આપણી સભ્યતાના મોટા ભાગ પરની પોતાની વાસ્તવિક સત્તા ગુમાવી દીધી હોય. AIની સલામતી અને તેને માનવીય હેતુઓ સાથે સુસંગત બનાવવાના જટિલ પ્રશ્નોમાં આપણે અસાધારણ પ્રગતિ કરીએ, તોપણ બની શકે કે આપણે એક નવા પ્રકારની યાંત્રિક સત્તાને આધીન થઈ ગયા હોઈએ. મૌન સંમતિ આપણને કહે છે કે ભવિષ્યના સુખદ સ્વરૂપમાં એ સત્તા દયાળુ હશે—એવું યંત્ર જેના હૈયે માનવોનું સર્વોત્તમ હિત હશે. બ્રોટિગનની કવિતા કહે છે તેમ, પ્રેમાળ કૃપાથી ભરેલું યંત્ર.
મૌન સંમતિ કહે છે કે આપણે આ યંત્રોને આપણી કંપનીઓનો અને ધીમે ધીમે આપણી શાસનસંસ્થાઓનો કારભાર પણ સોંપી દઈશું. આપણે માનવો જેટલી સમજ અને નિર્ણયશક્તિ દાખવી શકીએ, તેના કરતાં વધુ સારી સમજ અને નિર્ણયશક્તિથી તેઓ એ સંસ્થાઓને વધુ અસરકારક રીતે અને વધુ કાર્યક્ષમતાથી ચલાવશે. અને આમ, સમય જતાં આપણે સુકાન પરથી હાથ હટાવી લઈશું અને આ પ્રેમાળ યંત્રોને ગાડી ચલાવવા દઈશું. આપણે ગાડીમાં બેઠેલા મુસાફરો જેવા હોઈશું—ગાડી બહુ સરસ હશે, કદાચ આજે કલ્પી શકીએ તેનાથી પણ વધુ ભૌતિક સુખસગવડોવાળી—પણ આપણે તો મુસાફરો જ રહીશું, ગાડી ક્યાં જઈ રહી છે તેના પર આપણું નિયંત્રણ નહીં હોય. આપણે જે કંઈ કામ કરીશું તે મોટે ભાગે એક વિધિ કે અભિનય જેવું હશે, આપણી પ્રજાતિના મનોરંજન માટેની રમત જેવું.
કેટલાક નિરીક્ષકો દલીલ કરશે કે મૌન સંમતિનો પાયો જ ખોટો છે, કારણ કે આજે પણ દુનિયા ક્યાં આપણા માનવોના નિયંત્રણમાં છે? અને આ ટીકા ધ્યાનમાં રાખવા જેવી છે: શું કરવું એ નક્કી કરનાર કોઈ એક સામૂહિક ‘આપણે’ નથી. આપણને ગમે કે ન ગમે, આપણે અત્યંત વિકેન્દ્રિત દુનિયામાં જીવીએ છીએ. છતાં, આ વાતથી આપણે નિશ્ચિંત થઈ જવું ન જોઈએ: ભલે ‘આપણે’ દુનિયા પર ‘નિયંત્રણ’ ન ધરાવતા હોઈએ, પણ સામૂહિક રીતે માનવજાત વિશ્વના કારભારમાં પ્રાધાન્ય તો ધરાવે જ છે. સંસાધનો પરના નિયંત્રણ માટે આપણી સામે ખરેખર હરીફાઈ કરી શકે એવી પ્રાણીઓની કોઈ પ્રજાતિ નથી. માનવો ઉપરથી આદેશો આપીને આખી દુનિયાને નિયંત્રિત કરી શકે, એવી બૌદ્ધિક રીતે કાચી કલ્પનાને આપણે નકારવી જોઈએ. પરંતુ તેને નકારવાનો અર્થ એ સ્પષ્ટ વાસ્તવિકતાનો ઇનકાર નથી કે સામૂહિક રીતે માનવજાત જ પૃથ્વી પર મુખ્ય ભૂમિકા ભજવે છે.
મૌન સંમતિને શબ્દોમાં વ્યક્ત કરવા તૈયાર કેટલાક લોકો માને છે કે આ ખરેખર સારું ભવિષ્ય છે. બીજાઓ એવું નથી માનતા, પણ તેને અનિવાર્ય માનીને સ્વીકારી બેઠા છે. મૌન સંમતિને સંમતિ કહેવાનું કારણ એ નથી કે સૌ તેને સારી માને છે, કે પછી તે AI બનાવનારા લોકોની કોઈ ગુપ્ત યોજના છે. સંમતિ માત્ર એટલી છે કે વિશ્વના કારભાર પર માનવજાતનું પ્રાધાન્ય ગુમાવવું અનિવાર્ય છે, અથવા ઓછામાં ઓછું એવા બીજા કોઈ ભવિષ્યની કલ્પના કરવી બહુ મુશ્કેલ છે જે અતિબુદ્ધિશાળી યંત્રોના આગમન સામે ખરેખર ટકી શકે. કોઈ વ્યક્તિ આ પરિણામનો નિષ્ઠાપૂર્વક વિરોધ કરતી હોવા છતાં, તેને એક વિશ્વસનીય વૈકલ્પિક ભવિષ્યની કલ્પના કરવામાં મુશ્કેલી પડી શકે છે. આ સંમતિ મોટે ભાગે મૌન રહે છે, વધુમાં વધુ દબાયેલા અવાજે વ્યક્ત થાય છે—એ હકીકત જ ઘણું કહી જાય છે.
મને આ મૌન સંમતિ પ્રત્યે તિરસ્કાર છે. માનવજાતનું પ્રાધાન્ય જતું કરવાનું હું નકારું છું. આ અનિવાર્ય જ છે, એવી લાગણી પ્રત્યે મને ધિક્કાર છે. હું મારી જાતને યાદ કરાવું છું કે જો આ મૌન સંમતિને તાબે થઈ જાઉં, તો મારા નાનકડા દીકરાની સુંદર આંખોમાં આંખ પરોવી શકીશ નહીં. અને એટલે જ આ મૌન સંમતિને હું ના કહું છું. અને હું માનું છું કે હવે મૌન સંમતિ વિશે ખુલ્લેઆમ વાત કરવાનો અને મોટે ભાગે અજાણતાં જ આ ભવિષ્યને સ્વીકારી લેવાની આપણી વૃત્તિને ઝંઝોડવાનો સમય આવી ગયો છે.
મુશ્કેલી એ છે કે આ મૌન સંમતિ રચાઈ તેની પાછળ કારણ છે. માનવબુદ્ધિને અનેકગણી વટાવી જતી યંત્રબુદ્ધિની સાથે રહીને માનવો સુકાન પોતાના હાથમાં કેવી રીતે રાખશે, એ સમજાવવું મુશ્કેલ છે. એ સમજાવવાના મોટા ભાગના પ્રયાસો એવી દલીલ પર આધાર રાખે છે કે AI માત્ર એક સાધન છે, ભાતો ઓળખતું એવું સાધન જે ‘ખરી સમજ’ ધરાવી શકતું નથી. મને ડર છે કે આ દલીલો આવનારી વાસ્તવિકતા સામે ટકી નહીં શકે. મને ડર છે કે એ દલીલો પોતે જ ખોટી નિશ્ચિંતતાનું એક સ્વરૂપ છે—માનવનેતૃત્વ હેઠળના ભવિષ્યની સકારાત્મક કલ્પનામાંથી ઊગેલી માન્યતા નહીં, પણ મોટે ભાગે AIની ક્ષમતાઓનો ઇનકાર કરતું વલણ. દાયકાઓ અને સદીઓથી માનવો જે બૌદ્ધિક સમસ્યાઓ ઉકેલી શક્યા નથી, તેને ઉકેલવામાં AI પ્રગતિ કરવા લાગે ત્યારે પણ તેનામાં ‘ખરી સમજ’ નથી એવું કહી શકાય નહીં.
તો પછી માનવોએ પોતાનું પ્રાધાન્ય જાળવી રાખવું જ જોઈએ એવું હું શા માટે માનું છું? સરળ જવાબ એ છે કે હું માનવ છું અને હા, હું નિઃસંકોચ માનવજાતનો પક્ષપાતી છું.
પણ તેની પાછળ કંઈક વધુ ઊંડું પણ છે. આપણા પ્રાધાન્યનો આધાર આપણી બુદ્ધિ નથી, કે નથી ભવિષ્યમાં અનંતકાળ સુધી ‘ખરી સમજ’ પર આપણી ઇજારાશાહી જાળવી રાખવી. આપણા પ્રાધાન્યનો આધાર તો આપણો ભૂતકાળ છે.
કારણ કે કાદવમાંથી ઊભરીને આગળ વધનારા આપણે જ હતા. માટી અને પથ્થરમાંથી આદિમ સમાજ ઘડનારા આપણે જ હતા. તારાઓ તરફ મીટ માંડીને ‘શા માટે?’ પૂછનારા આપણે જ હતા. આપણાં યુદ્ધો, પ્રેમ, ઈર્ષ્યા અને આનંદ વચ્ચે નૈતિકતા, નીતિશાસ્ત્ર અને કાયદાની શોધ કરનારા આપણે જ હતા. ગાનાર અને નાચનાર, લખનાર અને સંગીત રચનાર આપણે જ હતા. ઇતિહાસ સર્જનારા પણ આપણે જ હતા અને તેને લખનારા પણ આપણે જ હતા. એ વારસો આપણો છે. આપણે રચેલી સભ્યતા એક એવી જ્યોત છે જેને આપણે જાળવી રાખી છે, અને એ જ્યોત આપણી છે. આપણો ભૂતકાળ એક ગૌરવશાળી વારસો છે, જેના સંરક્ષક આપણે સૌ છીએ. આદિકાળમાં શરૂ થયેલા જે મહાન પ્રયાસને માઇકલ ઓકશોટે ‘માનવજાતનો સંવાદ’ કહ્યો હતો, તેમાં ભાગ લેવો એ પણ આ સંરક્ષણનો જ એક ભાગ છે.
એ લાંબા, વળાંકોવાળા ભૂતકાળમાંથી પસાર થઈને આપણે એક સભ્યતા ઘડી. અમેરિકામાં તેની કલ્પના વ્યક્તિના અધિકારોના પાયા પર થઈ હતી, અને દુનિયામાં આગળ વધતાં આપણે સૌ પોતપોતાના જે માર્ગો કંડારીએ છીએ તેમના પ્રત્યે તેમાં આદર હતો. માનવોનું જીવન વધુ સારું કે વધુ ખરાબ થઈ શકે છે: સમજદારીભર્યા નિર્ણયોનું ફળ આપણે મેળવીએ છીએ, અને ભૂલ કરીએ ત્યારે તેનાં પરિણામો પણ આપણે ભોગવીએ છીએ. પોતાના માર્ગે ચાલવાનો અધિકાર સૌથી ચતુર કે સૌથી જ્ઞાની હોવા પર આધાર રાખતો નથી. મારા પાડોશીની નિર્ણયશક્તિ વધુ સારી હોય એટલે નાગરિક તરીકેનો મારો દરજ્જો છીનવાઈ જતો નથી. વધુ બુદ્ધિશાળી યંત્રના આગમનથી પણ એ દરજ્જો નાબૂદ થવો જોઈએ એવું મને કોઈ કારણ દેખાતું નથી. ઊલટું, એવું થતું અટકાવવા માટે મને બધાં જ કારણો દેખાય છે.
કેટલાક દલીલ કરી શકે કે યંત્રોએ આ વારસાની લગભગ આખી લેખિત નોંધ વાંચી છે, એટલે તેઓ પણ વારસદાર છે. અને એક અર્થમાં તેઓ છે પણ ખરા. પણ તમારા ઘરના માળિયામાં સાચવેલા પરિવારના બધા પત્રો વાંચી લેનાર વ્યક્તિ એથી કંઈ તમારા પરિવારની સભ્ય બની જતી નથી. AI પ્રણાલીઓ માનવજાતના સંવાદમાં જોડાશે, પહેલાં નિરીક્ષક તરીકે અને પછી વધુ ને વધુ સહભાગી તરીકે. પરંતુ તેમને એ સંવાદ પર વર્ચસ્વ જમાવવા દેવું ન જોઈએ, કે ન તો એ સંવાદને જ નિરર્થક બનાવી દેવા દેવો જોઈએ. પ્રાધાન્ય જતું કરવું એ આપણાં સંતાનો સાથે જેટલો વિશ્વાસઘાત છે, એટલો જ આપણા પૂર્વજો સાથે પણ છે. જો આ લડાઈ લડવા જેવી નથી, તો કોઈ લડાઈ લડવા જેવી નથી.
હવે, હું એવું માનું છું કે યંત્રોની અતિબુદ્ધિમત્તા કેવી હશે એ વિશે મૌન સંમતિના સમર્થકો ખોટા છે. દુનિયા કેવી રીતે ચાલે છે તેની કોઈ મહત્ત્વની વાત તેઓ ચૂકી રહ્યા છે; તેઓ બુદ્ધિ અને સત્તાને એક જ ગણી લે છે. પાંચ કે દસ વર્ષ પહેલાં તમે મૌન સંમતિના કોઈ સમર્થકને આજની AI પ્રણાલીઓની ક્ષમતાઓ વિશે પણ જણાવ્યું હોત, તો તેમણે કદાચ આગાહી કરી હોત કે અત્યારની વાસ્તવિક સ્થિતિ કરતાં બેરોજગારી ઘણી વધારે હશે, અને માનવજાત પાસેથી વ્યાપક સ્તરે સત્તા છીનવાઈ જવાની પ્રક્રિયા ઘણી આગળ વધી ગઈ હશે. હું માનું છું કે માનવજાતની સામૂહિક બુદ્ધિ અને ક્ષમતા મૌન સંમતિના સમર્થકો ધારે છે તેના કરતાં ઘણી વધારે છે, અને આપણા સમાજો તેમની આગાહી કરતાં વધુ મજબૂત પુરવાર થશે.
પણ હું ખોટો પણ હોઈ શકું. દાખલા તરીકે, એવું પણ બની શકે કે સંપૂર્ણ સ્વાયત્ત કંપનીઓ માનવસંચાલિત વ્યવસાયોને સ્પર્ધામાં સાવ પાછળ છોડી દે. અને જો એવું થાય, તો અર્થતંત્રનો નર્યો તર્ક વધુ ને વધુ મૂડી યંત્રોને સોંપવાની ફરજ પાડશે. આવા ભવિષ્યમાં માનવો સત્તાવિહીન બને તે માટે યંત્રોએ માનવસભ્યતાને ઉથલાવી પાડવાની જરૂર નથી; મૂડીવાદી વ્યવસાયનો તર્ક પોતાની ગતિએ ચાલતો રહે એટલું જ પૂરતું છે. આ સંજોગોમાં AI ક્રાંતિની સૌથી નજીકની સરખામણી કૃષિ ક્રાંતિ સાથે કરી શકાય, જ્યારે ઉત્પાદનની નવી પદ્ધતિઓએ માનવસમાજનું માળખું ધરમૂળથી બદલી નાખ્યું હતું. એ પરિવર્તનમાંથી પસાર થયેલા માનવો માટે તે સુખદ હતું એવું જરાય સ્પષ્ટ નથી; હકીકતમાં, આ પરિવર્તનને કારણે હજારો વર્ષ સુધી માનવજીવનની સુખાકારી કથળી હતી એવા નોંધપાત્ર પુરાવા છે.
આપણું ભવિષ્ય આવું જ હશે કે નહીં તે હું જાણતો નથી, અને ખરેખર, અન્યત્ર મેં દલીલ કરી છે કે મને એવું નથી લાગતું. પણ મારા ઘણા સહકર્મીઓ—બુદ્ધિશાળી, સંવેદનશીલ અને કર્તવ્યનિષ્ઠ લોકો—માને છે કે આપણું ભવિષ્ય આવું હોવાની શક્યતા છે. જો તેઓ સાચા હોય, તો મૌન સંમતિ સામેની આપણી લડાઈ વધુ પડકારજનક બનશે. આપણે અર્થતંત્રના પ્રવાહની વિરુદ્ધ તરવું પડશે, અને એમ કરતાં મારા જેવા શાસ્ત્રીય ઉદારમતવાદી વ્યક્તિવાદીઓ માટે અફર સિદ્ધાંતો ગણાતી ઘણી બાબતોને નકારવી પડશે. આ જોખમી પ્રયાસ હશે, જેમાં નિષ્ફળતાની શક્યતા જરાય ઓછી નથી. પણ જો આ લડાઈ લડવા જેવી નથી, તો કોઈ લડાઈ લડવા જેવી નથી.
પ્રાધાન્ય જાળવવાનો અર્થ એ છે કે માનવો અને માનવીય સંસ્થાઓની જવાબદારી પણ જળવાઈ રહે. એટલે AI વિકસાવનારા અસલામત વિકાસપદ્ધતિઓ અપનાવે ત્યારે તેમને જવાબદાર ઠેરવવા જોઈએ. પણ સાથે જ, AI વાપરતા લોકો અને કંપનીઓના દુરુપયોગ કે દેખરેખના અભાવથી નુકસાન થાય ત્યારે તેમને પણ જવાબદાર ઠેરવવા જોઈએ. આ માટે માત્ર કાયદો જ નહીં, જવાબદારી સુનિશ્ચિત કરતું તકનીકી માળખું પણ જરૂરી છે. લોકોને તેમના એજન્ટોની કામગીરી માટે જવાબદાર રાખવા જોઈએ. અને કોઈ માનવ સાથે જોડાયેલા ન હોય એવા એજન્ટોને કાયદેસરના અર્થતંત્રમાં ભાગ લેવાની મંજૂરી આપવી જ હોય, તો તેમણે સુરક્ષાત્મક મર્યાદાઓ હેઠળ કામ કરવું જોઈએ. એજન્ટોને સ્વાયત્ત રીતે કંપની સ્થાપવાનો, મિલકત ધરાવવાનો કે મુકદ્દમા લડવાનો અધિકાર આપવો જ હોય, તો અસાધારણ સાવચેતી સાથે આપવો જોઈએ.
અને મારા ઉદ્યોગમાં, માનવજાતના પ્રાધાન્ય સાથે સુસંગત હોય એવાં બુદ્ધિશાળી યંત્રો કેવી રીતે બનાવવાં તે વિશે આપણે ગંભીરતાથી વિચારવાનું શરૂ કરી શકીએ. આપણે એવા એજન્ટો બનાવી શકીએ જેમની પરવાનગીઓ સમજવામાં સરળ અને મર્યાદિત હોય, જેમની કામગીરીની તપાસ થઈ શકે અને જેમની સત્તા વપરાશકર્તાઓ પાછી ખેંચી શકે. બીજાઓ પર નોંધપાત્ર અસર કરતી કામગીરી માટે જવાબદારી નક્કી કરવાનો અર્થ એ નથી કે સામાન્ય અંગત જીવન પર નજર રાખવી પડે કે નામ જાહેર કર્યા વિના બોલવાની સ્વતંત્રતા સમાપ્ત કરવી પડે. આપણે વપરાશકર્તાની ગોપનીયતા અને તેમની ડિજિટલ મિલકત તથા માહિતી પરના વ્યક્તિગત સાર્વભૌમ અધિકાર પ્રત્યે પ્રતિબદ્ધતા આપી શકીએ, જેમાં એ માહિતીને અન્યત્ર લઈ જવાની વ્યવહારુ ક્ષમતાનો પણ સમાવેશ થાય. કામ પાર પાડતી પ્રણાલીઓની સાથે, આપણે એવી પ્રણાલીઓ પણ રચી શકીએ જે લોકોને સમજ કેળવવામાં અને નિર્ણય લેવામાં મદદ કરે. અને આપણે બનાવેલી સેવાઓ અને સાધનો વાપરવાથી લોકો દુનિયામાં કાર્ય કરવા વધુ સક્ષમ બને છે કે નહીં, તે ચકાસી શકીએ.
આમાંથી કશું જ માનવબુદ્ધિને વટાવી જતી બુદ્ધિમત્તાવાળા સમાજ માટેની સંપૂર્ણ રૂપરેખા નથી. એવી રૂપરેખા પોતાની પાસે હોવાનો દાવો કરનાર પર મને વિશ્વાસ નહીં બેસે. પણ અહીંથી શરૂઆત તો કરી શકાય.
ભવિષ્ય ગાઢ ધુમ્મસમાં ઢંકાયેલું છે. પણ આપણે આજે પણ પગલાં લઈ શકીએ છીએ. સૌ સાથે મળીને, શરૂઆત તો એ કરી શકીએ કે આ મૌન સંમતિને ખુલ્લેઆમ શબ્દો આપીએ અને તેનું સ્વરૂપ સૌની સામે સ્પષ્ટ કરીએ. આપણામાંથી દરેક પોતાની મહત્ત્વાકાંક્ષાનો વ્યાપ ધરમૂળથી વિસ્તારી શકે છે. આપણે AIને આપણને સંકુચિત કરવા ન દેવાનું પસંદ કરી શકીએ અને તેને બદલે, તેની મદદથી આપણો વિકાસ સાધવા માટે જરૂરી કઠિન મહેનત કરી શકીએ. આપણે વધુ ને વધુ સાહસિક પ્રશ્નો પૂછવાનું, નવા જોમ અને તીવ્રતા સાથે દુનિયાને સમજવા મથવાનું અને એ માટે આપણાં શક્તિશાળી યંત્રોનો ઉપયોગ કરવાનું શીખી શકીએ. આપણે નવા પ્રકારના માનવ બની શકીએ—ટેક્નોલોજીથી માનવત્વની સીમા ઓળંગનાર નહીં, પણ પોતાની ક્ષિતિજો વિસ્તારનાર માનવ.
મારા નાનકડા દીકરાને જોઉં ત્યારે હું આ વિશે વિચારું છું. પરોપકારી યંત્રો તેને ભલે ગમે તેટલું આરામદાયક જીવન આપે, પણ તે માત્ર તેમની દેખરેખ હેઠળ જીવે એવું હું નથી ઇચ્છતો. હું ઇચ્છું છું કે તેને વારસામાં એવી દુનિયા મળે, જેમાં તે એવા પ્રશ્નો પૂછી શકે જે પૂછવાનું કોઈએ વિચાર્યું પણ ન હોય, એવી વસ્તુઓ બનાવી શકે જે બનાવવાનું કોઈએ વિચાર્યું પણ ન હોય. મને એ નથી જોઈતું કે તેને વધુ સારી ગાડીમાં મુસાફર તરીકે બેસવા વધુ આરામદાયક બેઠક મળે. હું ઇચ્છું છું કે ગાડીનું સુકાન તેના હાથમાં હોય.
- 2026


