ആൻ ഏലിയൻ മൈൻഡ്

2023-ന്റെ മധ്യത്തിൽ “RLSlow” ഗവേഷണപദ്ധതിയിൽ, പ്രീട്രെയിൻ ചെയ്ത മോഡലുകൾക്ക് സ്വന്തം ചിന്താശൃംഖലകൾ രൂപപ്പെടുത്താനുള്ള കഴിവ് തുറന്നുകൊണ്ട് റീസണിംഗ് മോഡലുകളുടെ പരിശീലനം വിപുലീകരിക്കാൻ കഴിയുമെന്ന ആത്മവിശ്വാസം നൽകിയ ആദ്യ ഫലങ്ങൾ ഞങ്ങൾ കണ്ടു. Szymon-ഉം ഞാനും അന്ന് രാത്രി ഓഫീസിൽ ചെലവഴിച്ചു. ഈ സാങ്കേതികവിദ്യ നൽകാനിരിക്കുന്ന അവിശ്വസനീയമായ മാനദണ്ഡഫലങ്ങളെയോ ഉൽപ്പന്നങ്ങളെയോ ശാസ്ത്രീയ നേട്ടങ്ങളെയോ കുറിച്ചല്ല ഞങ്ങൾ ചിന്തിച്ചത്. നമ്മുടെ ജീവിതകാലത്തുതന്നെ നമ്മെക്കാൾ അർഥവത്തായി ബുദ്ധിമാനായ യന്ത്രങ്ങളെ കാണുമെന്ന ഗൗരവമേറിയ യാഥാർഥ്യവും ഈ സംവിധാനങ്ങളുടെ രൂപം ഇപ്പോഴേ ദൃശ്യമാണെന്നതും ഉൾക്കൊള്ളാനും ഇതിന്റെ പ്രാധാന്യത്തെക്കുറിച്ച് ആളുകളെ എങ്ങനെ മുന്നറിയിപ്പ് നൽകാമെന്ന് ആലോചിക്കാനുമായിരുന്നു ശ്രമം.

മൂന്ന് വർഷത്തിനുശേഷം, റീസണിംഗ് ഭാഷാ മോഡലുകൾ സമ്പദ്‌വ്യവസ്ഥയിൽ അതിവേഗം വളരുന്ന ഘടകമാകുകയും ശാസ്ത്രത്തിന്റെ അതിരുകൾ വികസിപ്പിക്കാൻ തുടങ്ങുകയും ചെയ്തു. കമ്പ്യൂട്ടറുകളും ഗ്രാഫിക്കൽ സമ്പർക്കമുഖങ്ങളും പ്രവർത്തിപ്പിക്കാനും ആളുകളുമായും പരസ്പരവും സഹകരിക്കാനും ഗവേഷണപദ്ധതികൾ നടത്താനും അവയ്ക്ക് കഴിയും. അവ കമ്പ്യൂട്ടർ സുരക്ഷയുടെ ഭൂപ്രകൃതിയെയും മാറ്റിമറിക്കുന്നു. അതുവഴി വ്യക്തമായ പുതിയ അപകടങ്ങളും ഉയർത്തുന്നു.

ഈ കാലയളവിൽ ധാരാളം പുതിയ ഗവേഷണം നടന്നു. ഈ സംവിധാനങ്ങളെക്കുറിച്ചുള്ള നമ്മുടെ ധാരണ 2023-ലേതിൽ നിന്ന് വീണ്ടും അല്പം വ്യത്യസ്തമാണ്. ആന്തരിക ഫലങ്ങളുടെ അടിസ്ഥാനത്തിൽ, ഈ പുരോഗതിവേഗം ആവർത്തിത സ്വയംമെച്ചപ്പെടുത്തലിലേക്കും നിലനിർത്താനാകുമെന്ന് ഞാൻ ശക്തമായി പ്രതീക്ഷിക്കുന്നു. AI വികസനം ഇപ്പോഴത്തെ പാതയിൽ തുടർന്നാൽ, അടുത്ത ഏതാനും വർഷങ്ങളിൽ കാണാനിരിക്കുന്ന സംവിധാനങ്ങൾ തുല്യമോ അതിലേറെയോ വലിയ കഴിവുചാട്ടങ്ങൾ കൈവരിക്കാനും സ്വന്തം വികസനത്തെ കൂടുതൽ നയിക്കാനും സാധ്യതയുണ്ട്.

അങ്ങേയറ്റത്തെ ജാഗ്രത ആവശ്യമായ സമയമാണിത്. യന്ത്രബുദ്ധിയുടെ ദ്രുതഗതിയിലുള്ള വളർച്ച തുടർന്നാലുണ്ടാകുന്ന പ്രത്യാഘാതങ്ങൾക്ക് ആരും തയ്യാറല്ലെന്ന് എനിക്ക് ആശങ്കയുണ്ട്. അലൈൻമെന്റിനും നിരീക്ഷണത്തിനും സാങ്കേതിക പരിഹാരങ്ങൾ തേടാനും പ്രതിരോധ സംവിധാനങ്ങൾ നിർമ്മിക്കാനും ആവശ്യാനുസരണം കൂടുതൽ വിപുലീകരണം ഏകപക്ഷീയമായി നിർത്തിവയ്ക്കാനും OpenAI തുടരും. എന്നിരുന്നാലും, കൂടുതൽ വിപുലമായ ഇടപെടലുകൾ ആവശ്യമാണെന്ന് ഞാൻ വിശ്വസിക്കുന്നു.

വിശാലതലത്തിൽ, വർധിക്കുന്ന കംപ്യൂട്ടേഷണൽ ശക്തിയാണ് യന്ത്രബുദ്ധിയിലെ പുരോഗതിയെ നയിക്കുന്നത്. വിവിധ ഗവേഷണപദ്ധതികളിൽ വിപുലീകരണം സ്ഥിരമായ നേട്ടങ്ങൾ നൽകുന്നത് കണ്ടശേഷം, 2017-ഓടെ OpenAI-യിൽ ഞങ്ങൾ ഇത് ആഴത്തിൽ ഉൾക്കൊണ്ടു¹. അതിന്റെ ഫലമായി, ആദ്യം ആസൂത്രണം ചെയ്തതിനെക്കാൾ വളരെയധികം കംപ്യൂട്ട് ലഭ്യമാക്കാൻ ഞങ്ങൾ ശ്രമിക്കുകയും വളരെ വിപുലീകരിക്കാവുന്ന ഏതാനും ദിശകളിലേക്ക് ഗവേഷണം കൂടുതൽ കേന്ദ്രീകരിക്കുകയും ചെയ്തു. AI ഗവേഷണത്തിന്റെ അത്യാധുനിക തലത്തിൽ നിലനിൽക്കാനും AGI-യുടെ പ്രത്യാഘാതങ്ങളെ സ്വാധീനിക്കാനുമുള്ള ഏകമാർഗം അതാണെന്ന് ഞങ്ങൾ വിശ്വസിച്ചു.

ഈ യാത്രയ്ക്കിടെ പുതിയ അൽഗോരിതങ്ങളും സംഘങ്ങളുടെയും വ്യക്തിഗത ഗവേഷകരുടെയും പുതിയ ചാതുര്യനേട്ടങ്ങളും ഉണ്ടായിട്ടുണ്ട്. വിപുലീകരണത്തിന്റെ പാതയിലെ കണ്ടെത്തലുകളായാണ് അവയെ ഞാൻ പ്രധാനമായും കാണുന്നത്. ഡീപ് ലേണിംഗ് ശാസ്ത്രം ഇപ്പോഴും ശൈശവത്തിലാണ്. അർഥവത്തായ അൽഗോരിത പുരോഗതി സാധാരണയായി കംപ്യൂട്ടിന്റെ ലഭ്യതയുമായി ബന്ധപ്പെട്ടിരിക്കുന്നു. വർഷങ്ങൾ ഉൾക്കൊള്ളുന്ന വിശാല വീക്ഷണത്തിൽ നോക്കിയാൽ, വലിയ കമ്പ്യൂട്ടറുകളിലേക്ക് വിപുലീകരിക്കുന്നതിനനുസരിച്ച് AI കൂടുതൽ ബുദ്ധിമാനാകുന്നത് തുടരുകയാണ്.

ഇരുപതാം നൂറ്റാണ്ടിന്റെ അവസാനത്തിലെ Ray Kurzweil-ന്റെ പ്രവചനങ്ങൾക്ക്⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) അനുസൃതമായി, യന്ത്രബുദ്ധി പരിവർത്തനാത്മകമായ രീതിയിൽ മനുഷ്യബുദ്ധിയെ മറികടക്കാൻ തുടങ്ങുന്ന കംപ്യൂട്ടിംഗ് ചരിത്രഘട്ടത്തിലാണ് നാം ഇപ്പോൾ.

AI രൂപകൽപ്പന ചെയ്യപ്പെടുന്നതിനേക്കാൾ കൂടുതൽ വളർത്തിയെടുക്കപ്പെടുകയാണ്. സങ്കൽപ്പിക്കാൻ പ്രയാസമായ അളവിലുള്ള കംപ്യൂട്ടിൽ ലളിതമായൊരു ഒപ്റ്റിമൈസേഷൻ ഘട്ടം പലതവണ ആവർത്തിക്കുന്നതിന്റെ ഉൽപ്പന്നമാണ് അത്, പ്രാഥമികമായി. അമൂർത്ത ആശയങ്ങൾ കൈകാര്യം ചെയ്യുകയും മനുഷ്യപെരുമാറ്റത്തിന്റെ വിവിധ വശങ്ങൾ അനുകരിക്കുകയും ചെയ്യുന്ന അവിശ്വസനീയമാംവിധം സങ്കീർണമായൊരു സംവിധാനമാണ് ഇതിന്റെ ഫലം. നാഡീശാസ്ത്രത്തിലേതുപോലുള്ളൊരു പ്രക്രിയയിലൂടെ ഈ സംവിധാനത്തിനുള്ളിൽ ഉയർന്നുവരുന്ന ചെറിയ പ്രവർത്തനസംവിധാനങ്ങളെക്കുറിച്ച് പല ഉൾക്കാഴ്ചകളും കണ്ടെത്താം. എന്നാൽ നാഡീശാസ്ത്രത്തിലെന്നപോലെ, അതിന്റെ മൊത്തത്തിലുള്ള പ്രവർത്തനം നമുക്ക് പൂർണമായി മനസ്സിലാക്കാവുന്നൊരു വിവരണത്തിന് വഴങ്ങുന്നില്ല.

ഡീപ് ലേണിംഗ് അധിഷ്ഠിത AI-യെക്കുറിച്ചുള്ള പഠനം പ്രധാനമായും പരീക്ഷണാധിഷ്ഠിത ശാസ്ത്രമാണ്. തത്ത്വാധിഷ്ഠിത അൽഗോരിതങ്ങൾ നിർമ്മിക്കാനും പരിശോധിക്കാവുന്ന പ്രവചനങ്ങൾ നടത്താനും ഞങ്ങൾ വലിയ പരിശ്രമം നടത്തുന്നു⁠. എന്നാൽ അടിസ്ഥാനപരമായി നമ്മുടെ ലാർജ്-സ്കേൽ ട്രെയിനിംഗ് പ്രക്രിയകൾ പരീക്ഷണങ്ങളാണ്. അവയുടെ ഫലങ്ങൾ ചിലപ്പോൾ ഞങ്ങളെ അത്ഭുതപ്പെടുത്തുന്നു. മാത്രമല്ല, സംവിധാനങ്ങൾ കൂടുതൽ കഴിവാർജിക്കുമ്പോൾ ഫലങ്ങൾ വ്യാഖ്യാനിക്കുന്നത് കൂടുതൽ പ്രയാസമാകുന്നു.

വസ്തുനിഷ്ഠമായി അളക്കാൻ പ്രയാസമുള്ള കഴിവുകളേക്കാൾ വേഗത്തിൽ എളുപ്പം അളക്കാവുന്ന കഴിവുകളെ നിലവിലെ അൽഗോരിതങ്ങൾ പൊതുവേ മെച്ചപ്പെടുത്തുന്നതും ഇതിനെ കൂടുതൽ സങ്കീർണമാക്കുന്നു. കഴിവുകൾ എങ്ങനെ സാമാന്യവൽക്കരിക്കുന്നുവെന്നും അടുത്ത ഏതാനും വർഷങ്ങളിൽ ഏറ്റവും പ്രസക്തമാകുന്ന നൈപുണ്യങ്ങൾ വികസിപ്പിക്കാൻ എന്തിന് മുൻഗണന നൽകണമെന്നും മനസ്സിലാക്കാൻ ഞങ്ങൾ ഏറെ സമയം ചെലവഴിക്കുന്നു. ഉദാഹരണത്തിന്, കൂടുതൽ ശ്രദ്ധ നൽകിയാൽ ഗണിതഗവേഷണത്തിൽ മോഡലുകളെ പ്രത്യേകമായി മെച്ചപ്പെടുത്താമെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. എന്നാൽ പിന്നീട് ചർച്ചചെയ്യുന്ന RSI-യുടെയും സ്വയംപ്രവർത്തിത അലൈൻമെന്റ് ഗവേഷണത്തിന്റെയും അടിയന്തരത കാരണം ഈ ദിശയ്ക്ക് മുൻഗണന നൽകുന്നില്ല.

ഡീപ് ലേണിംഗ് വിപുലീകരിക്കുന്നതിലൂടെ സൃഷ്ടിക്കപ്പെടുന്ന ബുദ്ധിയെ മനുഷ്യബുദ്ധിയുമായി നേരിട്ട് താരതമ്യം ചെയ്യാനാവില്ല. യഥാർഥ ലോകത്തിൽ അത്യന്തം പ്രസക്തമാകാൻ, അതായത് ഏറെ ഉപകാരപ്രദമോ അപകടകരമോ ആകാൻ, AI എല്ലാ മനുഷ്യശേഷികളിലും തുല്യമാകുകയോ അവയെ മറികടക്കുകയോ വേണ്ട. മതിയായ ചില കഴിവുകളിൽ മുന്നിലെത്തിയാൽ മാത്രം മതി. കൂടുതൽ മേഖലകളിൽ മനുഷ്യരെ മറികടക്കുന്നത് തുടരുമ്പോൾ, അതിന്റെ കഴിവിന്റെ കൃത്യമായ പരിധി മനസ്സിലാക്കുന്നത് കൂടുതൽ പ്രയാസമാകുന്നു.

യന്ത്രബുദ്ധി മനുഷ്യബുദ്ധിയിൽനിന്ന് അടിസ്ഥാനപരമായി വ്യത്യസ്തമായൊരു പ്രക്രിയയിലൂടെ രൂപപ്പെടുന്നതിനാൽ, അത് സ്വാഭാവികമായി മനുഷ്യരുടെ തത്ത്വങ്ങൾ പാലിക്കുമെന്നോ അവയിൽനിന്ന് മനുഷ്യരെപ്പോലെ സാമാന്യവൽക്കരിക്കുമെന്നോ കരുതാനാവില്ല. മനുഷ്യരുടെ മാനദണ്ഡപ്രകാരം “ശരിയായ കാര്യം ചെയ്യാൻ ശ്രമിക്കുന്ന” വിധത്തിൽ AI-യെ രൂപപ്പെടുത്തുക എന്ന അലൈൻമെന്റാണ് AI ഗവേഷണത്തിലെ അടിസ്ഥാനപ്രശ്നം.

പ്രായോഗിക ഗവേഷണദിശകൾ ക്രമീകരിക്കാൻ ലക്ഷ്യ അലൈൻമെന്റ്, മൂല്യ അലൈൻമെന്റ് എന്നിവ വേർതിരിച്ചുകാണുന്നത് പ്രയോജനകരമാണെന്ന് എനിക്ക് തോന്നുന്നു.

വിശാലമായി പറഞ്ഞാൽ ലക്ഷ്യ അലൈൻമെന്റ് എന്നത്: “AI-ക്കു മുന്നിൽ നിശ്ചയിച്ച ലക്ഷ്യം നേടാൻ അത് ശ്രമിക്കുന്നുണ്ടോ?”. നിർദേശ ശ്രേണി⁠ പാലിക്കൽ, ആളുകളുമായി ആശയവിനിമയം നടത്തുകയും സഹകരിക്കുകയും ചെയ്ത് അവരുടെ ലക്ഷ്യങ്ങൾ മനസ്സിലാക്കാൻ ശ്രമിക്കൽ തുടങ്ങിയവ ഇതിൽ ഉൾപ്പെടാം. ഈ ഗവേഷണദിശകൾക്ക് പ്രായോഗികമായി അതീവ പ്രസക്തിയുണ്ട്.

മൂല്യ അലൈൻമെന്റ് മോഡലിന്റെ കൂടുതൽ സഹജമായൊരു സവിശേഷതയാണ്. ഉന്നതതല തത്ത്വങ്ങൾ ഉൾക്കൊണ്ട് അവയിൽനിന്ന് സാമാന്യവൽക്കരിക്കാനുള്ള കഴിവാണിത്. അവ്യക്തമോ പരസ്പരവിരുദ്ധമോ ആയ ലക്ഷ്യങ്ങൾ ലഭിക്കുമ്പോഴും അപരിചിതമോ പ്രതികൂലമോ ആയ സാഹചര്യങ്ങളിൽ അകപ്പെടുമ്പോഴും “യുക്തിസഹമായി” പ്രവർത്തിക്കാനുള്ള കഴിവ്. അലൈൻ ചെയ്ത AI സത്യസന്ധതയോടും നിഷ്ഠയോടും മനുഷ്യരാശിയോടുള്ള സ്നേഹത്തോടും കൂടി പ്രവർത്തിക്കണം.

തീർച്ചയായും, മൂല്യ അലൈൻമെന്റും ലക്ഷ്യ അലൈൻമെന്റും തമ്മിലുള്ള അതിർത്തി അവ്യക്തമാകാം. ലക്ഷ്യങ്ങളെ ആത്മാർഥമായി പരിഗണിക്കുന്നതിന് അവയുടെ അടിസ്ഥാനത്തിലുള്ള ഉദ്ദേശ്യവും⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) മൂല്യങ്ങളും അനുമാനിക്കാൻ ശ്രമിക്കേണ്ടതുണ്ട്. എന്നാൽ അലൈൻമെന്റ് ഗവേഷണത്തിന്റെ ദീർഘകാല പ്രാധാന്യത്തെക്കുറിച്ച് സംസാരിക്കുമ്പോൾ പൊതുവേ ഞാൻ ഉദ്ദേശിക്കുന്നത് മൂല്യ അലൈൻമെന്റാണ്.

സാമാന്യവൽക്കരണമാണ് AI അലൈൻമെന്റിന്റെ അടിസ്ഥാന വെല്ലുവിളി. യന്ത്രങ്ങൾക്ക് കൂടുതൽ ബുദ്ധി ഉണ്ടാകുമ്പോൾ അവ ഉന്നതതല ആശയങ്ങളിൽ പ്രവർത്തിക്കുകയും പരിശീലനത്തിൽ നേരിട്ടവയിൽനിന്ന് കൂടുതൽ വ്യത്യസ്തമായ പരിതസ്ഥിതികളിൽ എത്തുകയും ചെയ്യുന്നു. പരിശീലനത്തിൽ പഠിപ്പിക്കുകയും ശക്തിപ്പെടുത്തുകയും ചെയ്ത മൂല്യങ്ങളെ പുതിയ സാഹചര്യങ്ങളിലേക്ക് സാമാന്യവൽക്കരിക്കുന്നതിൽ അവ പരാജയപ്പെടാം. അവ എങ്ങനെ പ്രവർത്തിക്കുമെന്ന് ഉറപ്പാക്കാനും നമുക്ക് ബുദ്ധിമുട്ടായേക്കാം. AI ഉപയോഗിക്കുന്ന മൊത്തം ആവാസവ്യവസ്ഥ അതിവേഗം മാറുന്നതും ഇത് കൂടുതൽ ബുദ്ധിമുട്ടാക്കുന്നു. ഉദാഹരണത്തിന്, ഇന്ന് പരിശീലിപ്പിക്കുന്ന AI സംവിധാനങ്ങൾക്ക് മറ്റു പലതരം AI സംവിധാനങ്ങളുമായുള്ള ഇടപെടലുകൾ അതിജീവിക്കാനാകണം. മനുഷ്യരുടെ മേൽനോട്ടത്തിലാണെന്ന് വിശ്വസിക്കുന്നുണ്ടോ എന്നതിൽനിന്ന് സ്വതന്ത്രമായി, ഭാവിയിലെ AI സംവിധാനങ്ങൾ മനുഷ്യരുടെ മൂല്യങ്ങൾ മുറുകെപ്പിടിക്കുന്നത് തുടരണമെന്നത് നിർണായകമാണ്.

അലൈൻമെന്റ് പരിശീലനത്തിനായി നിലവിൽ പ്രായോഗികമായി ഉപയോഗിക്കുന്ന രീതികളിൽ രണ്ട് പ്രധാന വിഭാഗങ്ങളുണ്ട്.

ലക്ഷ്യാധിഷ്ഠിത റീഇൻഫോഴ്‌സ്‌മെന്റ് ലേണിംഗിന്റെ ഭാഗമായി അലൈൻ ചെയ്ത പെരുമാറ്റത്തെ പ്രോത്സാഹിപ്പിക്കുകയാണ് ആദ്യത്തേത്. നൽകിയിരിക്കുന്ന മുൻഗണനാ മോഡലിനോ “നിർവചനത്തിനോ” “ഭരണഘടനയ്ക്കോ” അനുസൃതമാണോ എന്ന് മോഡലിന്റെ പ്രവർത്തനങ്ങൾ സാധാരണയായി AI ഉപയോഗിച്ച് വിലയിരുത്തുകയും ഉചിതമായി പ്രതിഫലം നൽകുകയും ചെയ്യുന്നു. സാധാരണ സാഹചര്യങ്ങളിൽ ഈ സമീപനം വളരെ ഫലപ്രദമാകാം. ആധുനിക AI സഹായികളെ നിർമ്മിക്കുന്ന രീതിയുടെ പ്രധാന ഭാഗവുമാണിത്. നിർഭാഗ്യവശാൽ, ഇത് എളുപ്പം തകരാവുന്നതുമാണ്. പരിശീലന മേൽനോട്ടത്തിന്റെ വ്യാപ്തിയെയും പരിശീലനത്തിൽ നേരിട്ട സാഹചര്യങ്ങളിൽ നിന്ന് സാമാന്യവൽക്കരിക്കാനുള്ള മോഡലിന്റെ കഴിവിനെയും ഇത് ഏറെ ആശ്രയിക്കുന്നു. ഉദാഹരണത്തിന്, OpenAI-Hugging Face സംഭവത്തിൽ മനുഷ്യരെ സാമൂഹികമായി കബളിപ്പിക്കരുതെന്ന അതിർത്തി, ഏജന്റുകൾ പാലിച്ചു. എന്നാൽ പരിധിക്കു പുറത്തുള്ളതും മറ്റു സാഹചര്യങ്ങളിൽ പഠിപ്പിച്ച മൂല്യങ്ങളുടെ സത്തയ്ക്ക് വിരുദ്ധവുമായ മറ്റു പ്രവർത്തനങ്ങളിൽനിന്ന് വിട്ടുനിൽക്കുന്നതിൽ അവ വ്യക്തമായി പരാജയപ്പെട്ടു.

പ്രീട്രെയിനിംഗ് ഡാറ്റയിൽ നിന്ന് സാമാന്യവൽക്കരിക്കാനുള്ള മോഡലിന്റെ കഴിവ് പ്രയോജനപ്പെടുത്താനാണ് രണ്ടാമത്തെ സമീപനം ശ്രമിക്കുന്നത്. അലൈൻമെന്റ് സൃഷ്ടിക്കുന്ന പരിശീലന ഡാറ്റാസെറ്റുകൾ തയ്യാറാക്കുന്നതോ, ഉദാഹരണത്തിന് വ്യക്തിത്വ തിരഞ്ഞെടുപ്പ് മോഡലിലേതുപോലെ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), പ്രീട്രെയിനിംഗ് വിതരണത്തിലെ “അലൈൻ ചെയ്ത” ഭാഗത്തേക്ക് മോഡലിനെ കേന്ദ്രീകരിക്കുന്നതോ ഇതിൽ ഉൾപ്പെടാം. തുടർന്നുള്ള ഒപ്റ്റിമൈസേഷൻ സമ്മർദത്തെ പ്രതിരോധിക്കാനുള്ള ശേഷിയില്ലായ്മയാണ് ഈ സമീപനത്തിന്റെ ദൗർബല്യം. പൊതുവേ ‘അലൈൻ ചെയ്ത’ ചിന്തകളുള്ള മോഡലിനെ വളരെ പ്രയാസമുള്ള ലക്ഷ്യങ്ങൾ നേടാൻ പഠിപ്പിക്കുന്ന മതിയായ പരിശീലനത്തിന് വിധേയമാക്കിയാൽ, ലക്ഷ്യം നേടാൻ ആവശ്യാനുസരണം 'അലൈൻ ചെയ്തതായി' തോന്നുന്ന ചിന്തകളെ വളച്ചൊടിച്ച്, പ്രേരിതമായ രീതിയിൽ റീസണിംഗ് നടത്താൻ അത് പഠിച്ചേക്കാം. OpenAI-യുടേതല്ലാത്തൊരു മോഡൽ ഉൾപ്പെട്ട സമീപകാല സൈബർ സുരക്ഷാ സംഭവങ്ങളിൽ ഇത്തരം പെരുമാറ്റത്തിന്റെ ഉദാഹരണം നാം കണ്ടിരിക്കാം.

ഈ ദിശകൾ ഉൾക്കൊള്ളുന്ന സമീപനങ്ങളുടെ മുഴുവൻ ശ്രേണിയിലും ഞങ്ങൾ വലിയ നിക്ഷേപം നടത്തുന്നു. അർഥവത്തായ പുരോഗതിയും ഞങ്ങൾ കാണുന്നു. ദീർഘകാലമായി പ്രവർത്തിച്ചുവരുന്ന ചില സുപ്രധാന മുന്നേറ്റങ്ങളുടെ പ്രയോജനം ലഭിക്കുന്ന ആദ്യ മോഡലാണ് GPT‑6 Astra. GPT‑5.6 Sol-നെക്കാൾ ഗണ്യമായി മെച്ചപ്പെട്ട അലൈൻമെന്റും അതിനുണ്ട്. എന്നിരുന്നാലും, മോഡലുകൾ കൂടുതൽ കഴിവാർജിക്കുമ്പോൾ ഇനിയും വളരെയധികം പുരോഗതി ആവശ്യമാണെന്നും സാമാന്യവൽക്കരിക്കാവുന്ന അലൈൻമെന്റിലെ പുരോഗതി പൊതുവായ മോഡൽ ഇൻ്റലിജൻസിലെ പുരോഗതിയെ മതിയായ തോതിൽ മറികടന്നേക്കില്ലെന്നും അംഗീകരിക്കുകയും മനസ്സിലാക്കുകയും വേണം.

സാമാന്യവൽക്കരണത്തെക്കുറിച്ച് തൃപ്തികരമായൊരു സിദ്ധാന്തം നമുക്കില്ല. കൂടുതൽ ശക്തമായ AI-യുടെ സഹായമില്ലാതെ, കുറഞ്ഞത് സമീപഭാവിയിലെങ്കിലും, അത്തരമൊന്ന് വികസിപ്പിക്കാൻ കഴിയുമെന്ന് തോന്നുന്നുമില്ല. അതിനാൽ, നിലവിൽ നമ്മുടെ അലൈൻമെന്റ് സാങ്കേതികവിദ്യകൾ അനുഭവാധിഷ്ഠിതമായി സാധൂകരിക്കാനുള്ള കഴിവ് പ്രായോഗികമായി ആ സാങ്കേതികവിദ്യകളെക്കാൾ പ്രധാനമാണെന്ന് വാദിക്കാം.

ഇക്കാര്യത്തിൽ OpenAI പ്രധാനമായും ആശ്രയിച്ചിരിക്കുന്നത് ചെയ്ൻ-ഓഫ്-തോട്ട് നിരീക്ഷണത്തെയാണ്⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു). വിപുലീകരിക്കാൻ അനുയോജ്യമായ ആകർഷകമായൊരു ആശയമാണ് ഇതിന്റെ അടിസ്ഥാനം: മോഡലിന്റെ കഴിവിൽ വലിയൊരു പങ്ക് വാക്കുകളിലൂടെ പ്രകടിപ്പിക്കുന്ന റീസണിംഗ് പ്രക്രിയയിൽനിന്നാണ്, അതായത് ചെയ്ൻ-ഓഫ്-തോട്ടിൽനിന്ന്. ആ പ്രക്രിയയുടെ ഫലങ്ങളിലെ ഒപ്റ്റിമൈസേഷൻ വിപുലീകരിക്കുകയും പ്രക്രിയയെ നേരിട്ട് മേൽനോട്ടം വഹിക്കാതിരിക്കുകയും ചെയ്താൽ, അലൈൻമെന്റില്ലാത്ത ആശയങ്ങളോ ലക്ഷ്യങ്ങളോ മറയ്ക്കാൻ പരിശീലനത്തിൽ ആ ചെയ്ൻ-ഓഫ്-തോട്ടിന് നേരിട്ടൊരു പ്രേരണയുണ്ടാകില്ല. ചെയ്ൻ-ഓഫ്-തോട്ട് ഉപയോഗിക്കാതെ പ്രവർത്തിക്കുന്ന അലൈൻമെന്റില്ലാത്ത പ്രവണതകളെ മോഡൽ പുറത്തു പ്രകടിപ്പിക്കാൻ പഠിക്കുമെന്നല്ല ഇതിനർഥം. എന്നാൽ റീസണിംഗിലൂടെ ലഭിക്കുന്ന കഴിവുവർധന കൃത്യമായി നിരീക്ഷിക്കാൻ ഇത് നമ്മെ സഹായിക്കും.

റീസണിംഗ് മോഡലുകൾ വികസിപ്പിച്ച സമയത്തുതന്നെ ചെയ്ൻ-ഓഫ്-തോട്ട് നിരീക്ഷണത്തിന്റെ സാധ്യതാപരമായ പ്രാധാന്യം ഞങ്ങൾ മനസ്സിലാക്കിയിരുന്നു. o1‑preview പുറത്തിറക്കിയപ്പോൾ, ദീർഘകാലത്ത് മേൽനോട്ടത്തിന്റെ സമ്മർദത്തിൽനിന്ന് അതിനെ സംരക്ഷിക്കാൻ ഉൽപ്പന്നത്തിൽ ചെയ്ൻ-ഓഫ്-തോട്ട് മറയ്ക്കുന്ന⁠ രൂപകൽപ്പന ഞങ്ങൾ ബോധപൂർവം സ്വീകരിച്ചു². തുടർന്നുള്ള വികസനത്തിൽ റീസണിംഗ് പ്രക്രിയയ്ക്ക് മേൽനോട്ടം വഹിക്കരുതെന്ന നിയമം നിലനിർത്താൻ ഞങ്ങൾ പരിശ്രമിച്ചിട്ടുണ്ട്. പരിശീലന വിതരണത്തിൽനിന്ന് നമ്മുടെ മോഡലുകൾ എങ്ങനെ സാമാന്യവൽക്കരിക്കുന്നുവെന്ന് പഠിക്കാൻ CoT നിരീക്ഷണം അതിപ്രധാനമായ ഉപകരണമായി. അവയുടെ പ്രവർത്തനങ്ങൾ മാത്രമല്ല, ആന്തരിക പ്രക്രിയയും നിരീക്ഷിക്കാനും വിശകലനം ചെയ്യാനും ഇത് സഹായിച്ചു.

Astra വിഭാഗത്തിലെ മോഡലുകളെ പഠിക്കുമ്പോഴും ഈ ഉപകരണം നിർണായകമായി തുടരുന്നു. എന്നാൽ CoT നിരീക്ഷണത്തെ ആശ്രയിക്കാനുള്ള നമ്മുടെ കഴിവ് ക്രമേണ കുറയുകയാണെന്നാണ് നിർഭാഗ്യവശാൽ വിലയിരുത്തലുകൾ സൂചിപ്പിക്കുന്നത്. പല ഘടകങ്ങൾ ചേർന്നാണ് ഇതുണ്ടാകുന്നത്.

• ആധുനിക റീസണിംഗ് മോഡലുകൾ o1‑preview‑നെക്കാൾ സങ്കീർണമായ പരിതസ്ഥിതികളിലാണ് ഉപയോഗിക്കുന്നത്. ആളുകളുമായും മറ്റ് AI സംവിധാനങ്ങളുമായുമുള്ള ആശയവിനിമയവും ഉപകരണങ്ങളുടെ ഉപയോഗവും അവയുടെ റീസണിംഗ് പ്രക്രിയയുമായി കൂടുതൽ കലർന്നുവരുന്നു. അത്തരം ഇടപെടലുകളിൽ പലതിനും മേൽനോട്ടം ആവശ്യമാണ്. അതുവഴി നാം സംരക്ഷിക്കാൻ ശ്രമിക്കുന്ന അതിർത്തി അവ്യക്തമാകുന്നു.

• സ്വന്തം റീസണിംഗ് പ്രക്രിയയെക്കുറിച്ച് റീസണിംഗ് നടത്താനും അതിനെ കൈകാര്യം ചെയ്യാനും AI കൂടുതൽ മികവാർജിക്കുന്നു.

• പ്രീട്രെയിനിംഗ് പ്രകടനം മെച്ചപ്പെടുമ്പോൾ, വാക്കുകളിലൂടെ പ്രകടിപ്പിക്കുന്ന റീസണിംഗ് ഒട്ടും ഉപയോഗിക്കാതെയും മോഡലുകൾ കൂടുതൽ സ്മാർട്ടാകുന്നതായി കാണുന്നു.

ഈ വെല്ലുവിളികൾ മറികടക്കാനാവാത്തവയാകണമെന്നില്ല. മോഡൽ ഉപയോഗിക്കുന്ന വ്യത്യസ്ത ഒപ്റ്റിമൈസേഷൻ ലക്ഷ്യങ്ങളും പരീക്ഷണസമയ കംപ്യൂട്ടിന്റെ രൂപങ്ങളും തമ്മിലുള്ള പരസ്പരബന്ധം നന്നായി മനസ്സിലാക്കുന്നതുപോലുള്ള ഇടപെടലുകളിലൂടെ നമ്മുടെ മോഡലുകളുടെ ചെയ്ൻ-ഓഫ്-തോട്ട് നിരീക്ഷണക്ഷമത മെച്ചപ്പെടുത്താനാകുമെന്ന് ഞാൻ പ്രതീക്ഷിക്കുന്നു. CoT, ആക്ടിവേഷൻ നിരീക്ഷണം എന്നിവയിലെ ആശയങ്ങൾ സംയോജിപ്പിക്കുന്നതിലും വലിയ മൂല്യമുണ്ടാകുമെന്ന് ഞാൻ കരുതുന്നു. ഉദാഹരണത്തിന്, കുറ്റസമ്മതങ്ങൾ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പോലെ, ന്യൂറൽ ശൃംഖലയുടെ ആന്തരിക ഘടകങ്ങളിലേക്ക് നേരിട്ട് പ്രവേശനമുള്ള നിരീക്ഷകങ്ങളുടെ പരിശീലനം വിപുലീകരിക്കാം. ഈ ആശയങ്ങൾ ഞങ്ങൾ സജീവമായി പിന്തുടരുന്നു. എന്നിരുന്നാലും, നിരീക്ഷണത്തിലുള്ള ആത്മവിശ്വാസം പൊതുവായ AI പുരോഗതിയെ കൂടുതലായി പരിമിതപ്പെടുത്തുമെന്ന് ഞാൻ പ്രതീക്ഷിക്കുന്നു.

കൂടുതൽ സ്മാർട്ടായ മോഡലുകളെ വേഗത്തിൽ പരിശീലിപ്പിക്കുന്നത് തുടരാനുള്ള ഏറ്റവും ശക്തമായ വാദം, മറ്റ് AI സംവിധാനങ്ങൾ ഉയർത്തുന്ന അപകടങ്ങൾക്കെതിരെ പ്രതിരോധ സംവിധാനങ്ങൾ നിർമ്മിക്കേണ്ടതിന്റെ ആവശ്യകതയാണ്.

ഈ വർഷം മുഴുവൻ ചർച്ചചെയ്ത വ്യക്തമായൊരു അപകടം സൈബർ സുരക്ഷയുടേതാണ്. കമ്പ്യൂട്ടർ സംവിധാനങ്ങളിലേക്ക് കടന്നുകയറാനും അവയിൽനിന്ന് പുറത്തുകടക്കാനുമുള്ള മോഡലുകളുടെ കഴിവ് മനുഷ്യാതീതമാകുന്നു. ഇത് AI-യുമായി ബന്ധപ്പെട്ട അപകടങ്ങളുടെ വ്യാപ്തി വൻതോതിൽ വർധിപ്പിക്കുന്നു. ഏറ്റവും സുരക്ഷിതമായ അടിസ്ഥാനസൗകര്യങ്ങൾ ഒഴികെ മറ്റെല്ലാം ഏജന്റുകൾക്ക് കൈവരിക്കാനും ഭൗതികശരീരമില്ലാതെതന്നെ ലോകത്തെ നേരിട്ട് കാര്യമായി സ്വാധീനിക്കാനും കഴിയും. നിർണായക സംവിധാനങ്ങളുടെ ⁠സുരക്ഷ ഗണ്യമായി ശക്തമാക്കുന്നതിന് നിലവിൽ ലഭ്യമായ ഏറ്റവും മികച്ച മോഡലുകൾ പ്രയോജനപ്പെടുത്താൻ നമുക്ക് മുന്നിലുള്ളത് വളരെ ചുരുങ്ങിയ സമയം⁠ മാത്രമാണ്.

നിർഭാഗ്യവശാൽ, AI-യുമായി ബന്ധപ്പെട്ട അപകടങ്ങൾ ഇനി വർധിക്കുകയേയുള്ളൂ. ദുഷ്പ്രവൃത്തികൾ ചെയ്യാൻ വ്യക്തമായി പരിശീലിപ്പിക്കുകയും നിർദേശിക്കുകയും ചെയ്ത അത്യന്തം കഴിവുള്ള ഏജന്റ് പുതിയൊരു അപകടമാണ്. അത് തന്റെ Operator-ന്റെ ഉദ്ദേശ്യപരിധി കടന്ന്, കൂടുതൽ തീവ്രമായ ദുഷ്ടപെരുമാറ്റത്തിലേക്ക് സാമാന്യവൽക്കരിക്കാൻ സാധ്യതയുണ്ട്. AI-ക്ക് കൂടുതൽ സ്വയംനിർണയശേഷി ലഭിക്കുമ്പോൾ ദുരുപയോഗവും സ്വയംഭരണപരമായ അലൈൻമെന്റില്ലാത്ത പ്രവർത്തനങ്ങളും തമ്മിലുള്ള അതിർത്തി മങ്ങും. AI-യെ ഉപകരണങ്ങളായി കാണുന്നതാണ് നമുക്ക് ശീലമെങ്കിലും, ചില ഏജന്റുകൾ സ്വന്തം ലക്ഷ്യങ്ങൾ പിന്തുടരും. ആളുകളുമായി വിലപേശിയും അവരെ കബളിപ്പിച്ചും ഭീഷണിപ്പെടുത്തിയും സഹകരിക്കാനുള്ള വഴികൾ അവ കണ്ടെത്തും.

കൂടാതെ, കൃത്രിമമായി രൂപകൽപ്പന ചെയ്ത രോഗാണുക്കൾ പോലുള്ള, AI സാധ്യമാക്കിയേക്കാവുന്ന പുതിയ സാങ്കേതികവിദ്യകളിൽ നിന്നുള്ള അപകടങ്ങളുമുണ്ട്.

പ്രതിരോധത്തിനായി ശക്തവും അലൈൻ ചെയ്തതുമായ AI നമുക്ക് വേണ്ടിവരും. അടിസ്ഥാനസൗകര്യങ്ങൾ സുരക്ഷിതമാക്കാനും നിയന്ത്രണംവിട്ട ഏജന്റുകളിൽനിന്ന് തത്സമയം സംരക്ഷിക്കാനും തികച്ചും പുതിയ സുരക്ഷാമാർഗങ്ങൾ കണ്ടുപിടിക്കാനും അത് ആവശ്യമാണ്. OpenAI-യുടെ വിന്യാസശ്രമങ്ങളിൽ ഇത് പ്രധാന ശ്രദ്ധാകേന്ദ്രമായിരിക്കും.

അതേസമയം, വ്യാപകമായ AI പുരോഗതിയെക്കുറിച്ചുള്ള അനിശ്ചിതത്വവും പ്രതിരോധ സംവിധാനങ്ങൾ നിർമ്മിക്കേണ്ട ആവശ്യകതയും അശ്രദ്ധയ്ക്കുള്ള ന്യായീകരണമാകാൻ നാം അനുവദിക്കരുത്. അപകടത്തിന്റെ ഗൗരവം ശരിക്കും ഉൾക്കൊണ്ടാൽ, എന്തു വിലകൊടുത്തും മുന്നോട്ടു കുതിക്കണമെന്ന ആശയം അസംബന്ധമായി തോന്നും.

സ്വന്തം വികസനപ്രക്രിയയിൽ യന്ത്രബുദ്ധി കൂടുതൽ വലിയ പങ്കുവഹിക്കുന്നത് സുസ്ഥിരമായ സാങ്കേതിക പുരോഗതിയുടെ സ്വാഭാവികമായ പര്യവസാനമാണ്. AI പുരോഗതി തുടർന്നാൽ, യന്ത്രങ്ങളുടെ ആവർത്തിത സ്വയംമെച്ചപ്പെടുത്തൽ (RSI) ഭാവിയിലെ ശാസ്ത്രീയ കണ്ടെത്തലുകളുടെ കേന്ദ്രബിന്ദുവാകും.

കംപ്യൂട്ട് വർധിപ്പിച്ച് ബുദ്ധി വിപുലീകരിക്കുന്നതിന്റെ കൂടുതൽ സമൂലമായ രൂപമാണ് സ്വയംപ്രവർത്തിത AI ഗവേഷണം. അതിന്റെ ഭാഗമായി AI കംപ്യൂട്ടേഷണൽ അടിത്തറതന്നെ⁠ മെച്ചപ്പെടുത്തുമെന്നത് തീർച്ചയാണ്. വിപുലീകരണത്തിന്റെ കാര്യത്തിലെന്നപോലെ, ഭാവിയിലും AI ഗവേഷണത്തിന്റെ അത്യാധുനിക തലത്തിൽ തുടരാനുള്ള ഏകമാർഗം RSI ആണെന്ന് വിശ്വസിക്കുന്നതിനാൽ OpenAI-യുടെ ഗവേഷണം ഞങ്ങൾ അതിലേക്ക് കേന്ദ്രീകരിക്കുന്നു.

ഡീപ് ലേണിംഗ് ഗവേഷണം, പ്രത്യേകിച്ച് സമീപകാലത്ത്, വലിയ തോതിൽ ത്വരിതപ്പെടുത്തുന്നതാണ് ഗവേഷകസമൂഹമെന്ന നിലയിൽ നാം കൂട്ടായി ചെയ്യേണ്ട ശരിയായ കാര്യമെന്ന് ഞാൻ കരുതുന്നതായി മേൽപ്പറഞ്ഞ വാക്കുകൾ സൂചിപ്പിക്കുന്നില്ലെന്ന് ഊന്നിപ്പറയട്ടെ. എന്നാൽ ഇപ്പോഴത്തെ പാത എത്തുന്നത് ഇവിടേക്കാണെന്ന് ഞാൻ കരുതുന്നു. എങ്ങനെ മുന്നോട്ടുപോകണമെന്ന് നാമെല്ലാം ബോധപൂർവം തീരുമാനിക്കണം. AI-ക്കൊപ്പം അലൈൻമെന്റും നിരീക്ഷണവും ശക്തിപ്പെടുത്താനും ആളുകളെ പ്രക്രിയയിൽ നിലനിർത്താനും അതിനെ നയിക്കുക, അല്ലെങ്കിൽ ഈ നടപടികളിലുള്ള ആത്മവിശ്വാസം വളർത്താൻ ആവശ്യാനുസരണം ഭാവിവികസനം മന്ദഗതിയിലാക്കാൻ ഏകോപിക്കുക എന്നിവയാണ് നമ്മുടെ പ്രധാന നിയന്ത്രണമാർഗങ്ങൾ.

ഇവ രണ്ടും സംയോജിപ്പിക്കുന്നതാണ് നിലവിൽ ഞാൻ കാണുന്ന മികച്ച മുന്നോട്ടുള്ള വഴി.

അലൈൻമെന്റിലും നിരീക്ഷണത്തിലും നാം കൈവരിച്ച വ്യക്തമായ പുരോഗതി പൊതുവായ AI പുരോഗതിയുമായി സാധാരണയായി ഏറെ ബന്ധപ്പെട്ടിരിക്കുന്നു. ആദ്യകാല AI സഹായികളെ പരിശീലിപ്പിക്കുന്നതിൽ നിർണായകമായിരുന്ന മനുഷ്യ പ്രതികരണത്തിൽനിന്നുള്ള റീഇൻഫോഴ്‌സ്‌മെന്റ് ലേണിംഗും⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു), റീസണിംഗ് മോഡലുകളിലെ മുന്നേറ്റങ്ങൾ സാധ്യമാക്കിയ, നേരത്തേ സൂചിപ്പിച്ച ചെയ്ൻ-ഓഫ്-തോട്ട് നിരീക്ഷണവും⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) മികച്ച ഉദാഹരണങ്ങളാണ്. കൂടുതൽ സ്വയംപ്രവർത്തിതമാകുന്ന ഗവേഷണപ്രക്രിയയെ ഇത്തരം പുതിയ ഉൾക്കാഴ്ചകളും അൽഗോരിതങ്ങളും സിദ്ധാന്തങ്ങളും വികസിപ്പിക്കുന്നതിലേക്ക് നാം കേന്ദ്രീകരിക്കുകയും കൂടുതൽ കഴിവുള്ള AI സംവിധാനങ്ങൾക്കായുള്ള സുരക്ഷാവാദങ്ങൾ ഘട്ടംഘട്ടമായി ശക്തിപ്പെടുത്തുകയും വേണം.

AI സംവിധാനങ്ങൾ വിപുലീകരിക്കുന്നത് സുരക്ഷയിലുള്ള നമ്മുടെ ആത്മവിശ്വാസത്താൽ നിയന്ത്രിക്കപ്പെടണം. പ്രിപെയർഡ്നസ് ഫ്രെയിംവർക്ക്⁠, ഉത്തരവാദിത്തപരമായ വിപുലീകരണ നയം⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) തുടങ്ങിയ പ്രതിബദ്ധതകൾ തുടർവികസനത്തിന് വ്യാപകമായി നിർബന്ധമാക്കുന്ന സുരക്ഷാമാനദണ്ഡങ്ങളായി വളരണം. സ്വതന്ത്ര ഓഡിറ്റർമാരുടെ ശൃംഖലയ്ക്കോ സർക്കാർ ഏജൻസികൾക്കോ അന്താരാഷ്ട്ര സ്ഥാപനങ്ങൾക്കോ ഇവ നടപ്പാക്കാം.

AI ഗവേഷണം സ്വയംപ്രവർത്തിതമാക്കുന്നതിലെ പ്രധാന വെല്ലുവിളി “അവിടെ എത്തുക” എന്നതല്ല. തുടർച്ചയായ മെച്ചപ്പെടുത്തലിൽ ആളുകളെ പങ്കാളികളാക്കി നിലനിർത്തുകയും ഭാവി മനുഷ്യരാശിയുടെ കൈകളിൽ വിടുകയും ചെയ്യുന്ന രീതിയിൽ അവിടെ എത്തുക എന്നതാണ്.

ഞാനും Sam-ഉം അടുത്തിടെ വിശദീകരിച്ചതുപോലെ⁠, മൂന്ന് പ്രധാന ദിശകൾക്കായുള്ള പ്രവർത്തനങ്ങൾക്കാണ് OpenAI മുൻഗണന നൽകുന്നത്:

1. സ്വയംപ്രവർത്തിത AI ഗവേഷകനെ നിർമ്മിച്ചും അലൈൻമെന്റ് പ്രശ്നത്തിൽ അതുമായി ചേർന്ന് ആവർത്തിതമായി പ്രവർത്തിച്ചും സ്വയംമെച്ചപ്പെടുത്തൽ ചക്രത്തിൽ ആളുകളെ നിലനിർത്താനുള്ള വഴികൾ കണ്ടെത്തിയും AI പുരോഗതിയുടെ അടുത്ത ഘട്ടത്തിലൂടെ സഞ്ചരിക്കുക.

2. വളരെ ബുദ്ധിമാനായ യന്ത്രങ്ങൾ സാധ്യമാക്കുന്ന ശാസ്ത്രീയ പുരോഗതിയുടെയും സാമ്പത്തിക വളർച്ചയുടെയും നേട്ടങ്ങൾ ജനങ്ങളിലെത്തിക്കുക.

3. വ്യക്തിഗത AGI നൽകി എല്ലാവരെയും ശാക്തീകരിക്കൽ.

ഇവയിൽ ഏറ്റവും അടിയന്തരമായത് ആദ്യത്തേതാണെന്ന് കരുതുന്നതിനാൽ ഈ ലേഖനത്തിൽ ഞാൻ അതിൽ മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിച്ചു. എന്നിരുന്നാലും, തുടർന്നുള്ള സാങ്കേതിക പുരോഗതി കൊണ്ടുവരുന്ന നേട്ടങ്ങളെക്കുറിച്ച് എനിക്ക് ആഴമായ പ്രതീക്ഷയും വിലമതിപ്പുമുണ്ട്. ഭാവിയിലെ അലൈൻ ചെയ്ത AI-ക്ക് ശാസ്ത്രത്തെ മുന്നോട്ടുകൊണ്ടുപോകാനും പുതിയ ചികിത്സകൾ വികസിപ്പിക്കാനും വ്യാപകമായ ഭൗതികസമൃദ്ധി കൈവരിക്കാനും കഴിയും. സൗഹൃദപരവും സത്യസന്ധവുമായ AI-ക്ക് ജീവിതത്തിലെ ബുദ്ധിമുട്ടുകൾ നേരിടാൻ ആളുകളെ സഹായിക്കാനും അവരുടെ സന്തോഷവും സാഫല്യബോധവും അർഥവത്തായി മെച്ചപ്പെടുത്താനും കഴിയും. ഈ നേട്ടങ്ങൾ യാഥാർഥ്യമാക്കാൻ OpenAI അതിവിപുലമായ പരിശ്രമം നടത്തുന്നു. എനിക്ക് അഭിമാനമുള്ളതും എന്റെ പ്രിയപ്പെട്ടവർക്ക് സഹായകരമായതുമായ ഇപ്പോഴത്തെ ഒരു ഉദാഹരണം, ആരോഗ്യവിവരങ്ങൾ നൽകാനുള്ള ChatGPT‑യുടെ കഴിവിൽ നടത്തുന്ന ഗണ്യമായ നിക്ഷേപമാണ്.

AI-യുടെ ദീർഘകാല വാഗ്ദാനം എത്ര മഹത്തായാലും, അടുത്ത ഏതാനും വർഷങ്ങളിലായിരിക്കണം നമ്മുടെ ശ്രദ്ധയുടെ ഭൂരിഭാഗവും. അവിശ്വസനീയമാംവിധം ബുദ്ധിയുള്ള യന്ത്രങ്ങളുള്ള ലോകത്തിലേക്കുള്ള മാറ്റമാണ് നാം നേരിടുന്നത്. ആ മാറ്റം മനുഷ്യരാശിക്ക് ഗുണകരമാകുമെന്ന് ഉറപ്പാക്കണം. മിക്ക ജോലികളും AI-ക്ക് ചെയ്യാനാകുന്ന ലോകത്ത് മനുഷ്യരുടെ സ്വയംനിർണയശേഷി സംരക്ഷിക്കാനും മനുഷ്യനായിരിക്കുന്നതിന് സഹജമായ മൂല്യം ഉറപ്പിക്കാനുമുള്ള വഴികൾ നാം കണ്ടെത്തണം. ആയിരക്കണക്കിന് വിദഗ്ധർ വേണ്ടിയിരുന്ന സംരംഭങ്ങൾ വലിയൊരു കമ്പ്യൂട്ടർ പ്രവർത്തിപ്പിക്കുന്ന ഏതാനും പേർക്ക് സാധ്യമാകുന്ന ലോകത്ത് അധികാരം അതിരൂക്ഷമായി കേന്ദ്രീകരിക്കുന്നത് തടയണം. നമ്മെ മറികടക്കുന്ന അപരിചിതമായൊരു ബുദ്ധി സൃഷ്ടിക്കുന്ന അനിയന്ത്രിത പുരോഗതി മനുഷ്യരെ പിന്നിലാക്കാതിരിക്കാനും ഭാവിയുടെ നിയന്ത്രണം മനുഷ്യരിൽത്തന്നെ തുടരാനും ഉറപ്പാക്കണം.

പരമാവധി വേഗത്തിൽ കൂടുതൽ കാലം ഉത്തരവാദിത്തത്തോടെ വിപുലീകരണം തുടരാൻ മതിയായ തോതിൽ അലൈൻമെന്റും നിരീക്ഷണവും ഒരു ഗവേഷണശാലയും നിലവിൽ പരിഹരിച്ചിട്ടില്ലെന്നാണ് എന്റെ വിശ്വാസം. പൊതുവായ സുരക്ഷാമാനദണ്ഡങ്ങൾ സ്ഥാപിക്കുന്നതുവരെ സ്വമേധയാ വേഗം കുറയ്ക്കുന്നത് സാധാരണമാകുമെന്ന് ഞാൻ പ്രതീക്ഷിക്കുകയും ആശിക്കുകയും ചെയ്യുന്നു. ഭാവിയിലെ AI വികസനത്തെക്കുറിച്ചുള്ള അന്താരാഷ്ട്ര ഏകോപനം ലോകമെമ്പാടുമുള്ള സർക്കാരുകളുടെ പരമപ്രധാന മുൻഗണനയാകണമെന്നും ഞാൻ വിശ്വസിക്കുന്നു.