AI വിന്യാസവുമായി ബന്ധപ്പെട്ട സ്വതന്ത്ര ഗവേഷണത്തെ മുന്നോട്ട് നയിക്കൽ

AI സിസ്റ്റങ്ങൾ കൂടുതൽ കഴിവും സ്വയംഭരണവും നേടുമ്പോൾ, അലൈൻമെന്റ് ഗവേഷണം അതിനൊപ്പം മുന്നേറുകയും വൈവിധ്യം വർദ്ധിപ്പിക്കുകയും വേണം. OpenAI-യിൽ, ഞങ്ങളുടെ ദൗത്യത്തിന് നിർണായകമായതിനാൽ, അത്യാധുനിക തലത്തിലുള്ള പൊരുത്തത്തിനും സുരക്ഷാ ഗവേഷണത്തിലും ഞങ്ങൾ വൻതോതിൽ നിക്ഷേപം നടത്തുന്നു. AGI സുരക്ഷിതവും എല്ലാവർക്കും പ്രയോജനപ്രദവുമാണെന്ന് ഉറപ്പാക്കുന്നത് ഒരു സ്ഥാപനത്തിന് മാത്രം സാധ്യമല്ലെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. അത്യാധുനിക ലാബുകൾക്ക് പുറത്തായി പിന്തുടരാനാകുന്ന സ്വതന്ത്ര ഗവേഷണത്തെയും ആശയപരമായ സമീപനങ്ങളെയും പിന്തുണയ്ക്കാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു. AI-യുടെ ഭാവി ആരെങ്കിലും പ്രവചിക്കുന്നതുപോലെ തന്നെ ആവുകയില്ലെന്നും, ഫലം രൂപപ്പെടുത്തുന്നതിൽ കൂടുതൽ ആളുകൾക്കും പങ്കാളിത്തം ഉണ്ടായിരിക്കണമെന്നും ഞങ്ങൾ വിശ്വസിക്കുന്നു.

ഇന്ന്, ഞങ്ങൾ The Alignment Project⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) എന്നതിനായി $7.5 മില്യൺ ഗ്രാന്റ് പ്രഖ്യാപിക്കുന്നു, ഇത് UK AI Security Institute (UK AISI) സൃഷ്ടിച്ച സ്വതന്ത്ര അലൈൻമെന്റ് ഗവേഷണത്തിനായുള്ള ഒരു ആഗോള ഫണ്ടാണ്. Renaissance Philanthropy ഗ്രാന്റിന്റെ ഭരണനിർവഹണത്തിന് പിന്തുണ നൽകുന്നു. ഈ സംഭാവന The Alignment Project-നെ ഇതുവരെ സ്വതന്ത്ര പൊരുത്ത ഗവേഷണത്തിനായി സമർപ്പിതമായ ഏറ്റവും വലിയ ഫണ്ടിംഗ് ശ്രമങ്ങളിൽ ഒന്നാക്കുകയും, വിശാലമായ സ്വതന്ത്ര ഇക്കോസിസ്റ്റത്തെ ശക്തിപ്പെടുത്തുകയും ചെയ്യുന്നു.

OpenAI പോലുള്ള അത്യാധുനിക ലാബുകൾക്ക് അത്യാധുനിക മോഡലുകളിലേക്കുള്ള പ്രവേശനവും ഗണ്യമായ കംപ്യൂട്ടിംഗ് ശേഷിയും ആവശ്യമായ അലൈൻമെന്റ് ഗവേഷണം നടത്താൻ ഒരു പ്രത്യേക സ്ഥാനമുണ്ട്—സ്വതന്ത്ര ഗവേഷകർക്ക് പലപ്പോഴും അന്വേഷിക്കാൻ ബുദ്ധിമുട്ടുള്ള പ്രവർത്തനം. അലൈൻമെന്റ് പുരോഗതിയും കഴിവുകളുടെ പുരോഗതിയോടൊപ്പം നിലനിൽക്കുന്നതിനായി, സ്കെയിലബിൾ രീതികൾ വികസിപ്പിക്കുന്നതിലേക്കാണ് ഞങ്ങളുടെ ആഭ്യന്തര അലൈൻമെന്റ് ശ്രമത്തിന്റെ വലിയൊരു ഭാഗം നാം സമർപ്പിക്കുന്നത്. ഞങ്ങൾ ആവർത്തന വിന്യാസത്തിൽ വിശ്വസിക്കുന്നു—സുരക്ഷാ മുൻകരുതലുകൾ ശക്തിപ്പെടുത്തുന്നതിനൊപ്പം കഴിവുകൾ ക്രമേണ വർദ്ധിപ്പിക്കുന്നതില്‍—പ്രശ്നങ്ങൾ നേരത്തേ കണ്ടെത്താൻ സഹായിക്കുകയും എന്താണ് പ്രായോഗികമായി പ്രവര്‍ത്തിക്കുന്നത് എന്നതിനെക്കുറിച്ച് വ്യക്തമായ തെളിവുകൾ നൽകുകയും ചെയ്യുന്നു. ഉത്തരവാദിത്തപരമായ വികസനത്തിന് മോഡൽ നിർമ്മാണത്തോടും വിന്യാസത്തോടും കർശനമായി സംയോജിപ്പിച്ചിരിക്കുന്ന ഗണ്യമായ അലൈൻമെന്റും സുരക്ഷാ പ്രവർത്തനവും ആവശ്യമാണ്.

സമാന്തരമായി, സ്വതന്ത്രവും അന്വേഷണാത്മകവുമായ ഗവേഷണത്തിലേക്കുള്ള സ്ഥിരമായ നിക്ഷേപം ഈ മേഖലയ്ക്ക് പ്രയോജനപ്പെടുന്നു. ഇത് ആശയങ്ങളുടെ പരിധികള്‍ വിപുലീകരിക്കുകയും പുതിയ ദിശകൾ കണ്ടെത്തുകയും ചെയ്യുന്നു. സ്വതന്ത്ര ഗവേഷണം അനിവാര്യമാണ്; പല തരത്തിലുള്ള പ്രയോജനകരമായ അന്വേഷണങ്ങളിൽ, ലാബുകൾക്ക് താരതമ്യപരമായ മുൻതൂക്കം നിലനിർത്താൻ കഴിയുന്നില്ല. ആരോഗ്യകരമായ ഒരു അലൈൻമെന്റ് ഇക്കോസിസ്റ്റം സ്വതന്ത്ര ടീമുകൾ വൈവിധ്യമാർന്ന അനുമാനങ്ങൾ പരിശോധിക്കുകയും, ബദൽ ചട്ടക്കൂടുകൾ വികസിപ്പിക്കുകയും, ഏതെങ്കിലും ഒരു സംഘടനയുടെ റോഡ്മാപ്പുമായി കൃത്യമായി പൊരുത്തപ്പെടണമെന്നില്ലാത്ത ആശയപരമായ, സൈദ്ധാന്തിക, സൃഷ്ടിപരമായ ആശയങ്ങൾ അന്വേഷിക്കുകയും ചെയ്യുന്നതിൽ ആശ്രയിക്കുന്നു.

AGI-യിലേക്കുള്ള പുരോഗതി ഒടുവിൽ അലൈൻമെന്റ് പ്രശ്നത്തിന്റെ രൂപം മാറ്റുകയും ഏത് സമീപനങ്ങളാണ് ഏറ്റവും പ്രയോജനകരമെന്ന് നിർണ്ണയിക്കുകയും ചെയ്യുന്ന അടിസ്ഥാനപരമായ മുന്നേറ്റങ്ങളിൽ ആശ്രയിച്ചേക്കുന്നതിനാൽ, ഇന്നത്തെ പ്രബലമായ രീതികൾ ഞങ്ങൾ പ്രതീക്ഷിക്കുന്ന രീതിയിൽ സ്കെയിൽ ചെയ്യില്ലെന്ന് തെളിഞ്ഞാലും പ്രാധാന്യമുള്ള ഗവേഷണത്തെ പിന്തുണയ്ക്കുന്നത് പ്രധാനമാണ്. ആ ലോകങ്ങളിൽ, അടിസ്ഥാനപരവും ആശയപരവും പരസ്പരം ബന്ധമില്ലാത്തതുമായ പ്രവർത്തനം ചെയ്യുന്ന ശക്തമായ ഒരു ബാഹ്യ ആവാസവ്യവസ്ഥ ഉണ്ടാകുന്നത് പ്രത്യേകിച്ച് പ്രധാനമാണ്. AI വിന്യാസവും സുരക്ഷയും സംബന്ധിച്ച പ്രശ്നം ഇതുവരെ കാണാത്തത്ര പ്രാധാന്യമുള്ളതാണ്, കഴിവുകൾ തുടർന്നും മുന്നേറുന്നതിനാൽ ഏത് സമീപനങ്ങളാണ് ഏറ്റവും ദീർഘകാലം നിലനിൽക്കുന്നതെന്ന് നമുക്ക് ഇനിയും അറിയാത്തതിനാൽ എല്ലാവരുടെയും പങ്കാളിത്തം ആവശ്യമാണ്.

നിലവിലെ വിനിമയ നിരക്കുകൾ പ്രകാരം ഏകദേശം £5.6 മില്യൺ ആയ ഞങ്ങളുടെ ഗ്രാന്റ്—മറ്റ് പൊതു, ജീവകാരുണ്യ, വ്യവസായ പിന്തുണക്കാർക്കൊപ്പം The Alignment Project-നെ സഹ-ധനസഹായം നൽകും⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു). മൊത്തം ഫണ്ട് £27 മില്യനു മുകളില്‍ ആണ്, കൂടാതെ കംപ്യൂട്ടേഷണൽ കോംപ്ലെക്സിറ്റി സിദ്ധാന്തം, സാമ്പത്തിക സിദ്ധാന്തവും ഗെയിം സിദ്ധാന്തവും, കോഗ്നിറ്റീവ് സയൻസ്, വിവര സിദ്ധാന്തവും ക്രിപ്റ്റോഗ്രഫിയും എന്നിവ പോലെ വൈവിധ്യമാർന്ന വിഷയങ്ങൾ ഉൾക്കൊള്ളുന്ന, ലോകമെമ്പാടുമുള്ള അലൈൻമെന്റ് ഗവേഷണ പദ്ധതികളുടെ വിശാലമായ ഒരു പോർട്ട്ഫോളിയോയെ പിന്തുണയ്ക്കുന്നതിനായി ഇത് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു. വ്യക്തിഗത പദ്ധതികൾക്ക് സാധാരണയായി £50,000 മുതൽ £1 മില്യൺ വരെ ധനസഹായം ലഭിക്കും, കൂടാതെ കംപ്യൂട്ട് വിഭവങ്ങളിലേക്കുള്ള ഐച്ഛിക ആക്‌സസും വിദഗ്ധ പിന്തുണയും ലഭിക്കാം.

ഞങ്ങളുടെ ധനസഹായം ഒരു പുതിയ പ്രോഗ്രാമോ തിരഞ്ഞെടുപ്പ് പ്രക്രിയയോ സൃഷ്ടിക്കുന്നില്ല, നിലവിലുള്ള പ്രക്രിയയെ സ്വാധീനിക്കുന്നതുമില്ല; ഇത് നിലവിലെ റൗണ്ടിൽ ധനസഹായം നൽകാൻ കഴിയുന്ന, ഇതിനകം പരിശോധിച്ച് അംഗീകരിച്ച, ഉയർന്ന നിലവാരമുള്ള പദ്ധതികളുടെ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) എണ്ണം വർധിപ്പിക്കുന്നു.

UK AISI ഈ തോതിലും പരിധിയിലും അലൈൻമെന്റ് ഫണ്ടിംഗ് നേരിട്ട് വിന്യസിക്കാൻ മികച്ച നിലയിൽ സ്ഥിതിചെയ്യുന്നു. ഇത് സർക്കാർ, അക്കാദമിയ, ദാനധർമ്മം, വ്യവസായം എന്നിവയെ ഉൾക്കൊള്ളുന്ന, വിവിധ മേഖലകളിലായി വ്യാപിച്ചിരിക്കുന്ന ഒരു സ്ഥാപിത കൂട്ടായ്മയെ ഒരുമിപ്പിക്കുന്നു. ഇതിനോടൊപ്പം, ഇതിനകം തന്നെ പുരോഗമിക്കുന്ന ഗ്രാന്റ് നൽകൽ പൈപ്പ്‌ലൈനും, വിദഗ്ദ്ധ അവലോകനം കഴിഞ്ഞ വലിയൊരു നിർദ്ദേശ ശേഖരവും ഉൾപ്പെടുന്നു. UK ഗവൺമെന്റ് ഗവേഷണ സ്ഥാപനമായതിനാൽ, ഇത് Department for Science, Innovation and Technology (DSIT) എന്ന വകുപ്പിനുള്ളിൽ പ്രവർത്തിക്കുന്നു. ഇത് ഗുരുതരമായ AI അപകടസാധ്യതകളിൽ കേന്ദ്രീകരിച്ച ഒരു മാൻഡേറ്റും ഗവേഷണ ഫണ്ടിംഗ് പ്രോഗ്രാമുകൾ നടത്തുന്നതിൽ പരിചയസമ്പത്തും ഉണ്ട്.

AI-യുടെ ഭാവി ആര്‍ക്കും കൃത്യമായി പ്രവചിക്കാനാവില്ല—അതും അതിവേഗത്തിൽ മുന്നേറാൻ സാധ്യതയുള്ളതിനാൽ—ജനാധിപത്യവൽക്കരണം, “AI പ്രതിരോധം,” കൂടാതെ ആവർത്തന വിന്യാസം അനിവാര്യമാണെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. OpenAI-ൽ ഞങ്ങൾ അത്യാധുനിക പൊരുത്തവും സുരക്ഷാ ഗവേഷണവും മുന്നോട്ട് കൊണ്ടുപോകുമ്പോൾ, കഴിവുകൾ പുരോഗമിക്കുന്തോറും പരസ്പര പൂരക സമീപനങ്ങൾ പിന്തുടരുന്ന കരുത്തുറ്റതും വൈവിധ്യമാർന്നതും സ്വതന്ത്രവുമായ ഒരു ഇക്കോസിസ്റ്റത്തിൽ നിന്നാണ് ഈ പുരോഗതിക്ക് കൂടുതൽ നേട്ടം ലഭിക്കുക. ഈ ഗ്രാന്റ് ആ ലക്ഷ്യത്തിലേക്കുള്ള ഒരു പടിയാണ്. മേഖല പുരോഗമിക്കുമ്പോൾ വിശാലമായ ഗവേഷണ സമൂഹവുമായി സഹകരണം തുടരാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.