AI ஒழுங்குமுறை குறித்த சுயாதீன ஆராய்ச்சியை முன்னேற்றுதல்

AI அமைப்புகள் மேலும் திறன் வாய்ந்தவையாகவும் தன்னாட்சி கொண்டவையாகவும் மாறும்போது, அலைன்மென்ட் ஆராய்ச்சி அதற்கேற்ப வேகத்தைத் தக்கவைத்துக்கொள்வதோடு பல்வகைமையான அணுகுமுறையையும் விரிவுபடுத்திக் கொள்ள வேண்டும். OpenAI இல், எங்கள் பணிக்குத் முக்கியமானதாக இருப்பதால், அதிநவீன ஒத்திசைவு மற்றும் பாதுகாப்பு ஆராய்ச்சியில் நாங்கள் அதிகமாக முதலீடு செய்கிறோம். AGI பாதுகாப்பாகவும் அனைவருக்கும் நன்மை பயக்கும் வகையிலும் இருப்பதை உறுதிப்படுத்துவது எந்த ஒரு தனி அமைப்பாலும் சாதிக்க முடியாது என்பதில் நாங்கள் நம்புகிறோம். அதேசமயம், அதிநவீன ஆய்வகங்களுக்கு வெளியே சுயாதீன ஆராய்ச்சி மற்றும் கருத்தியல் அணுகுமுறைகளை ஆதரிக்க விரும்புகிறோம். எந்தவொரு நபரும் கணிக்க முடியாத வகையில் AI-யின் எதிர்காலம் வெளிப்படாது, மேலும் அதன் முடிவை வடிவமைப்பதில் மேலும் பலருக்கு பங்கு இருக்க வேண்டும் என்று நாங்கள் நம்புகிறோம்.

இன்று, நாங்கள் The Alignment Project⁠(புதிய சாளரத்தில் திறக்கும்)-க்கு $7.5 மில்லியன் மானியத்தை அறிவிக்கிறோம். இது UK AI Security Institute (UK AISI) உருவாக்கிய, சுயாதீன ஒழுங்கமைப்பு ஆராய்ச்சிக்கான ஒரு உலகளாவிய நிதி. Renaissance Philanthropy இந்த மானியத்தின் நிதியுதவியின் நிர்வாக செயல்பாடுகளை ஆதரித்து வருகிறது. இந்த பங்களிப்பு, The Alignment Project-ஐ இதுவரை சுயாதீன அலைன்மென்ட் ஆராய்ச்சிக்காக அர்ப்பணிக்கப்பட்ட மிகப்பெரிய நிதியுதவி முயற்சிகளில் ஒன்றாக மாற்றுவதுடன், விரிவான மற்றும் சுயாதீன ஆராய்ச்சி சூழலையும் மேலும் வலுப்படுத்துகிறது.

OpenAI போன்ற அதிநவீன ஆய்வகங்கள், அதிநவீன மாடல்களுக்கான அணுகல் மற்றும் குறிப்பிடத்தக்க கணினி வளம் சார்ந்த அலைன்மென்ட் ஆராய்ச்சியை முன்னெடுக்க தனித்துவமான நிலையில் உள்ளன—இத்தகைய பணியை சுயாதீன ஆராய்ச்சியாளர்கள் ஆராய்வது பெரும்பாலும் கடினமாக இருக்கும். எங்களின் உள்துறை alignment முயற்சிகளில் பெரும்பகுதியை, திறன்களின் முன்னேற்றத்துடன் alignment முன்னேற்றமும் சமநிலையாக முன்னேறுவதற்கான அளவுகோலாக விரிவுபடுத்தக்கூடிய முறைகளை உருவாக்குவதற்கு நாங்கள் அர்ப்பணித்துள்ளோம். படிப்படியான வெளியீட்டை நாங்கள் நம்புகிறோம்—பாதுகாப்புகளை வலுப்படுத்திக்கொண்டே திறன்களை படிப்படியாக அதிகரிப்பது—பிரச்சினைகளை ஆரம்பத்திலேயே வெளிக்கொணர உதவுகிறது, நடைமுறையில் எது செயல்படுகிறது என்பதற்கான தெளிவான ஆதாரங்களை எங்களுக்கு வழங்குகிறது, மேலும் பொறுப்பான வளர்ச்சிக்கு மாடல் உருவாக்கம் மற்றும் வெளியீட்டுடன் நெருக்கமாக ஒருங்கிணைக்கப்பட்ட முக்கியமான ஒத்திசைவு மற்றும் பாதுகாப்பு பணிகள் தேவைப்படுகின்றன.

இணையாக, இந்த துறை சுயாதீனமான, ஆராய்ச்சிமிக்க ஆய்வில் தொடர்ச்சியான முதலீட்டால் பயனடைகிறது—இது யோசனைகளின் பரப்பை விரிவாக்கி புதிய திசைகளை கண்டறிய உதவும். சுயாதீன ஆராய்ச்சி தொடர்ந்து அவசியமாகவே உள்ளது; பல வகையான பயனுள்ள ஆராய்ச்சிகளில், ஆய்வகங்கள் ஒப்பீட்டு முன்னிலை இல்லை. ஒரு ஆரோக்கியமான அலைன்மென்ட் சூழல் என்பது சுயாதீன குழுக்கள் பல்வேறு முன்கணிப்புகளை சோதித்து, மாற்று அமைப்புக்க்கான கட்டமைப்புகளை உருவாக்கி, எந்த ஒரு நிறுவனத்தின் திட்ட வரைபடத்துடனும் சரியாக ஒத்துப்போகாத கருத்தியல், கோட்பாட்டு மற்றும் புதுமையான யோசனைகளை ஆராய்வதைக் கொண்டுள்ளது.

மற்றும் AGI நோக்கிலான முன்னேற்றம் இறுதியில் அலைன்மென்ட் பிரச்சினையின் வடிவத்தையும் எந்த அணுகுமுறைகள் மிகவும் பயனுள்ளதாக உள்ளன என்பதையும் மாற்றும் அடிப்படை திருப்புமுனைகளில் சார்ந்திருக்கக்கூடும் என்பதால், இன்றைய ஆதிக்கமான முறைகள் நாம் எதிர்பார்ப்பது போல அளவிட முடியாமல் போகும் என்றாலும் கூட முக்கியத்துவம் பெறக்கூடிய ஆராய்ச்சியை ஆதரிப்பது முக்கியம். அந்த உலகங்களில், அடிப்படை, கருத்தியல், மற்றும் தொடர்பற்ற பணிகளைச் செய்யும் வலுவான வெளிப்புற சூழலமைப்பு இருக்க வேண்டும் என்பது மிகவும் முக்கியம். AI அலைன்மென்ட் மற்றும் பாதுகாப்பு பிரச்சினை முன்னெப்போதும் இல்லாத அளவுக்கு முக்கியத்துவம் வாய்ந்தது, மேலும் திறன்கள் தொடர்ந்து முன்னேறிக்கொண்டிருக்கும் நிலையில் எந்த அணுகுமுறைகள் மிக நீடித்ததாக இருக்கும் என்பதை நாம் இன்னும் அறியாததால், அனைவரின் பங்களிப்பும் நமக்கு தேவை.

தற்போதைய மாற்று விகிதங்களில்—சுமார் £5.6 மில்லியன் மதிப்பிலான எங்கள் மானியம், பிற பொது, தொண்டு மற்றும் தொழில்துறை ஆதரவாளர்களுடன் சேர்ந்து—The Alignment Project-க்கு இணை நிதியளிக்கிறது⁠(புதிய சாளரத்தில் திறக்கும்). மொத்த நிதி £27 மில்லியனை மீறுகிறது மற்றும் இது உலகளாவிய அளவில் பல்வேறு alignment ஆராய்ச்சி திட்டங்களை ஆதரிக்க உருவாக்கப்பட்டுள்ளது. இதில் கணிப்பியல் சிக்கலியல் கோட்பாடு (computational complexity theory), பொருளாதாரக் கோட்பாடு மற்றும் விளையாட்டு கோட்பாடு (game theory), அறிவுணர்வு அறிவியல் (cognitive science), தகவல் கோட்பாடு மற்றும் குறியாக்கவியல் (information theory and cryptography) போன்ற பல்வேறு துறைகள் அடங்குகின்றன. தனிப்பட்ட திட்டங்களுக்கு பொதுவாக £50,000 முதல் £1 மில்லியன் வரை நிதியளிக்கப்படுகின்றன, மேலும் கணினி வளங்களுக்கும் நிபுணர் ஆதரவுக்கும் விருப்பமான அணுகலையும் பெறலாம்.

எங்கள் நிதியுதவி, புதிய திட்டம் அல்லது தேர்வு செயல்முறையை உருவாக்குவதில்லை, மேலும் இது ஏற்கனவே உள்ள செயல்முறையை பாதிக்காது; இது தற்போதைய சுற்றில் நிதியளிக்கப்படக்கூடிய, ஏற்கனவே சரிபார்க்கப்பட்ட, உயர்தர திட்டங்கள்⁠(புதிய சாளரத்தில் திறக்கும்) எண்ணிக்கையை அதிகரிக்கிறது.

UK AISI இந்த அளவிலும் வரம்பிலும் ஒழுங்குமுறை நிதியளிப்பை நேரடியாக வழிநடத்த சிறந்த நிலையில் உள்ளது. இது அரசு, கல்வித்துறை, தொண்டு நிறுவனங்கள் மற்றும் தொழில்துறை ஆகியவற்றை உள்ளடக்கிய நிலைபெற்ற பல துறை கூட்டணியையும், ஏற்கெனவே செயல்பாட்டில் உள்ள மானியம் வழங்கும் செயல்முறை வழித்தடத்தையும், நிபுணர் மதிப்பாய்வை கடந்துள்ள பெரிய அளவிலான முன்மொழிவுகளையும் கொண்டுள்ளது. இது Department for Science, Innovation and Technology (DSIT) உட்பட்ட UK அரசின் ஆராய்ச்சி அமைப்பாக இருப்பதால், தீவிரமான AI அபாயங்களில் கவனம் செலுத்தும் ஒரு பணிக்கட்டளையும் கொண்டுள்ளது மற்றும் ஆராய்ச்சி நிதியுதவி திட்டங்களை நடத்துவதில் அனுபவம் பெற்றுள்ளது.

ஏனெனில் AI-யின் எதிர்காலம் யாரும் கணிப்பதுபோல துல்லியமாக வெளிப்படாது—மேலும் அது மிக வேகமாக முன்னேறக்கூடும்—எனவே, ஜனநாயகமயமாக்கல், “AI மீள்தன்மை,” மற்றும் மீள்முறை செயல்படுத்தல் ஆகியவை அத்தியாவசியம் என்று நாங்கள் நம்புகிறோம். OpenAI-இல் எங்கள் அதிநவீன அலைன்மென்ட் மற்றும் பாதுகாப்பு ஆராய்ச்சியை முன்னேற்றிக் கொண்டிருக்கும் போது, திறன்கள் முன்னேறும் நிலையில், இணை அணுகுமுறைகளைப் பின்பற்றும் வலுவான, பல்வகையான, சுயாதீன சூழலமைப்பிலிருந்து இந்த முன்னேற்றம் பயன் பெறும். இந்த மானியம் அந்த இலக்கை நோக்கி எடுத்த ஒரு படியாகும். துறை முன்னேறும்போது, பரந்த ஆராய்ச்சி சமூகத்துடன் தொடர்ந்து ஒத்துழைப்பை மேற்கொள்ள ஆவலாக உள்ளோம்.