AI એલાઇન્મેન્ટ પર સ્વતંત્ર સંશોધનને આગળ વધારવું
અમે ગેર-એલાઇન્ડ AIથી ઊભા થતા સલામતી અને સુરક્ષા જોખમો માટે ઉપાયો વિકસાવતાં સ્વતંત્ર સંશોધનને નાણાં આપવા The Alignment Project માટે $7.5M આપવાની પ્રતિબદ્ધતા લઈ રહ્યા છીએ.
જેમ જેમ AI સિસ્ટમો વધુ સક્ષમ અને વધુ સ્વાયત્ત બને છે, તેમ એલાઇન્મેન્ટ સંશોધને ગતિ સાથે ચાલવું અને વૈવિધ્યનું વ્યાપન કરવું બંને જરૂરી બને છે. OpenAIમાં, અમે અત્યાધુનિક એલાઇન્મેન્ટ અને સલામતી સંશોધનમાં ભારે રોકાણ કરીએ છીએ કારણ કે તે અમારા મિશન માટે અત્યંત મહત્વપૂર્ણ છે. અમે એ પણ માનીએ છીએ કે AGI સૌ માટે સલામત અને લાભદાયક બને તેની ખાતરી કોઈ એક સંસ્થા એકલી કરી શકતી નથી, અને અમે એવા સ્વતંત્ર સંશોધન અને ધારણાત્મક અભિગમોને સમર્થન આપવા માંગીએ છીએ જેઓ અત્યાધુનિક લેબ્સની બહાર આગળ વધારી શકાય.
આજે, અમે The Alignment Project(નવી વિન્ડોમાં ખૂલે છે) માટે $7.5 મિલિયનની ગ્રાન્ટની જાહેરાત કરી રહ્યા છીએ. આ સ્વતંત્ર એલાઇન્મેન્ટ સંશોધન માટેનો વૈશ્વિક ફંડ છે, જે UK AI Security Institute (UK AISI) દ્વારા બનાવવામાં આવ્યો છે. Renaissance Philanthropy ગ્રાન્ટના વહીવટમાં સહાય કરી રહ્યું છે. આ યોગદાન The Alignment Project ને આજદિન સુધીના સ્વતંત્ર એલાઇન્મેન્ટ સંશોધન માટેના સૌથી મોટા સમર્પિત નાણાંકીય પ્રયત્નોમાંનું એક બનાવવામાં મદદ કરે છે અને વધુ વ્યાપક, સ્વતંત્ર ઇકોસિસ્ટમને મજબૂત કરે છે.
OpenAI જેવી અત્યાધુનિક લેબ્સ એવી અનોખી સ્થિતિમાં છે કે જ્યાં તેઓ એવા એલાઇન્મેન્ટ સંશોધન કરી શકે છે જે અત્યાધુનિક મોડલ્સ અને નોંધપાત્ર કમ્પ્યુટ ઍક્સેસ પર નિર્ભર હોય છે. આવું કામ સ્વતંત્ર સંશોધકો માટે ઘણીવાર શોધવું મુશ્કેલ બને છે. અમે અમારા આંતરિક એલાઇન્મેન્ટ પ્રયત્નનો મોટો ભાગ સ્કેલ કરી શકાય તેવી પદ્ધતિઓ વિકસાવવામાં લગાવીએ છીએ જેથી એલાઇન્મેન્ટમાં પ્રગતિ ક્ષમતા પ્રગતિ સાથે ગતિમાં રહે. અમે માનીએ છીએ કે પુનરાવર્તિત ડિપ્લોયમેન્ટ. એટલે કે સુરક્ષા વ્યવસ્થાઓ મજબૂત બનાવતાં ક્ષમતાઓ ધીમે ધીમે વધારવી. તે સમસ્યાઓ વહેલી તકે સામે લાવવામાં મદદ કરે છે અને અમને હકીકતમાં શું કામ કરે છે તેના સ્પષ્ટ પુરાવા આપે છે. તેમજ જવાબદાર વિકાસ માટે નોંધપાત્ર એલાઇન્મેન્ટ અને સલામતીનું કામ જરૂરી છે, જે મોડલ નિર્માણ અને ડિપ્લોયમેન્ટ સાથે ગાઢ રીતે એકીકૃત હોય.
સાથે સાથે, આ ક્ષેત્રને સ્વતંત્ર, શોધખોળ આધારિત સંશોધનમાં સતત રોકાણથી લાભ મળે છે, જે વિચારોનું ક્ષેત્ર વિસ્તારી શકે છે અને નવી દિશાઓ શોધી શકે છે. સ્વતંત્ર સંશોધન અનિવાર્ય રહે છે. ઉપયોગી તપાસના અનેક પ્રકારોમાં લેબ્સ પાસે તુલનાત્મક લાભ યથાવત રહેતો નથી. સ્વસ્થ એલાઇન્મેન્ટ ઇકોસિસ્ટમ માટે સ્વતંત્ર ટીમો વિવિધ અનુમાનોની કસોટી કરે, વિકલ્પાત્મક માળખાં વિકસાવે, અને એવી ધારણાત્મક, સિદ્ધાંતાત્મક તથા બ્લૂ-સ્કાય કલ્પનાઓને શોધે કે જે કોઈ એક સંસ્થાના રોડમૅપ સાથે અનિવાર્ય રીતે સુસંગત ન પણ હોય.
અને કારણ કે AGI તરફની પ્રગતિ અંતે એવા મૂળભૂત બ્રેકથ્રૂ પર આધારિત હોઈ શકે છે જે એલાઇન્મેન્ટ સમસ્યાના સ્વરૂપને બદલી નાખે અને કયા અભિગમો સૌથી ઉપયોગી છે તે પણ બદલાવે, તેથી એવા સંશોધનને સમર્થન આપવું મહત્વપૂર્ણ છે જે આજે પ્રબળ પદ્ધતિઓ અમારી અપેક્ષા મુજબ સ્કેલ ન થાય તો પણ મહત્વ ધરાવે. એવા સંભવિત વિશ્વોમાં મજબૂત બાહ્ય ઇકોસિસ્ટમ હોવું ખાસ મહત્વપૂર્ણ બને છે, જે પાયાના, ધારણાત્મક અને પરસ્પર અસંબંધિત કામ કરી રહ્યું હોય. AI એલાઇન્મેન્ટ અને સલામતીની સમસ્યા અપૂર્વ મહત્વ ધરાવે છે, અને ક્ષમતાઓ આગળ વધતી રહે તેમ કયા અભિગમો સૌથી ટકાઉ સાબિત થશે તે આપણે હજી જાણતા નથી, તેથી સૌનો સહયોગ જરૂરી છે.
અમારી ગ્રાન્ટ. વર્તમાન વિનિમય દરે અંદાજે £5.6 મિલિયન. The Alignment Project ને સહ-નાણાં આપશે(નવી વિન્ડોમાં ખૂલે છે) અન્ય જાહેર, પરોપકારી અને ઉદ્યોગ આધારકોની સાથે. કુલ ફંડ £27 મિલિયનથી વધુ છે અને વિશ્વભરના એલાઇન્મેન્ટ સંશોધન પ્રોજેક્ટ્સના વ્યાપક પોર્ટફોલિયોને ટેકો આપવા માટે રચાયેલ છે, જેમાં computational complexity theory, economic theory and game theory, cognitive science, and information theory and cryptography જેટલા વૈવિધ્યસભર વિષયો આવરી લેવાય છે. વ્યક્તિગત પ્રોજેક્ટ્સને સામાન્ય રીતે £50,000 થી £1 મિલિયન સુધી ફંડ આપવામાં આવે છે, અને તેમને વૈકલ્પિક રીતે કમ્પ્યુટ સ્રોતો તથા નિષ્ણાત સહાય પણ મળી શકે છે.
અમારું ફંડિંગ કોઈ નવો કાર્યક્રમ કે પસંદગી પ્રક્રિયા બનાવતું નથી, અને હાલની પ્રક્રિયાને પ્રભાવિત પણ કરતું નથી. તે વર્તમાન ચક્રમાં નાણાં મેળવી શકે એવા પહેલાથી ચકાસાયેલા, ઉચ્ચ ગુણવત્તાવાળા પ્રોજેક્ટ્સ(નવી વિન્ડોમાં ખૂલે છે)ની સંખ્યા વધારે છે.
UK AISI આ સ્તર અને વ્યાપમાં એલાઇન્મેન્ટ ફંડિંગને દિશા આપવા માટે સારી સ્થિતિમાં છે. તે સરકાર, અકાદમીયા, પરોપકાર અને ઉદ્યોગને આવરી લેતું સ્થાપિત ક્રોસ-સેક્ટર ગઠબંધન લાવે છે, સાથે જ પહેલેથી જ ચાલુ ગ્રાન્ટમેકિંગ પાઇપલાઇન અને નિષ્ણાત સમીક્ષા પાર કરી ચૂકેલા પ્રસ્તાવોના મોટા સમૂહ સાથે. Department for Science, Innovation and Technology (DSIT) હેઠળની UK સરકારની સંશોધન સંસ્થા તરીકે, તેનું મંડેટ ગંભીર AI જોખમો પર કેન્દ્રિત છે અને તેને સંશોધન ફંડિંગ કાર્યક્રમો ચલાવવાનો અનુભવ પણ છે.
કારણ કે AIનું ભવિષ્ય કોઈપણની આગાહી મુજબ બરાબર ખુલશે જ એવું નથી, અને તે ખૂબ જ ઝડપથી આગળ વધી પણ શકે છે, અમે માનીએ છીએ કે લોકતંત્રીકરણ, “AI resilience,” અને પુનરાવર્તિત ડિપ્લોયમેન્ટ અનિવાર્ય છે. OpenAIમાં અમે અમારી અત્યાધુનિક એલાઇન્મેન્ટ અને સલામતી સંશોધનને આગળ ધપાવતા રહેશું, પરંતુ ક્ષમતાઓ વધે તેમ પૂરક અભિગમો અપનાવતું મજબૂત, વૈવિધ્યસભર, સ્વતંત્ર ઇકોસિસ્ટમ પણ પ્રગતિ માટે લાભદાયક રહેશે. આ ગ્રાન્ટ તે લક્ષ્ય તરફનું એક પગલું છે. ક્ષેત્ર આગળ વધે તેમ અમે વિશાળ સંશોધન સમુદાય સાથે સહકાર ચાલુ રાખવાની આતુરતાથી રાહ જોઈ રહ્યા છીએ.
