AI үйлесімі бойынша тәуелсіз зерттеуді ілгерілету

AI жүйелері анағұрлым қабілетті әрі автономды бола түскен сайын, үйлесім жөніндегі зерттеулер де осы қарқынға ілесіп, әртүрлілігін кеңейтуі керек. OpenAI-де біз озық үйлесім мен қауіпсіздік зерттеулеріне мол инвестиция саламыз, өйткені бұл біздің миссиямыз үшін аса маңызды. Сондай-ақ AGI-дің баршаға қауіпсіз әрі пайдалы болуын қамтамасыз етуге бірде-бір ұйым жалғыз өзі қол жеткізе алмайды деп сенеміз және озық зертханалардан тыс жерде дамытылатын тәуелсіз зерттеулер мен тұжырымдамалық тәсілдерді қолдағымыз келеді.

Бүгін біз Ұлыбританияның AI Security Institute (UK AISI) құрған тәуелсіз үйлесім зерттеулеріне арналған жаһандық қор — The Alignment Project⁠(жаңа терезеде ашылады)-ке $7.5 миллион грант бөлетінімізді жариялаймыз. Renaissance Philanthropy грантты әкімшілендіруге қолдау көрсетеді. Бұл үлес The Alignment Project-ті бүгінге дейінгі тәуелсіз үйлесім зерттеулеріне арналған ең ірі мамандандырылған қаржыландыру бастамаларының біріне айналдыруға көмектеседі және кеңірек тәуелсіз экожүйені нығайтады.

OpenAI сияқты озық зертханалар озық модельдерге және елеулі есептеу ресурстарына қолжетімділікке тәуелді үйлесім зерттеулерін жүргізуге бірегей жағдайда тұр — мұндай жұмысты тәуелсіз зерттеушілерге зерттеу көбіне қиын. Біз ішкі үйлесім күш-жігеріміздің көп бөлігін үйлесімдегі ілгерілеу қабілеттердегі ілгерілеуге ілесіп отыруы үшін ауқымдалатын әдістерді әзірлеуге арнаймыз. Біз итерациялық енгізу — қабілеттерді біртіндеп арттыра отырып, қорғаныс шараларын күшейту — мәселелерді ерте анықтауға көмектеседі және тәжірибеде ненің жұмыс істейтіні туралы нақты дәлел береді деп сенеміз, сондай-ақ жауапты әзірлеу модельді жасау және енгізумен тығыз біріктірілген ауқымды үйлесім мен қауіпсіздік жұмысын талап етеді деп есептейміз.

Сонымен қатар, сала тәуелсіз, ізденістік зерттеулерге тұрақты инвестициядан пайда көреді — бұл идеялар кеңістігін ұлғайтып, жаңа бағыттарды ашуы мүмкін. Тәуелсіз зерттеулер әлі де маңызды; пайдалы зерттеудің көптеген түрінде зертханалар салыстырмалы артықшылықты сақтамайды. Салауатты үйлесім экожүйесі тәуелсіз командалардың әртүрлі болжамдарды тексеруіне, балама негіздемелер әзірлеуіне және қандай да бір ұйымның жол картасына дәл келе бермейтін тұжырымдамалық, теориялық және еркін ізденіс идеяларын зерттеуіне тәуелді.

Ал AGI-ге қарай ілгерілеу түптің түбінде үйлесім мәселесінің сипатын және қай тәсілдердің неғұрлым пайдалы екенін өзгертетін іргелі серпілістерге тәуелді болуы мүмкін болғандықтан, бүгін басым болып тұрған әдістер біз күткендей ауқымдалмай шыққан күннің өзінде маңызы бар зерттеулерді қолдау маңызды. Мұндай жағдайда іргелі, тұжырымдамалық және өзара байланысы жоқ жұмыстарды атқаратын мықты сыртқы экожүйенің болуы айрықша маңызды болады. AI үйлесімі мен қауіпсіздігі мәселесінің маңызы бұрын-соңды болмаған деңгейде, сондықтан қабілеттер дами берген сайын қай тәсілдер ең төзімді болып шығатынын біз әлі білмейтіндіктен, бәріміздің күш салуымыз қажет.

Біздің грант — ағымдағы айырбас бағамы бойынша шамамен £5.6 миллион — The Alignment Project-ті бірлесіп қаржыландырады⁠(жаңа терезеде ашылады), оған мемлекеттік, қайырымдылық және индустриялық өзге демеушілер де қатысады. Жалпы қор көлемі £27 миллионнан асады және ол бүкіл әлем бойынша есептеу күрделілігі теориясы, экономикалық теория мен ойындар теориясы, когнитивтік ғылым, ақпарат теориясы мен криптография сияқты алуан тақырыптарды қамтитын үйлесім зерттеулері жобаларының кең портфелін қолдауға арналған. Жекелеген жобалар әдетте £50,000-нан £1 миллионға дейін қаржыландырылады және қосымша түрде есептеу ресурстарына қолжетімділік пен сарапшылық қолдау алуы мүмкін.

Біздің қаржыландыру жаңа бағдарлама не іріктеу процесін құрмайды және қолданыстағы процеске ықпал етпейді; ол осы кезеңде қаржыландыруға болатын алдын ала сарапталған, жоғары сапалы жобалардың⁠(жаңа терезеде ашылады) санын арттырады.

UK AISI осындай ауқым мен қамтудағы үйлесім қаржыландыруын бағыттауға жақсы орналасқан. Ол үкіметті, академияны, қайырымдылық секторын және индустрияны қамтитын қалыптасқан сектораралық коалицияны, қазірдің өзінде жүріп жатқан грант бөлу тізбегін және сарапшылардың бағалауынан өткен ұсыныстардың үлкен қорын біріктіреді. Ұлыбритания Үкіметінің Ғылым, инновация және технологиялар департаменті (DSIT) құрамындағы зерттеу ұйымы ретінде оның елеулі AI тәуекелдеріне бағытталған мандаты бар және зерттеуді қаржыландыру бағдарламаларын жүргізуде тәжірибесі мол.

AI болашағы ешкім болжағандай дәл өрбімейтіндіктен — әрі өте жылдам ілгерілеуі мүмкін болғандықтан — біз демократияландыру, «AI орнықтылығы» және итерациялық енгізу аса маңызды деп санаймыз. OpenAI-де озық үйлесім мен қауіпсіздік зерттеулерін ілгерілетуді жалғастыра отырып, қабілеттер дамыған сайын бірін-бірі толықтыратын тәсілдерді ұстанатын берік, әртүрлі және тәуелсіз экожүйе ілгерілеуге пайда әкеледі. Бұл грант — сол мақсатқа қарай жасалған бір қадам. Сала дамыған сайын кеңірек зерттеу қауымдастығымен ынтымақтастықты жалғастыруды асыға күтеміз.