ЖИ дамуының келесі кезеңіне арналған стандарттар
Біздің миссиямыз — жалпы жасанды интеллектінің бүкіл адамзатқа пайдасын тигізуін қамтамасыз ету. Сэм Альтман жуырда баяндағандай және Якуб Пахоцки атап өткендей, осы миссияға бағытталған жұмысымызда үш негізгі мақсатқа басымдық береміз:
Автоматтандырылған ЖИ зерттеушісін жасап, онымен бірге сәйкестендіру мәселесін кезең-кезеңімен шешу және адамдардың өзін-өзі жетілдіру үдерісіне қатысу жолдарын табу арқылы ЖИ дамуының келесі кезеңінен өту.
Аса зияткер машиналар мүмкіндік беретін ғылыми прогресс пен экономикалық өсімнің игіліктерін көпшілікке жеткізу.
Әр адамға жеке AGI беру арқылы мүмкіндіктерін кеңейту.
ЖИ өз зерттеуіміз бен инженерлік жұмысымызды жеделдетіп жатыр, ал ЖИ көмегімен жүргізілген зерттеулер математикада, соның ішінде математикалық жетістіктерге және Навье — Стокс мыңжылдық мәселесіне қатысты ілгерілеуге жол ашты. Бұл ілгерілеу қалған екі мақсатымыз үшін де зор мүмкіндік береді: ол медицинадағы маңызды жаңалықтарға, көпшілікке қолжетімді денсаулық сақтауға және бүкіл әлемдегі шағын кәсіпорындар мен жеке кәсіпкерлердің экономикалық мүмкіндіктерін кеңейтуге әкелуі ықтимал.
ЖИ көптеген компаниялар мен елдерде дамып келеді, ал бүкіл саладағы ілгерілеу баршаға ортақ мүмкіндіктер мен сын-қатерлерді өзгертеді. Басқа игіліктерімен қатар, қабілетті әрі адам құндылықтарына сәйкестендірілген ЖИ осы өтпелі кезеңнен өтуімізде маңызды рөл атқарады: қорғанысты нығайтып, сәйкестендіру зерттеулерін ілгерілетеді және адамдарға ЖИ дамуының келесі кезеңдерін түсініп, бағыттауға көмектеседі.
Бұл өтпелі кезеңнен қауіпсіз өту үшін сәйкестендіру зерттеулері осы мүмкіндіктермен қатар дамуға тиіс. Сонда біз және өзгелер жасайтын жүйелер адам құндылықтарына сай әрі адамның бақылауында қалады. ЖИ жүйелері қабілетті әрі дербес бола түскен сайын, әсіресе ЖИ-ді зерттеу мен дамытудың барған сайын көп бөлігін өздері атқара бастағанда, мұның маңызы арта береді. ЖИ-дің үздіксіз дамуын қауіпсіз әрі пайдалы ету үшін сәйкестендіру зерттеулеріндегі жетістіктер де, зертханалар мен елдердегі дамуды бағыттайтын ортақ стандарттар да қажет.
Автоматтандырылған ЖИ зерттеулері адам бақылауының әртүрлі деңгейінде жүргізілуі мүмкін. ЖИ жүйелері ЖИ-дің кейінгі буындарын әзірлеу жұмысының көбірек бөлігін өз мойнына алған сайын, адамдар қатысуын жалғастырса да, олар рекурсивті өзін-өзі жетілдіру (RSI) үдерісін барған сайын көбірек қозғай алады. Бұл үдеріс автоматтандырылған сайын, ЖИ дамуының қарқыны күрт үдеуі мүмкін.
Автоматтандырылған ЖИ зерттеулері адамдардың өмірін тікелей жақсартатын модельдер береді деп сенеміз. Ол озық интеллект құнын төмендетіп, дүниежүзіндегі адамдарға оның игілігін пайдалануға мүмкіндік береді. Автоматтандырылған зерттеу сәйкестендіруді едәуір жақсартып, барған сайын қабілетті ЖИ-ден қорғану тетіктерін жасауға да көмектесе алады: автоматтандырылған ЖИ зерттеушісі ЖИ қауіпсіздігін автоматты түрде зерттеуші де бола алады. Қабілеті жоғары әрі сәйкестендірілген жүйелер аса маңызды инфрақұрылымды қорғауға, қауіпті ЖИ агенттеріне қарсы тұруға және жаңа қорғаныс шараларын әзірлеуге көмектесе алады.
Толық автономды RSI қазір жүзеге асып жатқан жоқ және оны қауіпсіз орындау мүмкін болмайынша, біз оған ұмтылмауға тиіспіз. Оны жалғастыру керек пе және қалай жалғастыру қажет деген шешім адамның бақылауын сақтау қабілетімізге және пайдасы мен тәуекелдері жөніндегі ақпаратқа негізделген демократиялық таңдауға(жаңа терезеде ашылады) тәуелді болуға тиіс. RSI тиісті ұқыптылық пен сақтықсыз жүзеге асырылса, адамдар ЖИ дамуын іс жүзінде бақылаудан айырылып, өздері енді түсінбейтін зерттеу үдерістерін қадағалай алмай қалуы мүмкін. Одан әрі ЖИ қауіптірек болып, адам құндылықтарына сәйкестігі төмендеп, жалпы алғанда адамдарға қатер төндіруі мүмкін. Біз жариялаған Hugging Face оқиғасы RSI-дің тікелей салдары болмаса да, сенімді қорғаныс шаралары мен сәйкестендіру болмаса, әлдеқайда ауыр сипат алуы мүмкін тәуекелдердің қандай болатынын аңғартады.
Озық ЖИ-ді әзірлеудегі қауіпсіздік пен қорғаныс тәжірибелеріне арналған халықаралық стандарттар технологиялық дамудың қарқынын реттеуде сәйкестендіру зерттеулерінің өзі секілді маңызды болуы мүмкін. Стандарттар сапалы дәлелдердің ортақ анықтамаларын және техникалық қорғаныс шараларының қатаңдығына қатысты келісілген базалық талаптарды қалыптастыра алады. Қысқасы, олар «ЖИ-ден туындайтын апатты тәуекелді азайтудың дұрыс тәсілі қандай?»
ЖИ стандарттары мен инновациялары орталығы (CAISI) секілді қазіргі демократиялық институттар, штат заңдары және ЖИ-ге арналған федералдық құрылым, сондай-ақ мемлекеттік-жекеменшік әріптестіктің жаңа түрлері(жаңа терезеде ашылады) бұған көмектесе алады. Алайда ЖИ бірнеше елде әзірленіп, қолданысқа енгізіліп жатыр, оны қабылдау жаһандық ауқымда жүріп жатыр және оның әсерін ерте ме, кеш пе, қандай да бір түрде барлығы сезінуі ықтимал.
Сондықтан бірқатар негізгі мәселені шешу үшін стандарттарды әзірлеуге бағытталған халықаралық күш-жігер қажет:
Бытыраңқылық — әр елдің бағалау әдістері, есептілік талаптары және оқиғаларға берген анықтамалары бір-біріне қайшы келуі мүмкін. Бұл дәлелдерді салыстыруды, жаңа мүмкіндіктерді түсінуді және шекарадан асатын тәуекелдерге жауап беруді қиындатады.
Ұжымдық әрекет — әр елдің өз бетінше әрекет етуі ешбір ел қаламайтын нәтижелерге әкелуі мүмкін. RSI ЖИ зерттеулерінің өзін жеделдете алады, тіпті ілгерілеуді ұжым болып түсіну, тәуекелдерді бағалау және адамның пәрменді бақылауын сақтау қабілетімізден асып кетуі ықтимал.
Мүмкіндіктердің тең бөлінбеуі — озық технологияларды әзірлеу қызметі мен оған қатысты сараптама дүниежүзінде біркелкі таралмаған. Бұл жоғарыдағы екі мәселені де ушықтырады.
Бұл сын-қатерлер ашық та, жабық та модельдерге қатысты.
Нақты айтқанда, автоматтандырылған ЖИ зерттеулерін немесе басқа да озық мүмкіндіктерді дамытатын кез келген ЖИ зертханасы жеке жауапкершіліктің негізгі қағидаттары мен қолданыстағы заңдарға сай олардың қауіпсіз іске асырылуына жауап беруге тиіс. Стандарттарды қолдауымыздың негізінде биліктің бір қолға шоғырлануына жол бермеу және іс жүзінде жақсырақ нәтижелерге қол жеткізу мақсаты жатыр. Стандарттар зертханалардан тыс мүдделі тараптардың да осы технологияның қалай дамуы керектігіне қатысты пікір білдіруіне мүмкіндік береді және нақты бір зертхананың тәжірибесіне қарамастан сүйенуге болатын айқын қағидаттар жиынтығын ұсынады. Жоғарыдағы мәселелерді шешу үшін тараптар ынтымақтасса, нәтижелер де жақсырақ болуы ықтимал.
Сондықтан Америка Құрама Штаттары RSI-ді де қамтитын озық ЖИ-ге арналған жаһандық техникалық стандарттарды әзірлеу үшін дүниежүзі елдерімен бірлескен бастамаға жетекшілік етуге тиіс деп санаймыз.
Бұл тұжырымдама уақыт өте едәуір өзгереді деп күтсек те, оның екі қыры аса маңызды болады.
Мұны жүзеге асырудың бір жолы — Аустралия, Канада, Германия, Франция, Кения, Жапония, Корея, Сингапур, Үндістан және Ұлыбританияда құрылған ЖИ қауіпсіздігі институттарының қалыптасып келе жатқан желісін пайдалану. Олар CAISI және ұлттық салалық ұйымдар арқылы стандарттар әзірлеуге көмектесіп, (1) мүмкіндіктер эталондары бойынша бағаланатын озық ЖИ модельдері мен әзірлеушілеріне және (2) автоматтандырылған ЖИ зерттеулерінің, соның ішінде RSI-дің пайдасы мен тәуекелін басқаруға ерекше назар аудара алады. Америка Құрама Штаттары ЖИ-ді өлшеу, бағалау және зерттеу саласындағы ынтымақтастық үшін мемлекеттік мекемелерді біріктірген CAISI-дің 2024 жылы Озық ЖИ-ді өлшеу, бағалау және зерттеу жөніндегі халықаралық желіні(жаңа терезеде ашылады) құру бастамасын одан әрі дамыта алады.
Осы бастама аясында әзірленген стандарттар мүмкіндіктерді өлшеу мен бағалауға, тәуекелдерді бағалауға және қорғаныс шараларының жеткіліктілігін анықтауға ортақ техникалық негіз береді. Бұл техникалық стандарттар ЖИ модельдеріне арналған лицензиялар, шығарылым алдындағы міндетті тексеру немесе мақұлдау талаптары болмайды. Ұлттық үкіметтер бұл стандарттарды өз құқықтық жүйелеріне енгізу қажет пе және қалай енгізу керектігін өздері шешеді.
Бұл жұмыс ашық және жабық модель әзірлеушілерімен, тәуелсіз техникалық сарапшылармен және ғылыми ортамен кеңесу арқылы бәсекелі ЖИ экожүйесін де қолдауға тиіс. Ортақ стандарттар ашық әзірленіп, белгілі бір компанияларға, елдерге немесе бизнес модельдеріне артықшылық бермейтіндей жобалануға тиіс. Соның ішінде олар нарыққа жаңадан кіретіндерге немесе салмақтары ашық модельдерді әзірлеушілерге бәсекелесуді қиындатпауы керек.
Біз ұсынғандай(жаңа терезеде ашылады), бұл тәсіл елдер ұлттық өкілеттіктерінен бас тартпай-ақ ортақ техникалық стандарттар мен сенімді ынтымақтастық арналарын қалыптастырған авиация және қаржылық тұрақтылық секілді салалардың тәжірибесін пайдалана алады. Ол сондай-ақ ISO(жаңа терезеде ашылады), Озық модельдер форумы(жаңа терезеде ашылады), Агенттік ЖИ қоры(жаңа терезеде ашылады) және Ашық әрі қауіпсіз ЖИ альянсы(жаңа терезеде ашылады) секілді бұрыннан бар және жаңа стандарттау ұйымдарымен, сондай-ақ халықаралық стандарттарды ЖИ-ді нақты жағдайда бағалаумен байланыстыратын практикалық сипаттамаларды әзірлеп жатқан Appia қорымен тығыз жұмыс істеуге тиіс.
Халықаралық ЖИ стандарттары ЖИ зерттеулеріндегі артып келе жатқан дербестікті және рекурсивті өзін-өзі жетілдіруді басқаруда ерекше маңызды болады. Атап айтқанда, олар мына салаларға арналған стандарттарды қамтуы мүмкін:
RSI-ге қатысты ЖИ дамуын және ЖИ компаниясында жүргізіліп жатқан автономды зерттеулер көлемін бағалау. Зерттеулерді жеделдету туралы жуырдағы есебіміз — осы іске қосқан алғашқы үлесіміз.
Автоматтандырылған ЖИ зерттеулерін адамның қадағалауы, соның ішінде автоматтандырылған ЖИ зерттеу үдерістерінің қай түрлері адамның дереу тексеруін қажет ететінін анықтау.
Сәйкестендіру мен автоматтандырылған ЖИ зерттеулеріне қатысты оқиғаларды жіктеу, бақылау, хабарлау және оларға ден қою, соның ішінде оқиғалардың ауырлық деңгейлері мен хабарлау шектерін ортақ белгілеу. Сәйкессіздік туралы хабарлау құрылымымыз — осы бағыттағы алғашқы үлесіміз.
Осы стандарттарға қоса, бүкіл әлемдегі аса маңызды инфрақұрылым операторлары мен үкіметтер ұлттық қауіпсіздікке қатысты алаңдаушылықтар, жаңа осалдықтар мен қатерлер, сондай-ақ озық ЖИ қауіпсіздігінің тез дамып жатқан саласындағы озық тәжірибелер туралы ақпарат алмасу үшін қорғалған байланыс арналарын құруы маңызды деп санаймыз. Осы салалардағы Америка Құрама Штаттары мен Қытай арасындағы диалог оң қадам болар еді, ал алдағы келіссөздер дәл уақытында өткелі отыр.
ЖИ дамуының қарқынын реттеу алдын ала белгіленген жылдамдықты сақтау дегенді білдірмейді. Техникалық тұрғыдан бұл сәйкестендіру зерттеулері мен олардың нәтижелерін енгізу мүмкіндіктер дамуынан озық болуын қамтамасыз ету дегенді білдіреді. Қоғамдық тұрғыдан бұл стандарттар, институттар мен ынтымақтастық арқылы өнеркәсіптік желілердің, қоғамдық байланыстардың және нарықтық күштердің әлеуетін арттырып, баршаға тиімді нәтижелерге қол жеткізуді білдіреді. Жуырдағы киберқорғаныс саласында бірлесіп әрекет етуге үндеу — осы екінші тәсілдің мысалы.
Америка Құрама Штаттарының көш бастауына мүмкіндігі мол, өйткені оның ЖИ индустриясы технологиялық дамудың алдыңғы шебінде және ел қаржы, сауда, қорғаныс, технологиялар мен ақпараттық жүйелер секілді маңызды салаларда жаһандық желідегі артықшылықты орнын әлі де сақтап отыр. Қазір көш бастау Америка Құрама Штаттарының ЖИ-ге қатысты жаһандық құрылымды өзі қалыптастыратынын немесе айналасында бытыраңқы, теңгерімсіз әрі қақтығыстарға толы жүйенің орнығуын сырттай бақылайтынын айқындайды. Бұл озық ЖИ-дің Америка Құрама Штаттары мен оның одақтастарында бар желілерді нығайтатынын да айқындайды; көш бастамау оларды әлсіретуі мүмкін.
Геосаяси бәсеке тек техникалық тұрғыдан кімнің алда екеніне ғана емес, ЖИ-ді енгізу мен таратуға да қатысты болады. Болашақтарын осы технологиямен байланыстыруға дайын әлемдегі кәсіпорындар мен қоғамдар үшін шынайы ынтымақтастық орнатып, орынды ережелерді кім ұсынатыны ЖИ-ді енгізу мен таратуды барған сайын көбірек айқындауы мүмкін.
Іс жүзіндегі халықаралық ынтымақтастықпен ұштасқан мықты ұлттық басқару сенімді қорғаныс шараларына, үздіксіз инновацияға және ЖИ игіліктерінің кеңінен қолжетімді болуына жол ашады.
