ЖИ саясатының терезесі ашық. Әрекет етуіміз керек.

ЖИ мүмкіндіктерінің жаңа кезеңіне жеттік, енді ЖИ саясаты да жаңа кезеңге өтуі керек. Бұл сын-қатерді ешбір компания, сала немесе үкімет жалғыз өзі еңсере алмайды. Біз бұл сәтте саясатты мінсіз етуге емес, мәнді әрекетке басымдық беруіміз керек.

Біз мыналарды істеп жатырмыз:

1. Ұлттық деңгейде ЖИ қауіпсіздігіне қойылатын міндетті талаптарды енгізуге ұмтылу. Міндетті, мүмкіндіктерге негізделген ұлттық ЖИ қауіпсіздігін реттеу мәселесі бойынша Конгреспен жұмыс істегіміз келеді.

2. Штаттардағы қарқынды сақтау. Конгресс әрекет еткенге дейін, ЖИ қауіпсіздігінің кеңірек экожүйесін күшейтетін штаттық заңнаманы қолдауды жалғастырамыз. Бүгін Калифорниядағы төрт заң жобасын қолдайтынымызды жариялаймыз: тәуелсіз қауіпсіздік бағалауларына арналған жалпы инфрақұрылым туралы SB 813, ЖИ аудиторларына арналған стандарттар туралы AB 1405, жастарды қорғау туралы SB 1119 және ЖИ көмегімен туындайтын биологиялық қауіптерден қорғаныс шаралары туралы AB 1864.

3. Сала басқаратын стандарттарды ілгерілету. Үкіметтің қолдауымен немесе онсыз да, ерікті бастаманы қазірден құра отырып, озық жасанды интеллект стандарттарын ілгерілету үшін басқа озық зертханалармен жұмыс істейміз.

4. Жаһандық стандарттарды қалыптастыру. Модель мүмкіндіктерінің ілгерілеуін баяулатуды білдірсе де, мүмкіндіктерді өлшеу, тәуекелдерді басқару, адам бақылауын сақтау және әзірлеуді қашан әрі қалай баяулату не тоқтату керектігін айқындау үшін үйлесімді халықаралық тәсілдерді қолдаймыз.

Бас ғалымымыз Якуб Пахоцки жуырда машина зердесінің жылдам өсуі, соның ішінде рекурсивті өзін-өзі жетілдіру әлеуеті «аса сақ болуды» талап ететінін жазды⁠. OpenAI сәйкестендіру мен мониторингтің техникалық шешімдерін іздеуді, қорғаныс жүйелерін құруды және қажет кезде әзірлеуді баяулатуды жалғастырады. Бірақ жекелеген зертханалардағы техникалық жұмыс жеткіліксіз. Бізге ортақ стандарттар, соның ішінде әзірлеуді қашан баяулату не тоқтату керектігі туралы талаптар да қажет.

Мәселенің маңызы орасан. Озық ЖИ жаңа дәрілерді⁠ әзірлеуді жеделдетіп, маңызды инфрақұрылымды⁠ нығайтып, экономикалық мүмкіндіктерді⁠ кеңейтіп, адамзат бірнеше буын бойы шеше алмаған ғылыми мәселелерді⁠ шешуге көмектесе алады. Алайда модельдерді пайдалы ететін мүмкіндіктер тәуекелдермен қатар жүреді және олар санаулы озық зертханалармен шектеліп қалмайды. Әлем бойынша әзірленген модельдер, соның ішінде ашық модельдер, бүгінгі озық деңгейге барған сайын жақындап, кеңінен қолжетімді болады.

Astra мүмкіндіктері, ЖИ жеделдеткен зерттеулердің алғашқы дәлелдері және Якубтың эссесі бір бағытты көрсетеді: ЖИ қарқынды дамып жатыр, ал саясат та соған ілесуі керек.

Грег Брокман «қорғанушылардың уақыт терезесін сипаттады»⁠(жаңа терезеде ашылады): бұл — қуатты шабуыл мүмкіндіктері кең таралмай тұрып, озық ЖИ қорғанушыларға маңызды жүйелерді нығайтуға көмектесе алатын шектеулі кезең. Саясаткерлер де осындай кезеңде тұр: ЖИ мүмкіндіктері оларды басқаруға жауапты мекемелерден озып кетпей тұрып, орнықты қорғаныс шараларын белгілеуге арналған уақыт азайып барады.

Мүмкіндіктер өскен сайын ЖИ дамуының қарқынын қауіпсіздікке деген сенім барған сайын айқындауы тиіс. Қауіпсіздік ілгерілеуге кедергі емес; керісінше, ол ілгерілеудің одан әрі жалғасып, көбірек адамға пайда әкелуіне мүмкіндік береді.

Модель әзірлеудің бүкіл циклі бойында мониторингті, сәйкестендіруді және қауіпсіздік шараларын күшейттік. Бұған озық зерттеу жүктемелерін мықтырақ оқшаулау, құралдармен оқыту мен бағалау кезіндегі модель әрекетін кеңірек бақылау және алаңдаушылық тудыратын мәселелерді қашан жоғары деңгейге жеткізу керегіне қатысты нақтырақ ережелер кіреді. Astra үшін ойлау тізбектерін қоса алғанда толық траекторияларды жаппай бақылауды және ішкі қолданысты кеңейту алдында міндетті сәйкестендіру бағалауынан өту талабын да енгіздік.

Бұл қорғаныс шаралары мүмкіндіктерден үнемі озық тұруы керек. Жұмысты жалғастыру қауіпсіздікке жол бергісіз тәуекел тудырса, бұған дейін істегеніміздей және біздің Дайындық шеңберімізге⁠(жаңа терезеде ашылады) сәйкес, жеткілікті қорғай алмайтын жүйелерді әзірлеуді немесе енгізуді баяулатамыз не тоқтатамыз.

ЖИ жүйелері барған сайын қабілетті ЖИ буындарын өздігінен әзірлейтін толық автономды рекурсивті өзін-өзі жетілдіру қазір болып жатқан жоқ. Оның қауіпсіздігі қамтамасыз етілмейінше, біз бұған ұмтылмауымыз керек.

Дегенмен ЖИ модельдердің келесі буынын әзірлеу мен сәйкестендіруге қажет зерттеудің кей бөліктерін қазірдің өзінде жеделдетіп отыр. Біздің соңғы зерттеуіміз⁠ ЖИ агенттері білікті зерттеушілерге бірнеше күн қажет болатын кейбір тапсырмаларды орындай алатынын көрсетті. Бұл рекурсивті өзін-өзі жетілдіру емес, бірақ даму бағытының дәлелі.

Бұл жеделдетуді қауіпсіздікке де бағыттауға болады әрі бағыттау қажет. Мақсатымыз — адам бақылауымен жұмыс істеп, терең оқыту мен сәйкестендіруді ілгерілететін автоматтандырылған ЖИ зерттеушілерін қауіпсіз құру. Әр ЖИ буыны келесісін жай ғана қабілеттірек емес, қауіпсізірек, адам мақсаттарына сай әрі басқаруға оңай етуге көмектесуі тиіс.

Үкіметтер бұл ілгерілеуді өлшеудің ортақ тәсілдерін әзірлеп, адамның мәнді бақылауын сақтауы және әзірлеуді қашан әрі қалай баяулату не тоқтату керектігін айқындайтын ортақ қауіпсіздік шектерін белгілеуі керек. Егер мүмкіндіктердің өсуін баяулатпай, белгілі бір қауіпсіздік шектеріне сай келе алмасақ, біріншісіне басымдық беруіміз керек. Технология неғұрлым қуатты болса, оны қорғайтын шаралар соғұрлым мықты болуы керек.

ЖИ арқылы жеделдетілген ЖИ дамуының перспективасы ерікті міндеттемелерден де көп нәрсені талап етеді. Америка Құрама Штаттарына технология дамыған сайын бірге дами алатын, мүмкіндіктерге негізделген міндетті ұлттық реттеу қажет.

Біздің Озық ЖИ-ді демократиялық басқару жоспары⁠ орнықты федералдық жүйеге апарар жолды белгілейді: ортақ тестілеу және тәуелсіз бағалау талаптары, киберқауіпсіздікті қорғаудың күшейтілген шаралары, оқиғалар туралы есеп берудің нақты ережелері, ұлттық дайындықтың артуы және рекурсивті өзін-өзі жетілдіру жолындағы ілгерілеуді бақылаудың ортақ өлшемдері.

Конгресте озық ЖИ қауіпсіздігіне қатысты бірнеше салмақты ұсыныс қазір пысықталып жатыр. Біз сындарлы түрде атсалыса береміз және қауіпсіздік деңгейін едәуір көтеретін заңнаманы қолдаймыз деп күтеміз. Мәселе осынша жоғары болған кезде мінсіздікке ұмтылу жақсы қадамдарға кедергі болмауы тиіс. Конгресс сессия аяқталмай тұрып әрекет етуі керек.

Ұлттық шеңбер берік, бірақ нысаналы болуы керек. Озық қауіпсіздік талаптары ең қабілетті жүйелерді әзірлейтін, ресурсы мол санаулы зертханаларға қолданылуы керек — озық деңгейден алыс жұмыс істейтін стартаптарға, шағын әзірлеушілерге немесе зерттеушілерге емес. Міндеттемелер мүмкіндіктер мен тәуекелдерге сай болуы керек.

Озық қауіпсіздік саясаты да басқа атаумен аталатын ашық салмақтар саясатына айналмауы керек. Ашық модельдер, әсіресе киберқауіпсіздікте және егемендік, қауіпсіздік немесе деректердің орналасу аймағына қатысты қажеттіліктер жергілікті орналастыруды қолдаған жағдайда, шешімнің бір бөлігі бола алады. Олардың көбі озық деңгейде емес, құн, бақылау және кідіріс бойынша бәсекелеседі. Ашық салмақтар және ЖИ саласындағы америкалық көшбасшылық туралы хатқа⁠(жаңа терезеде ашылады) қол қойғанда мәлімдегеніміздей, Америкаға ашық та, жабық та модельдер қажет. Федералдық құрылым бәсекені әлсіретпей, нарықтағы қазіргі жетекші компаниялардың үстемдігін нығайтпай немесе инновацияны шетелге ығыстырмай, озық мүмкіндіктер мен тәуекелдерді шешуі тиіс.

Салмақты қоғамдық жүйе биліктің шоғырлануын арттырмай, азайтуы керек. Бүгінде озық зертханалар озық тәуекелдерді басқару ережелерін көбіне өздері белгілейді. Демократиялық есептілікке негізделген стандарттар, тәуелсіз тексеру және нақты ашықтық жекеменшік басқарудың сол бытыраңқы жүйесін алмастырар еді.

Бұл америкалық көшбасшылық үшін аса маңызды. АҚШ ЖИ дәуірінде тек мүмкіндіктердің арқасында жеңе алмайды. Адамдар, мекемелер мен үкіметтер технологияға оны қабылдайтындай дәрежеде сенбесе, техникалық басымдықтың мәні шамалы болады. Мықты қорғаныс шаралары инновациядан бас тарту емес. Олар ЖИ-ді кеңінен енгізуге және Американың ұзақ мерзімді көшбасшылығына қажетті инфрақұрылымның бір бөлігі.

ЖИ бойынша ұлттық стандарттар бізге өте қажет, әрі ЖИ-дің озық бағытында жұмыс істейтін кез келген адам мұның қаншалықты шұғыл екенін көре алады. Конгресс әрекет еткенге дейін штаттар олқылықтың орнын толтыру және талап деңгейін көтеру үшін қадам жасай беруі керек.

OpenAI Калифорнияның SB 53, Нью-Йорктің RAISE Act, Иллинойстың SB 315 заң жобаларын, сондай-ақ Массачусетсте қаралып жатқан озық ЖИ қауіпсіздігі туралы заңнамадағы тәуелсіз аудит талаптарын қолдады. Штаттарды осы ортақ қорғаныс шаралары төңірегінде үйлесуге шақырамыз. Осылайша олар Конгресс түптеп келгенде заңмен бекіте алатын іс жүзіндегі ұлттық базалық талаптарды қалыптастыра алады — біз бұл тәсілді ⁠кері федерализм⁠ деп атаймыз. Алайда үйлестіру талаптарды өзгеріссіз қалдыруды білдірмейді.

Бүгін біз заң шығарушы органнан өтіп, губернатор Ньюсомға жіберілген Калифорнияның тағы төрт заң жобасын ресми түрде қолдаймыз. Олар бірге ЖИ қауіпсіздігі экожүйесінің бірін-бірі толықтыратын бөліктерін қамтиды.

SB 813⁠(жаңа терезеде ашылады) ЖИ тәуекелдерін бағалай алатын білікті, тәуелсіз ұйымдарды тағайындау тәртібін белгілер еді. Біздің ⁠(жаңа терезеде ашылады)озық ЖИ қауіпсіздігі жоспарымызда⁠(жаңа терезеде ашылады) мәлімдегеніміздей, тәуелсіз техникалық бағалаудың федералдық деңгейде талап етілгенін жөн көреміз. Онда саясаткерлер бағалаушылардың біліктілігіне, қауіпсіздікке және аса құпия ақпаратқа қол жеткізуге қатысты бірыңғай стандарттар белгілей алады. Алайда федералдық шаралар болмаған жағдайда, Калифорния қауіпсіз, қабілетті және қауіпсіздік нәтижелерін жақсартатын ұлттық тәуелсіз бағалау жүйесінің ережелерін қалыптастыруға көмектесе алады.

AB 1405⁠(жаңа терезеде ашылады) ЖИ аудиторларына тіркеу, тәуелсіздік, ашықтық және есеп берушілік талаптарын енгізер еді.

SB 1119⁠(жаңа терезеде ашылады) серіктес чатботтарды пайдаланатын балалар мен жасөспірімдер үшін жасты растауды, тәуекелдерді бағалауды, тәуелсіз аудитті, ата-ана бақылауын және зиянды контенттен қорғау шараларын талап етер еді. Біз жақында осы заң жобасын қолдайтынымызды білдірдік⁠. Ол OpenAI өз өнімдері, ⁠жаһандық саясат қағидалары⁠ және ⁠(жаңа терезеде ашылады)Ата-аналар мен балаларға арналған қауіпсіз ЖИ туралы заңды⁠(жаңа терезеде ашылады) қолдау арқылы ілгерілеткен жастар қауіпсіздігі шараларына, сондай-ақ ChatGPT for Teens жүйесіне енгізілген қорғау шараларына, соның ішінде сезімтал салалардағы қатаң бастапқы параметрлерге, Тыныш уақытқа, Оқу уақытына және үзіліс туралы еске салғыштарға сүйенеді.

AB 1864⁠(жаңа терезеде ашылады) ген синтезі қызметін көрсетушілер мен үстел үсті синтез жабдықтарын өндірушілерден федералдық скрининг стандарттарын сақтауды талап етіп, ЖИ қолдайтын биологиялық қауіптерге қарсы маңызды физикалық қорғанысты күшейтер еді.

Бұл заң жобаларының кейбірін бұрын қолдамадық, ал қазір байқалған мүмкіндіктердің жуырдағы күрт артуын ескере отырып, қайта қарастырғаннан кейін қолдап отырмыз.

Бұл заң жобалары федералдық реттеуді алмастырмайды. Олар адамдарды қазірден қорғай алатын, іске жарамды қорғау шараларының қандай болатынын көрсететін және федералдық шараларға серпін беруге көмектесетін елеулі талпыныстар.

Заңдардың өзі озық ЖИ-ді қауіпсіз етпейді. Ең қабілетті жүйелерді әзірлейтін зертханалардың ішінде де нақты тәжірибелер қажет. Бастау үшін ең шұғыл бағыт — мониторинг.

Бұл әсіресе сәйкессіздік жағдайында маңызды: модель сана-сезімі немесе қасақана ниеті болмаса да, адам ниетін не белгіленген шектерді бұзатын тәсілдермен мақсатқа ұмтылған кезде. Модельдер көбірек дербестікке ие болып, қуаттырақ құралдарды қолданып, ұзақ уақыт жұмыс істеген сайын, әзірлеушілерден мұндай сәйкессіз әрекеттерді бақылап, тиімді қорғаныс шараларының бар екенін дәлелдеу талап етілуі керек.

Мониторинг ақпаратты ашудың нақты талаптарымен байланысты болуы тиіс. Калифорнияда қолдағанымыздай, компаниялар әзірлеу немесе бағалау барысында олардың модельдері басқа ұйымның қауіпсіздік бақылау тетіктерін рұқсатсыз айналып өтіп, сол ұйымның қорғалған жүйелеріне не құпия ақпаратына елеулі түрде қол жеткізсе, оларды өзгертсе немесе жойса, зардап шеккен тараптарға көмексөз жазбаша хабарлама беруге міндеттелуі тиіс. Біз сондай-ақ ЖИ-ге қатысты басқа да елеулі оқиғалар жөніндегі федералдық есептілік талаптарын қолдаймыз және қандай оқиғалар қамтылуы керегін әрі бұл талаптар нені көздеуі тиіс екенін айқындау бойынша жұмыс істеп жатырмыз.

Өткен аптада хабарлағанымыздай, OpenAI елеулі сәйкессіздік оқиғалары туралы есеп беруге және озық модельдердің, соның ішінде ішкі қолданыстағы белсенділігін жүйелі бақылауға арналған шеңбер әзірлеп жатыр. Бұл компания басқаратын бастама ретінде қолға алынып жатыр, бірақ оның ауқымдырақ федералдық саясат пен есеп беру талаптарын қалыптастыруға көмектеседі деп үміттенеміз.

Біз басқа зертханалармен сала бастамасымен әзірленетін стандарттар бойынша жұмыс істегіміз келеді. Сала бастамасымен әзірленетін кез келген стандарт міндетті федералдық қорғаныс шаралары мен демократиялық қадағалауды толықтырады, бірақ алмастырмайды. Бірақ біз ЖИ мүмкіндіктері дамуының басқа кезеңіне өттік, сондықтан барлық мүмкіндік қарастырылуы тиіс, соның ішінде үкіметтен тыс жерде ерікті түрде не құруға болатынын дереу жасалатын қадам ретінде қарастыру да бар.

Мұндай стандарттар түптеп келгенде ұлттық шекаралардан тысқары да қолданылуы тиіс. Модельдер, зерттеулер мен техникалық сараптама әлем бойынша таралады, ал ең қабілетті жүйелердегі ақаулар олар әзірленген елден әлдеқайда тыс салдарға әкелуі мүмкін. Халықаралық деңгейде көш бастау үшін АҚШ өз елінде сенімді стандарттар орнатуы керек, әрі үйлесімді халықаралық стандарттар қажет болатынына барған сайын сенімді болып келеміз.

ЖИ саясатының терезесі әзірге ашық. Біз оны пайдалануға ниеттіміз.

Бұл шұғылдықпен, кішіпейілділікпен және бейімделуге дайындықпен әрекет етуді білдіреді. Бұл өзіміз әзірлейтін нұсқамен дәлме-дәл келмесе де, қауіпсіздік деңгейін едәуір көтеретін салмақты ұсыныстарды қолдауды білдіреді. Сондай-ақ технология дамыған сайын жүйені күшейтуді білдіреді.

Алғашқы қадамның ешқайсысы мінсіз болмайды. Бірақ қазір одан да үлкен қауіп — алғашқы қадамды тым кеш жасау.