Пол Кристиано OpenAI Foundation кеңесіне қосылды
Пол Кристиано қордың Қауіпсіздік және қорғаныс комитетіне де қосылады.
Пол Кристианоның OpenAI Foundation кеңесіне тағайындалғанын хабарлаймыз. Ол OpenAI Group PBC кеңесінде дауыс беру құқығы жоқ бақылаушы болады.
Пол сондай-ақ қор кеңесінің Қауіпсіздік және қорғаныс комитетіне (SSC) қосылып, оның төрағасы Зико Колтермен бірге жұмыс істейді. Қауіпсіздік және қорғаныс комитеті бүкіл OpenAI, соның ішінде OpenAI Group PBC аясындағы қауіпсіздік пен қорғаныс тәжірибелерін басқарады.
Пол АҚШ Сауда министрлігіне қарасты Ұлттық стандарттар және технологиялар институтының (NIST) ЖИ стандарттары мен инновациялар орталығында(жаңа терезеде ашылады) (CAISI) екі әкімшілік тұсында жұмыс істеп, мемлекеттік қызмет тәжірибесін жинақтады. Қазір ол онда технологиялар жөніндегі аға кеңесші қызметін атқарады1. CAISI-де және оның алдындағы АҚШ ЖИ қауіпсіздігі институтында жұмыс істеген кезінде Пол озық ЖИ модельдерін, соның ішінде ұлттық қауіпсіздікке әсер етуі мүмкін мүмкіндіктерді бағалаумен және оларға байланысты қауіпсіздік пен қорғаныс тәуекелдерін азайту тәсілдерімен айналысты.
Пол сондай-ақ озық ЖИ жүйелерін адам мүддесіне сәйкестендіруге бағытталған коммерциялық емес зерттеу ұйымы — Alignment Research Center(жаңа терезеде ашылады) (ARC) негізін қалаған. 2017–2021 жылдары Пол OpenAI-де ЖИ-ді сәйкестендіру зерттеулеріне жетекшілік етіп, адам пікіріне негізделген күшейтпелі оқыту (RLHF) бойынша іргелі жұмыстарға үлес қосты. Жаңа қызметінде Пол OpenAI-дің басқару шешімдеріне өзіндік әрі берік техникалық негізі бар көзқарас ұсынады. Біздің миссиямыз — жалпы жасанды интеллектінің бүкіл адамзатқа пайдасын тигізуін қамтамасыз ету.
“Пол мұқият жүргізілген әрі мүмкіндігі артып келе жатқан жүйелер туындататын ең күрделі мәселелерге бағытталған жұмысы арқылы ЖИ-ді сәйкестендіру саласының қалыптасуына үлес қосты. Оның мемлекеттік қызметте озық ЖИ қауіпсіздігі мен стандарттары бойынша жинаған тәжірибесі және техникалық пайымы OpenAI озық ЖИ-ді әзірлеуді және қолданысқа енгізуді жалғастырған кезде кеңестің қадағалауын және Қауіпсіздік және қорғаныс комитетінің жұмысын күшейтеді.”
“Соңғы бір жылда ЖИ мүмкіндіктері өте жылдам дамыды, ал оны адам мүддесіне сәйкестендіру әлі де күрделі техникалық мәселе болып отыр. Сондықтан Қауіпсіздік және қорғаныс комитетінің жауапкершілігі бұрынғыдан да маңызды әрі күрделі. Көмектесу үшін командаға қосылғаныма қуаныштымын.”
ЖИ мүмкіндіктері жаңа дәуірге қадам басты. Сондықтан бұл жүйелердің дамуы мықты қауіпсіздік, қорғаныс, сәйкестендіру және басқару шараларымен қатар жүруі барған сайын маңызды болып келеді. ЖИ-ді сәйкестендіруді зерттеген бүкіл мансабында Пол озық ЖИ апатты тәуекелдер тудыруы мүмкін екенін және жүйелер аса қауіпті мүмкіндік деңгейіне жетпей тұрып әзірлеушілер дайындалуы керектігін байыппен ескеретін көзқарасты ұстанды. Ол саладағы қорғаныс шараларының жеткіліктілігі туралы тәуелсіз пікір білдіріп келеді. Қалыптасқан ұстанымдарға күмән келтіруге және маңызды шешімдерге негіз болатын дәлелдерді, қорғаныс шаралары мен есептілікті нығайтуға дайын адамдар қордың басқару жүйесін күшейтеді деп сенеміз.
Полдың тағайындалуы OpenAI-дің 2025 жылғы қазандағы қайта капиталдандырылуы арқылы құрылған басқару құрылымын одан әрі нығайтады. Бұған Калифорнияның бас прокуроры(жаңа терезеде ашылады) мен Делавэрдің бас прокуроры(жаңа терезеде ашылады) бір жыл бойы жүргізген тексерулерге байланысты қабылданған міндеттемелер де кіреді. Олардың атсалысуы басқару жүйесін нығайтуға көмектесті.
OpenAI Foundation туралы
OpenAI Foundation — ЖИ-дің бүкіл адамзатқа пайдасын тигізуін қамтамасыз етуге арналған қайырымдылық ұйымы. Дербес коммерциялық емес ұйым ретінде қор OpenAI Group PBC-ді бақылауда ұстап, ондағы елеулі үлеске иелік ете отырып, өзінің қайырымдылық қызметін жүргізеді. Қор ғылыми жаңалықтарды ілгерілететін, азаматтық қоғамды нығайтатын және ЖИ-ді жауапкершілікпен пайдалану арқылы орнықтылықты арттыратын бастамаларды қолдайды. Гранттар, серіктестіктер және басқа да қайырымдылық бастамалары арқылы қор қоғамға ұзақ мерзімді пайда әкелетін жұмыстарды жеделдетуге және ЖИ-дің түбегейлі өзгеріс әкелетін әлеуетіне қолжетімділікті кеңейтуге көмектеседі.
Қор OpenAI Group PBC-ді бақылайды, ал Қауіпсіздік және қорғаныс комитеті қор кеңесінің құрамына кіреді. Толығырақ: www.openaifoundation.org(жаңа терезеде ашылады).
