Озық ЖИ үшін ортақ стандарттар құруға көмектесу
Қабілеті артып келе жатқан модельдер киберқорғанысты күшейтіп, ғылыми жаңалықтарды жеделдетіп, сараптамаға қолжетімділікті кеңейте алады. Бірақ олардың мүмкіндіктері дұрыс түсінілмесе, қорғаныс шаралары жеткіліксіз болса немесе үкіметтерде әрекет етуге қажет ақпарат болмаса, олар қауіпсіздік тәуекелдерін де тудыруы мүмкін. Пайданы қауіпсіз әрі сенімді түрде іске асыру үшін қоғамдарға қабілеті барған сайын артып келе жатқан жүйелерді бағалайтын, қорғайтын және басқаратын техникалық әрі басқарушылық әлеуеті бар институттар қажет болады.
OpenAI-дың Linux Foundation қолдауындағы Appia Foundation(жаңа терезеде ашылады) қорын құруға көмектесуінің бір себебі де осы. Appia халықаралық стандарттар мен қалыптасқан шеңберлерді ЖИ құндылық тізбегі бойынша практикалық бағалау өлшемшарттарына айналдыруға арналған ашық, модульдік спецификациялар әзірлейді. Оның жұмысы модельдер, инфрақұрылым және қолданбалар әртүрлі ұйымдарда әзірленген кезде үшінші тараптар стандарттарға сәйкестікті тексеріп, анағұрлым түсінікті әрі қайта пайдалануға болатын дәлелдер жасайтын аса қажет сенім қабатын қалыптастыруға көмектесе алады. Осы жұмысты атқара отырып, Appia ұлттық және халықаралық институттарға бір-бірінің жұмысына сенуге мүмкіндік беретін ортақ техникалық тіл қалыптастыруға көмектеседі.
Біз бұл бастаманы озық ЖИ жүйелеріне қажет институттарды, стандарттарды және бағалау тәжірибелерін нығайтуға бағытталған кеңірек жұмыстың маңызды келесі қадамы деп санаймыз.
Жуырдағы озық ЖИ-ді демократиялық басқару жөніндегі жобамыз осы жұмысқа жол картасын ұсынады. Онда тұрақты АҚШ шеңбері, күшейтілген ЖИ стандарттары мен инновациялары орталығы (CAISI) және үкімет ауқымындағы кеңірек орнықтылық стратегиясы қажет екені айтылған. Онда шекаралық тәуекелдер ауқымы жағынан халықаралық екені де мойындалады. Елдер үйлесімді қауіпсіздік шеңберлерін, тәуекел нәтижелерін бөлісудің сенімді арналарын және инциденттерге үйлестірілген ден қоюды әзірлеу үшін бірлесіп жұмыс істеуі керек.
Ұлттық әлеует пен халықаралық ынтымақтастық бірін-бірі күшейтуі тиіс. CAISI сияқты мықты институттар техникалық сараптаманы дамытып, озық жүйелерді бағалап, тәуелсіз бағалау экожүйесін қолдай алады. Қабілетті ұлттық институттар желісі кейін ортақ әдістерді орнықтырып, сенімді дәлелдерді мойындай алады және үкіметтерге бірлесіп әрекет ету үшін қажет ортақ техникалық түсінік бере алады.
Бұл жұмыста стандарттар негізгі рөл атқарады және олар сенімді бағалау тәжірибесі мен техникалық қатаңдыққа негізделуі тиіс. Біздің сенімді үшінші тарап бағалауларына арналған ортақ нұсқаулығымызда озық бағалаулар барған сайын нені ашып көрсетуі қажет екенін сипаттадық: сыналған жүйе, оның құралдарға қолжетімділігі мен тапсырма ортасы, мүмкіндіктерді анықтау үшін қолданылған әдістер, қолжетімді ресурстар және нәтижелерді растау үшін жүргізілген тексерулер. Біз бұл қағидаттарды АҚШ CAISI және Ұлыбритания AISI ұйымдарымен тестілеу серіктестіктері арқылы да іс жүзінде қолдандық; олардың озық мүмкіндіктерді бағалау және биологиялық мақсатта теріс пайдаланудан қорғау жөніндегі жұмысы жүйелерімізде нақты жақсартуларға әкелді. Бұл жұмыс өнімділікті салыстырмалы түрде тексеру үшін стандарттауға болатын тәжірибелерге негіз қалауда маңызды қызмет атқарады.
Бұл тәжірибелер OpenAI-дың кеңірек қауіпсіздік инфрақұрылымын толықтырады. Біздің Дайындық шеңбері — ішкі тәжірибелерімізді қоса алғанда, озық ЖИ жүйелерінен туындайтын ең елеулі тәуекелдерді басқару тәсілімізді қалай айқындап, іске асыратынымыздың негізі. Біздің Озық ЖИ-ді басқару шеңбері осы тәсілдің тиісті бөліктерін тәуекелді бағалау, модель туралы есеп беру, қауіпсіздік бақылаулары, инциденттерге ден қою және сыртқы сарапшылар пікірін ескеру сияқты нақты реттеуші міндеттемелерге бағытталған жария басқару құжатына енгізеді. Бұл материалдар кең ауқымды міндеттемелерді тексеруге және жақсартуға болатын операциялық тәжірибелерге айналдыруға көмектеседі.
Appia жұмысы келесі міндетке бағытталған: осы тәжірибелердің ұйымдар, юрисдикциялар және жеткізу тізбегі арасында өзара үйлесімді болуын қамтамасыз ету.
OpenAI стандарттар мен стандарттау алдындағы бастамалардың кеңірек экожүйесіне қазірдің өзінде үлес қосып келеді. Біз Стандарттау жөніндегі халықаралық ұйым мен Халықаралық электротехникалық комиссияның Жасанды интеллект жөніндегі 1-бірлескен техникалық комитетінің 42-кіші комитетіне(жаңа терезеде ашылады) және Ұлттық стандарттар және технологиялар институты жетекшілік ететін Жасанды интеллект консорциумына(жаңа терезеде ашылады) қатысамыз; Озық модельдер форумын және Linux Foundation-ның Агенттік жасанды интеллект қорын(жаңа терезеде ашылады) құруға көмектестік; Қауіпсіз жасанды интеллект коалициясына(жаңа терезеде ашылады) қатысамыз; Контенттің шығу тегі мен түпнұсқалығы коалициясының(жаңа терезеде ашылады) басқарушы комитетінде қызмет етеміз; сондай-ақ өзара үйлесімді техникалық стандарттарды ілгерілету үшін Интернет инженерлік жұмыс тобы(жаңа терезеде ашылады) мен Fast Identity Online альянсы(жаңа терезеде ашылады) процестеріне қатысамыз.
Осы форумдардың бәрінде, енді Appia арқылы да, мақсатымыз — озық әзірлемелерден алынған сабақтарды үкіметтер, компаниялар және тәуелсіз бағалаушылар әртүрлі юрисдикцияларда қолдана алатын ашық, техникалық негізделген тәжірибелерге айналдыру.
