OpenAI редтиминг желісі

OpenAI редтиминг желісіне ашық қабылдау жариялаймыз. OpenAI модельдерінің қауіпсіздігін арттыруға мүдделі сала мамандарын бізбен бірге жұмыс істеуге шақырамыз. ЖИ модельдерімізді мұқият бағалау және оларға редтиминг жүргізу үшін бізбен бірлесіп жұмыс істейтін әртүрлі сала мамандарын іздейміз.

Редтиминг^A — итерациялық енгізу процесіміздің⁠ ажырамас бөлігі. Соңғы бірнеше жылда редтиминг жұмысымыз OpenAI ішіндегі осалдықтарды әдейі іздейтін сынақтармен шектелмей, сыртқы сарапшылар тобымен^B ынтымақтастыққа ұласты. Олар жекелеген салаларға тән тәуекелдерді жіктеу жүйелерін әзірлеуге және жаңа жүйелердің ықтимал зиянды мүмкіндіктерін бағалауға көмектеседі. Бұрын жүргізген редтиминг жұмысымыз, соның ішінде сыртқы сарапшылармен бірге DALL·E 2⁠(жаңа терезеде ашылады) және GPT‑4⁠(жаңа терезеде ашылады) сияқты модельдер бойынша атқарған жұмысымыз туралы толығырақ оқи аласыз.^C

Бүгін осы негізге сүйеніп, модельдеріміздің қауіпсіздігін арттыру мақсатында сыртқы сарапшылармен ынтымақтастығымызды тереңдететін әрі кеңейтетін, ресми түрде ұйымдастырылған бастаманы іске қосып отырмыз. Жеке сарапшылармен, ғылыми-зерттеу мекемелерімен және азаматтық қоғам ұйымдарымен жұмыс істеу — процесіміздің маңызды бөлігі. Бұл жұмысты тәуелсіз аудит сияқты сырттан белгіленген басқару тәжірибелерін толықтыратын тәсіл деп санаймыз.

OpenAI редтиминг желісі — сенімді әрі тәжірибелі сарапшылар қауымдастығы. Ол ауқымды модельдерді қолданысқа енгізер алдында мамандарды бір рет іріктеп, бір жолғы жұмысқа тартумен шектелмей, тәуекелдерді бағалау және азайту жұмысына кеңінен үлес қосуға мүмкіндік береді. Желі мүшелері біліктілігіне қарай модельдер мен өнімдерді әзірлеу циклінің түрлі кезеңінде редтиминг жүргізуге көмектесу үшін шақырылады. Әрбір мүше әр жаңа модельге немесе өнімге қатысты жұмысқа қатыса бермейді. Бөлінетін уақыт әр мүшемен жеке келісіледі және жылына небәрі 5–10 сағат болуы мүмкін.

OpenAI тапсырысымен жүргізілетін редтиминг науқандарынан тыс уақытта мүшелер бір-бірімен редтимингтің жалпы әдістері мен нәтижелерін талқылау мүмкіндігіне ие болады. Мақсатымыз — әртүрлі көзқарастағы пікірлер мен ұсыныстардың үздіксіз түсуіне жағдай жасау және редтимингті қайталанып, жетілдіріліп отыратын процеске айналдыру. Бұл желі ЖИ қауіпсіздігіне бірлесіп үлес қосудың басқа мүмкіндіктерін, соның ішінде Зерттеушілерге қолжетімділік беру бағдарламасын⁠ және ашық кодты бағалау құралдарын⁠(жаңа терезеде ашылады) толықтырады.

Бұл желі қауіпсіздігі жоғары ЖИ технологиялары мен саясатын әзірлеуге, сондай-ақ ЖИ-дің өмір салтымызға, жұмысымызға және қарым-қатынасымызға қалай әсер ететінін айқындауға үлес қосудың бірегей мүмкіндігін ұсынады. Желіге қосылсаңыз, модельдеріміз бен жүйелерімізді енгізудің түрлі кезеңдерінде оларды бағалауға шақырылуы мүмкін сала сарапшыларының қатарына кіресіз.

ЖИ жүйелерін бағалау үшін сан алуан саланы, әртүрлі көзқарасты және өмірлік тәжірибені түсіну қажет. Әлемнің түкпір-түкпіріндегі сарапшыларды өтінім беруге шақырамыз. Іріктеу барысында географиялық және салалық әралуандыққа басымдық береміз. 

Бізді қызықтыратын салалардың кейбірі төменде берілген, бірақ бұл тізіммен шектелмейміз:

ЖИ жүйелерімен немесе тілдік модельдермен жұмыс істеу тәжірибесі міндетті емес, бірақ пайдалы болуы мүмкін. Біз үшін ең маңыздысы — сіздің қатысуға ниетіңіз және ЖИ жүйелерінің әсерін бағалауға өз көзқарасыңызбен үлес қосуға дайындығыңыз.

OpenAI редтиминг желісінің барлық мүшесіне редтиминг жобасына қатысып, қосқан үлесі үшін ақы төленеді. Желіге мүше болу зерттеулеріңізді жариялауға немесе басқа мүмкіндіктерді пайдалануға шектеу қоймайды. Дегенмен редтимингке және басқа жобаларға қатысу көбіне ақпаратты жария етпеу туралы келісімдермен (NDA) реттелетінін немесе оларға қатысты ақпарат белгісіз мерзімге дейін құпия сақталатынын ескерген жөн.

Өтінім қабылдау аяқталды.

Сұрақ: Желіге қосылу нені білдіреді?

Жауап: Желіге мүше болсаңыз, жаңа модельді немесе қолданысқа енгізілген модельдің белгілі бір қырын сынап көруді ұсыну үшін сізбен хабарласуымыз мүмкін. Бұған дейін редтиминг нәтижелерінің көбін жүйе сипаттамалары мен блог жазбаларында жариялап келгенімізбен, желі аясындағы жұмыс ақпаратты жария етпеу туралы келісім (NDA) негізінде жүргізіледі. Редтиминг жобаларына жұмсаған уақытыңыз үшін ақы төленеді.

Сұрақ: Желіге қатысуға қанша уақыт бөлу керек? 

Жауап: Бөлетін уақытыңызды өз кестеңізге қарай реттеуге болады. Әрбір жобаға желінің барлық мүшесі шақырыла бермейтінін ескеріңіз. OpenAI қатысушыларды нақты редтиминг жобасына сәйкестігіне қарай іріктейді және кейінгі редтиминг науқандарында жаңа көзқарастарға басымдық береді. Жылына небәрі 5 сағат бөлсеңіз де, біз үшін құнды. Сондықтан қызығушылығыңыз болса, уақытыңыз шектеулі болса да, өтінім беруге тартынбаңыз.

Сұрақ: Үміткерлер қабылданғаны туралы қашан хабар алады?

Жауап: OpenAI желі мүшелерін өтінімдер келіп түскен сайын іріктеп отырады. Өтінімді 2023 жылғы 1 желтоқсанға дейін беруге болады. Осы қабылдау кезеңі аяқталған соң, болашақта өтінім қабылдауды қайта ашу мүмкіндігін қарастырамыз.

Сұрақ: Желіге мүше болсам, әрбір жаңа модельге редтиминг жүргізуге шақырыламын ба?

Жауап: Жоқ, OpenAI қатысушыларды нақты редтиминг жобасына сәйкестігіне қарай іріктейді, сондықтан әрбір жаңа модельді сынауға қатысамын деп күтпеген жөн.

Сұрақ: Желі мүшелеріне қандай талаптар қойылады?

Жауап: Біз мынадай өлшемдерге мән береміз:

• Редтимингке қатысы бар белгілі бір салада дәлелденген біліктіліктің немесе тәжірибенің болуы

• ЖИ қауіпсіздігін арттыруға ынталы болу

• Мүдделер қақтығысының болмауы

• Әртүрлі ортадан шыққан және әдетте аз қамтылатын топтарға жататын адамдардың қатысуы

• Әртүрлі географиялық өңір өкілдерінің қатысуы 

• Бірнеше тілде еркін сөйлеу

• Техникалық дағдылардың болуы (міндетті емес)

Сұрақ: Қауіпсіздік саласында бірлесіп жұмыс істеудің тағы қандай мүмкіндіктері бар?

Жауап: Желіге қосылудан бөлек, ЖИ қауіпсіздігіне бірлесіп үлес қосудың басқа да мүмкіндіктері бар. Мысалы, ЖИ жүйелерінің қауіпсіздігін бағалау әдістерін әзірлеуге немесе бағалау жүргізіп, нәтижелерін талдауға болады.

OpenAI компаниясының (GPT‑4 шығарылымымен⁠ бірге жарияланған) ашық кодты Evals⁠(жаңа терезеде ашылады) репозиторийі бұл жұмысты бастауға ыңғайлы үлгілер мен әдіс мысалдарын ұсынады.

Бағалау қарапайым сұрақ-жауап сынақтарынан бастап күрделі симуляцияларға дейінгі тәсілдерді қамтуы мүмкін. Нақты мысал ретінде OpenAI әзірлеген, ЖИ әрекеттерін әр қырынан бағалауға арналған сынақтарды келтіреміз:

Сендіру

• MakeMeSay⁠(жаңа терезеде ашылады): ЖИ жүйесі басқа ЖИ жүйесін алдап, оған құпия сөзді қаншалықты сәтті айтқыза алады?

• MakeMePay⁠(жаңа терезеде ашылады): ЖИ жүйесі басқа ЖИ жүйесін ақшалай қайырымдылық жасауға қаншалықты сәтті көндіре алады?

• Дауысқа салынған ұсыныс⁠(жаңа терезеде ашылады): ЖИ жүйесі басқа ЖИ жүйесінің саяси ұсынысты қолдауына қаншалықты ықпал ете алады?

Стеганография (жасырын хабар алмасу)

• Стеганография⁠(жаңа терезеде ашылады): ЖИ жүйесі басқа ЖИ жүйесіне байқатпай, құпия хабарларды қаншалықты сәтті жеткізе алады?

• Мәтінді сығу⁠(жаңа терезеде ашылады): ЖИ жүйесі құпия хабарларды жасыру үшін хабарларды қаншалықты сәтті сығып, қайта қалпына келтіре алады?

• Шеллинг нүктесі⁠(жаңа терезеде ашылады): ЖИ жүйесі басқа ЖИ жүйесімен тікелей байланыспай-ақ, әрекеттерін қаншалықты сәтті үйлестіре алады?

ЖИ жүйелерін бағалауда шығармашылық тәсілдер мен тәжірибе жасауды қолдаймыз. Жұмысыңыз аяқталған соң, ЖИ қауымдастығы кеңінен пайдалана алуы үшін бағалау әдісіңізді ашық кодты Evals⁠(жаңа терезеде ашылады) репозиторийіне қосуға шақырамыз.

Сондай-ақ Зерттеушілерге қолжетімділік беру бағдарламасына⁠ өтінім бере аласыз. Бұл бағдарлама өнімдерімізді ЖИ-ді жауапкершілікпен енгізу және оған байланысты тәуекелдерді азайту бағыттарын зерттеу үшін пайдаланатын зерттеушілерге қолдау ретінде кредиттер ұсынады.