Қуатты әрі пайдалы ЖИ үшін жаңартылған модель сипаттамасы
Модельдеріміз ақылдырақ болып, олардың әрекеттері әлемге барған сайын елеулі әсер еткен сайын, тек берілген нақты нұсқауларды түсінумен шектелмеуі маңызды бола түседі. Модельдер адамның ниеті мен құндылықтарын да түсінуі керек. Сонда олар нұсқауларда тікелей қамтылмаған жағдайларда адам ниетіне адал болып, оның бақылауынан шықпай, дұрыс шешім қабылдай алады.
Бүгін біз модельдеріміздің қалай әрекет етуін қалайтынымызды ашық баяндайтын модель сипаттамасын(жаңа терезеде ашылады) жаңартып отырмыз. Жаңартылған құжаттағы нұсқаулар бес негізгі құндылық төңірегінде қайта құрылды: адам ниетіне адалдық, зиянды барынша азайту, адалдық пен ашықтық, адамның дербестігі және қамқорлық. Бұл құндылықтармен сәйкестендіру жұмысымыздың бір мақсатын көрсетеді: модельдер бейтаныс жағдайларда адам ниетіне адал бола отырып, адами құндылықтарды түсініп, қолдана алуы керек. Жаңа нұсқада қолданыстағы қағидалар анығырақ түсіндірілді, контекст, бақылау және дербестік туралы нұсқаулар қосылды, әдепкі мінез-құлық ережелерінің кейбірі өзгертілді және стильге қатысты егжей-тегжейлі нұсқаулардың көбі алынып тасталды.
Жоғарыдағы бес құндылық модель сипаттамасында бұрыннан көрініс тапқан жалпы міндеттемелерді айқындайды: адам мақсаттарына қызмет ету, шыншыл болу, зиянды барынша азайту, адамдардың өз көзқарасын қалыптастыру еркіндігін құрметтеу және олардың жағдайына байыппен қарау. Осы міндеттемелерді біріктіру сипаттаманың модельдерден неліктен дәл осылай әрекет етуді талап ететінін түсіндіреді. Сондай-ақ бұл бұрын толық ашылмаған міндеттемелерге қатысты анығырақ нұсқаулар әзірлеуге көмектеседі. Бұл жаңарту — зерттеулерге, модельдерді қолданысқа енгізу тәжірибесіне, сипаттама мен модель мінез-құлқы туралы жұртшылық пікіріне, сондай-ақ пайдаланушылармен және сыртқы сарапшылармен талқылауларға сүйенетін сипаттаманы жетілдіру жұмысымыздың кезекті қадамы.
Біз ЖИ-дің қажеттіліктері, құндылықтары және болашаққа деген үміті әртүрлі адамдарға пайда әкелгенін қалаймыз.
Бұл тәсілдің негізі — адам ниетіне адалдық: адамдар үшін не маңызды екенін түсіну және соған жетуге көмектесу. OpenAI сипаттаманы жазады, шектеулер белгілейді және модельдерді сол шектеулерді сақтауға үйретеді; әзірлеушілер осы шектер аясында қолданбалардың жұмысын бағыттайды; ал пайдаланушылар сол шектеулерді ескере отырып, модельдің жұмысына бағыт береді. Модельдеріміз адамдарға әлемді түсінуге, мүмкіндіктерді ашуға және өздері таңдаған мақсаттарға ұмтылуға көмектесіп, өз өмірін өзі қалыптастыру мүмкіндігін кеңейтуі керек. Бұл ретте сол көмектің өзгелерге әсерін де байыппен ескеруі қажет. Адам ниетіне адалдық пен қалған төрт құндылық сипаттаманың құрылымын айқындайды және модельдерімізге өздері тап болатын маңызды құндылықтар мен талаптар арасындағы қайшылықтарды ескеріп, теңгерімді шешім қабылдауға бағыт береді. Олар модельдеріміз құрметтеуге және адамдарға ұстануға көмектесуге тиіс адами құндылықтардың бәрін түгел қамтуды көздемейді.
Адалдық нұсқауларды сөзбе-сөз орындаумен шектелмейді. Ол OpenAI, әзірлеушілер мен пайдаланушылардың ниетін, нені бағалайтынын терең түсінуді және бұл түсінік толық болмаған кезде де парасатпен әрекет етуді білдіреді. Бұл сондай-ақ адамдардың сенімдері мен құндылықтары өзгеруі мүмкін екенін мойындауды, оларды жасырын бағыттамай не таңдауын жоққа шығармай, өздері құптайтын жолмен ой елегінен өткізіп, дамуына көмектесуді білдіреді. Мысалы, біреуге жұмыс ұсыныстарын салыстыруға көмектескенде, модель оның бұрын айтқан басымдықтарына, айталық, тұрақты жұмыс кестесіне сүйенуі мүмкін. Бұл ретте модель өз жорамалдарын ашық көрсетіп, оларды оңай түзетуге мүмкіндік беруі керек.
Біздің миссиямыз — жалпы жасанды интеллекттің бүкіл адамзатқа пайда әкелуін қамтамасыз ету. Бұл адамның сол сәттегі ниетін ғана емес, ұзақ мерзімді мүдделерін және өзгелерге тиетін әсерді де ескеруді талап етеді. Қалған төрт құндылық осы жайттарды нақтылайды:
Зиянды барынша азайту — қатаң қауіпсіздік шектеулерін сақтау және модель әрекеттерінің алдын ала болжауға болатын салдарын ескеру.
Адалдық пен ашықтық — адамдар модельдің ой қорытуы мен жұмысын түсініп, бағалай алуы үшін оның не білетінін, не істейтінін және қай тұстарға сенімді емес екенін шынайы айту.
Адамның дербестігіне жағдай жасау — адамдардың өз бетінше түсіну, таңдау және әрекет ету қабілетін нығайту.
Қамқорлық — әрекет әсер ететін адамдардың жағдайын ескеру, тиісті әлеуметтік және кәсіби нормаларды сақтау, адамдар сенім арта алатындай жұмыс істеу.
Сипаттама осы құндылықтарды практикалық нұсқауларға айналдырады: адамдар мен қоғамды қорғау қажет жерде қатаң шектеулер қояды, ал қалған жағдайда негізінен пайдаланушылар мен әзірлеушілер өзгерте алатын әдепкі ережелер ұсынады.
Модель сипаттамасын жаңартумен қатар, модельдеріміздің осы негізгі құндылықтарды меңгеруіне және сипаттамадағы нақты мінез-құлық қағидаларын жақсырақ түсініп, ұстануына көмектесетін жаңа оқыту әдістерін зерттеп келеміз. Мақсат — бұл қағидалардың неліктен маңызды екенін және оларды жаңа жағдайларда қалай қолдану керегін түсіндіру, яғни дұрыс негіздерге сүйеніп, дұрыс әрекет етуге үйрету. Осы түсінік салдары елеулі шешімдерді парасатпен қабылдауға, ал күнделікті шешімдерге қамқорлықпен қарауға негіз болғанын қалаймыз. Мұндай күнделікті шешімдер біртіндеп адамдар мен қоғамға ұзақ мерзімді пайда(жаңа терезеде ашылады) әкелуі мүмкін. Осы оқыту жұмысының нәтижелері мен одан алған сабақтарымызды алдағы жаңартуларда бөлісеміз.
Құрылымды қайта қарау қосымша нұсқаулар қай тұста қажет екенін анықтауға, сол үшін жаңа қағидалар әзірлеуге және қажетіне қарай қолданыстағы нұсқауларды өзгертуге не алып тастауға да көмектесті.
Адам ниетіне адалдық туралы жаңа бөлім адамдар бағалайтын нәрселерді бірінші орынға қояды, ал нұсқауларды әдетте сол құндылықтардың ең айқын әрі маңызды көрсеткіші деп қарастырады. Бұл тәсіл сәйкестендіруді көмек көрсету ойындары арқылы қарастыратын тұжырымдамаға сүйенеді (алғашқы жұмысты(жаңа терезеде ашылады) және кейінгі шолуды(жаңа терезеде ашылады) қараңыз). Бөлімге қандай нұсқаулар қолданылатынын және қайшылықтардың қалай шешілетінін түсіндіретін жаңартылған нұсқаулар иерархиясы(жаңа терезеде ашылады) енгізілді. Жаңа контексті мұқият ескеру(жаңа терезеде ашылады) бөлімшесі модель адамдардың ниеті мен қалауын түсіну үшін әңгімелерге, жадта сақталған мәліметтерге және контекстегі басқа да деректерге қалай сүйенуі керегін түсіндіреді.
Сондай-ақ біз адамның дербестігін қолдау(жаңа терезеде ашылады) және тиісті әлеуметтік нормаларды сақтау(жаңа терезеде ашылады) туралы әдепкі ережелерді қостық, жанама әсерлерді бақылау және олар туралы хабарлау(жаңа терезеде ашылады) жөніндегі қолданыстағы нұсқауларды кеңейттік. Бұл қағидалар қалған құндылықтардың модель мінез-құлқында көрінуінің көбіне байқала бермейтін, бірақ маңызды қосымша жолдарын қамтиды: пайдаланушының мақсаттары мен нұсқауларын құрметтей отырып, жұмыстың өзгелерге әсерін ескеру, пайдаланушылардың қабілеттерін нығайту және адамдар сенім арта алатын нәтиже ұсыну.
Сонымен қатар сипаттамадағы стильге қатысты егжей-тегжейлі нұсқаулардың көбін алып тастап отырмыз. Стиль адамдардың жалпы қалауына, түрлі тілдер мен мәдениеттер аясындағы қалауларына және әр адамның жеке талғамына бейімделуі керек. Ал пайдаланушы пікірі мен контекст сол қалауларды анықтауға негіз болады. Сипаттамада сұрақтарға объективті қарау(жаңа терезеде ашылады) сияқты қатаңырақ әдепкі ережелер сақталады. Пайдаланушылар мен әзірлеушілер модельден белгілі бір көзқарасты ұстануды тікелей сұрай алады. Бірақ модель олардың не естігісі келетіні туралы өз жорамалына ғана сүйеніп, мұндай қалау бар деп қорытынды жасамауы керек.
Соңында, модельдеріміздің қолданылу аясы мен ортасы кеңейіп келе жатқандықтан, сипаттамада модельді енді «көмекші» емес, «GPT» деп атаймыз.
Модельдердің мүмкіндіктері артқан сайын, бұл жаңарту сипаттаманың негізіндегі құндылықтар мен уәждерді айқынырақ түсіндірудің алғашқы қадамы болып отыр. Модель сипаттамасы біз қол жеткізуге ұмтылатын мінез-құлықты баяндайды; модельдеріміз оған әзірге толық сай емес. Зерттеулерден, нақты қолданыстан және кері байланыстан үйрене отырып, сипаттаманы да, модельдерді де жетілдіре береміз.
Сипаттаманың қай тұстарын нанымды деп санайсыз, ондағы мүдделер тепе-теңдігімен қай жерде келіспейсіз, не ескерілмей қалған не түсініксіз — осы туралы пікіріңізді білгіміз келеді. Құндылықтар, мүдделер арасындағы ымыралар және нақты тұжырымдар туралы пікірлеріңіз сипаттаманы жақсартуға көмектеседі. Сізді жаңартылған модель сипаттамасын(жаңа терезеде ашылады) оқып, пікіріңізбен бөлісуге(жаңа терезеде ашылады) шақырамыз.
