OpenAI API

Біз OpenAI әзірлеген жаңа AI модельдеріне қол жеткізуге арналған API-ді шығарып жатырмыз. Белгілі бір бір ғана қолдану жағдайына арналған көпшілік AI жүйелерінен айырмашылығы, бүгінгі API жалпы мақсаттағы «мәтін кірісі, мәтін шығысы» интерфейсін ұсынады, бұл пайдаланушыларға оны ағылшын тіліндегі іс жүзінде кез келген тапсырмада сынап көруге мүмкіндік береді. Енді API-ді өніміңізге біріктіру, мүлде жаңа қолданба әзірлеу немесе осы технологияның мүмкіндіктері мен шектерін зерттеуге көмектесу үшін қолжетімділік сұрай аласыз.

Кез келген мәтіндік көмексөз берілсе, API сіз берген үлгіге сәйкестендіруге тырысып, мәтіндік жалғастыруды қайтарады. Оған не істегенін қалайтыныңызды бірнеше мысалмен көрсетіп, оны «бағдарламалай» аласыз; оның табысы әдетте тапсырманың қаншалықты күрделі екеніне байланысты өзгереді. API сондай-ақ сіз ұсынған мысалдар деректер жиынтығында (кіші не үлкен) жаттықтыру немесе пайдаланушылар не белгілеушілер берген адамдық кері байланыстан үйрену арқылы нақты тапсырмалардағы өнімділікті жетілдіруге мүмкіндік береді.

Біз API-ді кез келген адамға қолдануға оңай, сонымен қатар машинамен оқыту топтарының өнімділігін арттыратындай икемді етіп жасадық. Шын мәнінде, қазір көптеген топтарымыз API-ді пайдаланып, үлестірілген жүйелер мәселелеріне емес, машинамен оқыту зерттеулеріне назар аудара алады. Бүгінде API көптеген жылдамдық және өткізу қабілеті жақсартуларымен GPT‑3⁠(жаңа терезеде ашылады) отбасындағы салмақтары бар модельдерді іске қосады. Машинамен оқыту өте жылдам дамып келеді, сондықтан пайдаланушыларымыз жаңалықтан қалыспауы үшін біз технологиямызды үнемі жаңартып отырамыз.

Саладағы ілгерілеу қарқыны AI-дің оң да, теріс те жаңа қолданбаларының жиі тосын болып шығатынын білдіреді. Біз қудалау, спам, радикалдандыру немесе astroturfing сияқты айқын зиянды қолдану жағдайлары үшін API қолжетімділігін тоқтатамыз. Бірақ бұл технологияның барлық ықтимал салдарын алдын ала болжай алмайтынымызды да білеміз, сондықтан бүгін біз жалпыға кеңінен ұсыну емес, жеке бета-нұсқа ретінде іске қосып отырмыз, пайдаланушыларға API қайтаратын контентті жақсырақ басқаруға көмектесетін құралдар жасап жатырмыз және тіл технологиясының қауіпсіздікке қатысты қырларын (мысалы, зиянды бұрмалауды талдау, азайту және оған араласу) зерттеп жатырмыз. Біз үйренгенімізбен бөлісетін боламыз, сонда пайдаланушыларымыз бен кең қауымдастық адамға пайдалырақ AI жүйелерін құра алады.

Шығындарды жабуға⁠ және миссиямызды⁠ жүзеге асыруға көмектесетін табыс көзі болумен қатар, API бізді жалпы мақсаттағы AI технологиясына көбірек назар аударуға итермеледі — технологияны ілгерілетуге, оны қолдануға ыңғайлы етуге және оның нақты әлемдегі әсерлерін қарастыруға. API AI-мен жұмыс істейтін пайдалы өнімдерді жасаудағы кедергіні⁠(жаңа терезеде ашылады) едәуір төмендетеді деп үміттенеміз, соның нәтижесінде бүгін елестету қиын құралдар мен қызметтер пайда болады.

API-ді зерттеп көргіңіз келе ме? Біздің жеке бета-нұсқамызға⁠(жаңа терезеде ашылады) Algolia⁠(жаңа терезеде ашылады), Quizlet⁠(жаңа терезеде ашылады) және Reddit⁠(жаңа терезеде ашылады) сияқты компаниялармен, сондай-ақ Middlebury Institute⁠(жаңа терезеде ашылады) секілді мекемелердің зерттеушілерімен бірге қосылыңыз.

Түптеп келгенде, біз үшін ең маңыздысы⁠ — жалпы жасанды интеллекттің бәріне пайда әкелуін қамтамасыз ету. Коммерциялық өнімдер әзірлеуді табысқа жету үшін жеткілікті қаржыландыруға ие болудың бір жолы деп көреміз.

Сондай-ақ біз қуатты AI жүйелерін әлемде қауіпсіз енгізуді дұрыс жолға қою қиын болады деп санаймыз. API-ді шығара отырып, біз AI жүйелері нақты әлемде қолданылғанда қандай қиындықтар туатынын көру үшін серіктестерімізбен тығыз жұмыс істеп жатырмыз. Бұл болашақ AI жүйелерін енгізу қалай өтетінін және олардың барлығы үшін қауіпсіз әрі пайдалы болуын қамтамасыз ету үшін не істеуіміз керектігін түсінуге бағытталған күш-жігерімізге жол көрсетеді.

Мұны істеуіміздің үш негізгі себебі бар. Біріншіден, технологияны коммерцияландыру AI саласындағы үздіксіз зерттеулерімізді, қауіпсіздік және саясат бағытындағы жұмысымызды қаржыландыруға көмектеседі.

Екіншіден, API негізіндегі көптеген модельдер өте үлкен, оларды әзірлеу мен енгізу үшін көп тәжірибе қажет және іске қосу өте қымбатқа түседі. Бұл іргелі технологияның игілігін ірі компаниялардан басқалардың көруін қиындатады. API қуатты AI жүйелерін шағын бизнес пен ұйымдарға анағұрлым қолжетімді етеді деп үміттенеміз.

Үшіншіден, API үлгісі технологияның теріс пайдаланылуына жеңілірек жауап беруге мүмкіндік береді. Модельдеріміздің кейінгі қолдану жағдайларын болжау қиын болғандықтан, егер олардың зиянды қолданбалары бар екені анықталса, қолжетімділікті реттеу мүмкін болмайтын ашық бастапқы кодты модель шығарғаннан гөрі, оларды API арқылы шығарып, уақыт өте қолжетімділікті кеңейту табиғатынан қауіпсіздеу көрінеді.

GPT‑2 кезінде біздің басты алаңдаушылықтарымыздың бірі модельді зиянды мақсатта пайдалану болды (мысалы, жалған ақпарат тарату үшін), ал модельдің бастапқы коды ашылған соң мұны болдырмау қиын. API жағдайында біз рұқсат етілген клиенттер мен қолдану жағдайларына қолжетімділікті шектеу арқылы теріс пайдалануды жақсырақ болдырмай аламыз. Ұсынылған қолданбалар іске қосылар алдында міндетті өндірістік тексеру процесі бар. Өндірістік тексерулерде қолданбаларды бірнеше өлшем бойынша бағалаймыз және мынадай сұрақтар қоямыз: Бұл қазір қолдау көрсетілетін қолдану жағдайы ма?, Қолданба қаншалықты ашық сипатта?, Қолданба қаншалықты тәуекелді?, Ықтимал теріс пайдалануды қалай шешуді жоспарлап отырсыз?, және Қолданбаңыздың соңғы пайдаланушылары кімдер?.

Біз адамдарға физикалық, эмоциялық немесе психологиялық зиян келтіретін (немесе келтіруге арналған) қолдану жағдайлары үшін API қолжетімділігін тоқтатамыз; бұған қудалау, әдейі алдау, радикалдандыру, astroturfing немесе спам, сондай-ақ соңғы пайдаланушылардың теріс пайдалануын шектеуге жеткіліксіз қорғаныс тетіктері бар қолданбалар жатады, бірақ мұнымен шектелмейді. API-ді іс жүзінде пайдалануда тәжірибе жинақтаған сайын, біз қолдай алатын қолдану санаттарын үнемі нақтылаймыз: бір жағынан, қолдай алатын қолданбалар аясын кеңейту үшін, екінші жағынан, теріс пайдалануға қатысты алаңдаушылық бар жағдайлар үшін анағұрлым дәл санаттар құру үшін.

API қолдануларын мақұлдау кезінде қарастыратын негізгі факторлардың бірі — қолданбаның жүйенің негізіндегі генеративті мүмкіндіктерге қатысты қаншалықты ашық немесе шектеулі мінез-құлық көрсететіні. API-дің ашық сипаттағы қолданбалары (яғни еркін көмексөздер арқылы теңшелетін үлкен көлемдегі мәтінді кедергісіз жасауға мүмкіндік беретіндері) теріс пайдалануға әсіресе бейім. Генеративті қолдану жағдайларын қауіпсізірек ете алатын шектеулерге адамды процесте сақтайтын жүйе дизайны, соңғы пайдаланушы қолжетімділігін шектеу, шығыстарды кейінгі өңдеу, контентті сүзу, кіріс/шығыс ұзындығына шектеулер, белсенді мониторинг және тақырыптық шектеулер жатады.

Сондай-ақ біз API арқылы ұсынылатын модельдердің ықтимал теріс пайдаланылуын, соның ішінде үшінші тарап зерттеушілерімен бірге академиялық қолжетімділік бағдарламамыз⁠(жаңа терезеде ашылады) арқылы зерттеуді жалғастырып жатырмыз. Қазір біз зерттеушілердің өте шектеулі санынан бастап отырмыз және Middlebury Institute⁠(жаңа терезеде ашылады), University of Washington және Allen Institute for AI⁠(жаңа терезеде ашылады) мекемелеріндегі академиялық серіктестерімізден кейбір нәтижелер алдық. Бұл бағдарламаға қазірдің өзінде ондаған мың өтініш бар, және біз қазіргі кезде әділдік пен репрезентация зерттеулеріне бағытталған өтініштерге басымдық беріп отырмыз.

Зиянды бұрмалау сияқты теріс әсерлерді азайту — бүкіл салаға ортақ күрделі әрі аса маңызды мәселе. GPT‑3 мақаласында⁠(жаңа терезеде ашылады) және модель картасында⁠(жаңа терезеде ашылады) айтқанымыздай, API модельдерімізде жасалған мәтінде көрінетін бұрмалаулар бар. Осы мәселелерді шешу үшін біз мына қадамдарды жасап жатырмыз:

• Әзірлеушілерге ықтимал қауіпсіздік мәселелерін түсінуге және шешуге көмектесетін пайдалану нұсқаулықтарын әзірледік.
• Пайдаланушылардың қолдану сценарийлерін түсіну және зиянды бұрмалауды анықтап, азайтуға араласатын құралдар жасау үшін олармен тығыз жұмыс істеп жатырмыз.
• Зиянды бұрмалаудың көріністері мен әділдік және репрезентацияға қатысты кеңірек мәселелер бойынша өз зерттеуімізді жүргізіп жатырмыз; бұл бар модельдердің құжаттамасын жақсарту және болашақ модельдерді әртүрлі жетілдіру арқылы жұмысымызды бағыттауға көмектеседі.
• Біз бұрмалаудың жүйе мен енгізілген контексттің түйіскен жерінде көрінетін мәселе екенін мойындаймыз; біздің технологиямен жасалған қолданбалар — әлеуметтік-техникалық жүйелер, сондықтан әзірлеушілерімізбен бірге теріс мінез-құлықты бақылауға арналған тиісті процестер мен human-in-the-loop жүйелерін енгізуін қамтамасыз ету үшін жұмыс істейміз.

Мақсатымыз — API-дің әр қолдану контекстіндегі ықтимал зияндарын түсінуді жалғастыру және оларды азайтуға көмектесетін құралдарымыз бен процестерімізді ұдайы жетілдіру.

18 қыркүйек, 2020 жылы жаңартылды