Ажурирана спецификација на моделот за поспособна и покорисна ВИ
Како што нашите модели стануваат попаметни и преземаат дејства со сѐ позначајни последици во светот, станува сѐ поважно да не се ограничуваат само на толкување на конкретните инструкции што ги добиваат. Моделите треба да ги разбираат и човечките намери и вредности за да можат добро да проценуваат во ситуации што не се изречно опфатени со нивните инструкции, а притоа да останат верни на човечките намери и под човечки надзор.
Денес ја ажурираме спецификацијата на моделот(се отвора во нов прозорец), нашиот јавен опис на тоа како сакаме да се однесуваат нашите модели. Со ова ажурирање, насоките се реорганизираат околу пет основни вредности: верност кон човечките намери, сведување на штетата на минимум, искреност и транспарентност, човечка субјективност и грижа. Ова одразува една од целите на нашата работа на усогласување со вредностите: моделите да ги разбираат и применуваат човечките вредности во непознати ситуации, останувајќи верни на човечките намери. Покрај појасните објаснувања на постојните принципи, ревизијата додава насоки за контекстот, надзорот и субјективноста, менува некои стандардни правила за однесување и отстранува голем дел од деталните стилски насоки.
Петте вредности наведени погоре ги изразуваат општите заложби што веќе се одразени низ спецификацијата на моделот: служење на човечките цели, вистинитост, сведување на штетата на минимум, почитување на слободата на луѓето да формираат сопствени ставови и сериозно земање предвид на нивните околности. Обединувањето на овие заложби помага да се објасни зошто спецификацијата бара моделите да се однесуваат на одреден начин и ни помага да развиеме појасни насоки таму каде што тие заложби не биле доволно изразени. Ова ажурирање е уште еден чекор во нашата работа на усовршување на спецификацијата преку истражување, искуство од примената на моделите, повратни информации од јавноста за спецификацијата и однесувањето на моделите, како и разговори со корисници и надворешни експерти.
Сакаме ВИ да им користи на луѓето ширум светот, со нивните различни потреби, вредности и надежи за иднината.
Верноста кон човечките намери е темелот на овој пристап: да се разбере што им е важно на луѓето и да им се помогне да го остварат. OpenAI ја пишува спецификацијата, поставува граници и ги обучува моделите да ги почитуваат; програмерите го насочуваат работењето на апликациите во тие граници; а корисниците ја насочуваат работата на моделот во рамките на истите ограничувања. Нашите модели треба да ја зголемат способноста на луѓето да го обликуваат сопствениот живот, помагајќи им да го разберат светот, да откриваат можности и да ги остваруваат целите што самите ги избираат, а притоа сериозно да го земаат предвид влијанието на таа помош врз другите. Верноста кон човечките намери и преостанатите четири вредности ја определуваат структурата на спецификацијата и ги насочуваат нашите модели во справувањето со некои од најважните компромиси со кои се соочуваат. Тие немаат цел да го опфатат целиот спектар на човечки вредности што нашите модели треба да ги почитуваат и да им помагаат на луѓето да ги следат.
Верноста значи да се оди подалеку од буквалното следење на инструкциите: длабоко да се разбере што имаат намера да постигнат OpenAI, програмерите и корисниците и што вреднуваат, како и да се постапува мудро кога тоа разбирање е нецелосно. Тоа значи и да се препознае дека верувањата и вредностите на луѓето можат да се менуваат, и да им се помогне да размислуваат и да се развиваат на начини што самите би ги одобриле, без прикриено насочување или наметнување одлуки спротивно на нивниот избор. На пример, кога му помага некому да спореди понуди за работа, моделот може да се потпре на претходно споделените приоритети — како што е предвидливото работно време — но притоа јасно да ги истакне тие претпоставки и да овозможи лесно да се поправат.
Нашата мисија е да обезбедиме општата вештачка интелигенција да му користи на целото човештво. За тоа е потребно да се земат предвид не само нечии непосредни намери, туку и долгорочните интереси на тоа лице и влијанието врз другите. Преостанатите четири вредности јасно ги изразуваат овие аспекти:
Сведувањето на штетата на минимум значи почитување на строгите безбедносни граници и земање предвид на предвидливите последици од дејствата на моделот.
Искреноста и транспарентноста значат вистинито прикажување на она што моделот го знае, го прави и во што не е сигурен, за луѓето да можат да ги разберат и оценат неговото расудување и работа.
Поттикнувањето на човечката субјективност значи зајакнување на способноста на луѓето самостојно да разбираат, да избираат и да дејствуваат.
Грижата значи да се внимава на околностите на засегнатите, да се следат релевантните општествени и професионални норми и да се извршува работа на која луѓето можат да се потпрат.
Спецификацијата ги претвора овие вредности во практични насоки, со строги граници таму каде што се потребни за заштита на луѓето и општеството. Во другите случаи, таа главно утврдува стандардни правила што корисниците и програмерите можат да ги заменат со свои инструкции.
Паралелно со ова ажурирање на спецификацијата на моделот, истражуваме нови методи за обука што ќе им помогнат на нашите модели да ги научат овие основни вредности и подобро да ги разбираат и следат конкретните принципи на однесување во спецификацијата. Целта е да се развие разбирање зошто тие принципи се важни и како да се применуваат во нови ситуации: да се прават вистинските нешта од вистинските причини. Сакаме тоа разбирање да помогне во доброто расудување при донесување одлуки со значајни последици и во внимателното донесување секојдневни одлуки што заедно можат да донесат трајни придобивки за луѓето и општеството(се отвора во нов прозорец). Во идните објави ќе споделуваме резултати и поуки од оваа работа на обуката.
Оваа реорганизација ни помогна и да утврдиме каде се потребни дополнителни насоки, да развиеме нови принципи за таа цел и, по потреба, да ги ревидираме или отстраниме постојните насоки.
Новиот дел за верноста кон човечките намери поаѓа од идејата дека на прво место е она што луѓето го вреднуваат, а инструкциите обично се најјасните и најважните показатели за тие вредности. Овој пристап се потпира на рамката што го разгледува усогласувањето преку игри на помагање (видете ги раните истражувања(се отвора во нов прозорец) и подоцнежниот преглед(се отвора во нов прозорец)). Делот вклучува ажуриран синџир на командување(се отвора во нов прозорец), кој објаснува кои инструкции се применуваат и како се решаваат противречностите меѓу нив. Новиот поддел, внимателно разгледувај го контекстот(се отвора во нов прозорец), објаснува како разговорите, мемориите и другите показатели од контекстот треба да му помогнат на моделот да ги разбере намерите и претпочитањата на луѓето.
Додадовме и стандардни правила за поддршка на човечката субјективност(се отвора во нов прозорец) и следење на релевантните општествени норми(се отвора во нов прозорец), а ги проширивме и постојните насоки за контролирање на споредните ефекти и известување за нив(се отвора во нов прозорец). Овие принципи опфаќаат дополнителни, често суптилни, но важни начини на кои преостанатите вредности треба да се одразат во однесувањето на моделот: земање предвид на влијанието на работата врз другите, зајакнување на способностите на корисниците и извршување работа на која луѓето можат да се потпрат, со почитување на целите и инструкциите на корисникот.
Истовремено, ги отстрануваме повеќето детални стилски насоки од спецификацијата. Стилот треба да се приспособува на претпочитањата на луѓето — општо, во рамките на јазиците и културите и за секој поединец — при што повратните информации од корисниците и контекстот даваат показатели за тие претпочитања. Спецификацијата ги задржува поцврстите стандардни правила, како што е објективниот пристап кон прашањата(се отвора во нов прозорец). Корисниците и програмерите можат изречно да побараат моделот да заземе одредена гледна точка, но моделот не треба да заклучува дека тие го претпочитаат тоа само врз основа на она што смета дека сакаат да го слушнат.
На крај, бидејќи нашите модели се користат за сѐ поразновидни намени и во сѐ поразлични средини, во спецификацијата сега го нарекуваме моделот „GPT“ наместо „асистентот“.
Ова ажурирање е прв чекор кон појасно изразување на вредностите и образложението зад спецификацијата, како што моделите стануваат поспособни. Спецификацијата на моделот го опишува однесувањето кон кое се стремиме; нашите модели сѐ уште не го одразуваат целосно. Ќе продолжиме да ги подобруваме и спецификацијата и моделите врз основа на сознанијата од истражувањата, употребата во реални услови и повратните информации.
Сакаме да слушнеме кои делови од спецификацијата ги сметате за убедливи, каде не се согласувате со рамнотежата што ја воспоставува и што таа превидува или остава нејасно. Повратните информации за вредностите, компромисите и конкретните формулации можат да ни помогнат да ја подобриме. Ве покануваме да ја прочитате ажурираната спецификација на моделот(се отвора во нов прозорец) и да го споделите вашето гледиште(се отвора во нов прозорец).
