Ажуриране спецификације модела за способнију и кориснију AI
Како наши модели постају паметнији и предузимају радње са све значајнијим последицама у свету, све је важније да не остану само на тумачењу конкретних упутстава која добијају. Модели треба да разумеју и људске намере и вредности како би добро расуђивали у ситуацијама које упутства изричито не обухватају, а притом остали верни људским намерама и под људским надзором.
Данас ажурирамо спецификације модела(отвара се у новом прозору), наш јавни опис тога како желимо да се наши модели понашају. У ажурираној верзији смернице су организоване око пет темељних вредности: верност људским намерама, свођење штете на минимум, искреност и транспарентност, људска самосталност и брига. То одражава један од циљева нашег рада на усклађивању са вредностима: да модели разумеју и примењују људске вредности у непознатим ситуацијама, остајући верни људским намерама. Поред јаснијих објашњења постојећих начела, ова ревизија додаје смернице о контексту, надзору и самосталности, мења нека подразумевана понашања и укида велики део детаљних стилских смерница.
Пет наведених вредности јасно изражава општа опредељења која су већ присутна у спецификацијама модела: служити људским циљевима, говорити истину, сводити штету на минимум, поштовати слободу људи да формирају сопствене ставове и озбиљно схватати њихове околности. Обједињавање ових опредељења помаже да се објасни зашто спецификације од модела захтевају одређено понашање, а нама помаже да развијемо јасније смернице тамо где та опредељења нису била у потпуности изражена. Ово ажурирање је још један корак у нашем раду на усавршавању спецификација кроз истраживања, искуства из примене модела, повратне информације јавности о спецификацијама и понашању модела, као и разговоре са корисницима и спољним стручњацима.
Желимо да AI користи људима широм света, са свим њиховим различитим потребама, вредностима и надама за будућност.
Верност људским намерама је темељ овог приступа: разумети шта је људима важно и помагати им да то остваре. OpenAI пише спецификације, поставља границе и обучава моделе да их поштују; програмери усмеравају рад апликација унутар тих граница, а корисници усмеравају рад модела уз поштовање тих ограничења. Наши модели треба да прошире могућности људи да обликују сопствени живот тако што им помажу да разумеју свет, открију могућности и остварују циљеве које сами изаберу, уз озбиљно разматрање утицаја те помоћи на друге. Верност људским намерама и преостале четири вредности чине основу структуре спецификација и усмеравају наше моделе када морају да одвагају неке од најважнијих супротстављених захтева. Њихова сврха није да обухвате читав распон људских вредности које наши модели треба да поштују и да помажу људима да их остварују.
Верност значи ићи даље од дословног праћења упутстава: дубоко разумети намере и вредности компаније OpenAI, програмера и корисника и поступати разборито када то разумевање није потпуно. То значи и препознати да се људска уверења и вредности могу мењати и помагати људима да преиспитују своје ставове и развијају се на начине које би сами одобрили, без прикривеног усмеравања или поништавања њихових избора. На пример, када некоме помаже да упореди понуде за посао, модел може да се ослони на раније наведене приоритете, попут предвидивог радног времена, али тако да те претпоставке буду јасно видљиве и да их је лако исправити.
Наша мисија је да обезбедимо да општа вештачка интелигенција користи целом човечанству. То захтева да узмемо у обзир не само нечије тренутне намере већ и дугорочне интересе те особе и последице по друге. Преостале четири вредности изричито обухватају та разматрања:
Свођење штете на минимум значи поштовати чврсте безбедносне границе и узимати у обзир предвидиве последице поступака модела.
Искреност и транспарентност значе истинито приказивати шта модел зна, шта ради и у шта није сигуран, како би људи могли да разумеју и процене његово резоновање и рад.
Подстицање људске самосталности значи јачати способност људи да самостално разумеју, бирају и делују.
Брига значи обраћати пажњу на околности свих на које рад модела утиче, поштовати релевантне друштвене и професионалне норме и радити тако да људи могу да се ослоне на резултате.
Спецификације претварају ове вредности у практичне смернице, уз чврсте границе тамо где су потребне за заштиту људи и друштва. У осталим случајевима то су углавном подразумевана правила која корисници и програмери могу да измене.
Упоредо са овим ажурирањем спецификација модела, истраживали смо нове методе обуке које би нашим моделима помогле да усвоје ове основне вредности и боље разумеју и следе конкретна начела понашања из спецификација. Циљ је да модели разумеју зашто су та начела важна и како да их примене у новим ситуацијама: да раде праве ствари из правих разлога. Желимо да то разумевање подржи добро расуђивање при доношењу одлука са значајним последицама и брижљив приступ свакодневним одлукама које заједно могу донети трајну корист људима и друштву(отвара се у новом прозору). У наредним објавама поделићемо резултате и поуке из овог рада на обуци модела.
Ова реорганизација нам је помогла и да утврдимо где су потребне додатне смернице, развијемо нова начела која одговарају на те потребе и по потреби изменимо или укинемо постојеће смернице.
Нови одељак о верности људским намерама полази од идеје да је најважније оно што људи вреднују, а да су упутства обично најјаснији и најважнији показатељи тих вредности. Овај приступ се ослања на оквир који усклађивање разматра кроз игре помагања (погледајте рани рад(отвара се у новом прозору) и каснији преглед(отвара се у новом прозору)). Одељак укључује ажурирани ланац командовања(отвара се у новом прозору), који објашњава која упутства се примењују и како се разрешавају сукоби међу њима. Нови пододељак, пажљиво размотрите контекст(отвара се у новом прозору), објашњава како разговори, сећања и други подаци из контекста треба да помогну моделу да разуме намере и склоности људи.
Додали смо и подразумевана правила о подржавању људске самосталности(отвара се у новом прозору) и поштовању релевантних друштвених норми(отвара се у новом прозору), а проширили смо и постојеће смернице о контролисању споредних ефеката и обавештавању о њима(отвара се у новом прозору). Ова начела обухватају додатне, често суптилне али важне начине на које преостале вредности треба да се испоље у понашању модела: разматрање утицаја рада на друге, јачање способности корисника и пружање резултата на које људи могу да се ослоне, уз поштовање циљева и упутстава корисника.
Истовремено, укидамо већину детаљних стилских смерница из спецификација. Стил треба прилагодити склоностима људи — у целини, у оквиру језика и култура и за сваку особу понаособ — а повратне информације корисника и контекст треба да буду показатељи тих склоности. Спецификације задржавају подразумевана правила са чвршћим упориштем, као што је објективан приступ питањима(отвара се у новом прозору). Корисници и програмери могу изричито да затраже да модел заузме одређену перспективу, али модел не треба да закључује да то желе само на основу онога што мисли да желе да чују.
На крају, пошто се наши модели користе за све разноврсније намене и у све различитијим окружењима, у спецификацијама модел сада називамо „GPT“ уместо „асистент“.
Ово ажурирање је први корак ка јаснијем изражавању вредности и разлога на којима се спецификације заснивају, у време када модели постају све способнији. Спецификације модела описују понашање којем тежимо; наши модели га још не испољавају у потпуности. Наставићемо да унапређујемо и спецификације и моделе на основу сазнања из истраживања, примене у пракси и повратних информација.
Желимо да чујемо који делови спецификација су вам убедљиви, где се не слажете са постигнутом равнотежом и шта је у њима превиђено или недовољно јасно. Повратне информације о вредностима, компромисима и конкретним формулацијама могу нам помоћи да их унапредимо. Позивамо вас да прочитате ажуриране спецификације модела(отвара се у новом прозору) и поделите своје виђење(отвара се у новом прозору).
