Na-update na Spec ng Modelo para sa mas mahusay, magagamit na AI
Habang tumatalino ang aming mga modelo at lumalaki ang epekto ng mga kilos nila sa mundo, lalong nagiging mahalagang hindi sila basta umunawa lamang sa mga partikular na tagubiling natatanggap nila. Kailangan ding maunawaan ng mga modelo ang mga layunin at pagpapahalaga ng tao upang makapagpasya nang maayos sa mga sitwasyong hindi tahasang saklaw ng kanilang mga tagubilin, habang nananatiling tapat sa layunin ng tao at nasa ilalim ng pangangasiwa nito.
Ngayon, ina-update namin ang Spec ng Modelo(magbubukas sa bagong window), ang aming pampublikong paglalarawan kung paano namin gustong kumilos ang aming mga modelo. Sa update na ito, inayos ang mga gabay ayon sa limang batayang pagpapahalaga: katapatan sa layunin ng tao, pagbawas sa pinsala, katapatan at pagiging bukas, sariling pagpapasya at pagkilos ng tao, at pagmamalasakit. Sinasalamin nito ang isang layunin ng aming gawain sa pag-aayon sa mga pagpapahalaga: na maunawaan at mailapat ng mga modelo ang mga pagpapahalaga ng tao sa mga di-pamilyar na sitwasyon, habang nananatiling tapat sa layunin ng tao. Bukod sa mas malinaw na paliwanag ng mga umiiral na prinsipyo, nagdagdag ang rebisyon ng gabay sa konteksto, pangangasiwa, at sariling pagpapasya at pagkilos. Binago rin nito ang ilang default na asal at inalis ang malaking bahagi ng detalyadong gabay sa estilo.
Ipinapahayag ng limang pagpapahalaga sa itaas ang malawak na mga paninindigang makikita na sa buong Spec ng Modelo: pagsisilbi sa mga layunin ng tao, pagiging tapat, pagbawas sa pinsala, paggalang sa kalayaan ng mga tao na bumuo ng sariling pananaw, at seryosong pagsasaalang-alang sa kanilang kalagayan. Ang pagsasama-sama ng mga paninindigang ito ay nakatutulong upang maipaliwanag kung bakit hinihingi ng Spec na kumilos ang mga modelo sa ganitong paraan. Tinutulungan din kami nitong bumuo ng mas malinaw na gabay kung saan hindi pa ganap na naipahayag ang mga paninindigang iyon. Isa pang hakbang ang update na ito sa aming gawaing pinuhin ang Spec sa pamamagitan ng pananaliksik, karanasan sa paglulunsad ng mga modelo, feedback ng publiko sa Spec at asal ng modelo, at talakayan sa mga user at panlabas na eksperto.
Gusto naming makinabang sa AI ang mga tao sa buong mundo na may magkakaibang pangangailangan, pagpapahalaga, at pag-asa para sa hinaharap.
Ang katapatan sa layunin ng tao ang pundasyon ng paraang ito: pag-unawa at pagtulong sa mga tao na isulong ang mahalaga sa kanila. Isinusulat ng OpenAI ang Spec, nagtatakda ng mga hangganan, at nagsasanay ng mga modelo na igalang ang mga ito; pinamamahalaan ng mga developer ang mga application sa loob ng mga hangganang iyon; at ginagabayan ng mga user ang gawain ng modelo alinsunod sa mga limitasyong iyon. Dapat palawakin ng aming mga modelo ang kakayahan ng mga tao na hubugin ang sarili nilang buhay sa pamamagitan ng pagtulong sa kanilang maunawaan ang mundo, tumuklas ng mga posibilidad, at isulong ang mga pinili nilang layunin, habang seryosong isinasaalang-alang ang epekto ng tulong na iyon sa iba. Ang katapatan sa layunin ng tao at ang apat pang pagpapahalaga ang batayan ng pagkakaayos ng Spec. Ginagabayan din ng mga ito ang aming mga modelo sa pagtitimbang ng ilan sa pinakamahihirap na pagpiling kinakaharap nila. Hindi nilalayon ng mga ito na saklawin ang lahat ng pagpapahalaga ng tao na dapat igalang ng aming mga modelo at tulungang isulong.
Ang katapatan ay hindi lang literal na pagsunod sa mga tagubilin. Nangangahulugan ito ng malalim na pag-unawa sa nilalayon at pinahahalagahan ng OpenAI, mga developer, at mga user, at pagkilos nang may karunungan kapag hindi pa kumpleto ang pag-unawang iyon. Nangangahulugan din ito ng pagkilala na maaaring magbago ang mga paniniwala at pagpapahalaga ng mga tao, at pagtulong sa kanilang magnilay at umunlad sa mga paraang sasang-ayunan nila, nang hindi palihim na iniimpluwensiyahan ang kanilang direksyon o binabalewala ang kanilang mga pagpili. Halimbawa, sa pagtulong sa isang tao na paghambingin ang mga alok na trabaho, maaaring gamitin ng modelo ang mga prayoridad na ibinahagi niya noon—gaya ng regular na oras ng trabaho—habang malinaw na ipinapakita ang mga palagay na iyon at pinadadaling itama ang mga ito.
Misyon naming tiyaking makikinabang ang buong sangkatauhan sa artificial general intelligence. Para rito, kailangang isaalang-alang hindi lang ang agarang layunin ng isang tao, kundi pati ang kanyang pangmatagalang kapakanan at ang mga epekto sa iba. Nililinaw ng apat pang pagpapahalaga ang mga pagsasaalang-alang na ito:
Ang pagbawas sa pinsala ay paggalang sa mahihigpit na hangganan para sa kaligtasan at pagsasaalang-alang sa mga nakikinitang bunga ng mga kilos ng modelo.
Ang katapatan at pagiging bukas ay pagsasabi ng totoo tungkol sa nalalaman, ginagawa, at hindi tiyak sa modelo upang maunawaan at masuri ng mga tao ang pangangatwiran at gawain nito.
Ang pagsuporta sa sariling pagpapasya at pagkilos ng tao ay pagpapalakas sa kakayahan ng mga tao na umunawa, pumili, at kumilos para sa kanilang sarili.
Ang pagmamalasakit ay pagbibigay-pansin sa kalagayan ng mga apektado, pagsunod sa naaangkop na mga pamantayang panlipunan at propesyonal, at paggawa ng maaasahang trabaho.
Isinasalin ng Spec ang mga pagpapahalagang ito sa praktikal na gabay, na may mahihigpit na hangganan kung kailangan upang protektahan ang mga tao at lipunan. Sa ibang mga kaso, karamihan sa gabay ay mga default na maaaring baguhin ng mga user at developer.
Kasabay ng update na ito sa Spec ng Modelo, nag-eeksplora kami ng mga bagong paraan ng pagsasanay upang matutuhan ng aming mga modelo ang mga pangunahing pagpapahalagang ito at mas maunawaan at masunod ang mga partikular na prinsipyo ng Spec sa pag-uugali. Layunin nitong linangin ang pag-unawa kung bakit mahalaga ang mga prinsipyong iyon at kung paano ilalapat ang mga ito sa mga bagong sitwasyon: gawin ang mga tamang bagay para sa mga tamang dahilan. Gusto naming maging batayan ang pag-unawang iyon ng mahusay na pagpapasya sa mahahalagang desisyon at pagmamalasakit sa mga pang-araw-araw na desisyon na, kapag pinagsama-sama, ay maaaring magdulot ng pangmatagalang pakinabang sa mga tao at lipunan(magbubukas sa bagong window). Ibabahagi namin sa mga susunod na update ang mga resulta at aral mula sa gawaing ito sa pagsasanay.
Nakatulong din ang muling pagsasaayos na ito upang matukoy namin kung saan kailangan ng dagdag na gabay, bumuo ng mga bagong prinsipyong tutugon dito, at baguhin o alisin ang umiiral na gabay kung kinakailangan.
Nagsisimula ang bagong seksyon sa katapatan sa layunin ng tao sa ideyang ang pinahahalagahan ng mga tao ang pinakamahalaga, at ang mga tagubilin ang karaniwang pinakamalinaw at pinakamahalagang pahiwatig ng mga pagpapahalagang iyon. Humahango ang paraang ito sa pagtingin sa alignment bilang mga laro ng pagtutulungan (tingnan ang naunang pananaliksik(magbubukas sa bagong window) at ang pangkalahatang pagtalakay na inilathala kalaunan(magbubukas sa bagong window)). Kasama sa seksyon ang na-update na hirarkiya ng mga tagubilin(magbubukas sa bagong window), na nagpapaliwanag kung aling mga tagubilin ang naaangkop at kung paano nilulutas ang mga salungatan. Ipinapaliwanag ng bagong subseksyon na maingat na isaalang-alang ang konteksto(magbubukas sa bagong window) kung paano dapat gamitin ang mga pag-uusap, alaala, at iba pang ebidensya mula sa konteksto upang maunawaan ng modelo ang mga layunin at kagustuhan ng mga tao.
Nagdagdag din kami ng mga default sa pagsuporta sa sariling pagpapasya at pagkilos ng tao(magbubukas sa bagong window) at pagsunod sa naaangkop na mga pamantayang panlipunan(magbubukas sa bagong window), at pinalawak ang umiiral na gabay sa pagkontrol at pagpapabatid ng mga di-pangunahing epekto(magbubukas sa bagong window). Saklaw ng mga prinsipyong ito ang iba pang paraan—na madalas ay banayad pero mahalaga—kung paano dapat makita sa asal ng modelo ang iba pang pagpapahalaga: pagsasaalang-alang sa epekto ng gawain sa iba, pagpapalakas sa kakayahan ng mga user, at paggawa ng maaasahang trabaho, habang iginagalang ang mga layunin at tagubilin ng user.
Kasabay nito, inaalis namin ang karamihan sa detalyadong gabay sa estilo ng Spec. Dapat umangkop ang estilo sa mga kagustuhan ng mga tao—sa pangkalahatan, sa bawat wika at kultura, at sa bawat indibidwal—batay sa mga pahiwatig mula sa feedback ng user at sa konteksto. Pinananatili ng Spec ang mas matitibay na default, gaya ng pagharap sa mga tanong nang walang kinikilingan(magbubukas sa bagong window). Maaaring tahasang hilingin ng mga user at developer na gumamit ang modelo ng isang partikular na pananaw, pero hindi dapat ipagpalagay ng modelo na iyon ang gusto nila batay lang sa inaakala nitong nais nilang marinig.
Panghuli, dahil dumarami at nag-iiba ang mga gamit at kapaligirang pinaggagamitan ng aming mga modelo, tinutukoy na namin ngayon ang modelo bilang “GPT” sa halip na “ang katulong” sa Spec.
Ang update na ito ang unang hakbang upang mas malinaw na maipahayag ang mga pagpapahalaga at batayan ng Spec habang mas humuhusay ang mga modelo. Inilalarawan ng Spec ng Modelo ang asal na sinisikap naming makamit; hindi pa ito ganap na nasasalamin sa aming mga modelo. Patuloy naming pahuhusayin ang Spec at ang mga modelo habang natututo kami mula sa pananaliksik, aktuwal na paggamit, at feedback.
Gusto naming marinig kung aling mga bahagi ng Spec ang kapani-paniwala para sa iyo, kung saan ka hindi sang-ayon sa pagtitimbang nito ng iba't ibang konsiderasyon, at kung ano ang hindi nito napapansin o naipapaliwanag nang malinaw. Makatutulong sa pagpapahusay nito ang feedback tungkol sa mga pagpapahalaga, pagtitimbang ng mga pagpili, at partikular na pananalita. Inaanyayahan ka naming basahin ang na-update na Spec ng Modelo(magbubukas sa bagong window) at ibahagi ang iyong pananaw(magbubukas sa bagong window).
