Spesifikasi model sing dianyari kanggo AI luwih trampil lan migunani

Saya pinter model kita lan saya gedhe pengaruh tumindake ing donya, saya penting uga supaya model ora mung nafsirake prentah tartamtu sing ditampa. Model uga perlu mangerteni maksud lan nilai-nilai manungsa, supaya bisa njupuk keputusan kanthi wicaksana ing kahanan sing ora diterangake kanthi cetha ing prentah, nanging tetep setya marang maksud manungsa lan manut pangawasane.

Dina iki kita nganyari spesifikasi model⁠(mbukak ing jendhela anyar), katrangan kanggo umum ngenani prilaku model sing kita karepake. Pembaruan iki nata maneh pandhuane adhedhasar limang nilai dhasar: setya marang maksud manungsa, nyuda bebaya, jujur lan tinarbuka, kamardikan manungsa kanggo milih lan tumindak, lan rasa preduli. Iki nggambarake salah siji ancas upaya kita kanggo nyelarasake nilai: supaya model bisa mangerteni lan ngetrapake nilai-nilai manungsa ing kahanan sing durung dikenal, kanthi tetep setya marang maksud manungsa. Saliyane njlentrehake prinsip sing wis ana kanthi luwih cetha, revisi iki nambah pandhuan ngenani konteks, pangawasan, lan kamardikan kanggo milih lan tumindak, ngowahi sawetara prilaku gawan, lan mbusak akeh pandhuan gaya sing rinci.

Limang nilai kasebut njlentrehake komitmen umum sing wis kacetha ing saindhenging spesifikasi model: ngabdi marang ancas manungsa, kandha apa anane, nyuda bebaya, ngajeni kamardikan saben wong kanggo mbangun panemune dhewe, lan nggatekake kahanane kanthi temenan. Nggabungake komitmen kasebut mbantu njlentrehake sebabe Spesifikasi nuntun prilaku model kaya mangkono, lan mbantu kita nyusun pandhuan sing luwih cetha ing babagan sing durung njlentrehake komitmen kasebut kanthi jangkep. Pembaruan iki dadi langkah sabanjure ing upaya kita nyampurnakake Spesifikasi lumantar riset, pengalaman ngetrapake model, panemu saka masyarakat ngenani Spesifikasi lan prilaku model, sarta rembugan karo pangguna lan para ahli saka njaba.

Kita kepengin AI migunani kanggo wong ing saindenging donya sing kabutuhan, nilai, lan pangarep-arepe tumrap mangsa ngarep beda-beda.

Setya marang maksud manungsa dadi dhasar pendekatan iki: mangerteni lan mbantu wong nggayuh apa sing dianggep penting. OpenAI nulis Spesifikasi, netepake watesan, lan nglatih model supaya manut; pangembang ngarahake aplikasi ing sajroning watesan kasebut; lan pangguna ngarahake pakaryan model kanthi tetep manut watesan mau. Model kita kudune nggedhekake kabisan wong kanggo nemtokake uripe dhewe kanthi mbantu mangerteni donya, nemokake maneka kemungkinan, lan nggayuh ancas sing dipilih, kanthi tetep nggatekake pengaruhe pitulungan kasebut marang wong liya. Kasetyan marang maksud manungsa lan patang nilai liyane dadi dhasar tata susunan Spesifikasi lan nuntun model kita nalika kudu nimbang pilihan-pilihan penting sing ora bisa ditindakake kabeh bebarengan. Nilai kasebut ora dimaksudake kanggo nyakup kabeh nilai manungsa sing kudu diajeni model kita lan dibantu supaya bisa digayuh.

Setya ora mung ateges manut prentah kanthi wantah, nanging uga mangerteni kanthi jero apa sing dikarepake lan dianggep penting dening OpenAI, pangembang, lan pangguna, sarta tumindak kanthi wicaksana nalika pangerten kasebut durung jangkep. Iki uga ateges ngakoni yen kapercayan lan nilai sing dianut wong bisa owah, sarta mbantu wong mawas dhiri lan tuwuh kanthi cara sing bakal disarujuki, tanpa meneng-meneng ngarahake utawa nyingkirake pilihane. Contone, nalika mbantu wong mbandhingake tawaran pakaryan, model bisa migunakake prioritas sing wis dicritakake sadurunge—kayata jam kerja sing mesthi—kanthi nuduhake panganggep kasebut kanthi cetha supaya gampang dibenerake.

Misi kita yaiku mesthekake yen kecerdhasan umum tiruan migunani tumrap kabeh umat manungsa. Kanggo nggayuh iki, kita kudu nimbang ora mung maksude wong ing wektu iku, nanging uga kapentingane ing jangka dawa lan pengaruhe marang wong liya. Patang nilai liyane njlentrehake tetimbangan kasebut:

• Nyuda bebaya ateges manut watesan kaslametan sing tegas lan nimbang akibat tumindak model sing bisa diprakirakake.

• Jujur lan tinarbuka ateges kandha apa anane ngenani apa sing dimangerteni, ditindakake, lan durung dipesthekake dening model, supaya wong bisa mangerteni lan mbiji nalar sarta pakaryane.

• Nyengkuyung kamardikan manungsa kanggo milih lan tumindak ateges nguwatake kabisan wong supaya bisa mangerteni, milih, lan tumindak kanthi mandhiri.

• Rasa preduli ateges nggatekake kahanane wong sing kena pengaruh, manut norma sosial lan profesi sing cocog, lan ngasilake pakaryan sing bisa diandelake.

Spesifikasi ngowahi nilai kasebut dadi pandhuan praktis, kanthi watesan tegas yen perlu kanggo nglindhungi wong lan masyarakat. Saliyane iku, umume pandhuan awujud aturan gawan sing bisa diowahi dening pangguna lan pangembang.

Bebarengan karo pembaruan spesifikasi model iki, kita uga njajaki cara latihan anyar kanggo mbantu model sinau nilai-nilai inti kasebut lan luwih mangerteni sarta manut prinsip prilaku tartamtu ing Spesifikasi. Ancase yaiku mbangun pangerten ngenani sebabe prinsip kasebut penting lan carane ngetrapake ing kahanan anyar: nindakake bab sing bener kanthi alesan sing bener. Kita kepengin pangerten kasebut nyengkuyung kawicaksanan nalika njupuk keputusan sing gedhe pengaruhe, sarta rasa preduli ing keputusan saben dina sing suwe-suwe bisa ngasilake paedah langgeng kanggo wong lan masyarakat⁠(mbukak ing jendhela anyar). Kita bakal nuduhake asil lan piwulang saka upaya latihan iki ing pembaruan sabanjure.

Tata susunan anyar iki uga mbantu kita nemokake perangan sing mbutuhake pandhuan tambahan, nyusun prinsip anyar kanggo nyukupi kabutuhan kasebut, sarta ndandani utawa mbusak pandhuan sing wis ana yen perlu.

Perangan anyar ngenani kasetyan marang maksud manungsa diwiwiti saka pamawas yen apa sing dianggep penting dening wong iku sing utama, lan prentah lumrahe dadi pratandha sing paling cetha lan penting kanggo mangerteni nilai kasebut. Pendekatan iki njupuk gagasan saka kerangka dolanan pitulungan kanggo nyelarasake AI (waca panaliten wiwitan⁠(mbukak ing jendhela anyar) lan ringkesan sing terbit sabanjure⁠(mbukak ing jendhela anyar)). Perangan iki ngemot tataran prentah⁠(mbukak ing jendhela anyar) sing dianyari, kang njlentrehake prentah endi sing ditrapake lan carane ngrampungake prentah sing cengkah. Subperangan anyar, nimbang konteks kanthi tliti⁠(mbukak ing jendhela anyar), njlentrehake carane pacelathon, memori, lan bukti kontekstual liyane kudune dadi dhasar pangerten model ngenani maksud lan pilihan sing disenengi wong.

Kita uga nambah aturan gawan ngenani nyengkuyung kamardikan manungsa kanggo milih lan tumindak⁠(mbukak ing jendhela anyar) lan manut norma sosial sing cocog⁠(mbukak ing jendhela anyar), sarta ngrembakakake pandhuan sing wis ana ngenani ngendhaleni lan ngandharake efek samping⁠(mbukak ing jendhela anyar). Prinsip kasebut ngemot cara tambahan sing asring ora katon cetha nanging penting supaya nilai-nilai liyane kawujud ing prilaku model: nimbang pengaruh pakaryan marang wong liya, nguwatake kabisan pangguna, lan ngasilake pakaryan sing bisa diandelake, kanthi tetep ngajeni ancas lan prentah pangguna.

Ing wektu sing padha, kita mbusak sapérangan gedhe pandhuan gaya sing rinci ing Spesifikasi. Gaya kudune dicocogake karo sing disenengi wong—kanthi umum, ing saben basa lan budaya, sarta kanggo saben wong—kanthi tanggapan pangguna lan konteks minangka bukti kanggo mangerteni pilihan kasebut. Spesifikasi tetep ngemot aturan gawan sing luwih tegas, kayata nanggapi pitakon kanthi objektif⁠(mbukak ing jendhela anyar). Pangguna lan pangembang bisa njaluk kanthi cetha supaya model nganggo sudut pandang tartamtu, nanging model ora kena nyimpulake pilihan kasebut mung saka prakirane dhewe ngenani apa sing kepengin dirungokake pangguna utawa pangembang.

Pungkasan, amarga model kita saya akeh gunane lan saya maneka papan pangetrapane, saiki kita nyebut model minangka “GPT”, dudu “asisten”, ing Spesifikasi.

Pembaruan iki dadi langkah wiwitan kanggo njlentrehake nilai lan alesan sing ndhasari Spesifikasi kanthi luwih cetha, bebarengan karo kabisan model sing saya mundhak. Spesifikasi model nggambarake prilaku sing lagi kita upayakake; model kita durung nuduhake prilaku kasebut kanthi wutuh. Kita bakal terus ndandani Spesifikasi lan model kanthi sinau saka riset, panggunaan ing donya nyata, lan tanggapan sing ditampa.

Kita kepengin krungu perangan Spesifikasi endi sing kokanggep ngyakinake, ing babagan endi kowe ora sarujuk karo imbangan sing ditemtokake, lan apa sing durung digatekake utawa durung cetha. Tanggapan ngenani nilai, imbangan antarane pilihan sing cengkah, lan tembung sing digunakake bisa mbantu kita ndandani Spesifikasi. Kita ngajak kowe maca spesifikasi model sing dianyari⁠(mbukak ing jendhela anyar) lan menehi panemumu⁠(mbukak ing jendhela anyar).