Frissített modell specifikáció a fejlettebb és hasznosabb MI-ért
Ahogy modelljeink egyre okosabbá válnak, és tetteik egyre nagyobb hatással vannak a világra, mind fontosabb, hogy ne csupán a kapott konkrét utasításokat értelmezzék. A modelleknek az emberi szándékokat és értékeket is érteniük kell, hogy olyan helyzetekben is helyesen mérlegelhessenek, amelyekre az utasításaik nem térnek ki kifejezetten, miközben hűek maradnak az emberi szándékhoz, és tiszteletben tartják az emberi felügyeletet.
Ma frissítjük a modell specifikációt(új ablakban nyílik meg), amely nyilvánosan ismerteti a modelljeinktől elvárt viselkedést. A frissítés öt alapérték köré rendezi az útmutatást: az emberi szándékhoz való hűség, az ártalmak minimalizálása, az őszinteség és az átláthatóság, az emberi önállóság, valamint a gondoskodás. Ez az emberi értékekhez való igazodáson végzett munkánk egyik célját tükrözi: a modellek ismeretlen helyzetekben is értsék és alkalmazzák az emberi értékeket, miközben hűek maradnak az emberi szándékhoz. A felülvizsgált változat világosabban magyarázza el a meglévő elveket, új útmutatást ad a kontextusról, a felügyeletről és az önállóságról, módosít néhány viselkedési alapbeállítást, és elhagyja a részletes stílusbeli útmutatások nagy részét.
A fenti öt érték olyan átfogó vállalásokat fogalmaz meg, amelyek már eddig is áthatották a modell specifikációt: az emberi célok szolgálatát, az igazmondást, az ártalmak minimalizálását, a szabad véleményalkotás tiszteletben tartását és az emberek körülményeinek komolyan vételét. E vállalások összefoglalása segít megmagyarázni, miért éppen az adott viselkedést várja el a specifikáció a modellektől, és világosabb útmutatást kialakítani ott, ahol ezek a vállalások korábban kevésbé voltak kifejtve. Ez a frissítés újabb lépés a specifikáció finomításán végzett munkánkban, amelyet kutatásra, a modellek bevezetése során szerzett tapasztalatokra, a specifikációról és a modellek viselkedéséről érkező nyilvános visszajelzésekre, valamint a felhasználókkal és külső szakértőkkel folytatott egyeztetésekre alapozunk.
Azt szeretnénk, hogy az MI világszerte az emberek javát szolgálja, akiknek eltérő igényeik, értékeik és jövőbeli reményeik vannak.
E megközelítés alapja az emberi szándékhoz való hűség: megérteni, mi fontos az embereknek, és segíteni őket abban, hogy elérjék azt. Az OpenAI írja a specifikációt, meghatározza a korlátokat, és ezek betartására tanítja a modelleket; a fejlesztők e korlátokon belül irányítják az alkalmazásokat, a felhasználók pedig ugyanezeket tiszteletben tartva irányítják a modell munkáját. Modelljeinknek bővíteniük kell az emberek lehetőségeit saját életük alakítására: segíteniük kell őket a világ megértésében, a lehetőségek felfedezésében és a maguk választotta célok elérésében, miközben komolyan veszik, milyen hatással van ez a segítség másokra. Az emberi szándékhoz való hűség és a másik négy érték adja a specifikáció szerkezetét, és mutat irányt modelljeinknek néhány különösen fontos, egymással ütköző szempont mérlegeléséhez. Ezek nem kívánják lefedni mindazokat az emberi értékeket, amelyeket modelljeinknek tiszteletben kell tartaniuk, és amelyek érvényesítésében segíteniük kell az embereket.
A hűség azt jelenti, hogy a modell az utasítások szó szerinti követésén túl mélyen megérti az OpenAI, a fejlesztők és a felhasználók szándékait és értékeit, és akkor is bölcsen jár el, ha ez a megértés hiányos. Azt is jelenti, hogy felismeri: az emberek meggyőződései és értékei változhatnak. Olyan módon segíti az önreflexiójukat és fejlődésüket, amelyet ők maguk is helyeselnének, anélkül, hogy észrevétlenül terelné őket vagy felülírná a döntéseiket. Amikor például valakinek állásajánlatok összehasonlításában segít, a modell támaszkodhat a korábban megosztott szempontokra – például a kiszámítható munkaidőre –, de egyértelművé és könnyen módosíthatóvá kell tennie ezeket a feltételezéseket.
Küldetésünk, hogy a mesterséges általános intelligencia az egész emberiség javát szolgálja. Ehhez nemcsak az adott személy pillanatnyi szándékait kell figyelembe venni, hanem hosszabb távú érdekeit és a másokra gyakorolt hatásokat is. A másik négy érték ezeket a szempontokat teszi egyértelművé:
Az ártalmak minimalizálása a szigorú biztonsági korlátok betartását és a modell tetteinek előrelátható következményeivel való számolást jelenti.
Az őszinteség és az átláthatóság azt jelenti, hogy a modell valós képet ad arról, mit tud, mit tesz és miben bizonytalan, hogy az emberek megérthessék és értékelhessék az érvelését és a munkáját.
Az emberi önállóság elősegítése azt jelenti, hogy erősítjük az emberek képességét arra, hogy önállóan megértsenek dolgokat, döntsenek és cselekedjenek.
A gondoskodás az érintettek körülményeire való odafigyelést, a vonatkozó társadalmi és szakmai normák követését, valamint olyan munkavégzést jelent, amelyre az emberek támaszkodhatnak.
A specifikáció gyakorlati útmutatássá alakítja ezeket az értékeket. Ahol az emberek és a társadalom védelme megkívánja, szigorú korlátokat szab, egyébként pedig többnyire olyan alapbeállításokat határoz meg, amelyeket a felhasználók és a fejlesztők felülírhatnak.
A modell specifikáció frissítésével párhuzamosan új tanítási módszereket is vizsgálunk, hogy modelljeink elsajátítsák ezeket az alapértékeket, és jobban megértsék, illetve kövessék a specifikáció konkrét viselkedési elveit. A cél annak megértése, hogy miért fontosak ezek az elvek, és hogyan alkalmazhatók új helyzetekben: hogy a modellek a helyes dolgokat tegyék, a helyes okokból. Azt szeretnénk, hogy ez a megértés megalapozott mérlegelést tegyen lehetővé a nagy horderejű döntéseknél, és gondosságot a mindennapi döntéseknél, amelyek együttesen tartós előnyöket hozhatnak az embereknek és a társadalomnak(új ablakban nyílik meg). E tanítási munka eredményeit és tanulságait későbbi beszámolókban osztjuk meg.
Az átrendezés abban is segített, hogy felismerjük, hol van szükség további útmutatásra, új elveket dolgozzunk ki ezekre a területekre, és szükség szerint módosítsuk vagy elhagyjuk a meglévő útmutatásokat.
Az emberi szándékhoz való hűségről szóló új szakasz abból indul ki, hogy elsődleges az, amit az emberek értékesnek tartanak, az utasítások pedig rendszerint ezen értékek legegyértelműbb és legfontosabb jelzései. Ez a megközelítés az emberi értékekhez való igazodás segítő játékokon alapuló értelmezéséből merít (lásd a korai kutatást(új ablakban nyílik meg) és egy későbbi áttekintést(új ablakban nyílik meg)). A szakasz tartalmazza az utasítási hierarchia(új ablakban nyílik meg) frissített változatát, amely elmagyarázza, mely utasítások érvényesek, és hogyan kell feloldani a köztük lévő ellentmondásokat. Egy új alszakasz, a kontextus gondos mérlegelése(új ablakban nyílik meg) elmagyarázza, hogyan kell a modellnek a beszélgetésekre, emlékekre és egyéb kontextuális támpontokra támaszkodnia az emberek szándékainak és preferenciáinak megértésében.
Új alapbeállításokat is megadtunk az emberi önállóság támogatására(új ablakban nyílik meg) és a vonatkozó társadalmi normák követésére(új ablakban nyílik meg), továbbá kibővítettük a mellékhatások kezelésére és közlésére(új ablakban nyílik meg) vonatkozó meglévő útmutatást. Ezek az elvek további, gyakran kevésbé szembetűnő, mégis fontos módokat írnak le arra, hogyan kell a többi értéknek megjelennie a modell viselkedésében: a munka másokra gyakorolt hatásainak mérlegelésében, a felhasználók képességeinek erősítésében és a megbízható munkavégzésben, a felhasználó céljainak és utasításainak tiszteletben tartása mellett.
Ezzel egyidejűleg elhagyjuk a specifikáció részletes stílusbeli útmutatásainak nagy részét. A stílusnak az emberek preferenciáihoz kell igazodnia – összességében, az egyes nyelveken és kultúrákon belül, valamint egyénenként is –, ezek megismeréséhez pedig a felhasználói visszajelzések és a kontextus adnak támpontot. A specifikáció megtartja a határozottabb alapbeállításokat, például a kérdések tárgyilagos megközelítését(új ablakban nyílik meg). A felhasználók és a fejlesztők kifejezetten kérhetik a modelltől egy adott nézőpont felvételét, de a modell nem következtethet erre az igényre pusztán abból, hogy szerinte mit szeretnének hallani.
Végül, modelljeink egyre sokrétűbb felhasználását és alkalmazási környezeteit tükrözve, a specifikációban mostantól „az asszisztens” helyett „GPT” néven hivatkozunk a modellre.
Ez a frissítés az első lépés afelé, hogy az egyre fejlettebb modellek korában egyértelműbbé tegyük a specifikáció mögött álló értékeket és megfontolásokat. A modell specifikáció azt a viselkedést írja le, amelynek elérésén dolgozunk; modelljeink még nem felelnek meg neki teljes mértékben. A kutatásból, a valós használatból és a visszajelzésekből tanulva tovább fejlesztjük a specifikációt és a modelleket is.
Kíváncsiak vagyunk, a specifikáció mely részeit találod meggyőzőnek, hol nem értesz egyet azzal, ahogyan az egyes szempontokat mérlegeli, és mit hagy figyelmen kívül vagy tisztázatlanul. Az értékekről, a kompromisszumokról és a konkrét megfogalmazásokról adott visszajelzések segíthetnek a javításában. Arra biztatunk, hogy olvasd el a frissített modell specifikációt(új ablakban nyílik meg), és oszd meg a véleményedet(új ablakban nyílik meg).
