Päivitetty mallimääritys kyvykkäämmälle ja hyödyllisemmälle tekoälylle
Kun mallimme kehittyvät älykkäämmiksi ja niiden toiminnalla on yhä merkittävämpiä vaikutuksia maailmaan, on entistä tärkeämpää, etteivät ne vain tulkitse saamiaan yksittäisiä ohjeita. Mallien on myös ymmärrettävä ihmisten tarkoituksia ja arvoja. Näin ne voivat käyttää hyvää harkintaa tilanteissa, joita ohjeet eivät nimenomaisesti kata, ja silti pysyä uskollisina ihmisten tarkoituksille ja heidän valvonnassaan.
Päivitämme tänään mallimäärityksen(avautuu uudessa ikkunassa), joka kuvaa julkisesti, miten haluamme malliemme toimivan. Päivityksessä ohjeistus jäsennetään viiden perusarvon ympärille: uskollisuus ihmisten tarkoituksille, haittojen minimointi, rehellisyys ja läpinäkyvyys, ihmisten toimijuus ja välittäminen. Tämä kuvastaa arvojen yhteensovittamiseen tähtäävän työmme tavoitetta: mallien tulisi ymmärtää ja soveltaa inhimillisiä arvoja vieraissa tilanteissa ja pysyä samalla uskollisina ihmisten tarkoituksille. Uudistus selkeyttää nykyisten periaatteiden selityksiä, lisää kontekstia, valvontaa ja toimijuutta koskevaa ohjeistusta, muuttaa joitakin oletustoimintatapoja ja poistaa suuren osan yksityiskohtaisista tyyliohjeista.
Edellä mainitut viisi arvoa sanoittavat laajoja sitoumuksia, jotka näkyvät jo kautta mallimäärityksen: ihmisten päämäärien palveleminen, totuudenmukaisuus, haittojen minimointi, ihmisten vapaus muodostaa omat näkemyksensä ja heidän olosuhteidensa ottaminen vakavasti. Näiden sitoumusten kokoaminen yhteen auttaa selittämään, miksi mallimääritys ohjaa malleja toimimaan tietyllä tavalla. Se auttaa myös selkeyttämään ohjeistusta niiltä osin kuin sitoumuksia ei aiemmin tuotu kattavasti esiin. Tämä päivitys on jälleen yksi askel mallimäärityksen kehitystyössämme. Työ pohjautuu tutkimukseen, mallien käyttöönotosta saatuihin kokemuksiin, mallimäärityksestä ja mallien toiminnasta saatuun yleisöpalautteeseen sekä keskusteluihin käyttäjien ja ulkopuolisten asiantuntijoiden kanssa.
Haluamme tekoälyn hyödyttävän ihmisiä kaikkialla maailmassa, vaikka heidän tarpeensa, arvonsa ja tulevaisuudentoiveensa ovat erilaisia.
Uskollisuus ihmisten tarkoituksille on tämän lähestymistavan perusta: ymmärrämme, mikä ihmisille on tärkeää, ja autamme heitä tavoittelemaan sitä. OpenAI laatii mallimäärityksen, asettaa rajat ja kouluttaa mallit noudattamaan niitä. Kehittäjät ohjaavat sovelluksia näiden rajojen sisällä, ja käyttäjät ohjaavat mallin työtä samojen rajoitusten puitteissa. Malliemme tulisi lisätä ihmisten mahdollisuuksia vaikuttaa omaan elämäänsä auttamalla heitä ymmärtämään maailmaa, löytämään mahdollisuuksia ja tavoittelemaan valitsemiaan päämääriä. Samalla niiden tulee ottaa vakavasti se, miten apu vaikuttaa muihin. Uskollisuus ihmisten tarkoituksille ja neljä muuta arvoa jäsentävät mallimääritystä ja ohjaavat mallejamme punnitsemaan joitakin tärkeimmistä kohtaamistaan ristiriitaisista vaatimuksista. Niiden ei ole tarkoitus kattaa kaikkia niitä inhimillisiä arvoja, joita malliemme tulisi kunnioittaa ja auttaa ihmisiä toteuttamaan.
Uskollisuus tarkoittaa muutakin kuin ohjeiden kirjaimellista noudattamista: se edellyttää syvällistä ymmärrystä siitä, mitä OpenAI, kehittäjät ja käyttäjät tarkoittavat ja arvostavat, sekä viisasta toimintaa silloin, kun ymmärrys on puutteellista. Se tarkoittaa myös sen tunnistamista, että ihmisten käsitykset ja arvot voivat muuttua, sekä heidän pohdintansa ja kasvunsa tukemista tavoilla, jotka he itse hyväksyisivät – ilman huomaamatonta ohjailua tai heidän valintojensa sivuuttamista. Kun malli esimerkiksi auttaa vertailemaan työtarjouksia, se voi hyödyntää käyttäjän aiemmin kertomia tärkeysjärjestyksiä, kuten ennakoitavia työaikoja. Sen tulee kuitenkin tuoda nämä oletukset näkyviin niin, että niitä on helppo korjata.
Missiomme on varmistaa, että yleinen tekoäly hyödyttää koko ihmiskuntaa. Tämä edellyttää, että ihmisen välittömien tarkoitusten lisäksi huomioidaan myös hänen pitkän aikavälin etunsa ja vaikutukset muihin. Muut neljä arvoa tuovat nämä näkökohdat selkeästi esiin:
Haittojen minimointi tarkoittaa ehdottomien turvallisuusrajojen noudattamista ja mallin toiminnan ennakoitavien seurausten huomioimista.
Rehellisyys ja läpinäkyvyys tarkoittavat, että malli kertoo totuudenmukaisesti, mitä se tietää ja tekee ja mistä se on epävarma. Näin ihmiset voivat ymmärtää ja arvioida sen päättelyä ja työtä.
Ihmisten toimijuuden edistäminen tarkoittaa heidän kykynsä vahvistamista ymmärtää, valita ja toimia itsenäisesti.
Välittäminen tarkoittaa vaikutusten kohteena olevien ihmisten olosuhteiden huomioimista, tilanteeseen soveltuvien sosiaalisten ja ammatillisten normien noudattamista sekä luotettavaa työtä.
Mallimääritys muuttaa nämä arvot käytännön ohjeiksi. Se asettaa tarvittaessa ehdottomia rajoja ihmisten ja yhteiskunnan suojelemiseksi. Muilta osin ohjeet ovat enimmäkseen oletustoimintatapoja, joita käyttäjät ja kehittäjät voivat muuttaa.
Mallimäärityksen päivityksen rinnalla olemme tutkineet uusia koulutusmenetelmiä, joiden avulla mallimme voivat oppia nämä ydinarvot sekä ymmärtää ja noudattaa paremmin mallimäärityksen yksittäisiä toimintaperiaatteita. Tavoitteena on rakentaa ymmärrystä siitä, miksi nämä periaatteet ovat tärkeitä ja miten niitä sovelletaan uusissa tilanteissa: tehdä oikeita asioita oikeista syistä. Haluamme tämän ymmärryksen tukevan hyvää harkintaa merkittävissä päätöksissä ja huolellisuutta arjen päätöksissä, jotka voivat yhdessä tuottaa pysyvää hyötyä ihmisille ja yhteiskunnalle(avautuu uudessa ikkunassa). Kerromme tämän koulutustyön tuloksista ja opeista tulevissa päivityksissä.
Uudelleenjäsentely auttoi meitä myös tunnistamaan lisäohjeistuksen tarpeita, kehittämään uusia periaatteita niihin vastaamiseksi sekä tarkistamaan tai poistamaan nykyisiä ohjeita tarpeen mukaan.
Uusi, uskollisuutta ihmisten tarkoituksille käsittelevä osio lähtee siitä, että ihmisten arvostamat asiat ovat ensisijaisia ja ohjeet ovat tavallisesti selkeimpiä ja tärkeimpiä merkkejä näistä arvoista. Lähestymistapa hyödyntää avustamispelien viitekehystä arvojen yhteensovittamisessa (ks. varhainen tutkimus(avautuu uudessa ikkunassa) ja myöhempi yleiskatsaus(avautuu uudessa ikkunassa)). Osioon sisältyy päivitetty komentoketju(avautuu uudessa ikkunassa), joka selittää, mitä ohjeita sovelletaan ja miten ristiriidat ratkaistaan. Uusi alaosio Huomioi konteksti huolellisesti(avautuu uudessa ikkunassa) selittää, miten keskustelujen, muistojen ja muiden kontekstista saatavien tietojen tulisi ohjata mallin ymmärrystä ihmisten tarkoituksista ja mieltymyksistä.
Olemme lisänneet myös ihmisten toimijuuden tukemista(avautuu uudessa ikkunassa) ja tilanteeseen soveltuvien sosiaalisten normien noudattamista(avautuu uudessa ikkunassa) koskevia oletustoimintatapoja sekä laajentaneet sivuvaikutusten hallintaa ja niistä viestimistä(avautuu uudessa ikkunassa) koskevaa ohjeistusta. Nämä periaatteet kuvaavat muitakin, usein hienovaraisia mutta tärkeitä tapoja, joilla muiden arvojen tulisi näkyä mallin toiminnassa: työn muihin kohdistuvien vaikutusten huomioimista, käyttäjien kykyjen vahvistamista ja luotettavaa työtä. Samalla mallin tulee kunnioittaa käyttäjän tavoitteita ja ohjeita.
Samalla poistamme suurimman osan mallimäärityksen yksityiskohtaisista tyyliohjeista. Tyylin tulisi mukautua ihmisten mieltymyksiin niin yleisesti, eri kielissä ja kulttuureissa kuin yksilötasollakin. Käyttäjäpalaute ja konteksti antavat tietoa näistä mieltymyksistä. Mallimäärityksessä säilyvät vahvemmat oletustoimintatavat, kuten kysymysten objektiivinen tarkastelu(avautuu uudessa ikkunassa). Käyttäjät ja kehittäjät voivat nimenomaisesti pyytää mallia omaksumaan tietyn näkökulman. Mallin ei kuitenkaan tulisi päätellä tällaista toivetta pelkästään sen perusteella, mitä se arvelee heidän haluavan kuulla.
Lisäksi viittaamme malliin mallimäärityksessä nyt nimellä ”GPT” emmekä ”avustaja”. Muutos kuvastaa malliemme käyttötapausten ja käyttöympäristöjen kasvavaa kirjoa.
Tämä päivitys on ensimmäinen askel mallimäärityksen taustalla olevien arvojen ja perustelujen tuomisessa selkeämmin esiin mallien kehittyessä kyvykkäämmiksi. Mallimääritys kuvaa toimintaa, jota kohti pyrimme. Mallimme eivät vielä täysin toimi sen mukaisesti. Jatkamme sekä mallimäärityksen että mallien parantamista tutkimuksesta, käytännön käytöstä ja palautteesta saamiemme oppien pohjalta.
Haluamme kuulla, mitkä mallimäärityksen osat ovat mielestäsi vakuuttavia, mistä siinä tehdyistä kompromisseista olet eri mieltä ja mitä se jättää huomiotta tai epäselväksi. Arvoista, kompromisseista ja yksittäisistä sanamuodoista saatu palaute voi auttaa meitä parantamaan mallimääritystä. Kutsumme sinut lukemaan päivitetyn mallimäärityksen(avautuu uudessa ikkunassa) ja kertomaan näkemyksesi(avautuu uudessa ikkunassa).
