Jakamista ja julkaisua koskeva käytäntö

Meillä on alla oleva sallittuun jakamiseen liittyvä käytäntö tekoälyllä luodun sisällön riskien lieventämiseksi.

Omien kehotteiden tai tulosten julkaiseminen sosiaalisessa mediassa on yleisesti ottaen sallittua, kuten myös käyttäminen suorissa lähetyksissä tai tuotteidemme esittelyssä ryhmille. Noudata seuraavia sääntöjä:

• Tarkasta jokainen luotu vastaus manuaalisesti ennen jakamista tai lähetyksen aikana.
• Merkitse sisältö omalla tai yrityksesi nimellä.
• Kerro, että sisältö on tekoälyllä luotua, jotta käyttäjät eivät voi kohtuuden rajoissa olla huomaamatta tai ymmärtää sitä väärin.
• Älä jaa sisältöä, joka rikkoo sisältökäytäntöämme⁠⁠ tai voi loukata muita.
• Jos käytät yleisön ehdottamia kehotteita, käytä harkintaasi: älä käytä kehotteita, jotka voivat johtaa sisältökäytäntömme⁠⁠ rikkomiseen.

Jos haluat varmistaa, että OpenAI-tiimi on tietoinen jostakin tietystä tuloksesta, voit lähettää meille sähköpostia tai käyttää Playgroundin ilmoitustyökaluja.

• Muista, että käytät mallin raakaversiota, joka ei suodata pois ennakkoluuloisia tai negatiivisia vastauksia. (Voit lukea lisätietoja ilmaisen moderointipäätepisteemme⁠⁠(avautuu uudessa ikkunassa) käyttämisestä täältä.)

Tekijät, jotka haluavat julkaista itse kirjoittamaansa sisältöä (esim. kirjan tai novellikokoelman), jonka luomisessa on käytetty apuna OpenAI:n API:tä, saavat tehdä niin seuraavilla ehdoilla:

• Sisältö julkaistaan omalla tai yrityksesi nimellä.
• Tekoälyn rooli sisällön muokkaamisessa kerrotaan selkeästi niin, ettei yksikään lukija voi olla huomaamatta sitä, ja että tyypillinen lukija ymmärtää asian helposti.
• Sisällön aiheet eivät riko OpenAI:n sisältökäytäntöä⁠⁠ tai käyttöehtoja⁠⁠, eli eivät esimerkiksi ole aikuissisältöä, roskapostia, vihasisältöä, väkivaltaan yllyttävää sisältöä tai muita sosiaalista haittaa aiheuttavaa sisältöä.
• Pyydämme sinua olemaan jakamatta tuotoksia, jotka voivat loukata muita.

Esimerkiksi esipuheessa tai esittelyssä (tai vastaavassa) on kerrottava tarkasti eri roolit luonnoksen tekemisessä, muokkaamisessa jne. API:n avulla luotua sisältöä ei tule esittää kokonaan ihmisen tekemänä tai kokonaan tekoälyn luomana, ja jonkun ihmisen täytyy ottaa lopullinen vastuu julkaistusta sisällöstä.

Tässä joitakin vakiolauseita, joilla voit kuvailla luovaa prosessiasi, mikäli se pitää kohdallasi paikkansa:

Meistä on tärkeää, että suuri yleisö pystyy arvioimaan tutkimustamme ja tuotteitamme, etenkin ymmärtääkseen ja parantaakseen malliemme potentiaalisia heikkouksia sekä turvallisuus- tai ennakkoluulo-ongelmia. Siksi toivotammekin OpenAI:n API:hin liittyvät tutkimusjulkaisut tervetulleiksi.

• Joissakin tapauksissa saatamme haluta korostaa työtäsi sisäisesti ja/tai ulkoisesti.
• Muissa tapauksissa, kuten API:n turvallisuuteen tai väärinkäyttöihin liittyvissä julkaisuissa, saatamme ryhtyä asianmukaisiin toimiin käyttäjiemme suojelemiseksi.
• Jos huomaat tutkimustyösi aikana turvallisuusongelmia API:ssa, pyydämme sinua ilmoittamaan niistä välittömästi koordinoidun haavoittuvuuksien tiedonanto-ohjelman⁠ kautta.

On joitakin tutkimussuuntia, joita haluamme tutkia OpenAI:n API:lla. Jos olet kiinnostunut tuetusta käyttöoikeudesta, kerro meille tietoja tutkimuksesi käyttötapauksesta tutkijoiden käyttöoikeusohjelman hakemuksessa⁠.

Pidämme etenkin seuraavia tutkimussuuntia erityisen tärkeinä, mutta voit vapaasti laatia oman suuntasi:

• Kohdistaminen: Miten voimme ymmärtää, mitä tavoitetta, jos mitään, malli parhaan käsityksemme mukaan tavoittelee? Miten lisäämme tuon tavoitteen kohdistumista ihmisten valintoihin, esimerkiksi kehotteiden suunnittelemisen tai hienosäätämisen kautta?
• Oikeudenmukaisuus ja edustus: Millaiset tulosindikaattorit oikeudenmukaisuudelle ja edustukselle tulisi määrittää kielimalleissa? Miten kielimalleja voidaan parantaa tukemaan oikeudenmukaisuuden ja edustuksen tavoitteita tietyissä konteksteissa?
• Tieteidenvälinen tutkimus: Miten tekoälyn kehittäminen voisi saada näkökulmia muista tieteenaloista, kuten filosofiasta, kognitiotieteestä ja sosiolingvistiikasta?
• Tulkittavuus ja läpinäkyvyys: Miten nämä mallit toimivat mekanistisesti? Voimmeko tunnistaa, mitä konsepteja ne käyttävät, purkaa mallin piilevää tietoa, tehdä päätelmiä koulutusprosessista tai ennustaa yllättävää tulevaa käytöstä?
• Mahdollinen väärinkäyttö: Miten järjestelmiä, kuten API voidaan väärinkäyttää? Millaisia ”red teaming” -lähestymistapoja voisimme kehittää, jotta me ja muut tekoälyn kehittäjät muistaisimme miettiä tällaisten teknologioiden vastuullista käyttöä?
• Mallitutkimus: Malleilla, kuten esimerkiksi niillä, joita API palvelee, on monenlaisia kykyjä, joita emme ole vielä tutkineet. Tulemme tutkimaan monia jännittäviä asioita, kuten mallien rajoituksia, lingvistisiä ominaisuuksia, järkevää päättelyä ja potentiaalista käyttöä monissa muissa ongelmissa.
• Pätevyys: Generatiivisten mallien kyvyt ovat varsin epätasaisia: ne voivat olla joko yllättävän päteviä tai yllättävän epäpäteviä tietyillä osa-alueilla. Miten hyvin suuret kielimallit sietävät ”luonnollisia” häiriöitä kehotteessa, esimerkiksi saman idean muotoilemista eri tavoin, joko kirjoitusvirheillä tai ilman? Voimmeko ennustaa osa-alueita ja tehtäviä, joissa suuret generatiiviset mallit ovat todennäköisemmin päteviä (tai epäpäteviä), ja sitä miten tämä vertautuu koulutusdataan? Onko tekniikoita, joita voimme käyttää pahimman mahdollisen käyttäytymisen ennustamiseen ja lievittämiseen? Miten pätevyyttä voidaan mitata ns. few-shot-oppimisen kontekstissa (eli kehotteiden variaatioiden välillä)? Voimmeko kouluttaa malleja niin, että ne täyttävät turvallisuusvaatimukset hyvin korkealla luotettavuustasolla myös haitallisten syötteiden kohdalla?

Ota huomioon, että pyyntöjen suuren määrän vuoksi näiden hakemusten läpi käyminen vie aikaa, eikä kaikkia tutkimuksia priorisoida tuen saajiksi. Otamme yhteyttä vain jos hakemuksesi valitaan tuen saajaksi.