Bendrinimo ir publikavimo politika

Siekdami sušvelninti galimą dirbtinio intelekto sukurto turinio riziką, nustatėme šią leidžiamo bendrinimo politiką.

Savo raginimų ar atliktų užduočių skelbimas socialinėje žiniasklaidoje paprastai yra leidžiamas, taip pat leidžiama tiesiogiai transliuoti savo naudojimą ar demonstruoti mūsų produktus žmonių grupėms. Prašome laikytis šių nurodymų:

• Prieš bendrindami arba transliuodami rankiniu būdu peržiūrėkite kiekvieną kartą.
• Priskirkite turinį savo vardui arba įmonei.
• Nurodykite, kad turinys yra sukurtas dirbtinio intelekto taip, kad joks naudotojas negalėtų jo praleisti ar neteisingai suprasti.
• Nesidalinkite turiniu, kuris pažeidžia mūsų Turinio politiką⁠ arba gali įžeisti kitus.
• Jei priimate auditorijos prašymus pateikti užuominas, vadovaukitės sveiku protu; neįveskite užuominų, kurios gali pažeisti mūsų turinio politiką⁠⁠.

Jei norite užtikrinti, kad „OpenAI“ komanda žinotų apie konkretų užbaigimą, galite parašyti mums el. laišką arba naudoti „Playground“ ataskaitų teikimo įrankius.

• Atminkite, kad jūs sąveikaujate su neapdorotu modeliu. Tai reiškia, kad mes nefiltruojame šališkų ar neigiamų atsakymų. (Taip pat galite daugiau sužinoti apie mūsų nemokamo moderavimo galinio taško⁠⁠(atsidaro naujame lange) įdiegimą čia.)

Kūrėjai, norintys skelbti savo paties sukurtą rašytinį turinį (pvz., knygą, apsakymų rinkinį), iš dalies sukurtą naudojant „OpenAI“ API, gali tai daryti šiomis sąlygomis:

• Paskelbtas turinys priskirtas jūsų vardui arba įmonei.
• Dirbtinio intelekto vaidmuo formuluojant turinį aiškiai atskleidžiamas taip, kad joks skaitytojas negalėtų to praleisti pro akis ir kad eiliniam skaitytojui tai būtų pakankamai lengva suprasti.
• Turinio temos nepažeidžia „OpenAI“⁠ turinio politikos⁠ ar naudojimo sąlygų⁠⁠, pvz., nėra susijusios su turiniu suaugusiesiems, šlamštu, neapykantos kupinu turiniu, turiniu, kuris kursto smurtą, ar kitu naudojimo būdu, kuris gali sukelti socialinę žalą.
• Prašome nesidalinti rezultatais, kurie gali įžeisti kitus.

Pavyzdžiui, pratarmėje arba įvade (ar panašioje vietoje) reikia išsamiai aprašyti rengimo, redagavimo ir kt. vaidmenis. Žmonės neturėtų pateikti API sukurto turinio kaip visiškai žmogaus ar visiškai dirbtinio intelekto sukurto, ir būtent žmogus turi prisiimti galutinę atsakomybę už skelbiamą turinį.

Štai keletas standartinių terminų, kuriuos galite naudoti apibūdindami savo kūrybinį procesą, jei tik jie tikslūs:

Manome, kad svarbu, jog platesnis pasaulis galėtų įvertinti mūsų tyrimus ir produktus, ypač siekiant suprasti ir ištaisyti galimus mūsų modelių trūkumus ir saugumo ar šališkumo problemas. Todėl laukiame mokslinių publikacijų, susijusių su „OpenAI“ API.

• Kai kuriais atvejais galime norėti pabrėžti jūsų darbą viduje ir (arba) išorėje.
• Kitais atvejais, pavyzdžiui, leidiniuose, susijusiuose su saugumu ar API netinkamu naudojimu, galime imtis atitinkamų veiksmų, kad apsaugotume savo naudotojus.
• Jei atlikdami tyrimą pastebėsite kokių nors API saugos ar apsaugos problemų, prašome nedelsiant apie jas pranešti per mūsų koordinuotą pažeidžiamumų atskleidimo programą⁠.

Yra keletas tyrimų krypčių, kurias džiaugiamės galėdami ištirti su „OpenAI“ API. Jei jus domina subsidijuojamos prieigos galimybė, pateikite mums išsamią informaciją apie savo tyrimų naudojimo atvejį tyrėjo prieigos programos paraiškoje⁠.

Ypač svarbiomis kryptimis laikome šias, nors galite laisvai susikurti savo:

• Lygiavimas: Kaip galime suprasti, kokio tikslo, jei tokio yra, modelis geriausiai suprantamas kaip siekiantis? Kaip galime padidinti to tikslo atitikimą žmonių pageidavimams, pavyzdžiui, taikant greitą projektavimą ar tikslinimą?
• Sąžiningumas ir atstovavimas: Kaip turėtų būti nustatyti kalbos modelių teisingumo ir reprezentavimo našumo kriterijai? Kaip galima patobulinti kalbos modelius, kad jie veiksmingai palaikytų teisingumo ir atstovavimo tikslus konkrečiuose, dislokuotuose kontekstuose?
• Tarpdisciplininiai tyrimai: Kaip dirbtinio intelekto kūrimas gali remtis kitų disciplinų, tokių kaip filosofija, kognityvinis mokslas ir sociolingvistika, įžvalgomis?
• Aiškinamasis gebėjimas ir skaidrumas: Kaip šie modeliai veikia mechaniškai? Ar galime nustatyti, kokias sąvokas jie naudoja, ar išgauti iš modelio paslėptas žinias, daryti išvadas apie treniravimo procedūrą ar numatyti netikėtą elgesį ateityje?
• Netinkamo naudojimo galimybės: Kaip galima netinkamai naudoti tokias sistemas kaip API? Kokius „raudonojo komandavimo“ metodus galėtume sukurti, kad padėtume sau ir kitiems dirbtinio intelekto kūrėjams atsakingai diegti tokias technologijas?
• Modelio tyrinėjimas: Tokie modeliai, kokius aptarnauja API, turi įvairių galimybių, kurių dar neištyrėme. Mus domina tyrimai daugelyje sričių, įskaitant modelio apribojimus, lingvistines savybes, sveiko proto samprotavimus ir galimą panaudojimą daugeliui kitų problemų.
• Tvirtumas: Generatyviniai modeliai turi nelygius gebėjimų paviršius, su galimybe stebėtinai stiprioms ir stebėtinai silpnoms gebėjimų sritims. Kiek atsparūs dideli generatyviniai modeliai yra „natūraliems“ užduoties trikdžiams, pavyzdžiui, tos pačios idėjos formulavimui skirtingais būdais arba su rašybos klaidomis ar be jų? Ar galime numatyti, kokioms sritims ir užduotims dideli generatyviniai modeliai greičiausiai bus patikimesni (arba nepatikimi), ir kaip tai susiję su treniravimo duomenimis? Ar yra būdų, kaip numatyti ir sušvelninti blogiausio atvejo elgesį? Kaip galima išmatuoti patikimumą mokymosi su nedideliu skaičiumi kontekste (pvz., skirtingų užduočių variantų atveju)? Ar galime treniruoti modelius taip, kad jie atitiktų saugos savybes ir būtų labai patikimi, net ir esant priešiškiems duomenims?

Atkreipkite dėmesį, kad dėl didelio prašymų skaičiaus šių paraiškų peržiūra užtrunka ir ne visiems tyrimams bus teikiama pirmenybė subsidijoms. Susisieksime su jumis tik tuo atveju, jei jūsų paraiška bus atrinkta subsidijai gauti.