OpenAI API

Kiadunk egy API-t az OpenAI által fejlesztett új AI-modellek eléréséhez. A legtöbb AI-rendszertől eltérően, amelyeket egy adott feladatra terveztek, az API ma egy általános célú „szöveg be, szöveg ki” felületet biztosít, lehetővé téve a felhasználóknak, hogy gyakorlatilag bármilyen angol nyelvű feladaton kipróbálják. Most már kérhetsz hozzáférést az API integrálásához a termékedbe, egy teljesen új alkalmazás fejlesztéséhez, vagy hogy segíts nekünk felfedezni a technológia erősségeit és korlátait.

Bármilyen szöveges utasítás esetén az API egy szöveges kiegészítést ad vissza, megpróbálva illeszkedni az általad megadott mintához. Úgy „programozhatod”, hogy megmutatsz neki néhány példát arra, amit szeretnél, hogy csináljon; a sikeressége általában attól függ, mennyire összetett a feladat. Az API lehetővé teszi, hogy a teljesítményt finomítsd adott feladatokon azáltal, hogy egy általad biztosított (kicsi vagy nagy) példaadatbázison betanítod a rendszert, vagy a felhasználók vagy címkézők által adott emberi visszajelzésekből tanulsz.

Úgy terveztük az API-t, hogy bárki számára könnyen használható legyen, ugyanakkor elég rugalmas ahhoz, hogy a gépi tanulási csapatok hatékonyabban dolgozhassanak. Valójában sok csapatunk most az API-t használja, hogy a gépi tanulási kutatásokra összpontosíthassanak, nem pedig az elosztott rendszerekkel kapcsolatos problémákra. Ma az API a GPT‑3⁠(új ablakban nyílik meg) család súlyaival futtat modelleket, számos sebesség- és adatátviteli egység javítással. A gépi tanulás nagyon gyorsan fejlődik, és folyamatosan fejlesztjük a technológiánkat, hogy a felhasználóink naprakészek maradjanak.

A terület fejlődési üteme azt jelenti, hogy gyakran jelennek meg meglepő új AI-alkalmazások, mind pozitív, mind negatív. Meg fogjuk szüntetni az API-hozzáférést nyilvánvalóan káros felhasználási esetekben, mint például zaklatás, spam, radikalizálódás vagy asztroturfolás. De tudjuk azt is, hogy nem tudjuk előre látni ennek a technológiának minden lehetséges következményét, ezért ma nem általános elérhetőséget, hanem zárt bétatesztet indítunk, eszközöket fejlesztünk, amelyek segítségével a felhasználók jobban kontrollálhatják az API által visszaküldött tartalmakat, és kutatjuk a nyelvtechnológia biztonsági szempontjait (például a káros elfogultságok elemzését, enyhítését és beavatkozását). Megosztjuk, amit tanulunk, hogy felhasználóink és a szélesebb közösség emberközpontúbb AI-rendszereket építhessen.

Az API nemcsak bevételi forrást jelent, amely segít fedezni⁠ a küldetésünk⁠megvalósításának költségeit, hanem arra is ösztönöz minket, hogy fokozottabban összpontosítsunk az általános célú AI-technológiára — fejlesszük a technológiát, használhatóvá tegyük, és mérlegeljük annak hatását a valós világban. Reméljük, hogy az API jelentősen csökkenti majd a hasznos mesterséges intelligencia által vezérelt termékek előállításának akadályát⁠(új ablakban nyílik meg) , olyan eszközöket és szolgáltatásokat eredményezve, amelyeket ma még nehéz elképzelni.

Érdekel az API felfedezése? Csatlakozz olyan vállalatokhoz, mint az Algolia⁠(új ablakban nyílik meg), a Quizlet⁠(új ablakban nyílik meg) és a Reddit⁠(új ablakban nyílik meg), valamint olyan intézmények kutatóihoz, mint a Middlebury Intézet⁠(új ablakban nyílik meg) a privát bétánkban⁠(új ablakban nyílik meg).

Végső soron a legfontosabb számunkra⁠ , hogy a mesterséges általános intelligencia mindenki számára hasznos legyen. A kereskedelmi termékek fejlesztését az egyik módszernek tekintjük annak biztosítására, hogy elegendő finanszírozással rendelkezzünk a sikerhez.

Úgy véljük továbbá, hogy a hatékony AI-rendszerek biztonságos bevezetése a világban nehéz feladat lesz. Az API kiadása során szorosan együttműködünk partnereinkkel, hogy lássuk, milyen kihívások merülnek fel, amikor az AI-rendszereket a való világban használják. Ez segít irányítani erőfeszítéseinket annak megértésére, hogy hogyan fog menni a jövőbeni AI-rendszerek telepítése, és mit kell tennünk annak érdekében, hogy azok biztonságosak és mindenki számára hasznosak legyenek.

Három fő indoklásunk volt arra, hogy ezt tettük. Először is, a technológia kereskedelmi forgalomba hozatala segít finanszírozni a folyamatban lévő mesterséges intelligencia kutatási, biztonsági és politikai törekvéseinket.

Másodszor, az API alapjául szolgáló modellek közül sok nagyon nagy, és a fejlesztésük és telepítésük sok szakértelmet igényel, ami miatt a futtatásuk nagyon költséges. Ez megnehezíti, hogy bárki más, mint a nagyobb vállalatok, profitáljon az alapul szolgáló technológiából. Reméljük, hogy az API hozzáférhetőbbé teszi a hatékony AI-rendszereket a kisebb vállalkozások és szervezetek számára.

Harmadszor, az API modell lehetővé teszi, hogy könnyebben reagáljunk a technológia helytelen használatára. Mivel nehéz megjósolni modelljeink későbbi felhasználási eseteit, természeténél fogva biztonságosabbnak tűnik egy API-n keresztül kiadni őket, és idővel szélesíteni a hozzáférést, ahelyett, hogy egy nyílt forráskódú modellt adnánk ki, ahol a hozzáférés nem módosítható, ha kiderül, hogy káros alkalmazásokra használják.

A GPT‑2 esetében az egyik fő aggályunk a modell rosszindulatú felhasználása volt (pl. dezinformáció céljából), amit nehéz megakadályozni, ha egy modell nyílt forráskódúvá válik. Az API esetében jobban meg tudjuk előzni a visszaéléseket azáltal, hogy a hozzáférést a jóváhagyásban részesített ügyfelekre és felhasználási esetekre korlátozzuk. A javasolt alkalmazások élesítését megelőzően kötelező gyártási felülvizsgálati folyamatot hajtunk végre. A gyártási felülvizsgálatok során az alkalmazásokat több szempont alapján értékeljük, olyan kérdéseket feltéve, mint például: Ez egy jelenleg támogatott használati eset?, Mennyire nyitott az alkalmazás?, Mennyire kockázatos az alkalmazás?, Hogyan tervezed kezelni a lehetséges visszaéléseket?, és Kik az alkalmazás végfelhasználói?.

Megszüntetjük az API-hozzáférést azoknál az alkalmazásoknál, amelyek fizikai, érzelmi vagy pszichológiai károkat okoznak (vagy okozni szándékoznak) az embereknek, ideértve többek között a zaklatást, a szándékos megtévesztést, a radikalizálódást, az astroturfingot vagy a spamet, valamint azokat az alkalmazásokat, amelyek nem rendelkeznek megfelelő védelemmel a végfelhasználók általi visszaélések korlátozására. Ahogy egyre több tapasztalatot szerzünk az API gyakorlati működtetésében, folyamatosan finomítjuk az általunk támogatható felhasználási kategóriákat, hogy bővítsük a támogatható alkalmazások körét, és finomabb kategóriákat hozzunk létre azok számára, akiknél visszaélési aggályaink merülnek fel.

Az API használatának jóváhagyásakor az egyik kulcsfontosságú tényező, amit figyelembe veszünk, az, hogy egy alkalmazás milyen mértékben mutat nyílt végű vagy korlátozott viselkedést a rendszer mögöttes generatív képességei tekintetében. Az API nyílt végű alkalmazásai (azaz amelyek az engedélyezés révén biztosítják a nagy mennyiségű testreszabható szöveg súrlódásmentes generálását tetszőleges utasításokkal) különösen hajlamosak a visszaélésekre. A generatív felhasználási esetek biztonságosabbá tételét szolgáló korlátozások közé tartozik a rendszertervezés, amely az embert a folyamatban tartja, a felhasználói hozzáférési korlátozások, a kimenetek utófeldolgozása, a tartalomszűrés, a bevitel/kimenet hosszának korlátozása, az aktív monitorozás és a tematikai korlátozások.

Továbbra is folytatjuk a kutatásokat az API által biztosított modellek lehetséges visszaéléseiről, beleértve a harmadik fél kutatóival való együttműködést akadémiai hozzáférési programunkon⁠(új ablakban nyílik meg) keresztül. Jelenleg nagyon korlátozott számú kutatóval kezdünk, és már van néhány eredményünk a Middlebury Institute⁠(új ablakban nyílik meg), a Washingtoni Egyetem és az Allen Institute for AI⁠(új ablakban nyílik meg) akadémiai partnereitől. Már több tízezer jelentkezőnk van erre a programra, és jelenleg a méltányosságra és a reprezentáció kutatására összpontosító alkalmazásokat részesítjük előnyben.

A negatív hatások, mint például a káros elfogultság mérséklése, egy nehéz, iparági szintű probléma, amely rendkívül fontos. Ahogyan a GPT‑3 tanulmányban⁠(új ablakban nyílik meg) és a modellkártyán⁠(új ablakban nyílik meg)is tárgyaljuk, API-modelleink valóban tartalmaznak torzításokat, amelyek tükröződnek a generált szövegben. Íme a lépések, amelyeket ezeknek a problémáknak a megoldására teszünk:

• Olyan használati irányelveket dolgoztunk ki, amelyek segítenek a fejlesztőknek megérteni és kezelni a lehetséges biztonsági problémákat.
• Szorosan együttműködünk a felhasználókkal, hogy megértsük a használati eseteiket, és olyan eszközöket fejlesszünk ki, amelyekkel felszínre hozhatjuk és beavatkozhatunk a káros elfogultság mérséklése érdekében.
• Saját kutatást végzünk a káros elfogultság megnyilvánulásairól és a méltányosság és képviselet tágabb kérdéseiről, amelyek segítik munkánkat a meglévő modellek jobb dokumentálásával és a jövőbeli modellek különféle fejlesztéseivel.
• Elismerjük, hogy az elfogultság egy olyan probléma, amely egy rendszer és egy telepített kontextus metszéspontjában nyilvánul meg; a technológiánkkal készült alkalmazások szociotechnikai rendszerek, ezért együtt dolgozunk fejlesztőinkkel annak érdekében, hogy megfelelő folyamatokat és emberi beavatkozást igénylő rendszereket alkalmazzanak a nemkívánatos viselkedés figyelésére.

Célunk, hogy tovább mélyítsük ismereteinket az API lehetséges káros hatásairól az egyes felhasználási kontextusokban, és folyamatosan fejlesszük eszközeinket és folyamatainkat, hogy ezeket a káros hatásokat minimálisra csökkenthessük.

Frissítve: 2020. szeptember 18.