OpenAI API

Vydávame API na prístup k novým modelom AI vyvinutým spoločnosťou OpenAI. Na rozdiel od väčšiny AI systémov, ktoré sú navrhnuté na jeden konkrétny účel, API dnes poskytuje všeobecné rozhranie „text in, text out“, ktoré umožňuje používateľom vyskúšať ho prakticky na akejkoľvek úlohe v angličtine. Teraz môžete požiadať o prístup, aby ste mohli integrovať API do svojho produktu, vyvinúť úplne novú aplikáciu alebo nám pomôcť preskúmať silné stránky a obmedzenia tejto technológie.

Na základe akéhokoľvek textového príkazu API vráti textové doplnenie a pokúsi sa napodobniť vzor, ktorý ste mu zadali. Môžete ho „naprogramovať“ tým, že mu ukážete len niekoľko príkladov toho, čo od neho chcete; jeho úspešnosť sa vo všeobecnosti líši v závislosti od toho, aká zložitá je úloha. API vám tiež umožňuje vyladiť výkon pri konkrétnych úlohách trénovaním na datasete (malom alebo veľkom) príkladov, ktoré poskytnete, alebo učením sa z ľudskej spätnej väzby od používateľov či anotátorov.

API sme navrhli tak, aby bolo jednoduché na používanie pre každého, no zároveň dostatočne flexibilné na zvýšenie produktivity tímov strojového učenia. V skutočnosti mnoho našich tímov teraz používa API, aby sa mohli sústrediť na výskum strojového učenia namiesto problémov distribuovaných systémov. Dnešné API používa modely s váhami z rodiny GPT‑3⁠(otvorí sa v novom okne) s mnohými vylepšeniami rýchlosti a priepustnosti. Strojové učenie sa vyvíja veľmi rýchlo a my neustále modernizujeme našu technológiu, aby naši používatelia zostali v obraze.

Tempo pokroku v tomto odbore znamená, že sa často objavujú prekvapivé nové aplikácie AI – pozitívne aj negatívne. Ukončíme prístup k API pri zjavne škodlivých prípadoch použitia, ako sú obťažovanie, spam, radikalizácia alebo astroturfing. Zároveň vieme, že nedokážeme predvídať všetky možné dôsledky tejto technológie, preto dnes spúšťame súkromnú beta verziu namiesto všeobecnej dostupnosti, vyvíjame nástroje, ktoré používateľom pomôžu lepšie kontrolovať obsah, ktorý naše API vracia, a skúmame aspekty jazykovej technológie relevantné pre bezpečnosť (ako napríklad analýzu, zmierňovanie a zásahy pri škodlivej zaujatosti). Podelíme sa o to, čo sa naučíme, aby naši používatelia a širšia komunita mohli vytvárať viac systémov umelej inteligencie, ktoré sú viac priateľské k ľuďom.

Okrem toho, že je zdrojom príjmov, ktorý nám pomáha pokryť náklady⁠ pri napĺňaní našej misie⁠, API nás prinútilo ešte viac sa sústrediť na technológiu AI všeobecného určenia–posúvať ju dopredu, sprístupňovať ju na použitie a zvažovať jej dopady v reálnom svete. Dúfame, že API výrazne zníži bariéru⁠(otvorí sa v novom okne) pre vytváranie užitočných produktov poháňaných AI, čo povedie k vzniku nástrojov a služieb, ktoré si dnes len ťažko vieme predstaviť.

Máte záujem skúmať API? Pridajte sa k spoločnostiam ako Algolia⁠(otvorí sa v novom okne), Quizlet⁠(otvorí sa v novom okne) a Reddit⁠(otvorí sa v novom okne), a k výskumníkom v inštitúciách, ako je Middlebury Institute⁠(otvorí sa v novom okne), v našej súkromnej beta verzii⁠(otvorí sa v novom okne).

V konečnom dôsledku nám najviac záleží⁠ na tom, aby všeobecná umelá inteligencia prinášala úžitok všetkým. Vnímame vývoj komerčných produktov ako jeden zo spôsobov, ako zabezpečiť dostatok financií na úspech.

Taktiež veríme, že bezpečné nasadzovanie výkonných AI systémov vo svete bude náročné zvládnuť správne. Pri sprístupnení API úzko spolupracujeme s našimi partnermi, aby sme zistili, aké výzvy vznikajú pri používaní AI systémov v reálnom svete. To nám pomôže nasmerovať naše úsilie pri pochopení toho, ako bude prebiehať nasadzovanie budúcich AI systémov a čo musíme urobiť, aby boli bezpečné a prospešné pre všetkých.

Existujú tri hlavné dôvody, prečo sme to urobili. Po prvé, komercializácia technológie nám pomáha financovať náš pokračujúci výskum v oblasti AI, bezpečnosti a politík.

Po druhé, mnohé modely, ktoré sú základom API, sú veľmi veľké, vyžadujú si rozsiahle odborné znalosti na vývoj a nasadenie a ich prevádzka je veľmi nákladná. To sťažuje komukoľvek okrem veľkých spoločností využívať výhody tejto základnej technológie. Veríme, že API sprístupní výkonné AI systémy menším podnikom a organizáciám.

Po tretie, model API nám umožňuje jednoduchšie reagovať na zneužitie technológie. Keďže je ťažké predvídať následné prípady použitia našich modelov, považujeme za prirodzene bezpečnejšie sprístupniť ich prostredníctvom API a postupne rozširovať prístup, než vydať open-source model, pri ktorom nie je možné upraviť prístup, ak by sa ukázalo, že má škodlivé aplikácie.

Pri modeli GPT‑2 bola jednou z našich hlavných obáv jeho škodlivé použitie (napr. na dezinformácie), čomu je ťažké predísť v okamihu, keď je model otvorene sprístupnený. Pri používaní API dokážeme lepšie predchádzať zneužitiu tým, že obmedzíme prístup na schválených zákazníkov a schválené prípady použitia. Predtým, ako môžu navrhované aplikácie prejsť do produkcie, máme povinný proces výrobnej kontroly. V produkčných kontrolách hodnotíme aplikácie podľa niekoľkých kritérií a kladieme si otázky ako: Je toto momentálne podporovaný prípad použitia?, Aká je otvorenosť aplikácie?, Aké je riziko aplikácie?, Ako plánujete riešiť potenciálne zneužitie? a Kto sú koncoví používatelia vašej aplikácie?.

Ukončujeme prístup k API v prípadoch použitia, pri ktorých sa zistí, že spôsobujú (alebo majú za cieľ spôsobiť) fyzickú, emocionálnu alebo psychologickú ujmu ľuďom–vrátane, ale nielen obmedzené na obťažovanie, úmyselné klamanie, radikalizáciu, astroturfing či spam–ako aj pri aplikáciách, ktoré nemajú dostatočné ochranné mechanizmy na obmedzenie zneužitia koncovými používateľmi. Ako budeme získavať viac skúseností s praktickou prevádzkou API, budeme priebežne spresňovať kategórie použití, ktoré dokážeme podporovať–jednak s cieľom rozšíriť rozsah aplikácií, ktoré môžeme podporiť, a jednak vytvoriť detailnejšie kategórie pre tie, pri ktorých máme obavy zo zneužitia.

Jedným z kľúčových faktorov, ktoré zohľadňujeme pri schvaľovaní použití API, je rozsah, v akom aplikácia vykazuje otvorené správanie oproti obmedzenému správaniu vo vzťahu k základným generatívnym schopnostiam systému. Otvorené aplikácie API (t. j. také, ktoré umožňujú bezproblémovú tvorbu veľkého množstva prispôsobiteľného textu prostredníctvom ľubovoľných príkazov) sú obzvlášť náchylné na zneužitie. Obmedzenia, ktoré môžu spraviť generatívne prípady použitia bezpečnejšími, zahŕňajú návrh systémov so zapojením človeka do rozhodovacieho procesu, obmedzenia prístupu koncových používateľov, následné spracovanie výstupov, filtrovanie obsahu, limity dĺžky vstupov a výstupov, aktívne monitorovanie a tematické obmedzenia.

Pokračujeme tiež vo výskume potenciálnych spôsobov zneužitia modelov poskytovaných prostredníctvom API, a to aj v spolupráci s externými výskumníkmi prostredníctvom nášho akademického prístupového programu⁠(otvorí sa v novom okne). Momentálne začíname s veľmi obmedzeným počtom výskumníkov a už máme niektoré výsledky od našich akademických partnerov z Middlebury Institute⁠(otvorí sa v novom okne), University of Washington a Allen Institute for AI⁠(otvorí sa v novom okne). Do tohto programu už máme desaťtisíce žiadateľov a v súčasnosti uprednostňujeme prihlášky zamerané na výskum spravodlivosti a reprezentácie.

Zmierňovanie negatívnych vplyvov, ako sú škodlivé predsudky, je náročný problém naprieč celým odvetvím, ktorý je mimoriadne dôležitý. Ako uvádzame v práci o GPT‑3⁠(otvorí sa v novom okne) a v karte modelu⁠(otvorí sa v novom okne), naše modely API vykazujú určité zaujatosti, ktoré sa prejavia aj v generovanom texte. Tu sú kroky, ktoré podnikáme na riešenie týchto problémov:

• Vypracovali sme pokyny na používanie, ktoré pomáhajú vývojárom pochopiť a riešiť potenciálne bezpečnostné problémy.
• Úzko spolupracujeme s používateľmi, aby sme pochopili ich prípady použitia a vyvinuli nástroje na odhalenie a zmiernenie škodlivých predsudkov.
• Vykonávame vlastný výskum prejavov škodlivých predsudkov a širších otázok spravodlivosti a reprezentácie, ktorý nám pomôže pri práci prostredníctvom lepšej dokumentácie existujúcich modelov a rôznych vylepšení budúcich modelov.
• Uvedomujeme si, že predsudky sú problémom, ktorý sa prejavuje na priesečníku systému a jeho nasadeného kontextu; aplikácie vytvorené s použitím našej technológie sú sociotechnické systémy, preto spolupracujeme s našimi vývojármi na tom, aby zavádzali vhodné procesy a systémy s človekom v rozhodovacom cykle na monitorovanie nežiaducich prejavov.

Naším cieľom je naďalej prehlbovať pochopenie potenciálnych škôd spôsobených API v jednotlivých kontextoch použitia a neustále zlepšovať naše nástroje a procesy, aby sme ich minimalizovali.

Aktualizované 18. septembra 2020