OpenAI API

Vydáváme API pro přístup k novým AI modelům vyvinutým OpenAI. Na rozdíl od většiny systémů umělé inteligence, které jsou navrženy k jenomu účelu, dnes API poskytuje univerzální rozhraní „text in, text out“, které uživatelům umožňuje vyzkoušet si ho prakticky s jakýmkoli úkolem v angličtině. Nyní můžeš požádat o přístup, abys mohl integrovat rozhraní API do svého produktu, vyvinout zcela novou aplikaci nebo nám pomoci prozkoumat silné stránky a limity této technologie.

Při jaké textové výzvě vrátí API dokončení textu a pokusí se odpovídat vzoru, který jsi mu zadal. Rozhraní můžeš „naprogramovat“ tak, že mu ukážeš jen několik příkladů toho, co bys chtěl, aby dělalo; jeho úspěch se obecně liší podle toho, jak složitý je úkol. API také umožňuje vylepšit výkon konkrétních úkolů školením na datové sadě (malé nebo velké) příkladů, které poskytneš, nebo učením se z lidské zpětné vazby poskytované uživateli nebo anotátory.

API jsme navrhli tak, aby jeho použití bylo jednoduché pro kohokoli, ale také aby bylo dostatečně pružné, aby týmy strojového učení byly produktivnější. Ve skutečnosti nyní používá API mnoho našich týmů, aby se mohly soustředit na výzkum strojového učení namísto problémů s distribuovanými systémy. API dnes spouští modely s váhami z rodiny GPT‑3⁠(otevře se v novém okně) s mnoha vylepšeními rychlosti a propustnosti systému. Strojové učení se vyvíjí velmi rychle a my neustále vylepšujeme naše technologie, aby naši uživatelé stále zůstávali v obraze.

Rychlost pokroku v tomto oboru znamená, že se často objevují překvapivé nové aplikace umělé inteligence, a to jak pozitivní, tak negativní. Při zjištění zjevně škodlivých případů použití, jako je obtěžování, spam, radikalizace nebo astroturfing, ukončíme přístup k API. Ale také víme, že nemůžeme předvídat všechny možné důsledky této technologie, proto ji dnes spouštíme v soukromé beta verzi místo obecné dostupnosti. Vytváříme nástroje, které uživatelům pomohou lépe kontrolovat obsah, který naše API vrací, a zkoumáme aspekty jazykových technologií související s bezpečností (jako je analýza, zmírňování zkreslení a intervence proti škodlivému zkreslení). Podělíme se o to, co se naučíme, aby naši uživatelé a širší komunita mohli vytvářet systémy umělé inteligence, které budou přátelštější k lidem.

Kromě toho, že API je zdrojem příjmů, který nám pomáhá pokrýt náklady⁠ při plnění našeho poslání⁠, nás také přimělo k tomu, abychom se více zaměřili na technologie umělé inteligence k obecným účelům – na jejich rozvoj, zvyšování použitelnosti a zvažování jejich dopadů v reálném světě. Doufáme, že API výrazně sníží bariéru⁠(otevře se v novém okně), která brání vytváření prospěšných produktů poháněných umělou inteligencí, což povede ke vzniku nástrojů a služeb, které si dnes těžko dokážeme představit.

Máš zájem prozkoumat API? Připoj se ke společnostem jako je Algolia⁠(otevře se v novém okně), Quizlet⁠(otevře se v novém okně) a Reddit⁠(otevře se v novém okně) a k výzkumným pracovníkům z institucí, jako je Middlebury Institute⁠(otevře se v novém okně) v naší soukromé beta⁠(otevře se v novém okně).

V konečném důsledku nám nejvíce záleží⁠ na tom, aby obecná umělá inteligence prospívala všem. Vývoj komerčních produktů vidíme jako jeden ze způsobů, jak zajistit dostatek financí k úspěchu.

Také věříme, že správně provést bezpečné nasazení výkonných systémů umělé inteligence ve světě bude obtížné. Při vydávání API úzce spolupracujeme s našimi partnery, abychom zjistili, jaké problémy vznikají při používání systémů umělé inteligence v reálném světě. To nám pomůže nasměrovat naše úsilí k pochopení, jak bude probíhat nasazení budoucích systémů umělé inteligence, a co musíme udělat, abychom se ujistili, že jsou bezpečné a prospěšné pro všechny.

Existují tři hlavní důvody, proč jsme to udělali. Za prvé – komercializace technologie nám pomáhá financovat náš probíhající výzkum umělé inteligence, bezpečnost a úsilí v oblasti politiky umělé inteligence.

Za druhé, mnoho modelů, které jsou základem API, je velmi rozsáhlých, což vyžaduje mnoho odborných znalostí k jejich vývoji a nasazení a činí jejich provoz velmi nákladným. To ztěžuje komukoli kromě větších společností využívat základní technologii. Doufáme, že API zpřístupní výkonné systémy umělé inteligence menším podnikům a organizacím.

Za třetí, model API nám umožňuje snáze reagovat na zneužití technologie. Vzhledem k tomu, že je obtížné předvídat následné případy použití našich modelů, je ze své podstaty bezpečnější uvolnit je prostřednictvím API a postupně rozšiřovat přístup, než vydat model s otevřeným zdrojovým kódem, kde přístup nelze upravit, pokud se ukáže, že má škodlivé použití.

U GPT‑2 byla jednou z našich hlavních obav možnost zneužití modelu (např. k šíření dezinformací), čemuž je obtížné zabránit, jakmile je model uvolněn jako open source. U API dokážeme lépe předcházet zneužití tím, že omezíme přístup na schválené zákazníky a případy použití. Před spuštěním navrhovaných aplikací do běžného provozu máme povinný proces kontroly produkce. Při kontrolách produkce vyhodnocujeme aplikace z několika hledisek a klademe si otázky jako: Je tento případ použití aktuálně podporován?, Jak otevřená je aplikace?, Jak riziková je aplikace?, Jak plánuješ řešit potenciální zneužití? a Kdo jsou koncoví uživatelé tvé aplikace?.

U případů použití, které způsobují (nebo mají za cíl způsobit) fyzickou, emocionální nebo psychickou újmu lidem, zejména včetně obtěžování, úmyslného klamání, radikalizace, astroturfingu (vyvolávání falešného pozitivního dojmu nezávislého publika) nebo spamu, a také u aplikací, které nemají dostatečná ochranná opatření k omezení zneužití koncovými uživateli, ukončujeme přístup k API. Jak získáme více zkušeností s provozováním API v praxi, budeme neustále zdokonalovat kategorie použití, které můžeme podporovat, abychom rozšířili škálu aplikací, které můžeme podporovat, a vytvořili jemnější kategorie pro ty, u kterých máme obavy ze zneužití.

Jedním z klíčových faktorů, které zvažujeme při schvalování použití API, je míra, do jaké aplikace vykazují otevřené versus omezené chování s ohledem na základní generativní schopnosti systému. Otevřené aplikace API (tj. ty, které povolují bezproblémové generování velkého množství přizpůsobitelného textu prostřednictvím libovolných výzev) jsou obzvláště náchylné ke zneužití. Mezi omezení, která mohou zvýšit bezpečnost případů generativního použití, patří návrh systémů, který udržuje člověka v procesu, omezení přístupu koncových uživatelů, následné zpracování výstupů, filtrace obsahu, omezení délky vstupů/výstupů, aktivní monitorování a omezení tematického rozsahu.

Nadále pokračujeme ve výzkumu možného zneužití modelů poskytovaných rozhraním API včetně spolupráce s výzkumnými pracovníky třetích stran prostřednictvím našeho programu akademického přístupu⁠(otevře se v novém okně). V tuto chvíli začínáme s velmi omezeným počtem výzkumných pracovníků a již máme některé výsledky od našich akademických partnerů z Middlebury Institute⁠(otevře se v novém okně), University of Washington a Allen Institute for AI⁠(otevře se v novém okně). Do tohoto programu již máme desítky tisíc žadatelů a v současné době upřednostňujeme žádosti zaměřené na výzkum regulovaného fungování a vyjádření.

Zmírňování negativních dopadů, jako je škodlivé zkreslení, je náročný, celoodvětvový problém, který je nesmírně důležitý. Jak diskutujeme v dokumentu GPT‑3⁠(otevře se v novém okně) a modelové kartě⁠(otevře se v novém okně), naše modely API vykazují zkreslení, která se projeví ve vytvořeném textu. Zde uvádíme kroky, které podnikáme k řešení těchto problémů:

• Vyvinuli jsme metodické pokyny k používání, které vývojářům pomáhají pochopit a řešit potenciální bezpečnostní problémy.
• Úzce spolupracujeme s uživateli, abychom porozuměli jejich případům použití a vyvinuli nástroje k odhalení zkreslení a k provedení zásahu ke zmírnění škodlivých následků zkreslení.
• Provádíme vlastní výzkum projevů škodlivého zkreslení a širších otázek týkajících se regulovaného fungování a vyjádření, což nám pomůže informovat o naší práci prostřednictvím vylepšené dokumentace stávajících modelů a o různých vylepšeních budoucích modelů.
• Uvědomujeme si, že zkreslení je problém, který se projevuje na průniku systému a rozčleněného kontextu; aplikace vytvořené s využitím naší technologie jsou socio-technické systémy, a proto spolupracujeme s našimi vývojáři, abychom zajistili zavedení vhodných procesů a systémů s lidským zapojením za účelem sledování nežádoucího chování.

Naším cílem je pokračovat v rozvoji našeho chápání potenciálních hrozeb API v každém kontextu použití a neustále zlepšovat naše nástroje a procesy, abychom tyto hrozby minimalizovali.

Aktualizováno 18. září 2020