OpenAI API

Пускаме API за достъп до нови модели на изкуствен интелект, разработени от OpenAI. За разлика от повечето системи с изкуствен интелект, които са предназначени за един случай на употреба, API днес предоставя интерфейс с общо предназначение „въвеждане и извеждане на текст“, позволяващ на потребителите да го изпробват за почти всяка задача на английски език. Вече можете да поискате достъп, за да интегрирате API във Вашия продукт, да разработите изцяло ново приложение или да ни помогнете да изследваме силните страни и ограниченията на тази технология.

При зададена текстова подканка API ще върне довършване на текста, опитвайки се да съответства на шаблона, който сте му дали. Можете да го „програмирате“, като му покажете само няколко примера за това, което бихте искали да прави; успехът му обикновено варира в зависимост от това колко сложна е задачата. API също така Ви позволява да усъвършенствате производителността при специфични задачи чрез обучение върху набор от данни (малък или голям) от примери, които предоставяте, или чрез учене от човешка обратна връзка, предоставена от потребители или специалисти по етикетиране.

Ние проектирахме API така, че да бъде лесен за използване от всеки, но и достатъчно гъвкав, за да направи екипите за машинно обучение по-продуктивни. Всъщност много от нашите екипи вече използват API, за да могат да се съсредоточат върху изследванията в областта на машинното обучение, вместо върху проблемите с разпределените системи. Днес API изпълнява модели с наследени знания от семейството  GPT‑3⁠(отваря се в нов прозорец)  с множество подобрения в скоростта и производителността. Машинното обучение се развива много бързо и ние непрекъснато надграждаме нашата технология, така че потребителите да бъдат в крак с времето.

Темпът на напредък в тази област означава, че често се появяват изненадващи нови приложения на изкуствения интелект, както положителни, така и отрицателни. Ще прекратим достъпа до API за очевидно вредни случаи на употреба, като тормоз, спам, радикализация или астротурфинг. Но също така знаем, че не можем да предвидим всички възможни последици от тази технология, затова днес я стартираме в частна бета версия, а не в общодостъпна версия. Създаваме инструменти, които да помогнат на потребителите да контролират по-добре съдържанието, което връща нашият API, и изследваме аспекти на езиковите технологии, свързани с безопасността (като анализиране, смекчаване и намеса срещу вредни пристрастия). Ще споделим наученото, така че нашите потребители и по-широката общност да могат да изградят по-ефективни за човека системи с изкуствен интелект.

Освен че е източник на приходи, който ни помага  да покриваме разходите⁠  в преследване на  нашата мисия⁠, API ни подтикна да засилим фокуса си върху универсалната технология за изкуствен интелект — да я усъвършенстваме, да я направим използваема и да обмислим въздействието ѝ в реалния свят. Надяваме се, че API значително ще намали  бариерата⁠(отваря се в нов прозорец)  пред създаването на полезни продукти, задвижвани от изкуствен интелект, което ще доведе до инструменти и услуги, които днес е трудно да си представим.

Интересувате ли се от изследване на API? Присъединете се към компании като  Algolia⁠(отваря се в нов прозорец),  Quizlet⁠(отваря се в нов прозорец) и  Reddit⁠(отваря се в нов прозорец), както и към изследователи от институции като  Института Мидълбъри⁠(отваря се в нов прозорец)  в нашата  частна бета версия⁠(отваря се в нов прозорец).

В крайна сметка това, което ни  интересува най-много,⁠  е да гарантираме, че общият изкуствен интелект е от полза за всички. Смятаме, че разработването на търговски продукти е един от начините да се уверим, че разполагаме с достатъчно финансиране, за да успеем.

Също така вярваме, че безопасното внедряване на мощни системи с изкуствен интелект в света ще бъде трудно да се осъществи правилно. При пускането на API ние работим в тясно сътрудничество с нашите партньори, за да видим какви предизвикателства възникват, когато системите с изкуствен интелект се използват в реалния свят. Това ще ни помогне да насочим усилията си да разберем как ще протече внедряването на бъдещи системи с изкуствен интелект и какво трябва да направим, за да се уверим, че те са безопасни и полезни за всички.

Има три основни причини, поради които направихме това. Първо, комерсиализацията на технологията ни помага да финансираме текущите си усилия в изследванията, безопасността и политиките в областта на изкуствения интелект.

Второ, много от моделите, които са в основата на API, са много големи, изискват много опит за разработване и внедряване и правят работата им много скъпа. Това затруднява всеки, освен по-големите компании, да се възползва от основната технология. Надяваме се, че API ще направи мощните системи с изкуствен интелект по-достъпни за по-малките предприятия и организации.

Трето, моделът API ни позволява по-лесно да реагираме на злоупотреба с технологията. Тъй като е трудно да се предвидят случаите на използване на нашите модели в бъдеще, по своята същност е по-безопасно да ги пуснем чрез API и да разширим достъпа с течение на времето, вместо да пуснем модел с отворен код, при който достъпът не може да бъде коригиран, ако се окаже, че има вредни приложения.

С GPT‑2 едно от основните ни опасения беше злонамереното използване на модела (например за дезинформация), което е трудно да се предотврати, тъй като моделът е с отворен код. За API можем по-добре да предотвратим злоупотребите, като ограничим достъпа до одобрени клиенти и случаи на употреба. Имаме задължителен процес на производствен преглед, преди предложените приложения да бъдат пуснати в действие. При производствените прегледи ние оценяваме приложенията по няколко оси, като задаваме въпроси като:  Това текущо поддържан случай на употреба ли е?,  Колко отворено е приложението?,  Колко рисково е приложението?,  Как планирате да се справите с потенциална злоупотреба? и  Кои са крайните потребители на Вашето приложение?.

Прекратяваме достъпа до API за случаи на употреба, за които се установи, че причиняват (или са предназначени да причинят) физическа, емоционална или психологическа вреда на хора, включително, но не само, тормоз, умишлена измама, радикализация, астротурфинг или спам, както и приложения, които нямат достатъчно предпазни мерки за ограничаване на злоупотребата от крайните потребители. С натрупването на повече опит в практическата работа с API, ние ще продължим да усъвършенстваме категориите на използване, които можем да поддържаме, както за да разширим обхвата на приложенията, които можем да поддържаме, така и за да създадем по-прецизни категории за тези, за които имаме опасения за злоупотреба.

Един ключов фактор, който вземаме предвид при одобряването на употребата на API, е степента, до която дадено приложение демонстрира отворено спрямо ограничено поведение по отношение на основните генеративни възможности на системата. Отворените приложения на API (т.е. такива, които активират безпроблемно генериране на големи количества персонализируем текст чрез произволни подкани) са особено податливи на злоупотреба. Ограниченията, които могат да направят генеративните случаи на употреба по-безопасни, включват системен дизайн, който държи човека в процеса, ограничения за достъп на крайния потребител, последваща обработка на изхода, филтриране на съдържание, ограничения за дължина на въвеждане/изход, активно наблюдение и ограничения за тематика.

Също така продължаваме да провеждаме изследвания на потенциалните злоупотреби с модели, обслужвани от API, включително с изследователи от трети страни чрез нашата  програма за академичен достъп⁠(отваря се в нов прозорец). В момента започваме с много ограничен брой изследователи и вече имаме някои резултати от нашите академични партньори в  Института Мидълбъри⁠(отваря се в нов прозорец),  Вашингтонския университет и Института за изкуствен интелект „Алън“⁠(отваря се в нов прозорец). Вече имаме десетки хиляди кандидати за тази програма и в момента даваме приоритет на приложения, фокусирани върху изследванията на справедливостта и представителството.

Смекчаването на негативните ефекти, като вредните пристрастия, е труден, изключително важен проблем за цялата индустрия. Както обсъждаме в  документа за GPT‑3⁠(отваря се в нов прозорец) и картата на модела⁠(отваря се в нов прозорец), нашите API модели проявяват пристрастия, които ще се отразят в генерирания текст. Ето стъпките, които предприемаме, за да се справим с тези проблеми:

• Разработили сме насоки за употреба, които помагат на разработчиците да разберат и да се справят с потенциални проблеми с безопасността.
• Работим в тясно сътрудничество с потребителите, за да разберем техните случаи на употреба и да разработим инструменти за откриване и намеса за смекчаване на вредните пристрастия.
• Провеждаме собствено изследване на проявите на вредни пристрастия и по-широки въпроси, свързани със справедливостта и представителството, което ще ни помогне да информираме работата си чрез подобрена документация на съществуващите модели, както и чрез различни подобрения на бъдещите модели.
• Ние признаваме, че пристрастията са проблем, който се проявява на пресечната точка между система и внедрен контекст; приложенията, изградени с нашата технология, са социотехнически системи, затова работим с нашите разработчици, за да гарантираме, че те въвеждат подходящи процеси и системи с човешко участие за наблюдение на неблагоприятно поведение.

Нашата цел е да продължим да развиваме разбирането си за потенциалните вреди от API във всеки контекст на употреба и непрекъснато да подобряваме нашите инструменти и процеси, за да ги минимизираме.

Актуализирано на 18 септември 2020 г.