OpenAI API

Објавуваме API за пристап до нови модели на вештачка интелигенција развиени од OpenAI. За разлика од повеќето системи за вештачка интелигенција кои се дизајнирани за една намена, API денес обезбедува интерфејс за општа намена „текст внатре, текст надвор“, овозможувајќи им на корисниците да го испробаат на речиси секоја задача на англиски јазик. Сега можеш да побараш пристап за да го интегрираш API во твојот производ, да развиеш сосема нова апликација или да ни помогнеш да ги истражиме силните страни и границите на оваа технологија.

За кој било текстуален промпт, API ќе врати дополнување на текст, обидувајќи се да го совпадне со шаблонот што си му го дал. Можеш да го „програмираш“ покажувајќи му само неколку примери за тоа што би сакал да направи; неговиот успех генерално варира во зависност од тоа колку е сложена задачата. API, исто така, ви овозможува да ги усовршите перформансите на специфични задачи преку обука на збирка податоци (мали или големи) од примери што ги давате, или со учење од човечки повратни информации обезбедени од корисниците или етикетирачите.

Го дизајниравме API да биде едноставен за секој да го користи, но и доволно флексибилен за да ги направи тимовите за машинско учење попродуктивни. Всушност, многу од нашите тимови сега го користат API за да можат да се фокусираат на истражување за машинско учење наместо на проблеми со дистрибуираните системи. Денес API извршува модели со тежини од семејството GPT‑3⁠(се отвора во нов прозорец) со многу подобрувања во брзината и капацитетот. Машинското учење се движи многу брзо, а ние постојано ја надградуваме нашата технологија за нашите корисници да останат во тек.

Темпото на напредок во оваа област значи дека често има изненадувачки нови апликации на вештачката интелигенција, позитивни и негативни. Ќе го прекинеме пристапот до API за очигледно штетни случаи на употреба, како што се вознемирување, спам, радикализација или астротурфинг. Но, исто така знаеме дека не можеме да ги предвидиме сите можни последици од оваа технологија, па затоа денес ја воведуваме во приватна beta, наместо во општа достапност, градејќи алатки што ќе им помогнат на корисниците подобро да ја контролираат содржината што ја враќа нашиот API и истражувајќи аспекти на јазичната технологија релевантни за безбедноста (како што се анализа, ублажување и интервенција при штетна пристрасност). Ќе го споделиме она што го учиме за да можат нашите корисници и пошироката заедница да изградат повеќе системи за вештачка интелигенција кои се позитивни за луѓето.

Покрај тоа што е извор на приходи за да ни помогне да ги покриеме трошоците⁠ во извршувањето на нашата мисија⁠, API нè поттикна да го изостриме нашиот фокус на технологијата за вештачка интелигенција за општа намена – унапредување на технологијата, правејќи ја употреблива и земајќи ги предвид нејзините влијанија во реалниот свет. Се надеваме дека API значително ќе ја намали пречката⁠(се отвора во нов прозорец) за создавање корисни производи со вештачка интелигенција, што ќе резултира со алатки и услуги кои е тешко да се замислат денес.

Сакате да го истражи API-то? Придружете се на компании како Algolia⁠(се отвора во нов прозорец), Quizlet⁠(се отвора во нов прозорец) и Reddit⁠(се отвора во нов прозорец) и истражувачи во институции како Институтот Мидлбери⁠(се отвора во нов прозорец) во нашата приватна beta⁠(се отвора во нов прозорец).

На крајот на краиштата, она што најмногу нè интересира⁠ е да се осигуриме дека вештачката општа интелигенција ќе им користи на сите. Гледаме на развивањето на комерцијални производи како на еден од начините да се осигуриме дека имаме доволно средства за да успееме.

Исто така, веруваме дека безбедното воведување на моќни системи со вештачка интелигенција во светот ќе биде тешко да се направи правилно. При објавувањето на API, тесно соработуваме со нашите партнери за да видиме какви предизвици се јавуваат кога системите со вештачка интелигенција се користат во реалниот свет. Ова ќе помогне да ги водиме нашите напори да разбереме како ќе оди воведувањето на идните системи за вештачка интелигенција и што треба да направиме за да бидеме сигурни дека тие се безбедни и корисни за сите.

Постојат три главни причини зошто го направивме ова. Прво, комерцијализацијата на технологијата ни помага да ги финансираме нашите тековни истражувања, безбедност и политики за вештачка интелигенција.

Второ, многу од моделите што лежат во основата на API се многу големи, што бара многу стручност за развој и воведување, а нивното работење е многу скапо. Ова го прави тешко за секого освен за поголемите компании да имаат корист од основната технологија. Се надеваме дека API ќе ги направи моќните системи со вештачка интелигенција подостапни за помалите бизниси и организации.

Трето, API моделот ни овозможува полесно да одговориме на злоупотребата на технологијата. Бидејќи е тешко да се предвидат идните случаи на употреба на нашите модели, се чини дека е побезбедно да се објават преку API и да се прошири пристапот со текот на времето, отколку да се објави модел со отворен код каде што пристапот не може да се прилагоди ако се покаже дека има штетни апликации.

Со GPT‑2, една од нашите клучни грижи беше малициозната употреба на моделот (на пример, за дезинформации), што е тешко да се спречи алп моделот е со отворен код. За API, можеме подобро да спречиме злоупотреба со ограничување на пристапот до одобрени клиенти и случаи на користење. Имаме задолжителен процес на преглед на производството пред предложените апликации да бидат активирани. Во продукциските прегледи, ги оценуваме апликациите низ неколку оски, поставувајќи прашања како: Дали ова е моментално поддржан случај на употреба?, Колку е отворена апликацијата?, Колку е ризична апликацијата?, Како планираш да се справиш со потенцијална злоупотреба? и Кои се крајните корисници на твојата апликација?.

Го прекинуваме пристапот до API за случаи на употреба за кои е утврдено дека предизвикуваат (или се наменети да предизвикаат) физичка, емоционална или психолошка штета на луѓето, вклучувајќи, но не ограничувајќи се на вознемирување, намерна измама, радикализација, астротурфинг или спам, како и апликации кои немаат доволно заштитни мерки за да ја ограничат злоупотребата од страна на крајните корисници. Како што стекнуваме повеќе искуство во работењето со API во пракса, постојано ќе ги усовршуваме категориите на употреба што можеме да ги поддржиме, за да го прошириме опсегот на апликации што можеме да ги поддржиме и да креираме пофини категории за оние за кои имаме загриженост за злоупотреба.

Еден од клучните фактори што ги разгледуваме при одобрување на употребата на API е степенот до кој апликацијата покажува отворено наспроти ограничено однесување во однос на основните генеративни способности на системот. Отворените апликации на API (т.е. оние што овозможуваат непречено генерирање на големи количини на прилагодлив текст преку произволни промпти) се особено подложни на злоупотреба. Ограничувањата кои можат да ги направат генеративните случаи на употреба побезбедни вклучуваат дизајн на системи кој го држи човекот во процесот, ограничувања за пристап на крајниот корисник, пост-обработка на резултати, филтрација на содржина, ограничувања на должината на внесување/резултат, активно следење и ограничувања на темите.

Исто така, продолжуваме да спроведуваме истражувања за потенцијалната злоупотреба на моделите што ги нуди API, вклучувајќи и со истражувачи од трети лица преку нашата програма за академски пристап⁠(се отвора во нов прозорец). Во моментов започнуваме со многу ограничен број истражувачи и веќе имаме некои резултати од нашите академски партнери во Институтот Мидлбери⁠(се отвора во нов прозорец), Универзитетот во Вашингтон и Институтот Ален за вештачка интелигенција⁠(се отвора во нов прозорец). Веќе имаме десетици илјади лица пријавени за оваа програма и во моментов приоритизираме пријави фокусирани на истражување за правичност и застапеност.

Намалувањето на негативните ефекти како што е штетната пристрасност е тежок проблем во целата индустрија кој е исклучително важен. Како што дискутираме во трудот за GPT‑3⁠(се отвора во нов прозорец) и картичката за модел⁠(се отвора во нов прозорец), нашите API модели покажуваат пристрасности кои ќе се одразат во генерираниот текст. Еве ги чекорите што ги преземаме за да ги решиме овие проблеми:

• Развивме упатства за употреба кои им помагаат на развивачи на софтвер да ги разберат и решат потенцијалните безбедносни проблеми.
• Тесно соработуваме со корисниците за да ги разбереме нивните случаи на употреба и да развиеме алатки за откривање и интервенција за ублажување на штетната пристрасност.
• Спроведуваме сопствено истражување за манифестациите на штетни пристрасности и пошироки прашања во праведноста и претставувањето, што ќе помогне да се информира нашата работа преку подобрена документација на постојните модели, како и разни подобрувања на идните модели.
• Свесни сме дека пристрасноста е проблем што се манифестира на пресекот на системот и воведениот контекст; апликациите изградени со нашата технологија се социотехнички системи, па затоа работиме со нашите развивачи на софтвер за да се осигуриме дека тие воведуваат соодветни процеси и системи со човечки фактор за следење на негативното однесување.

Нашата цел е да продолжиме да го развиваме нашето разбирање за потенцијалните штети на API во секој контекст на употреба и постојано да ги подобрувуваме нашите алатки и процеси за да помогнеме да ги минимизираме.

Ажурирано на 18 септември 2020 год.