Политика дељења и објављивања

Да бисмо ублажили могуће ризике од садржаја генерисаног вештачком интелигенцијом, утврдили смо следећа правила дозвољеног дељења.

Објављивање ваших инструкција или генерисаних одговора на друштвеним медијима генерално је дозвољено, као и стримовање уживо коришћења, односно демонстрирања наших производа групама људи. Поштујте следеће:

• Сваки генерисан одговор прегледајте ручно пре него га поделите или док стримујете.
• Припишите садржај свом имену или свом предузећу.
• Назначите да је садржај генерисала вештачка интелигенција тако да ниједан корисник не може разумно то да превиди или погрешно разуме.
• Не делите садржај који је у супротности с нашом Политиком за садржај⁠⁠ или који може да увреди друге.
• Ако прихватате захтеве публике за инструкције, користите добро просуђивање; немојте уносити инструкције које би могле довести до кршења наших Политика за садржај⁠⁠.

Ако желите да обавестите тим привредног друштва OpenAI о неком конкретном генерисаном одговору, можете нам послати е-поруку или искористити алате за пријављивање унутар платформе Playground.

• Имајте на уму то да комуницирате директно са сировим моделом, што значи да не филтрирамо пристрасне или негативне одговоре. (Такође, овде можете прочитати више о примени наше бесплатне крајње тачке Moderation⁠⁠(отвара се у новом прозору).)

Аутори који желе да објаве свој изворни писани садржај (нпр. књига или збирка кратких прича) који је делом креиран помоћу API-ја привредног друштва OpenAI смеју то да ураде под следећим условима:

• Објављени садржај је приписан вашем имену или привредном друштву.
• Улога вештачке интелигенције у формулисању садржаја јасно је назначена тако да ниједан читалац то не може да превиди и тако да типичан читалац то може довољно јасно да разуме.
• Теме садржаја не крше Политику за садржај⁠⁠ или Услове коришћења⁠⁠ привредног друштва OpenAI, нпр. не односе се на садржај за одрасле, нежељени садржај, садржај пун мржње, садржај који подстиче насиље или друге употребе које могу проузроковати штету друштву.
• Суздржите се од дељења резултата који могу увредити друге.

Нпр. морате у предговору или уводу (или сличном месту) навести детаље о релативним улогама у изради нацрта, уређивању итд. Људи не би требало да садржај који је генерисао API представљају као да га је у целости генерисао човек или вештачка интелигенција – човек је тај који преузима крајњу одговорност за објављени садржај.

У наставку је дат пример уобичајене формулације коју можете користити да опишете свој креативни процес, под условом да је тачна:

Сматрамо да је важно да шира публика буде у могућности да оцени наша истраживања и производе, нарочито како бисмо разумели и унапредили потенцијалне слабости и безбедност или проблеме са пристрасношћу у нашим моделима. Сходно томе, истраживачке публикације које се односе на API привредног друштва OpenAI су добродошле.

• У неким случајевима, можемо да истакнемо ваш рад интерно и/или екстерно.
• У неким другим, као што су публикације које се односе на безбедност или злоупотребу API-ја, можемо да предузмемо одговарајуће мере како бисмо заштитили наше кориснике.
• Ако током свог истраживања уочите неке сигурносне или безбедносне проблеме са API-јем, одмах нам то пријавите путем нашег Програма координисаног обелодањивања рањивости⁠⁠.

Постоје бројни правци истраживања које желимо да испитамо са API-јем привредног друштва OpenAI. Ако сте заинтересовани за могућност субвенционисаног приступа, доставите нам детаље о свом истраживачком корисничком сценарију у пријави за Програм приступа за истраживаче⁠⁠.

Нарочито, сматрамо да су следећи правци посебно важни, иако сте слободни да сами дефинишете свој правац:

• Усклађеност: Како можемо разумети који циљ, ако уопште постоји, модел највише настоји да оствари? Како можемо боље да ускладимо тај циљ са људским жељама, нпр. кроз обликовање инструкција или фино подешавање?
• Правичност и заступљеност: Како треба утврдити критеријуме учинка у погледу правичности и заступљености у језичким моделима? Како се језички модели могу побољшати да би делотворно подржали циљеве правичности и заступљености у конкретним примењеним контекстима?
• Интердисциплинарно истраживање: Како развој вештачке интелигенције може користити увиде из других дисциплина, као што су филозофија, когнитивна наука и социолингвистика?
• Могућност тумачења и транспарентност: Како ови модели функционишу у механистичком смислу? Можемо ли да препознамо концепте које користе или да извучемо латентно знање из модела, изведемо закључке о поступку обуке или предвидимо неочекивано понашање убудуће?
• Могућност злоупотребе: Како се системи попут API-ја могу злоупотребити? Какве приступе „црвене команде” можемо развити да бисмо себи и другим пројектантима вештачке интелигенције помогли да размишљају о одговорном увођењу оваквих технологија?
• Истраживање модела: Модели попут оних којима се приступа преко API-ја имају различите способности које тек треба истражити. Радују нас истраживања у многим областима, као што су ограничења модела, лингвистичка својства, здраворазумско резоновање и потенцијалне примене за решавање других проблема.
• Робусност: Генеративни модели показују неуједначене способности, са областима у којима су изненађујуће јаки и областима у којима су изненађујуће слаби. Колико су велики генеративни модели отпорни на „природне” промене у инструкцији, као што су различити начини изражавања исте идеје или присуство или одсуство правописних грешака? Можемо ли предвидети у којим областима и задацима постоји већа вероватноћа да ће велики генеративни модели бити отпорни (или не) и у каквој је то вези са подацима који служе за обуку? Постоје ли технике које можемо користити да предвидимо и ублажимо најгори сценарио у понашању? Како се отпорност може мерити у контексту учења из малог броја уноса (нпр. преко варијација у инструкцијама)? Можемо ли обучити моделе тако да задовоље безбедносна својства уз веома висок ниво поузданости, чак и у случају непријатељских уноса?

Имајте на уму то да нам је због великог броја захтева потребно време да прегледамо ове пријаве и да неће сва истраживања бити приоритетно субвенционисана. Обратићемо вам се само ако ваша пријава буде изабрана за субвенционисање.