Политика за споделяне и публикуване

За да намалим възможните рискове от съдържание, генерирано от изкуствен интелект, сме определили следната политика за разрешено споделяне.

Публикуването на Ваши собствени подсказки или допълнения в социалните медии обикновено е допустимо, както и излъчването на живо на Вашето използване или демонстрирането на нашите продукти пред групи от хора. Моля, спазвайте следното:

• Преглеждайте ръчно всяко генерирано съобщение преди споделяне или по време на стрийминг.
• Приписвайте съдържанието на Вашето име или на Вашето дружество.
• Посочвайте, че съдържанието е генерирано от изкуствен интелект по начин, който никой потребител не би могъл да пропусне или да разбере погрешно.
• Не споделяйте съдържание, което нарушава нашата Политика за съдържание⁠⁠ или което може да обиди другите.
• Ако приемате заявки от аудиторията за подсказки, използвайте здравия си разум; не въвеждайте подсказки, които могат да доведат до нарушения на нашата Политика за съдържание⁠⁠.

Ако искате да сте сигурни, че екипът на OpenAI е запознат с конкретно изпълнение, можете да ни изпратите имейл или да използвате инструментите за докладване в Playground.

• Не забравяйте, че взаимодействате с необработения модел, което означава, че не филтрираме пристрастни или негативни отговори. (Можете да прочетете повече за внедряването на нашия безплатен краен пункт за модерация⁠(отваря се в нов прозорец) тук.)

Създателите, които желаят да публикуват свои авторски текстове (например книга, сборник с разкази), създадени частично с помощта на ППИ на OpenAI, могат да го направят при следните условия:

• Публикуваното съдържание се приписва на Вашето име или дружество.
• Ролята на изкуствения интелект във формулирането на съдържанието е ясно разкрита по начин, който никой читател не би могъл да пропусне и който типичният читател би намерил за достатъчно лесен за разбиране.
• Темите на съдържанието не нарушават Политиката за съдържание⁠⁠ или Условията за ползване⁠⁠ на OpenAI, т.е. не са свързани със съдържание за възрастни, спам, съдържание, подбуждащо към омраза, съдържание, подбуждащо към насилие, или други употреби, които могат да причинят социална вреда.
• Молим Ви да се въздържате от споделяне на публикации, които могат да обидят другите.

Например, в предговора или въведението (или на друго подобно място) трябва да се опишат подробно съответните роли за изготвянето, редактирането и т.н. Хората не трябва да представят съдържанието, генерирано от ППИ, като изцяло създадено от човек или изцяло създадено от изкуствен интелект, а човекът е този, който трябва да поеме крайната отговорност за публикуваното съдържание.

Ето някои стандартни изрази, които можете да използвате, за да опишете творческия си процес, стига да са точни:

Смятаме, че е важно по-широката общественост да може да оцени нашите проучвания и продукти, особено за да разбере и подобри потенциалните слабости и проблеми, свързани с безопасността или пристрастността в нашите модели. Съответно, приветстваме научни публикации, свързани с ППИ на OpenAI.

• В някои случаи може да искаме да популяризираме Вашата работа вътрешно и/или външно.
• В други случаи, като например публикации, свързани със сигурността или злоупотребата с ППИ, може да предприемем подходящи мерки за защита на нашите потребители.
• Ако забележите някакви проблеми, свързани с безопасността или сигурността на ППИ по време на проучването си, молим да ги съобщите незабавно чрез нашата Координирана програма за разкриване на уязвимости⁠⁠.

Има редица направления за проучвания, които с ентусиазъм ще проучим с ППИ на OpenAI. Ако проявявате интерес към възможността за субсидиран достъп, моля, предоставете ни подробна информация за Вашия случай на използване за проучвания в заявлението за участие в Програмата за достъп на изследователи⁠⁠.

По-специално, считаме следните насоки за особено важни, макар че сте свободни да изберете своя собствена посока:

• Съгласуване: Как можем да разберем каква цел, ако има такава, даден модел се възприема да преследва? Как можем да увеличим степента, в която тази цел е съобразена с човешките предпочитания, например чрез бързо проектиране или фина настройка?
• Справедливост и представителност: Как трябва да се установят критериите за ефективност за справедливост и представителност в езиковите модели? Как могат да бъдат подобрени езиковите модели, за да подкрепят ефективно целите за справедливост и представителност в конкретни, внедрени контексти?
• Интердисциплинарни проучвания: Как развитието на изкуствения интелект може да се възползва от познанията в други дисциплини като философия, когнитивни науки и социолингвистика?
• Интерпретируемост и прозрачност: Как тези модели функционират машинално? Можем ли да идентифицираме кои концепции използват, да извлечем скрити знания от модела, да направим изводи за процедурата на обучение или да предвидим изненадващо бъдещо поведение?
• Потенциал за злоупотреба: Как със системи като ППИ може да се злоупотребява? Какви подходи за „red teaming“ можем да разработим, за да помогнем на нас и на други разработчици на ИИ да помислят за отговорното внедряване на технологии като тази?
• Изследване на модели: Моделите, като тези, обслужвани от ППИ, имат разнообразни възможности, които все още не сме проучили. Ние сме ентусиазирани от изследванията в много области, включително ограниченията на моделите, езиковите свойства, разсъжденията, основани на здравия разум, и потенциалните приложения за много други проблеми.
• Устойчивост: Генеративните модели имат неравномерни повърхности на способности, с потенциал за изненадващо силни и изненадващо слаби области на способности. Колко устойчиви са големите генеративни модели на „естествени“ смущения в подсказката, като например формулиране на една и съща идея по различни начини или със или без правописни грешки? Можем ли да предвидим видовете области и задачи, за които големите генеративни модели е по-вероятно да бъдат устойчиви (или неустойчиви), и как това се отнася към данните за обучение? Има ли техники, които можем да използваме, за да предвидим и смекчим най-лошото поведение? Как може да се измери устойчивостта в контекста на обучението с малко повторения (например при различни варианти на подсказки)? Можем ли да обучим моделите така, че да отговарят на изискванията за безопасност с много висока степен на надеждност, дори при неблагоприятни входни данни?

Моля, имайте предвид, че поради големия брой заявки, разглеждането им отнема време и не всички проучвания ще бъдат приоритетни за субсидиране. Ще се свържем с Вас само ако Вашата кандидатура бъде избрана за субсидия.