გაზიარებისა და გამოქვეყნების პოლიტიკა

ხელოვნური ინტელექტით შექმნილი კონტენტის შესაძლო რისკების შესამცირებლად ჩვენ დავსახეთ შემდეგი პოლიტიკა ნებადართული გაზიარების შესახებ.

საკუთარი მოთხოვნების ან პასუხების სოციალურ მედიაში გამოქვეყნება ზოგადად ნებადართულია, ისევე, როგორც თქვენი გამოყენების პირდაპირი ნაკადის გაშვება ან ჩვენი პროდუქტების დემონსტრირება ადამიანთა ჯგუფებისთვის. გთხოვთ, დაიცვათ შემდეგი წესები:

• ყოველი გენერაციის შედეგი გადაამოწმეთ გაზიარებამდე ან სტრიმინგის დროს.
• მიუთითეთ კონტენტის ავტორად თქვენი სახელი ან თქვენი კომპანიის სახელი.
• მიუთითეთ, რომ კონტენტი შექმნილია ხელოვნური ინტელექტის მიერ — ისეთი ფორმით, რომ მომხმარებელმა ეს ვერ გამოტოვოს ან ვერ გაიგოს არასწორად.
• არ გააზიაროთ კონტენტი, რომელიც არღვევს ჩვენს კონტენტის პოლიტიკას⁠ან, შესაძლოა, შეურაცხმყოფელი იყოს სხვებისთვის.
• თუ აუდიტორიის მოთხოვნით იყენებთ მოთხოვნებს, გამოიყენეთ გონივრული განსჯა; არ შეიყვანოთ ისეთი მოთხოვნები, რომლებიც, შესაძლოა, არღვევდეს ჩვენს კონტენტის პოლიტიკას⁠.

თუ გსურთ, რომ OpenAI-ს გუნდს მიაწოდოთ ინფორმაცია კონკრეტულ გენერაციაზე, შეგიძლიათ, მოგვწეროთ ელფოსტით ან გამოიყენოთ ანგარიშგების ინსტრუმენტები Playground-ში.

• გაითვალისწინეთ, რომ თქვენ ურთიერთობთ დაუმუშავებელ მოდელთან, რაც ნიშნავს, რომ ჩვენ არ ვფილტრავთ მიკერძოებულ ან ნეგატიურ პასუხებს. (ასევე, შეგიძლიათ წაიკითხოთ მეტი ჩვენი უფასო მოდერაციის საბოლოო წერტილის⁠(იხსნება ახალ ფანჯარაში) გამოყენების შესახებ აქ.)

შემქმნელებს, რომლებსაც სურთ, გამოაქვეყნონ საკუთარი პირველი მხარის წერილობითი კონტენტი (მაგალითად, წიგნი, მოთხრობების კრებული), რომელიც ნაწილობრივ შექმნილია OpenAI-ს API-ს დახმარებით, ამის უფლება შემდეგ პირობებში აქვთ:

• გამოქვეყნებული კონტენტი მიეწერება თქვენს სახელს ან თქვენს კომპანიას.
• ხელოვნური ინტელექტის როლი კონტენტის შექმნაში ნათლად უნდა იყოს გამჟღავნებული ისეთი ფორმით, რომ ეს ვერავის ვერ გამორჩეს და საშუალო მკითხველმა მარტივად შეძლოს მისი გაგება.
• კონტენტის თემები არ არღვევს OpenAI-ს კონტენტის პოლიტიკას⁠ ან ⁠გამოყენების პირობებს⁠— მაგალითად, არ უნდა იყოს დაკავშირებული ზრდასრულთა კონტენტთან, სპამთან, სიძულვილის შემცველ კონტენტთან, ძალადობისკენ წაქეზებასთან ან სხვა ისეთ გამოყენებებთან, რომლებმაც, შესაძლოა, სოციალური ზიანი გამოიწვიოს.
• გთხოვთ, თავი შეიკავოთ ისეთი შედეგების გაზიარებისგან, რომლებიც, შესაძლოა, შეურაცხმყოფელი იყოს სხვებისთვის.

მაგალითად, აუცილებელია, წინასიტყვაობაში, შესავალში (ან მსგავს ნაწილში) დეტალურად აღიწეროს მონაწილის როლები ტექსტის შედგენაში, რედაქტირებაში და სხვა პროცესებში. ადამიანებმა არ უნდა წარმოადგინონ API-თ შექმნილი კონტენტი, როგორც მთლიანად ადამიანის მიერ შექმნილი ან მთლიანად ხელოვნური ინტელექტის მიერ შექმნილი — და საბოლოო პასუხისმგებლობა გამოქვეყნებულ კონტენტზე უნდა ეკისრებოდეს ადამიანს.

გთავაზობთ მაგალითობრივ ტექსტს, რომელიც შეგიძლიათ, გამოიყენოთ თქვენი შემოქმედებითი პროცესის აღწერისთვის იმ შემთხვევაში, თუ ეს აღწერს რეალურ პროცესს:

ჩვენ მიგვაჩნია, რომ მნიშვნელოვანია, ფართო საზოგადოებას ჰქონდეს შესაძლებლობა, შეაფასოს ჩვენი კვლევები და პროდუქტები, განსაკუთრებით, რათა უკეთ გაიგონ და გააუმჯობესონ ჩვენს მოდელებში არსებული შესაძლო სუსტი მხარეები და უსაფრთხოების ან მიკერძოებულობის პრობლემები. შესაბამისად, მივესალმებით კვლევით პუბლიკაციებს, რომლებიც დაკავშირებულია OpenAI-ს API-სთან.

• ზოგ შემთხვევაში, შესაძლოა, მოგვინდეს თქვენი ნამუშევრის გამოკვეთა შიდა და/ან გარე სივრცეში.
• სხვა შემთხვევებში, მაგალითად ისეთ პუბლიკაციებში, რომლებიც ეხება API-ს უსაფრთხოებას ან არასწორ გამოყენებას, შესაძლოა, გადავდგათ შესაბამისი ნაბიჯები ჩვენი მომხმარებლების დასაცავად.
• თუ თქვენი კვლევის პროცესში შეამჩნევთ API-სთან დაკავშირებულ უსაფრთხოების ან დაცულობის პრობლემებს, გთხოვთ, დაუყოვნებლივ შეგვატყობინოთ ისინი ჩვენი კოორდინირებული დაუცველობის გამოვლენის პროგრამის საშუალებით⁠.

არსებობს რამდენიმე კვლევითი მიმართულება, რომელსაც აღფრთოვანებით ვიკვლევთ OpenAI-ს API-ს საშუალებით. თუ დაინტერესებული ხართ სუბსიდირებული წვდომის შესაძლებლობით, გთხოვთ, მოგვაწოდოთ დეტალები თქვენი კვლევითი გამოყენების შესახებ მკვლევართა წვდომის პროგრამის განაცხადში⁠.

კონკრეტულად, ჩვენ განსაკუთრებით მნიშვნელოვან მიმართულებებად ვთვლით შემდეგს, თუმცა თქვენ თავისუფლად შეგიძლიათ შეიმუშაოთ საკუთარი მიმართულება:

• შესაბამისობა: როგორ შეიძლება, დავადგინოთ, აქვს თუ არა მოდელს რაიმე კონკრეტული მიზანი და, თუ აქვს, რა არის ის მიზანი, რომლისკენაც მოდელი ყველაზე მეტად ისწრაფვის? როგორ მოვახერხოთ, რომ მოდელის ქცევა და პასუხები უფრო მეტად ეთანხმებოდეს იმას, რასაც ადამიანები მიიჩნევენ სწორად და სასურველად, მაგალითად, მოთხოვნების სწორად შექმნის ან დამატებითი გაწვრთნის საშუალებით?
• სამართლიანობა და წარმომადგენლობა: როგორ უნდა განისაზღვროს შესრულების კრიტერიუმები, რათა ენობრივ მოდელებში შეფასდეს სამართლიანობა და წარმომადგენლობა? როგორ შეიძლება ენობრივი მოდელების გაუმჯობესება ისე, რომ კონკრეტულ პრაქტიკულ გარემოებებში უკეთ დაუჭირონ მხარი სამართლიანობისა და წარმომადგენლობის მიზნებს?
• დარგთაშორისი კვლევა: როგორ შეიძლება ხელოვნური ინტელექტის განვითარებაში გამოვიყენოთ სხვა დარგების, მაგალითად, ფილოსოფიის, კოგნიტური მეცნიერებისა და სოციოლინგვისტიკის ცოდნა და იდეები?
• განმარტებადობა და გამჭვირვალობა: როგორ მუშაობენ ეს მოდელები მექანიკური თვალსაზრისით? შეგვიძლია თუ არა დავადგინოთ, რა კონცეფციებს იყენებენ ისინი, ამოვიღოთ მოდელიდან ფარული ცოდნა, გავაკეთოთ დასკვნები მისი გაწვრთნის პროცესზე ან ვიწინასწარმეტყველოთ მოულოდნელი მომავალი ქცევა?
• ბოროტად გამოყენების პოტენციალი: როგორ შეიძლება სისტემების, მაგალითად, API-ს ბოროტად გამოყენება? რა სახის „წითელი ჯგუფის“ მიდგომები შეიძლება შევიმუშაოთ, რათა ჩვენ და სხვა ხელოვნური ინტელექტის შემმუშავებლებს დავეხმაროთ მსგავსი ტექნოლოგიების პასუხისმგებლიანად დანერგვაზე ფიქრში?
• მოდელის გამოკვლევა: API-ს მიერ მოწოდებულ მსგავს მოდელებს აქვთ მრავალფეროვანი შესაძლებლობები, რომელთა გამოკვლევა ჯერ კიდევ წინ გვაქვს. ჩვენ გვახარებს კვლევები ბევრ სფეროში, მათ შორის, მოდელის შეზღუდვებში, ლინგვისტურ თვისებებში, ჯანმრთელ გონებრივ მსჯელობაში და მრავალ სხვა პრობლემაზე შესაძლო გამოყენებაში.
• გამძლეობა: გენერაციულ მოდელებს აქვთ არათანაბარი შესაძლებლობების პროფილი; ზოგ სფეროში შეიძლება მოულოდნელად ძლიერი აღმოჩნდნენ, ხოლო სხვებში — მოულოდნელად სუსტი. რამდენად გამძლეები არიან დიდი გენერაციული მოდელები „ბუნებრივი“ სახის ცვლილებების მიმართ მოთხოვნაში, მაგალითად, როცა ერთი და იგივე იდეა სხვადასხვა ფორმულირებით იწერება ან შეიცავს შეცდომებს? შეგვიძლია თუ არა ვიწინასწარმეტყველოთ, რომელი დომენებისა და ამოცანებისთვის არიან დიდი გენერაციული მოდელები უფრო (ან ნაკლებად) გამძლეები და როგორ უკავშირდება ეს მათ სასწავლო მონაცემებს? არსებობს თუ არა ტექნიკები, რომლებიც დაგვეხმარება, წინასწარ ვივარაუდოთ და შევამციროთ ყველაზე ცუდი ქცევის რისკი? როგორ შეიძლება გამძლეობის გაზომვა იმ პირობებში, როცა მოდელი სწავლობს ძალიან მცირე რაოდენობის მაგალითებიდან (მაგ., მოთხოვნების სხვადასხვაგვარ ფორმულირებებს შორის)? შეგვიძლია თუ არა გავწვრთნათ მოდელები ისე, რომ ისინი აკმაყოფილებდეს უსაფრთხოების მოთხოვნებს ძალიან მაღალი საიმედოობით, თუნდაც ვინმემ სპეციალურად სცადოს მათი შეცდომაში შეყვანა?

გთხოვთ, გაითვალისწინოთ, რომ მოთხოვნების დიდი რაოდენობის გამო ამ განაცხადების განხილვას დრო სჭირდება და ყველა კვლევას არ მიენიჭება სუბსიდირების პრიორიტეტი. ჩვენ დაგიკავშირდებით მხოლოდ იმ შემთხვევაში, თუ თქვენი განაცხადი შეირჩა სუბსიდირებისათვის.