OpenAI API

ჩვენ ვუშვებთ API-ს OpenAI-ის მიერ შექმნილ ახალ AI მოდელებზე წვდომისთვის. AI სისტემების უმეტესობისგან განსხვავებით, რომლებიც ერთი გამოყენების შემთხვევისთვის არის შექმნილი, API დღეს გთავაზობთ ზოგადი დანიშნულების „ტექსტი შეყვანაში, ტექსტი გამოსავალში“ ინტერფეისს, რაც მომხმარებლებს საშუალებას აძლევს ის პრაქტიკულად ნებისმიერი ინგლისურენოვანი ამოცანისთვის სცადონ. ახლა უკვე შეგიძლიათ მოითხოვოთ წვდომა, რათა API ინტეგრირდეს თქვენს პროდუქტში, შექმნათ სრულიად ახალი აპლიკაცია ან დაგვეხმაროთ ამ ტექნოლოგიის ძლიერი და სუსტი მხარეების შესწავლაში.

ნებისმიერი ტექსტური მოთხოვნის შემთხვევაში API დააბრუნებს ტექსტის გაგრძელებას და შეეცდება, მოერგოს თქვენ მიერ მიცემულ ნიმუშს. შეგიძლიათ ის „დააპროგრამოთ“ მხოლოდ რამდენიმე მაგალითის ჩვენებით, თუ რისი გაკეთება გსურთ მისგან; მისი წარმატება, როგორც წესი, დამოკიდებულია იმაზე, რამდენად რთულია დავალება. API ასევე გაძლევთ საშუალებას, კონკრეტულ ამოცანებზე შედეგები გააუმჯობესოთ თქვენ მიერ მიწოდებული მაგალითების მონაცემთა ნაკრებზე (მცირეზე ან დიდზე) გაწვრთნით, ან მომხმარებლებისა თუ ეტიკეტირების სპეციალისტების მიერ მოწოდებული ადამიანური უკუკავშირიდან სწავლით.

ჩვენ API ისე შევქმენით, რომ მისი გამოყენება მარტივი იყოს ყველასთვის, მაგრამ ამავე დროს საკმარისად მოქნილი, რათა მანქანური სწავლების გუნდები უფრო პროდუქტიულები გახდნენ. სინამდვილეში, ჩვენი ბევრი გუნდი უკვე იყენებს API-ს, რათა ფოკუსი გააკეთოს მანქანური სწავლების კვლევაზე და არა განაწილებული სისტემების პრობლემებზე. დღეს API მუშაობს GPT‑3⁠(იხსნება ახალ ფანჯარაში) ოჯახის წონების მქონე მოდელებზე, მრავალი გაუმჯობესებით სიჩქარისა და მწარმოებლურობის მხრივ. მანქანური სწავლება ძალიან სწრაფად ვითარდება და ჩვენ მუდმივად ვაახლებთ ჩვენს ტექნოლოგიას, რათა მომხმარებლები ყოველთვის საქმის კურსში იყვნენ.

დარგში პროგრესის ტემპი ნიშნავს, რომ AI-ის ახალი გამოყენებები — როგორც დადებითი, ისე უარყოფითი — ხშირად მოულოდნელია. აშკარად საზიანო გამოყენების შემთხვევებისთვის, როგორიცაა შევიწროება, სპამი, რადიკალიზაცია ან ასტროტერფინგი, ჩვენ API-ზე წვდომას შევწყვეტთ. მაგრამ ისიც ვიცით, რომ ამ ტექნოლოგიის ყველა შესაძლო შედეგს წინასწარ ვერ განვსაზღვრავთ, ამიტომ დღეს მას ვუშვებთ დახურულ ბეტაში და არა ფართო ხელმისაწვდომობით; ვქმნით ინსტრუმენტებს, რათა მომხმარებლებს უკეთ შეეძლოთ ჩვენი API-ის მიერ დაბრუნებული კონტენტის კონტროლი, და ვიკვლევთ ენობრივი ტექნოლოგიის უსაფრთხოებასთან დაკავშირებულ ასპექტებს (მაგალითად, საზიანო მიკერძოების ანალიზს, შემცირებას და მასზე ჩარევას). ჩვენ გავაზიარებთ იმას, რასაც ვისწავლით, რათა ჩვენმა მომხმარებლებმა და ფართო საზოგადოებამ უფრო ადამიანზე ორიენტირებული AI სისტემები შექმნან.

გარდა იმისა, რომ შემოსავლის წყაროა და გვეხმარება ხარჯების დაფარვაში⁠ ჩვენი მისიის⁠ განხორციელების გზაზე, API-მ გვიბიძგა უფრო მკაფიოდ გავამახვილოთ ყურადღება ზოგადი დანიშნულების AI ტექნოლოგიაზე — ტექნოლოგიის წინსვლაზე, მის გამოყენებადობაზე და მის გავლენებზე რეალურ სამყაროში. ვიმედოვნებთ, რომ API მნიშვნელოვნად შეამცირებს სასარგებლო AI-ზე დაფუძნებული პროდუქტების შექმნის ბარიერს⁠(იხსნება ახალ ფანჯარაში), რის შედეგადაც გაჩნდება ისეთი ინსტრუმენტები და სერვისები, რომელთა წარმოდგენაც დღეს რთულია.

გაინტერესებთ API-ის შესწავლა? შემოუერთდით ისეთ კომპანიებს, როგორიცაა Algolia⁠(იხსნება ახალ ფანჯარაში), Quizlet⁠(იხსნება ახალ ფანჯარაში) და Reddit⁠(იხსნება ახალ ფანჯარაში), ასევე მკვლევრებს ისეთი ინსტიტუციებიდან, როგორიცაა Middlebury Institute⁠(იხსნება ახალ ფანჯარაში), ჩვენს დახურულ ბეტაში⁠(იხსნება ახალ ფანჯარაში).

საბოლოოდ, ის, რაც ყველაზე მეტად გვაღელვებს⁠, არის იმის უზრუნველყოფა, რომ ზოგადი ხელოვნური ინტელექტი ყველასთვის სასარგებლო იყოს. კომერციული პროდუქტების შექმნას ჩვენ ერთ-ერთ გზად ვხედავთ იმისთვის, რომ წარმატებისთვის საკმარისი დაფინანსება გვქონდეს.

ჩვენ ასევე გვჯერა, რომ ძლიერი AI სისტემების უსაფრთხოდ დანერგვა მსოფლიოში რთული ამოცანა იქნება. API-ის გამოშვებით ჩვენ მჭიდროდ ვთანამშრომლობთ პარტნიორებთან, რათა ვნახოთ, რა გამოწვევები ჩნდება, როცა AI სისტემები რეალურ სამყაროში გამოიყენება. ეს დაგვეხმარება გავარკვიოთ, როგორ წარიმართება მომავალი AI სისტემების დანერგვა და რა უნდა გავაკეთოთ, რათა ისინი უსაფრთხო და ყველასთვის სასარგებლო იყოს.

ამის სამი მთავარი მიზეზი გვქონდა. პირველი — ტექნოლოგიის კომერციალიზაცია გვეხმარება დავაფინანსოთ ჩვენი მიმდინარე AI კვლევა, უსაფრთხოებისა და პოლიტიკის მიმართულებით ძალისხმევა.

მეორე — API-ის საფუძვლად არსებული ბევრი მოდელი ძალიან დიდია, მათ განვითარებასა და დანერგვას დიდი ექსპერტიზა სჭირდება და მათი გაშვება ძალიან ძვირია. ეს ართულებს იმას, რომ ამ საბაზისო ტექნოლოგიით სარგებელი მიიღოს ვინმემ, გარდა დიდი კომპანიებისა. ვიმედოვნებთ, რომ API ძლიერ AI სისტემებს უფრო ხელმისაწვდომს გახდის მცირე ბიზნესებისა და ორგანიზაციებისთვის.

მესამე — API მოდელი გვაძლევს ტექნოლოგიის ბოროტად გამოყენებაზე უფრო მარტივად რეაგირების საშუალებას. რადგან ჩვენი მოდელების ქვედა დონის გამოყენების შემთხვევების წინასწარ პროგნოზირება რთულია, ბუნებრივად უფრო უსაფრთხოდ მიგვაჩნია მათი API-ის საშუალებით გამოშვება და დროთა განმავლობაში წვდომის გაფართოება, ვიდრე ღია კოდის მოდელის გამოშვება, სადაც წვდომის შეცვლა შეუძლებელია, თუ აღმოჩნდება, რომ მას საზიანო გამოყენებები აქვს.

GPT‑2‑თან დაკავშირებით ჩვენი ერთ-ერთი მთავარი შეშფოთება იყო მოდელის ბოროტად გამოყენება (მაგალითად, დეზინფორმაციისთვის), რომლის პრევენციაც რთულია მას შემდეგ, რაც მოდელი ღია კოდით ხდება ხელმისაწვდომი. API-ს შემთხვევაში ბოროტად გამოყენების უკეთ აღკვეთა შეგვიძლია დამტკიცებული მომხმარებლებითა და გამოყენების შემთხვევებით წვდომის შეზღუდვით. სანამ შეთავაზებული აპლიკაციები ამოქმედდება, გვაქვს სავალდებულო წარმოებაში გაშვების მიმოხილვის პროცესი. ამ მიმოხილვებში აპლიკაციებს რამდენიმე ღერძით ვაფასებთ და ვსვამთ კითხვებს, როგორიცაა: ეს ამჟამად მხარდაჭერილი გამოყენების შემთხვევაა?, რამდენად ღიაა აპლიკაცია?, რამდენად სარისკოა აპლიკაცია?, როგორ გეგმავთ პოტენციური ბოროტად გამოყენების მოგვარებას? და ვინ არიან თქვენი აპლიკაციის საბოლოო მომხმარებლები?.

ჩვენ ვწყვეტთ API-ზე წვდომას იმ გამოყენების შემთხვევებისთვის, რომლებიც იწვევს (ან გამიზნულია, რომ გამოიწვიოს) ადამიანებისთვის ფიზიკური, ემოციური ან ფსიქოლოგიური ზიანი, მათ შორის, მაგრამ არა მხოლოდ, შევიწროება, განზრახ მოტყუება, რადიკალიზაცია, ასტროტერფინგი ან სპამი, ასევე იმ აპლიკაციებისთვის, რომლებსაც არ აქვთ საკმარისი დამცავი მექანიზმები საბოლოო მომხმარებლების მხრიდან ბოროტად გამოყენების შესაზღუდად. რაც უფრო მეტ პრაქტიკულ გამოცდილებას ვაგროვებთ API-ის ოპერირებაში, მით მეტად დავხვეწავთ იმ გამოყენების კატეგორიებს, რომელთა მხარდაჭერაც შეგვიძლია, რათა როგორც გასაფართოოთ მხარდაჭერილი აპლიკაციების სპექტრი, ისე შევქმნათ უფრო დეტალური კატეგორიები იმ შემთხვევებისთვის, რომლებზეც ბოროტად გამოყენების შეშფოთება გვაქვს.

API-ის გამოყენებების დამტკიცებისას ერთ-ერთი მთავარი ფაქტორი, რომელსაც ვითვალისწინებთ, არის ის, რამდენად ავლენს აპლიკაცია ღია ან შეზღუდულ ქცევას სისტემის საფუძვლად არსებული გენერაციული შესაძლებლობების მიმართ. API-ის ღია ტიპის აპლიკაციები (ანუ ისეთი, რომლებიც თვითნებური მოთხოვნებით დიდი მოცულობის მორგებადი ტექსტის დაუბრკოლებელ გენერირებას იძლევა) განსაკუთრებით მიდრეკილია ბოროტად გამოყენებისკენ. შეზღუდვები, რომლებიც გენერაციულ გამოყენების შემთხვევებს უფრო უსაფრთხოს ხდის, მოიცავს სისტემის ისეთ დიზაინს, სადაც ადამიანი პროცესშია ჩართული, საბოლოო მომხმარებლის წვდომის შეზღუდვებს, შედეგების შემდგომ დამუშავებას, კონტენტის ფილტრაციას, შეყვანისა და გამოსავლის სიგრძის ლიმიტებს, აქტიურ მონიტორინგს და თემატურ შეზღუდვებს.

ჩვენ ასევე ვაგრძელებთ კვლევას API-ის საშუალებით მოწოდებული მოდელების შესაძლო ბოროტად გამოყენებებზე, მათ შორის მესამე მხარის მკვლევრებთან ერთად ჩვენი აკადემიური წვდომის პროგრამის⁠(იხსნება ახალ ფანჯარაში) ფარგლებში. ამ ეტაპზე ვიწყებთ მკვლევართა ძალიან შეზღუდული რაოდენობით და უკვე გვაქვს გარკვეული შედეგები ჩვენი აკადემიური პარტნიორებისგან Middlebury Institute⁠(იხსნება ახალ ფანჯარაში)-ში, Washington-ის უნივერსიტეტში და Allen Institute for AI-ში⁠(იხსნება ახალ ფანჯარაში). ამ პროგრამაზე უკვე ათიათასობით განმცხადებელი გვყავს და ამჟამად პრიორიტეტს ვანიჭებთ განცხადებებს, რომლებიც სამართლიანობისა და წარმომადგენლობის კვლევაზეა ორიენტირებული.

უარყოფითი ეფექტების, როგორიცაა საზიანო მიკერძოება, შემცირება რთული, ინდუსტრიის მასშტაბის ამოცანაა, რომელიც უკიდურესად მნიშვნელოვანია. როგორც განვიხილავთ GPT‑3 ნაშრომში⁠(იხსნება ახალ ფანჯარაში) და მოდელის ბარათში⁠(იხსნება ახალ ფანჯარაში), ჩვენს API მოდელებს ნამდვილად ახასიათებს მიკერძოებები, რომლებიც გენერირებულ ტექსტში აისახება. აი ნაბიჯები, რომლებსაც ამ საკითხების გადასაჭრელად ვდგამთ:

• ჩვენ შევიმუშავეთ გამოყენების სახელმძღვანელოები, რომლებიც დეველოპერებს ეხმარება უსაფრთხოების პოტენციური საკითხების გაგებასა და მოგვარებაში.
• ჩვენ მჭიდროდ ვმუშაობთ მომხმარებლებთან, რათა გავიგოთ მათი გამოყენების შემთხვევები და შევქმნათ ინსტრუმენტები საზიანო მიკერძოების გამოსავლენად, მასზე ჩასარევად და მის შესამცირებლად.
• ჩვენ ასევე ვატარებთ საკუთარ კვლევას საზიანო მიკერძოების გამოვლინებებსა და სამართლიანობისა და წარმომადგენლობის უფრო ფართო საკითხებზე, რაც ჩვენს მუშაობას დაეხმარება როგორც არსებული მოდელების გაუმჯობესებული დოკუმენტაციით, ისე მომავალი მოდელების მრავალფეროვანი გაუმჯობესებით.
• ჩვენ ვაღიარებთ, რომ მიკერძოება არის პრობლემა, რომელიც სისტემისა და მისი გამოყენების კონტექსტის გადაკვეთაზე ვლინდება; ჩვენი ტექნოლოგიით შექმნილი აპლიკაციები სოციოტექნიკური სისტემებია, ამიტომ დეველოპერებთან ერთად ვმუშაობთ, რათა მათ დანერგონ შესაბამისი პროცესები და ადამიანი-ციკლში სისტემები არასასურველი ქცევის მონიტორინგისთვის.

ჩვენი მიზანია, გავაგრძელოთ API-ის პოტენციური ზიანის გაგების გაღრმავება გამოყენების თითოეულ კონტექსტში და მუდმივად ვაუმჯობესოთ ჩვენი ინსტრუმენტები და პროცესები, რათა ის მინიმუმამდე დავიყვანოთ.

განახლდა 2020 წლის 18 სექტემბერს