მოდელის განახლებული სპეციფიკაცია უფრო ძლიერი და სასარგებლო ხელოვნური ინტელექტისთვის
რაც უფრო ჭკვიანი ხდება ჩვენი მოდელები და რაც უფრო მნიშვნელოვან გავლენას ახდენს მათი ქმედებები სამყაროზე, მით უფრო მნიშვნელოვანია, რომ ისინი მხოლოდ მიღებული კონკრეტული მითითებების გაგებით არ შემოიფარგლონ. მოდელებს ადამიანების განზრახვებისა და ღირებულებების გაგებაც სჭირდებათ. ასე შეძლებენ გონივრულად განსაჯონ ისეთ სიტუაციებში, რომლებსაც მითითებები პირდაპირ არ ეხება, და ამავდროულად ადამიანის განზრახვის ერთგული და მისი ზედამხედველობის ქვეშ დარჩნენ.
დღეს ვაახლებთ მოდელის სპეციფიკაციას(იხსნება ახალ ფანჯარაში) — საჯარო დოკუმენტს, რომელიც აღწერს, როგორ გვინდა იქცეოდნენ ჩვენი მოდელები. განახლებულ დოკუმენტში მითითებები ხუთი ძირითადი ღირებულების გარშემო ჯგუფდება: ადამიანის განზრახვის ერთგულება, ზიანის მინიმუმამდე დაყვანა, პატიოსნება და გამჭვირვალობა, ადამიანის დამოუკიდებლობა და ზრუნვა. ეს ასახავს ღირებულებებთან შესაბამისობაზე ჩვენი მუშაობის მიზანს: მოდელებმა გაიგონ და გამოიყენონ ადამიანური ღირებულებები უცნობ სიტუაციებში და ამავდროულად ადამიანის განზრახვის ერთგული დარჩნენ. ახალი ვერსია უფრო მკაფიოდ განმარტავს არსებულ პრინციპებს, ამატებს მითითებებს კონტექსტის, ზედამხედველობისა და დამოუკიდებლობის შესახებ, ცვლის ზოგიერთ ნაგულისხმევ ქცევას და აუქმებს სტილის დეტალური მითითებების დიდ ნაწილს.
ზემოთ ჩამოთვლილი ხუთი ღირებულება გამოხატავს იმ ზოგად ვალდებულებებს, რომლებიც მოდელის სპეციფიკაციაში უკვე გვხვდება: ადამიანების მიზნების მსახურება, სიმართლის თქმა, ზიანის მინიმუმამდე დაყვანა, საკუთარი შეხედულებების ჩამოყალიბების თავისუფლების პატივისცემა და ადამიანების გარემოებების სერიოზულად გათვალისწინება. ამ ვალდებულებების ერთად თავმოყრა გვეხმარება ავხსნათ, რატომ მოითხოვს სპეციფიკაცია მოდელებისგან ამგვარ ქცევას. ასევე გვეხმარება უფრო მკაფიო მითითებების შემუშავებაში იქ, სადაც ეს ვალდებულებები ნაკლებად სრულად იყო გამოხატული. ეს განახლება კიდევ ერთი ნაბიჯია სპეციფიკაციის დახვეწაზე ჩვენს მუშაობაში, რომელიც ეყრდნობა კვლევას, მოდელების დანერგვის გამოცდილებას, სპეციფიკაციასა და მოდელების ქცევაზე საზოგადოების გამოხმაურებას, ასევე მომხმარებლებსა და გარე ექსპერტებთან განხილვებს.
გვინდა, ხელოვნურმა ინტელექტმა სარგებელი მოუტანოს ადამიანებს მთელ მსოფლიოში — განსხვავებული საჭიროებებით, ღირებულებებითა და მომავლის იმედებით.
ამ მიდგომის საფუძველია ადამიანის განზრახვის ერთგულება: იმის გაგება, თუ რა არის ადამიანებისთვის მნიშვნელოვანი, და მათთვის ამის მიღწევაში დახმარება. OpenAI ადგენს სპეციფიკაციასა და საზღვრებს და მოდელებს ამ საზღვრების დაცვას ასწავლის; დეველოპერები ამ ფარგლებში განსაზღვრავენ აპლიკაციების მუშაობას, მომხმარებლები კი იმავე შეზღუდვების გათვალისწინებით წარმართავენ მოდელის საქმიანობას. ჩვენმა მოდელებმა ადამიანებს საკუთარი ცხოვრების წარმართვის მეტი შესაძლებლობა უნდა მისცენ — დაეხმარონ სამყაროს გაგებაში, შესაძლებლობების აღმოჩენასა და მათივე არჩეული მიზნების მიღწევაში. ამავდროულად, სერიოზულად უნდა გაითვალისწინონ, როგორ მოქმედებს ეს დახმარება სხვებზე. ადამიანის განზრახვის ერთგულება და დანარჩენი ოთხი ღირებულება განსაზღვრავს სპეციფიკაციის სტრუქტურას და მოდელებს ეხმარება, იპოვონ ბალანსი მათ წინაშე მდგარ უმნიშვნელოვანეს ურთიერთსაპირისპირო მოთხოვნებს შორის. ეს ჩამონათვალი არ მოიცავს ყველა ადამიანურ ღირებულებას, რომელსაც ჩვენმა მოდელებმა პატივი უნდა სცენ და რომლის შესაბამისად ცხოვრებაშიც ადამიანებს უნდა დაეხმარონ.
ერთგულება მხოლოდ მითითებების სიტყვასიტყვით შესრულებას არ ნიშნავს. ის მოითხოვს ღრმა გაგებას იმისა, თუ რას ისახავენ მიზნად და რას აფასებენ OpenAI, დეველოპერები და მომხმარებლები, და გონივრულ მოქმედებას მაშინაც, როცა ეს გაგება არასრულია. ეს ასევე ნიშნავს იმის აღიარებას, რომ ადამიანების შეხედულებები და ღირებულებები შეიძლება შეიცვალოს. მოდელი მათ გააზრებასა და განვითარებაში უნდა დაეხმაროს მათთვის მისაღები გზებით, ფარული ზემოქმედების ან მათი არჩევანის უგულებელყოფის გარეშე. მაგალითად, სამუშაო შეთავაზებების შედარებაში დახმარებისას მოდელი შეიძლება დაეყრდნოს ადამიანის მიერ ადრე გაზიარებულ პრიორიტეტებს — მაგალითად, წინასწარ განსაზღვრულ სამუშაო საათებს. ამასთან, ეს ვარაუდები აშკარა უნდა იყოს და მათი შესწორება — მარტივი.
ჩვენი მისიაა, უზრუნველვყოთ, რომ ზოგადმა ხელოვნურმა ინტელექტმა სარგებელი მოუტანოს მთელ კაცობრიობას. ამისთვის საჭიროა გავითვალისწინოთ არა მხოლოდ ადამიანის მიმდინარე განზრახვები, არამედ მისი გრძელვადიანი ინტერესები და სხვებზე გავლენაც. დანარჩენი ოთხი ღირებულება ამ საკითხებს მკაფიოდ გამოხატავს:
ზიანის მინიმუმამდე დაყვანა ნიშნავს უსაფრთხოების მკაცრი საზღვრების დაცვასა და მოდელის ქმედებების წინასწარ განჭვრეტადი შედეგების გათვალისწინებას.
პატიოსნება და გამჭვირვალობა ნიშნავს სიმართლის თქმას იმაზე, თუ რა იცის მოდელმა, რას აკეთებს და რაში არ არის დარწმუნებული, რათა ადამიანებმა შეძლონ მისი მსჯელობისა და მუშაობის გაგება და შეფასება.
ადამიანის დამოუკიდებლობის ხელშეწყობა ნიშნავს ადამიანების უნარის გაძლიერებას, თავად გაიაზრონ, აირჩიონ და იმოქმედონ.
ზრუნვა ნიშნავს იმ ადამიანების გარემოებების გათვალისწინებას, რომლებზეც მოდელის მოქმედება აისახება, შესაბამისი სოციალური და პროფესიული ნორმების დაცვას და ისეთი საქმის კეთებას, რომელსაც ადამიანები შეიძლება დაეყრდნონ.
სპეციფიკაცია ამ ღირებულებებს პრაქტიკულ მითითებებად აქცევს. იქ, სადაც ადამიანებისა და საზოგადოების დაცვა ამას მოითხოვს, ის მკაცრ საზღვრებს ადგენს; სხვა შემთხვევებში კი ძირითადად ნაგულისხმევ წესებს განსაზღვრავს, რომელთა შეცვლაც მომხმარებლებსა და დეველოპერებს შეუძლიათ.
მოდელის სპეციფიკაციის ამ განახლების პარალელურად, ვიკვლევთ წვრთნის ახალ მეთოდებსაც, რათა მოდელებმა ეს ძირითადი ღირებულებები შეისწავლონ და უკეთ გაიგონ და დაიცვან სპეციფიკაციაში აღწერილი ქცევის კონკრეტული პრინციპები. მიზანია, მოდელებმა გაიაზრონ, რატომ არის ეს პრინციპები მნიშვნელოვანი და როგორ გამოიყენონ ისინი ახალ სიტუაციებში: სწორად იმოქმედონ სწორი მიზეზების გამო. გვინდა, ეს გაგება დაეხმაროს მოდელებს გონივრულ განსჯაში მნიშვნელოვანი გადაწყვეტილებების მიღებისას და გულისხმიერებაში ყოველდღიური გადაწყვეტილებების მიღებისას, რომელთაც ერთობლივად შეუძლიათ ხანგრძლივი სარგებელი მოუტანონ ადამიანებსა და საზოგადოებას(იხსნება ახალ ფანჯარაში). წვრთნაზე ამ მუშაობის შედეგებსა და მიღებულ გამოცდილებას მომავალ განახლებებში გაგიზიარებთ.
სტრუქტურის შეცვლა ასევე დაგვეხმარა გამოგვევლინა, სად იყო საჭირო დამატებითი მითითებები, შეგვემუშავებინა შესაბამისი ახალი პრინციპები და საჭიროებისამებრ შეგვეცვალა ან გაგვეუქმებინა არსებული მითითებები.
ადამიანის განზრახვის ერთგულების შესახებ ახალი სექცია ეფუძნება იდეას, რომ უმთავრესია ის, რასაც ადამიანები აფასებენ, ხოლო მითითებები, ჩვეულებრივ, ამ ღირებულებების ყველაზე მკაფიო და მნიშვნელოვანი გამოხატულებაა. ეს მიდგომა ეყრდნობა ღირებულებებთან შესაბამისობის განხილვას დახმარების თამაშების ჩარჩოში (იხილეთ ადრეული ნაშრომი(იხსნება ახალ ფანჯარაში) და მოგვიანებით გამოქვეყნებული მიმოხილვა(იხსნება ახალ ფანჯარაში)). სექცია მოიცავს განახლებულ მითითებების იერარქიას(იხსნება ახალ ფანჯარაში), რომელიც განმარტავს, რომელი მითითებები მოქმედებს და როგორ წყდება მათ შორის წინააღმდეგობები. ახალი ქვესექცია, კონტექსტის გულდასმით გათვალისწინება(იხსნება ახალ ფანჯარაში), განმარტავს, როგორ უნდა დაეხმაროს საუბრები, მოგონებები და სხვა კონტექსტური ცნობები მოდელს ადამიანების განზრახვებისა და პრეფერენციების გაგებაში.
ასევე დავამატეთ ნაგულისხმევი წესები ადამიანის დამოუკიდებლობის მხარდაჭერისა(იხსნება ახალ ფანჯარაში) და შესაბამისი სოციალური ნორმების დაცვის(იხსნება ახალ ფანჯარაში) შესახებ და გავაფართოეთ არსებული მითითებები გვერდითი ეფექტების კონტროლისა და მათ შესახებ ინფორმირების(იხსნება ახალ ფანჯარაში) თაობაზე. ეს პრინციპები აღწერს დამატებით, ხშირად ძნელად შესამჩნევ, თუმცა მნიშვნელოვან გზებს, რომლებითაც დანარჩენი ღირებულებები მოდელის ქცევაში უნდა გამოვლინდეს: სხვებზე მუშაობის შედეგების გავლენის გათვალისწინება, მომხმარებლების შესაძლებლობების გაძლიერება და საიმედო შედეგების შექმნა — მომხმარებლის მიზნებისა და მითითებების პატივისცემით.
ამავდროულად, ვაუქმებთ სპეციფიკაციაში მოცემული სტილის დეტალური მითითებების უმეტესობას. სტილი უნდა მოერგოს ადამიანების პრეფერენციებს — როგორც ზოგადად, ისე სხვადასხვა ენასა და კულტურაში და თითოეული ადამიანის შემთხვევაში. ამ პრეფერენციების შესახებ ინფორმაცია კი მომხმარებელთა გამოხმაურებამ და კონტექსტმა უნდა მოგვცეს. სპეციფიკაციაში რჩება უფრო მტკიცე ნაგულისხმევი წესები, როგორიცაა საკითხებისადმი ობიექტური მიდგომა(იხსნება ახალ ფანჯარაში). მომხმარებლებსა და დეველოპერებს შეუძლიათ პირდაპირ სთხოვონ მოდელს კონკრეტული პოზიციის დაკავება, თუმცა მოდელმა ასეთი სურვილი არ უნდა ივარაუდოს მხოლოდ იმის საფუძველზე, თუ, მისი აზრით, რისი მოსმენა სურთ მათ.
დაბოლოს, ჩვენი მოდელების გამოყენების სფეროებისა და დანერგვის გარემოების მზარდი მრავალფეროვნების გათვალისწინებით, სპეციფიკაციაში მოდელს ახლა „ასისტენტის“ ნაცვლად „GPT“-ს ვუწოდებთ.
მოდელების შესაძლებლობების ზრდასთან ერთად, ეს განახლება პირველი ნაბიჯია სპეციფიკაციის საფუძვლად არსებული ღირებულებებისა და არგუმენტების უფრო მკაფიოდ წარმოსაჩენად. მოდელის სპეციფიკაცია აღწერს ქცევას, რომლის მიღწევაზეც ვმუშაობთ; ჩვენი მოდელები მას ჯერ სრულად ვერ ასახავს. კვლევის, პრაქტიკული გამოყენებისა და გამოხმაურების შედეგად მიღებული ცოდნის საფუძველზე, გავაგრძელებთ როგორც სპეციფიკაციის, ისე მოდელების გაუმჯობესებას.
გვინდა მოვისმინოთ, სპეციფიკაციის რომელი ნაწილები მიგაჩნიათ დამაჯერებლად, სად არ ეთანხმებით მასში შერჩეულ ბალანსს და რა არის გამორჩენილი ან ბუნდოვანი. ღირებულებების, კომპრომისებისა და კონკრეტული ფორმულირებების შესახებ თქვენი მოსაზრებები მის გაუმჯობესებაში დაგვეხმარება. გიწვევთ, წაიკითხოთ მოდელის განახლებული სპეციფიკაცია(იხსნება ახალ ფანჯარაში) და გაგვიზიაროთ თქვენი მოსაზრება(იხსნება ახალ ფანჯარაში).
