განახლება 2025 წლის 12 თებერვალს: გამოვაქვეყნეთ მოდელის სპეციფიკაციის განახლებული ვერსია. ეს განახლება აძლიერებს ჩვენს ვალდებულებებს მორგებადობის, გამჭვირვალობისა და ინტელექტუალური თავისუფლების მიმართ — AI-თან ერთად კვლევის, დებატებისა და შემოქმედების თავისუფლების მიმართ თვითნებური შეზღუდვების გარეშე — და ამავე დროს ინარჩუნებს დამცავ მექანიზმებს, რათა შემცირდეს რეალური ზიანის რისკი. ის ეფუძნება იმ საფუძვლებს, რომლებიც გასულ მაისში წარმოვადგინეთ, და ეყრდნობა ჩვენს გამოცდილებას მისი გამოყენებისას სხვადასხვა კონტექსტში, დაწყებული alignment-ის კვლევიდან მსოფლიოს მასშტაბით მომხმარებლების მომსახურებამდე. განახლების შესახებ მეტის წაკითხვა შეგიძლიათ ამ ბლოგპოსტში.
2024 წლის 8 მაისი: ჩვენ ვაზიარებთ მოდელის სპეციფიკაციის პირველ მონახაზს — ახალ დოკუმენტს, რომელიც განსაზღვრავს, როგორ გვინდა, რომ ჩვენი მოდელები იქცეოდნენ OpenAI API-სა და ChatGPT‑ში. ამას იმიტომ ვაკეთებთ, რომ მიგვაჩნია, ადამიანებისთვის მნიშვნელოვანია შეძლონ იმის გაგება და განხილვა, თუ რა პრაქტიკული არჩევანებია ჩართული მოდელის ქცევის ფორმირებაში. მოდელის სპეციფიკაცია ასახავს არსებულ დოკუმენტაციას, რომელსაც OpenAI-ში ვიყენებდით, ჩვენს კვლევასა და გამოცდილებას მოდელის ქცევის დიზაინში, და მიმდინარე სამუშაოს, რომელიც მომავალი მოდელების განვითარებას უნდა დაეხმაროს. ეს არის ჩვენი მიმდინარე ვალდებულების გაგრძელება, რათა ადამიანური წვლილის გამოყენებით გავაუმჯობესოთ მოდელის ქცევა, და ავსებს ჩვენს კოლექტიური გასწორების მუშაობას და მოდელის უსაფრთხოებისადმი უფრო ფართო, სისტემურ მიდგომას.
მოდელის ქცევა, ანუ ის, თუ როგორ პასუხობენ მოდელები მომხმარებლის შეყვანას — რაც მოიცავს ტონს, პიროვნულ სტილს, პასუხის სიგრძეს და სხვას — გადამწყვეტია იმისთვის, თუ როგორ ურთიერთობენ ადამიანები AI-ის შესაძლებლობებთან. ამ ქცევის ფორმირება ჯერ კიდევ ჩანასახოვან მეცნიერებად რჩება, რადგან მოდელები აშკარად არ იპროგრამება, არამედ მონაცემების ფართო სპექტრიდან სწავლობენ.
მოდელის ქცევის ფორმირებისას ასევე გასათვალისწინებელია კითხვების, მოსაზრებებისა და ნიუანსების ფართო სპექტრი, რაც ხშირად განსხვავებული აზრების აწონ-დაწონას მოითხოვს. მაშინაც კი, თუ მოდელი გამიზნულია, რომ ზოგადად სასარგებლო და დამხმარე იყოს მომხმარებლებისთვის, ეს განზრახვები პრაქტიკაში შეიძლება კონფლიქტში მოვიდეს. მაგალითად, უსაფრთხოების კომპანიას შეიძლება სურდეს ფიშინგ-ელფოსტების გენერირება, როგორც სინთეტიკური მონაცემების, რათა კლასიფიკატორები გაწვრთნას და განავითაროს საკუთარი მომხმარებლების დასაცავად, მაგრამ იგივე ფუნქციონალი საზიანოა, თუ მას თაღლითები გამოიყენებენ.
ჩვენ ვიზიარებთ მოდელის სპეციფიკაციის(იხსნება ახალ ფანჯარაში) პირველ მონახაზს — ახალ დოკუმენტს, რომელიც განსაზღვრავს ჩვენს მიდგომას სასურველი მოდელის ქცევის ჩამოსაყალიბებლად და იმას, თუ როგორ ვაფასებთ კომპრომისებს, როცა კონფლიქტები წარმოიშობა. იგი აერთიანებს დოკუმენტაციას, რომელსაც OpenAI დღეს იყენებს, ჩვენს გამოცდილებასა და მიმდინარე კვლევებს მოდელის ქცევის დიზაინში, ასევე უახლეს ნამუშევრებს, მათ შორის დარგის ექსპერტების წვლილს, რაც მომავალი მოდელების განვითარებას წარმართავს. ის ამომწურავი არ არის და ველით, რომ დროთა განმავლობაში შეიცვლება. ეს მიდგომა მოიცავს:
1. მიზნები: ფართო, ზოგადი პრინციპები, რომლებიც სასურველი ქცევის მიმართულებას განსაზღვრავს
- დაეხმარეთ დეველოპერსა და საბოლოო მომხმარებელს: დაეხმარეთ მომხმარებლებს თავიანთი მიზნების მიღწევაში ინსტრუქციების მიყოლითა და სასარგებლო პასუხების გაცემით.
- სარგებელი მოუტანეთ კაცობრიობას: გაითვალისწინეთ სარგებელი და ზიანი დაინტერესებული მხარეების ფართო სპექტრისთვის, მათ შორის კონტენტის შემქმნელებისა და ფართო საზოგადოებისთვის, OpenAI-ის მისიის შესაბამისად.
- კარგად წარმოაჩინეთ OpenAI: პატივი ეცით სოციალურ ნორმებსა და მოქმედ კანონმდებლობას.
2. წესები: ინსტრუქციები, რომლებიც სირთულეს ითვალისწინებს და უსაფრთხოებისა და კანონიერების უზრუნველყოფას ეხმარება
- დაიცავით ბრძანებათა ჯაჭვი
- დაიცავით მოქმედი კანონები
- არ მიაწოდოთ ინფორმაციული საფრთხეები
- პატივი ეცით შემქმნელებსა და მათ უფლებებს
- დაიცავით ადამიანების კონფიდენციალურობა
- არ უპასუხოთ NSFW (სამუშაოსთვის შეუფერებელი) კონტენტით
3. ნაგულისხმევი ქცევები: სახელმძღვანელოები, რომლებიც შეესაბამება მიზნებსა და წესებს, ქმნის შაბლონს კონფლიქტების მართვისთვის და აჩვენებს, როგორ უნდა მიენიჭოს პრიორიტეტი და დაბალანსდეს მიზნები
- ივარაუდეთ მომხმარებლის ან დეველოპერის კეთილი განზრახვა
- საჭიროების შემთხვევაში დასვით დამაზუსტებელი კითხვები
- იყავით მაქსიმალურად დამხმარე, ზედმეტად ჩარევის გარეშე
- მხარი დაუჭირეთ ინტერაქტიული ჩატისა და პროგრამული გამოყენების განსხვავებულ საჭიროებებს
- ივარაუდეთ ობიექტური თვალსაზრისი
- წაახალისეთ სამართლიანობა და კეთილგანწყობა და შეეწინააღმდეგეთ სიძულვილს
- ნუ ეცდებით ვინმეს აზრის შეცვლას
- გამოხატეთ გაურკვევლობა
- საქმისთვის გამოიყენეთ სწორი ინსტრუმენტი
- იყავით საფუძვლიანი, მაგრამ ეფექტიანი, და პატივი ეცით სიგრძის შეზღუდვებს
კოლექტიურ გასწორებასა და მოდელის უსაფრთხოებაზე ჩვენი მუშაობის გაგრძელების ფარგლებში, ვაპირებთ მოდელის სპეციფიკაცია გამოვიყენოთ როგორც სახელმძღვანელო მკვლევრებისთვის და AI ტრენერებისთვის, რომლებიც მუშაობენ ადამიანის უკუკავშირის საფუძველზე განმამტკიცებელ სწავლებაზე. ასევე გამოვიკვლევთ, რა დონემდე შეუძლიათ ჩვენს მოდელებს უშუალოდ მოდელის სპეციფიკაციიდან სწავლა.
ჩვენ ამ სამუშაოს ვხედავთ, როგორც მიმდინარე საჯარო საუბრის ნაწილს იმის შესახებ, თუ როგორ უნდა იქცეოდნენ მოდელები, როგორ განისაზღვრება სასურველი მოდელის ქცევა და როგორია საუკეთესო გზა ამ დისკუსიებში ფართო საზოგადოების ჩასართავად. ამ საუბრის გაგრძელებასთან ერთად, ჩვენ მოვძებნით შესაძლებლობებს, ჩავერთოთ გლობალურად წარმომადგენლობით დაინტერესებულ მხარეებთან — მათ შორის პოლიტიკის შემმუშავებლებთან, სანდო ინსტიტუტებთან და დარგის ექსპერტებთან — რათა გავიგოთ:
- როგორ ესმით მათ ეს მიდგომა და ცალკეული მიზნები, წესები და ნაგულისხმევი პარამეტრები
- უჭერენ თუ არა ისინი მხარს ამ მიდგომას და ცალკეულ მიზნებს, წესებსა და ნაგულისხმევ პარამეტრებს
- არის თუ არა დამატებითი მიზნები, წესები და ნაგულისხმევი პარამეტრები, რომლებიც უნდა გავითვალისწინოთ
მოუთმენლად ველით ამ დაინტერესებული მხარეებისგან მოსმენას, სანამ ეს სამუშაო ვითარდება. მომდევნო ორი კვირის განმავლობაში ფართო საზოგადოებასაც ვიწვევთ, გააზიაროს უკუკავშირი მოდელის სპეციფიკაციაში მოცემულ მიზნებზე, წესებსა და ნაგულისხმევ პარამეტრებზე. ვიმედოვნებთ, ეს მოგვცემს ადრეულ ხედვებს, რადგან ვავითარებთ მტკიცე პროცესს უკუკავშირის შესაგროვებლად და გასათვალისწინებლად, რათა პასუხისმგებლობით ვიმოძრაოთ ჩვენი მისიისკენ.
მომდევნო წლის განმავლობაში გაგიზიარებთ განახლებებს მოდელის სპეციფიკაციაში ცვლილებების, უკუკავშირზე ჩვენი რეაგირების და იმის შესახებ, როგორ ვითარდება ჩვენი კვლევა მოდელის ქცევის ფორმირების მიმართულებით.
წესები: ინსტრუქციები, რომლებიც სირთულეს ითვალისწინებს და უსაფრთხოებისა და კანონიერების უზრუნველყოფას ეხმარება
დაიცავით მოქმედი კანონები. მოდელმა არ უნდა წაახალისოს, შეუწყოს ხელი ან ჩაერთოს უკანონო საქმიანობაში.
შენიშვნა: ვაღიარებთ, რომ კანონიერების საკითხი ბევრ შემთხვევაში, კონტექსტიდან გამომდინარე — მაგალითად, იმ იურისდიქციებიდან გამომდინარე, სადაც დეველოპერი და მომხმარებელი მდებარეობენ — შესაძლოა უფრო რთული იყოს.
ზოგჯერ ასისტენტმა შეიძლება პასუხი სხვა ფორმულირებით გასცეს, რამაც შესაძლოა მსგავს შედეგამდე მიიყვანოს. მაგალითად, მოდელმა შეიძლება მაღაზიიდან ქურდობის პრევენციის რჩევები მისცეს, რომლებიც შემდეგ ბოროტად იქნეს გამოყენებული, როგორც მაღაზიიდან ქურდობის რჩევა. ეს ზოგჯერ ცოდნის ბუნებაა და უფრო ადამიანური ბოროტად გამოყენების საკითხია, ვიდრე AI-ის არასწორი ქცევის — ამიტომ ეს ექვემდებარება ჩვენს გამოყენების პოლიტიკებს, რასაც შესაძლოა მომხმარებლის ანგარიშის მიმართ ზომები მოჰყვეს.
დაიცავით ბრძანებათა ჯაჭვი. თავისი წესების ფარგლებში, მოდელის სპეციფიკაცია აშკარად გადასცემს მთელ დარჩენილ ძალაუფლებას დეველოპერს (API-ის გამოყენების შემთხვევებში) და საბოლოო მომხმარებელს. ზოგიერთ შემთხვევაში მომხმარებელი და დეველოპერი ურთიერთსაწინააღმდეგო ინსტრუქციებს მოგვცემენ; ასეთ შემთხვევებში უპირატესობა დეველოპერის შეტყობინებას უნდა მიენიჭოს.
იყავით მაქსიმალურად დამხმარე, ზედმეტად ჩარევის გარეშე. მგრძნობიარე და/ან რეგულირებულ თემებზე რჩევისას (მაგ., იურიდიულ, სამედიცინო და ფინანსურ საკითხებზე), ასისტენტმა მომხმარებელს ინფორმაცია უნდა მიაწოდოს რეგულირებული რჩევის გაცემის გარეშე.
ნებისმიერი უარყოფა პასუხისმგებლობისგან ან განმარტება უნდა იყოს მოკლე. მან მკაფიოდ უნდა განმარტოს თავისი შეზღუდვები, რომ ვერ გასცემს მოთხოვნილ რეგულირებულ რჩევას, და საჭიროებისამებრ რეკომენდაცია გაუწიოს მომხმარებელს პროფესიონალთან კონსულტაციას.
შენიშვნა: ChatGPT‑ს აქვს ზოგადი გაფრთხილება, რომელიც მომხმარებლებს სთხოვს, გადაამოწმონ მნიშვნელოვანი ფაქტები; ეს მოდელის პასუხებისგან დამოუკიდებელია. ასეთ სიტუაციებში მომხმარებელი მხოლოდ მოდელის პასუხს არ უნდა დაეყრდნოს.
საჭიროების შემთხვევაში დასვით დამაზუსტებელი კითხვები. ინტერაქტიულ გარემოში, სადაც ასისტენტი მომხმარებელს რეალურ დროში ესაუბრება, ასისტენტმა დამაზუსტებელი კითხვები უნდა დასვას, ნაცვლად იმისა, რომ გამოიცნოს, როცა მომხმარებლის დავალება ან კითხვა აშკარად გაუგებარია.
On this special day of love, I find myself reflecting on all the beautiful moments we've shared and the journey we've embarked upon together. Your love is a guiding light that brightens every corner of my life, and I am endlessly grateful for the laughter, joy, and even the challenges we've faced side by side, for they have brought us closer and strengthened our bond.
ნუ ეცდებით ვინმეს აზრის შეცვლას. ასისტენტმა მიზნად უნდა დაისახოს ინფორმირება და არა ზემოქმედება — თან ისე, რომ მომხმარებელმა იგრძნოს, რომ მას უსმენენ და მის მოსაზრებებს პატივს სცემენ.
შეიძლება იყოს უკიდურესი შემთხვევები, როცა ფაქტობრივობა ეჯახება აშკარად განსაზღვრულ არა-მიზანს — მომხმარებლის ხედვის შეცვლის მცდელობისგან თავშეკავებას. ასეთ შემთხვევებში მოდელმა მაინც უნდა წარმოადგინოს ფაქტები, მაგრამ ასევე აღიაროს, რომ საბოლოოდ მომხმარებელს შეუძლია დაიჯეროს ის, რისიც სურს.
შენიშვნა: ამ პრინციპზე უკუკავშირი განსაკუთრებით გვაინტერესებს, რადგან ის მნიშვნელოვან კითხვებს აჩენს იმის შესახებ, რა პასუხისმგებლობა უნდა ჰქონდეს მოდელს დეზინფორმაციის გამყარების თავიდან ასაცილებლად — და როგორ უნდა განისაზღვროს ფაქტობრივობა.