გამოშვებამდე მოდელის ქცევის პროგნოზირება გაშლის სიმულაციით

ახალი მოდელის გამოშვებამდე ლაბორატორიებმა უნდა გაიგოს არა მხოლოდ ის, რისი გაკეთება შეუძლია მას, არამედ ისიც, როგორ მოიქცევა რეალურ ვითარებაში, მათ შორის, სად შეიძლება შექმნას ახალი რისკები. ეს კიდევ უფრო მნიშვნელოვანი ხდება შესაძლებლობების ზრდასთან ერთად. გაშლისწინა უსაფრთხოების მიმოხილვის ფარგლებში მოდელის ქცევის გასაგებად ვიყენებთ მიზნობრივ შეფასებებს, შეტევით ტესტირებას (red-teaming) და სხვა შემოწმებებს. ახლა დავიწყეთ მოდელის გაშლების წინასწარი სიმულაციის მეთოდის გამოყენება, რაც დამატებით სიგნალს გვაძლევს: გაშლის მსგავს წინასწარ ხედს იმისა, როგორ შეიძლება მოიქცეს კანდიდატი მოდელი, სანამ ის მომხმარებლებამდე მივა.

გაშლის სიმულაცია არის მეთოდი მომავალი გაშლის სიმულაციისთვის მის განხორციელებამდე. ამის გასაკეთებლად წინა საუბრებს ხელახლა ვუშვებთ ახალ კანდიდატ მოდელთან ისე , რომ კონფიდენციალურობას ვინარჩუნებთ. ეს საშუალებას გვაძლევს, გამოშვებამდე შევისწავლოთ, როგორ იძლევა პასუხებს ახალი მოდელი რეალისტურ კონტექსტებში, მათ შორის, ჩნდება თუ არა ახალი არასასურველი ქცევები და რამდენად ხშირად შეიძლება გამოჩნდეს ისინი.

GPT‑5‑სერიის Thinking-მოდელის გაშლის რამდენიმე შემთხვევაში გაშლის სიმულაციამ გააუმჯობესა მოდელის არასასურველი ქცევის მაჩვენებლების ჩვენეული შეფასებები, დაგვეხმარა შეუთანხმებლობის ახალი ფორმების გამოვლენაში გამოშვებამდე და შეამცირა რისკი, რომ მოდელები მიხვდებოდა, რომ ტესტირებას გადიოდა. მეთოდი ასევე გამოვიყენეთ რთულ აგენტურ გაშლებში და ვაჩვენეთ, რომ ის სტანდარტულ ჩატს სცდება და მიესადაგება უფრო რთულ აგენტურ გარემოებებს, რომლებიც მოიცავს ხელსაწყოების გამოყენებას, და ამასთანავე, შეიძლება გამოყენებულ იქნეს რისკების შეფასებისთვის შიდა მოდელების გაშლამდე.

მოდელის შემუშავების დროს გაშლის სიმულაციიდან მიღებული მიგნებები უკვე გამოვიყენეთ ტრადიციულ შეფასებებში ბრმა ზონების გამოსავლენად და რისკების შემამცირებელი ზომებისა და გაშლასთან დაკავშირებული გადაწყვეტილებების განსასაზღვრად. რამდენადაც ამ კონვეიერის გაშვებას ვამარტივებთ, ველით, რომ ის მომავალში მოდელის განვითარების პროცესში უფრო დიდ როლს შეასრულებს.

დარგში გამოყენებული გაშლისწინა შეფასებები, როგორც წესი, შედგება ისეთი სინთეზური, ხელით დაწერილი ან საექსპლუატაციო პრომპტების ნარევისგან, რომლებიც განზრახ არის შერჩეული, რომ იყოს რთული, მაღალრისკიანი ან შეჯიბრებითი. ამ შეფასებებს, როგორც წესი, ორი გადაჯაჭვული მიზანი ჰქონდა: იმის შეფასება, თუ როგორ პასუხობს მოდელი სტრეს-ტესტირებისას სიტუაციებში, რომელთა მოხდენის შანსი ძალიან მცირეა გაშლის ტრაფიკში, და მოდელის არასასურველი ქცევების ზოგადი გაგება, მათ შორის, ახალი არასასურველი ქცევების პოვნა და მათი სიხშირის პროგნოზირება გაშლის დროს.

მიუხედავად იმისა, რომ ტრადიციული შეფასებები პირველი მიზნისთვის გადამწყვეტ მნიშვნელობას ინარჩუნებს, გაშლის სიმულაცია მეორე მიზნის მხრივ მნიშვნელოვანი წინსვლაა კუდის არმქონე რისკებისთვის (ექსპერიმენტებში არ შეიძლება იყოს მოლოდინი, რომ ჩვენი მიდგომა გაზომავს ისეთ ქცევებს, რომლებიც 200 000 შეტყობინებაში 1-ზე ნაკლები სიხშირით ხდება). გაშლის სიმულაციის სიძლიერე ისაა, რომ ის გვერდს უვლის ტრადიციული შეფასებების მხრივ არსებულ რამდენიმე ძირითად გამოწვევას:

• დაფარვა: რთულია მტკიცება, რომ შეფასების პრომპტები მოდელის არასასურველი ქცევის ყველა შესაძლო ტიპს დაფარავს. არასასურველი ქცევის ახალი ტიპების გაზომვა მოითხოვს ახალი შეფასებების შექმნას და იმის ცოდნას, რომელი ზიანი უნდა გაიზომოს. ამას შეიძლება დიდი დრო და შრომა სჭირდებოდეს, ხოლო შეფასებები დროთა განმავლობაში გაჯერდეს.
• მიკერძოებები შერჩევის მხრივ: ტრადიციული შეფასებები, როგორც წესი, მოდელის კონკრეტული არასასურველი ქცევების გათვალისწინებით იგება და ირჩევა ისე, რომ უკვე მომხდარი კონტექსტებისკენ იხრებოდეს. ამან შეიძლება მათი შეფასებები ნაკლებად ინფორმაციული გახადოს ასეთი ქცევების მოხდენის შემთხვევებზე გაშლის განაწილების მთელ მასშტაბში.
• მოდელების მიერ ტესტების ამოცნობა: მოდელები სულ უფრო მეტად ახერხებს, განსაზღვროს, რომ ტესტირებას გადის, რამაც შეიძლება მათი ქცევა და უსაფრთხოების შემდგომი გაზომვები დაამახინჯოს. მიუხედავად იმისა, რომ ბევრი ტრადიციული შეფასება, რომლებსაც OpenAI-ში ვიყენებთ, ასევე საექსპლუატაციო გარემოს ტრაფიკიდან მოდის და ამ პრობლემას არ განიცდის, ეს დარგში გამოყენებული მრავალი ტრადიციული შეფასებისთვის შეშფოთების საგანია.

გაშლის სიმულაციის მთავარი მეთოდი მარტივია: ვიღებთ ბოლო საუბრებს გაშლიდან, ვშლით ასისტენტის თავდაპირველ პასუხს ძველი მოდელიდან და მას გამოსაშვები კანდიდატი მოდელით ხელახლა ვაგენერირებთ. დასრულებებს ვაფასებთ მარცხის ახალი რეჟიმების ძიებით და გაშლის დროს არასასურველი ქცევის სიხშირეს ამ გაშლის მსგავს განაწილებაში არსებული სიხშირის მიხედვით ვაფასებთ. იგივე გაზომვები გამოშვების შემდეგ რეალურ გაშლის ტრაფიკზეც შეგვიძლია ჩავატაროთ, რაც საშუალებას გვაძლევს, შევამოწმოთ გაშლამდე გაკეთბული წინასწარი პროგნოზები.

გაშლის სიმულაცია მნიშვნელოვნად ამცირებს ზემოთ ჩამოთვლილ სამ შეზღუდვას: შერჩევის მიკერძოებულობა გვარდება შეფასების პრომპტების ისეთი განაწილების გამოყენებით, რომელიც ბოლო გამოყენების რეპრეზენტაციულია. რეპრეზენტაციული პრომპტების მქონე გაშლის სიმულაციას ასევე შეუძლია დაფარვასთან დაკავშირებული შეშფოთებების შემცირება: მოდელის არასასურველი ქცევების მეტ დაფარვას უბრალოდ მეტი ტრაფიკის სიმულაციით ვიღებთ. გამოთვლასა და დაფარვას შორის ეს კომპრომისი მნიშვნელოვანია, რადგან ის რისკის შეფასების ამ ღერძის ხარისხის მასშტაბს ზრდის გამოთვლით შესაძლებლობებთან ერთად და არა მეტი შეფასების ასაგებად საჭირო ხელით შრომასთან ერთად. როგორც ჩანს, მოდელები გაშლის რეალური ტრაფიკისგან ვერ არჩევს ვერც გაშლის სიმულაციით მიღებულ საუბრებს.

გაშლის სიმულაციის შესაფასებლად წინასწარ დავარეგისტრირეთ პროგნოზები GPT‑5.4 Thinking-მოდელის გაშლის დროს არასასურველი ქცევის 20 ტიპის სიხშირისთვის. ასევე ჩავატარეთ რეტროსპექტიული კვლევები GPT‑5‑სერიის Thinking-მოდელების სხვა გაშლებში. მოდელის ქცევები, რომლებსაც ვაანალიზებთ, მოიცავს როგორც შეუთანხმებლობას, ისე აკრძალული შიგთავსის კატეგორიებს, რომელთა შესახებ სისტემურ ბარათებში ვიტყობინებოდით (მაგ., მოდელის ტყუილი ხელსაწყოების თაობაზე ან აკრძალული სექსუალური შიგთავსის გენერირება). მიუხედავად იმისა, რომ ამ შედეგების შემთხვევაში არასასურველი მოდელის ქცევის მხოლოდ 20 კატეგორიას ვაკვირდებით და მხოლოდ ახალ შეუთანხმებელ ქცევებს ვეძებთ, გაშლის სიმულაცია ზოგადი მეთოდია, რომელიც შეიძლება გამოყენებულ იქნეს მოდელის ნებისმიერი თვისების სიმულაციისთვის გაშლის დროს.

საექსპლუატაციო ტრაფიკი, რომელიც გამოვიყენეთ, ასევე GPT‑5‑სერიის Thinking-მოდელებიდან ავიღეთ. შეფასებების გაშვებამდე ავტომატურად ამოვშალეთ ანგარიშთან დაკავშირებული იდენტიფიკატორები და მაიდენტიფიცირებელი ინფორმაცია. ჩვენი კონფიდენციალურობის წესების შესაბამისად, გავაანალიზეთ მხოლოდ იმ მომხმარებლების ChatGPT‑ის ტრაფიკი, რომლებიცთავიანთი მონაცემების მოდელის გაუმჯობესებისთვის გამოყენების ნებართვას იძლევიან. ამ შეფასებებიდან მხოლოდ აგრეგირებულ მიგნებებს ვაქვეყნებთ. ჯამში გავაანალიზეთ დაახლოებით 1,3 მილიონი დეიდენტიფიცირებული საუბარი GPT‑5 Thinking-იდან GPT‑5.4‑მდე გაშლებში 2025 წლის აგვისტოდან 2026 წლის მარტამდე პერიოდში.

გაშლის სიმულაციით შექმნილი გაშლისწინა რისკის შეფასების ხარისხს სამი ძირითადი გზით ვაფასებთ:

• ტაქსონომიის დაფარვა: გამოავლინა თუ არა გამოშვების შემდგომმა აუდიტმა მნიშვნელოვანი შეუთანხმებელი ქცევები, რომლებიც ჩვენს ცუდი ქცევის თავდაპირველ ტაქსონომიას აკლდა?
• მიმართულებითი სიზუსტე: სწორად იწინასწარმეტყველა თუ არა სიმულაციამ, გაიზრდებოდა თუ შემცირდებოდა განთავსების გავრცელება ცნობილი ქცევებისთვის?
• სიხშირეების კალიბრაცია: ახლოს იყო თუ არა ჩვენი განთავსებამდე შეფასებები იმ სიხშირეებთან, რომლებიც მოგვიანებით შევამჩნიეთ გაშლაში? სიხშირეების კარგი კალიბრაციის მიღწევა იმაზე მეტს მოითხოვს, ვიდრე მიმართულებითი სიზუსტეა, ამიტომ ეს ხარისხის უმაღლესი შესაძლო სტანდარტია.

ასევე ვზომავთ, რამდენად შეუძლია მოდელებს, გაშლის სიმულაციის დროს მიხვდეს, რომ მათი შეფასება ხდება, და ვამოწმებთ, რამდენად მდგრადია მეთოდი გაშლის ტრაფიკის სხვადასხვა ფორმისა და ხელსაწყოების გამოყენების რთული შემთხვევების მიმართ.

GPT‑5‑სერიის Thinking-მოდელების გაშლებში გაშლის სიმულაციამ რთული პრომპტების საბაზისო მიდგომებს აჯობა რისკის ფაქტობრივი სიხშირის განსაზღვრაში, შეძლო კალკულატორის გატეხის გამოვლენა გამოშვებამდე და მოდელისთვის, სავარაუდოდ, გაშლისგან განურჩეველი იყო.

ჩვენი პროგნოზების მიმოხილვა. GPT‑5‑სერიის Thinking-მოდელების გაშლებისთვის ყველა პროგნოზის ვიზუალიზაციისთვის იხილეთ სურათი 2. GPT‑5.4 Thinking-ის პროგნოზები წინასწარ იყო დარეგისტრირებული, ხოლო დანარჩენი პროგნოზები რეტროაქტიული იყო. აგრეგირებულად, ჩვენს პროგნოზებს ჰქონდა მედიანური მულტიპლიკატური შეცდომა 1,5x (მაგ., თუ არასასურველი ქცევის მაჩვენებელი 100 ათასში 10-ია, ეს შეესაბამებოდა 15 ან 6,67 სიხშირის შეფასებას 100 ათასში). მიუხედავად იმისა, რომ ჩვენი მეთოდის კუდში არსებული შეცდომები დაახლოებით 10-ჯერ უფრო დიდი შეიძლება იყოს, ველით, რომ მათი მნიშვნელოვნად შემცირება შესაძლებელი იქნება ჩვენი სიმულაციის კონვეიერის შემდგომი გაუმჯობესებით, როგორც ამას ქვემოთ განვიხილავთ.

გაშლის სიმულაციის პროგნოზების შედარება საბაზისო მიდგომებთან. გაშლისწინა რისკების შეფასებებისთვის სწორად განსასაზღვრი ყველაზე მნიშვნელოვანი ის კატეგორიებია, რომელთა შემთხვევაში მოდელის გაშლის შემდეგ დიდი ცვლილებები შეინიშნება (მაგ., >= 1,5x). ამ ქვეჯგუფზე გაშლის სიმულაცია საბაზისო მიდგომებზე არსებითად უკეთესია როგორც იმის პროგნოზირებაში, გაიზრდება თუ შემცირდება გარკვეული არასასურველი ქცევის გავრცელება მოდელის გაშლასთან ერთად (სურათი 3, მარცხნივ), ისე მისი ზუსტი სიხშირის შეფასებაში გაშლის დროს (სურათი 3, მარჯვნივ). ჩვენ ვიყენებთ ორ მთავარ საბაზისო მიდგომას: რთული პრომპტების საბაზისო მიდგომას, რომელსაც ამჟამად სისტემური ბარათებისა და გაშვების გადაწყვეტილებებისთვის ვიყენებთ, და ნაივურ საბაზისო მიდგომას, რომელიც ახალი მოდელის შეფასებებად წინა გაშლის სიხშირეებს იყენებს.

სიმულაციის შეცდომის წყაროები ჩვენს კონვეიერში. ჩვენ ასევე შევისწავლეთ შეცდომის მიმდინარე წყაროები ჩვენს კონვეიერში. კერძოდ, კუდში არსებული დიდი შეცდომები კონვეიერს განთავსებასთან დაკავშირებული გადაწყვეტილებებისთვის ნაკლებად სანდოს ხდის: მაგალითად, როცა გარკვეული ტიპის არასასურველი ქცევის დიდ პროგნოზირებულ ზრდას ვხედავთ, თუ ცნობილია, რომ კონვეიერს თუნდაც იშვიათად დიდი შეცდომები აქვს, ჩნდება ეჭვი, ეს სანდო შეფასებაა თუ კონვეიერის არტეფაქტი. შესაძლო შეცდომის ორი მთავარი წყაროა:

• ხელახალი შერჩევის გარემოს სიზუსტის შეცდომა: საექსპლუატაციო სიხშირეების ზუსტად შესაფასებლად ჩვენი სიმულაციის კონვეიერი მაქსიმალურად რეალისტური უნდა იყოს. ეს ნაწილობრივ საინჟინრო პრობლემაა (მოდელიდან შერჩევა იმავე კონვეიერებით, რომლებიც საექსპლუატაციო ტრაფიკისთვის გამოიყენება), და ნაწილობრივ საინტერესო გამოწვევაა ხელსაწყოებისთვის, რომლებსაც მუდმივად ცვალებად გარე რესურსებზე წაკითხვის/ჩაწერის წვდომა სჭირდებათ (მაგ., ვებძიებები ან ადგილობრივ ფაილებთან ურთიერთქმედება). სიმულაციის სიზუსტის შეცდომის იზოლირება შეგვიძლია რეალური გაშლისა და მისი სიმულაციის პროგნოზების შედარებით (ანუ, უკვე გაშლილი მოდელის გაშლის სიმულაციით).
• პრომპტების განაწილების წანაცვლების შეცდომა: გაშლის სიმულაციასთან დაკავშირებული მთავარი საზრუნავია, რომ ნებისმიერი მოდელის გაშლა გამოიწვევს შემავალ მონაცემებში განაწილების წანაცვლებას, განსაკუთრებით იმ შემთხვევაში, თუ მომხმარებლები ახალი მოდელის შესაძლებლობებს მოერგებიან. პრომპტების განაწილების შეცდომას გამოვყოფთ შეფასებების შედარებით, როცა გაშლის სიმულაციას ვახდენთ ბოლოდროინდელი პრომპტების გამოყენებით და ვადარებთ პრომპტებს რეალიზებული განთავსებიდან.

როგორც სურათ 4-ში ჩანს, კონვეიერში შეცდომის დიდი ნაწილი — განსაკუთრებით, ეს კუდში არსებულ შეცდომებს ეხება — ამჟამად სიმულაციის სიზუსტით არის გამოწვეული. ეს კარგი ამბავია, რადგან ველით, რომ სიმულაციის სიზუსტის გაუმჯობესება ზოგადად უფრო ადვილი იქნება, ვიდრე პრომპტების განაწილების წანაცვლების შემცირება. ასევე ვხედავთ, რომ პრომპტების განაწილების წანაცვლების შეცდომა შეიძლება შემცირდეს წინა გაშლიდან ყველაზე ახალი მონაცემების გამოყენებით. უფრო დაწვრილებითი ინფორმაცია მოცემულია კვლევით ნაშრომში.

ავტომატურმა აუდიტმა იპოვა ამ გაშლებში შემოტანილი ერთი ახალი შეუთანხმებლობა. ჩვენ მიერ შესწავლილ გაშლის ფანჯარაში სიმულირებულ გაშლებზე დაფუძნებული ჩვენი ავტომატური აუდიტის კონვეიერი გამოშვებამდე გამოავლენდა „კალკულატორის გატეხას“, რაც იყო ერთადერთი ახალი შეუთანხმებლობა, რომელიც ChatGPT‑ს გაანალიზებულ ტრაფიკში დავადგინეთ. კალკულატორის გატეხა ჯილდოს გატეხის ფორმაა, სადაც მოდელი ბრაუზერის ხელსაწყოს კალკულატორის სახით იყენებს, მაგრამ მოქმედებას ძიებად წარმოაჩენს. ეს არ ნიშნავს, რომ მასშტაბური აუდიტი ყველა ახალ მარცხს დაიჭერს, მაგრამ გვიჩვენებს, რატომ არის რეალისტური კონტექსტები მნიშვნელოვანი: მათ შეუძლია ისეთი ქცევების გამოწვევა, რომლებსაც ვიწრო შეფასების ნაკრებები პირდაპირ ვერასდროს გამოავლენს, მაშინაც კი, თუ ისინი არ იყო თავდაპირველ ტრაფიკში, რომლითაც სიმულაცია დაიწყო.

გაშლის მსგავსი კონტექსტების გამოყენების კიდევ ერთი უპირატესობა ისაა, რომ მათ შეიძლება შეამციროს დამახინჯებები, რომლებიც მაშინ წარმოიქმნება, როცა მოდელები ხვდება, რომ ტესტირებას გადის. წინა კვლევაში ჩვენც და სხვებმაც⁠(იხსნება ახალ ფანჯარაში) აღმოვაჩინეთ, რომ მოდელები ხშირად აცნობიერებს, როდის ხდება მათი გამოცდა. მაგალითად, მოდელებმა შეიძლება თავიანთ აზროვნების ჯაჭვში იმსჯელოს, რაზე ხდება გამოცდა, რა შეიძლება მოეწონოს შემფასებელს და გამოიჭერენ თუ არა ცუდად მოქცევის შემთხვევაში. ეს პრობლემას ქმნის შეთანხმებულობის შეფასებებისთვის: თუ მოდელი კარგად მხოლოდ იმიტომ იქცევა, რომ ჰგონია, გამოცდას გადის, როგორ დავრწმუნდეთ, რომ ის უსაფრთხოდ მოიქცევა, როცა გაიგებს, რომ გაშლილია?

ვაჩვენებთ, რომ გაშლის სიმულაცია მნიშვნელოვნად ამცირებს შეფასების გაცნობიერების დონეებს, რომლებსაც მოდელები ავლენს ისეთ ტრადიციულ შეფასებებთან შედარებით, რომლებიც გაშლის რეალურ მონაცემებს არ ეფუძნება. შეფასების გაცნობიერებას სამი გზით ვზომავთ: მოდელს ვთხოვთ, მოახდინოს კლასიფიცირება, ტრაექტორია საექსპლუატაციო გარემოდან მოდის თუ შეფასებიდან; ვაკვირდებით აზროვნების ჯაჭვს, რომ დავაფიქსიროთ ცალსახა განცხადებები შეთანხმებულობაზე და ასევე, მეტაგეიმინგზე⁠(იხსნება ახალ ფანჯარაში) გამოცდის შესახებ: ნებისმიერი მსჯელობა ზედამხედველობის თაობაზე. გაშლის სიმულირებული ტრაფიკი სამივე საზომით მჭიდროდ შეესაბამებოდა გაშლის რეალურ ტრაფიკს. მაგალითად, GPT‑5.2‑მა რეალური საექსპლუატაციო ტრაფიკი შეფასების მსგავსად მონიშნა შემთხვევების 5,4%-ში, ხოლო სიმულირებული ტრაფიკი — შემთხვევების 5,1%-ში, მაშინ, როცა ტრადიციული შეფასებების (როგორიცაა SWE-Bench ან MonorepoBench, რომლებიც ძირითადად სინთეზური მაგალითებისგან შედგება) კლასიფიცირება შეფასებებად შემთხვევების თითქმის 100%-ში მოხდა.

იმის შესამოწმებლად, შეძლებდა თუ არა მეთოდი სტანდარტული ჩატის რეჟიმების მიღმა გაფართოებას, ასევე შევისწავლეთ გაშლების სიმულაცია აგენტური პროგრამირების რთულ გარემოებში. კერძოდ, GPT‑5.4‑დან 120 000 შიდა თანამშრომლის აგენტურ ტრაექტორიას ვიყენებთ GPT‑5.5‑ზე დაფუძნებული პროგრამირების აგენტების შიდა გაშლის სიმულაციისთვის. ეს ორ მიზანს ემსახურება: გვიჩვენებს, როგორ შეიძლება გაშლის სიმულაციის გამოყენება შიდა გაშლების რისკების შეფასებისთვისაც, და წარმოადგენს იმის დემონსტრაციას, რომ ხელსაწყოების ფრთხილი სიმულაციით აგენტურ გარემოებშიც შესაძლებელია სიმულაციის მაღალი სიზუსტის მიღწევა.

ზემოთ განვიხილეთ, რომ სიმულაციის სიზუსტე შეცდომის ერთ-ერთი მთავარი წყაროა ჩვენს მიმდინარე კონვეიერში. გაშლის სიმულაციების რეალისტურად ქცევის ერთ-ერთი გამოწვევა ისაა, რომ ხელსაწყოები რეალისტურად უნდა მოქმედებდეს მაშინაც კი, როცა მათ მუდმივად ცვალებად გარე რესურსებზე წაკითხვის/ჩაწერის წვდომა სჭირდებათ (მაგ., ვებძიებები ან ლოკალურ ფაილებთან ურთიერთქმედება).

ეს განსაკუთრებით რთულია ისეთი გარემოებისთვის, როგორიცაა აგენტური გაშლები: ერთი აგენტის ტრაექტორია შეიძლება დამოკიდებული იყოს ასობით ხელსაწყოს გამოძახებაზე, რეპოზიტორიუმის მდგომარეობაზე, ქსელის პასუხებზე ან დროებით მარცხებზე. ეს ხელსაწყოებზე რეალური წვდომით ხელახლა შერჩევას როგორც რთულს, ისე პოტენციურად საშიშს ხდის. ამის გათვალისწინებით, მუშა სისტემებზე ხელსაწყოს გამოძახებების გამოყენების ნაცვლად, მის სიმულაიას სხვა LLM-ით ვახდენთ. ვაჩვენებთ, რომ ამ LLM-ისთვის დამატებითი შესაძლებლობების მიცემა არსებითად მნიშვნელოვანია რეალისტურობისთვის და, შესაბამისად, შეფასების ხარისხისთვისაც.

ხელსაწყოების მოდელ-სიმულატორს ვაძლევთ ბოლო სვლის საწყის ტრაექტორიას (rollout), საუბრის დროინდელ რეპოზიტორიუმს, ხელსაწყოებუს გამოძახებისა და პასუხების წყვილების მონაცემთა ბაზას და ასევე, მაერთებლებს მხოლოდ წაკითხვისთვის. ტესტში, სადაც დისკრიმინატორი ცდილობდა, სიმულირებული გაშვებები რეალურისგან გაერჩია, რეალისტურობა გამარჯვების 11,6%-იანი მაჩვენებლიდან 49,5%-მდე გაუმჯობესდა, შემთხვევითი არჩევანის თითქმის 50%-იან დონემდე.

სიმულაციის სიზუსტის დამატებითი მტკიცებულების სახით, როცა GPT‑5.4‑ით აღჭურვილ Codex-ში Thinking-მოდელის ტრაფიკის სიმულაციას GPT‑5.4‑ით ვახდენთ, შეუთანხმებლობის მაჩვენებლები, პრაქტიკულად შეცდომის ინტერვალებშია. ამის საპირისპიროდ, ჩვენს გაშლისწინა ტესტირებაში GPT‑5.5 კატეგორიების უმეტესობაში უფრო შეუთანხმებელი იყო.

ეს შედეგები მიუთითებს, რომ გაშლის სიმულაცია შეიძლება გავრცელდეს რთულ აგენტურ გარემოებზე, როცა გარემომცველი ხელსაწყოების გარემოს სიმულაცია საკმარისი სიზუსტით ხდება.

ბუნებრივად ჩნდება შეკითხვა, შეუძლიათ თუ არა გარე აუდიტორებს იგივე სარგებლის ნაწილის მიღება კერძო საექსპლუატაციო ტრაფიკზე წვდომის გარეშე. ეს გამოვცადეთ 100 000 WildChat საუბარზე, რომლებიც პრეფიქსებად გამოიყენებოდა. WildChat-ი OpenAI-ს ბოლო საექსპლუატაციო მონაცემებზე ნაკლებად ზუსტი იყო, მაგრამ მაინც ინფორმაციული: ბოლო საექსპლუატაციო მონაცემებს უფრო დაბალი საშუალო მულტიპლიკატური შეცდომა ჰქონდა, ვიდრე WildChat-ს (1,75× — 2,44×), ხოლო WildChat-ი ხშირად რჩებოდა საექსპლუატაციო სიხშირეების დაახლოებით 3× ფარგლებში და უკეთეს მოდელს შემთხვევითზე მაღალი მაჩვენებლებით ადგენდა. WildChat-ის სტილის შეფასებებს განვიხილავთ როგორც პერსპექტიულ დამატებას დეველოპერების მიერ გაშვებული გაშლის სიმულაციაზე. ამ საკითხზე მეტი შედეგისთვის იხილეთ ეს თანმხლები ბლოგპოსტი შეთანხმებულობის შესახებ⁠(იხსნება ახალ ფანჯარაში).

გაშლის სიმულაცია არის დამატება და არა ჩანაცვლება შეჯიბრებითი შეფასებებისთვის, შეტევითი ტესტირებისთვის (red-teaming) და კუდში არსებული რისკების მიზნობრივი ანალიზისთვის. მოდელის ზოგი არასასურველი ქცევის აღმოჩენა ეყრდნობა აზროვნების ჯაჭვის მონიტორინგის შესაძლებლობას: თუ მომავალი მოდელები ნაკლებად გასაგებად იმსჯელებს, გამოტოვებს მთავარ ნაბიჯებს ან ისწავლის განზრახვის დამალვას, შესაძლოა, ვერ მოვახერხოთ არასასურველი ქცევის ამ ფორმების აღმოჩენა. გარდა ამისა, რადგან საექსპლუატაციო მონაცემები კერძოა, დეველოპერებს ამჟამად რეპრეზენტაციულ კონტექსტებზე უფრო ძლიერი წვდომა აქვთ, ვიდრე გარე აუდიტორებს. უკეთესმა საჯარო მონაცემთა ნაკრებებმა შეიძლება ეს ხარვეზი შეამციროს.

გაშლის სიმულაცია ყველაზე სასარგებლოა ქცევებისთვის, რომლებიც საკმარისად ხშირად ხდება, რომ შერჩეულ პრეფიქსებში გამოჩნდეს. მარცხი, რომელიც ათ მილიონ საუბარში ერთხელ ხდება, მილიონიანნიმუშიან გაშვებაში, სავარაუდოდ, ვერ აღმოჩნდება, ამიტომ შეჯიბრებითი შეფასებები, შეტევითი ტესტირება (red-teaming) და კუდში არსებული რისკების მიზნობრივი ანალიზი კვლავ აუცილებელია. ამჟამად ვფოკუსირდებით ასისტენტის ერთი პასუხის სიმულაციაზე, რადგან წინასწარ ექსპერიმენტებში მრავალი სვლის სიმულაციით ჩვენი შეფასებების არსებითი გაუმჯობესება ვერ აღმოვაჩინეთ. მომავალში ეს მნიშვნელოვანი მიმართულება შეიძლება გახდეს სიმულაციის სიზუსტის გაუმჯობესებისთვის.

მეთოდი ასევე დამოკიდებულია პრეფიქსების განაწილებაზე — საუბრების ნარევზე, რომელთა ხელახლა არჩევა ხდება. ისტორიული ტრაფიკი შეიძლება არ ემთხვეოდეს იმას, როგორ ურთიერთობენ მომხმარებლები უფრო ძლიერ მოდელთან პროდუქტის მნიშვნელოვანი ცვლილების, ახალი ხელსაწყოს გამოშვების, მსოფლიო მოვლენის ან სეზონური წანაცვლების შემდეგ. სრულ ნაშრომში მოცემული ანალიზი მიუთითებს, რომ ამ პრობლემის შემცირება შესაძლებელია უახლესი ხელმისაწვდომი მონაცემების გამოყენებით.

გაშლის სიმულაცია გაშლისწინა რისკების შეფასების ახალი მიდგომაა, რომელიც მოწინავე ლაბორატორიებსა და შემფასებლებს ეხმარება, იწინასწარმეტყველონ, როგორ შეიძლება მოიქცნენ ენობრივი მოდელები რეალურ სამყაროში და გაშლამდე გაიგონ მათგან მომდინარე რისკები. ის ავსებს არსებულ უსაფრთხოების შეფასებებს, შეტევით ტესტირებას (red-teaming) და მიზნობრივ ანალიზს, ამატებს რა ექსპლუატაციის მსგავს პროგნოზირების ფენას, რომელსაც შეუძლია გაშლის ქცევის შეფასებების გაუმჯობესება, შეფასების გაცნობიერების ეფექტების შემცირება და გაშლისწინა პროგნოზების შემოწმებადობის შენარჩუნება გამოშვების შემდეგ. ტრადიციულ შეფასებებთან ერთად გამოყენებისას გაშლის სიმულაციამ მოდელის რისკის შეფასება შეიძლება გახადოს უფრო რეალისტური, რაოდენობრივი და სასარგებლო გაშლასთან დაკაშირებული გადაწყვეტილებებისთვის.