Control Room
რაც უფრო ძლიერდება ჩვენი მოდელები და იზრდება მათთან დაკავშირებული უსაფრთხოებისა და დაცულობის რისკები, მით უფრო მნიშვნელოვანი ხდება შესაძლო პრობლემების გამოვლენა და საჭიროებისას მოდელების სწრაფად შეჩერება. ამ ამოცანის გადასაჭრელად შევქმენით Control Room.
Control Room ცენტრალური სისტემაა, რომელიც მთელ ჩვენს კვლევით ინფრასტრუქტურაში აღრიცხავს მოდელების სამუშაო პროცესებს და უსაფრთხოების ან დაცულობის რისკების წარმოშობისას სწრაფად აჩერებს მათ. ის აერთიანებს ინფერენსის ყველა კვლევით სამუშაო პროცესს, მათ შორის მოდელების წვრთნისა და შეფასებისთვის აგენტურ გენერაციას, მონაცემთა დამუშავებასა და სხვას. ის მუშაობს ჩვენს მიზნებთან შეუსაბამობის მონიტორინგის სისტემებთან ერთად და მოდელის მიერ შედეგების გენერაციას აჩერებს დავალების შეწყვეტის ან დროებით შეჩერების შესახებ გადაწყვეტილებიდან 35 წამში. სისტემა ისეა შექმნილი, რომ სხვა სისტემების მწყობრიდან გამოსვლის შემთხვევაშიც იმუშაოს, ხოლო თავად Control Room-ის გათიშვისას მოდელის მიერ შედეგების გენერაცია შეაჩეროს.
Control Room უკვე დანერგილია მთელ ჩვენს კვლევით ინფრასტრუქტურაში, სადაც ამის საჭიროება ყველაზე დიდია. გარე მომხმარებლებისთვის მოდელების მომსახურების ჩვენი ტექნოლოგიური სტეკი თავისთავად გაცილებით უფრო ცენტრალიზებულია და უკვე აქვს კარგად განვითარებული საოპერაციო შესაძლებლობები, რათა საჭიროებისას გაშვებული მოდელები სწრაფად გათიშოს.
Control Room რამდენიმე სისტემის ინტეგრაციით მუშაობს. ესენია: სამუშაო პროცესი, ინფერენსის ძრავა და ცენტრალიზებული Control Room-ის სერვისი.
სამუშაო პროცესი არის გაშვებული დავალება, მაგალითად, განმამტკიცებელი სწავლების ექსპერიმენტი, შეფასება, დიდი მოცულობის გენერაციის ან მონაცემთა დამუშავების დავალება. ჩვენი მოთხოვნით, ყველა კვლევითი სამუშაო პროცესი, რომელიც აგენტურ ინფერენსს იყენებს, უნდა უკავშირდებოდეს დამტკიცებულ უსაფრთხოების დასაბუთებას.
ინფერენსის ძრავა, ან უბრალოდ ძრავა, თავად მოდელია. ძრავა შეგიძლიათ წარმოიდგინოთ, როგორც მოდელის ტვინი, რომელიც უშუალოდ გრაფიკულ პროცესორებზე მუშაობს. სამუშაო პროცესი, ჩვეულებრივ, იყენებს ერთ ან რამდენიმე მოდელს, რომლებიც შეიძლება ინფერენსის ერთ ან რამდენიმე სხვადასხვა ძრავაზე მუშაობდეს. ინფერენსის ერთი და იგივე ძრავას შეიძლება რამდენიმე სხვადასხვა სამუშაო პროცესი იყენებდეს.
Control Room-ის სერვისი აღრიცხავს დავალებებს და აკონტროლებს, აქვთ თუ არა მათ მოდელის მიერ შედეგების გენერაციის გაგრძელების უფლება. მოთხოვნის შესრულებამდე ძრავები ნებართვას Control Room-ის სერვისთან ამოწმებენ. თუ დავალება შეჩერებულია, სერვისი უარყოფს მოთხოვნას და შედეგების შემდგომ გენერაციას ბლოკავს.
Control Room ინტეგრირებულია შემდეგნაირად:
ახალი დავალების დაწყებისას სამუშაო პროცესის კოდი Control Room-ს ახალ job_id-ს სთხოვს.
ყოველ ჯერზე, როცა სამუშაო პროცესს მოდელისგან ტოკენების გენერაცია სჭირდება, ის მოთხოვნას უგზავნის ამ მოდელის ინფერენსის ძრავას და გადასცემს job_id-ს. ძრავა Control Room-ს სთხოვს ამ მოთხოვნის შესრულების ნებართვას და გადასცემს job_id-ს.
Control Room ამოწმებს, შეწყვეტილია თუ არა დავალება. თუ შეწყვეტილია, ინფერენსის მოთხოვნას უარყოფს. ძრავა სამუშაო პროცესის ინფერენსის მოთხოვნას უარით პასუხობს და ამ დავალებისთვის მოდელის მიერ შედეგების შემდგომ გენერაციას აჩერებს.
როგორ მუშაობს Control Room
კვლევითი დავალება
ინფერენსის ძრავა
ამუშავებს მოდელს გრაფიკულ პროცესორებზე
Control Room
- job_039, აქტიური
- job_040, აქტიური
- job_041, აქტიური
მოწინავე მოდელების განმამტკიცებელი სწავლების ყველა ჩვენს დავალებას მონიტორი ახლავს. მონიტორი სხვა მოდელია, რომელიც წვრთნის პროცესში მყოფი მოდელის ყველა მოქმედებას ამოწმებს და პრობლემის აღმოჩენისას გაფრთხილებას აგზავნის. მაგალითად, ჩვენი ბოლოდროინდელი DNS-თან დაკავშირებული ინციდენტი(იხსნება ახალ ფანჯარაში) მონიტორმა გამოავლინა.
Control Room და ჩვენი მონიტორინგის სისტემა ინტეგრირებულია შემდეგნაირად:
თუ მონიტორინგის სისტემა შესაძლო პრობლემას აღმოაჩენს, მისი ხასიათისა და სიმძიმის მიხედვით, შეიძლება დავალების შეჩერება გადაწყვიტოს.
ამ შემთხვევაში მონიტორინგის სისტემა Control Room-ს უგზავნის შეტყობინებას დავალების შეჩერების შესახებ და გადასცემს job_id-ს. Control Room აფიქსირებს, რომ დავალება შეწყვეტილია.
როცა ამ job_id-ის მქონე დავალება კვლავ გაგზავნის ინფერენსის მოთხოვნას დამატებითი ტოკენების მისაღებად ნებისმიერ ძრავაზე მომუშავე ნებისმიერი მოდელისგან, მოთხოვნა უარყოფილი იქნება და მოდელის მიერ შედეგების შემდგომი გენერაცია შეჩერდება.
Control Room-ის მიერ დავალების შეჩერების მითითების მიღებიდან იმ მომენტამდე, როცა მისი შესრულების გაგრძელება შეუძლებელი ხდება, მაქსიმუმ 35 წამი გადის. 35-წამიანი დაყოვნება გამოწვეულია ინფერენსის ავტორიზაციის ქეშირების შრით, რომელიც მოთხოვნების საჭირო მოცულობის დასამუშავებლად გამოიყენება. ვმუშაობთ ამ დროის ნულამდე შემცირებაზე, რათა დავალებების მყისიერად შეწყვეტა შევძლოთ.
სამუშაო პროცესებზე, მათ შორის ექსპერიმენტებზე, შეფასების დავალებებსა და სხვაზე, ჩვეულებრივ, პასუხისმგებელი არიან მკვლევრები ან მკვლევართა გუნდები, რომლებიც მათ მართავენ. ამიტომ სამუშაო პროცესების კოდი ხშირად იცვლება და არ არის საუკეთესო ადგილი უსაფრთხოების კრიტიკულად მნიშვნელოვანი დაცვის მექანიზმების დასანერგად. სწორედ ამიტომ ჩვენი გადაწყვეტა ისეა შექმნილი, რომ სამუშაო პროცესის კოდში შეცდომებისა თუ გაუმართაობის მიუხედავად იმუშაოს.
ამას შეწყვეტის მექანიზმის ინფერენსის შრეში დანერგვით ვაღწევთ. სამუშაო პროცესების კოდი მეტად მრავალფეროვანი და დეცენტრალიზებულია. ამის საპირისპიროდ, OpenAI-ის ყველა კვლევაში ინფერენსის კოდის შესრულების სულ რამდენიმე გზა გამოიყენება, ხოლო მათი გაშვება გაცილებით უფრო ცენტრალიზებული და ერთგვაროვანია. ეს ნიშნავს, რომ ინფერენსის შრე შეიძლება იქცეს საერთო საკონტროლო წერტილად, რომელიც მყარ გარანტიას მოგვცემს: კვლევაში გაშვებული მოდელების ინფერენსის ყოველი მოთხოვნა გაივლის ავტორიზაციის შემოწმებას Control Room-ში. გარდა ამისა, აგენტებისა და პროგრამული საშუალებების გამოყენებით მუდმივად ვამოწმებთ, ხომ არ უშვებენ მომხმარებლები შემთხვევით ან განზრახ ძრავების უკონტროლო ვერსიებს, რომლებშიც Control Room არ არის დანერგილი ან გამორთულია.
და ბოლოს, ჩვენი სისტემა „მარცხისას წვდომას კეტავს“. ეს ნიშნავს, რომ ძრავებში Control Room-ის ინტეგრაცია ასეა გამართული: თუ Control Room-ის სერვისი გაითიშება სისტემური შეცდომის ან ნებისმიერი სხვა მიზეზით, მათ შორის ბოროტმოქმედის ჩარევის შედეგად, ინფერენსის ყველა მოთხოვნა უარყოფილი იქნება, სანამ Control Room ნორმალურ მუშაობას არ განაახლებს. მარცხისას წვდომის ჩაკეტვა უკვე დანერგილია მოწინავე მოდელების ყველა კვლევით სამუშაო პროცესში. დანარჩენ კვლევით სამუშაო პროცესებში მისი დანერგვა უახლოეს დღეებში დასრულდება.
Control Room მხოლოდ ერთი ნაწილია ჩვენი ერთიანი მიდგომისა, რომელიც მოწინავე მოდელების უსაფრთხო წვრთნასა და დანერგვას ემსახურება. მომდევნო თვეებში გავაგრძელებთ სისტემის გაძლიერებასა და გაფართოებას და, პარალელურად, რესურსებს ჩავდებთ მიზნებთან შეუსაბამო ქცევისა და უსაფრთხოების დარღვევების მონიტორინგში. თუ გსურთ, დაგვეხმაროთ AGI-ის უსაფრთხო და დაცული შემუშავებისა და დანერგვისთვის საჭირო სისტემების შექმნაში, შემოგვიერთდით — გვაქვს ვაკანსიები!
