მოწინავე მოდელებისთვის მონაცემთა ნულოვანი შენარჩუნება

მონაცემთა ნულოვანი შენარჩუნება შესაბამის API-მომხმარებლებს მკაფიო გარანტიას აძლევს: მოთხოვნის დამუშავების შემდეგ OpenAI არ ინახავს მათ მოთხოვნებს ან მოდელის პასუხებს. OpenAI-ის თანამშრომლებს მომხმარებლის შიგთავსზე განხილვის მიზნით წვდომა არ აქვთ¹, ხოლო საწარმო მომხმარებლების მონაცემები ჩვენი მოდელების გასაწვრთნელად არ გამოიყენება, თუ მომხმარებლები ამაზე მკაფიო თანხმობას არ განაცხადებენ.

როდესაც მოდელები უფრო ხანგრძლივ და რთულ ამოცანებს ასრულებენ, ზოგიერთი სერიოზული რისკი შესაძლოა მხოლოდ რამდენიმე ურთიერთქმედების ერთობლივად განხილვისას გამოვლინდეს. ZDR-თან თავსებადი უსაფრთხოების არსებული სისტემები თითოეულ ურთიერთქმედებას ცალ-ცალკე აფასებს. დღეს წარმოგიდგენთ უსაფრთხოების კონფიდენციალური დამუშავების წინასწარ ვერსიას, რომელიც შექმნილია დაკავშირებულ ურთიერთქმედებებში კანონზომიერებების გამოსავლენად ისე, რომ OpenAI-ის თანამშრომლებს ძირითად შიგთავსზე წვდომა არ ჰქონდეთ.

ZDR-ის დანერგვისას მომხმარებლის შიგთავსი მის მიერვე კონტროლირებულ ინფრასტრუქტურაში რჩება. ასევე ვამუშავებთ ვარიანტს, რომლის დროსაც შიგთავსი OpenAI-ის ინფრასტრუქტურაში შეინახება და მომხმარებლის მიერ კონტროლირებული გასაღებებით დაიშიფრება. ორივე შემთხვევაში ავტომატურ სისტემებს შეუძლიათ პოტენციური ბოროტად გამოყენების გამოვლენა და შეზღუდული უსაფრთხოების სიგნალების დაბრუნება ისე, რომ OpenAI-ის თანამშრომლებისთვის ძირითადი მოთხოვნები ან პასუხები არ გაამჟღავნონ.

AI-ის უსაფრთხოების ყველაზე სერიოზული რისკები ყოველთვის არ ჩანს ერთი ურთიერთქმედებისას. პოტენციურად საზიანო განზრახვები ხშირად მხოლოდ რამდენიმე ურთიერთქმედების ერთობლივად განხილვისას ხდება ცხადი. მსგავსი რისკები შეიძლება წარმოიშვას, როდესაც მავნე პირები დამცავ ზომებს განმეორებით ამოწმებენ, სხვადასხვა ანგარიშიდან კოორდინირებულად მოქმედებენ ან საფრთხეებს ჩვეულებრივ კვლევად ნიღბავენ. რისკები შეიძლება აგენტური ამოცანის შესრულების პროცესშიც განვითარდეს — მაგალითად, თუ სისტემა მომხმარებლის განზრახვას აცდება და შეჩერების მითითების შემდეგაც განაგრძობს მოქმედებას.

როდესაც AI-სისტემები უფრო ხანგრძლივ და რთულ ამოცანებს ასრულებენ, ფართო კონტექსტი სულ უფრო მნიშვნელოვანი ხდება კანონიერი საქმიანობის ბოროტად გამოყენებისგან გასარჩევად და იმის უზრუნველსაყოფად, რომ AI-აგენტებმა მინიჭებული უფლებამოსილების ფარგლებს არ გასცდნენ.

ზოგიერთი მოწინავე მოდელის ბოლოდროინდელი დანერგვისას უსაფრთხოების მონიტორინგისთვის მომხმარებლებს AI-ის მომწოდებლისთვის სენსიტიური შიგთავსის შენახვის უფლების მიცემა მოეთხოვებოდათ. ბევრი ორგანიზაციისთვის ასეთი მოთხოვნები ეწინააღმდეგება უსაფრთხოების ვალდებულებებს ან იმ ადამიანების წინაშე აღებულ პასუხისმგებლობას, რომლებსაც ისინი ემსახურებიან.

უსაფრთხოების კონფიდენციალური დამუშავება შექმნილია ისე, რომ ZDR-ის შეთავაზება კვლავ შევძლოთ.

უსაფრთხოების კონფიდენციალური დამუშავება ეფუძნება ავტომატურ დამცავ ზომებს, რომლებიც უკვე გამოიყენება ZDR-სა და სხვა დანერგვებში. ZDR-თან თავსებადი უსაფრთხოების არსებული სისტემები ურთიერთქმედებებს ცალ-ცალკე აფასებს. უსაფრთხოების კონფიდენციალური დამუშავება ამ დამცავ ზომებს დაკავშირებულ ურთიერთქმედებებზეც ავრცელებს, რის შედეგადაც ავტომატურ სისტემებს შეუძლიათ კანონზომიერებების გამოვლენა ისე, რომ OpenAI-ის თანამშრომლებს შენახულ მომხმარებლის შიგთავსზე წვდომა არ ჰქონდეთ.

უსაფრთხოების კონფიდენციალური დამუშავება მომხმარებლის შიგთავსს იყენებს მისი შენახვის ადგილის მიუხედავად — იქნება ეს მომხმარებლის მიერ კონტროლირებული ინფრასტრუქტურა (ZDR-ის დანერგვა) თუ OpenAI-ის მიერ უზრუნველყოფილი საცავი. OpenAI-ის მიერ უზრუნველყოფილ საცავში მომხმარებლის შიგთავსი მისი კონტროლის ქვეშ არსებული გასაღებებით იშიფრება. OpenAI-ის თანამშრომლებს ამ გასაღებების ასლები არ აქვთ, ამიტომ ძირითად შიგთავსზე წვდომას ვერ მიიღებენ.

რისკის გამოვლენისას OpenAI იღებს ვიწროდ განსაზღვრულ სიგნალს, რომელიც შესაბამისი საქმიანობის ტიპზე მიუთითებს — ისევე, როგორც უსაფრთხოების დღევანდელ სისტემებში. ამ სიგნალით შეიძლება განისაზღვროს, საჭიროა თუ არა შესაბამისი ზომების მიღება. მონიშვნის შემთხვევაშიც კი OpenAI-ის თანამშრომლები მომხმარებლის შიგთავსზე წვდომას არ იღებენ.

მომხმარებლებს შეუძლიათ გაფრთხილებებისა და მიღებული ზომების შესახებ გადაწყვეტილებების გამოძიება საკუთარ სისტემებში არსებული ინფორმაციის გამოყენებით. თუ მათ გასაჩივრება, კანონიერი საქმიანობის განმარტება ან დადასტურებული ბოროტად გამოყენების გამოძიების ხელშეწყობა სურთ, შეუძლიათ შესაბამისი ინფორმაცია OpenAI-ს გაუზიარონ.

უსაფრთხოების კონფიდენციალური დამუშავება ამჟამად პირველ მომხმარებლებთან ერთად იტესტება. ამ წინასწარ ინფორმაციას ახლა ვაზიარებთ, რადგან მომხმარებლებმა მკაფიოდ გვითხრეს, რომ AI-სისტემების შესაძლებლობების ზრდასთან ერთად მათ სჭირდებათ წინასწარ იცოდნენ, როგორ იქნება დაცული მათი შიგთავსი.

ჩვენი მისიაა, უზრუნველვყოთ, რომ ზოგადი ხელოვნური ინტელექტი მთელი კაცობრიობისთვის სასარგებლო იყოს. მომხმარებლებთან და პარტნიორებთან თანამშრომლობა ეფექტიანი დამცავი ზომების შექმნის განუყოფელი ნაწილია. როგორც ჩვენი პრინციპები ცხადყოფს, ვერცერთი AI-ლაბორატორია ვერ გაუმკლავდება ახალ რისკებს მარტო. უსაფრთხოების კონფიდენციალური დამუშავება ამ მიდგომას ასახავს და მის ჩამოყალიბებაში მონაწილეობენ სხვადასხვა დარგის, რეგიონისა და ზომის კომპანიები.

ორგანიზაციები, რომლებთანაც ვთანამშრომლობთ, თავიანთ სფეროებში ყველაზე სენსიტიურ ინფორმაციას ამუშავებენ, მათ შორის ფინანსურ ჩანაწერებს, ჯანმრთელობის მონაცემებს, კონფიდენციალურ ბიზნესგეგმებსა და საკუთრებით დაცულ კვლევებს. ამ ინფორმაციის დაცვა აუცილებელია მარეგულირებელი ვალდებულებების შესასრულებლად, მომხმარებელთა ნდობის შესანარჩუნებლად და მათი კონკურენტული უპირატესობის დასაცავად.

მათი უკუკავშირი გვეხმარება, შევქმნათ უფრო ძლიერი დამცავი ზომები და ამავდროულად მათ ინფორმაცია მათივე კონტროლის ქვეშ დარჩეს.

ჩვენი მიდგომის ტექნიკურ და საოპერაციო დეტალებზე მომხმარებლებთან მუშაობას გავაგრძელებთ. სექტემბერში უსაფრთხოების კონფიდენციალური დამუშავების ეტაპობრივად დანერგვასა და ტექნიკური დოკუმენტის გამოქვეყნებას ვგეგმავთ. მომხმარებლებს ყველა ეტაპზე მივაწვდით ინფორმაციას: განახლებებს ადრევე გავუზიარებთ, ავუხსნით, რას ნიშნავს ისინი არსებული ვალდებულებებისთვის და მივცემთ წინასწარ დაგეგმვისთვის საჭირო დროსა და მხარდაჭერას.