ChatGPT‑ში წარმოგიდგენთ Lockdown Mode-ს და Elevated Risk ნიშნებს
რადგან AI სისტემები უფრო რთულ ამოცანებს ირგებენ — განსაკუთრებით მათ, რომლებიც ვებსა და დაკავშირებულ აპებს მოიცავს — უსაფრთხოების რისკებიც იცვლება.
ერთ-ერთი ახალი საფრთხე განსაკუთრებით მნიშვნელოვანი გახდა: პრომპტ ინიექცია. ასეთ შეტევებში მესამე მხარე ცდილობს, შეცდომაში შეიყვანოს სასაუბრო AI სისტემა, რათა მან შეასრულოს მავნე ინსტრუქციები ან გაამჟღავნოს მგრძნობიარე ინფორმაცია.
დღეს წარმოგიდგენთ ორ ახალ დაცვის მექანიზმს, რომლებიც დაეხმარება მომხმარებლებსა და ორგანიზაციებს პრომპტ ინიექციის შეტევების შემცირებაში, რისკის უფრო მკაფიო ხილვადობით და უფრო ძლიერი კონტროლებით:
- Lockdown Mode ChatGPT‑ში — გაფართოებული, სურვილისამებრ უსაფრთხოების პარამეტრი მაღალი რისკის მქონე მომხმარებლებისთვის
- „Elevated Risk“ ნიშნები ChatGPT‑ში, ChatGPT Atlas-სა და Codex-ში გარკვეული შესაძლებლობებისთვის, რომლებმაც შეიძლება დამატებითი რისკი შემოიტანოს
ეს დამატებები ეფუძნება ჩვენს არსებულ დაცვებს მოდელის, პროდუქტისა და სისტემის დონეებზე. ეს მოიცავს sandboxing-ს, URL-ზე დაფუძნებული მონაცემთა ექსფილტრაციისგან დაცვას, მონიტორინგსა და აღსრულებას, ასევე საწარმოს კონტროლებს, როგორიცაა როლებზე დაფუძნებული წვდომა და აუდიტის ჟურნალები.
Lockdown Mode არის სურვილისამებრ, გაფართოებული უსაფრთხოების პარამეტრი, რომელიც შექმნილია უსაფრთხოებაზე განსაკუთრებულად ორიენტირებული მომხმარებლების მცირე ჯგუფისთვის — მაგალითად, ხელმძღვანელებისთვის ან ცნობილი ორგანიზაციების უსაფრთხოების გუნდებისთვის — რომლებსაც მოწინავე საფრთხეებისგან გაძლიერებული დაცვა სჭირდებათ. ის მომხმარებლების უმეტესობისთვის აუცილებელი არ არის. Lockdown Mode მკაცრად ზღუდავს, როგორ შეუძლია ChatGPT‑ს გარე სისტემებთან ურთიერთქმედება, რათა შემცირდეს პრომპტ ინიექციაზე დაფუძნებული მონაცემთა ექსფილტრაციის რისკი.
Lockdown Mode დეტერმინისტულად თიშავს ChatGPT‑ში გარკვეულ ინსტრუმენტებსა და შესაძლებლობებს, რომელთა გამოყენებასაც მოწინააღმდეგე შეიძლება ეცადოს მომხმარებლების საუბრებიდან ან დაკავშირებული აპებიდან მგრძნობიარე მონაცემების გასატანად ისეთი შეტევების გზით, როგორიცაა პრომპტ ინიექციები.
მაგალითად, Lockdown Mode-ში ვებზე დათვალიერება შეზღუდულია ქეშირებული კონტენტით, ამიტომ OpenAI-ის კონტროლირებადი ქსელიდან ცოცხალი ქსელური მოთხოვნები გარეთ არ გადის. ეს შეზღუდვა შექმნილია იმისთვის, რომ მგრძნობიარე მონაცემების თავდამსხმელთან ექსფილტრაცია დათვალიერების საშუალებით თავიდან აიცილოს. ზოგი ფუნქცია სრულად ითიშება, როცა მონაცემთა უსაფრთხოების ძლიერი დეტერმინისტული გარანტიების მიწოდება არ შეგვიძლია.
Lockdown Mode არის ახალი დეტერმინისტული პარამეტრი, რომელიც ხელს უწყობს მონაცემების მესამე მხარეებთან უნებლიე გაზიარებისგან დაცვას იმით, რომ მკაცრად ზღუდავს, როგორ შეუძლია ChatGPT‑ს გარკვეულ გარე სისტემებთან ურთიერთქმედება.
ChatGPT‑ის ბიზნეს გეგმები უკვე უზრუნველყოფს საწარმოს დონის მონაცემთა უსაფრთხოებას. Lockdown Mode ამ დაცვებს ეყრდნობა და ხელმისაწვდომია ChatGPT Enterprise-ისთვის, ChatGPT Edu-სთვის, ChatGPT for Healthcare-ისთვის და ChatGPT for Teachers-ისთვის. ადმინისტრატორებს მისი ჩართვა შეუძლიათ სამუშაო სივრცის პარამეტრებში(იხსნება ახალ ფანჯარაში) ახალი როლის(იხსნება ახალ ფანჯარაში) შექმნით. ჩართვისას Lockdown Mode დამატებით შეზღუდვებს ამატებს უკვე არსებულ ადმინისტრაციულ პარამეტრებს.
Lockdown Mode-ის შესახებ მეტი გაიგეთ ჩვენს დახმარების ცენტრში(იხსნება ახალ ფანჯარაში).
რადგან ზოგი კრიტიკული სამუშაო პროცესი აპებზეა დამოკიდებული, სამუშაო სივრცის ადმინისტრატორებს უფრო დეტალური კონტროლები უნარჩუნდებათ. მათ შეუძლიათ ზუსტად აირჩიონ, რომელი აპები — და ამ აპებში რომელი კონკრეტული ქმედებები — იქნება ხელმისაწვდომი მომხმარებლებისთვის Lockdown Mode-ში. დამატებით, და Lockdown Mode-ისგან დამოუკიდებლად, Compliance API Logs Platform(იხსნება ახალ ფანჯარაში) უზრუნველყოფს აპების გამოყენების, გაზიარებული მონაცემებისა და დაკავშირებული წყაროების დეტალურ ხილვადობას, რაც ადმინისტრატორებს ზედამხედველობის შენარჩუნებაში ეხმარება.
ვგეგმავთ, რომ უახლოეს თვეებში Lockdown Mode მომხმარებლებისთვისაც ხელმისაწვდომი გავხადოთ.
AI პროდუქტები უფრო სასარგებლო შეიძლება იყოს, როდესაც თქვენს აპებსა და ვებთან არის დაკავშირებული, და ჩვენ დიდ ინვესტიციას ვდებთ დაკავშირებული მონაცემების უსაფრთხოდ დაცვაში. ამავე დროს, ქსელთან დაკავშირებული ზოგი შესაძლებლობა ახალ რისკებს ქმნის, რომლებიც ინდუსტრიის უსაფრთხოებისა და დაცვის მექანიზმებით ჯერ სრულად არ არის აღმოფხვრილი. ზოგი მომხმარებელი შეიძლება მზად იყოს ამ რისკების მისაღებად, და ჩვენ მიგვაჩნია, რომ მნიშვნელოვანია, მომხმარებლებს ჰქონდეთ შესაძლებლობა თავად გადაწყვიტონ, გამოიყენონ თუ არა ისინი და როგორ, განსაკუთრებით მაშინ, როცა საკუთარ პირად მონაცემებთან მუშაობენ.
ჩვენი მიდგომა იყო პროდუქტში მითითებების მიწოდება იმ ფუნქციებისთვის, რომლებმაც შეიძლება დამატებითი რისკი შექმნას. ამის უფრო გასაგებად და თანმიმდევრულად გასაკეთებლად, ჩვენ ვაერთიანებთ, როგორ აღვნიშნავთ არსებული შესაძლებლობების მოკლე სიას. ამ ფუნქციებზე ახლა გამოყენებული იქნება ერთიანი „Elevated Risk“ ნიშანი ChatGPT‑ში, ChatGPT Atlas-სა და Codex-ში, რათა მომხმარებლებმა ერთი და იგივე მითითებები მიიღონ ყველგან, სადაც მათ შეხვდებიან.
მაგალითად, Codex-ში, ჩვენს კოდირების ასისტენტში, დეველოპერებს შეუძლიათ Codex-ს ქსელზე წვდომა მიანიჭონ, რათა მან ვებზე ქმედებები შეასრულოს, მაგალითად, დოკუმენტაცია მოიძიოს. შესაბამისი პარამეტრების ეკრანი მოიცავს „Elevated Risk“ ნიშნას, ასევე მკაფიო ახსნას იმისა, რა იცვლება, რა რისკები შეიძლება გაჩნდეს და როდის არის ასეთი წვდომა შესაფერისი.
Codex-ის პარამეტრების ეკრანის სქრინშოთი, სადაც მომხმარებლებს შეუძლიათ დააკონფიგურირონ, რა ქსელურ წვდომას ფლობს Codex.
ჩვენ ვაგრძელებთ ინვესტირებას ჩვენი უსაფრთხოებისა და დაცვის მექანიზმების გაძლიერებაში, განსაკუთრებით ახალი, აღმოცენებადი ან მზარდი რისკებისთვის. ამ ფუნქციებისთვის დაცვის მექანიზმების გაძლიერებასთან ერთად, „Elevated Risk“ ნიშანს მოვხსნით მას შემდეგ, რაც დავადგენთ, რომ უსაფრთხოების გაუმჯობესებებმა ეს რისკები საკმარისად შეამცირა ფართო გამოყენებისთვის. ასევე დროთა განმავლობაში გავაგრძელებთ იმის განახლებას, თუ რომელ ფუნქციებს ექნება ეს ნიშანი, რათა მომხმარებლებს რისკი საუკეთესოდ მივაწოდოთ.
ავტორი
განაგრძეთ კითხვა
