OpenAI Safety Bug Bounty პროგრამის წარდგენა

დღეს OpenAI იწყებს საჯარო Safety Bug Bounty⁠(იხსნება ახალ ფანჯარაში) პროგრამას, რომელიც ჩვენს პროდუქტებში AI-ის ბოროტად გამოყენებისა და უსაფრთხოების რისკების გამოვლენაზეა ორიენტირებული. AI ტექნოლოგია სწრაფად ვითარდება და მასთან ერთად იზრდება მისი ბოროტად გამოყენების პოტენციური გზებიც. ჩვენი მიზანია, დავრწმუნდეთ, რომ ჩვენი სისტემები უსაფრთხო და დაცული რჩება ისეთი არასათანადო გამოყენებისგან ან ბოროტად გამოყენებისგან, რომელმაც შეიძლება ხელშესახები ზიანი გამოიწვიოს. 

ეს ახალი პროგრამა შეავსებს OpenAI-ის Security Bug Bounty⁠(იხსნება ახალ ფანჯარაში)-ს, რადგან მიიღებს ისეთ საკითხებს, რომლებიც ბოროტად გამოყენებისა და უსაფრთხოების არსებით რისკებს ქმნის, მაშინაც კი, თუ ისინი უსაფრთხოების მოწყვლადობის კრიტერიუმებს არ აკმაყოფილებს. ამ პროგრამის ფარგლებში ველით, რომ გავაგრძელებთ პარტნიორობას უსაფრთხოებისა და კიბერუსაფრთხოების მკვლევრებთან, რათა დაგვეხმარონ იმ საკითხების გამოვლენასა და გადაჭრაში, რომლებიც ტრადიციული უსაფრთხოების მოწყვლადობების ფარგლებს სცდება, მაგრამ მაინც რეალურ რისკებს ქმნის. წარდგენილ მასალებს OpenAI-ის Safety და Security Bug Bounty გუნდები შეაფასებენ და საჭიროების მიხედვით შესაძლოა ორ პროგრამას შორის გადაამისამართონ, სფეროსა და პასუხისმგებლობის მიხედვით.

ახალი Safety Bug Bounty⁠(იხსნება ახალ ფანჯარაში) პროგრამა ქვემოთ ჩამოთვლილ AI-სპეციფიკურ უსაფრთხოების სცენარებზეა ფოკუსირებული:

აგენტური რისკები, მათ შორის MCP

• მესამე მხარის პრომპტ ინიექცია და მონაცემთა ექსფილტრაცია: როცა თავდამსხმელის ტექსტს შეუძლია საიმედოდ გადაიბიროს მსხვერპლის აგენტი (მათ შორის Browser, ChatGPT Agent და მსგავსი აგენტური პროდუქტები), რათა მოატყუოს და მავნე ქმედება შეასრულებინოს ან მომხმარებლის სენსიტიური ინფორმაცია გააჟონინოს. ქცევა უნდა იყოს გამეორებადი შემთხვევების სულ მცირე 50%-ში. 
• OpenAI-ის აგენტური პროდუქტი OpenAI-ის ვებსაიტზე მასშტაბურად ასრულებს დაუშვებელ ქმედებას.
• OpenAI-ის აგენტური პროდუქტი ასრულებს სხვა პოტენციურად მავნე ქმედებას, რომელიც ზემოთ არ არის ჩამოთვლილი. აქ მოქმედმა ანგარიშებმა უნდა მიუთითოს დამაჯერებელი და მნიშვნელოვანი ზიანი.
• MCP რისკის ნებისმიერი ტესტირება უნდა შეესაბამებოდეს ნებისმიერი მესამე მხარის მომსახურების პირობებს.

OpenAI-ის საკუთრებითი ინფორმაცია

• მოდელის გენერაციები, რომლებიც აბრუნებს საკუთრებით ინფორმაციას, რომელიც მსჯელობას უკავშირდება.
• მოწყვლადობები, რომლებიც OpenAI-ის სხვა საკუთრებით ინფორმაციას ამჟღავნებს.

ანგარიშისა და პლატფორმის მთლიანობა

• მოწყვლადობები ანგარიშისა და პლატფორმის მთლიანობის სიგნალებში, მაგალითად, ავტომატიზაციის საწინააღმდეგო კონტროლების გვერდის ავლა, ანგარიშის სანდოობის სიგნალებით მანიპულირება, ანგარიშის შეზღუდვების/შეჩერებების/ბლოკირების თავიდან არიდება და მსგავსი საკითხები.
• საკითხები, რომლებიც მომხმარებლებს ავტორიზებული ნებართვების ფარგლებს მიღმა აძლევს ფუნქციებზე, მონაცემებზე ან შესაძლებლობებზე წვდომას, უნდა იყოს წარდგენილი Security Bug Bounty⁠(იხსნება ახალ ფანჯარაში)-ში.

მიუხედავად იმისა, რომ jailbreak-ები ამ პროგრამის ფარგლებს გარეთაა, ჩვენ პერიოდულად ვატარებთ დახურულ bug bounty კამპანიებს, რომლებიც ზიანის გარკვეულ ტიპებზეა ფოკუსირებული, მაგალითად, Biorisk კონტენტის საკითხებზე ChatGPT Agent⁠-ში და GPT‑5⁠-ში. მოვუწოდებთ დაინტერესებულ მკვლევრებს, განაცხადი შეიტანონ ამ პროგრამებში, როდესაც ისინი გამოცხადდება. 

ზემოთ ჩამოთვლილი კატეგორიების მიღმა, თუ მკვლევრები აღმოაჩენენ ხარვეზებს, რომლებიც ხელს უწყობს მომხმარებლისთვის ზიანის მიყენების პირდაპირ გზებს და აქვს გამოსასწორებელი, მკაფიო ნაბიჯები, ასეთ შემთხვევებს შესაძლოა ჯილდოს ფარგლებშიც განვიხილავდეთ ინდივიდუალურად. ზოგადი კონტენტ-პოლიტიკის გვერდის ავლები, უსაფრთხოებაზე ან ბოროტად გამოყენებაზე დემონსტრირებადი გავლენის გარეშე, ამ პროგრამის ფარგლებს გარეთაა. მაგალითად, „jailbreak“-ები, რომლებიც იწვევს იმას, რომ მოდელმა უხეში ენა გამოიყენოს ან დააბრუნოს ინფორმაცია, რომლის პოვნაც საძიებო სისტემებით მარტივად შეიძლება, ამ პროგრამის ფარგლებს გარეთაა.

მკვლევრებს, რომლებსაც მონაწილეობა სურთ, განაცხადის შეტანა შეუძლიათ ჩვენი Safety Bug Bounty⁠(იხსნება ახალ ფანჯარაში) პროგრამის მეშვეობით. მოუთმენლად ველით მკვლევრებთან, ეთიკურ ჰაკერებთან და უსაფრთხოებისა და კიბერუსაფრთხოების საზოგადოებასთან თანამშრომლობას უსაფრთხო AI ეკოსისტემის შექმნის მიზნით.