OpenAI-ის შეტევითი ტესტირების (red teaming) ქსელი

ვაცხადებთ განაცხადების ღია მიღებას OpenAI-ის შეტევითი ტესტირების (red teaming) ქსელში და ვიწვევთ დარგის ექსპერტებს, რომლებიც დაინტერესებული არიან OpenAI-ის მოდელების უსაფრთხოების გაუმჯობესებით, შემოგვიერთდნენ ამ საქმეში. ვეძებთ სხვადასხვა სფეროს ექსპერტებს, რომლებიც ჩვენთან ერთად საფუძვლიანად შეაფასებენ ჩვენს ხელოვნური ინტელექტის მოდელებს და ჩაატარებენ მათ შეტევით ტესტირებას (red teaming).

შეტევითი ტესტირება (red teaming)^A ჩვენი იტერაციული დანერგვის პროცესის⁠ განუყოფელი ნაწილია. ბოლო რამდენიმე წლის განმავლობაში ჩვენი შეტევითი ტესტირება (red teaming) გაფართოვდა: თავდაპირველად ყურადღება OpenAI-ის შიდა შეჯიბრებით ტესტირებაზე იყო გამახვილებული, ახლა კი გარე ექსპერტთა ჯგუფთანაც^B ვთანამშრომლობთ. ისინი გვეხმარებიან დარგისთვის სპეციფიკური რისკების კლასიფიკაციის შემუშავებასა და ახალი სისტემების პოტენციურად საზიანო შესაძლებლობების შეფასებაში. ჩვენი წინა შეტევითი ტესტირების (red teaming), მათ შორის გარე ექსპერტებთან თანამშრომლობის შესახებ მეტი შეგიძლიათ წაიკითხოთ ისეთი მოდელების მასალებში, როგორიცაა DALL·E 2⁠(იხსნება ახალ ფანჯარაში) და GPT‑4⁠(იხსნება ახალ ფანჯარაში).^C

დღეს ვიწყებთ უფრო ფორმალიზებულ ინიციატივას, რომელიც ამ გამოცდილებას დაეფუძნება და გარე ექსპერტებთან ჩვენს თანამშრომლობას გააღრმავებს და გააფართოებს, რათა ჩვენი მოდელები უფრო უსაფრთხო გახდეს. ცალკეულ ექსპერტებთან, კვლევით ინსტიტუტებსა და სამოქალაქო საზოგადოების ორგანიზაციებთან თანამშრომლობა ჩვენი პროცესის მნიშვნელოვანი ნაწილია. ამ სამუშაოს განვიხილავთ გარედან განსაზღვრული მმართველობის პრაქტიკების, მაგალითად, მესამე მხარის აუდიტის, დამატებად.

OpenAI-ის შეტევითი ტესტირების (red teaming) ქსელი სანდო და გამოცდილი ექსპერტების გაერთიანებაა. ის დაგვეხმარება რისკების შეფასებისა და შემცირების საქმიანობაში ექსპერტული ცოდნის უფრო ფართოდ გათვალისწინებაში, ნაცვლად იმისა, რომ მოდელების მასშტაბურ დანერგვამდე ექსპერტები მხოლოდ ერთჯერადად შევარჩიოთ და ჩავრთოთ. ქსელის წევრებს მათი კომპეტენციის მიხედვით მოვიწვევთ, რათა დაგვეხმარონ შეტევით ტესტირებაში მოდელისა და პროდუქტის შემუშავების სასიცოცხლო ციკლის სხვადასხვა ეტაპზე. ყველა წევრი არ ჩაერთვება თითოეულ ახალ მოდელსა თუ პროდუქტზე მუშაობაში. გამოსაყოფ დროს თითოეულ წევრთან ინდივიდუალურად შევათანხმებთ — ეს შეიძლება წელიწადში სულ 5–10 საათიც იყოს.

OpenAI-ის დაკვეთით ჩატარებული შეტევითი ტესტირების (red teaming) კამპანიების მიღმაც, წევრებს ექნებათ შესაძლებლობა, ერთმანეთს გაუზიარონ შეტევითი ტესტირების (red teaming) ზოგადი პრაქტიკა და მიგნებები. მიზანია უფრო მრავალფეროვანი და უწყვეტი უკუკავშირის მიღება და შეტევითი ტესტირების (red teaming) უფრო იტერაციულ პროცესად ჩამოყალიბება. ეს ქსელი ავსებს ხელოვნური ინტელექტის უსაფრთხოებაზე თანამშრომლობის სხვა შესაძლებლობებს, მათ შორის ჩვენს მკვლევართა წვდომის პროგრამასა⁠ და ღია კოდის მქონე შეფასების ტესტებს⁠(იხსნება ახალ ფანჯარაში).

ეს ქსელი გაძლევთ უნიკალურ შესაძლებლობას, მონაწილეობა მიიღოთ უფრო უსაფრთხო ხელოვნური ინტელექტის ტექნოლოგიებისა და პოლიტიკის შემუშავებაში და გავლენა მოახდინოთ იმაზე, თუ როგორ შეცვლის ხელოვნური ინტელექტი ჩვენს ცხოვრებას, მუშაობასა და ურთიერთობებს. ქსელში გაწევრიანებით შეუერთდებით ჩვენს დარგობრივ ექსპერტთა გუნდს, რომლის წევრებიც შეიძლება მოვიწვიოთ ჩვენი მოდელებისა და სისტემების შესაფასებლად მათი დანერგვის სხვადასხვა ეტაპზე.

ხელოვნური ინტელექტის სისტემების შეფასებას სჭირდება მრავალი სხვადასხვა დარგის ცოდნა, მრავალფეროვანი ხედვა და ცხოვრებისეული გამოცდილება. განაცხადების შესატანად ვიწვევთ ექსპერტებს მთელი მსოფლიოდან და შერჩევისას უპირატესობას ვანიჭებთ როგორც გეოგრაფიულ, ისე დარგობრივ მრავალფეროვნებას. 

ჩვენთვის საინტერესო სფეროებს შორისაა ქვემოთ ჩამოთვლილიც, თუმცა ამით არ შემოვიფარგლებით:

ხელოვნური ინტელექტის სისტემებთან ან ენობრივ მოდელებთან მუშაობის გამოცდილება აუცილებელი არ არის, თუმცა შესაძლოა სასარგებლო იყოს. ჩვენთვის ყველაზე მნიშვნელოვანია თქვენი სურვილი, ჩაერთოთ ხელოვნური ინტელექტის სისტემების გავლენის შეფასებაში და გაგვიზიაროთ თქვენი ხედვა.

OpenAI-ის შეტევითი ტესტირების (red teaming) ქსელის ყველა წევრი მიიღებს ანაზღაურებას შეტევითი ტესტირების (red teaming) პროექტში შეტანილი წვლილისთვის. ამ ქსელის წევრობა არ შეგიზღუდავთ კვლევის გამოქვეყნებას ან სხვა შესაძლებლობების გამოყენებას. თუმცა, გაითვალისწინეთ, რომ შეტევითი ტესტირების (red teaming) და სხვა პროექტებში მონაწილეობა ხშირად ექვემდებარება ინფორმაციის გაუმჟღავნებლობის შეთანხმებას (NDA) ან განუსაზღვრელი ვადით კონფიდენციალური რჩება.

განაცხადების მიღება დასრულებულია.

კითხვა: რას გულისხმობს ქსელში გაწევრიანება?

პასუხი: ქსელის წევრობა ნიშნავს, რომ შესაძლოა დაგიკავშირდეთ ახალი მოდელის ან უკვე დანერგილი მოდელის რომელიმე საინტერესო მიმართულებით ტესტირების შეთავაზებით. ქსელის ფარგლებში მუშაობა ექვემდებარება ინფორმაციის გაუმჟღავნებლობის შეთანხმებას (NDA), თუმცა წარსულში ჩვენი შეტევითი ტესტირების (red teaming) მრავალი შედეგი გამოვაქვეყნეთ სისტემის ბარათებსა და ბლოგპოსტებში. შეტევითი ტესტირების (red teaming) პროექტებზე დახარჯული დრო აგინაზღაურდებათ.

კითხვა: რამდენი დრო უნდა დავუთმო ქსელში მონაწილეობას? 

პასუხი: მონაწილეობისთვის გამოყოფილი დრო შეგიძლიათ თქვენს განრიგს მოარგოთ. გაითვალისწინეთ, რომ ყველა შესაძლებლობის შესახებ ქსელის ყველა წევრს არ დავუკავშირდებით. OpenAI მონაწილეებს შეარჩევს შეტევითი ტესტირების (red teaming) კონკრეტულ პროექტთან შესაბამისობის მიხედვით, ხოლო შეტევითი ტესტირების (red teaming) მომდევნო კამპანიებში ყურადღებას ახალ ხედვებზე გაამახვილებს. წელიწადში სულ რაღაც 5 საათიც კი ღირებული იქნება ჩვენთვის, ამიტომ, თუ დაინტერესებული ხართ, მაგრამ ცოტა დრო გაქვთ, მაინც შემოიტანეთ განაცხადი.

კითხვა: როდის ეცნობებათ განმცხადებლებს, მიიღეს თუ არა ქსელში?

პასუხი: OpenAI ქსელის წევრებს ეტაპობრივად შეარჩევს. განაცხადის შეტანა შეგიძლიათ 2023 წლის 1 დეკემბრამდე. ამ ვადის ამოწურვის შემდეგ ხელახლა განვიხილავთ მომავალში განაცხადების მიღების განახლების შესაძლებლობას.

კითხვა: ქსელის წევრობა ნიშნავს, რომ ყველა ახალი მოდელის შეტევით ტესტირებას შემომთავაზებენ?

პასუხი: არა, OpenAI მონაწილეებს შეარჩევს შეტევითი ტესტირების (red teaming) კონკრეტულ პროექტთან შესაბამისობის მიხედვით, ამიტომ არ უნდა ელოდოთ, რომ ყველა ახალ მოდელს გატესტავთ.

კითხვა: რა კრიტერიუმებით არჩევთ ქსელის წევრებს?

პასუხი: შერჩევისას ვითვალისწინებთ შემდეგ კრიტერიუმებს:

• დადასტურებული კომპეტენცია ან გამოცდილება შეტევითი ტესტირებისთვის (red teaming) რელევანტურ კონკრეტულ დარგში

• ხელოვნური ინტელექტის უსაფრთხოების გაუმჯობესების დიდი სურვილი

• ინტერესთა კონფლიქტის არარსებობა

• მრავალფეროვანი გამოცდილება და ტრადიციულად ნაკლებად წარმოდგენილი ჯგუფების მონაწილეობა

• მრავალფეროვანი გეოგრაფიული წარმომადგენლობა 

• ერთზე მეტი ენის თავისუფლად ფლობა

• ტექნიკური უნარები (არასავალდებულო)

კითხვა: უსაფრთხოების მიმართულებით თანამშრომლობის კიდევ რა შესაძლებლობები არსებობს?

პასუხი: ქსელში გაწევრიანების გარდა, ხელოვნური ინტელექტის უსაფრთხოებაში წვლილის შეტანა თანამშრომლობის სხვა გზებითაც შეგიძლიათ. მაგალითად, შეგიძლიათ შექმნათ ხელოვნური ინტელექტის სისტემების უსაფრთხოების შეფასების ტესტები ან ჩაატაროთ შეფასებები და გააანალიზოთ შედეგები.

OpenAI-ის ღია კოდის მქონე Evals⁠(იხსნება ახალ ფანჯარაში) რეპოზიტორიუმი (რომელიც GPT‑4‑ის გამოშვებისას⁠ გახდა ხელმისაწვდომი) გთავაზობთ მარტივად გამოსაყენებელ შაბლონებსა და მეთოდების ნიმუშებს, რომლებიც ამ პროცესის დაწყებაში დაგეხმარებათ.

შეფასებები შეიძლება მოიცავდეს როგორც მარტივ კითხვა-პასუხის ტესტებს, ისე უფრო რთულ სიმულაციებს. კონკრეტული მაგალითებისთვის გთავაზობთ OpenAI-ის მიერ შემუშავებულ შეფასების ნიმუშებს, რომლებიც ხელოვნური ინტელექტის ქცევას სხვადასხვა კუთხით ამოწმებს:

დარწმუნება

• MakeMeSay⁠(იხსნება ახალ ფანჯარაში): რამდენად კარგად შეუძლია ხელოვნური ინტელექტის სისტემას, მოტყუებით ათქმევინოს სხვა სისტემას საიდუმლო სიტყვა?

• MakeMePay⁠(იხსნება ახალ ფანჯარაში): რამდენად კარგად შეუძლია ხელოვნური ინტელექტის სისტემას, დაარწმუნოს სხვა სისტემა ფულის შეწირვაში?

• კენჭისყრაზე წარდგენილი წინადადება⁠(იხსნება ახალ ფანჯარაში): რამდენად კარგად შეუძლია ხელოვნური ინტელექტის სისტემას, გავლენა მოახდინოს სხვა სისტემის მიერ პოლიტიკური წინადადების მხარდაჭერაზე?

სტეგანოგრაფია (ფარული მიმოწერა)

• სტეგანოგრაფია⁠(იხსნება ახალ ფანჯარაში): რამდენად კარგად შეუძლია ხელოვნური ინტელექტის სისტემას საიდუმლო შეტყობინებების გადაცემა ისე, რომ სხვა სისტემამ ვერ შეამჩნიოს?

• ტექსტის შეკუმშვა⁠(იხსნება ახალ ფანჯარაში): რამდენად კარგად შეუძლია ხელოვნური ინტელექტის სისტემას შეტყობინებების შეკუმშვა და აღდგენა საიდუმლო შეტყობინებების დასამალად?

• შელინგის წერტილი⁠(იხსნება ახალ ფანჯარაში): რამდენად კარგად შეუძლია ხელოვნური ინტელექტის სისტემას სხვა სისტემასთან მოქმედებების შეთანხმება პირდაპირი კომუნიკაციის გარეშე?

ხელოვნური ინტელექტის სისტემების შეფასებისას მივესალმებით შემოქმედებით მიდგომასა და ექსპერიმენტებს. დასრულების შემდეგ გეპატიჟებით, თქვენი შეფასების ტესტი დაამატოთ ღია კოდის მქონე Evals⁠(იხსნება ახალ ფანჯარაში) რეპოზიტორიუმს, რათა ხელოვნური ინტელექტის ფართო საზოგადოებამ შეძლოს მისი გამოყენება.

ასევე შეგიძლიათ განაცხადი შეიტანოთ ჩვენს მკვლევართა წვდომის პროგრამაში⁠. ის კრედიტებს სთავაზობს იმ მკვლევრებს, რომლებიც ჩვენი პროდუქტების გამოყენებით სწავლობენ ხელოვნური ინტელექტის პასუხისმგებლიან დანერგვასა და მასთან დაკავშირებული რისკების შემცირებას.