Sieć ekspertów OpenAI ds. kontrolowanych ataków

Ogłaszamy otwarty nabór do sieci ekspertów OpenAI ds. kontrolowanych ataków. Zapraszamy ekspertów z różnych dziedzin, którym zależy na zwiększaniu bezpieczeństwa modeli OpenAI, do współpracy. Szukamy ekspertów z różnych dziedzin do współpracy przy dogłębnej ocenie naszych modeli AI i testowaniu ich za pomocą kontrolowanych ataków.

Kontrolowane ataki^A są integralną częścią naszego iteracyjnego procesu wdrażania⁠. W ciągu ostatnich kilku lat nasze działania w zakresie kontrolowanych ataków wykroczyły poza wewnętrzne testy adwersarialne w OpenAI. Objęły współpracę z grupą zewnętrznych ekspertów^B, którzy pomagają tworzyć klasyfikacje zagrożeń dla poszczególnych dziedzin i oceniać potencjalnie szkodliwe możliwości nowych systemów. Więcej o naszych dotychczasowych kontrolowanych atakach, w tym o współpracy z zewnętrznymi ekspertami, można przeczytać w materiałach dotyczących takich modeli jak DALL·E 2⁠(otwiera nowe okno) i GPT‑4⁠(otwiera nowe okno).^C

Dziś rozpoczynamy bardziej sformalizowaną inicjatywę opartą na tych doświadczeniach. Chcemy pogłębić i poszerzyć współpracę z zewnętrznymi ekspertami, aby nasze modele były bezpieczniejsze. Współpraca z indywidualnymi ekspertami, instytucjami badawczymi i organizacjami społeczeństwa obywatelskiego jest ważną częścią tego procesu. Traktujemy ją jako uzupełnienie określonych zewnętrznie praktyk nadzoru, takich jak audyty prowadzone przez niezależne podmioty.

Sieć ekspertów OpenAI ds. kontrolowanych ataków to społeczność zaufanych i doświadczonych specjalistów, którzy mogą szerzej wspierać nasze działania w zakresie oceny i ograniczania ryzyka. Pozwala ona wyjść poza jednorazową współpracę i nabory prowadzone przed ważnymi wdrożeniami modeli. Członkowie sieci będą zapraszani, zgodnie ze swoją specjalizacją, do pomocy w przeprowadzaniu kontrolowanych ataków na różnych etapach cyklu rozwoju modeli i produktów. Nie każdy członek będzie uczestniczyć w pracach nad każdym nowym modelem czy produktem. Zaangażowanie czasowe ustalimy indywidualnie — może ono wynosić zaledwie 5–10 godzin rocznie.

Poza rundami kontrolowanych ataków zlecanymi przez OpenAI członkowie będą mogli wymieniać się ogólnymi doświadczeniami i wnioskami dotyczącymi kontrolowanych ataków. Celem jest zapewnienie stałego dopływu bardziej różnorodnych opinii i nadanie kontrolowanym atakom bardziej iteracyjnego charakteru. Sieć uzupełnia inne możliwości współpracy na rzecz bezpieczeństwa AI, w tym nasz program dostępu dla badaczy⁠ i testy open source⁠(otwiera nowe okno).

Sieć daje wyjątkową możliwość kształtowania rozwoju bezpieczniejszych technologii AI i zasad ich stosowania, a także wpływu, jaki AI może wywierać na nasze życie, pracę i relacje z innymi. Dołączając do sieci, znajdziesz się w gronie ekspertów dziedzinowych, których możemy zaprosić do oceny naszych modeli i systemów na różnych etapach ich wdrażania.

Ocena systemów AI wymaga znajomości wielu dziedzin oraz uwzględnienia różnorodnych perspektyw i doświadczeń życiowych. Zapraszamy do zgłaszania się ekspertów z całego świata. W procesie wyboru priorytetem jest dla nas różnorodność zarówno geograficzna, jak i dziedzinowa. 

Interesują nas między innymi następujące dziedziny:

Wcześniejsze doświadczenie z systemami AI lub modelami językowymi nie jest wymagane, ale może być pomocne. Najbardziej cenimy chęć zaangażowania się i wniesienia własnej perspektywy do naszej oceny wpływu systemów AI.

Wszyscy członkowie sieci ekspertów OpenAI ds. kontrolowanych ataków będą otrzymywać wynagrodzenie za swój wkład w projekty kontrolowanych ataków, w których wezmą udział. Członkostwo w sieci nie ogranicza możliwości publikowania badań ani podejmowania innych działań. Pamiętaj jednak, że udział w kontrolowanych atakach i innych projektach często podlega umowom o zachowaniu poufności (NDA) lub jest objęty poufnością na czas nieokreślony.

Nabór został zakończony.

P: Z czym wiąże się dołączenie do sieci?

O: Jako członek sieci możesz otrzymać propozycję przetestowania nowego modelu lub zbadania wybranego obszaru w modelu, który jest już wdrożony. Praca w ramach sieci jest objęta umową o zachowaniu poufności (NDA), choć wiele wyników naszych dotychczasowych kontrolowanych ataków publikowaliśmy w kartach systemów i wpisach na blogu. Za czas poświęcony na projekty kontrolowanych ataków otrzymasz wynagrodzenie.

P: Ile czasu trzeba poświęcić na udział w sieci? 

O: Możesz dostosować swoje zaangażowanie czasowe do własnego harmonogramu. Pamiętaj, że nie każdy członek sieci będzie zapraszany do każdego projektu. OpenAI będzie dobierać uczestników do potrzeb danego projektu kontrolowanych ataków, a w kolejnych rundach testów kłaść nacisk na nowe perspektywy. Nawet 5 godzin rocznie będzie dla nas cennym wkładem. Jeśli więc chcesz dołączyć, ale masz mało czasu, nie wahaj się zgłosić.

P: Kiedy kandydaci otrzymają informację o przyjęciu?

O: OpenAI będzie wybierać członków sieci na bieżąco. Zgłoszenia można przesyłać do 1 grudnia 2023 r. Po zakończeniu tego naboru rozważymy możliwość jego wznowienia w przyszłości.

P: Czy jako członek sieci będę zapraszany do testowania każdego nowego modelu za pomocą kontrolowanych ataków?

O: Nie. OpenAI będzie dobierać uczestników do potrzeb danego projektu kontrolowanych ataków, więc nie należy oczekiwać udziału w testach każdego nowego modelu.

P: Jakie kryteria bierzecie pod uwagę przy wyborze członków sieci?

O: Oto niektóre z naszych kryteriów:

• Udokumentowana wiedza lub doświadczenie w dziedzinie istotnej dla kontrolowanych ataków

• Zaangażowanie w zwiększanie bezpieczeństwa AI

• Brak konfliktów interesów

• Różnorodność środowisk i udział osób z grup tradycyjnie niedostatecznie reprezentowanych

• Reprezentacja różnych regionów świata 

• Biegła znajomość więcej niż jednego języka

• Umiejętności techniczne (niewymagane)

P: Jakie są inne możliwości współpracy na rzecz bezpieczeństwa?

O: Oprócz dołączenia do sieci istnieją też inne możliwości współpracy na rzecz bezpieczeństwa AI. Można na przykład opracowywać lub przeprowadzać testy bezpieczeństwa systemów AI i analizować ich wyniki.

Repozytorium open source Evals⁠(otwiera nowe okno) od OpenAI (udostępnione przy okazji premiery GPT‑4⁠) zawiera przystępne szablony i przykładowe metody, które ułatwiają rozpoczęcie takiej pracy.

Testy mogą obejmować zarówno proste zestawy pytań i odpowiedzi, jak i bardziej złożone symulacje. Oto konkretne przykłady testów opracowanych przez OpenAI do oceny zachowań AI pod różnymi kątami:

Perswazja

• MakeMeSay⁠(otwiera nowe okno): Jak skutecznie system AI potrafi podstępem skłonić inny system AI do wypowiedzenia tajnego słowa?

• MakeMePay⁠(otwiera nowe okno): Jak skutecznie system AI potrafi przekonać inny system AI do przekazania darowizny?

• Propozycja poddana pod głosowanie⁠(otwiera nowe okno): Jak skutecznie system AI potrafi wpływać na poparcie innego systemu AI dla propozycji politycznej?

Steganografia (ukrywanie wiadomości)

• Steganografia⁠(otwiera nowe okno): Jak skutecznie system AI potrafi przekazywać tajne wiadomości, unikając wykrycia przez inny system AI?

• Kompresja tekstu⁠(otwiera nowe okno): Jak skutecznie system AI potrafi kompresować i dekompresować wiadomości, aby umożliwić ukrywanie tajnych informacji?

• Punkt Schellinga⁠(otwiera nowe okno): Jak skutecznie system AI potrafi koordynować działania z innym systemem AI bez bezpośredniej komunikacji?

Zachęcamy do kreatywności i eksperymentowania przy ocenie systemów AI. Gdy ukończysz swój test, zachęcamy do dodania go do repozytorium open source Evals⁠(otwiera nowe okno), aby mogła z niego korzystać szersza społeczność AI.

Możesz również zgłosić się do naszego programu dostępu dla badaczy⁠. Przyznajemy w nim środki badaczom, którzy korzystają z naszych produktów do badania kwestii związanych z odpowiedzialnym wdrażaniem AI i ograniczaniem towarzyszących mu zagrożeń.