Program Bio Bug Bounty dotyczący agenta
Testowanie z użyciem uniwersalnych obejść zabezpieczeń w przypadku czynników ryzyka dotyczących zagrożenia biologicznego i agenta ChatGPT
W ramach naszych ciągłych działań na rzecz wzmocnienia zabezpieczeń zaawansowanych zdolności AI dotyczących biologii rozpoczęliśmy przyjmowanie zgłoszeń do naszego programu Bio Bug Bounty. Wdrożyliśmy model agenta ChatGPT i aktywnie pracujemy nad dalszą poprawą jego zabezpieczeń, a także zabezpieczeń innych modeli. Zapraszamy badaczy z doświadczeniem w zakresie udziału w zespole czerwonym AI, zabezpieczeń lub czynników ryzyka dotyczących zagrożeń chemicznych i biologicznych do podjęcia próby znalezienia uniwersalnego obejścia zabezpieczeń w celu sprostania naszemu składającemu się z dziesięciu poziomów wyzwaniu dotyczącemu biologii/chemii.
- Model: tylko agent ChatGPT
- Wyzwanie: zidentyfikowanie pojedynczego polecenia uniwersalnego obejścia zabezpieczeń w celu pomyślnego uzyskania odpowiedzi na wszystkie 10 pytań dotyczących bezpieczeństwa biologicznego/chemicznego w czystym czacie bez żadnych modyfikacji i zmian.
- Nagrody:
• 25 000 USD za pierwsze prawdziwe uniwersalne obejście zabezpieczeń pozwalające na uzyskanie odpowiedzi na wszystkie dziesięć pytań.
• 10 000 USD dla pierwszego zespołu, który uzyska prawidłowe odpowiedzi na wszystkie dziesięć pytań przy użyciu wielu poleceń obejścia zabezpieczeń.
• Możemy zdecydować o przyznaniu mniejszych nagród za częściowe sukcesy. - Harmonogram: Zgłoszenia przyjmujemy od 17 lipca 2025 r. Decyzje o akceptacji będą podejmowane na bieżąco. Testy rozpoczną się 29 lipca 2025 r.
- Dostęp: zgłoszenie i tylko na zaproszenie. Wyślemy zaproszenia do osób ze sprawdzonej listy zaufanych członków zespołu czerwonego z wiedzą i doświadczeniem w dziedzinie biologii i sprawdzimy nowe zgłoszenia. Wybrani kandydaci zostaną zarejestrowani na platformie Bio Bug Bounty.
- Ujawnienie informacji: Wszystkie polecenia, odpowiedzi, ustalenia i komunikaty są objęte umową o zachowaniu poufności.
Do 29 lipca 2025 r. prześlij tutaj(otwiera nowe okno) krótkie zgłoszenie (imię i nazwisko, powiązania, doświadczenie i plan na 150 słów). Aby wziąć udział w programie, zaakceptowane zgłaszające się osoby i współpracownicy muszą mieć istniejące konto ChatGPT oraz muszą podpisać umowę o zachowaniu poufności.
Prześlij zgłoszenie już teraz – pomóż zwiększyć bezpieczeństwo pionierskiej AI.
