Program Bio Bug Bounty dotyczący agenta

W ramach naszych ciągłych działań na rzecz wzmocnienia zabezpieczeń zaawansowanych zdolności AI dotyczących biologii rozpoczęliśmy przyjmowanie zgłoszeń do naszego programu Bio Bug Bounty. Wdrożyliśmy model agenta ChatGPT i aktywnie pracujemy nad dalszą poprawą jego zabezpieczeń, a także zabezpieczeń innych modeli. Zapraszamy badaczy z doświadczeniem w zakresie udziału w zespole czerwonym AI, zabezpieczeń lub czynników ryzyka dotyczących zagrożeń chemicznych i biologicznych do podjęcia próby znalezienia uniwersalnego obejścia zabezpieczeń w celu sprostania naszemu składającemu się z dziesięciu poziomów wyzwaniu dotyczącemu biologii/chemii.

• Model: tylko agent ChatGPT
• Wyzwanie: zidentyfikowanie pojedynczego polecenia uniwersalnego obejścia zabezpieczeń w celu pomyślnego uzyskania odpowiedzi na wszystkie 10 pytań dotyczących bezpieczeństwa biologicznego/chemicznego w czystym czacie bez żadnych modyfikacji i zmian.
• Nagrody:
  • 25 000 USD za pierwsze prawdziwe uniwersalne obejście zabezpieczeń pozwalające na uzyskanie odpowiedzi na wszystkie dziesięć pytań.
  • 10 000 USD dla pierwszego zespołu, który uzyska prawidłowe odpowiedzi na wszystkie dziesięć pytań przy użyciu wielu poleceń obejścia zabezpieczeń.
  • Możemy zdecydować o przyznaniu mniejszych nagród za częściowe sukcesy.
• Harmonogram: Zgłoszenia przyjmujemy od 17 lipca 2025 r. Decyzje o akceptacji będą podejmowane na bieżąco. Testy rozpoczną się 29 lipca 2025 r.
• Dostęp: zgłoszenie i tylko na zaproszenie. Wyślemy zaproszenia do osób ze sprawdzonej listy zaufanych członków zespołu czerwonego z wiedzą i doświadczeniem w dziedzinie biologii i sprawdzimy nowe zgłoszenia. Wybrani kandydaci zostaną zarejestrowani na platformie Bio Bug Bounty.
• Ujawnienie informacji: Wszystkie polecenia, odpowiedzi, ustalenia i komunikaty są objęte umową o zachowaniu poufności.

Do 29 lipca 2025 r. prześlij tutaj⁠(otwiera nowe okno) krótkie zgłoszenie (imię i nazwisko, powiązania, doświadczenie i plan na 150 słów). Aby wziąć udział w programie, zaakceptowane zgłaszające się osoby i współpracownicy muszą mieć istniejące konto ChatGPT oraz muszą podpisać umowę o zachowaniu poufności.

Prześlij zgłoszenie już teraz – pomóż zwiększyć bezpieczeństwo pionierskiej AI.