Zasady udostępniania i publikowania

Aby ograniczyć potencjalne czynniki ryzyka dotyczące treści generowanych przez AI, ustaliliśmy następujące zasady dozwolonego udostępniania.

Publikowanie własnych poleceń i odpowiedzi w mediach społecznościowych jest ogólnie dozwolone, podobnie jak transmisje na żywo przedstawiające korzystanie z naszych produktów i demonstrowanie ich grupie osób. Prosimy o przestrzeganie następujących zasad:

• Każdą wygenerowaną odpowiedź należy sprawdzić ręcznie przed jej udostępnieniem lub podczas transmisji na żywo.

• Treść powinna mieć przypisane imię i nazwisko użytkownika lub nazwę firmy.

• Należy w jednoznaczny sposób poinformować, że treść została wygenerowana przez AI, tak aby żaden użytkownik nie mógł przeoczyć ani źle zrozumieć tej informacji.

• Nie należy udostępniać treści, które naruszają nasze zasady dotyczące treści⁠ lub mogą obrażać inne osoby.

• W przypadku przyjmowania próśb dotyczących poleceń od innych osób należy kierować się zdrowym rozsądkiem. Nie należy wprowadzać poleceń, które mogą skutkować naruszeniem naszych zasad dotyczących treści⁠.

Aby upewnić się, że zespół OpenAI wie o konkretnej odpowiedzi, możesz wysłać do nas wiadomość e-mail lub skorzystać z narzędzi do zgłaszania błędów w Playground.

• Pamiętaj, że korzystasz z samego modelu, co oznacza, że nie filtrujemy stronniczych lub negatywnych odpowiedzi. Możesz też zapoznać się z informacjami dotyczącymi wdrażania naszego bezpłatnego punktu końcowego Moderation tutaj⁠⁠(otwiera nowe okno).

Twórcy chcący opublikować własne treści tekstowe (np. książkę, zbiór opowiadań) stworzone częściowo przy użyciu interfejsu OpenAI API mogą to zrobić po spełnieniu poniższych warunków:

• Opublikowana treść musi mieć przypisane imię i nazwisko lub nazwę firmy użytkownika.

• Rola AI w tworzeniu treści musi być wyraźnie ujawniona w sposób, którego żaden czytelnik nie może przeoczyć, i łatwy do zrozumienia dla przeciętnego czytelnika.

• Tematy treści nie mogą naruszać zasad dotyczących treści⁠ ani Warunków użytkowania⁠ OpenAI; na przykład nie mogą być powiązane z treściami dla dorosłych, spamem, treściami nawołującymi do nienawiści, treściami podżegającymi do przemocy lub innymi działaniami, które mogą powodować szkody w społeczeństwie.

• Prosimy o nieudostępnianie danych wyjściowych modelu, które mogą obrażać inne osoby.

Na przykład we wstępie albo wprowadzeniu (lub w podobnym miejscu) należy szczegółowo opisać odpowiednie role związane z wersją roboczą, redagowaniem itp. Nie należy przedstawiać treści generowanych przez API jako w całości stworzonych przez człowieka lub w całości wygenerowanych przez AI. Ostateczną odpowiedzialność za publikowane treści ponosi człowiek.

Oto kilka standardowych sformułowań, których można użyć do opisania procesu twórczego, pod warunkiem, że są one trafne:

Chcemy, aby bardzo szeroka grupa odbiorców mogła oceniać nasze badania i produkty, szczególnie w celu zrozumienia oraz poprawy potencjalnych słabych punktów i problemów dotyczących bezpieczeństwa i stronniczości w naszych modelach. Dlatego jesteśmy zadowoleni z publikacji naukowych związanych z interfejsem OpenAI API.

• W niektórych przypadkach możemy chcieć zaprezentować pracę wewnątrz firmy i/lub na zewnątrz.

• W innych przypadkach, takich jak publikacje dotyczące bezpieczeństwa lub niewłaściwego użycia interfejsu API, możemy podjąć odpowiednie działania w celu ochrony naszych użytkowników.

• Jeśli podczas badania zauważysz jakiekolwiek problemy związane z bezpieczeństwem lub zabezpieczeniami interfejsu API, niezwłocznie zgłoś je przy użyciu naszego skoordynowanego programu ujawniania luk w zabezpieczeniach⁠⁠.

Istnieje wiele badań, których przeprowadzenie przy użyciu interfejsu API OpenAI z przyjemnością umożliwimy. Aby wystąpić o dofinansowanie dostępu, należy podać szczegółowe informacje dotyczące badania we wniosku do programu dostępu dla naukowców⁠⁠.

Uważamy, że szczególnie ważne są następujące kierunki badań, ale można wybrać własny kierunek:

• Zgodność: Jak możemy zrozumieć cel realizowany przez model, jeśli taki istnieje? Jak zwiększyć stopień zgodności tego celu z preferencjami człowieka, na przykład przy użyciu projektu polecenia lub konfiguracji precyzyjnej?

• Sprawiedliwość i reprezentacja: Jak ustalić kryteria wyników dotyczące sprawiedliwości i reprezentacji w modelach językowych? Jak ulepszyć modele językowe na potrzeby skutecznego wspierania celów sprawiedliwości i reprezentacji w konkretnych, wdrożonych kontekstach?

• Badania interdyscyplinarne: Jak podczas rozwoju AI można wykorzystać wnioski z innych dziedzin, takich jak filozofia, kognitywistyka i socjolingwistyka?

• Interpretowalność i transparentność: Jaka jest mechanika działania tych modeli? Czy możemy zidentyfikować, jakich koncepcji używają, lub wydobyć ukrytą wiedzę z modelu, wyciągnąć wnioski na temat procedury treningu lub przewidzieć zaskakujące przyszłe zachowanie?

• Potencjał nadużyć: W jaki sposób systemy takie jak API mogą być nadużywane? Jakie rodzaje podejść „zespołu czerwonego” możemy opracować, żeby pomóc nam i innym programistom AI w odpowiedzialnym wdrażaniu tego typu technologii?

• Eksploracja modelu: Modele, takie jak te udostępniane przez API, mają wiele zdolności, które nie zostały jeszcze zbadane. Ekscytują nas badania w wielu obszarach, w tym dotyczące ograniczeń modelu, właściwości językowych, rozumowania opartego na zdrowym rozsądku oraz potencjalnego zastosowania na potrzeby wielu innych problemów.

• Niezawodność: Modele generatywne mają różne obszary zdolności z tendencją do zaskakująco silnych i zaskakująco słabych obszarów zdolności. Jak niezawodne są duże modele generatywne w przypadku „naturalnych” zakłóceń w poleceniu, takich jak sformułowanie tej samej myśli na różne sposoby albo z literówkami lub bez nich? Czy można przewidzieć rodzaje dziedzin i zadań, w przypadku których duże modele generatywne są bardziej niezawodne (lub mniej niezawodne) i jaki wpływ mają na to dane używane podczas treningu? Czy istnieją techniki, których możemy używać do przewidywania i łagodzenia najgorszych scenariuszy? Jak można mierzyć niezawodność w kontekście uczenia się na podstawie niewielkiej liczby przykładów (np. w przypadku różnych wariantów poleceń)? Czy możemy trenować modele w taki sposób, aby spełniały wymagania bezpieczeństwa z bardzo wysokim poziomem niezawodności, nawet w przypadku niekorzystnych danych wejściowych?

Należy pamiętać, że ze względu na dużą liczbę wniosków ich rozpatrzenie zajmuje nam dużo czasu i nie wszystkie badania zostaną zakwalifikowane do otrzymania dofinansowania. Skontaktujemy się z Tobą tylko wtedy, gdy wniosek zostanie rozpatrzony pozytywnie pod kątem przyznania dofinansowania.