OpenAI API

Udostępniamy API umożliwiające dostęp do nowych modeli sztucznej inteligencji opracowanych przez OpenAI. W przeciwieństwie do większości systemów AI, projektowanych z myślą o jednym zastosowaniu, obecny API zapewnia uniwersalny interfejs „tekst wejściowy, tekst wyjściowy”, dzięki czemu użytkownicy mogą wypróbować go praktycznie w każdym zadaniu w języku angielskim. Możesz teraz poprosić o dostęp, aby zintegrować API ze swoim produktem, opracować zupełnie nową aplikację lub pomóc nam zbadać mocne i słabe strony tej technologii.

Na podstawie dowolnego monitu tekstowego API zwróci uzupełnienie tekstu, próbując dopasować je do podanego wzorca. Możesz je „zaprogramować”, pokazując kilka przykładów oczekiwanych działań, ale jego skuteczność zależy od złożoności zadania. API umożliwia również doskonalenie wydajności w określonych zadaniach poprzez trenowanie na małym lub dużym zbiorze danych dostarczonych przez Ciebie przykładów lub poprzez uczenie się na podstawie opinii użytkowników lub etykiet.

Zaprojektowaliśmy API tak, aby był prosty w obsłudze dla każdego, a jednocześnie na tyle elastyczny, aby zwiększyć produktywność zespołów zajmujących się uczeniem maszynowym. Wiele naszych zespołów korzysta teraz z API, aby móc skoncentrować się na badaniach nad uczeniem maszynowym, a nie na problemach związanych z systemami rozproszonymi. Obecnie API obsługuje modele z wagami z rodziny GPT‑3⁠(otwiera nowe okno), charakteryzujące się wieloma udoskonaleniami w zakresie szybkości i przepustowości. Uczenie maszynowe rozwija się bardzo szybko, a my nieustannie udoskonalamy naszą technologię, aby nasi użytkownicy byli na bieżąco.

Tempo postępu w tej dziedzinie sprawia, że często pojawiają się zaskakujące nowe zastosowania sztucznej inteligencji, zarówno pozytywne, jak i negatywne. Zablokujemy dostęp do API w przypadku ewidentnie szkodliwych przypadków użycia, takich jak nękanie, spam, radykalizacja lub astroturfing. Wiemy jednak, że nie jesteśmy w stanie przewidzieć wszystkich możliwych konsekwencji tej technologii, dlatego dziś uruchamiamy ją w ramach zamkniętej wersji beta, a nie w ramach ogólnej dostępności. Tworzymy narzędzia, które pomogą użytkownikom lepiej kontrolować treści zwracane przez nasz interfejs API, a także badamy aspekty technologii językowych związane z bezpieczeństwem (takie jak analizowanie, łagodzenie i interweniowanie w przypadku szkodliwych uprzedzeń). Podzielimy się zdobytą wiedzą, aby nasi użytkownicy i szersza społeczność mogli tworzyć systemy sztucznej inteligencji bardziej przyjazne człowiekowi.

Oprócz tego, że API jest źródłem dochodu, który pomaga nam pokryć koszty⁠ realizacji naszej misji⁠, skłoniło nas również do skoncentrowania uwagi na technologii AI o uniwersalnym przeznaczeniu — rozwijaniu technologii, czynieniu jej użyteczną i rozważaniu jej wpływu na realny świat. Mamy nadzieję, że API znacznie obniży barierę⁠(otwiera nowe okno) utrudniającą tworzenie użytecznych produktów opartych na sztucznej inteligencji, co zaowocuje narzędziami i usługami, które dziś trudno sobie wyobrazić.

Interesuje Cię odkrywanie API? Dołącz do takich firm, jak Algolia⁠(otwiera nowe okno), Quizlet⁠(otwiera nowe okno) i Reddit⁠(otwiera nowe okno), a także do badaczy z takich instytucji jak Instytut Middlebury⁠(otwiera nowe okno) w naszej prywatnej wersji beta⁠(otwiera nowe okno).

Ostatecznie najbardziej dbamy⁠ o to, aby ogólna sztuczna inteligencja przyniosła korzyści każdemu. Uważamy, że tworzenie produktów komercyjnych jest jednym ze sposobów zapewnienia sobie wystarczających środków na osiągnięcie sukcesu.

Uważamy również, że bezpieczne wdrożenie zaawansowanych systemów AI na świecie będzie trudne do przeprowadzenia. Udostępniając API, ściśle współpracujemy z naszymi partnerami, aby zbadać, jakie wyzwania pojawią się, gdy systemy sztucznej inteligencji będą używane w realnym świecie. Pomoże nam to w zrozumieniu, jak będzie wyglądać wdrażanie przyszłych systemów AI i co musimy zrobić, aby były one bezpieczne i korzystne dla wszystkich.

Zrobiliśmy to z trzech głównych powodów. Po pierwsze, komercjalizacja tej technologii pomoże nam finansować nasze bieżące badania nad sztuczną inteligencją i jej bezpieczeństwem oraz politykami.

Po drugie, wiele modeli stanowiących podstawę API jest bardzo dużych, a ich opracowanie i wdrożenie wymaga dużej wiedzy specjalistycznej, co sprawia, że ich utrzymanie jest bardzo kosztowne. Utrudnia to czerpanie korzyści z tej technologii komukolwiek poza większymi firmami. Mamy nadzieję, że dzięki API zaawansowane systemy AI staną się bardziej dostępne dla mniejszych firm i organizacji.

Po trzecie, model API pozwala nam łatwiej reagować na niewłaściwe wykorzystanie technologii. Ponieważ trudno jest przewidzieć przypadki późniejszego wykorzystania naszych modeli, wydaje się, że bezpieczniej jest udostępniać je za pośrednictwem API i stopniowo rozszerzać do nich dostęp, niż udostępniać model z otwartym kodem źródłowym, dostępu do którego nie można dostosować, jeśli okaże się, że ma szkodliwe zastosowania.

W przypadku GPT‑2 jednym z naszych głównych obaw było złośliwe wykorzystanie modelu (np. w celu dezinformacji), czemu trudno zapobiec, gdy model jest udostępniany jako oprogramowanie typu open source. W przypadku interfejsu API możemy lepiej zapobiegać nadużyciom, ograniczając dostęp do zatwierdzonych klientów i przypadków użycia. Zanim proponowane aplikacje zostaną wdrożone, obowiązuje nas obowiązkowy proces przeglądu produkcji. Podczas przeglądów produkcyjnych oceniamy aplikacje w kilku aspektach, zadając takie pytania, jak: Czy jest to obecnie obsługiwany przypadek użycia? Jak otwarta jest aplikacja? Jak ryzykowna jest aplikacja? W jaki sposób planujesz rozwiązać problem potencjalnego niewłaściwego użycia? Kim są użytkownicy końcowi Twojej aplikacji?

Blokujemy dostęp do API w przypadkach użycia, które powodują (lub mogą spowodować) szkody fizyczne, emocjonalne lub psychiczne u osób, w tym między innymi nękanie, umyślne oszustwo, radykalizacja, astroturfing lub spam, a także w przypadku aplikacji, które nie mają wystarczających zabezpieczeń ograniczających niewłaściwe wykorzystanie przez użytkowników końcowych. W miarę zdobywania doświadczenia w praktycznym korzystaniu z API będziemy nieustannie udoskonalać kategorie zastosowań, które możemy wspierać. Chcemy w ten sposób zarówno poszerzyć zakres obsługiwanych aplikacji, jak i stworzyć bardziej szczegółowe kategorie dla tych, co do których mamy obawy dotyczące niewłaściwego użycia.

Kluczowym czynnikiem, który bierzemy pod uwagę przy zatwierdzaniu zastosowań interfejsu API, jest stopień, w jakim aplikacja wykazuje otwarte lub ograniczone zachowanie w odniesieniu do podstawowych możliwości generatywnych systemu. Otwarte aplikacje API (tj. takie, które umożliwiają bezproblemowe generowanie dużych ilości dostosowywanego tekstu za pomocą dowolnych poleceń) są szczególnie podatne na niewłaściwe wykorzystanie. Ograniczenia, które mogą sprawić, że generatywne przypadki użycia będą bezpieczniejsze, obejmują: uwzględnianie udziału człowieka w projekcie systemu, ograniczenia dostępu dla użytkowników końcowych, przetwarzanie końcowe wyników, filtrowanie treści, ograniczenia długości danych wejściowych/wyjściowych, aktywne monitorowanie i ograniczenia istotności i aktualności.

Kontynuujemy badania nad potencjalnymi niewłaściwymi zastosowaniami modeli obsługiwanych przez API, w tym także z udziałem badaczy zewnętrznych w ramach naszego programu dostępu akademickiego⁠(otwiera nowe okno). Na razie zaczynamy od bardzo ograniczonej liczby badaczy, ale mamy już pewne wyniki od naszych partnerów akademickich z Middlebury Institute⁠(otwiera nowe okno), University of Washington oraz Allen Institute for AI⁠(otwiera nowe okno). Do tego programu zgłosiły się już dziesiątki tysięcy kandydatów. Obecnie priorytetowo traktujemy wnioski koncentrujące się na badaniach nad uczciwością i reprezentacją.

Łagodzenie negatywnych skutków, takich jak szkodliwe uprzedzenia, jest trudnym, ale niezwykle ważnym problemem dla całej branży. Jak już wspomnieliśmy w artykule o GPT‑3⁠(otwiera nowe okno) i karcie modelu⁠(otwiera nowe okno), nasze modele API wykazują błędy, które znajdują odzwierciedlenie w generowanym tekście. Oto kroki, które podejmujemy, aby rozwiązać te problemy:

• Opracowaliśmy wytyczne użytkowania, które pomogą programistom zrozumieć i rozwiązać potencjalne problemy związane z bezpieczeństwem.
• Ściśle współpracujemy z użytkownikami, aby zrozumieć ich przypadki użycia i opracować narzędzia umożliwiające wykrywanie szkodliwych uprzedzeń i podejmowanie interwencji w celu ich łagodzenia.
• Prowadzimy własne badania nad przejawami szkodliwych uprzedzeń i szerszymi problemami dotyczącymi uczciwości i reprezentacji, co pomoże nam w pracy poprzez udoskonalenie dokumentacji istniejących modeli, a także wprowadzenie różnych udoskonaleń do przyszłych modeli.
• Zdajemy sobie sprawę, że stronniczość to problem ujawniający się na styku systemu i wdrożonego kontekstu; aplikacje wykorzystujące naszą technologię to systemy socjotechniczne, dlatego współpracujemy z naszymi programistami, aby zapewnić, wdrożenie odpowiednich procesów i systemów uwzględniających czynnik ludzki w celu monitorowania niekorzystnych zachowań.

Naszym celem jest ciągłe pogłębianie wiedzy na temat potencjalnych zagrożeń, jakie może wyrządzić interfejs API w każdym kontekście użycia, a także stałe udoskonalanie narzędzi i procesów w celu minimalizacji zagrożeń.

Aktualizacja: 18 września 2020 r.