Postęp w niezależnych badaniach nad dopasowaniem AI

Wraz ze wzrostem możliwości i autonomii systemów AI badania nad zgodnością muszą zarówno dotrzymywać kroku, jak i zwiększać różnorodność. W OpenAI intensywnie inwestujemy w badania nad pionierską zgodnością i bezpieczeństwem, ponieważ jest to kluczowe dla naszej misji. Wierzymy również, że zapewnienie bezpieczeństwa i korzyści z AGI dla wszystkich nie może być osiągnięte przez żadną pojedynczą organizację. Chcemy wspierać niezależne badania i podejścia koncepcyjne, które można realizować poza laboratoriami pionierskimi. Uważamy, że rozwój sztucznej inteligencji nie będzie przebiegał tak, jak dziś ktokolwiek to przewiduje, oraz że znacznie więcej osób powinno mieć realny wpływ na kształtowanie jej ostatecznego kierunku.

Dziś ogłaszamy grant w wysokości 7,5 miliona dolarów na rzecz The Alignment Project⁠(otwiera nowe okno), globalnego funduszu na niezależne badania nad dostosowaniem, stworzonego przez brytyjski AI Security Institute (UK AISI). Organizacja Renaissance Philanthropy wspiera administrację grantu. Ten wkład czyni The Alignment Project jednym z największych dotychczasowych przedsięwzięć finansowania niezależnych badań nad zgodnością i wzmacnia szerszy, niezależny ekosystem.

Laboratoria pionierskie, takie jak OpenAI, mają wyjątkową możliwość prowadzenia badań nad dostosowaniem, które zależą od dostępu do pionierskich modeli i znaczących obliczeń – pracy, która często jest trudna do zbadania przez niezależnych badaczy. Znaczną część naszych wewnętrznych działań na rzecz wyrównania poświęcamy opracowywaniu skalowalnych metod, aby postępy w wyrównaniu nadążały za postępami w zakresie możliwości. Uważamy, że iteracyjne wdrażanie – stopniowe zwiększanie możliwości przy jednoczesnym wzmacnianiu zabezpieczeń – pomaga wykrywać problemy na wczesnym etapie i daje nam konkretne dowody na to, co działa w praktyce, a odpowiedzialny rozwój wymaga znacznych prac nad dostosowaniem i bezpieczeństwem, które są ściśle zintegrowane z budowaniem i wdrażaniem modeli.

Równocześnie dziedzina ta czerpie korzyści z ciągłych inwestycji w niezależne, eksploracyjne badania, które mogą poszerzać przestrzeń idei i odkrywać nowe kierunki. Niezależne badania pozostają niezbędne; w wielu rodzajach użytecznych badań laboratoria nie zachowują przewagi komparatywnej. Zdrowy ekosystem zgodności opiera się na niezależnych zespołach, które testują różnorodne założenia, opracowują alternatywne ramy i badają koncepcyjne, teoretyczne oraz innowacyjne idee, które mogą nie pasować do planu rozwoju żadnej konkretnej organizacji.

Ponieważ postęp w kierunku AGI może ostatecznie zależeć od przełomowych odkryć, które zmienią charakter problemu dostosowania oraz to, które podejścia okażą się najbardziej użyteczne, ważne jest wspieranie badań, które będą miały znaczenie nawet wtedy, gdy obecnie dominujące metody nie będą skalować się w oczekiwany przez nas sposób. W takich scenariuszach szczególnie istotne staje się istnienie silnego, zewnętrznego ekosystemu prowadzącego prace o charakterze fundamentalnym, koncepcyjnym oraz niezależnym od dominujących nurtów badawczych. Problem dostosowania i bezpieczeństwa sztucznej inteligencji ma bezprecedensowe znaczenie i potrzebujemy zaangażowania wszystkich, ponieważ wciąż nie wiemy, które podejścia okażą się najtrwalsze w miarę dalszego rozwoju jej możliwości.

Nasz grant – około 5,6 mln GBP według aktualnych kursów wymiany – będzie współfinansować The Alignment Project⁠(otwiera nowe okno) wraz z innymi partnerami publicznymi, filantropijnymi oraz przedstawicielami branży. Łączna wartość funduszu przekracza 27 mln GBP i został on zaprojektowany tak, aby wspierać szerokie portfolio projektów badawczych z zakresu dostosowania na całym świecie, obejmujących tak różnorodne dziedziny, jak teoria złożoności obliczeniowej, teoria ekonomii i teoria gier, kognitywistyka oraz teoria informacji i kryptografia. Poszczególne projekty są zazwyczaj finansowane kwotami od 50 000 GBP do 1 mln GBP, a dodatkowo mogą otrzymać opcjonalny dostęp do zasobów obliczeniowych oraz wsparcia eksperckiego.

Nasze finansowanie nie tworzy nowego programu czy nowego procesu selekcji ani nie wpływa na istniejącą procedurę; zwiększa natomiast liczbę już zweryfikowanych, wysokiej jakości projektów⁠(otwiera nowe okno), które mogą otrzymać wsparcie w bieżącej rundzie finansowania.

UK AISI jest dobrze przygotowana, aby kierować finansowaniem w obszarze dopasowania na taką skalę i o tak szerokim zakresie. Instytucja ta skupia ugruntowaną, międzysektorową koalicję obejmującą administrację publiczną, środowisko akademickie, sektor filantropijny oraz przemysł, a także dysponuje już działającą ścieżką przyznawania grantów oraz szeroką pulą wniosków poddanych eksperckiej ocenie. Jako rządowa organizacja badawcza w ramach Department for Science, Innovation and Technology (DSIT) w Wielkiej Brytanii posiada również mandat skoncentrowany na poważnych ryzykach związanych ze sztuczną inteligencją oraz doświadczenie w prowadzeniu programów finansowania badań.

Ponieważ przyszłość sztucznej inteligencji nie będzie przebiegać dokładnie tak, jak ktokolwiek dziś przewiduje – a jej rozwój może postępować bardzo szybko – uważamy, że kluczowa jest demokratyzacja, „odporność AI” oraz iteracyjne wdrażanie. Podczas gdy w OpenAI nadal rozwijamy badania nad dostosowaniem i bezpieczeństwem systemów frontier, postęp będzie wymagał solidnego, zróżnicowanego i niezależnego ekosystemu, który równolegle rozwija komplementarne podejścia wraz ze wzrostem możliwości technologicznych. Grant ten stanowi jeden z kroków w kierunku realizacji tego celu. Z niecierpliwością oczekujemy dalszej współpracy z szerszą społecznością badawczą w miarę rozwoju tej dziedziny.