Napredovanie v nezávislom výskume zosúladenia AI

Ako sa systémy AI stávajú schopnejšími a autonómnejšími, výskum zosúladenia musí držať krok a rozširovať rozmanitosť. V OpenAI investujeme značné prostriedky do prelomového výskumu zosúladenia a bezpečnosti, pretože je to kľúčové pre našu misiu. Zároveň veríme, že zabezpečiť, aby všeobecná umelá inteligencia (AGI) bola bezpečná a prospešná pre každého, nemožno dosiahnuť žiadnou jedinou organizáciou, a chceme podporovať nezávislý výskum a koncepčné prístupy, ktoré možno rozvíjať mimo prelomových laboratórií. Veríme, že budúcnosť umelej inteligencie sa nevyvinie presne tak, ako ktokoľvek predpovedá, a že oveľa viac ľudí by malo mať možnosť ovplyvniť výsledok.

Dnes oznamujeme grant vo výške 7,5 milióna dolárov pre The Alignment Project⁠(otvorí sa v novom okne), globálny fond pre nezávislý výskum zosúladenia, ktorý vytvoril Inštitút pre bezpečnosť AI Spojeného kráľovstva (UK AISI). Správu grantu podporuje organizácia Renaissance Philanthropy. Tento príspevok pomáha urobiť z projektu Alignment jeden z najväčších doterajších cielene zameraných finančných úsilí na podporu nezávislého výskumu zosúladenia a posilňuje širší nezávislý ekosystém.

Prelomové laboratóriá ako OpenAI sú v jedinečnej pozícii na vykonávanie výskumu zosúladenia, ktorý závisí od prístupu k prelomovým modelom a významným výpočtovým zdrojom. To je práca, ktorú je pre nezávislých výskumníkov často ťažké preskúmať. Veľkú časť nášho interného úsilia o zosúladenie venujeme vývoju škálovateľných metód, aby pokrok v zosúladení držal krok s pokrokom v schopnostiach. Veríme v iteratívne nasadenie – postupné zvyšovanie schopností pri posilňovaní bezpečnostných opatrení, ktoré pomáha včas odhaliť problémy a poskytuje nám konkrétne dôkazy o tom, čo v praxi funguje. Zodpovedný vývoj si vyžaduje významnú prácu na zosúladení a bezpečnosti, ktorá je úzko integrovaná s budovaním a nasadzovaním modelu.

Súbežne má táto oblasť prospech z trvalých investícií do nezávislého, prieskumného výskumu, ktoré môžu rozšíriť priestor pre nové myšlienky a objaviť nové smery. Nezávislý výskum zostáva nevyhnutný. V mnohých druhoch užitočného skúmania laboratóriá nemajú komparatívnu výhodu. Zdravý ekosystém zosúladenia závisí od nezávislých tímov, ktoré testujú rôznorodé predpoklady, vyvíjajú alternatívne rámce a skúmajú konceptuálne, teoretické a inovatívne nápady, ktoré sa nemusia úhľadne zhodovať s plánom žiadnej organizácie.

A keďže pokrok smerom k všeobecnej umelej inteligencii (AGI) môže v konečnom dôsledku závisieť od zásadných prelomov, ktoré zmenia podobu problému zosúladenia a určia, ktoré prístupy sú najužitočnejšie, je dôležité podporovať výskum, ktorý by mal význam aj v prípade, že sa ukáže, že dnešné dominantné metódy sa nebudú dať škálovať tak, ako očakávame. V týchto svetoch je obzvlášť dôležité mať silný externý ekosystém, ktorý sa zaoberá základnou, koncepčnou a nekorelovanou prácou. Problém zosúladenia a bezpečnosti umelej inteligencie je nesmierne dôležitý a potrebujeme, aby sa všetci zapojili, pretože zatiaľ nevieme, ktoré prístupy sa ukážu ako najodolnejšie, keď sa schopnosti budú naďalej rozvíjať.

Náš grant – približne 5,6 milióna GBP pri aktuálnych výmenných kurzoch – bude spolufinancovať The Alignment Project⁠(otvorí sa v novom okne) spolu s ďalšími verejnými, filantropickými a priemyselnými podporovateľmi. Celkový fond presahuje 27 miliónov GBP a je určený na podporu širokého portfólia výskumných projektov v oblasti zosúladenia na celom svete, ktoré pokrývajú témy tak rozmanité, ako sú teória výpočtovej zložitosti, ekonomická teória a teória hier, kognitívna veda a teória informácie a kryptografia. Jednotlivé projekty sú zvyčajne financované sumou od 50 000 GBP do 1 000 000 GBP a môžu tiež získať voliteľný prístup k výpočtovým zdrojom a odbornú podporu.

Naše financovanie nevytvára nový program ani výberový proces a neovplyvňuje existujúci proces. Zvyšuje počet už preverených, vysokokvalitných projektov⁠(otvorí sa v novom okne), ktoré môžu byť financované v aktuálnom kole.

UK AISI je dobre umiestnená na to, aby riadila financovanie zosúladenia v tomto rozsahu a zábere. Prináša zavedenú medzisektorovú koalíciu zahŕňajúcu vládu, akademickú sféru, filantropiu a priemysel, spolu s grantovým procesom, ktorý je už v pohybe, a veľkým súborom návrhov, ktoré prešli odborným posúdením. Ako výskumná organizácia britskej vlády v rámci Ministerstva pre vedu, inovácie a technológie (DSIT) má tiež mandát zameraný na vážne riziká umelej inteligencie a skúsenosti s realizáciou programov financovania výskumu.

Keďže budúcnosť umelej inteligencie sa nevyvinie presne tak, ako ktokoľvek predpovedá – a môže napredovať veľmi rýchlo – domnievame sa, že je nevyhnutná demokratizácia, „odolnosť umelej inteligencie“ a iteratívne nasadenie. Zatiaľ čo v OpenAI naďalej rozvíjame náš prelomový výskum v oblasti súladu a bezpečnosti, pokrok bude ťažiť z robustného, rozmanitého a nezávislého ekosystému, ktorý bude s rastúcimi schopnosťami presadzovať doplnkové prístupy. Tento grant je jedným krokom k tomuto cieľu. Tešíme sa na pokračovanie spolupráce so širšou výskumnou komunitou, ako sa bude táto oblasť vyvíjať.