A független AI-összehangolási kutatás előmozdítása

Ahogy a mesterséges intelligencia rendszerek egyre fejlettebbek és autonómabbak lesznek, az összehangolási kutatásnak lépést kell ezzel tartania és növelnie kell a sokszínűséget. Az OpenAI-nál jelentős összegeket fektetünk az élvonalbeli összehangolás és biztonság kutatásába, mivel ez kritikus a küldetésünk szempontjából. Úgy gondoljuk, hogy az AGI biztonságának és mindenki számára való hasznosságának biztosítása nem valósítható meg egyetlen szervezet által, ezért támogatni kívánjuk azokat a független kutatásokat és koncepcionális megközelítéseket, amelyek az élvonalbeli laborokon kívül is megvalósíthatók. Úgy véljük, hogy az MI jövője nem pontosan úgy alakul majd, ahogy bárki előre megjósolja, és sokkal több embernek kellene részt vennie a kimenetel formálásában.

A mai napon azt jelentjük be, hogy 7,5 millió dolláros támogatást nyújtunk a The Alignment Project⁠(új ablakban nyílik meg) számára, amely a független összehangolási kutatást finanszírozó globális alap, és amelyet a brit AI Security Institute (UK AISI) hozott létre. A támogatás adminisztrációját a Renaissance Philanthropy végzi Ez a hozzájárulás abban segít, hogy az Alignment Project az eddigi legnagyobb, független összehangolási kutatásokra irányuló finanszírozási kezdeményezések egyike legyen, és szélesebb, független ökoszisztémát teremt.

Az olyan élvonalbeli laboratóriumok, mint az OpenAI, egyedülálló helyzetben vannak, hogy olyan összehangolási kutatásokat végezzenek, amelyek az élvonalbeli modellekhez és jelentős számítási kapacitáshoz való hozzáférést igényelnek—ez a munka gyakran nehéz a független kutatók számára. Belső összehangolásra irányuló erőfeszítéseink nagy részét skálázható módszerek kidolgozására fordítjuk, hogy az összehangolás fejlődése lépést tartson a képességek fejlődésével. Úgy hisszük, hogy az iteratív telepítés—a képességek fokozatos bővítése a biztosítékok megerősítése mellett—segít a problémák korai felismerésében, és konkrét bizonyítékot nyújt arról, mi működik a gyakorlatban. A felelős fejlesztés jelentős összehangolást és biztonsági munkát igényel, amely szorosan integrálódik a modellépítésbe és a telepítésbe.

Ezzel párhuzamosan a terület számára előnyös a független, feltáró kutatásba történő tartós befektetés, amely bővítheti az ötletek körét és új irányokat adhat. A független kutatás továbbra is kulcsfontosságú; számos hasznos vizsgálati területen a laborok nem rendelkeznek tartós versenyelőnnyel. Az egészséges összehangolási ökoszisztéma független csapatok által végzett különféle feltételezéseket tesztelésétől függ, akik alternatív keretrendszereket fejlesztenek, és olyan fogalmi, elméleti és merész ötleteket vizsgálnak, amelyek nem feltétlenül illeszkednek szorosan egyetlen szervezet ütemtervéhez sem.

Mivel az AGI felé vezető előrelépés végső soron olyan alapvető áttörésektől függhet, amelyek átalakítják az összehangolási probléma természetét és azt, hogy mely megközelítések a leghasznosabbak, fontos olyan kutatásokat támogatni, amelyek akkor is jelentőséggel bírnak, ha a ma domináns módszerek nem a várt módon skálázódnak. Ezekben a világokban különösen fontos, hogy legyen egy erős külső ökoszisztéma, amely alapozó, koncepcionális és független munkát végez. Az AI összehangolásának és biztonságának kérdése példátlanul fontos, és mindenki közreműködésére szükség van, mivel még nem tudjuk, mely megközelítések bizonyulnak a legtartósabbnak a képességek továbbfejlődésekor.

Támogatásunk—a jelenlegi árfolyamok mellett hozzávetőlegesen 5,6 millió font—társfinanszírozza az Alignment Projektet⁠(új ablakban nyílik meg) más állami, filantróp és iparági támogatók mellett. A teljes alap meghaladja a 27 millió fontot, és célja az, hogy világszerte támogassa az összehangolási kutatási projektek széles portfólióját, amelyek olyan változatos témákat ölelnek fel, mint a számítási komplexitáselmélet, a közgazdaságtan és a játékelmélet, a kognitív tudomány, valamint az információelmélet és a kriptográfia. Az egyes projektek finanszírozása jellemzően 50 000 és 1 millió font között van, és opcionálisan hozzáférést kaphatnak számítási kapacitáshoz és szakértői támogatáshoz.

Finanszírozásunk nem hoz létre új programot vagy kiválasztási folyamatot, és nem befolyásolja a meglévő folyamatot; növeli a már előzetesen átvilágított, magas minőségű projektek⁠(új ablakban nyílik meg) számát, amelyek a jelenlegi körben finanszírozottak.

A UK AISI jó helyzetben van ahhoz, hogy ilyen léptékű és ilyen széles körű összehangolási finanszírozást irányítson. Egy már kialakult, a kormányzatot, az akadémiai szférát, a filantrópiát és az ipart átfogó, ágazatközi koalíciót hoz létre, valamint egy már működő támogatási csatornát és egy nagy, szakértői értékelésnek alávetett javaslatgyűjteményt. Az Egyesült Királyság kormányának Tudományért, Innovációért és Technológiáért Felelős Minisztériumán (DSIT) belüli kutatószervezetként, megbízatása a súlyos AI-kockázatokra összpontosít, és tapasztalattal rendelkezik kutatásfinanszírozási programok lebonyolításában.

Úgy véljük, hogy az MI jövője nem pontosan úgy alakul majd, ahogy bárki előre megjósolja—, és fejlődése nagyon gyors lehet—, úgy gondoljuk, hogy a demokratizálás, az „AI rugalmasság” és az iteratív bevezetés elengedhetetlen. Miközben az OpenAI-nál folytatjuk az élvonalbeli összehangolási és biztonsági kutatásaink előmozdítását, a fejlődést segíti egy robusztus, sokszínű, független ökoszisztéma, amely a képességek növekedésével párhuzamosan kiegészítő megközelítéseket alkalmaz. Ez a támogatás lépést jelent a cél elérése felé. Örömmel várjuk, hogy a terület fejlődésével továbbra is együttműködhessünk a szélesebb kutatói közösséggel.