Szabványok kialakítása az MI következő szakaszához
Küldetésünk annak biztosítása, hogy a mesterséges általános intelligencia az egész emberiség javát szolgálja. Amint azt Sam Altman nemrég felvázolta, és Jakub Pachocki is kifejtette, e küldetés jegyében három fő célt helyezünk munkánk középpontjába:
Végigvezetni az MI fejlődésének következő időszakát egy automatizált MI-kutató létrehozásával, az összehangolási probléma vele közös, iteratív megoldásával, valamint annak feltárásával, hogyan maradhatnak az emberek az önfejlesztési folyamat részesei.
Eljuttatni az emberekhez a magasan fejlett intelligenciájú gépek által lehetővé tett tudományos fejlődés és gazdasági növekedés előnyeit.
Mindenki használhassa ki a személyes AGI-ban rejlő lehetőségeket
Az MI felgyorsítja saját kutatási és mérnöki munkánkat, az MI által támogatott kutatás pedig matematikai áttörésekhez vezetett, többek között a Navier–Stokes-millenniumi probléma terén. Ez a fejlődés a másik két célunk szempontjából is rendkívül ígéretes: fontos orvosi felfedezésekhez, széles körben hozzáférhető egészségügyi ellátáshoz, valamint világszerte a kisvállalkozások és egyéni vállalkozók gazdasági megerősödéséhez vezethet.
Az MI számos vállalatnál és országban fejlődik, az egész terület előrehaladása pedig mindenki lehetőségeit és kihívásait átalakítja. Egyéb előnyei mellett a nagy képességű, összehangolt MI fontos szerepet játszik majd abban, hogyan birkózunk meg ezzel az átmenettel: erősíti a védelmet, előmozdítja az összehangolási kutatást, és segít az embereknek megérteni és irányítani az MI-fejlesztés következő szakaszait.
Az átmenet biztonságos kezelése megköveteli, hogy az összehangolási kutatás lépést tartson ezekkel a képességekkel, hogy az általunk és mások által épített rendszerek összhangban maradjanak az emberi értékekkel, és továbbra is emberi ellenőrzés alatt álljanak. Ez egyre fontosabbá válik, ahogy az MI-rendszerek képességei és önállósága nő, és magából az MI kutatásából és fejlesztéséből is egyre több feladatot vesznek át. Az MI további biztonságos és hasznos fejlődéséhez egyszerre lesz szükség az összehangolási kutatás előrelépéseire és a laboratóriumok, illetve országok fejlesztéseit irányító közös szabványokra.
Az automatizált MI-kutatás különböző mértékű emberi felügyelet mellett folyhat. Ahogy az MI-rendszerek egyre több feladatot vesznek át az MI egymást követő generációinak fejlesztéséből, egyre inkább képesek lehetnek a rekurzív önfejlesztés (RSI) folyamatának előmozdítására, még akkor is, ha az emberek továbbra is részt vesznek benne. A folyamat automatizálódásával az MI fejlődésének üteme nagy mértékben felgyorsulhat.
Úgy véljük, az automatizált MI-kutatás olyan modelleket eredményez majd, amelyek közvetlenül javítják az emberek életét. Csökkentheti a fejlett intelligencia költségét, így annak előnyeiből világszerte részesülhetnek az emberek. Az automatizált kutatás emellett jelentősen javíthatja az összehangolást, és védelmet nyújthat az egyre fejlettebb képességű MI-vel szemben – egy automatizált MI-kutató egyben automatizált MI-biztonsági kutató is lehet. A fejlettebb képességű, összehangolt rendszerek segíthetnek a kritikus infrastruktúra védelmében, a veszélyes MI-ügynökök elleni fellépésben és új védelmi megoldások kidolgozásában.
Teljesen autonóm RSI ma még nem zajlik, és mindaddig nem is szabad törekednünk rá, amíg nem végezhető biztonságosan. A továbblépésről és annak módjáról az alapján kell döntenünk, hogy képesek vagyunk-e megőrizni az emberi ellenőrzést, valamint milyen megalapozott demokratikus döntések(új ablakban nyílik meg) születnek az előnyökről és a kockázatokról. Megfelelő gondosság és óvatosság nélkül az RSI oda vezethet, hogy az emberek elveszítik az MI-fejlesztés feletti tényleges ellenőrzést, és nem tudják felügyelni az általuk már nem értett kutatási folyamatokat. Ettől kezdve az MI veszélyesebbé és kevésbé összehangolttá válhat, összességében pedig fenyegetést jelenthet az emberekre. Az általunk nyilvánosságra hozott Hugging Face-incidens, bár nem az RSI közvetlen következménye volt, ízelítőt ad azokból a kockázatokból, amelyek hatékony védőintézkedések és összehangolás nélkül sokkal súlyosabbá válhatnak.
Az élvonalbeli MI fejlesztésének védelmi és biztonsági gyakorlataira vonatkozó nemzetközi szabványok ugyanolyan fontosak lehetnek az élvonal fejlődésének megfelelő ütemezésében, mint maga az összehangolási kutatás. A szabványok meghatározhatják, milyen bizonyítékokat tekintünk jó minőségűnek, és egységes minimumkövetelményeket állíthatnak fel arra, hogy milyen alapossággal kell alkalmazni a technikai védőintézkedéseket. Röviden, segítenek megválaszolni a kérdést: „Hogyan mérsékelhetjük megfelelően a katasztrofális MI-kockázatokat?”
Ebben egyaránt segíthetnek a meglévő demokratikus intézmények, például az MI-szabványok és -innováció központja (CAISI), az állami törvények és az MI szövetségi keretrendszere, valamint a köz- és magánszféra közötti újfajta partneri viszonyok(új ablakban nyílik meg). Az MI fejlesztése és alkalmazása azonban több országban zajlik, elterjedése globális, hatásait pedig valamilyen formában és időtávon várhatóan mindenki megtapasztalja.
Ezért néhány alapvető kihívás megoldása érdekében törekedni kell a nemzetközi szabványok kialakítására:
Széttagoltság – A különböző országok értékelései, jelentéstételi követelményei és incidensmeghatározásai ütközhetnek egymással, ami megnehezíti a bizonyítékok összehasonlítását, az új képességek megértését és a határokon átnyúló kockázatok kezelését.
Közös fellépés – Ha minden ország egymástól függetlenül cselekszik, olyan eredmények születhetnek, amelyeket egyikük sem akar. Az RSI magát az MI-kutatást is felgyorsíthatja, így túlléphet azon a ponton, ahol még kollektíven képesek vagyunk megérteni a fejlődést, felmérni a kockázatokat és érdemi emberi felügyeletet fenntartani.
Egyenlőtlen kapacitás – Az élvonalbeli fejlesztési tevékenység és a kapcsolódó szakértelem nem egyenletesen oszlik el a világon. Ez mindkét fenti problémát súlyosbítja.
Ezek a kihívások a nyílt és a zárt modellekre egyaránt vonatkoznak.
Egyértelművé kell tenni: minden olyan MI-laboratóriumnak, amely automatizált MI-kutatást vagy más fejlett képességeket alkalmaz, felelősséget kell vállalnia azért, hogy ezt biztonságosan, az önálló felelősségvállalás alapelveivel és a hatályos jogszabályokkal összhangban tegye. A szabványok melletti érveink alapja a hatalomkoncentráció elkerülése és a gyakorlatban jobb eredmények elérése. A szabványok lehetőséget adnak arra, hogy a laboratóriumokon kívüli érintettek szélesebb köre is beleszólhasson e technológia fejlődésébe, továbbá jól látható elveket biztosítanak, amelyekre bármely laboratórium konkrét gyakorlatától függetlenül támaszkodni lehet. Emellett valószínűleg jobb eredményeket érünk el, ha a felek együttműködve kezelik a fenti kihívásokat.
Ezért véljük úgy, hogy az Egyesült Államoknak kell az élére állnia annak a kezdeményezésnek, amelyben a világ országai közösen dolgozzák ki az élvonalbeli MI – köztük az RSI – globális technikai szabványait.
Bár arra számítunk, hogy ez az elképzelés idővel jelentősen átalakul, két szempont mindenképpen alapvető lesz.
Ennek egyik módja lehetne az MI-biztonsági intézetek kialakulóban lévő hálózatának felhasználása – ilyen intézet működik már Ausztráliában, Kanadában, Németországban, Franciaországban, Kenyában, Japánban, Koreában, Szingapúrban, Indiában és az Egyesült Királyságban –, hogy a CAISI és a nemzeti iparági szervezetek közreműködésével segítsék a szabványalkotást, különös tekintettel (1) az élvonalbeli MI-modellekre és fejlesztőkre, képességi mérőszámok alapján; valamint (2) az automatizált MI-kutatás – köztük az RSI – előny- és kockázatkezelésére. Az Egyesült Államok építhet a CAISI által 2024-ben létrehozott Fejlett MI-mérési, -értékelési és -tudományos nemzetközi hálózatra(új ablakban nyílik meg), amely közintézményeket fog össze az MI mérésével, értékelésével és tudományával kapcsolatos együttműködés érdekében.
Az e kezdeményezés keretében kidolgozott szabványok közös technikai alapot teremtenének a képességek méréséhez és értékeléséhez, a kockázatértékeléshez, valamint a védőintézkedések megfelelőségének megállapításához. Ezek a technikai szabványok nem jelentenének engedélyezést, kötelező megjelenés előtti felülvizsgálatot vagy jóváhagyási követelményeket az MI-modellek számára. A nemzeti kormányok döntenék el, hogy beépítik-e ezeket a szabványokat saját jogrendszerükbe, és ha igen, miként.
Ennek a munkának a versenyképes MI-ökoszisztémát is támogatnia kell a nyílt és zárt modellek fejlesztőinek, a független műszaki szakértőknek és a tudományos élet képviselőinek bevonásával. A közös szabványokat átláthatóan kell kidolgozni, és úgy kell kialakítani, hogy ne részesítsenek előnyben egyes vállalatokat, országokat vagy üzleti modelleket – például azzal, hogy megnehezítik az új piaci szereplők vagy a nyílt súlyozású modellek fejlesztőinek versenyét.
Amint azt javasoltuk(új ablakban nyílik meg), ez a megközelítés tanulhat olyan területek tapasztalataiból, mint a légi közlekedés és a pénzügyi stabilitás, ahol az országok közös technikai szabványokat és megbízható együttműködési csatornákat alakítottak ki anélkül, hogy feladták volna nemzeti hatáskörüket. Szorosan együtt kell működnie továbbá olyan régebbi és újabb szabványügyi szervezetekkel, mint az ISO(új ablakban nyílik meg), az Élvonalbeli Modellek Fóruma(új ablakban nyílik meg), az Ügynökalapú MI Alapítvány(új ablakban nyílik meg) és a Nyílt és Biztonságos MI Szövetség(új ablakban nyílik meg), valamint olyan, a megvalósításra összpontosító szervezetekkel, mint az Appia Alapítvány, amely a nemzetközi szabványokat a valós MI-értékelésekkel összekapcsoló gyakorlati előírásokat dolgoz ki.
A nemzetközi MI-szabványok különösen fontosak lesznek az MI-kutatás növekvő önállóságának és a rekurzív önfejlesztésnek a kezelésében. Ezek konkrétan a következőkre vonatkozó szabványokat foglalhatják magukban:
Az RSI szempontjából releváns MI-fejlődés, valamint az MI-vállalatokon belül zajló autonóm kutatás mértékének értékelése. A kutatás felgyorsításáról szóló legutóbbi jelentésünk kezdeti hozzájárulás ehhez a munkához.
Az automatizált MI-kutatás emberi felügyelete, beleértve annak meghatározását, hogy az automatizált MI-kutatási folyamatok mely típusai tegyék szükségessé az azonnali emberi felülvizsgálatot.
Az összehangolással és az automatizált MI-kutatással kapcsolatos problémák osztályozása, nyomon követése, jelentése és kezelése, például az incidensek egységes súlyossági szintjeinek és jelentési küszöbértékeinek meghatározása. A hibás összehangolás jelentési keretrendszere egy korai hozzájárulás ehhez.
E szabványok mellett fontosnak tartjuk, hogy a kritikus infrastruktúrák üzemeltetői és a kormányok világszerte biztonságos kommunikációs csatornákat hozzanak létre a nemzetbiztonsági aggályok, az újonnan felmerülő sebezhetőségek és fenyegetések, valamint az élvonalbeli MI biztonságának gyorsan fejlődő területén bevált gyakorlatok megosztására. Az Egyesült Államok és Kína közötti párbeszéd ezeken a területeken kedvező fejlemény lenne, a közelgő tárgyalásokra pedig megfelelő időben kerül sor.
Az MI-fejlesztés ütemezése nem egy előre meghatározott sebesség fenntartásáról szól. Technikai szempontból azt kell biztosítani, hogy az összehangolással kapcsolatos kutatás és eredményeinek alkalmazása lépést tartson a képességekkel. Társadalmi szempontból szabványokkal, intézményekkel és együttműködéssel kell erősíteni az ipari hálózatokat, a társadalmi kapcsolatokat és a piaci erőket, hogy minden fél számára előnyös eredmények szülessenek. Ez utóbbira példa a közelmúltbeli felhívás a kibervédelem terén végzett közös fellépésre.
Az Egyesült Államok jó helyzetben van ahhoz, hogy az élre álljon, mivel MI-ipara technológiai szempontból élvonalbeli, és továbbra is kiváltságos helyet foglal el a globális hálózatokban olyan kulcsfontosságú területeken, mint a pénzügy, a kereskedelem, a védelem, a technológia és az információs rendszerek. A mostani vezető szerep dönti el, hogy az Egyesült Államok alakítja-e a globális MI-keretrendszert, vagy tétlenül nézi, amint körülötte egy széttagolt, egyenlőtlen és konfliktusokkal terhelt rendszer honosodik meg. Ez azt is meghatározza, hogy a fejlett MI megerősíti-e az Egyesült Államok és szövetségesei meglévő hálózatait; a vezető szerep elmulasztása gyengítheti őket.
A geopolitikai verseny nem csupán arról szól majd, hogy technikailag ki jár előrébb, hanem az MI elterjedéséről és alkalmazásáról is. Ez utóbbit egyre inkább az határozhatja meg, ki ösztönöz megvalósítható együttműködést és észszerű játékszabályokat, amelyekre világszerte igényt tartanak majd a vállalkozások és a társadalmak, ha erre a technológiára akarják építeni a jövőjüket.
A gyakorlatias nemzetközi együttműködéssel összekapcsolt, erős nemzeti irányítás utat nyit a hatékonyabb védőintézkedések, a folyamatos innováció és az MI előnyeihez való széles körű hozzáférés felé.
