Изградња стандарда за следећу фазу AI
Наша мисија је да општа вештачка интелигенција користи целом човечанству. Као што су недавно изложили Сем Алтман и Јакуб Пахоцки, рад на остварењу ове мисије усмеравамо ка три главна циља:
Безбедно проћи кроз наредно раздобље напретка AI тако што ћемо изградити аутоматизованог истраживача AI, заједно с њим постепено решавати проблем усклађивања и пронаћи начине да људи остану део циклуса самоусавршавања.
Омогућити свима да осете користи научног напретка и економског раста које доносе веома интелигентне машине.
Оснажити сваког појединца личним AGI системом.
AI убрзава наша истраживања и инжењерски рад, а истраживања потпомогнута AI довела су до напретка у математици, укључујући миленијумски проблем Навије—Стоксових једначина. Овај напредак много обећава и за наша друга два циља, која би могла довести до важних открића у медицини, широко доступне здравствене заштите и економског оснаживања малих предузећа и самосталних предузетника широм света.
AI напредује у многим компанијама и земљама, а напредак у целој области мења прилике и изазове с којима се сви суочавају. Поред других користи, способан и усклађен AI биће важан део начина на који пролазимо кроз ову промену — јачаће одбрану, унапређивати истраживање усклађивања и помагати људима да разумеју и усмеравају наредне фазе развоја AI.
За безбедан пролазак кроз ову промену неопходно је да истраживање усклађивања прати темпо развоја ових способности, како би системи које градимо ми и други остали усклађени с људским вредностима и под људском контролом. То постаје све важније како системи AI стичу веће способности и самосталност, укључујући и преузимање већег дела истраживања и развоја самог AI. Да би даљи напредак AI био безбедан и користан, биће потребни и помаци у истраживању усклађивања и заједнички стандарди који усмеравају развој у лабораторијама и земљама.
Аутоматизовано истраживање AI може подразумевати различите степене људског надзора. Како системи AI преузимају све већи део рада на развоју наредних генерација AI, они могу све више покретати процес рекурзивног самоусавршавања (RSI), чак и уз учешће људи. Како се овај процес буде све више аутоматизовао, напредак AI могао би нагло да се убрза.
Верујемо да ће аутоматизовано истраживање AI донети моделе који непосредно побољшавају живот људи. Оно може снизити цену напредне интелигенције како би људи широм света имали користи од ње. Аутоматизовано истраживање могло би нам помоћи и да знатно унапредимо усклађивање и изградимо одбрану од све способнијег AI — аутоматизовани истраживач AI може уједно бити и аутоматизовани истраживач безбедности AI. Способнији и усклађени системи могли би да помогну у обезбеђивању критичне инфраструктуре, одбрани од опасних агената AI и развоју нових заштитних мера.
Потпуно аутономан RSI данас се не одвија и не треба да га развијамо док и уколико то не буде могуће учинити безбедно. Одлука о томе да ли и како наставити мора зависити од наше способности да очувамо људску контролу и од информисаних демократских одлука(отвара се у новом прозору) о користима и ризицима. Ако се спроведе без одговарајуће пажње и опреза, RSI би могао довести до тога да људи изгубе стварну контролу над развојем AI и више не могу да надзиру истраживачке процесе које не разумеју. Одатле би AI могао постати опаснији, мање усклађен и, у целини, претња људима. Инцидент на платформи Hugging Face који смо обелоданили, иако није непосредна последица RSI, наговештава врсте ризика који би без снажних заштитних мера и усклађивања могли постати далеко озбиљнији.
Међународни стандарди безбедносних и заштитних пракси у развоју граничног AI могли би бити подједнако важни за одређивање темпа развоја на граници могућности као и само истраживање усклађивања. Стандарди могу успоставити заједничке дефиниције висококвалитетних доказа и договорена полазишта за строгост техничких заштитних мера. Укратко, они нам помажу да одговоримо на питање: „Како изгледа добро ублажавање катастрофалног ризика од AI?“
Постојеће демократске институције, попут Центра за стандарде и иновације у области AI (CAISI), закони савезних држава и савезни оквир за AI могу допринети томе, као и нови облици јавно-приватног партнерства(отвара се у новом прозору). Међутим, развој и примена AI одвијају се у више земаља, његово усвајање је глобално, а његове последице ће вероватно на неки начин и у неком тренутку осетити сви.
Зато су за решавање неких кључних изазова потребни међународни напори на развоју стандарда:
Расцепканост — Процене, захтеви за извештавање и дефиниције инцидената у различитим земљама могли би бити међусобно неусклађени, што отежава поређење доказа, разумевање нових способности и реаговање на прекограничне ризике.
Заједничко деловање — Самостално деловање сваке земље може довести до исхода које ниједна земља не жели. RSI може убрзати само истраживање AI, потенцијално изван наше заједничке способности да разумемо напредак, проценимо ризике и задржимо делотворан људски надзор.
Неуједначени капацитети — Развој граничних технологија и повезана стручност нису равномерно распоређени широм света. То додатно појачава оба наведена проблема.
Ови изазови односе се и на отворене и на затворене моделе.
Да будемо јасни, свака лабораторија за AI која развија аутоматизовано истраживање AI или друге напредне способности мора преузети одговорност за њихов безбедан развој, у складу с основним начелима личне одговорности и важећим законима. Наше образложење за стандарде заснива се на избегавању концентрације моћи и постизању бољих практичних исхода. Стандарди омогућавају већем броју заинтересованих страна ван лабораторија да учествују у одлучивању о развоју ове технологије и пружају видљив скуп начела на који се може ослонити независно од конкретних пракси било које лабораторије. Вероватно ћемо постићи и боље резултате ако стране сарађују на решавању наведених изазова.
Зато верујемо да Сједињене Државе треба да предводе заједнички рад са земљама широм света на развоју глобалних техничких стандарда за гранични AI, укључујући RSI.
Иако очекујемо да ће се ова замисао временом знатно развијати, два аспекта биће пресудна.
Један начин да се то постигне јесте коришћење мреже института за безбедност AI која је у настајању — попут оних већ основаних у Аустралији, Канади, Немачкој, Француској, Кенији, Јапану, Кореји, Сингапуру, Индији и Уједињеном Краљевству — како би се преко CAISI и националних секторских тела олакшало утврђивање стандарда, с посебним нагласком на (1) граничне моделе AI и њихове програмере, мерено референтним показатељима способности; и (2) управљање користима и ризицима аутоматизованог истраживања AI, укључујући RSI. Сједињене Државе могу да надограде рад CAISI на оснивању Међународне мреже за напредно мерење, процену и науку о AI(отвара се у новом прозору) из 2024. године, која окупља јавне институције ради сарадње на мерењу, процени и науци о AI.
Стандарди развијени у оквиру овог подухвата пружили би заједничку техничку основу за мерење и процену способности, процену ризика и утврђивање примерености заштитних мера. Ти технички стандарди не би представљали лиценце, обавезне провере пре објављивања нити услове за одобравање модела AI. Националне владе одлучивале би да ли ће и како ове стандарде укључити у своје правне системе.
Овај рад треба да подржи и конкурентан екосистем AI кроз консултације с програмерима отворених и затворених модела, независним техничким стручњацима и академском заједницом. Заједничке стандарде треба развијати транспарентно и осмислити тако да не дају предност одређеним компанијама, земљама или пословним моделима, између осталог тако што би новим учесницима или програмерима модела са отвореним параметрима отежавали конкуренцију.
Као што смо предложили(отвара се у новом прозору), овај приступ може извући поуке из области као што су ваздухопловство и финансијска стабилност, у којима су земље развиле заједничке техничке стандарде и поуздане канале сарадње без одрицања од националних овлашћења. Требало би да тесно сарађује и с постојећим и новијим телима за стандардизацију, као што су ISO(отвара се у новом прозору), Форум граничних модела(отвара се у новом прозору), Фондација за агентски AI(отвара се у новом прозору) и Савез за отворени и безбедни AI(отвара се у новом прозору), као и с организацијама усмереним на примену, попут Фондације Appia, која развија практичне спецификације за повезивање међународних стандарда са стварним проценама AI.
Међународни стандарди за AI биће нарочито важни за управљање све већом аутономијом у истраживању AI и рекурзивним самоусавршавањем. Конкретно, могли би обухватити стандарде за:
Процену напретка AI значајног за RSI и обима аутономног истраживања које се одвија унутар компаније за AI. Наш недавни извештај о убрзавању истраживања почетни је допринос овом подухвату.
Људски надзор над аутоматизованим истраживањем AI, укључујући врсте аутоматизованих истраживачких процеса који треба да покрену неодложну људску проверу.
Класификацију, праћење, пријављивање и решавање инцидената повезаних са усклађивањем и аутоматизованим истраживањем AI, као што су заједнички нивои озбиљности инцидената и прагови за пријављивање. Наш оквир за пријављивање неусклађености један је од првих доприноса.
Поред ових стандарда, сматрамо да ће бити важно да оператери критичне инфраструктуре и владе широм света успоставе безбедне канале комуникације за размену питања од значаја за националну безбедност, нових рањивости и претњи, као и најбољих пракси у области безбедности граничног AI која се брзо развија. Дијалог Сједињених Држава и Кине у овим областима био би позитиван корак, а предстојећи разговори одржавају се у правом тренутку.
Усклађивање темпа развоја AI не значи одржавање унапред одређене брзине. С техничког становишта, то значи обезбедити да истраживање усклађивања и примена његових резултата буду испред развоја способности. С друштвеног становишта, то значи коришћење стандарда, институција и сарадње ради јачања мрежа сектора, друштвених односа и тржишних сила како би се постигли исходи корисни за све. Недавни позив на заједничко деловање у сајбер-одбрани пример је овог другог.
Сједињене Државе су у добром положају да предводе јер је њихов сектор AI на технолошкој граници, а земља и даље заузима повлашћено место у глобалним мрежама у кључним областима као што су финансије, трговина, одбрана, технологија и информациони системи. Од тога да ли ће сада преузети вођство зависи да ли ће Сједињене Државе обликовати глобални оквир за AI или посматрати како око њих настаје расцепкан, неуједначен систем прожет сукобима. Од тога зависи и да ли ће напредни AI ојачати постојеће мреже Сједињених Држава и њихових савезника; изостанак вођства могао би да их ослаби.
Геополитичко надметање неће се водити само око тога ко је технички испред, већ и око усвајања и ширења AI. На ово друго ће све више утицати онај ко подстиче оствариву сарадњу и разумна правила која ће компаније и друштва широм света желети ако своју будућност намеравају да повере овој технологији.
Снажно управљање на националном нивоу, повезано практичном међународном сарадњом, отвара пут ка бољим заштитним мерама, наставку иновација и широком приступу користима од AI.
