Создавање стандарди за следната фаза на ВИ
Нашата мисија е да обезбедиме општата вештачка интелигенција да му користи на целото човештво. Како што неодамна образложи Сем Алтман, заедно со Јакуб Пахоцки, нашата работа во служба на оваа мисија ја насочуваме кон три главни цели:
Да управуваме со следниот период на напредок на ВИ преку создавање автоматизиран истражувач на ВИ, заедничко и постепено решавање на проблемот со усогласувањето и изнаоѓање начини луѓето да останат дел од циклусот на самоподобрување.
Да ги овозможиме придобивките од научниот напредок и економскиот раст што ги носат многу интелигентните машини.
На секој поединец да му овозможиме лична AGI.
ВИ ги забрзува нашите истражувања и инженерска работа, а истражувањата потпомогнати од ВИ доведоа до напредок во математиката, вклучително и кај Милениумскиот проблем Навие—Стокс. Овој напредок нуди големи можности и за нашите други две цели, кои би можеле да доведат до важни откритија во медицината, широко достапна здравствена заштита и економско зајакнување на малите претпријатија и индивидуалните претприемачи насекаде.
ВИ напредува во многу компании и земји, а напредокот во целата област ги менува можностите и предизвиците со кои се соочуваат сите. Покрај другите придобивки, способната и усогласена ВИ ќе биде важен дел од начинот на кој ќе управуваме со оваа транзиција — преку зајакнување на одбраната, унапредување на истражувањата за усогласување и помагање на луѓето да ги разберат и насочуваат следните фази од развојот на ВИ.
Безбедното управување со оваа транзиција бара истражувањата за усогласување да го следат темпото на овие способности, за системите што ги создаваме ние и другите да останат усогласени со човечките вредности и под човечка контрола. Ова станува сè поважно како што системите за ВИ стануваат поспособни и поавтономни, вклучително и кога преземаат поголем дел од истражувањето и развојот на самата ВИ. За континуираниот напредок на ВИ да биде безбеден и корисен, ќе бидат потребни и достигнувања во истражувањата за усогласување и заеднички стандарди што ќе го насочуваат развојот во лабораториите и земјите.
Автоматизираното истражување на ВИ може да опфаќа различни степени на човечки надзор. Како што системите за ВИ преземаат поголем дел од работата на развивање последователни генерации ВИ, тие можат сè повеќе да поттикнуваат процес на рекурзивно самоподобрување (RSI), дури и додека луѓето остануваат вклучени. Како што овој процес станува поавтоматизиран, темпото на напредок на ВИ би можело нагло да се забрза.
Веруваме дека автоматизираното истражување на ВИ ќе создаде модели што непосредно ќе го подобрат животот на луѓето. Тоа може да ги намали трошоците за напредна интелигенција, за да можат луѓето ширум светот да имаат корист од неа. Автоматизираното истражување би можело да ни помогне и значително да го подобриме усогласувањето и да изградиме одбрана од сè поспособната ВИ — автоматизираниот истражувач на ВИ може да биде и автоматизиран истражувач на безбедноста на ВИ. Поспособните, усогласени системи би можеле да помогнат во обезбедувањето на критичната инфраструктура, одбраната од опасни агенти на ВИ и развојот на нови заштитни мерки.
Целосно автономно RSI не се случува денес и не треба да се стремиме кон него сè додека не може безбедно да се спроведе. Одлуката дали и како да продолжиме мора да зависи од нашата способност да ја зачуваме човечката контрола и од информираните демократски одлуки(се отвора во нов прозорец) за придобивките и ризиците. Ако се спроведе без соодветна грижа и претпазливост, RSI би можело да доведе до тоа луѓето да ја изгубат практичната контрола врз развојот на ВИ и да не можат да ги надгледуваат истражувачките процеси што повеќе не ги разбираат. Оттаму, ВИ би можела да стане поопасна, помалку усогласена и, во целина, закана за луѓето. Инцидентот со Hugging Face што го обелоденивме, иако не беше непосредна последица од RSI, е навестување за видовите ризици што би можеле да станат многу посериозни без цврсти заштитни мерки и усогласување.
Меѓународните стандарди за практиките за безбедност и заштита при развојот на гранична ВИ може да бидат еднакво важни за темпирање на напредокот на границата на можностите како и самите истражувања за усогласување. Стандардите можат да воспостават заеднички дефиниции за висококвалитетни докази и договорени појдовни нивоа за строгоста на техничките заштитни мерки. Накратко, тие ни помагаат да одговориме на прашањето: „Како изгледа доброто ублажување на катастрофалниот ризик од ВИ?“
Постојните демократски институции, како што е Центарот за стандарди и иновации во ВИ (CAISI), законите на сојузните држави и федералната рамка за ВИ, можат да помогнат во ова, како и новите облици на јавно-приватни партнерства(се отвора во нов прозорец). Но развојот и примената на ВИ се одвиваат во повеќе земји, нејзиното усвојување е глобално, а нејзините влијанија веројатно на некој начин и во некое време ќе ги почувствуваат сите.
Затоа се потребни меѓународни напори за развој на стандарди за да се решат неколку клучни предизвици:
Фрагментација — Евалуациите, барањата за известување и дефинициите за инциденти во различни земји би можеле да бидат спротивставени, што би ја отежнало споредбата на доказите, разбирањето на новите способности и одговорот на прекуграничните ризици.
Заедничко дејствување — Ако секоја земја дејствува самостојно, може да се добијат резултати што не ги посакува ниту една земја. RSI може да го забрза самото истражување на ВИ, потенцијално над нашата заедничка способност да го разбереме напредокот, да ги процениме ризиците и да одржиме значаен човечки надзор.
Нерамномерен капацитет — Активностите за граничен развој и соодветната стручност не се рамномерно распределени низ светот. Тоа ги нагласува двата горенаведени проблема.
Овие предизвици се однесуваат и на јавните и на затворените модели.
Да бидеме јасни: секоја лабораторија за ВИ што спроведува автоматизирано истражување на ВИ или развива други напредни способности мора да преземе одговорност тоа да го прави безбедно, во согласност со основните начела на лична одговорност и постојните закони. Нашето образложение за стандардите се темели на избегнување на концентрацијата на моќ и постигнување подобри практични резултати. Стандардите им овозможуваат на повеќе засегнати страни надвор од лабораториите да учествуваат во одлучувањето како треба да се развива оваа технологија и обезбедуваат видлив збир начела на кои може да се потпреме без оглед на конкретните практики на која било лабораторија. Веројатно ќе постигнеме и подобри резултати ако страните соработуваат за да ги решат горенаведените предизвици.
Затоа веруваме дека Соединетите Американски Држави треба да предводат напори за соработка со земјите ширум светот во развојот на глобални технички стандарди за гранична ВИ, вклучително и за RSI.
Иако очекуваме овој концепт значително да се развива со текот на времето, два аспекта ќе бидат клучни.
Еден начин да се постигне тоа би бил да се искористи новата мрежа на институти за безбедност на ВИ — како што се веќе основаните во Австралија, Канада, Германија, Франција, Кенија, Јапонија, Кореја, Сингапур, Индија и Обединетото Кралство — за да се олесни утврдувањето стандарди преку CAISI и националните индустриски тела, со посебен акцент на: (1) моделите и програмерите на гранична ВИ, мерени според одредници за способностите; и (2) управувањето со придобивките и ризиците од автоматизираното истражување на ВИ, вклучително и RSI. Соединетите Американски Држави можат да се надоврзат на формирањето на Меѓународната мрежа за напредно мерење, евалуација и наука за ВИ(се отвора во нов прозорец) од страна на CAISI во 2024 година, која ги обединува јавните институции за соработка во мерењето, евалуацијата и науката за ВИ.
Стандардите развиени преку овие напори би обезбедиле заедничка техничка основа за мерење и евалуација на способностите, процена на ризиците и утврдување на доволноста на заштитните мерки. Овие технички стандарди не би претставувале лиценци, задолжителен преглед пред објавување или услови за одобрување на моделите на ВИ. Националните влади би одлучувале дали и како да ги вклучат овие стандарди во своите правни системи.
Оваа работа треба да поддржи и конкурентен екосистем за ВИ преку консултации со програмерите на јавни и затворени модели, независни технички стручњаци и академската заедница. Заедничките стандарди треба да се развиваат транспарентно и да бидат осмислени така што нема да им даваат предност на одредени компании, земји или деловни модели, вклучително и преку отежнување на конкурирањето за новите учесници или програмерите на модели со отворени тежини.
Како што предложивме(се отвора во нов прозорец), овој пристап може да извлече поуки од области како што се воздухопловството и финансиската стабилност, каде што земјите развиле заеднички технички стандарди и доверливи канали за соработка без да се откажат од националните овластувања. Тој треба тесно да соработува и со воспоставени и понови тела за стандардизација, како што се ISO(се отвора во нов прозорец), Форумот за гранични модели(се отвора во нов прозорец), Фондацијата за автономна вештачка интелигенција(се отвора во нов прозорец) и Сојузот за отворена и безбедна ВИ(се отвора во нов прозорец), како и со организации насочени кон спроведување, како што е Фондацијата Appia, која развива практични спецификации што ги поврзуваат меѓународните стандарди со реалните процени на ВИ.
Меѓународните стандарди за ВИ ќе бидат особено важни за управување со растечката автономија во истражувањето на ВИ и со рекурзивното самоподобрување. Поконкретно, тие би можеле да опфатат стандарди за:
Евалуација на напредокот на ВИ релевантен за RSI и на обемот на автономни истражувања што се спроведуваат во една компанија за ВИ. Нашиот неодамнешен извештај за забрзувањето на истражувањата е првичен придонес кон овие напори.
Човечки надзор врз автоматизираното истражување на ВИ, вклучително и утврдување кои видови автоматизирани истражувачки процеси треба да предизвикаат итна човечка проверка.
Класификација, следење, пријавување и одговор на инциденти поврзани со усогласувањето и автоматизираното истражување на ВИ, како што се заеднички нивоа на сериозност на инцидентите и прагови за пријавување. Нашата рамка за пријавување неусогласеност е ран придонес.
Покрај овие стандарди, веруваме дека ќе биде важно операторите на критична инфраструктура и владите ширум светот да воспостават безбедни комуникациски канали за споделување грижи поврзани со националната безбедност, нови ранливости и закани, како и најдобри практики во областа на безбедноста на граничната ВИ, која брзо се развива. Дијалогот меѓу Соединетите Американски Држави и Кина во овие области би бил позитивен чекор, а претстојните разговори се одржуваат во погоден момент.
Темпирањето на развојот на ВИ не значи одржување однапред утврдена брзина. Од технички аспект, тоа значи истражувањата за усогласување и нивната примена да останат пред развојот на способностите. Од општествен аспект, тоа подразбира употреба на стандарди, институции и соработка за да се зајакнат мрежите во индустријата, општествените односи и пазарните сили и да се постигнат заемно корисни резултати. Неодамнешниот повик за заедничко дејствување во сајбер-одбраната е пример за второто.
Соединетите Американски Држави се во добра положба да предводат бидејќи нивната индустрија за ВИ е на техничката граница, а земјата сè уште има привилегирана положба во глобалните мрежи во клучни области како што се финансиите, трговијата, одбраната, технологијата и информациските системи. Преземањето водечка улога сега ќе одреди дали Соединетите Американски Држави ќе ја обликуваат глобалната рамка за ВИ или ќе гледаат како околу нив се вкоренува фрагментиран, нерамномерен систем исполнет со конфликти. Од тоа ќе зависи и дали напредната ВИ ќе ги зајакне постојните мрежи на Соединетите Американски Држави и нивните сојузници; непредводењето може да ги ослаби.
Геополитичката конкуренција нема да се однесува само на тоа кој е технички понапред, туку и на усвојувањето и ширењето на ВИ. Сè повеќе, второто може да зависи од тоа кој ќе поттикнува остварлива соработка и разумни правила што компаниите и општествата насекаде ќе ги бараат ако треба да ја вложат својата иднина во оваа технологија.
Силното национално управување, поврзано преку практична меѓународна соработка, нуди пат кон посилни заштитни мерки, континуирани иновации и широк пристап до придобивките од ВИ.
