Изграждане на стандарти за следващия етап на изкуствения интелект
Нашата мисия е да гарантираме, че изкуственият общ интелект е от полза за цялото човечество. Както наскоро посочи Сам Алтман, заедно с Якуб Пахоцки насочваме работата си към тази мисия чрез три основни цели:
Да преминем успешно през следващия период на развитие на изкуствения интелект, като създадем автоматизиран изследовател с изкуствен интелект, използваме го за итеративна работа по проблема със съгласуването и намерим начини хората да останат част от процеса на самоусъвършенстване.
Да предоставим ползите от научния напредък и икономическия растеж, които високoинтелигентните машини правят възможни.
Да дадем възможност на всеки човек да разполага с личен AGI.
Изкуственият интелект ускорява собствените ни изследвания и инженерна работа, а подпомаганите от него изследвания доведоха до напредък в математиката, включително по задачата на хилядолетието за уравненията на Навие–Стокс. Този напредък е многообещаващ и за другите ни две цели, като може да доведе до важни открития в медицината, широко достъпно здравеопазване и икономически възможности за малкия бизнес и самостоятелните предприемачи навсякъде по света.
Изкуственият интелект напредва в много компании и държави, а развитието на цялата област променя възможностите и предизвикателствата пред всички. Наред с другите си ползи способният и съгласуван изкуствен интелект ще бъде важна част от начина, по който преминаваме през този преход — като укрепва защитата, подпомага изследванията на съгласуването и помага на хората да разбират и направляват следващите етапи от развитието му.
Безопасното преминаване през този преход изисква изследванията на съгласуването да са в крак с тези способности, така че системите, които ние и други създаваме, да останат съгласувани с човешките ценности и под човешки контрол. Това става все по-важно с нарастването на способностите и автономността на системите с изкуствен интелект, включително когато те поемат все по-голяма част от собствените му изследвания и разработки. Безопасното и полезно продължаване на напредъка в изкуствения интелект ще изисква както развитие на изследванията на съгласуването, така и общи стандарти, които да направляват работата на лабораториите и държавите.
Автоматизираните изследвания на изкуствения интелект могат да включват различни степени на човешки надзор. Когато системите с изкуствен интелект поемат повече от работата по разработването на следващите му поколения, те могат все повече да движат процес на рекурсивно самоусъвършенстване (RSI), дори при продължаващо участие на хората. С нарастващата автоматизация на този процес темпото на напредъка в изкуствения интелект може бързо да се ускори.
Вярваме, че автоматизираните изследвания на изкуствения интелект ще доведат до модели, които пряко подобряват живота на хората. Те могат да намалят цената на усъвършенствания интелект, за да могат хората по целия свят да се възползват от него. Автоматизираните изследвания могат също значително да ни помогнат да подобрим съгласуването и да изградим защити срещу все по-способен изкуствен интелект — един автоматизиран изследовател на изкуствен интелект може да бъде и автоматизиран изследовател на неговата безопасност. По-способните и съгласувани системи могат да помогнат за защитата на критичната инфраструктура, противодействието на опасни агенти с изкуствен интелект и разработването на нови защитни мерки.
Напълно автономно RSI не се осъществява днес и не бива да се стремим към него, освен ако и докато не може да бъде реализирано безопасно. Решението дали и как да продължим трябва да зависи от способността ни да запазим човешкия контрол и от информирания демократичен избор(отваря се в нов прозорец) относно ползите и рисковете. Ако се извършва без необходимата грижа и предпазливост, RSI може да доведе до загуба на практическия човешки контрол върху развитието на изкуствения интелект и до невъзможност да се упражнява надзор над вече неразбираеми изследователски процеси. От този момент нататък изкуственият интелект може да стане по-опасен, по-слабо съгласуван и като цяло да представлява заплаха за хората. Макар да не е пряк резултат от RSI, разкритият от нас инцидент с Hugging Face показва какви рискове могат да станат много по-сериозни без надеждни защитни мерки и съгласуване.
Международните стандарти за практиките за безопасност и сигурност при разработването на авангарден изкуствен интелект може да са също толкова важни за контрола върху темпото на развитие на технологичния авангард, колкото и самите изследвания на съгласуването. Стандартите могат да създадат общи определения за висококачествени доказателства и съгласувани базови изисквания за строгостта на техническите защитни мерки. Накратко, те ни помагат да отговорим на въпроса: „Как изглежда доброто ограничаване на катастрофалния риск от изкуствения интелект?“
Съществуващите демократични институции като Центъра за стандарти и иновации в областта на изкуствения интелект (CAISI), щатските закони и федералната рамка за изкуствения интелект могат да помогнат за това, както и новите форми на публично-частно партньорство(отваря се в нов прозорец). Разработването и внедряването на изкуствен интелект обаче се извършват в множество държави, приемането му е глобално, а въздействието му вероятно ще бъде усетено по някакъв начин от всички в даден момент.
Затова са необходими международни усилия за разработване на стандарти, за да бъдат преодолени някои ключови предизвикателства:
Разпокъсаност — оценките, изискванията за докладване и определенията за инциденти в различните държави могат да си противоречат, което затруднява сравняването на доказателства, разбирането на нововъзникващите способности и реакцията при трансгранични рискове.
Колективни действия — когато всяка държава действа самостоятелно, може да се стигне до резултати, които никоя от тях не желае. RSI може да ускори самите изследвания на изкуствения интелект и потенциално да надхвърли колективната ни способност да разбираме напредъка, да оценяваме рисковете и да поддържаме ефективен човешки надзор.
Неравномерен капацитет — дейността по разработване на авангарден изкуствен интелект и свързаната с нея експертиза не са равномерно разпределени по света. Това задълбочава и двата посочени проблема.
Тези предизвикателства се отнасят както за отворените, така и за затворените модели.
За да сме ясни: всяка лаборатория за изкуствен интелект, която извършва автоматизирани изследвания на изкуствения интелект или разработва други усъвършенствани способности, трябва да поеме отговорност да го прави безопасно, в съответствие с основните принципи на личната отговорност и действащите закони. Обосновката ни за стандартите се корени в стремежа да се избегне концентрацията на власт и да се постигнат по-добри практически резултати. Стандартите позволяват на повече заинтересовани страни извън лабораториите да участват в решенията как да се развива тази технология и осигуряват видим набор от принципи, на които може да се разчита независимо от конкретните практики на отделната лаборатория. Вероятно ще постигнем и по-добри резултати, ако страните си сътрудничат за преодоляване на посочените предизвикателства.
Затова вярваме, че Съединените щати трябва да поведат усилията за съвместна работа с държави от цял свят за разработване на глобални технически стандарти за авангарден изкуствен интелект, включително за RSI.
Макар да очакваме тази концепция да се развие съществено с времето, два аспекта ще бъдат от основно значение.
Един от начините за постигане на това е да се използва нововъзникващата мрежа от институти за безопасност на изкуствения интелект — като вече създадените в Австралия, Канада, Германия, Франция, Кения, Япония, Корея, Сингапур, Индия и Обединеното кралство — за улесняване на определянето на стандарти чрез CAISI и националните браншови организации, със специален акцент върху: (1) авангардните модели и разработчиците на изкуствен интелект, измервани чрез показатели за способности; и (2) управлението на ползите и рисковете от автоматизираните изследвания на изкуствения интелект, включително RSI. Съединените щати могат да надградят създадената от CAISI през 2024 г. Международна мрежа за измерване, оценяване и наука в областта на усъвършенствания изкуствен интелект(отваря се в нов прозорец), която обединява публични институции за сътрудничество в измерването, оценяването и научните изследвания на изкуствения интелект.
Разработените чрез тези усилия стандарти ще осигурят обща техническа основа за измерване и оценяване на способностите, оценка на риска и определяне на достатъчността на защитните мерки. Тези технически стандарти няма да представляват лицензи, задължителен предварителен преглед или изисквания за одобрение на модели с изкуствен интелект. Националните правителства ще решават дали и как да включат тези стандарти в собствените си правни системи.
Тази работа трябва да подкрепя и конкурентна екосистема за изкуствен интелект чрез консултации с разработчици на open model и затворени модели, независими технически експерти и академичните среди. Общите стандарти трябва да се разработват прозрачно и така, че да не облагодетелстват конкретни компании, държави или бизнес модели, включително като затрудняват конкуренцията за нови участници или разработчици на модели с отворени тегла.
Както предложихме(отваря се в нов прозорец), този подход може да почерпи опит от области като авиацията и финансовата стабилност, където държавите са разработили общи технически стандарти и надеждни канали за сътрудничество, без да се отказват от националните си правомощия. Той трябва също да работи в тясно сътрудничество с утвърдени и по-нови организации за стандартизация като ISO(отваря се в нов прозорец), Форума за авангардни модели(отваря се в нов прозорец), Фондацията за агентен изкуствен интелект(отваря се в нов прозорец) и Алианса за отворен и сигурен изкуствен интелект(отваря се в нов прозорец), както и с организации, насочени към практическото прилагане, като Фондация Appia, която разработва практически спецификации, свързващи международните стандарти с реални оценки на изкуствения интелект.
Международните стандарти за изкуствения интелект ще бъдат особено важни за управлението на нарастващата автономност в неговите изследвания и рекурсивното самоусъвършенстване. По-конкретно, те могат да включват стандарти за:
Оценяване на напредъка на изкуствения интелект, свързан с RSI, и обема на автономните изследвания, извършвани в дадена компания за изкуствен интелект. Неотдавнашният ни доклад за ускоряването на изследванията е първоначален принос към тези усилия.
Човешки надзор върху автоматизираните изследвания на изкуствения интелект, включително кои видове автоматизирани изследователски процеси трябва да предизвикват незабавен преглед от човек.
Класифициране, проследяване, докладване и реакция при инциденти, свързани със съгласуването и автоматизираните изследвания на изкуствения интелект, включително общи нива на тежест на инцидентите и прагове за докладване. Нашата рамка за докладване на несъгласуваност е ранен принос.
Наред с тези стандарти смятаме, че за операторите на критична инфраструктура и правителствата по света ще бъде важно да създадат сигурни канали за комуникация, чрез които да споделят опасения за националната сигурност, нововъзникващи уязвимости и заплахи и най-добри практики в бързо развиващата се област на безопасността на авангардния изкуствен интелект. Диалогът между Съединените щати и Китай в тези области би бил положителна стъпка, а предстоящите разговори се провеждат в подходящ момент.
Темпото на развитие на изкуствения интелект не означава поддържане на предварително определена скорост. От техническа гледна точка това означава изследванията в областта на съгласуването и прилагането на резултатите от тях да изпреварват развитието на способностите. От обществена гледна точка това означава чрез стандарти, институции и сътрудничество да се укрепват мрежите от промишлени отрасли, обществени отношения и пазарни сили, за да се постигат взаимноизгодни резултати. Неотдавнашният призив за колективни действия в киберзащитата е пример за второто.
Съединените щати са в добра позиция да поемат водеща роля, защото тяхната индустрия за изкуствен интелект е на технологичния авангард, а страната все още заема привилегировано място в глобалните мрежи в ключови области като финансите, търговията, отбраната, технологиите и информационните системи. Поемането на водеща роля сега ще определи дали Съединените щати ще оформят глобалната рамка за изкуствения интелект, или ще наблюдават как около тях се установява разпокъсана, неравномерна и белязана от конфликти система. Това ще определи и дали усъвършенстваният изкуствен интелект ще укрепи съществуващите мрежи на Съединените щати и техните съюзници; отказът от водеща роля може да ги отслаби.
Геополитическата конкуренция няма да се свежда само до това кой има технологична преднина, а ще обхваща и внедряването и разпространението на изкуствения интелект. Последното все повече може да зависи от това кой насърчава реалистично сътрудничество и разумни правила, които предприятията и обществата навсякъде ще изискват, ако трябва да заложат бъдещето си на тази технология.
Силното национално управление, свързано чрез практическо международно сътрудничество, предлага път към по-надеждни защитни мерки, непрекъснати иновации и широк достъп до ползите от изкуствения интелект.
