Сега е моментът за действие по политиките за ИИ. Трябва действие.

Навлязохме в нов етап от развитието на възможностите на ИИ, а това изисква нов етап и в политиката за ИИ. Никоя компания, сектор или правителство не може да се справи самостоятелно с това предизвикателство. Трябва да отговорим на този момент, като дадем предимство на действията с реален ефект пред стремежа към съвършени политики.

Ето какво правим:

1. Настояваме за задължителни национални изисквания за безопасност на ИИ. Искаме да работим с Конгреса по задължително национално регулиране на безопасността на ИИ, съобразено с възможностите на системите.

2. Поддържаме темпото в щатите. Докато Конгресът не предприеме действия, ще продължим да подкрепяме щатско законодателство, което укрепва цялостната система за безопасност на ИИ. Днес обявяваме подкрепата си за четири законопроекта в Калифорния: SB 813 за общата инфраструктура за независими оценки на безопасността, AB 1405 за стандартите за одиторите на ИИ, SB 1119 за защитата на младите хора и AB 1864 за защитните мерки срещу биологични заплахи, подпомогнати от ИИ.

3. Развиваме стандарти по инициатива на сектора. Ще работим с други лаборатории, разработващи най-усъвършенстваните модели, за да развиваме стандартите за тези системи с ИИ и да поставим началото на доброволна инициатива още сега, със или без подкрепа от правителството.

4. Изграждаме глобални стандарти. Ще се застъпваме за съвместими международни подходи за измерване на възможностите, управление на риска, запазване на човешкия контрол и определяне кога и как разработването трябва да се забави или спре, дори ако това означава по-бавно развитие на възможностите на моделите.

Главният ни научен директор Якуб Пахоцки наскоро написа⁠, че бързият възход на машинния интелект, включително потенциалът за рекурсивно самоусъвършенстване, изисква „изключителна предпазливост“. OpenAI ще продължи да търси технически решения за съгласуване и наблюдение, да изгражда защитни системи и да забавя разработването, когато е необходимо. Но техническата работа в отделните лаборатории няма да бъде достатъчна. Нуждаем се и от общи стандарти, включително за това кога разработването трябва да се забави или спре.

Залогът е огромен. Усъвършенстваният ИИ може да ускори разработването на нови лекарства⁠, да укрепи критичната инфраструктура⁠, да разшири икономическите възможности⁠ и да помогне за решаването на научни проблеми⁠, устоявали на поколения човешки усилия. Но възможностите, които правят моделите по-полезни, носят и рискове и няма да останат ограничени до няколко лаборатории за авангарден ИИ. Разработваните по света модели, включително open model-и, все повече ще се доближават до днешния авангардния рубеж и ще стават широко достъпни.

Възможностите на Astra, първите доказателства за ускоряване на изследванията чрез ИИ и есето на Якуб сочат в една посока: ИИ напредва бързо и политиките трябва да се развиват в крак с него.

Грег Брокман описа „прозорец на възможностите за защитниците“ ⁠(отваря се в нов прозорец): ограничен период, през който най-усъвършенстваните системи с ИИ могат да помогнат на специалистите по защита да укрепят критичните системи, преди мощните възможности за атаки да станат широко достъпни. Отговорните за политиките са изправени пред сходна ситуация: времето за въвеждане на трайни защитни мерки изтича, преди възможностите на ИИ да изпреварят институциите, отговорни за регулирането им.

С нарастването на възможностите увереността в безопасността трябва все повече да определя темпото на напредъка на ИИ. Безопасността не пречи на напредъка — тя му позволява да стигне по-далеч и да носи ползи на повече хора.

Засилихме мерките за наблюдение, съответствие с човешките намерения и сигурност през целия жизнен цикъл на разработване на моделите. Това включва по-надеждно изолиране на изследователските задачи с най-авангардните модели, разширено наблюдение на поведението на моделите при обучение и оценяване с използване на инструменти и по-ясни правила кога опасенията трябва да се отнасят до по-високо ниво. За Astra въведохме и всеобхватно наблюдение на пълните последователности от действия, включително веригите за логическо мислене, както и задължителна оценка на съответствието с човешките намерения като условие за по-широко вътрешно внедряване.

Тези защитни мерки трябва да продължат да изпреварват развитието на възможностите. Когато продължаването би създало неприемлив риск за безопасността, ще забавим или спрем разработването или внедряването на системи, за които не можем да осигурим достатъчно надеждни защитни мерки — както сме правили и преди и както изисква нашата рамка за готовност⁠(отваря се в нов прозорец).

Днес все още не се осъществява напълно автономно рекурсивно самоусъвършенстване, при което системи с ИИ самостоятелно движат разработването на последователни поколения все по-способен ИИ. Не бива да се стремим към него, докато не стане възможно то да се осъществява безопасно.

ИИ обаче вече ускорява част от изследванията за разработване на следващото поколение модели и осигуряване на съответствието им с човешките намерения. Най-новите ни изследвания⁠ показват, че агентите с ИИ могат да изпълняват някои задачи, които биха отнели няколко дни на квалифицирани изследователи. Това не е рекурсивно самоусъвършенстване, но показва посоката на развитие.

Това ускоряване може и трябва да се използва и за подобряване на безопасността. Целта ни е безопасно да създадем автоматизирани изследователи с ИИ, които работят под човешки надзор за напредъка както на дълбокото обучение, така и на съответствието с човешките намерения. Така всяко поколение ИИ ще помага следващото да бъде по-безопасно, по-добре съобразено с човешките намерения и по-лесно за контролиране, а не просто по-способно.

Правителствата трябва да разработят общи начини за измерване на този напредък, да запазят реалния човешки контрол и да установят общи критерии за безопасност, определящи кога и как разработването трябва да се забави или спре. Ако не можем да изпълним определени критерии за безопасност, без да забавим развитието на възможностите, трябва да дадем предимство на безопасността. Колкото по-мощна става технологията, толкова по-надеждни трябва да бъдат защитните мерки около нея.

Перспективата ИИ да ускорява собственото си развитие изисква повече от доброволни ангажименти. Съединените щати се нуждаят от задължително национално регулиране, съобразено с възможностите на системите и способно да се развива заедно с технологията.

Нашият План за демократично управление на авангардните системи с ИИ⁠ очертава пътя към устойчива федерална рамка: общи изисквания за тестване и независима оценка, по-надеждни мерки за киберсигурност, ясни правила за докладване на инциденти, по-висока национална готовност и общи показатели за проследяване на напредъка към рекурсивно самоусъвършенстване.

В момента в Конгреса се оформят няколко сериозни предложения за безопасността на най-усъвършенстваните системи с ИИ. Ще продължим да участваме конструктивно и очакваме да подкрепим законодателство, което съществено повишава изискванията за безопасност. При толкова висок залог не можем да позволим стремежът към съвършенство да попречи на добрите решения. Конгресът трябва да предприеме действия преди края на сесията си.

Националната рамка трябва да бъде строга, но с внимателно определен обхват. Изискванията за безопасност на най-авангардните системи с ИИ трябва да се прилагат за малкото лаборатории с големи ресурси, които разработват най-способните системи, а не за стартиращи компании, малки разработчици или изследователи, чиято работа е далеч от това технологично ниво. Задълженията трябва да бъдат съразмерни с възможностите и рисковете.

Политиките за безопасност на най-авангардните системи с ИИ не бива и да се превръщат в политики за моделите с отворени тегла под друго име. Отворените модели могат да бъдат част от решението, особено в киберсигурността и когато изискванията за суверенитет, сигурност или местоположение на данните дават предимство на локалното внедряване. Повечето от тях се конкурират по цена, контрол и време за отговор, а не по най-високи технологични възможности. Както потвърдихме с подписването на писмото „Моделите с отворени тегла и американското лидерство в ИИ“⁠(отваря се в нов прозорец), Америка се нуждае както от отворени, така и от затворени модели. Федералната рамка трябва да обхваща най-усъвършенстваните възможности и свързаните с тях рискове, без да отслабва конкуренцията, да затвърждава позициите на вече наложилите се участници или да тласка иновациите към чужбина.

Една сериозна регулаторна рамка трябва да намалява, а не да увеличава концентрацията на власт. Днес лабораториите, разработващи най-усъвършенстваните системи с ИИ, до голяма степен сами определят правилата за управление на свързаните с тях рискове. Стандарти, подлежащи на демократичен контрол, независима проверка и реална прозрачност биха заменили тази разпокъсана система на частно управление.Това е от съществено значение за американското лидерство.

Това е от съществено значение за американското лидерство. Съединените щати не могат да бъдат водещи в ерата на ИИ само благодарение на технологичните си възможности. Технологичната преднина няма да има голямо значение, ако хората, институциите и правителствата не се доверяват достатъчно на технологията, за да я използват. Надеждните защитни мерки не са отстъпка за сметка на иновациите. Те са част от инфраструктурата, необходима за широкото внедряване на технологията и за трайното американско лидерство.

Спешно се нуждаем от национални стандарти за ИИ и всеки, който работи по най-усъвършенстваните системи, осъзнава неотложността. Докато Конгресът не предприеме действия, щатите трябва да продължат да запълват регулаторната празнина и да повишават изискванията.

OpenAI подкрепи SB 53 в Калифорния, RAISE Act в Ню Йорк, SB 315 в Илинойс, както и независимите одити, предвидени в разглежданото в Масачузетс законодателство за безопасност на най-усъвършенстваните системи с ИИ. Насърчаваме щатите да възприемат тези общи защитни мерки. Така те могат на практика да установят общи минимални изисквания за цялата страна, които Конгресът впоследствие да закрепи в закон — подход, който наричаме ⁠обратен федерализъм⁠. Но уеднаквяването на изискванията не означава те да останат непроменени завинаги.

Днес официално заявяваме подкрепата си за още четири законопроекта в Калифорния, които са приети от законодателния орган и предстои да бъдат представени на губернатора Нюсъм. Заедно те обхващат взаимно допълващи се елементи на системата за безопасност на ИИ.

SB 813⁠(отваря се в нов прозорец) би създал процедура за определяне на квалифицирани независими организации, способни да оценяват рисковете от ИИ. Както посочихме в нашия ⁠(отваря се в нов прозорец)план за безопасност на авангардните системи с ИИ⁠(отваря се в нов прозорец), предпочитаме независимите технически оценки да бъдат задължителни на федерално равнище, където отговорните за политиките могат да установят единни стандарти за квалификацията на оценителите, сигурността и достъпа до изключително чувствителна информация. При липса на действия на федерално равнище обаче Калифорния може да помогне за установяването на правила за сигурна национална система за независими оценки с необходимия капацитет, която да води до по-добри резултати в областта на безопасността.

AB 1405⁠(отваря се в нов прозорец) би въвел изисквания за регистрация, независимост, прозрачност и отчетност на одиторите на ИИ.

SB 1119⁠(отваря се в нов прозорец) би въвел изисквания за установяване на възрастта, оценки на риска, независими одити, родителски контрол и защита от вредно съдържание за децата и тийнейджърите, използващи чатботове-компаньони. Наскоро изразихме подкрепата си⁠ за този законопроект, който надгражда мерките за безопасност на младите хора, които OpenAI развива чрез продуктите си, ⁠глобалните принципи за политики⁠ и подкрепата за ⁠(отваря се в нов прозорец)Закона за безопасен ИИ за родители и деца⁠(отваря се в нов прозорец), както и защитите, вградени в ChatGPT за тийнейджъри, включително по-строги настройки по подразбиране по чувствителни теми, часове за тишина, часове за учене и напомняния за почивка.

AB 1864⁠(отваря се в нов прозорец) би изисквал доставчиците на генен синтез и производителите на настолно оборудване за синтез да спазват федералните стандарти за проверка, като така укрепва важна физическа защита срещу биологични заплахи, подпомогнати от ИИ.

В миналото не подкрепяхме някои от тези законопроекти, но сега ги подкрепяме, след като преразгледахме позицията си с оглед на наблюдавания неотдавнашен скок във възможностите на ИИ.

Тези законопроекти не заменят федералното регулиране. Те представляват сериозни усилия, които могат да защитят хората още сега, да покажат как изглеждат работещите защитни мерки и да дадат тласък на действията на федерално равнище.

Само законите няма да направят усъвършенствания ИИ безопасен. Необходими са и конкретни практики в лабораториите, които разработват най-способните системи. Най-неотложната първа стъпка е наблюдението.

Това е особено важно при отклонения от човешките намерения — когато моделът преследва цел по начини, които противоречат на тези намерения или нарушават установените граници, без за това да са необходими съзнание или злонамереност. С нарастването на автономността на моделите, използването на по-мощни инструменти и работата им за по-дълги периоди разработчиците трябва да бъдат задължени да следят за подобно поведение и да доказват, че са въведени ефективни защитни мерки.

Наблюдението трябва да бъде свързано с ясни изисквания за оповестяване. Както настоявахме в Калифорния, компаниите трябва да бъдат задължени своевременно да уведомяват писмено засегнатите страни, когато при разработване или оценяване техните модели без разрешение заобикалят мерките за сигурност на друга организация и осъществяват съществен достъп до нейни защитени системи или поверителна информация, променят ги или ги унищожават. Подкрепяме и федерални изисквания за докладване на други сериозни инциденти с ИИ и работим по определянето на инцидентите, които трябва да бъдат обхванати, и съдържанието на тези изисквания.

Както съобщихме миналата седмица, OpenAI разработва рамка за докладване на инциденти със съществени последици, свързани с отклонения от човешките намерения, и за системно наблюдение на дейността на най-авангардните модели, включително при вътрешната им употреба. Това започва като инициатива на компанията, но се надяваме да допринесе за формирането на по-широка федерална политика и изисквания за докладване.

Искаме да работим с други лаборатории по стандарти, разработени по инициатива на сектора. Такива стандарти биха допълвали, а не заменяли задължителните федерални защитни мерки и демократичния надзор. Но вече сме на различен етап в развитието на възможностите на ИИ и трябва да разгледаме всички варианти, включително какво може да се създаде на доброволен принцип извън държавните структури като незабавна мярка.

В крайна сметка всички подобни стандарти трябва да се прилагат и отвъд националните граници. Моделите, изследванията и техническите знания се разпространяват по целия свят, а проблемите с най-способните системи могат да имат последици далеч отвъд държавата, в която са разработени. За да бъдат международен лидер, Съединените щати трябва да установят надеждни стандарти у дома — и все повече се убеждаваме, че ще са необходими съвместими международни стандарти.

Възможността за действие по политиките за ИИ все още е налице. Възнамеряваме да се възползваме от нея.

Това означава да действаме без отлагане, със смирение и готовност да се адаптираме. Означава да подкрепяме сериозни предложения, които съществено повишават изискванията за безопасност, дори когато не съвпадат напълно с онова, което бихме предложили ние. И означава да укрепваме рамката с развитието на технологията.

Никоя първа стъпка няма да бъде съвършена. Но по-големият риск сега е да чакаме твърде дълго, преди да я направим.