Прозорецот на политиката за ВИ е отворен. Мора да дејствуваме.

Достигнавме ново поглавје во способностите на ВИ, а тоа бара ново поглавје и во политиката за ВИ. Ниту една компанија, индустрија или влада не може сама да одговори на овој предизвик. Треба да одговориме на овој миг давајќи им предност на суштинското дејствување пред совршенството на политиките.

Еве што правиме:

1. Се залагаме за задолжителни национални барања за безбедност на ВИ. Сакаме да соработуваме со Конгресот за задолжителна национална регулатива за безбедност на ВИ, заснована врз способностите.

2. Одржување на динамиката во сојузните држави. Додека Конгресот не преземе мерки, ќе продолжиме да поддржуваме законодавство на ниво на сојузни држави што го зајакнува поширокиот екосистем за безбедност на ВИ. Денес ја објавуваме нашата поддршка за четири калифорниски предлог-закони: SB 813 за целокупната инфраструктура за независни процени на безбедноста, AB 1405 за стандардите за ревизори на ВИ, SB 1119 за заштитата на младите луѓе и AB 1864 за заштитните мерки од биолошки закани овозможени од ВИ.

3. Унапредување на стандарди предводени од индустријата. Ќе работиме со други гранични лаборатории за да ги унапредиме стандардите за гранична ВИ, градејќи доброволна иницијатива уште сега, со или без поддршка од владата.

4. Градење глобални стандарди. Ќе се залагаме за усогласени меѓународни пристапи за мерење на способностите, управување со ризикот, зачувување на контролата од луѓето и утврдување кога и како развојот треба да се забави или да запре, дури и ако тоа значи забавување на напредокот на способностите на моделот.

Нашиот главен научник Јакуб Пахоцки неодамна напиша⁠ дека брзиот подем на машинската интелигенција, вклучително и потенцијалот за рекурзивно самоусовршување, бара „крајна претпазливост“. OpenAI ќе продолжи да бара технички решенија за усогласување и следење, да гради одбранбени системи и да го забавува развојот кога е потребно. Но техничката работа во одделни лаборатории нема да биде доволна. Потребни ни се и заеднички стандарди, вклучително и за тоа кога развојот треба да забави или да запре.

Влогот е огромен. Напредната ВИ би можела да го забрза развојот на нови лекови⁠, да ја зајакне критичната инфраструктура⁠, да ги прошири економските можности⁠ и да помогне во решавањето научни проблеми⁠ што со генерации им одолеваат на човечките напори. Но способностите што ги прават моделите покорисни носат и ризици, а тие нема да останат ограничени на неколку гранични лаборатории. Моделите развиени низ светот, вклучително и јавните модели, сè повеќе ќе се приближуваат до денешното граничното ниво и ќе стануваат широко достапни.

Способностите на Astra, првичните докази за забрзување на истражувањата со помош на ВИ и есејот на Јакуб укажуваат во иста насока: ВИ брзо напредува, а политиката треба да се движи во чекор со неа.

Грег Брокман опиша „прозорец за бранителите“⁠(се отвора во нов прозорец): ограничен период во кој граничната ВИ може да им помогне на бранителите да ги зајакнат критичните системи пред моќните офанзивни способности да станат широко распространети. Креаторите на политики се соочуваат со сличен миг: прозорец што се затвора за воспоставување трајни заштитни мерки пред способностите на ВИ да ги надминат институциите задолжени да управуваат со нив.

Како што растат способностите, довербата во безбедноста сè повеќе мора да го одредува темпото на напредокот на ВИ. Безбедноста не му стои на патот на напредокот; таа му овозможува да оди подалеку и да им користи на повеќе луѓе.

Ги зајакнавме заштитните мерки за следење, усогласување и безбедност во целиот животен циклус на развојот на моделот, вклучително и посилна изолација за работните оптоварувања поврзани со гранични истражувања, проширено следење на однесувањето на моделот за време на обуката и евалуациите со овозможени алатки и појасни правила за тоа кога да се ескалираат загриженостите. За Astra воведовме и универзално следење на целосните текови, вклучително и синџирите на размислување, како и задолжителна проверка со евалуација на усогласувањето пред поширока внатрешна примена.

Тие заштитни мерки мора да продолжат да бидат чекор пред способностите. Кога продолжувањето би претставувало неприфатлив ризик по безбедноста, ќе го забавиме или запреме развојот или воведувањето во употреба на системи што не можеме доволно да ги заштитиме, како што сме направиле и претходно и како што се бара според нашата Рамка за подготвеност⁠(се отвора во нов прозорец).

Целосно автономно рекурзивно самоподобрување - при кое системите за ВИ самостојно креираат последователни генерации на сè поспособна ВИ - денес не се случува. Не треба да го спроведуваме сè додека не може безбедно да се спроведе.

Сепак, ВИ веќе забрзува делови од истражувањата што се користат за развивање и усогласување на следната генерација модели. Нашето најново истражување⁠ покажува дека агентите за ВИ можат да извршуваат некои задачи за кои на квалификувани истражувачи би им биле потребни неколку дена. Ова не е рекурзивно самоподобрување, но е доказ за насоката на развојот.

Тоа забрзување може и мора да се насочи и кон безбедноста. Нашата цел е безбедно да изградиме автоматизирани истражувачи со ВИ што ќе работат под човечки надзор за да ги унапредуваат и длабокото учење и усогласувањето - користејќи ја секоја генерација ВИ за да биде следната побезбедна, поусогласена и полесна за контролирање, а не само поспособна.

Владите треба да развијат заеднички начини за мерење на овој напредок, да ја зачуваат суштинската човечка контрола и да утврдат заеднички безбедносни прагови за тоа кога и како развојот треба да забави или да запре. Ако не можеме да исполниме одредени безбедносни прагови без да го забавиме растот на способностите, треба да им дадеме приоритет на безбедносните прагови. Колку помоќна станува технологијата, толку посилни мора да бидат заштитните мерки околу неа.

Перспективата за развој на ВИ забрзан со ВИ бара повеќе од доброволни обврски. На Соединетите Американски Држави им е потребна задолжителна национална регулатива заснована врз способностите, која може да се развива како што се развива технологијата.

Нашиот План за демократско управување со граничната ВИ⁠ го трасира патот кон трајна федерална рамка: заеднички барања за тестирање и независна процена, посилна заштита на сајбер-безбедноста, јасни правила за пријавување инциденти, поголема национална подготвеност и заеднички мерки за следење на напредокот кон рекурзивно самоподобрување.

Во Конгресот сега се обликуваат неколку сериозни предлози за безбедноста на граничната ВИ. Ќе продолжиме конструктивно да се ангажираме и очекуваме да поддржиме законодавство што суштински го подигнува нивото на безбедност. Кога влоговите се толку високи, не смееме да дозволиме совршеното да стане непријател на доброто. Конгресот треба да дејствува пред да ја прекине седницата.

Националната рамка треба да биде силна, но внимателно насочена. Барањата за гранична безбедност треба да важат за неколкуте добро финансирани лаборатории што ги развиваат најспособните системи - не за стартапи, мали програмери или истражувачи што работат далеку од границата на технологијата. Обврските треба да бидат сразмерни со способностите и ризиците.

Ниту политиката за гранична безбедност не треба да стане политика за отворени тежини под друго име. Отворените модели може да бидат дел од решението, особено во сајбер-безбедноста и таму каде што потребите за суверенитет, безбедност или место на чување на податоците даваат предност на локалното распоредување. Повеќето не се натпреваруваат на граничен технологијата, туку според цената, контролата и доцнењето. Како што потврдивме потпишувајќи го писмото за отворени тежини и американското лидерство во ВИ⁠(се отвора во нов прозорец), на Америка ѝ се потребни и отворени и затворени модели. Федералната рамка треба да се однесува на способностите и ризиците на граничните модели без да ја ослабува конкуренцијата, да ги зацврстува позициите на постојните играчи или да ги поттикнува иновациите да се преселат во странство.

Сериозната јавна рамка треба да ја намалува, а не да ја зголемува концентрацијата на моќ. Денес, граничните лаборатории главно сами ги поставуваат правилата за управување со ризици од најсовремените модели. Демократски одговорни стандарди, независна проверка и суштинска транспарентност би го замениле тој расцепкан систем на приватно управување.

Тоа е од суштинско значење за американското лидерство. Соединетите Американски Држави не можат да победат во ерата на ВИ само со способности. Техничката предност ќе значи малку ако луѓето, институциите и владите немаат доволно доверба во технологијата за да ја прифатат. Силните заштитни мерки не се отстапка на штета на иновациите. Тие се дел од инфраструктурата потребна за широка примена - и за трајно американско лидерство.

Итно ни се потребни национални стандарди за ВИ, а секој што работи на границата може да ја види итноста. Додека Конгресот не дејствува, сојузните држави треба да продолжат да преземаат чекори за да ја пополнат празнината и да ги подигнат стандардите.

OpenAI ги поддржа California SB 53, New York RAISE Act, Illinois SB 315 и независните ревизии во законодавството за безбедност на граничната ВИ што се разгледува во Масачусетс. Ги охрабруваме сојузните држави да се усогласат околу овие заеднички заштитни мерки. Така, тие можат да создадат де факто национална основа што Конгресот на крајот може да ја кодифицира - пристап што го нарекуваме ⁠обратен федерализам⁠. Но усогласувањето не значи замрзнување на барањата.

Денес, официјално поддржуваме уште четири калифорниски предлог-закони што поминаа во Законодавниот дом и се упатени до гувернерот Њусом. Заедно, тие опфаќаат комплементарни делови од екосистемот за безбедност на ВИ.

Со SB 813⁠(се отвора во нов прозорец) би се воспоставила постапка за назначување квалификувани независни организации способни да ги проценуваат ризиците од ВИ. Како што наведовме во нашиот ⁠(се отвора во нов прозорец)план за гранична безбедност⁠(се отвора во нов прозорец), претпочитаме независните технички проценки да бидат задолжителни на федерално ниво, каде што креаторите на политики можат да воспостават доследни стандарди за квалификациите на проценувачите, безбедноста и пристапот до исклучително чувствителни информации. Сепак, во отсуство на федерални мерки, Калифорнија може да помогне во воспоставувањето правила за безбеден, способен национален систем за независна проценка што дава подобри резултати за безбедноста.

Со AB 1405⁠(се отвора во нов прозорец) би се воспоставиле барања за регистрација, независност, транспарентност и отчетност на ревизорите на ВИ.

Со SB 1119⁠(се отвора во нов прозорец) би се барало потврдување на возраста, проценки на ризикот, независни ревизии, родителска контрола и заштитни мерки против штетна содржина за деца и тинејџери што користат придружни чет-ботови. Неодамна ја изразивме нашата поддршка⁠ за овој предлог-закон, кој се надоврзува на мерките за безбедност на младите што OpenAI ги унапреди преку своите производи, ⁠глобалните принципи за политики⁠ и поддршката за ⁠(се отвора во нов прозорец)Законот за безбедна ВИ за родители и деца⁠(се отвора во нов прозорец), како и на заштитите вградени во ChatGPT за тинејџери - вклучително и построги стандардни поставки во чувствителните области, Часови за тишина, Часови за учење и потсетници за пауза.

Со AB 1864⁠(се отвора во нов прозорец) би се барало од давателите на услуги за синтеза на гени и од производителите на столна опрема за синтеза да ги почитуваат федералните стандарди за скрининг, зајакнувајќи важна физичка заштита од биолошки закани овозможени со ВИ.

Некои од овие предлог-закони во минатото не ги поддржувавме, но сега ги поддржуваме откако повторно ги разгледавме со оглед на неодамнешниот напредок во способностите што го забележавме.

Овие предлог-закони не се замена за федерална регулатива. Тие се сериозни напори што можат да ги заштитат луѓето сега, да покажат како изгледаат остварливите заштитни мерки и да помогнат да се постигне замав за федерално дејствување.

Самите закони нема да ја направат напредната вештачка интелигенција безбедна. Потребни ни се и конкретни практики во лабораториите што ги развиваат најспособните системи. Најитно е да се започне со следење.

Ова е особено важно за неусогласеноста - кога моделот се стреми кон цел на начини со кои се прекршуваат човечката намера или утврдените граници, без да биде потребна свест или злонамерна намера. Како што моделите стануваат поавтономни, користат помоќни алатки и работат подолго, од програмерите треба да се бара да ги следат овие неусогласени однесувања и да покажат дека се воспоставени делотворни заштитни мерки.

Следењето мора да биде поврзано со јасни барања за објавување. Како што се залагавме во Калифорнија, од компаниите треба да се бара да достават промпт писмено известување до засегнатите страни кога, при развој или евалуација, нивните модели неовластено ги заобиколуваат безбедносните контроли на друга организација и значително пристапуваат, менуваат или уништуваат заштитени системи или доверливи информации на таа организација. Исто така, поддржуваме федерални барања за пријавување на други сериозни инциденти со ВИ и работиме на утврдување кои инциденти треба да бидат опфатени и што треба да вклучуваат тие барања.

Како што споделивме минатата недела, OpenAI развива рамка за пријавување инциденти на неусогласеност со значајни последици и за систематско следење на активноста на граничните модели, вклучително и внатрешната употреба. Ова почнува како иницијатива предводена од компанијата, но се надеваме дека може да помогне во обликувањето на пошироката федерална политика и барањата за известување.

Сакаме да соработуваме со други лаборатории за стандарди предводени од индустријата. Какви било стандарди предводени од индустријата би биле дополнување, а не замена за задолжителните федерални заштитни мерки и демократскиот надзор. Но, влеговме во поинаква фаза на способностите на ВИ и треба да се разгледа сè - вклучувајќи го и она што може доброволно да се изгради надвор од владата како непосреден чекор.

Сите такви стандарди на крајот мора да се протегаат и надвор од националните граници. Моделите, истражувањата и техничкото знаење се движат низ целиот свет, а пропустите кај најспособните системи би можеле да имаат последици далеку надвор од земјата во која се развиени. Соединетите Американски Држави треба да воспостават веродостојни стандарди дома ако сакаат да предводат на меѓународно ниво - а сѐ повеќе сме убедени дека ќе бидат неопходни усогласени меѓународни стандарди.

Прозорецот за политиката за ВИ е отворен, засега. Имаме намера да го користиме.

Тоа значи да пристапиме со итност, скромност и подготвеност за приспособување. Тоа значи да поддржиме сериозни предлози што суштински го подигнуваат нивото на безбедност, дури и кога не се токму онакви какви што ние би ги осмислиле. И значи да ја зајакнуваме рамката како што се развива технологијата.

Ниту еден прв чекор нема да биде совршен. Но поголемиот ризик сега е да чекаме предолго за да го направиме.