Прилика за политику AI је отворена. Морамо да делујемо.

Ушли смо у ново поглавље способности вештачке интелигенције, што захтева и ново поглавље политике у тој области. Ниједна компанија, сектор или влада не може сама да одговори на овај изазов. Морамо бити усмерени на смислено деловање, а не на савршенство политика.

Ево шта радимо:

1. Залагање за обавезне националне захтеве за безбедност вештачке интелигенције. Желимо да сарађујемо са Конгресом на обавезној националној регулативи безбедности вештачке интелигенције заснованој на могућностима.

2. Одржавање замаха у савезним државама. Док Конгрес не предузме мере, наставићемо да подржавамо законодавство савезних држава које јача шири екосистем безбедности вештачке интелигенције. Данас објављујемо подршку за четири калифорнијска предлога закона: SB 813 о укупној инфраструктури за независне процене безбедности, AB 1405 о стандардима за ревизоре вештачке интелигенције, SB 1119 о заштити младих и AB 1864 о заштитним мерама против биолошких претњи потпомогнутих вештачком интелигенцијом.

3. Унапређујемо стандарде које предводи сектор. Сарађиваћемо са другим лабораторијама за граничну вештачку интелигенцију на унапређењу стандарда за граничну вештачку интелигенцију, градећи добровољну иницијативу већ сада, са или без подршке државних органа.

4. Изградња глобалних стандарда. Залагаћемо се за усклађене међународне приступе мерењу способности, управљању ризиком, очувању људске контроле и утврђивању када и како развој треба успорити или зауставити, чак и ако то значи успоравање напретка способности модела.

Наш главни научник Јакуб Пахоцки недавно је написао⁠ да нагли успон машинске интелигенције, укључујући могућност рекурзивног самоусавршавања, захтева „изузетан опрез“. OpenAI ће наставити да тражи техничка решења за усаглашавање и праћење, гради одбрамбене системе и успорава развој када је то потребно. Али технички рад у појединачним лабораторијама неће бити довољан. Потребни су нам и заједнички стандарди, укључујући оне који одређују када развој треба успорити или зауставити.

Улог је огроман. Напредна вештачка интелигенција могла би да убрза развој нових лекова⁠, ојача критичну инфраструктуру⁠, прошири економске могућности⁠ и помогне у решавању научних проблема⁠ који су одолевали напорима више генерација људи. Међутим, способности које моделе чине кориснијим носе и ризике и неће остати ограничене на неколико лабораторија које развијају граничне системе. Модели развијени широм света – укључујући отворене моделе – све више ће се приближавати данашњој технолошкој граници и постајати широко доступни.

Способности Astra, рани докази да вештачка интелигенција убрзава истраживања и Јакубов есеј указују у истом смеру: вештачка интелигенција брзо напредује, а политика мора да је прати.

Грег Брокман описао је „временски оквир за стручњаке за сајбер безбедност“⁠(отвара се у новом прозору): ограничен период током ког гранична вештачка интелигенција може помоћи стручњацима за сајбер безбедност да ојачају критичне системе пре него што моћне офанзивне способности постану широко доступне. Креатори политика суочавају се са сличним тренутком: временски оквир за успостављање трајних заштитних мера се сужава пре него што способности вештачке интелигенције престигну институције одговорне за управљање њима.

Како способности расту, поверење у безбедност мора све више да одређује темпо напретка вештачке интелигенције. Безбедност не стоји на путу напретку; она му омогућава да оде даље и користи већем броју људи.

Ојачали смо мере праћења, усклађивања и безбедности током целокупног животног циклуса развоја модела, укључујући снажнију изолацију радних оптерећења за гранична истраживања, проширено праћење понашања модела током обучавања и евалуација уз коришћење алата, као и јаснија правила о томе када треба ескалирати забринутости. За модел Astra увели смо и универзално праћење целих путања, укључујући начине резоновања, као и обавезни поступак блокирајуће процене усклађености пре шире интерне примене.

Те заштитне мере морају и даље да буду корак испред способности. Када би наставак представљао неприхватљив безбедносни ризик, успорићемо или зауставити развој или примену система које не можемо довољно да заштитимо, као што смо већ чинили и како налаже наш Оквир спремности⁠(отвара се у новом прозору).

Потпуно аутономно рекурзивно самопобољшавање – у ком системи вештачке интелигенције самостално покрећу узастопне генерације све способније вештачке интелигенције – данас се не дешава. Не треба да тежимо томе све док то не буде могло безбедно да се спроведе.

Међутим, вештачка интелигенција већ убрзава делове истраживања који се користе за развој и усаглашавање следеће генерације модела. Наше најновије истраживање⁠ показује да агенти вештачке интелигенције могу да обаве неке задатке за које би стручним истраживачима било потребно неколико дана. То није рекурзивно самопобољшање, али јесте показатељ правца развоја.

То убрзање може и мора да буде усмерено и на безбедност. Циљ нам је да безбедно изградимо аутоматизоване истраживаче вештачке интелигенције који под људским надзором унапређују и дубоко учење и усклађивање – користећи сваку генерацију вештачке интелигенције како би следећа била безбеднија, усклађенија и лакша за контролу, а не само способнија.

Државни органи треба да развију заједничке начине за мерење овог напретка, очувају смислену људску контролу и утврде заједничке безбедносне прагове који одређују када и како развој треба успорити или зауставити. Ако одређене безбедносне прагове не можемо да испунимо без успоравања раста способности, предност треба да дамо првима. Што технологија буде моћнија, то ће заштитне мере које је окружују морати да буду снажније.

Изгледи за развој вештачке интелигенције убрзан вештачком интелигенцијом захтевају више од добровољних обавеза. Сједињеним Америчким Државама је потребна обавезна национална регулатива заснована на способностима, која може да се развија упоредо с технологијом.

Наш План демократског управљања граничном вештачком интелигенцијом⁠ утврђује пут ка трајном савезном оквиру: заједнички захтеви за тестирање и независну процену, снажнија заштита сајбер безбедности, јасна правила за пријављивање инцидената, већа национална спремност и заједничке мере за праћење напретка ка рекурзивном самоусавршавању.

У Конгресу се сада обликује неколико озбиљних предлога о безбедности граничних система. Наставићемо конструктивно да учествујемо и очекујемо да ћемо подржати законодавство које значајно подиже ниво безбедности. Када је улог овако висок, не смемо дозволити да савршено постане непријатељ доброг. Конгрес треба да делује пре окончања заседања.

Национални оквир треба да буде снажан, али пажљиво усмерен. Безбедносни захтеви за граничне системе треба да се примењују на неколико добро финансираних лабораторија које развијају најспособније системе – а не на стартапе, мале програмере или истраживаче који нису ни близу технолошке границе. Обавезе треба да буду сразмерне способностима и ризицима.

Ни политика безбедности граничних система не сме да постане политика отворених тежина под другим именом. Отворени модели могу бити део решења, нарочито у сајбер безбедности и тамо где потребе за суверенитетом, безбедношћу или резидентност података дају предност локалној примени. Већина се не такмичи на технолошкој граници, већ у погледу цене, контроле и кашњења. Као што смо потврдили потписивањем писма о отвореним тежинама и америчком лидерству у вештачкој интелигенцији⁠(отвара се у новом прозору), Америци су потребни и отворени и затворени модели. Федерални оквир треба да се бави могућностима и ризицима граничних система без слабљења конкуренције, учвршћивања положаја постојећих учесника или подстицања пресељења иновација у иностранство.

Озбиљан јавни оквир треба да смањује, а не да повећава концентрацију моћи. Данас лабораторије које развијају граничне системе углавном саме одређују правила за управљање граничним ризицима. Демократски одговорни стандарди, независна провера и стварна транспарентност заменили би тај фрагментисани систем приватног управљања.

То је пресудно за америчко лидерство. Сједињене Америчке Државе не могу победити у ери вештачке интелигенције само на основу способности. Техничка предност мало ће значити ако људи, институције и владе немају довољно поверења у технологију да је усвоје. Снажне мере заштите нису уступак на штету иновација. Оне су део инфраструктуре потребне за широко усвајање – и трајно америчко лидерство.

Хитно су нам потребни национални стандарди за AI, а свако ко ради на граници развоја може да увиди хитност. Док Конгрес не предузме мере, савезне државе треба да наставе да попуњавају празнину и подижу лествицу.

OpenAI је подржао калифорнијски закон SB 53, Закон државе Њујорк RAISE, закон Илиноиса SB 315 и независне ревизије у закону о безбедности граничних система који се разматра у Масачусетсу. Подстичемо савезне државе да се усагласе око ових заједничких заштитних мера. Тако могу да створе де факто националну основу коју Конгрес на крају може да кодификује – приступ који називамо ⁠обрнути федерализам⁠. Међутим, усклађивање не значи замрзавање примењених захтева.

Данас званично подржавамо још четири предлога закона у Калифорнији које је усвојило законодавно тело и који су упућени гувернеру Њусому. Заједно се баве комплементарним деловима екосистема безбедности вештачке интелигенције.

SB 813⁠(отвара се у новом прозору) би успоставио поступак за одређивање квалификованих, независних организација способних да процењују ризике вештачке интелигенције. Како смо навели у свом ⁠(отвара се у новом прозору)плану безбедности граничног AI-ја⁠(отвара се у новом прозору), залажемо се за то да независне техничке процене буду обавезне на савезном нивоу, где креатори политика могу да утврде доследне стандарде за квалификације процењивача, безбедност и приступ изузетно осетљивим информацијама. Међутим, у недостатку савезног деловања, Калифорнија може да помогне у утврђивању правила за безбедан, способан национални систем независне процене који доноси боље безбедносне исходе.

AB 1405⁠(отвара се у новом прозору) би увео захтеве у погледу регистрације, независности, транспарентности и одговорности за ревизоре вештачке интелигенције.

SB 1119⁠(отвара се у новом прозору) би захтевао потврђивање узраста, процене ризика, независне ревизије, родитељске контроле и заштитне мере од штетног садржаја за децу и тинејџере који користе четботове пратиоце. Недавно смо изразили подршку⁠ овом предлогу закона, који се надовезује на мере за безбедност младих које је OpenAI унапредио кроз своје производе, ⁠глобална начела политике⁠ и подршку ⁠(отвара се у новом прозору)Закону о безбедној вештачкој интелигенцији за родитеље и децу⁠(отвара се у новом прозору), као и на заштите уграђене у ChatGPT за тинејџере – укључујући строжа подразумевана подешавања у осетљивим областима, време тишине, време за учење и подсетнике за паузу.

AB 1864⁠(отвара се у новом прозору) захтевао би од добављача услуга синтезе гена и произвођача стоне опреме за синтезу да поштују савезне стандарде провере, чиме би се ојачала важна физичка заштита од биолошких претњи потпомогнутих вештачком интелигенцијом.

Неке од ових предлога закона раније нисмо подржали, а сада их подржавамо након што смо преиспитали свој став у светлу недавно уоченог наглог пораста способности.

Ови предлози закона нису замена за савезну регулативу. Они су озбиљни напори који сада могу да заштите људе, покажу како изгледају спроводиве мере заштите и помогну у стварању замаха за деловање савезне власти.

Сами закони неће учинити напредну вештачку интелигенцију безбедном. Потребне су нам и конкретне праксе унутар лабораторија које развијају најспособније системе. Најхитније је започети праћењем.

Ово је посебно важно за неусклађеност – када модел тежи циљу на начине који крше људске намере или утврђене границе, без потребе за свешћу или злонамерном намером. Како модели стичу већу самосталност, користе моћније алате и раде током дужих периода, требало би захтевати од програмера да прате таква неусклађена понашања и покажу да су уведене делотворне мере заштите.

Праћење мора бити повезано са јасним захтевима за обелодањивање. Као што смо заговарали у Калифорнији, од компанија треба захтевати да погођеним странама одмах доставе писмено обавештење када, током развоја или процене, њихови модели без овлашћења заобиђу безбедносне контроле друге организације и у значајној мери приступе заштићеним системима или поверљивим информацијама те организације, измене их или униште. Такође подржавамо савезне захтеве за пријављивање других озбиљних инцидената повезаних са вештачком интелигенцијом и радимо на утврђивању који инциденти треба да буду обухваћени и шта ти захтеви треба да подразумевају.

Као што смо поделили прошле недеље, OpenAI развија оквир за пријављивање значајних инцидената неусаглашености и систематско праћење активности граничних модела, укључујући интерну употребу. Овај рад почиње као иницијатива компаније, али се надамо да може да помогне у обликовању шире федералне политике и захтева за извештавање.

Желимо да сарађујемо с другим лабораторијама на стандардима које предводи сектор. Сви стандарди које предводи сектор допуњавали би, а не замењивали, обавезне савезне мере заштите и демократски надзор. Међутим, ушли смо у другачију фазу способности вештачке интелигенције и све би требало размотрити – укључујући и разматрање онога што се може добровољно изградити ван државних органа као непосредног корака.

Сви такви стандарди на крају морају да се прошире и изван националних граница. Модели, истраживања и техничка стручност крећу се широм света, а пропусти у вези са најспособнијим системима могли би да имају последице далеко изван земље у којој су развијени. Сједињене Америчке Државе морају да успоставе веродостојне стандарде у земљи ако желе да предводе на међународном плану – а све смо уверенији да ће бити потребни усклађени међународни стандарди.

Прилика за обликовање политике вештачке интелигенције за сада је отворена. Намеравамо да је искористимо.

То значи да делујемо хитно, скромно и спремни да се прилагођавамо. То значи да подржавамо озбиљне предлоге који значајно подижу ниво безбедности, чак и када нису баш онакви какве бисмо сами осмислили. И то значи да јачамо оквир како се технологија развија.

Ниједан први корак неће бити савршен. Али сада је већи ризик предуго чекати да га направимо.