Хиймэл оюуны бодлогын цонх нээлттэй. Бид арга хэмжээ авах ёстой.

Хиймэл оюуны чадавхын шинэ үе эхэлсэн тул хиймэл оюуны бодлогын шинэ үе ч шаардлагатай. Ямар ч компани, салбар эсвэл засгийн газар энэ сорилтыг дангаараа давж чадахгүй. Бид бодлогыг төгс болгохоос илүүтэй утга учиртай үйлдлийг нэн тэргүүнд тавин энэ мөчтэй нүүр тулах хэрэгтэй.

Бидний хийж буй зүйл:

1. Үндэсний хэмжээнд заавал мөрдөх AI аюулгүй байдлын шаардлагыг хэрэгжүүлэхийн төлөө. Бид чадавхад суурилсан, заавал мөрдөх үндэсний AI аюулгүй байдлын зохицуулалтын талаар Конгресстой хамтран ажиллахыг хүсэж байна.

2. Муж улсуудад эрчээ хадгалж байна. Конгресс арга хэмжээ авах хүртэл бид хиймэл оюуны аюулгүй байдлын өргөн хүрээний экосистемийг бэхжүүлэх мужийн хууль тогтоомжийг үргэлжлүүлэн дэмжинэ. Өнөөдөр бид Калифорнийн дөрвөн хуулийн төслийг дэмжиж байгаагаа зарлаж байна: хараат бус аюулгүй байдлын үнэлгээний ерөнхий дэд бүтцийн тухай SB 813, хиймэл оюуны аудиторын стандартын тухай AB 1405, залуу хүмүүсийг хамгаалах тухай SB 1119, мөн хиймэл оюун ухаан ашигласан биологийн аюул заналын эсрэг хамгаалалтын арга хэмжээний тухай AB 1864.

3. Салбарын удирдсан стандартыг ахиулах. Бид бусад хил хязгаарын лабораторитой хамтран засгийн газрын дэмжлэгтэй эсэхээс үл хамааран одоо сайн дурын хүчин чармайлт өрнүүлж, хил хязгаарын AI-ийн стандартыг ахиулна.

4. Дэлхийн нийтлэг стандартуудыг бий болгох. Загварын чадавхын дэвшлийг удаашруулах шаардлагатай болсон ч гэсэн, чадавхыг хэмжих, эрсдэлийг удирдах, хүний хяналтыг хадгалах, мөн хөгжүүлэлтийг хэзээ, хэрхэн удаашруулах эсвэл зогсоохыг тодорхойлох олон улсад нийцтэй арга барилыг бид дэмжин ажиллана.

Манай Ерөнхий эрдэмтэн Якуб Пахоцки саяхан машин оюуны хурдацтай өсөлт, тэр дундаа рекурсив өөрийгөө сайжруулах боломж нь “туйлын болгоомжтой” байхыг шаардаж байна гэж бичсэн⁠. OpenAI нийцүүлэлт болон хяналтын техникийн шийдлийг эрэлхийлж, хамгаалалтын систем байгуулан, шаардлагатай үед хөгжүүлэлтийг удаашруулсаар байх болно. Гэхдээ лаборатори тус бүрийн дотоод техникийн ажил хангалтгүй. Хөгжүүлэлтийг хэзээ удаашруулах эсвэл зогсоохыг багтаасан нэгдсэн стандарт бидэнд бас хэрэгтэй.

Эрсдэл асар өндөр. Дэвшилтэт хиймэл оюун шинэ эмийн⁠ хөгжүүлэлтийг хурдасгаж, чухал дэд бүтцийг⁠ бэхжүүлэн, эдийн засгийн боломжийг⁠ өргөжүүлж, хүн төрөлхтний үе үеийн хүчин чармайлтаар шийдэж чадаагүй шинжлэх ухааны асуудлуудыг⁠ шийдвэрлэхэд тусалж чадна. Гэвч загварыг илүү хэрэгцээтэй болгодог чадавх эрсдэл дагуулдаг бөгөөд энэ эрсдэл хил хязгаарын цөөн лабораториор хязгаарлагдахгүй. Дэлхий даяар хөгжүүлсэн загварууд, тэр дундаа нээлттэй загварууд өнөөгийн хил хязгаарын түвшинд улам ойртож, өргөн хүртээмжтэй болно.

Astra-гийн чадавх, хиймэл оюун судалгааг хурдасгаж буйн эхний нотолгоо, Якубын эсээ бүгд нэг зүг рүү чиглэж байна: хиймэл оюун хурдацтай хөгжиж байгаа бөгөөд бодлого ч түүнтэй хөл нийлүүлэн хөгжих шаардлагатай.

Грег Брокман "хамгаалагчдын боломжит үе" гэж тодорхойлсон⁠(шинэ цонхонд нээгдэнэ): энэ нь довтолгооны хүчирхэг чадавх өргөн тархахаас өмнө хил хязгаарын AI хамгаалагчдад чухал системүүдийг бэхжүүлэхэд тусалж чадах хязгаарлагдмал хугацаа юм. Бодлого боловсруулагчид үүнтэй төстэй мөчтэй тулгарч байна: AI-ийн чадавх түүнийг удирдах үүрэгтэй байгууллагуудаас түрүүлэхээс өмнө тогтвортой хамгаалалт бий болгох боломж хумигдаж байна.

Чадавх нэмэгдэх тусам аюулгүй байдалд итгэх итгэл хиймэл оюуны ахицын хурдыг улам бүр тогтоох ёстой. Аюулгүй байдал ахицад саад болдоггүй; харин ахицыг улам хол хүргэж, илүү олон хүнд үр өгөөжтэй болгодог зүйл юм.

Бид загвар боловсруулах бүх мөчлөгийн туршид хяналт, нийцүүлэлт, аюулгүй байдлын хамгаалалтаа бэхжүүлсэн. Үүнд хил хязгаарын судалгааны ажлын ачааллыг илүү хатуу тусгаарлах, хэрэгсэл ашиглах боломжтой сургалт болон үнэлгээний үеийн загварын зан төлөвийн хяналтыг өргөжүүлэх, санаа зовоосон асуудлыг хэзээ шат ахиулан мэдээлэх талаар илүү тодорхой дүрэм тогтоох багтана. Мөн Astra-д зориулан бодлын хэлхээг багтаасан бүрэн үйл явцын бүх нийтийн хяналт болон дотоодод өргөн хүрээнд нэвтрүүлэхээс өмнөх заавал давах нийцүүлэлтийн үнэлгээний босгыг нэвтрүүлсэн.

Эдгээр хамгаалалтын арга хэмжээ чадавхаас үргэлж түрүүлж байх ёстой. Үргэлжлүүлэх нь хүлээн зөвшөөрөх боломжгүй аюулгүй байдлын эрсдэл учруулбал, бид өмнө нь хийж байсанчлан, мөн манай Preparedness Framework⁠(шинэ цонхонд нээгдэнэ)-ийн дагуу хангалттай хамгаалж чадахгүй системийн хөгжүүлэлт эсвэл нэвтрүүлэлтийг удаашруулж, эсвэл зогсооно.

Хиймэл оюуны системүүд улам чадварлаг хиймэл оюуны дараалсан үеийн хөгжлийг бие даан хөтөлдөг бүрэн автономит рекурсив өөрийгөө сайжруулалт өнөөдөр явагдахгүй байна. Үүнийг аюулгүй хийж чаддаг болох хүртэл бид эрэлхийлэх ёсгүй.

Гэхдээ хиймэл оюун ухаан дараагийн үеийн загваруудыг хөгжүүлж, нийцүүлэхэд ашигладаг судалгааны зарим хэсгийг аль хэдийн хурдасгаж байна. Манай хамгийн сүүлийн судалгаа⁠ хиймэл оюуны агентууд чадварлаг судлаачид хэдэн өдөр зарцуулж хийх байсан зарим ажлыг гүйцэтгэж чаддагийг харуулж байна. Энэ нь рекурсив өөрийгөө сайжруулах биш ч хөгжлийн чиг хандлагын нотолгоо юм.

Энэ хурдцыг аюулгүй байдалд мөн чиглүүлж болно, чиглүүлэх ч ёстой. Бидний зорилго бол хүний хяналтан дор ажиллаж, гүн сургалт болон нийцүүлэлтийг ахиулах автоматжуулсан AI судлаачдыг аюулгүй бүтээх явдал бөгөөд AI-ийн үе бүрийг ашиглан дараагийн үеийг нь зөвхөн илүү чадварлаг бус, илүү аюулгүй, илүү нийцтэй, хянахад хялбар болгоход ашиглах явдал юм.

Засгийн газрууд энэ ахицыг хэмжих нийтлэг арга боловсруулж, хүний бодит хяналтыг хадгалан, хөгжүүлэлтийг хэзээ, хэрхэн удаашруулах эсвэл зогсоох талаар аюулгүй байдлын нэгдсэн босго тогтоох ёстой. Хэрэв чадавхын өсөлтийг удаашруулахгүйгээр тодорхой аюулгүй байдлын босгыг хангаж чадахгүй бол эхнийхийг нь нэн тэргүүнд тавих ёстой. Технологи хүчирхэгжих тусам түүнийг хүрээлэх хамгаалалт улам бат бөх байх ёстой.

AI-ээр хурдассан AI хөгжлийн хэтийн төлөв нь сайн дурын амлалтаас илүүг шаарддаг. Америкийн Нэгдсэн Улсад технологийн хөгжлийг даган хувьсан өөрчлөгдөх боломжтой, чадавхад суурилсан заавал мөрдөх үндэсний зохицуулалт хэрэгтэй.

Манай Хил хязгаарын хиймэл оюуны ардчилсан засаглалын зураглал⁠ нь тогтвортой холбооны хүрээнд хүрэх замыг тодорхойлсон: нийтлэг туршилт болон хараат бус үнэлгээний шаардлага, илүү хүчтэй кибер аюулгүй байдлын хамгаалалт, ослын талаар мэдээлэх тодорхой журам, үндэсний бэлэн байдлыг нэмэгдүүлэх, рекурсив өөрийгөө сайжруулах чиглэлийн ахицыг хянах хамтын арга хэмжээ.

Конгресст хил хязгаарын аюулгүй байдлын хэд хэдэн нухацтай санал одоо боловсорч байна. Бид бүтээлчээр оролцсоор байх бөгөөд аюулгүй байдлын босгыг бодитоор дээшлүүлэх хууль тогтоомжийг дэмжинэ гэж найдаж байна. Ийм өндөр эрсдэлтэй үед төгсийг хүлээсээр сайныг алдаж болохгүй. Конгресс чуулган завсарлахаасаа өмнө арга хэмжээ авах ёстой.

Үндэсний хүрээ бат бөх боловч нарийн чиглэсэн байх ёстой. Хил хязгаарын аюулгүй байдлын шаардлага нь хамгийн чадварлаг системүүдийг хөгжүүлж буй хангалттай нөөцтэй цөөн лабораторид үйлчлэх ёстой бөгөөд гарааны компани, жижиг хөгжүүлэгчид, эсвэл хил хязгаараас хол үйл ажиллагаа явуулдаг судлаачдад үйлчлэх ёсгүй. Үүрэг нь чадавх, эрсдэлтэй дүйцсэн байх ёстой.

Мөн хил хязгаарын аюулгүй байдлын бодлого нь өөр нэртэй нээлттэй жингийн бодлого болж болохгүй. Нээлттэй загварууд нь, ялангуяа кибер аюулгүй байдлын салбарт болон тусгаар тогтнол, аюулгүй байдал эсвэл өгөгдөл байршлын зохицуулалтын хэрэгцээ орон нутгийн байршуулалтыг илүүд үзэх тохиолдолд шийдлийн нэг хэсэг байж чадна. Ихэнх нь хил хязгаарын чадавхаар бус, өртөг, хяналт, хоцролтоор өрсөлддөг. Бид Нээлттэй жин ба хиймэл оюун дахь Америкийн манлайлал захидалд⁠(шинэ цонхонд нээгдэнэ) гарын үсэг зурахдаа баталсанчлан, Америкт нээлттэй болон хаалттай загвар аль аль нь хэрэгтэй. Холбооны хүрээ нь өрсөлдөөнийг сулруулахгүйгээр, одоогийн зах зээлийн тэргүүлэгчдийг бэхжүүлэхгүйгээр, эсвэл инновацыг гадаад руу түлхэхгүйгээр хил хязгаарын чадавх ба эрсдэлийг шийдвэрлэх ёстой.

Төрийн нухацтай тогтолцоо нь эрх мэдлийн төвлөрлийг нэмэх бус, бууруулах ёстой. Өнөөдөр хил хязгаарын лабораториуд хил хязгаарын эрсдэлийг удирдах дүрмээ үндсэндээ өөрсдөө тогтоодог. Ардчиллын өмнө хариуцлага хүлээдэг стандартууд, хараат бус баталгаажуулалт, бодит ил тод байдал нь хувийн засаглалын тэрхүү хуваагдмал тогтолцоог орлоно.

Энэ нь Америкийн манлайлалд зайлшгүй чухал. АНУ хиймэл оюуны эринд зөвхөн чадавхаар ялж чадахгүй. Хүмүүс, байгууллагууд, засгийн газрууд технологийг нэвтрүүлэх хэмжээнд итгэхгүй бол техникийн хувьд тэргүүлэх нь төдийлөн ач холбогдолгүй. Бат бөх хамгаалалт нь инновацын эсрэг хийсэн буулт биш. Эдгээр нь өргөн хүрээний нэвтрүүлэлт болон Америкийн тогтвортой манлайлалд шаардлагатай дэд бүтцийн нэг хэсэг юм.

Бидэнд AI-ийн талаарх үндэсний стандарт нэн шаардлагатай бөгөөд хил хязгаарт ажиллаж буй хэн бүхэн яаралтай байгааг ойлгож чадна. Конгресс арга хэмжээ авах хүртэл муж улсууд орон зайг нөхөж, стандартыг шинэ түвшинд хүргэхийн тулд үргэлжлүүлэн арга хэмжээ авах хэрэгтэй.

OpenAI нь Калифорнийн SB 53, Нью-Йоркийн RAISE хууль, Иллинойсын SB 315 болон Массачусетст хэлэлцэж буй хил хязгаарын аюулгүй байдлын хууль тогтоомж дахь хараат бус аудитыг дэмжсэн. Бид муж улсуудыг эдгээр нийтлэг хамгаалалтын арга хэмжээний хүрээнд нэгдэхийг уриалж байна. Ингэснээр тэд Конгресс эцэст нь хуульчилж болох де-факто үндэсний суурь түвшнийг бий болгож чадна—бидний ⁠урвуу федерализм⁠ гэж нэрлэдэг арга. Гэхдээ уялдуулах гэдэг нь шаардлагуудыг өөрчлөлгүй царцаах гэсэн үг биш.

Өнөөдөр бид хууль тогтоох байгууллагаар батлагдаж, Захирагч Ньюсомд хүргэгдэхээр болсон Калифорнийн нэмэлт дөрвөн хуулийн төслийг албан ёсоор дэмжиж байна. Эдгээр нь хамтдаа хиймэл оюуны аюулгүй байдлын экосистемийн бие биеэ нөхөх хэсгүүдийг хамардаг.

SB 813⁠(шинэ цонхонд нээгдэнэ) нь хиймэл оюуны эрсдэлийг үнэлэх чадвартай, шаардлага хангасан хараат бус байгууллагуудыг томилох үйл явцыг бий болгоно. Манай ⁠(шинэ цонхонд нээгдэнэ)хил хязгаарын аюулгүй байдлын зураглал⁠(шинэ цонхонд нээгдэнэ)д дурдсанчлан, хараат бус техникийн үнэлгээг холбооны түвшинд заавал хийхийг бид илүүд үздэг. Тэнд бодлого боловсруулагчид үнэлэгчийн мэргэшил, аюулгүй байдал, маш эмзэг мэдээлэлд нэвтрэх эрхийн нэгдсэн стандартыг тогтоож чадна. Гэвч холбооны арга хэмжээ байхгүй тохиолдолд Калифорни нь аюулгүй байдлын илүү сайн үр дүнг бий болгох аюулгүй, чадавхтай үндэсний хараат бус үнэлгээний тогтолцооны дүрэм журмыг тогтооход тусалж чадна.

AB 1405⁠(шинэ цонхонд нээгдэнэ) нь хиймэл оюуны аудиторуудын бүртгэл, хараат бус байдал, ил тод байдал, хариуцлагын шаардлагыг бий болгоно.

SB 1119⁠(шинэ цонхонд нээгдэнэ) нь хамтрагч чатбот ашигладаг хүүхэд, өсвөр насныханд насны баталгаа, эрсдэлийн үнэлгээ, хараат бус аудит, эцэг эхийн хяналт, хортой контентоос хамгаалах арга хэмжээ шаардана. Бид саяхан энэ хуулийн төслийг дэмжиж байгаагаа илэрхийлсэн⁠. Энэхүү хуулийн төсөл нь OpenAI-ийн бүтээгдэхүүнүүд, ⁠дэлхийн бодлогын зарчмууд⁠, мөн ⁠(шинэ цонхонд нээгдэнэ)Эцэг эх, хүүхдэд аюулгүй хиймэл оюуны тухай хууль⁠(шинэ цонхонд нээгдэнэ)-ийг дэмжих замаар ахиулсан залуучуудын аюулгүй байдлын арга хэмжээ, түүнчлэн ChatGPT for Teens-д суулгасан хамгаалалтад тулгуурладаг. Үүнд эмзэг сэдвийн илүү хатуу өгөгдмөл тохиргоо, Quiet Hours, Study Hours, завсарлага авах сануулга багтана.

AB 1864⁠(шинэ цонхонд нээгдэнэ) нь генийн нийлэгжилтийн үйлчилгээ үзүүлэгчид болон ширээний нийлэгжүүлэх төхөөрөмж үйлдвэрлэгчдээс холбооны шалгалтын стандартыг мөрдөхийг шаардана. Ингэснээр хиймэл оюуны тусламжтай биологийн аюулын эсрэг чухал биет хамгаалалт бэхжинэ.

Бид эдгээр хуулийн төслүүдийн заримыг өмнө нь дэмжээгүй боловч сүүлийн үед ажиглагдсан чадавхын огцом ахицыг харгалзан байр сууриа дахин авч үзсэний дараа одоо дэмжиж байна.

Эдгээр хуулийн төслүүд нь холбооны зохицуулалтыг орлох зүйл биш. Харин эдгээр нь хүмүүсийг одоо хамгаалж, хэрэгжих боломжтой хамгаалалтын арга хэмжээнүүд ямар байдгийг харуулж, холбооны түвшний үйл ажиллагааны эрчийг нэмэгдүүлэх бодитой хүчин чармайлт юм.

Хууль тогтоомж дангаараа дэвшилтэт AI-ийг аюулгүй болгохгүй. Хамгийн чадавхтай системүүдийг хөгжүүлж буй лабораториудад мөн бодитой арга барил хэрэгтэй. Хамгийн яаралтай эхлэх зүйл бол мониторинг юм.

Энэ нь уялдаагүй байдлын хувьд онцгой чухал юм. Уялдаагүй байдал гэдэг нь загвар ухамсар эсвэл хорлонт санаа шаардалгүйгээр хүний санаа зорилго эсвэл тогтоосон хязгаарыг зөрчих арга замаар зорилгоо хэрэгжүүлэхийг хэлнэ. Загварууд илүү автономит болж, илүү хүчирхэг хэрэгсэл ашиглан, удаан хугацаагаар ажиллахын хэрээр хөгжүүлэгчдээс ийм уялдаагүй зан үйлийг хянаж, үр дүнтэй хамгаалалтын арга хэмжээ хэрэгжиж байгааг нотлохыг шаардах ёстой.

Хяналт нь мэдээлэл ил болгох тодорхой шаардлагатай уялдсан байх ёстой. Калифорнид бидний дэмжиж байсанчлан, загвараа боловсруулах, үнэлэх явцад тэдний загвар өөр байгууллагын аюулгүй байдлын хяналтыг зөвшөөрөлгүйгээр тойрч гарч, тухайн байгууллагын хамгаалагдсан систем эсвэл нууц мэдээлэлд ноцтойгоор нэвтрэх, өөрчлөх, устгах үед компаниуд өртсөн талуудад өгөгдөл бичгээр мэдэгдэх шаардлагатай байх ёстой. Мөн бид бусад ноцтой AI тохиолдлын талаар холбооны түвшинд тайлагнах шаардлагыг дэмжиж, ямар тохиолдлыг хамруулах, тэдгээр шаардлага ямар агуулгатай байхыг тодорхойлохоор ажиллаж байна.

Өнгөрсөн долоо хоногт мэдээлсэнчлэн OpenAI нь үр дагавартай үл нийцлийн зөрчлийг тайлагнах, дотоод хэрэглээг оролцуулан хил хязгаарын загварын үйл ажиллагааг системтэйгээр хянах тогтолцоог боловсруулж байна. Энэ нь компанийн санаачилга хэлбэрээр эхэлж байгаа ч илүү өргөн хүрээний холбооны бодлого, тайлагнах шаардлагыг боловсруулахад тусална гэж найдаж байна.

Бид салбарын санаачилгатай стандартын талаар бусад лабораториудтай хамтран ажиллахыг хүсэж байна. Салбарын санаачилгатай аливаа стандарт нь заавал мөрдөх холбооны хамгаалалтын арга хэмжээ, ардчилсан хяналтыг орлохгүй, харин нэмэлт болно. Гэвч бид AI-ийн чадавхын өөр үе шатанд орсон бөгөөд бүх хувилбарыг, тэр дундаа нэн даруй авах алхам болгон засгийн газраас гадуур сайн дурын үндсэн дээр юу бий болгож болохыг авч үзэх ёстой.

Ийм аливаа стандарт эцэстээ үндэсний хилээс даван хэрэгжих ёстой. Загварууд, судалгаа, техникийн мэдлэг дэлхий даяар шилждэг бөгөөд хамгийн чадварлаг системүүдтэй холбоотой доголдол тэдгээрийг хөгжүүлсэн улсын хилээс хол давсан үр дагавартай байж болно. АНУ олон улсад манлайлахыг хүсвэл дотооддоо итгэл төрүүлэхүйц стандарт тогтоох шаардлагатай бөгөөд нийцтэй олон улсын стандарт зайлшгүй хэрэгтэй болно гэдэгт бид улам бүр итгэж байна.

Хиймэл оюуны бодлогын боломж одоогоор нээлттэй байна. Бид үүнийг ашиглахаар төлөвлөж байна.

Энэ нь шуурхай, даруу байж, дасан зохицох хүсэлтэйгээр үйлдэл хийх гэсэн үг. Энэ нь бидний өөрсдөө боловсруулах байснаас ялгаатай байсан ч аюулгүй байдлын босгыг бодитоор дээшлүүлэх нухацтай саналыг дэмжих гэсэн үг. Мөн энэ нь технологи хөгжихийн хэрээр тогтолцоог бэхжүүлэх гэсэн үг.

Эхний алхам хэзээ ч төгс байхгүй. Харин одоо илүү том эрсдэл нь эхний алхмаа хийх гэж хэт удаан хүлээх явдал.