AI-ийн дараагийн үе шатны стандартыг бий болгох
Бидний эрхэм зорилго бол Ерөнхий хиймэл оюун ухааныг хүн төрөлхтөнд бүхэлд нь үр өгөөжтэй байлгах явдал юм. Сэм Алтманы саяхан тодорхойлсончлон, мөн Якуб Пахоцкийн тайлбарласнаар бид энэхүү эрхэм зорилгод чиглэсэн ажлаа дараах гурван үндсэн зорилгоор эрэмбэлдэг:
AI-ийн автоматжуулсан судлаач бүтээж, түүнтэй хамтран нийцүүлэлтийн асуудлыг давтан сайжруулж, хүмүүсийг өөрийгөө сайжруулах үйл явцын нэг хэсэг хэвээр байлгах арга замыг олсноор AI-ийн хөгжлийн дараагийн үеийг чиглүүлэх.
Өндөр оюун ухаант машинуудын боломжтой болгож буй шинжлэх ухааны дэвшил, эдийн засгийн өсөлтийн үр өгөөжийг хүртээх.
Хүн бүрийг хувийн AGI-тай болгож, чадавхжуулах.
AI бидний судалгаа, инженерчлэлийн ажлыг хурдасгаж байна. AI-д тулгуурласан судалгаа нь математикийн дэвшилд, тэр дундаа Навье—Стоксын мянганы бодлогын судалгаанд хүргэсэн. Энэ ахиц нь бидний бусад хоёр зорилгод ихээхэн найдвар төрүүлж байгаа бөгөөд анагаах ухааны чухал нээлтүүд, хүн бүрд хүртээмжтэй эрүүл мэндийн тусламж, мөн дэлхий даяарх жижиг бизнес, хувиараа бизнес эрхлэгчдийн эдийн засгийн чадавхыг нэмэгдүүлэх боломжтой.
Олон компани, улс оронд AI хурдацтай хөгжиж байгаа бөгөөд энэ салбарын ахиц нь хүн бүрд тулгарах боломж, сорилтыг өөрчилж байна. Чадварлаг, нийцүүлсэн AI нь бусад үр өгөөжийнхөө зэрэгцээ хамгаалалтыг бэхжүүлэх, нийцүүлэлтийн судалгааг ахиулах, AI-ийн хөгжлийн дараагийн үе шатыг ойлгож, чиглүүлэхэд хүмүүст туслах замаар энэхүү шилжилтийг туулахад чухал үүрэг гүйцэтгэнэ.
Энэхүү шилжилтийг аюулгүй туулахын тулд нийцүүлэлтийн судалгаа эдгээр чадавхтай хөл нийлүүлэн хөгжих шаардлагатай. Ингэснээр бидний болон бусдын бүтээсэн систем хүний үнэт зүйлстэй нийцэж, хүний хяналтад хэвээр байна. AI системүүд улам чадварлаг, бие даасан болж, AI-ийн судалгаа, хөгжүүлэлтийн илүү их ажлыг өөрсдөө гүйцэтгэхийн хэрээр энэ нь улам чухал болно. AI-ийн цаашдын хөгжлийг аюулгүй, үр өгөөжтэй байлгахын тулд нийцүүлэлтийн судалгааны ахиц болон лаборатори, улс орнуудын хөгжүүлэлтийг чиглүүлэх нийтлэг стандартын аль аль нь шаардлагатай.
AI-ийн автоматжуулсан судалгаанд хүний хяналт янз бүрийн түвшинд байж болно. AI системүүд дараа дараагийн үеийн AI-ийг хөгжүүлэх ажлын улам их хэсгийг хариуцахын хэрээр хүмүүс оролцсон хэвээр байсан ч рекурсив өөрийгөө сайжруулах (RSI) үйл явцыг улам бүр хөтлөх боломжтой. Энэ үйл явц улам автоматжихын хэрээр AI-ийн хөгжлийн хэмнэл огцом хурдасч болзошгүй.
AI-ийн автоматжуулсан судалгаа хүмүүсийн амьдралыг шууд сайжруулах загваруудыг бий болгоно гэдэгт бид итгэдэг. Энэ нь дэвшилтэт оюун ухааны өртгийг бууруулж, дэлхийн өнцөг булан бүрийн хүмүүст үр өгөөжийг нь хүртээж чадна. Автоматжуулсан судалгаа нь нийцүүлэлтийг эрс сайжруулж, улам чадварлаг болж буй AI-аас хамгаалах хамгаалалт бий болгоход тусална. AI-ийн автоматжуулсан судлаач нь AI-ийн автоматжуулсан аюулгүй байдлын судлаач ч байж чадна. Илүү чадварлаг, нийцүүлсэн системүүд чухал дэд бүтцийг хамгаалж, аюултай AI агентуудаас сэргийлэн, хамгаалалтын шинэ арга хэрэгсэл боловсруулахад тусалж чадна.
Бүрэн бие даасан RSI өнөөдөр хэрэгжээгүй байгаа бөгөөд аюулгүй хийх боломж бүрдэх хүртэл бид үүнийг зорих ёсгүй. Цааш үргэлжлүүлэх эсэх, хэрхэн үргэлжлүүлэх нь хүний хяналтыг хадгалах бидний чадвар болон үр өгөөж, эрсдэлийн талаарх мэдээлэлд тулгуурласан ардчилсан сонголтоос(шинэ цонхонд нээгдэнэ) хамаарах ёстой. Зохих анхаарал, болгоомжгүй хэрэгжүүлбэл RSI нь хүмүүс AI-ийн хөгжүүлэлтэд бодит хяналтаа алдаж, ойлгохоо больсон судалгааны үйл явцдаа хяналт тавьж чадахгүй болоход хүргэж болзошгүй. Үүний улмаас AI улам аюултай, нийцэл багатай болж, ерөнхийдөө хүмүүст аюул учруулж болзошгүй. Бидний мэдээлсэн Hugging Face-ийн хэрэг явдал нь RSI-ийн шууд үр дагавар биш боловч найдвартай хамгаалалт, нийцүүлэлтгүй үед эрсдэл хэр ноцтой болж болохыг урьдчилан харуулсан.
Хил хязгаарын AI хөгжүүлэлтийн аюулгүй байдал, хамгаалалтын практикт зориулсан олон улсын стандарт нь хөгжлийн хэмнэлийг тохируулахад нийцүүлэлтийн судалгаатай адил чухал байж болно. Стандартууд нь өндөр чанартай нотолгооны нийтлэг тодорхойлолт болон техникийн хамгаалалтын нарийвчлалд тавих харилцан зөвшилцсөн суурь шаардлагыг бий болгож чадна. Товчхондоо, эдгээр нь “AI-ийн гамшгийн эрсдэлийг бууруулах сайн арга хэмжээ ямар байх вэ?”
AI-ийн стандарт, инновацын төв (CAISI), муж улсын хууль тогтоомж, AI-ийн холбооны тогтолцоо зэрэг одоогийн ардчилсан институцүүд болон төр, хувийн хэвшлийн түншлэлийн шинэ хэлбэрүүд(шинэ цонхонд нээгдэнэ) үүнд тусалж чадна. Гэвч AI-ийн хөгжүүлэлт, нэвтрүүлэлт олон оронд явагдаж, хэрэглээ нь дэлхий даяар тархаж байгаа тул үр нөлөөг нь хэзээ нэгэн цагт хүн бүр ямар нэг байдлаар мэдрэх магадлалтай.
Тиймээс дараах гол сорилтуудыг шийдвэрлэхийн тулд стандарт боловсруулах олон улсын хүчин чармайлт шаардлагатай:
Бутрал — Улс орнуудын үнэлгээ, тайлагналын шаардлага, зөрчлийн тодорхойлолт хоорондоо зөрчилдөж, нотолгоог харьцуулах, шинээр бий болж буй чадавхыг ойлгох, хил дамнасан эрсдэлд хариу үзүүлэхэд хүндрэл учруулж болзошгүй.
Хамтын ажиллагаа — Улс бүр бие даан ажиллавал аль ч улсын хүсээгүй үр дүнд хүрч болно. RSI нь AI-ийн судалгааг өөрийг нь хурдасгах чадвартай бөгөөд ахицыг ойлгох, эрсдэлийг үнэлэх, хүний бодитой хяналтыг хадгалах бидний хамтын чадавхаас давж болзошгүй.
Чадавхын тэгш бус байдал — Хил хязгаарын хөгжүүлэлтийн үйл ажиллагаа болон холбогдох мэргэжлийн мэдлэг дэлхий даяар жигд тархаагүй. Энэ нь дээрх хоёр асуудлыг улам хурцатгадаг.
Эдгээр сорилт нээлттэй болон хаалттай загварын аль алинд хамаарна.
Тодруулбал, AI-ийн автоматжуулсан судалгаа эсвэл бусад дэвшилтэт чадавхыг хөгжүүлж буй аливаа AI лаборатори өөрийн хариуцлагын үндсэн зарчим болон хүчин төгөлдөр хуульд нийцүүлэн үүнийг аюулгүй хэрэгжүүлэх хариуцлага хүлээх ёстой. Стандарт шаардлагатай гэж үздэг бидний үндэслэл нь эрх мэдлийн төвлөрлөөс зайлсхийж, бодит амьдралд илүү сайн үр дүнд хүрэх зорилготой. Стандарт нь лабораториос гаднах олон оролцогчид энэ технологи хэрхэн хөгжих талаар санал бодлоо илэрхийлэх боломж олгож, аль нэг лабораторийн тодорхой практикаас үл хамааран түшиглэх ил тод зарчмуудыг бүрдүүлнэ. Талууд дээрх сорилтуудыг хамтран шийдвэрлэвэл илүү сайн үр дүнд хүрэх магадлалтай.
Тиймээс АНУ нь RSI-ийг оролцуулан хил хязгаарын AI-ийн дэлхийн техникийн стандартыг боловсруулахын тулд дэлхийн улс орнуудтай хамтран ажиллах хүчин чармайлтыг манлайлах ёстой гэж бид үзэж байна.
Энэхүү үзэл баримтлал цаг хугацааны явцад ихээхэн хувьсан өөрчлөгдөнө гэж бид үзэж байгаа ч хоёр тал нь зайлшгүй чухал байна.
Үүнийг хэрэгжүүлэх нэг арга нь Австрали, Канад, Герман, Франц, Кени, Япон, Солонгос, Сингапур, Энэтхэг, Их Британид аль хэдийн байгуулагдсан AI-ийн аюулгүй байдлын хүрээлэнгүүдийн шинээр бүрэлдэж буй сүлжээг ашиглах явдал юм. Ингэснээр CAISI болон үндэсний салбарын байгууллагуудаар дамжуулан стандарт тогтоох ажлыг дэмжиж, (1) чадавхын жишиг үзүүлэлтээр хэмжигдэх хил хязгаарын AI загвар, хөгжүүлэгчид; (2) RSI-ийг оролцуулсан AI-ийн автоматжуулсан судалгааны үр өгөөж, эрсдэлийн удирдлагад онцгойлон анхаарч болно. АНУ нь AI-ийн хэмжилт, үнэлгээ, шинжлэх ухааны чиглэлээр төрийн байгууллагуудыг хамтран ажиллуулах зорилгоор CAISI-аас 2024 онд байгуулсан Дэвшилтэт AI-ийн хэмжилт, үнэлгээ, шинжлэх ухааны олон улсын сүлжээ(шинэ цонхонд нээгдэнэ)-нд тулгуурлан ажлаа өргөжүүлж чадна.
Энэ ажлын хүрээнд боловсруулсан стандартууд нь чадавхыг хэмжих, үнэлэх, эрсдэлийг үнэлэх, хамгаалалтын хүрэлцээг тодорхойлох нийтлэг техникийн суурийг бүрдүүлнэ. Эдгээр техникийн стандарт нь AI загварт зориулсан тусгай зөвшөөрөл, гаргахаас өмнөх заавал хийх хяналт, зөвшөөрлийн шаардлага болохгүй. Улс бүрийн засгийн газар эдгээр стандартыг өөрийн эрх зүйн тогтолцоонд тусгах эсэх, хэрхэн тусгахаа шийднэ.
Мөн энэ ажил нээлттэй загвар болон хаалттай загвар хөгжүүлэгчид, бие даасан техникийн шинжээчид, эрдэм шинжилгээний байгууллагуудтай зөвлөлдөх замаар өрсөлдөөнт AI экосистемийг дэмжих ёстой. Нийтлэг стандартыг ил тод боловсруулж, шинэ оролцогчид эсвэл нээлттэй жинтэй загвар хөгжүүлэгчдийн өрсөлдөх боломжийг хүндрүүлэх зэргээр тодорхой компани, улс орон, бизнесийн загварт давуу тал олгохгүй байхаар төлөвлөх ёстой.
Бидний санал болгосончлон(шинэ цонхонд нээгдэнэ), улс орнууд үндэсний эрх мэдлээ алдалгүйгээр нийтлэг техникийн стандарт, хамтын ажиллагааны найдвартай сувгийг хөгжүүлсэн агаарын тээвэр, санхүүгийн тогтвортой байдал зэрэг салбараас энэ арга барил сургамж авч болно. Мөн ISO(шинэ цонхонд нээгдэнэ), Хил хязгаарын загварын форум(шинэ цонхонд нээгдэнэ), Агент AI сан(шинэ цонхонд нээгдэнэ), Нээлттэй, аюулгүй AI эвсэл(шинэ цонхонд нээгдэнэ) зэрэг тогтсон болон шинэ стандартын байгууллагуудтай, түүнчлэн олон улсын стандартыг бодит AI үнэлгээтэй холбох практик техникийн шаардлага боловсруулж буй Appia сан зэрэг хэрэгжилтэд төвлөрсөн байгууллагуудтай нягт хамтран ажиллах ёстой.
AI судалгааны бие даасан байдал нэмэгдэж, рекурсив өөрийгөө сайжруулах үйл явцыг удирдахад AI-ийн олон улсын стандарт онцгой чухал байна. Тодруулбал, эдгээр нь дараах стандартуудыг багтааж болно:
RSI-д хамаарах AI-ийн ахиц болон AI компанийн дотор явагдаж буй бие даасан судалгааны хэмжээг үнэлэх. Судалгааг хурдасгах тухай бидний саяхны тайлан нь энэ ажилд оруулж буй анхны хувь нэмэр юм.
AI-ийн автоматжуулсан судалгаанд тавих хүний хяналт, тэр дундаа ямар төрлийн автоматжуулсан судалгааны үйл явцад хүн нэн даруй хяналт хийх шаардлагатайг тогтоох.
Нийцүүлэлт болон AI-ийн автоматжуулсан судалгаатай холбоотой зөрчлийг ангилах, хянах, мэдээлэх, хариу арга хэмжээ авах, тухайлбал зөрчлийн ноцтой байдлын нийтлэг түвшин, мэдээлэх босгыг тогтоох. Нийцэл алдагдсан тохиолдлыг мэдээлэх бидний тогтолцоо бол анхны хувь нэмрийн нэг юм.
Эдгээр стандартаас гадна дэлхийн чухал дэд бүтцийн операторууд болон засгийн газрууд үндэсний аюулгүй байдлын асуудал, шинээр бий болж буй эмзэг байдал, аюул занал, мөн хурдацтай хувьсан өөрчлөгдөж буй хил хязгаарын AI-ийн аюулгүй байдлын шилдэг туршлагыг хуваалцах найдвартай харилцааны суваг байгуулах нь чухал гэж бид үзэж байна. Эдгээр чиглэлээр АНУ, Хятад хоёр яриа хэлэлцээ өрнүүлэх нь эерэг алхам бөгөөд удахгүй болох хэлэлцээ цаг үеэ олж байна.
AI-ийн хөгжлийн хэмнэлийг тохируулна гэдэг нь урьдчилан тогтоосон хурдыг баримтлах тухай биш. Техникийн хувьд нийцүүлэлтийн судалгаа болон түүний үр дүнг нэвтрүүлэх ажил чадавхын хөгжлөөс түрүүлж явахыг хангах тухай юм. Нийгмийн хувьд стандарт, институц, хамтын ажиллагааг ашиглан аж үйлдвэр, нийгмийн харилцаа, зах зээлийн хүчний сүлжээг бэхжүүлж, бүх талд ашигтай үр дүнд хүрэх тухай юм. Саяхан гаргасан кибер хамгаалалтын төлөө хамтран ажиллах уриалга нь үүний нэг жишээ юм.
АНУ-ын AI салбар техникийн хил хязгаарт ажиллаж буйгаас гадна санхүү, худалдаа, батлан хамгаалах, технологи, мэдээллийн систем зэрэг чухал салбарын дэлхийн сүлжээнд давуу байр суурьтай хэвээр тул манлайлах бүрэн боломжтой. Одоо манлайлах эсэхээс АНУ дэлхийн AI-ийн тогтолцоог өөрөө бүрдүүлэх үү, эсвэл эргэн тойронд нь бутархай, тэгш бус, зөрчилдөөнд автсан тогтолцоо бэхжихийг зүгээр харах уу гэдэг шалтгаална. Мөн дэвшилтэт AI нь АНУ болон түүний холбоотнуудын одоогийн сүлжээг бэхжүүлэх эсэх үүнээс хамаарна; манлайлж чадахгүй бол эдгээр сүлжээ суларч болзошгүй.
Геополитикийн өрсөлдөөн нь зөвхөн техникийн хувьд хэн тэргүүлж буйгаар бус, AI-ийг хэн илүү өргөн нэвтрүүлж, түгээж буйгаар хэмжигдэнэ. Цаашид үүнийг бодитой хамтын ажиллагааг хэн өрнүүлж, бизнесүүд болон нийгэм энэ технологид ирээдүйгээ даатгахад шаардлагатай оновчтой дүрмийг хэн бий болгож байгаагаар улам бүр шийдэх болов уу.
Үндэсний бат бөх засаглалыг бодитой олон улсын хамтын ажиллагаатай уялдуулах нь хамгаалалтыг сайжруулж, инновацыг үргэлжлүүлэн, AI-ийн үр өгөөжийг өргөн хүрээнд хүртээх замыг нээнэ.
