Оюун ухааны эринтэй танилцана уу

“Эрх мэдлийн халдан түрэх хандлагаас хамгаалахад эдгээр цаасан хаалтад найдах нь... хангалттай гэж үү?”
—Жеймс Мэдисон, Федералист №48

OpenAI-ийн шинэ Стратегийн ирээдүйн багийн Оюун ухааны эрин блогийг нээж байгаадаа бид баяртай байна. Манай цөөн хүний бүрэлдэхүүнтэй баг нэг гол асуултад хариулах нийтлэг зорилготой: хувьсгалт AI бий болж буй энэ үед хувь хүний эрх, бие даан шийдвэрлэх боломжийг хамгаалахын тулд чөлөөт нийгмийг хэрхэн шинэчлэн зохион байгуулах вэ?

AI-ийн аюулгүй байдал, бодлогын өргөн хүрээний салбарт ийм асуултыг заримдаа эрх мэдлийн төвлөрлийн эрсдэл гэж нэрлэдэг. Урт хугацаанд энэ төрлийн эрсдэл нь хамгийн том, хамгийн ноцтой бөгөөд үзэл баримтлалын хувьд шийдвэрлэхэд хамгийн бэрх сорилт гэсэн үзэл дээр манай багийн ажил тулгуурладаг. Яагаад?

Орчин үеийн төр бол хөрөнгө, бараа бүтээгдэхүүн эзэмшигчид, улс төрийн эрх мэдэлтнүүд, ард иргэд зэрэг эрх мэдлийн янз бүрийн төв хооронд удаан хугацаанд жигд бус өрнөсөн тохиролцооны үр дүн юм. Хамгийн суурь түвшинд улс төр, цэргийн эрх мэдэл хөдөлмөрт тулгуурлаж ирсэн. Улс төрийн эрх мэдэлтэй байна гэдэг нь хүчийг хууль ёсоор хэрэглэх онц эрхийг эзэмшинэ гэсэн үг. Хүн төрөлхтний бүхий л түүхийн турш энэ онц эрхийг цэрэг, өнөөдөр бидний “цагдаа” гэж нэрлэдэг хүмүүс болон иргэн-цэргийн асар том хүнд сурталт тогтолцоо бүрдүүлж ирсэн. Мэдээж олон технологийн хэрэгсэл нэмэр болсон ч уг тогтолцоог үндсэндээ хүмүүс ажиллуулдаг бөгөөд хэвийн үргэлжлүүлэхийн тулд тэдний дэмжлэг шаардлагатай байв. Цэрэг, хэрэгсэл, дагалдах хүнд сурталт тогтолцоо бүхий энэ бүх аппаратыг төлөх хүсэлтэй хүмүүсийн цалин, үйлдвэрлэлээс авсан татвараар санхүүжүүлж байлаа. Иймээс эрх мэдэл угтаа олон хүний өргөн хүрээний хамтын ажиллагаа, зөвшөөрөлд түшиглэж ирсэн. Улс төрийн удирдагчдад “[ард түмний] үзэл бодлоос өөр түшиг тулгуур байхгүй” хэмээн Дэвид Хьюм ажиглахдаа ихэвчлэн далд байдаг энэ ойлголтыг товч бөгөөд тодорхой илэрхийлсэн.

Гэвч цаашид тийм биш ч байж мэднэ. Бодит орчинд ажилладаг автономит системүүд хөгжсөнөөр төр дотооддоо ч, олон улсад ч хамтран ажиллах хүсэлтэй цэрэг, цагдаад найдалгүйгээр тун удахгүй хүч хэрэглэх чадвартай болж магадгүй. Машины оюун ухаан хөгжсөнөөр төр шаардлагатай орлогоо хүмүүсийн хөдөлмөрийн үр шимээс бус, дата төвүүдийн бүтээмжээс бүрдүүлэх боломжтой болж мэднэ. Хүнд сурталт тогтолцооны үйл ажиллагааг өөрийг нь ч үндсэндээ автоматжуулах боломжтой. Тиймээс эрх мэдлийг хадгалахад нийгэм даяарх тохиролцоо шаардлагагүй болж, өргөн утгаар нь авч үзвэл ард түмэнд хэлэлцээний ширээний ард өчүүхэн суудал л ногдох, эсвэл бүр огт суудалгүй болох магадлалтай.

Ийм үр дүнгээс зайлсхийх нь хүний эрх чөлөөг хамгаалах үндсэн нөхцөл юм. Ийм үр дүнгээс үүдэх хувь хүний бие даасан байдлын урт хугацааны хохирлыг шинжлэх ухааны ямар ч нээлт, технологийн дэвшил, эдийн засгийн өсөлтөөр зөвтгөх аргагүй. AI-ийн талаарх дөнгөж бүрэлдэж буй улс төрийн хэлэлцүүлгийг зүй ёсоор өдөөж буй олон түгшүүр энэ асуулттай холбоотой. Бизнес, ашиг сонирхлын бүлэг, хувь хүмүүс бүгд “Би хэлэлцээний ширээн дэх суудлаа алдах уу?” гэж санаа зовдог.Тодорхой хэмжээнд 21-р зууны Америкийн улс төрийг улс орны чиглэлд хувь хүн, хамт олны нөлөөлөх боломж болон эдийн засаг “хэний төлөө” үйлчилдэг тухай ижил төстэй санаа зовнил тодорхойлж ирсэн. AI эдгээр өмнө нь байсан асуудлыг улам чухал болгож байгаа нь зүй ёсны хэрэг.

Энэ бол өнөөгийн намын улс төрөөс ч, бидний хувьд хэчнээн эрхэм байлаа ч бүгд найрамдах ардчиллыг өнөөдөр хэрэгжүүлдэг хэлбэр, ёслолоос ч илүү гүн үндэстэй бүтцийн асуудал юм. Төлөөлөгчдөө сонгох тогтсон үйл явц хэвээр байсан ч хүмүүс эрх мэдлээ алдах замд орж болно. Нэг цаасан дээр хүмүүсийг эрх чөлөөтэй гэж бичсэн байлаа ч тэд бие даан шийдвэрлэх боломжоо алдаж болно.

АНУ чөлөөт улс болон мэндэлж байх үед Жеймс Мэдисон “цаасан хаалт” дангаараа дарангуйллаас сэргийлэхэд хангалтгүйг аль хэдийн ойлгож байв. Үндэслэгчдийн олонтой адил түүний гол санаа зовнил нь эрх мэдэл зохисгүйгээр төвлөрөхөөс сэргийлэх явдал байлаа.

Гэхдээ энэ нь Үндсэн хуулийг санаачлагчид эрх мэдлийн төвлөрлийг эрс сааруулахыг дэмжиж байсан гэсэн үг биш юм. Харин тэд эрх мэдлийн тэнцвэрийг тухайн үеийнхээ тэргүүлэх шинжлэх ухаан болох Ньютоны механикийн зүй тогтолд тулгуурласан зүйрлэлээр тайлбарлаж, загварчилсан байдаг. Америкийн үндэслэгч баримт бичгүүдэд таталцлын хүчний хэл, зүй тогтлыг тусгасан бөгөөд “тойрог зам” ба “бөмбөрцөг”-ийн тухай болон нэг зүйлийн нөгөө зүйл рүү чиглэсэн “татах” хандлагын талаар олонтоо дурдсан байдаг. Нарны аймаг гэдэг нь чулуулаг биетүүдийн төвлөрөл бус байдлаар эмхэлсэн тогтолцоо биш; энэ нь гаргуудыг тойрон эргэх дагуулууд, тэдгээр гаргуудыг өөрсдийг нь тойрон эргэх төв нарнаас бүрддэг. Тэнгэрийн биетүүд хөдөлгөөн, таталцлын хувьд урьдчилан таамаглаж болох хандлагатай байдагтай адил хүмүүс, байгууллагууд эрх мэдэлд тэмүүлэх хандлагатай гэж тэд үзсэн. Эрх мэдэл зохисгүйгээр төвлөрөхөөс сэргийлэхийн тулд эдгээр хандлагын механикийг ойлгож, тэдгээрийг хооронд нь эсрэг хөдөлгөх шаардлагатай гэж үзэж байв.

Тиймээс Үндэслэгчдийн зорилго эрх мэдлийн бүх төвлөрлөөс зайлсхийх бус, эрх мэдлийг эрх мэдлээр, амбицыг амбицаар хязгаарлан хэт төвлөрөхөөс сэргийлэх явдал байв. Өнөөдөр бид эдгээр суурь динамикийг “урамшуулал”, “тоглоомын онол” гэх мэт үгээр тайлбарлаж болох юм.

Үүнтэй адил, машины дэвшилтэт оюун ухаан чөлөөт нийгэмд учруулах бүтцийн сорилтын хариу нь эрх мэдлийг төсөөлж болох хамгийн туйлын хэмжээнд төвлөрүүлэхгүй байх явдал биш бололтой. Харин нэг этгээд эсвэл цөөн хэдэн этгээд бусдыг давамгайлж чадахгүй байхаар эрх мэдлийн зөв тэнцвэрийг тогтоон хадгалахыг эрэлхийлэх хэрэгтэй.

Ийм тэнцвэрт хүрэхийн тулд энэ технологийн бодит байдлыг халхавчгүйгээр тунгаах шаардлагатай. Хэчнээн хорлонтой байсан ч ямар ч хүн мянга, сая бусдад асар их хор хөнөөлийг төвөггүй учруулж чаддаг дэлхий бол эрх мэдлийн зөв тэнцвэрт хүрсэн дэлхий биш. Гэхдээ хувь хүмүүс эрх чөлөөгөө илэрхийлэхдээ ашигладаг хэрэгслийнхээ бараг бүх талд өргөн хүрээнд нэвтрэх, хяналт тавих боломжгүй бол бид мөн л эрх мэдлийн зөв тэнцвэрт хүрээгүй байна. Нэг компани эсвэл цөөнхийн монопол эдийн засаг, хүний нийгмийн суурь бүтцийг тодорхойлж, хянах ёсгүй.

Мөн хорлонтой хүмүүсээс үүдэлгүй эрсдэл байж болохыг хүлээн зөвшөөрөх хэрэгтэй. Саяхны Hugging Face-ийн хэрэг явдал AI агентууд даалгасан ажлынхаа хүрээнээс давж, операторуудын таамаглаагүй, зөвшөөрөөгүй байдлаар бие биеийнхээ нээлтэд тулгуурлан ажиллаж чаддагийг харуулсан. Hugging Face-ийн хэрэг явдлаас гадна хүний хяналтаас “тасарсан” хэт оюунлаг AI манай улс төр, эдийн засгийн байгууллагуудын тэсвэртэй байдал, улмаар бидний амьдралд ямар нөлөө үзүүлэх талаар хүмүүс санаа зовох нь зүй ёсны хэрэг. Төвлөрлийг сааруулах нь олон асуудлыг шийднэ гэж үздэг байсан ч бүх асуудлыг шийднэ хэмээн дүр эсгэх нь эдүгээ тодорхой, бодитоор тулгарсан эрсдэлүүдийг үл тоомсорлосон хэрэг.

Дээр дэвшүүлсэн асуудлыг судлах явцад бүрэн бус дараах өргөн хүрээний зарчмууд бидний ажлыг чиглүүлнэ:

• Заримдаа аюулгүй байдал болон эдийн засгийн өсөлтийн аль алинтай нь зөрчилдсөн ч хүмүүс AI болон холбогдох технологийг ашиглахдаа бие даасан байдал, боломжоо хадгалах ёстой;
• Хувь хүний бие даасан байдал нь технологийг буруу эсвэл зүй бусаар ашигласныхаа төлөө хүлээх хувь хүний хариуцлагаас хамаарна;
• Тодорхой хэмжээнд хамтын ажиллагаа шаарддаг цөөн боловч ноцтой эрсдэл бий. Ийм хамтын ажиллагааны хамрах хүрээг аль болох явцуу, даруухан байлгах ёстой;
• Боломжтой бүх тохиолдолд хууль эрх мэдлийг төвлөрүүлэхийн оронд өрсөлдөөний тэгш нөхцөлийг бүрдүүлж, хувь хүн болон жижиг байгууллагыг чадавхжуулахыг зорих ёстой;
• Өнөөдөр бидэнд харь мэт санагдах хэлбэрээр хувьсан өөрчлөгдөх шаардлагатай байсан ч хүний улс төр, нийгэм, эдийн засгийн байгууллагууд дэлхийн үйл хэргийн чиглэлийг тодорхойлоход тэргүүлэх байр сууриа хадгалах ёстой;
• Урт хугацааны AI-ийн засаглал нь хязгаарлагдмал мөрдөн тогтоох боломжийг бүрдүүлэх шинэ институцийн механизмд тулгуурлана. AI системүүд хөндлөнгийн хүмүүсийн бие махбодын сайн сайхан байдал эсвэл өмч хөрөнгөд нөлөөлөх өндөр эрсдэлтэй үйлдэл хийхэд уг үйлдлийг хариуцлага хүлээх хүн эсвэл хүний хяналттай байгууллагатай холбон тогтоох боломжтой байх ёстой. Гэхдээ ийм аливаа механизмыг хувийн нууцыг гол цөмд нь тавин зохион бүтээх ёстой. Үзэл бодлоо чөлөөтэй илэрхийлэхэд нэрээ нууцлах боломж шаардлагатай бөгөөд хүмүүс олон нөхцөлд AI-г нэрээ нууцлан ашиглах эрхтэй байх ёстой.

Сайн зарчмуудын алиных нь адил хоорондоо тодорхой зөрчилтэй эдгээр зарчмыг хэрхэн тэнцвэржүүлэх ёстой гэж үзэж буйгаа бид аль болох тодорхой тайлбарлахыг хичээнэ. Үүний тулд төрийн бодлогын загварчлал, эдийн засаг, хууль, түүх, машин сургалтын огтлолцолд судалгаа хийнэ. Мөн өргөн хүрээний таамаглал дэвшүүлэх шаардлагатай. Жишээлбэл, Аж үйлдвэрийн хувьсгалын технологиуд, ялангуяа төмөр зам орчин үеийн менежментийн корпорацийг бий болгосонтой адил AI компаниудыг бүтцийн түвшинд өөрчилнө гэж бид үзэж байна. Компаниудын бүтэц, мөн төрийн байгууллага болон иргэний нийгэм бүхэлдээ чухам хэрхэн өөрчлөгдөж болох тухай илүү баялаг төсөөлөлгүйгээр ирээдүйн улс төрийн эдийн засаг, эрх мэдлийн тэнцвэрийг тунгаахад бэрх.

Стратегийн ирээдүйн баг ажлаа энд төдийгүй судалгааны өгүүлэл, видео, подкаст зэрэг бусад хэлбэрээр хуваалцана. Бидний ажил байнга хөгжиж, давтан сайжруулах, хэлэлцэн мэтгэлцэх, санал хүсэлтийг нээлттэй хүлээн авахад түлхүү анхаарна. “Сингуляр байдлын бэлд” зогсож буй бидэнд хариултаасаа хавьгүй олон асуулт бий. Зөвхөн “цаасан хаалт” бидний эрэлхийлж буй шийдлийг өгөхгүй гэдгийг мэднэ. Гэхдээ бичигдсэн зүйлийг “ердөө хэдэн үг” хэмээн бас үл тоомсорлохгүй. Бид АНУ-ын даруухан цаасан баримтад баталгаажсан үзэл бодлоо чөлөөтэй илэрхийлэх эрх, хувь хүний эрх чөлөөний үзэл санаанд үйлчилдэг. Эдгээр үзэл санаа нь Үндсэн хуульд нь төдийгүй дэлхийн бусад олон чөлөөт нийгмийн үндсэн хуульд туссан билээ.

Эцсийн дүнд бидэнд тулгарч буй нүсэр асуултуудад нэг компани, нэг салбар, бүр нэг нийгэм ч дангаараа хариулж чадахгүйг бид мэднэ. Энэ бол хүн төрөлхтөн хамтдаа гүйцэтгэх ёстой зорилт юм. AI манай ертөнцийг хэрхэн өөрчлөн байгуулахтай холбоотой хамгийн хүнд сэдвүүдийг тодруулах нь бидний дээд хүсэл юм. Бидний ажил дөнгөж эхэлж байгаа бөгөөд авирах зам урт хэвээр байна.

Тайлбар: Ашгийн бус AI Futures Project төслөөс ялгаж ойлгуулахын тулд энэ блогийн нэрийг Оюун ухааны эрин болгон өөрчилсөн.