НҮБ-ын Аюулгүйн Зөвлөлд Сэм Алтманы хэлсэн үг

Өнөөдөр OpenAI-ийн гүйцэтгэх захирал Сэм Алтман Нэгдсэн Үндэстний Байгууллагын Аюулгүйн Зөвлөлд хиймэл оюун ухааны асуудлаар үг хэллээ. Тэрээр хиймэл оюун ухаан боломжийг тэлэх чадавхтайг, хүчирхэг системүүдийг хүний хяналтад байлгахын ач холбогдлыг, мөн хиймэл оюуны аюулгүй байдлын чиглэлээр олон улс хамтран ажиллах шаардлагатайг онцлов.

Ноён Ерөнхийлөгч, эрхэмсэг ноёд оо, баярлалаа. Энэ чухал үед энд хүрэлцэн ирж, та бүхэнтэй ярилцах боломж олдсонд нэр төрийн хэрэг гэж үзэж байна.

Бид хиймэл оюун ухааны талаар олон жил ярьсан ч сүүлийн хэдэн долоо хоног, сард нөхцөл байдал өөрөөр мэдрэгдэх боллоо. Загварууд хурдацтай ахиснаар үйл явдлын хугацаа богиносож буй мэт болж, үр өгөөж нь илүү бодитой болсон ч ач холбогдол, эрсдэл нь мөн улам тулгамдлаа.

Бидний өмнө сонголт байна. Хиймэл оюун ухаан бүтээлч байдал, нээлтийн шинэ Сэргэн мандалтын үеийг авчрах ч боломжтой, эсвэл үймээн, эмх замбараагүй байдлын шинэ Аж үйлдвэрийн хувьсгал болох ч боломжтой.

Сэргэн мандалт бол шинэ багаж хэрэгсэл, шинэ санаа, шинэ институц хүмүүсийн өөрсдийгөө юу хийж чадна гэж төсөөлөх хүрээг тэлсэн үе байсан. Хиймэл оюун ухаан бидний үед ийм үүрэг гүйцэтгэж чадна. Хүмүүс өөрсдийн төсөөлдгөөс хавьгүй чадвартай гэдэгт би итгэдэг. Гэвч боломж олгох зориулалттай атлаа анхаарлыг нь сарниулж, олонтоо булаадаг хязгаарлагдмал технологи тэднийг хойш татсаар ирсэн.

Хиймэл оюун ухааны хамгийн сайн хувилбар гэдэг нь хүмүүсийг аварга машины эрэг шураг болгох, эсвэл хүний мөн чанарыг үгүй болтол амьдралын бүх хэсгийг оновчлох тухай биш. Харин улам бүр ээдрээтэй болж буй ертөнцөд хүмүүст илүү их бие даах чадвар буюу суралцах, бүтээх, нээх, байгуулах, оролцох илүү их боломж өгөх тухай юм. Хиймэл оюун ухаанаар автоматжуулах боломжгүй, автоматжуулах ч ёсгүй олон зүйл бий.

Хиймэл оюун ухааныг зөвхөн машинуудыг өөрийнх нь төлөө улам хурдан ажиллуулахын тулд бус, хүмүүст зориулан бүтээх ёстой. Хиймэл оюун ухаан бүтээхээр ажиллаж буй зарим хүний хэлсэн зүйлс тийм ч хар бараан утопи шинжтэй тул муу шинжлэх ухааны уран зөгнөлт киноны үйл явдал шиг сонсогддог.

Ийм хүчирхэг зүйл айдас төрүүлэх нь ч аргагүй. Асар их боломж, бүрэн ойлгож болохуйц түгшүүрийг зэрэг мэдэрч буй энэ цаг үе ээдрээтэй байна.

Эдгээр загвар шинэ эм, илүү сайн эрүүл мэндийн тусламж үйлчилгээ, чанартай боловсрол зэрэг шинэ мэдлэгийг нээж, илүү бүтээмжтэй эдийн засгийг бий болгоход хүмүүст тусалж чадна. Тэд өнөөдөр хүршгүй мэт санагдах мөрөөдөл, тэмүүллээ биелүүлэхэд хүмүүст туслах шинэ багаж болж чадна. Энгийн хүний хувьд амьдралын ээдрээ төвөг асар их нэмэгдсэн. Хиймэл оюун ухаан урьд хожид байгаагүй нээлт, инновацын хэрэгсэл байхын зэрэгцээ энэ ээдрээ төвөгтэй байдлаас хамгаалах хэрэгсэл ч болж чадна.

Нөгөө талаар, хиймэл оюуны системүүд улам чадвартай, бие даасан болохын хэрээр манай институцээс хурдан урагшилж, эрх мэдлийг хэт цөөн хүний гарт төвлөрүүлэх эсвэл хүмүүсийн ойлгож, хянаж чадахаа больсон шийдвэр гаргаж болзошгүй.

Өөрийгөө болон ирээдүйн хувилбаруудаа сайжруулах чадвартай системд ойртохын хэрээр энэ асуудал онцгой чухал болно. Үүнийг ихэвчлэн рекурсив өөрөө сайжрах чадвар гэж нэрлэдэг. Хиймэл оюун ухаан бүтээх үйл явц автоматжихын хэрээр түүний хөгжлийн хурд огцом нэмэгдэж болзошгүй. Энэ цаг үед туйлын болгоомжтой хандах шаардлагатай.

Би профессор Бенжиотой үндсэндээ санал нэг байна. Гэхдээ би гурвын оронд хоёрыг нэрлэе. Хиймэл оюуны хөгжил маш буруу чиглэлд эргэж болох, бидний зайлсхийх ёстой хоёр зам бий гэж боддог.

Нэгдүгээрт, бид ирээдүйн хяналтыг хиймэл оюун ухаанд алдаж болзошгүй. Эрсдэл нь үйл явц хэт хурдацтай өрнөж, хүмүүс юу болж байгааг дагаж чадахгүй, шаардлагатай үед хөндлөнгөөс оролцож чадахгүй болох явдал. Энэ нь мэдээж аймшигтай үр дагавартай.

Үр өгөөж нь асар их, хөгжлийг удаашруулахгүй байх нь нэн чухал мэт санагддаг гэх шалтгаанаар салбарынхан технологийн хэт их эрсдэлийг хүлээн зөвшөөрч болохгүй. Өрсөлдөөнд бусад компанийг ялах хүсэл нь яаруу шийдвэр гаргах шалтгаан биш. Бид үүнийг хийх боломжгүй өрсөлдөөнд гарцаагүй түгжигдсэн гэж ч үздэггүй. Бид өмнө нь өөрсдийн шийдвэрээр хөгжлийн хурдаа сааруулж байсан. Цаашид ч шаардлагатай үед тэгнэ. Бид зорилготой нийцэж буй эсэх, хянах боломж, аюулгүй байдлын зайлшгүй баталгааг гаргаж чадахгүй систем бүтээхийг хүсэхгүй. Хэн ч ийм систем бүтээхээс зайлсхийх нь чухал гэж үздэг.

Эдгээр систем юу хийж байгааг бид ойлгож, тэд асар ухаалаг болсон ч хүмүүсийн зорьсны дагуу ажиллана гэдгийг батлах хүчтэй нотолгоотой байх хэрэгтэй. Үнэндээ тэд асар ухаалаг болох тусам энэ нь бүр ч чухал. Хүмүүс гамшгийн эрсдэлийг 10%, 1%, 12% эсвэл 0.1% гэж тооцох эсэх нь хамаагүй. Эдгээрийн аль нь ч хүлээн зөвшөөрөх хэмжээнд ойртохгүй. Хүний хяналтад байлгаж чадна гэдгээ туйлын баттай нотолж чадахгүй загварыг бид сургах ёсгүй.

Энэ бол нөхцөл байдал буруугаар эргэх нэг зам. Нөгөө чиглэлд эдгээр систем эрх мэдлийг хэт цөөн хүний гарт хэт ихээр төвлөрүүлж болзошгүй. Ямар ч хувь хүн, компани эсвэл улс хамгийн хүчирхэг хиймэл оюуны загваруудыг ашиглан өөрийн ертөнцийг үзэх үзлийг бусдад тулгах эрхтэй байж болохгүй. Энэ технологийг зөвхөн өөрт нь итгэн даатгаж болно гэж үздэг компани эсвэл улс уг итгэл үнэмшлээрээ бараг аливаа үйлдлийг зөвтгөж чадна. Аль нэг талд ашигтай байсан ч бид ийм логикоос татгалзах ёстой.

Энэ хоёр бэрхшээлийг даван туулах бодитой зам бий гэдэгт би итгэдэг. OpenAI эдгээр асуудалд тодорхой зорилготой ханддаг: хиймэл оюун ухаан хүмүүст өөрсдийн амьдралаа илүү ихээр хянах боломж өгөх ёстой. Өөрсдийн хүссэнээр амьдрах илүү их эрх чөлөө өгөх ёстой. Том, жижиг аливаа асуудлыг шийдэх, нийгэмлэгээ сайжруулах илүү их чадвар өгөх ёстой. Бид сохор өөдрөг үзлийн урхинд орохыг хүсэхгүй байна. Мөн сүйрлийг зөгнөх үзлийн урхинд ч орохыг хүсэхгүй байна. Аль нэг туйл руу хэт хэлбийх нь бидний өмнө буй сорилтуудыг амжилттай шийдэхэд тус болохгүй. Ялангуяа дэлхий нийт болон хүн төрөлхтөн энэ технологийн тусламжтай шийдэж болох асар том сорилтуудтай тулгарч буй энэ үед бүр ч тус болохгүй. Тиймээс бид энэ хоёр туйлын дундах замаар явахыг хичээдэг.

Бидний хувьд энэ нь гурван зарчмыг хэлнэ.

Нэгдүгээрт, хиймэл оюун ухааны чадавх нэмэгдэхийн хэрээр түүний шийдвэр гаргалтын төвд хүн хэвээр байх ёстой. Зорилго, үнэт зүйлтэй нийцүүлэх нь онолын судалгааны асуудал биш. Энэ нь системүүдийг хүний найдвартай хяналтад байлгаж, хүний үнэт зүйлсийг тусган, хөгжлийн дараагийн үе шатыг хүмүүс чиглүүлэхэд туслуулах ажил юм. Бид хүний шүүлт, хүний үнэт зүйлсийг автоматжуулахыг зориогүй бөгөөд тэгэх ч ёсгүй.

Хоёрдугаарт, шинжлэх ухааны дэвшил, эдийн засгийн өсөлтийн үр шимийг хүмүүс бүтээж, хүмүүс хүртэх ёстой. Хиймэл оюун ухаан судлаачдад нээлт хийх, эмч нарт өвчтөнөө эмчлэх, багш нарт сурагчдаа сургах, бизнес эрхлэгчдэд компани байгуулах, нийгэмлэгүүдэд шийдэх боломжгүй мэт санагдсан асуудлаа шийдэх болон бусад олон зүйлд туслах ёстой. Хүн төрөлхтний тасралтгүй дэвшлийн түүх нь багаж хэрэгсэл хүний бие даан үйлдэх чадварыг орлосон тухай биш. Харин зөв багаж хэрэгсэл хүмүүсийг илүү чадвартай болгодог тухай бөгөөд энэ нь бидний төсөөлж байгаагаас ч хол ахина гэдэгт би итгэдэг.

Гуравдугаарт, энэ технологи хүн бүрд эрх мэдэл, боломж олгох ёстой. Хүмүүс өөрсдийн боломжоо бүрэн нээж, өөртөө, нийгэмлэгтээ, улс орондоо болон дэлхий нийтэд үнэ цэн бүтээснээр сайхан ирээдүй бий болно. Бид энэ технологийг бүтээгчдийн нэг байж болох ч энэ түүхийн баатрууд нь бид биш. Бидний үүрэг бол дэлхийн өнцөг булан бүрийн хүмүүст боломж олгож, хүн төрөлхтний ур чадвар, авьяас билгийн гайхамшигт итгэх явдал.

Урьд өмнө бидэнд байгаагүй мэдлэгийг нээн илрүүлэх чадвартай загварууд одоо бидэнд бий. Математикийн салбарт гарсан ахицыг авч үзье. Гурван зуны өмнө манай загварууд бага ангийн математикийг боломжийн хэмжээнд боддог байв. Хоёр зуны өмнө тэд ахлах ангийн математикийн олимпиадын бодлогуудыг нэлээд сайн боддог болсон. Өнгөрсөн зун бид олон улсын хамгийн нэр хүндтэй математикийн олимпиадын алтан медалийн түвшинд хүрсэн. Харин энэ зун, хэдхэн долоо хоногийн өмнө манай нэг загвар Мянганы шагналт бодлогуудын нэг болох Навье—Стоксын тэгшитгэлийг шийдсэн.

Эдгээр тэгшитгэлийг нисэх онгоцны загварчлал, цаг агаарын урьдчилсан мэдээ, цусны урсгалын судалгаанд ашигладаг. Бид математикийн бодлогыг зүгээр л бодохын төлөө шийддэггүй. Харин хүмүүст шинэ мэдлэг нээн илрүүлж, түүгээрээ эрүүл мэндийн тусламж үйлчилгээг сайжруулах, амьжиргааны түвшнийг дээшлүүлэх, дэлхий даяарх хүн бүрийн боломжийг тэлэх хүч өгөхийн төлөө шийддэг. Нээж илрүүлэх зүйл асар их хэвээр байна.

Гэхдээ компаниуд ардчилсан үйл явцыг орлохгүй байх нь нэн чухал.

Хиймэл оюун ухаан ардчилсан байх ёстой бол хамгийн чухал шийдвэрүүдийг зөвхөн Сан-Францискогийн лабораториуд гаргаж болохгүй. Тэдгээр шийдвэрийг ардчилсан үйл явцаар, үйлчилж буй иргэдийнхээ өмнө хариуцлага хүлээдэг засгийн газруудын оролцоотой тодорхойлох ёстой.

Олон улсын түвшинд үүний тулд хамтын ажиллагаа шаардлагатай. Түүхэнд өрсөлддөг, тэр бүр бие биедээ таатай ханддаггүй улс орнууд ч хүчирхэг шинэ технологи бий болоход нийтлэг ашиг сонирхол, нийтийн сайн сайхны төлөө нэгдэж байсан үе бий. Одоо яг тийм үе ирсэн гэж бид үзэж байна.

Бидэнд үндэсний болон олон улсын хил хязгаарын хиймэл оюуны харилцан уялдаатай стандартын механизм хэрэгтэй. Үүнд чадавхыг хэмжих, эрсдэлийг үнэлэх, хамгаалалт хангалттай эсэхийг тогтоох, системүүд бие даахын хэрээр хүний бодитой хяналтыг хадгалах стандартууд багтана.

Улс орнууд нотолгоог харьцуулж, шаардлагын биелэлтийг баталгаажуулан, болж буй үйл явдлын талаар нийтлэг хэл, ойлголттой байхын тулд бидэнд нэгдсэн стандарт хэрэгтэй.

Алдаа доголдол гамшиг болохоос өмнө дэлхий нийт сургамж авахын тулд осол, зөрчлийг үнэн зөв, шуурхай мэдээлэх, ангилах болон мэдээлэх протокол хэрэгтэй.

Мөн шинээр илэрч буй эмзэг байдал, шинэ аюул заналын мэдээллийг хуваалцахын тулд засгийн газрууд, чухал дэд бүтцийн операторууд, техникийн мэргэжилтнүүдийн хооронд аюулгүй сувгууд хэрэгтэй.

Мэдээж эдгээр стандарт нь одоогийн давамгай тоглогчдын байр суурийг бэхжүүлж, бизнесийн нэг загварыг нөгөөгөөс нь илүүд үзэх ёсгүй. Тэдгээр нь нээлттэй болон хаалттай загвар хөгжүүлэгчид, шинэ оролцогчид болон туршлагатай лабораториуд, үндэсний бүрэн эрх болон олон улсын хамтын ажиллагааг дэмжих ёстой. Засгийн газар бүр стандартыг өөрийн эрх зүйн тогтолцоонд хэрхэн тусгахаа өөрөө шийдэх ёстой. Гэхдээ дэлхийн түвшинд сайн нотолгоо, найдвартай хамгаалалт, зохистой хяналт гэж юуг хэлэх талаар тохиролцож чадвал бид бүгд хожно.

Бидэнд бүх хариулт байхгүй бөгөөд илүү сайн аливаа санааг сонсоход бүрэн нээлттэй байна. Бид та бүхэнтэй хамтран ажиллаж, цаашдын замыг олохын тулд чадах бүхнээ хийхэд бэлэн байна.

Бид замын уулзварт ирээд байна. Нэг зам нь эрх мэдэл цөөн хүний гарт төвлөрч, шийдвэрүүд ил тод бус болж, хүмүүс амьдралынх нь үеийн хамгийн чухал технологийг өөрсдөд нь тулгаж байна гэж мэдэрдэг ертөнц рүү хөтөлнө. Нөгөө зам нь хүмүүс ардчилсан институцээрээ дамжуулан хиймэл оюун ухаан хэрхэн хөгжихийг шийдэж, чиглүүлэхэд оролцдог учраас хиймэл оюун ухаан хүмүүст үйлчилдэг; шинжлэх ухааны дэвшил бодит амьдралыг сайжруулдаг; ирээдүйг бүтээхэд илүү олон хүн оролцдог; энэ технологи хувь хүн, нийгэмлэгүүдэд хүссэнээрээ амьдрах илүү их эрх мэдлийг үргэлжлүүлэн өгдөг ертөнц рүү хөтөлнө. Энэ бол боломж бодитоор биелж, догдлол, гайхамшгаар дүүрэн ирээдүй юм.

Бид ийм ирээдүйг бүтээх нь зүйтэй гэж итгэдэг. Маш их баярлалаа.