ХХ-ийн ахиц ба зөвлөмжүүд

Тьюрингийн тестийн түгээмэл ойлголт хэдийнээ ард хоцроход, бидний олонх өдөр тутмын амьдрал бараг хэвийн үргэлжилсээр байгааг жаахан хачирхалтай санасан. Энэ бол хүмүүсийн олон арван жилийн турш ярьж ирсэн нэгэн чухал босго байлаа. Хүршгүй хол мэт санагдаж байсан ч гэнэт ойртсон мэт болж, дараа нь гэнэт бид аль хэдийн түүний цаана гарчихсан байв. Бид хэд хэдэн гайхалтай шинэ бүтээгдэхүүнтэй болсон ч дэлхийн тухайд төдийлөн их зүйл өөрчлөгдсөнгүй, хэдий тийм ч компьютер одоо ярилцаж, хэцүү асуудлуудын талаар бодож чаддаг болсон.

Дэлхийн ихэнх хүн ХХ-ийг чатбот, сайжирсан хайлт гэж ойлгосоор байгаа ч өнөөдөр бидэнд оюуны хамгийн хэцүү өрсөлдөөнүүдийн заримд хамгийн ухаалаг хүмүүсээс давж чаддаг системүүд бий. ХХ системүүд одоогоор жигд бус, ноцтой сул талуудтай хэвээр ч ийм хүнд асуудлыг шийдэж чаддаг системүүд нь ХХ судлаач болох замын 20% бус, 80%-д хүрсэн мэт санагддаг. Ихэнх хүмүүс ХХ-ийг хэрхэн ашиглаж байгаагийн хооронд болон ХХ одоо үнэндээ юу чаддагийн хоорондын зөрүү асар их байна.

Шинэ мэдлэг нээж чаддаг ХХ системүүд — бие даан эсвэл хүмүүсийг илүү үр дүнтэй болгосноор — дэлхийд мэдэгдэхүйц нөлөө үзүүлэх магадлалтай.

Хэдхэн жилийн дотор ХХ нь (ялангуяа программ хангамжийн инженерчлэлийн хүрээнд) хүний хэдхэн секундэд хийж чадах ажлуудаас хүний нэг цагаас дээш хугацаа зарцуулах ажлуудыг хийж чаддаг түвшинд хүрлээ. Удахгүй хүний өдрүүд, бүр долоо хоногууд зарцуулах ажлуудыг хийж чаддаг системүүдтэй болно гэж бид найдаж байна; харин хүний хувьд зуу зуун жил шаардагдах ажлуудыг хийж чаддаг системүүдийг хэрхэн ойлгохоо бид мэдэхгүй байна.

Үүний зэрэгцээ, тодорхой нэг түвшний оюун ухааны нэгж өртөг огцом буурсан; сүүлийн хэдэн жилд жил бүр 40 дахин гэж тооцоолох нь боломжийн үзүүлэлт юм!

2026 онд бид ХХ маш жижиг нээлтүүд хийх чадвартай болно гэж үзэж байна. 2028 он болон түүнээс цааш бид илүү ач холбогдолтой нээлтүүд хийж чадах системүүдтэй болно гэдэгт нэлээд итгэлтэй байна (мэдээж бид эндүүрч болно, гэхдээ манай судалгааны ахиц ийм дүр зураг харуулж байна).

ХХ-ийн ахиц ихэвчлэн гэнэтийн байдлаар өрнөдөг, нийгэм ч технологитой хамт хувьсан өөрчлөгдөх арга зам олдог гэж бид эртнээс үзсээр ирсэн. Ойрын хэдэн жилд ХХ-ийн чадамж маш хурдан, мэдэгдэхүйц ахина гэж бид хүлээж байгаа ч өдөр тутмын амьдрал гайхмаар тогтвортой хэвээр санагдана гэж мөн үзэж байна; бидний амьдрах хэв маяг илүү сайн хэрэгслүүд гарсан ч ихээхэн инерцтэй байдаг.

Ялангуяа, ирээдүй нь утга учиртай амьдралаар амьдрах шинэ, магадгүй илүү сайн арга замуудыг өгч, өнөөдрийнхөөс илүү олон хүн тийм амьдралыг мэдрэх боломжтой болно гэж бид үзэж байна. Ажил хөдөлмөр өөр болно гэдэг үнэн, эдийн засгийн шилжилт зарим талаар маш хэцүү байж магадгүй, тэр ч бүү хэл нийгэм-эдийн засгийн суурь гэрээ хүртэл өөрчлөгдөх шаардлагатай байж болно. Гэхдээ элбэг байдал өргөн тархсан дэлхийд хүмүүсийн амьдрал өнөөдрийнхөөс хавьгүй дээр байж чадна.

ХХ системүүд хүмүүст эрүүл мэндээ ойлгоход тусалж, материалын шинжлэх ухаан, эмийн хөгжүүлэлт, уур амьсгалын загварчлал зэрэг салбарын ахицыг хурдасгаж, дэлхий даяарх сурагчдад хувь хүнд тохирсон боловсролын хүртээмжийг тэлнэ. Ийм бодит өгөөжүүдийг харуулах нь ХХ амьдралыг зүгээр л илүү үр ашигтай биш, харин илүү сайн болгож чадна гэсэн ертөнцийн тухай нийтлэг төсөөллийг бүрдүүлэхэд тусалдаг.

OpenAI нь аюулгүй байдалд тууштай ханддаг⁠ бөгөөд бид үүнийг ХХ-ийн сөрөг нөлөөг бууруулснаар эерэг нөлөөг нь боломжтой болгох практик гэж ойлгодог. Боломжит өгөөж асар их ч бид суперинтеллект системүүдийн эрсдэлийг сүйрлийн шинжтэй байж болзошгүй гэж үздэг бөгөөд туршилтад тулгуурлан⁠ судлах⁠ аюулгүй байдал⁠ болон нийцүүлэлт⁠ нь дэлхий нийтийн шийдвэрүүдэд тусалж чадна гэж итгэдэг. Жишээлбэл, өөрийгөө давтан сайжруулах чадвартай системүүдэд ойртох тусам эдгээр системийг илүү нягт судлахын тулд бүх салбар хөгжлөө удаашруулах ёстой эсэх зэрэг асуудалд. Мэдээж, суперинтеллект системүүдийг найдвартай нийцүүлж, хянаж чадахгүй бол хэн ч тэдгээрийг нэвтрүүлэх ёсгүй бөгөөд энэ нь илүү их техникийн ажлыг шаарддаг.

ХХ-тэй эерэг ирээдүйд хүрэхэд тусалж болох хэд хэдэн зүйлийг энд дурдъя:

Хил хязгаар лабораториуд аюулгүй байдлын нийтлэг зарчмууд дээр санал нэгдэж, аюулгүй байдлын судалгааг хуваалцах⁠, шинэ эрсдэлийн талаарх сургамжуудаа солилцох, өрсөлдөөний динамикийг бууруулах механизм бий болгох зэрэг дээр хамтрах ёстой гэж бид үздэг. Жишээ нь, хил хязгаар лабораториуд ХХ-ийн хяналтын үнэлгээтэй холбоотой тодорхой стандарт дээр тохиролцох нь нэлээд тустай байж болно гэж бид төсөөлж байна.

Нийгэм өмнө нь барилгын норм, галын аюулгүй байдлын стандарт тогтоохын тулд ижил төстэй үйл явцыг туулсан бөгөөд энэ нь тоолж баршгүй олон амийг аварсан.

ХХ-ийн талаар хоёр өөр үзэл бий. Нэг нь ХХ-ийг “ердийн технологи” гэж үздэг; өөрөөр хэлбэл, энэ нь хэвлэлийн машингаас интернэт хүртэлх өмнөх технологийн хувьсгалуудын адил хөгжнө гэж. Үйл явдал хүмүүс болон нийгэмд дасан зохицох боломж олгох байдлаар өрнөнө, төрийн бодлогын уламжлалт хэрэгслүүд ч ажиллана гэж үздэг. Инновацыг дэмжих, ХХ-тэй хийсэн ярианы нууцлалыг хамгаалах, хүчирхэг системүүдийг муу этгээдүүд буруугаар ашиглахаас хамгаалахын тулд холбооны засгийн газартай хамтран ажиллах зэрэг санааг бид тэргүүнд тавих хэрэгтэй болно.

Өнөөгийн түвшний чадамжтай ХХ бараг аль хэдийн энд ирчихсэн бөгөөд хаа сайгүй тархах ёстой гэж бид үздэг. Энэ нь ихэнх хөгжүүлэгчид, нээлттэй эхийн загварууд, мөн өнөөгийн технологийн бараг бүх нэвтрүүлэлтүүд одоо байгаа зохицуулалтаас гадна маш бага нэмэлт зохицуулалтын ачаалалтай байх ёстой гэсэн үг. Ялангуяа АНУ-ын 50 мужийн бутархай журамтай нүүр тулах ёсгүй.

Нөгөө хувилбар нь суперинтеллект урьд өмнө хүн төрөлхтний харж байгаагүй арга зам, хурдаар хөгжиж, тархах нөхцөл юм. Энэ тохиолдолд дээрх зүйлсийн ихэнхийг хийх ёстой хэвээр боловч бид мөн илүү шинэлэг байх хэрэгтэй болно. Хэрэв ийм зүйлд нийгэм “ердийн” аргаар дасан зохицоход хэцүү байна гэсэн суурь таамаг зөв бол, ердийн зохицуулалт ч ихийг хийж чадна гэж хүлээх ёсгүй. Ийм нөхцөлд бид олон орны гүйцэтгэх засаглал болон холбогдох байгууллагуудтай (жишээлбэл, төрөл бүрийн аюулгүй байдлын хүрээлэнгүүдтэй) нягт хамтран, ялангуяа биотерроризмд ХХ-ийг ашиглах эрсдэлийг бууруулах (мөн ХХ-ийг ашиглан биотерроризмыг илрүүлж, урьдчилан сэргийлэх) болон өөрийгөө сайжруулдаг ХХ-ийн үр дагавар зэрэг чиглэлд сайн уялдуулах шаардлагатай болох байх.

Хамгийн гол нь олон нийтийн байгууллагын өмнөх хариуцлага байх ёстой, гэхдээ түүнд хүрэх арга зам нь өнгөрснөөс өөр байх хэрэгтэй байж магадгүй.

Аль ч хувилбарт ХХ-ийн тэсвэрлэх чадварын экосистемийг бүрдүүлэх нь зайлшгүй чухал. Интернэт бий болоход бид үүнийг нэг л бодлого эсвэл нэг компаниар хамгаалаагүй — бид кибер аюулгүй байдлын бүхэл бүтэн салбарыг байгуулсан: программ хангамж, шифрлэлтийн протоколууд, стандартууд, хяналтын системүүд, яаралтай хариу өгөх багууд гэх мэт. Тэр экосистем эрсдэлийг бүрэн арилгаагүй ч нийгэм хүлээн зөвшөөрөх түвшин хүртэл бууруулсан бөгөөд ингэснээр хүмүүс дижитал дэд бүтцэд хангалттай итгэж, амьдрал ба эдийн засгаа түүн дээр байгуулж чадсан. ХХ-д үүнтэй төстэй зүйл хэрэгтэй бөгөөд үүнийг дэмжих үйлдвэрлэлийн бодлогыг урагшлуулахад үндэсний засгийн газруудын гүйцэтгэх үүрэг маш чухал.

ХХ дэлхийд яг яаж нөлөөлж байгааг ойлгох нь энэ технологийг эерэг нөлөө рүү чиглүүлэхэд илүү хялбар болгодог. Урьдчилан таамаглах хэцүү: жишээлбэл, ажлын байранд ХХ-ийн нөлөөг урьдчилан харах төвөгтэй байсан, үүний нэг шалтгаан нь өнөөгийн ХХ-ийн давуу ба сул талууд хүнийхээс ихээхэн өөр байдагт оршино. Бодит амьдрал дээр юу болж байгааг хэмжих нь маш их мэдээлэл өгөх магадлалтай.

Нийгмээс тогтоосон өргөн хүрээний хязгаарын дотор насанд хүрэгчид ХХ-ийг өөрсдийн нөхцлөөр ашиглах боломжтой байх ёстой гэж бид үздэг. Ойрын жилүүдэд дэвшилтэт ХХ-д хандах боломж нь цахилгаан, цэвэр ус, эсвэл хүнстэй адил суурь хэрэглээний үйлчилгээ болно гэж бид хүлээж байна. Эцсийн дүндээ эдгээр хэрэгслийг өргөн хүртээмжтэй болгохыг нийгэм дэмжих ёстой бөгөөд гол чиглүүлэгч зарчим нь хүмүүсийг зорилгодоо хүрэхэд нь чадавхжуулах явдал байх ёстой гэж бид боддог.