Үндэсний аюулгүй байдлын ардчилсан хяналтыг бэхжүүлэх

Хиймэл оюун ардчилсан засгийн газрууд иргэдээ хамгаалах арга замыг өөрчилж байна. Энэ нь кибер халдлагыг таслан зогсоох, нэн чухал дэд бүтцийг хамгаалах, аюул заналыг эрт илрүүлэх, хямралын үед төрийн албан хаагчдад нөхцөл байдлыг илүү тодорхой харахад тусална. Зөв ашиглавал эдгээр хэрэгсэл үндэсний аюулгүй байдлыг бэхжүүлж чадна.

Ардчилсан хяналт нь төрийн эрх мэдлийг ард иргэдийн өмнө хариуцлагатай хэвээр байлгахад тусалдаг. Хиймэл оюун ухаан үндэсний аюулгүй байдлын ажлыг илүү хурдан, үр дүнтэй болгохын хэрээр түүнд хяналт тавих үүрэгтэй байгууллагууд ч хөл нийлүүлэн хөгжих шаардлагатай. Хиймэл оюун ухаан дутуу эсвэл хуучирсан нөхцөл мэдээлэл, буруу тохируулсан зорилго, нийцээгүй таамаглалд тулгуурлан асар хурдтай, өргөн хүрээнд ажиллаж болдог тул алдаа тархахаас нь өмнө гар аргаар илрүүлэхэд хүндрэлтэй. Үндэсний аюулгүй байдалд хиймэл оюун ашиглахад гаргах шийдвэрүүд нууцлал зайлшгүй шаардаж, ноцтой үр дагаварт хүргэж болзошгүй учраас хяналт онцгой чухал.

Бид Үндэсний аюулгүй байдлын зарчмуудаа баримтлан, ялангуяа ноцтой үр дагавартай орчинд хамгаалалтын арга хэмжээ, хүний бодитой дүгнэлт, зохистой хяналттайгаар үндэсний аюулгүй байдлын шийдлүүдийг нэвтрүүлдэг. Мөн эдгээр зарчим нь хяналт хариуцсан байгууллагуудад хиймэл оюуны ухааны хэрэглээг өндөр хурдтай, өргөн хүрээнд хянах чадавхаа бүрдүүлэхэд нь туслахыг нэн тэргүүнд тавьдаг.

Төрийн байгууллагууд үндэсний аюулгүй байдлын үйл ажиллагаанд хяналт тавих тогтсон эрх, үүрэгтэй. Хиймэл оюун ухаан эдгээр үйл ажиллагаанд оролцох үед хяналтын арга барилыг шинэчлэх шаардлага гарч болно. Уламжлалт хяналт их хөдөлмөр шаарддаг бөгөөд цөөн хүний бүрэлдэхүүнтэй баг цаасан баримтын үеийн аргаараа машины хурдаар ажилладаг системийг шалгах нь бараг боломжгүй.

Илүү чадварлаг системд илүү хүчтэй хяналт шаардлагатай гэж OpenAI үздэг бөгөөд энэ зарчмыг өөрсдөдөө ч мөрддөг. Манай Preparedness Framework-ийн дагуу дэвшилтэт загваруудын чадавхыг ойлгож, хамгаалалтын арга хэмжээ хангалттай эсэхийг тогтоохын тулд нэвтрүүлэхээс өмнө нарийн хянан шалгадаг. Нэвтрүүлсний дараа ч байнгын хяналт, зөрчлийн шалгалтаар энэхүү нарийн хяналт үргэлжилж, олж авсан сургамж нь хамгаалалтын арга хэмжээг сайжруулах болон ирээдүйн загвар хөгжүүлэлтэд тусдаг.

OpenAI төрд хяналт тавих үүрэг гүйцэтгэдэггүй, гүйцэтгэх ч ёсгүй. Энэ үүргийг сонгогдсон албан тушаалтнууд болон уг зорилгоор байгуулагдсан төрийн байгууллагууд хүлээнэ. Харин хяналтын байгууллагууд бүрэн эрхээ хэрэгжүүлэхэд нь бид технологиороо дэмжлэг үзүүлж чадна.

Энэ ажлыг дараах гурван зарчим чиглүүлнэ.

Нэгдүгээрт, хиймэл оюун ухаан хүний болон байгууллагын дүгнэлтийг орлох бус, бэхжүүлэх ёстой. Төрийн үйл ажиллагаа хууль ёсны, зохистой бөгөөд холбогдох дүрэм, бодлоготой нийцэж байгаа эсэхийг шийдэх эрх нь эрх бүхий байгууллага болон хуулийн дагуу байгуулагдсан хяналтын байгууллагуудад хамаарна.

Хоёрдугаарт, төрийн хиймэл оюун ухааны хэрэглээг эрх бүхий хяналтын байгууллага мөшгөн шалгаж, ойлгох боломжтой байх ёстой. Шалгагчид нууцын зэрэглэлтэй, хувийн болон аюулгүй байдлын эмзэг мэдээллийг хамгаалахын зэрэгцээ хиймэл оюун шийдвэрт хэрхэн нөлөөлснийг ойлгох боломжтой байх ёстой.

Гуравдугаарт, хиймэл оюун ухааныг ардчилсан хяналтын байгууллагуудыг чадавхжуулахад ашиглах ёстой. Төрийн хиймэл оюун ухааны хэрэглээг гар аргаар хянах боломжийг өргөн хүрээнд нэмэгдүүлэх аргагүй. Үндэсний аюулгүй байдал болон төрийн бусад өндөр эрсдэлтэй ажилд хиймэл оюун ухаан нэвтрүүлэхийн хэрээр хяналтын байгууллагууд ч бүрэн эрхийнхээ хүрээнд үүнийг хариуцлагатай, ойлгомжтой байдлаар ашиглах ёстой.

Ирэх нэг жилийн хугацаанд бид энэ санаачилгыг дараах байдлаар урагшлуулахаар төлөвлөж байна:

• Хиймэл оюун ухааны хэрэгсэл эсвэл техникийн дэмжлэгээр хяналтыг илүү үр дүнтэй болгох бодит боломжуудыг тодорхойлохын тулд эрх бүхий албан тушаалтнуудтай хамтран ажиллана.

• Хиймэл оюун ухааны хэрэгслийг хариуцлагатай нэвтрүүлж, үнэлэхэд нь дэмжлэг үзүүлэхийн тулд ардчилсан засаглалтай орнуудын төрийн хяналтын байгууллагуудад сургалт, техникийн дэмжлэг болон OpenAI-ийн кредит хэлбэрээр 5 сая ам.доллар олгоно.

• Хиймэл оюун ухаан үр дүнд хэрхэн нөлөөлснийг илүү сайн ойлгохын тулд эрх бүхий шалгагчдад хиймэл оюун ухааны тусламжтай гаргасан төрийн шийдвэртэй холбоотой оролт, гаралт, хэрэгслийн ашиглалт зэрэг бүртгэлийг шалгахад туслах хэрэгслүүдийг хяналтын байгууллагуудтай хамтран туршина. Боломжтой тохиолдолд хэрэгслүүд харилцан ажиллах чадвартай эсвэл тодорхой нэг загвараас үл хамаарсан байна. Нотлох баримт, гаралт, дүгнэлтийг OpenAI бус, оролцогч байгууллагууд хяналтдаа байлгах бөгөөд тэдгээрт зөвхөн төрийн эрх бүхий албан тушаалтнууд хандах боломжтой байна.

• OpenAI эдгээр хэрэгслийг хөгжүүлж, дагалдах хариуцлагад нь хандах арга барилд иргэний нийгэм болон техникийн мэргэжилтнүүдийн үзэл бодлыг тусгахын тулд тэдэнтэй хамтран ажиллана.

Хиймэл оюун ухаан эрх мэдлийг цөөн гарт төвлөрүүлж ч болно, эсвэл ардчилсан байгууллагуудад эрх мэдлээ илүү үр дүнтэй хэрэгжүүлж, хянахад нь тусалж ч болно. Бид ямар ирээдүйд хүрэхийг технологи дангаараа бус, харин байгууллага, компаниудын өнөөдөр хийх сонголт шийднэ.

Эрх бүхий шалгагчид үүргээ илүү сайн биелүүлж чадаж байгаа эсэх, мөн төрийн хиймэл оюун ухааны системүүдийг зориулалтын дагуу ашиглаж буйд итгэх илүү баттай үндэслэл олон нийтэд бий болсон эсэхээр бид энэ санаачилгын ахицыг үнэлнэ.

Төрийн хиймэл оюун ухааны хэрэглээ хөгжихийн хэрээр OpenAI түүнд хяналт тавих үүрэгтэй байгууллагуудыг үргэлжлүүлэн дэмжинэ.