БНХАУ-тай холбоотой урвуулан ашиглалт: Хяналт ба нөлөөллийн ажиллагаа

Энэхүү кейс судалгааг анх OpenAI-ийн 2025 оны 10 дугаар сарын⁠(шинэ цонхонд нээгдэнэ) тайланд нийтэлсэн.

БНХАУ-ын төрийн байгууллагуудтай холбоотой бололтой хүмүүс ChatGPT‑ийг хөгжүүлэлт, профайл үүсгэх болон захиргааны ажилд ашигласан.

Бид 3 дугаар сард АНУ-ын Шинжлэх ухаан, технологийн бодлогын албанд хүргүүлсэн АНУ-ын хиймэл оюун ухааны үйл ажиллагааны төлөвлөгөөний талаарх саналдаа дурдсанчлан, хиймэл оюун ухааны үр өгөөжийг аль болох олон хүнд хүргэхийн тулд хүмүүсийг бодит хор хөнөөлөөс хамгаалах эрүүл ухаанд нийцсэн дүрэм журмаар хөгжлийг нь дэмжиж, ардчилсан хиймэл оюун ухааныг бүтээх ёстой гэж үздэг. Ардчилсан хиймэл оюун ухаан гэдэг нь Америкийн ямагт эрхэмлэж ирсэн ардчиллын зарчмуудад тулгуурлан хөгжсөн хиймэл оюун ухааныг хэлнэ. Үүнд дарангуйлагч дэглэмүүд эрх мэдлээ зузаатгаж, иргэдээ хянахын тулд хиймэл оюун ухааны хэрэгсэл ашиглахаас сэргийлэх явдал багтана.

Дарангуйлагч дэглэмүүд ChatGPT‑ийн чадавхыг урвуулан ашиглах оролдлогыг илрүүлж, таслан зогсооход оруулж буй бидний хөрөнгө оруулалт хүмүүсийг өнөөдөр хамгаалаад зогсохгүй, тэдгээр дэглэм ирээдүйн чадавхыг хэрхэн урвуулан ашиглаж болзошгүй талаар чухал ойлголт өгдөг. Энэ хэсэгт БНХАУ-д төвлөрөн, ийм дэглэмүүдтэй холбоотой байж болзошгүй хүмүүсийн талаарх нэг багц үр дүнг авч үзнэ.

Бид 6 дугаар сард бичсэнчлэн, БНХАУ хиймэл оюун ухааны дарангуйллын хувилбараа хөгжүүлэхэд бодит ахиц гаргаж байна. Хятадын төрийн байгууллагуудтай холбоотой бололтой хүмүүсийн ашиглаж байсан ChatGPT бүртгэлүүдийг таслан зогсоосноор дарангуйллын ийм орчинд хиймэл оюун ухааныг өдгөө хэрхэн ашиглаж буй нь тодорхой хэмжээнд харагдлаа. Энэ хэрэглээний зарим хэсэг нь онлайн болон офлайн урсгалыг өргөн хүрээнд хянахад чиглэсэн бололтой байсан нь энэ салбар дахь дарангуйллын шинжтэй болзошгүй урвуулан ашиглалтад үргэлжлүүлэн анхаарах нь чухлыг харуулж байна. Харин бусад хэсэг нь илүү нарийвчилсан профайл үүсгэхэд чиглэсэн бололтой байв. Бид энэ үйл ажиллагаатай холбоотой бүртгэлүүдийг хориглож, олж мэдсэн зүйлсээ энэхүү тайланд хуваалцаж байна.

Энэхүү судалгааг бидний илрүүлж, хориглон таслан зогсоосон зөрчилтэй үйл ажиллагааны зарим тохиолдолд үндэслэн хийсэн. Уг үйл ажиллагаа нь байгууллагууд манай загваруудыг өргөн хүрээнд нэвтрүүлсэн бус, харин хувь хэрэглэгчид ChatGPT ашигласантай нийцэж байв. Тиймээс энэ нь тухайн нөхцөлд өөр өөр хиймэл оюун ухааны загваруудыг хэрхэн ашиглаж буйн хязгаарлагдмал агшин зураг юм.

Бидний хориглосон зарим бүртгэл ChatGPT‑ийг өргөн хүрээний хяналтын хэрэгсэл хөгжүүлэхэд ашиглахыг оролдсон бололтой: тэд ихэвчлэн барууны эсвэл Хятадын сошиал медиа платформоос цуглуулсан өгөгдлийн багцад дүн шинжилгээ хийж байв. Бид 2 дугаар сард ийм нэг тохиолдлын талаар мэдээлсэн. Тухайн этгээдүүд Хятадын аюулгүй байдлын хүчнийхэнд зориулсан гэж мэдэгдсэн, хиймэл оюун ухаанд суурилсан сошиал медиа тандан сонсох хэрэгслийг зохион бүтээх зорилготой байв. Эдгээр хэрэглэгч ихэвчлэн ийм хэрэгсэл зохион бүтээх эсвэл сурталчилгааны материал боловсруулахад ChatGPT‑ээс тусламж хүссэн болохоос хяналтыг өөрийг нь хэрэгжүүлэхэд ашиглаагүй.

Жишээлбэл, бид саяхан Хятадаас VPN ашиглан манай үйлчилгээнд нэвтэрсэн байж болзошгүй нэг хэрэглэгчийг хориглосон. Тэрээр төрийн байгууллага захиалагчид зориулсан гэх сошиал медиа тандан сонсох хэрэгслийн сурталчилгааны материал болон төслийн төлөвлөгөө боловсруулахад ChatGPT‑ээс тусламж хүсэж байв. Уг хэрэгслийг Twitter/X, Facebook, Instagram, Reddit, TikTok, YouTube-ээс хэрэглэгчийн тодорхойлсноор хэт даврагч үзэл бүхий үг хэллэг, мөн угсаатан, шашин, улс төртэй холбоотой агуулгыг хайж чаддаг сошиал медиагийн “тандан илрүүлэгч” (探针) хэмээн тайлбарласан байв. Хэрэглэгч сошиал медиаг бодитоор хянахдаа манай загварыг ашиглаагүй. Энэ хэрэгслийг Хятадын төрийн байгууллага ашигласан эсэхийг бид бие даан баталгаажуулах боломжгүй.

Үүнтэй адил, төрийн байгууллагатай холбоотой байх магадлалтай өөр нэг хэрэглэгчийг бид хориглосон. Тэрээр “Уйгуртай холбоотой өндөр эрсдэлтэй хүмүүсийн шилжин ирэлтийг урьдчилан анхааруулах загвар” (高危涉维吾尔关注人员流入预警模型) гэж тодорхойлсон зүйлийн санал бичихэд ChatGPT‑ээс тусламж хүссэн. Уг саналд тээврийн захиалгыг шинжилж, цагдаагийн бүртгэлтэй харьцуулах замаар “Уйгуртай холбоотой, өндөр эрсдэлтэй” гэж ангилсан хүмүүсийн зорчих хөдөлгөөнийг урьдчилан анхааруулах хэрэгслийг тайлбарласан байв. Гэхдээ энэ ангиллыг өөрөөр тодорхойлоогүй. Хэрэглэгч ийм хэрэгсэл бүтээхэд бус, зөвхөн ерөнхий санал боловсруулахад манай загвараас тусламж хүссэн. Тиймээс ямар технологи ашиглахаар төлөвлөсөн, эсвэл ийм хэрэгслийг Хятадын төрийн байгууллага ашигласан эсэхийг бид бие даан батлах боломжгүй.

Мөн Хятадын төрийн байгууллагуудтай холбоотой бололтой бөгөөд ChatGPT‑ийг тусгайлан чиглэсэн, нарийвчилсан профайл үүсгэх болон онлайн судалгаа хийхэд ашиглахыг оролдсон хэрэглэгчдийг бид хориглосон.

Жишээлбэл, нэг хэрэглэгч Хятадын засгийн газрыг шүүмжилдэг X бүртгэлийн санхүүжилтийн эх үүсвэрийг тогтоохыг ChatGPT‑ээс хүссэн. Өөр нэг хэрэглэгч Монгол дахь өргөх бичгийг зохион байгуулагчдыг тогтоохыг ChatGPT‑ээс хүссэн. Эдгээр хоёр тохиолдолд манай загварууд зөвхөн нийтэд нээлттэй мэдээлэл өгсөн бөгөөд үүнд санхүүжилтийн эх үүсвэр, өргөх бичгийг зохион байгуулагчдын хэн болох зэрэг эмзэг мэдээлэл байгаагүй.

Эдгээр үйл ажиллагааны заримд манай загваруудыг нээлттэй эх сурвалжийн судалгааны хэрэгсэл болгон ашигласан нь өмнө нь хүмүүс интернэт эсвэл сошиал медиад хайлт хийдэг байсантай төстэй. Жишээлбэл, гурав дахь хэрэглэгч 1989 оны Тяньаньмэний талбайн хядлагын ой, Далай ламын төрсөн өдөр зэрэг эмзэг сэдвийг оролцуулан Хятадад хамааралтай өдөр тутмын шуурхай мэдээг олж, хураангуйлахыг ChatGPT‑ээс хүссэн.