Мэдрэлийн сүлжээг сийрэг хэлхээгээр ойлгох нь

​​Мэдрэлийн сүлжээнүүд өнөө үеийн хамгийн чадвартай AI системүүдийг тэтгэж байгаа ч ойлгоход бэрх хэвээр байна. Бид эдгээр загваруудыг тодорхой, алхам алхмаар заавраар бичдэггүй. Харин тэд нэг даалгаврыг эзэмших хүртлээ дотоодын тэрбум тэрбум холболт буюу “жин”-гээ тохируулан суралцдаг. Бид сургалтын дүрмийг зохиодог ч бий болох тодорхой зан төлөвийг нь биш, үүний үр дүнд хүн амархан тайлж уншиж чадахааргүй нягт холболтын сүлжээ үүсдэг. 

AI системүүд улам чадвартай болж, шинжлэх ухаан, боловсрол, эрүүл мэндийн шийдвэрүүдэд бодит нөлөө үзүүлэхийн хэрээр тэд хэрхэн ажилладгийг ойлгох нь зайлшгүй чухал. Тайлбарлагдах байдал гэдэг нь загвар яагаад өгөгдсөн гаралтыг үүсгэснийг ойлгоход тусалдаг аргуудыг хэлнэ. Үүнд хүрэх олон арга бий. 

Жишээлбэл, сэтгэн бодох загварууд эцсийн хариунд хүрэх явцдаа өөрийн ажлыг тайлбарлах урамшуулалтай байдаг. Сэтгэх гинжин явцын тайлбарлагдах байдал нь эдгээр тайлбаруудыг ашиглан загварын зан төлөвийг хянадаг. Энэ нь шууд хэрэгтэй: одоогийн сэтгэн бодох загваруудын сэтгэх гинжин явц нь хууралт зэрэг санаа зовоох зан төлөвийн талаар мэдээлэлтэй мэт харагддаг. Гэвч энэ шинжид бүрэн найдах нь хэврэг стратеги бөгөөд цаг хугацааны явцад энэ нь алдагдаж магадгүй.

Нөгөө талаас, энэ ажлын гол анхаарал болсон механист тайлбарлагдах байдал нь загварын тооцооллыг бүрэн урвуу инженерчлэхийг зорьдог. Одоогоор энэ нь шууд ашиг багатай байсан ч онолын хувьд загварын зан төлөвийн илүү бүрэн тайлбарыг өгч чадна. Загварын зан төлөвийг хамгийн нарийн түвшинд тайлбарлахыг зорьдог тул механист тайлбарлагдах байдал нь цөөн таамаглалд тулгуурлаж, бидэнд илүү их итгэл өгч чадна. Гэхдээ доод түвшний дэлгэрэнгүй мэдээллээс нарийн төвөгтэй зан төлөвийн тайлбар хүртэлх зам нь хавьгүй урт, илүү хэцүү.

Тайлбарлагдах байдал нь илүү сайн хяналт боломжтой болгох, аюултай эсвэл стратегийн хувьд нийцгүй зан төлөвийн эрт сэрэмжлүүлгийг өгөх зэрэг хэд хэдэн чухал зорилгыг дэмждэг. Мөн энэ нь өргөтгөх боломжтой хяналт, сөрөг довтолгоот сургалт, red-teaming зэрэг манай аюулгүй байдлын бусад хүчин чармайлтыг нөхдөг. 

Энэ ажилд бид загваруудыг тайлбарлахад илүү хялбар болгох аргаар ихэнхдээ сургаж чаддгаа харуулж байна. Бид ажлаа нягт сүлжээний дараах шинжилгээг нөхөх ирээдүйтэй арга гэж үзэж байна. 

Энэ бол маш том зорилготой мөрий; манай ажлаас хамгийн хүчирхэг загваруудынхаа нарийн төвөгтэй зан төлөвийг бүрэн ойлгох хүртэл урт зам бий. Гэсэн ч энгийн зан төлөвүүдийн хувьд манай аргаар сургасан сийрэг загварууд ойлгомжтой бөгөөд тухайн зан төлөвийг хэрэгжүүлэхэд хангалттай жижиг, салангид хэлхээнүүдийг агуулдгийг бид олж мэдсэн. Энэ нь механизмыг нь ойлгож болох илүү том системүүдийг сургах бодитой зам байж болохыг示гэнэ.

Өмнөх механист тайлбарлагдах байдлын ажлууд нягт, орооцолдсон сүлжээнээс эхэлж, тэдгээрийг тайлахыг оролдож ирсэн. Эдгээр сүлжээнд нэг нейрон бүр мянга мянган өөр нейронтой холбогддог. Ихэнх нейрон олон өөр үүрэг гүйцэтгэдэг мэт харагддаг тул ойлгох нь бараг боломжгүй мэт санагддаг. 

Гэхдээ хэрэв бид илүү олон нейронтой мөртлөө нейрон бүр нь хэдхэн арван холболттой, орооцолдоогүй мэдрэлийн сүлжээг сургачихвал яах вэ? Тэгвэл үүсэх сүлжээ нь илүү энгийн, ойлгоход илүү хялбар байж магадгүй. Энэ бол манай ажлын судалгааны гол мөрий юм.

Энэ зарчмыг бодолцон бид GPT‑2 шиг одоо байгаа хэлний загваруудтай маш төстэй архитектуртай хэлний загваруудыг нэг жижиг өөрчлөлттэйгөөр сургасан: бид загварын жингийн асар ихэнхийг тэг болгохыг албадсан. Ингэснээр загвар нейронуудын хоорондын боломжит холболтуудаас маш цөөхнийг л ашиглахаар хязгаарлагдсан. Энэ нь энгийн өөрчлөлт боловч загварын дотоод тооцооллыг мэдэгдэхүйц салангид болгодог гэж бид үзэж байна.

Бид сийрэг загваруудын тооцоолол хэр зэрэг салангид байгааг хэмжихийг хүссэн. Бид загварын янз бүрийн энгийн зан төлөвийг авч үзээд, зан төлөв бүрийг хариуцдаг загварын хэсгүүдийг тусгаарлаж чадах эсэхийг шалгасан бөгөөд үүнийг бид хэлхээ гэж нэрлэдэг.

Бид энгийн алгоритмын даалгаврын цуглуулгыг гараар сонгон бүрдүүлсэн. Даалгавар бүрийн хувьд тухайн даалгаврыг гүйцэтгэж чадах хамгийн жижиг хэлхээ хүртэл загварыг тайрч, тэр хэлхээ хэр энгийн болохыг судалсан. (Дэлгэрэнгүйг манай өгүүллээс⁠(шинэ цонхонд нээгдэнэ) үзнэ үү.) Илүү том бөгөөд илүү сийрэг загваруудыг сургах замаар бид улам чадвартай, улам энгийн хэлхээтэй загварууд гаргаж чадсанаа олсон.

Үүнийг илүү тодорхой болгохын тулд Python код дээр сургасан загвар мөрийг зөв төрлийн хашилтаар дуусгах ёстой даалгаврыг авч үзье. Python-д ‘hello’ нь дан хашилтаар, “hello” нь давхар хашилтаар төгсөх ёстой. Загвар нь мөрийг ямар төрлийн хашилт нээсэн болохыг санаж, төгсгөлд нь түүнийг дахин гаргаснаар үүнийг шийдэж чадна.

Манай хамгийн сайн тайлбарлагдах загварууд яг тэр алгоритмыг хэрэгжүүлдэг салангид хэлхээнүүдийг агуулж байгаа мэт харагддаг.

Манай тодорхойлолтоор дээр харуулсан яг тэр холболтууд даалгаврыг гүйцэтгэхэд хангалттай—хэрэв бид загварын бусад хэсгийг авч хаявал энэ жижиг хэлхээ ажилласаар байна. Мөн тэд зайлшгүй шаардлагатай—эдгээр цөөн ирмэгийг устгахад загвар бүтэлгүйтдэг.

Бид бас арай илүү төвөгтэй зан төлөвүүдийг судалсан. Эдгээр зан төлөвийн хэлхээнүүдийг (жишээ нь доор үзүүлсэн хувьсагчийн холболт) бүрэн тайлбарлахад илүү хэцүү. Тэгсэн ч бид загварын зан төлөвийг урьдчилан хэлэх чадвартай, харьцангуй энгийн хэсэгчилсэн тайлбаруудад хүрч чадна.

Энэ ажил бол загварын тооцооллыг ойлгоход илүү хялбар болгох том зорилгын эхний алхам юм. Гэхдээ явах зам урт хэвээр байна. Манай сийрэг загварууд хил хязгаар загваруудаас 훨씬 жижиг бөгөөд тэдний тооцооллын том хэсгүүд одоогоор тайлбарлагдаагүй байна. 

Цаашид бид техникүүдээ илүү том загваруудад хүргэж, загваруудын зан төлөвийн илүү их хэсгийг тайлбарлахыг хүсэж байна. Чадвартай сийрэг загварууд дахь илүү нарийн төвөгтэй сэтгэн бодохын суурь хэлхээний хэв шинжүүдийг ангилан тогтоосноор бид хил хязгаар загваруудын судалгааг илүү оновчтой чиглүүлэх ойлголтыг хөгжүүлж чадна.

Сийрэг загвар сургах үр ашиггүй байдлыг даван туулахын тулд бид урагшлах хоёр замыг харж байна. Нэг нь сийрэг загварыг эхнээс нь сургахын оронд одоо байгаа нягт загваруудаас сийрэг хэлхээнүүдийг гаргаж авах. Нягт загваруудыг ашиглалтад оруулах нь үндсэндээ сийрэг загваруудаас илүү үр ашигтай. Нөгөө зам нь тайлбарлагдах байдлын төлөө загвар сургах илүү үр ашигтай аргуудыг хөгжүүлэх бөгөөд үүнийг үйлдвэрлэлд нэвтрүүлэхэд илүү амар байж магадгүй.

Манай эндхийн олдворууд энэ арга илүү чадвартай системүүдэд заавал өргөжнө гэсэн баталгаа биш ч эхний үр дүнгүүд найдвар төрүүлж байна. Бидний зорилго бол загварын хэдий хэмжээг найдвартай тайлбарлаж чадахаа аажмаар нэмэгдүүлж, ирээдүйн системүүдийг шинжлэх, алдаа засах, үнэлэхэд илүү хялбар болгох хэрэгслүүдийг бүтээх явдал юм.