Control Room

Манай загварууд улам хүчирхэг болж, үүнтэй холбоотой аюулгүй байдал, хамгаалалтын эрсдэл нэмэгдэхийн хэрээр болзошгүй асуудлыг илрүүлж, шаардлагатай үед загваруудыг хурдан зогсоох чадвар улам чухал болж байна. Үүнийг шийдэхийн тулд бид Control Room-ийг бүтээсэн.

Control Room нь судалгааны дэд бүтэц даяарх загварын тооцооллын ажлыг хянаж, аюулгүй байдал, хамгаалалтын асуудал гарвал хурдан зогсоох төвлөрсөн систем юм. Энэ нь загвар сургах, үнэлэхэд ашигладаг агентын түүвэрлэлт, өгөгдөл боловсруулалт зэрэг судалгааны хүрээнд дүгнэлт гаргадаг бүх тооцооллын ажлыг холбодог. Уг систем нь манай зорилгод нийцээгүй зан үйлийг хянах системүүдтэй хамтран ажиллаж, ажлыг зогсоох эсвэл түр зогсоох шийдвэр гарснаас хойш 35 секундын дотор загварын гаралт үүсгэхийг зогсоодог. Бусад систем доголдсон ч үргэлжлүүлэн ажиллаж, Control Room өөрөө ажиллагаагүй болбол загварын гаралтыг зогсоохоор бүтээгдсэн.

Control Room-ийг хамгийн их хэрэгцээтэй хэсэг болох судалгааны дэд бүтэц даяар аль хэдийн нэвтрүүлсэн. Гадаад хэрэглэгчдэд загварын үйлчилгээ үзүүлдэг манай системийн бүтэц угаасаа илүү төвлөрсөн бөгөөд шаардлагатай үед нэвтрүүлсэн загваруудыг хурдан зогсоох үйл ажиллагааны чадавх сайн хөгжсөн байдаг.

Control Room нь тооцооллын ажил, дүгнэлт гаргах хөдөлгүүр, төвлөрсөн Control Room үйлчилгээ гэсэн хэд хэдэн системийг холбон ажилладаг.

• Тооцооллын ажил гэдэг нь бататгах сургалтын туршилт, үнэлгээ, их хэмжээний түүвэрлэлт, өгөгдөл боловсруулалт зэрэг гүйцэтгэж буй ажил юм. Бид агентын дүгнэлт гаргалт ашигладаг судалгааны тооцооллын ажил бүрийг батлагдсан аюулгүй байдлын үндэслэлтэй холбохыг шаарддаг.

• Дүгнэлт гаргах хөдөлгүүр буюу товчоор хөдөлгүүр гэдэг нь загвар өөрөө юм. Хөдөлгүүрийг GPU дээр шууд ажилладаг загварын тархи гэж ойлгож болно. Тооцооллын ажил нь ихэвчлэн нэг буюу хэд хэдэн загвар ашигладаг бөгөөд эдгээр нь нэг эсвэл хэд хэдэн өөр дүгнэлт гаргах хөдөлгүүр дээр ажиллаж байж болно. Нэг дүгнэлт гаргах хөдөлгүүрийг хэд хэдэн өөр тооцооллын ажил ашиглаж болно.

• Control Room үйлчилгээ нь ажлуудыг хянаж, загварын гаралт үргэлжлүүлэн үүсгэхийг зөвшөөрөх эсэхийг удирддаг. Хөдөлгүүрүүд хүсэлтийг гүйцэтгэхээс өмнө Control Room үйлчилгээнээс зөвшөөрөл шалгадаг. Хэрэв ажлыг зогсоосон бол үйлчилгээ хүсэлтийг хориглож, цааш гаралт үүсгэхээс сэргийлнэ.

Control Room-ийг дараах байдлаар холбосон:

• Шинэ ажил эхлүүлэхэд тооцооллын ажлын код Control Room-оос шинэ job_id хүснэ.

• Тооцооллын ажилд загвараас токен түүвэрлэх шаардлага гарах бүрд тухайн загварыг ажиллуулж буй дүгнэлт гаргах хөдөлгүүрт job_id-ийг дамжуулан хүсэлт илгээнэ. Хөдөлгүүр нь job_id-ийг Control Room-д дамжуулж, уг хүсэлтийг гүйцэтгэх зөвшөөрөл хүснэ.

• Control Room тухайн ажлыг зогсоосон эсэхийг шалгаж, зогсоосон бол дүгнэлт гаргах хүсэлтийг хориглоно. Хөдөлгүүр нь тооцооллын ажлын дүгнэлт гаргах хүсэлтэд татгалзсан хариу өгч, тухайн ажилд загварын гаралт цааш үүсгэхийг зогсооно.

Манай хил хязгаар түвшний бататгах сургалтын бүх ажил хянагчтай ажилладаг. Хянагч гэдэг нь сургаж буй загварын хийж байгаа бүхнийг шалгаж, асуудал илэрвэл дохио өгдөг өөр нэг загвар юм. Жишээлбэл, саяхан гарсан DNS-тэй холбоотой зөрчлийг⁠(шинэ цонхонд нээгдэнэ) хянагч илрүүлсэн.

Control Room болон манай хяналтын систем дараах байдлаар холбогдон ажилладаг:

• Хяналтын систем болзошгүй асуудал илрүүлбэл түүний нөхцөл, ноцтой байдлаас хамааран ажлыг зогсоох шийдвэр гаргаж болно.

• Энэ тохиолдолд хяналтын систем Control Room-д job_id-ийг дамжуулан, ажлыг зогсоох мэдэгдэл илгээнэ. Control Room тухайн ажлыг зогсоосон гэж бүртгэнэ.

• Тэр job_id-тай ажил дараагийн удаа ямар ч хөдөлгүүр дээр ажиллаж буй аль ч загвараас нэмж токен түүвэрлэхээр дүгнэлт гаргах хүсэлт илгээхэд хүсэлтийг хориглож, загварын гаралт цааш үүсэхийг зогсооно.

Control Room ажлыг зогсоох заавар хүлээн авснаас хойш тухайн ажил цааш үргэлжлэх боломжгүй болох хүртэл хамгийн ихдээ 35 секунд зарцуулна. Шаардлагатай хэмжээний хүсэлтийг боловсруулахын тулд дүгнэлт гаргах зөвшөөрлийг кэшлэх давхарга ашигладаг нь энэхүү 35 секундын саатлыг үүсгэдэг. Бид ажлыг агшин зуур зогсоохын тулд энэ хугацааг тэг болгохоор ажиллаж байна.

Туршилт, үнэлгээ зэрэг тооцооллын ажлыг ихэвчлэн судлаачид эсвэл судлаачдын баг хариуцаж, ажиллуулдаг. Тиймээс тооцооллын ажлын код байнга өөрчлөгддөг бөгөөд аюулгүй байдлыг хангах үндсэн хамгаалалтыг ийм кодод хэрэгжүүлэх нь тохиромжгүй. Иймд бид тооцооллын ажлын код алдаатай эсвэл эвдэрсэн ч системээ хэвийн ажиллахаар зохион бүтээсэн.

Үүний тулд зогсоох механизмыг дүгнэлт гаргах давхаргад хэрэгжүүлсэн. Тооцооллын ажлын код нь олон янз бөгөөд төвлөрсөн бус байдаг. Харин OpenAI-ийн бүх судалгаанд дүгнэлт гаргах кодын маш цөөн зам ашигладаг бөгөөд тэдгээрийг илүү төвлөрсөн, жигд байдлаар нэвтрүүлдэг. Ингэснээр дүгнэлт гаргах давхарга нь нэгдсэн хяналтын цэг болж, судалгаанд ажиллаж буй бүх загварын дүгнэлт гаргах хүсэлт бүрийг Control Room зөвшөөрөлтэй эсэхийг нь шалгана гэдгийг баттай хангах боломжтой. Мөн хэрэглэгчид Control Room-ийг суулгаагүй эсвэл идэвхгүй болгосон хяналтгүй хөдөлгүүрийг санамсаргүйгээр буюу санаатайгаар ажиллуулаагүй эсэхийг агент болон программаар тогтмол шалгадаг.

Эцэст нь, манай систем «доголдвол хориглох» зарчмаар ажилладаг. Өөрөөр хэлбэл, системийн алдаа, халдагчийн оролцоо эсвэл бусад шалтгаанаар Control Room үйлчилгээ ажиллагаагүй болсон тохиолдолд хэвийн ажиллагаа нь сэргэх хүртэл дүгнэлт гаргах бүх хүсэлтийг хориглохоор хөдөлгүүрүүд дэх Control Room холболтыг тохируулсан. Доголдвол хориглох горимыг хил хязгаар түвшний загварын судалгааны бүх тооцооллын ажилд нэвтрүүлээд байгаа бөгөөд ойрын хэдэн өдөрт судалгааны үлдсэн бүх ажилд нэвтрүүлж дуусгана.

Control Room бол хил хязгаар түвшний загварыг аюулгүй сургаж, нэвтрүүлэх цогц арга барилын маань нэг хэсэг юм. Бид зорилгод нийцээгүй зан үйл болон аюулгүй байдлын зөрчлийг хянахад хөрөнгө оруулахын зэрэгцээ ирэх саруудад энэ системийг улам бэхжүүлж, өргөжүүлнэ. AGI-ийг аюулгүй, хамгаалалттайгаар хөгжүүлж, нэвтрүүлэх систем бүтээхэд хувь нэмрээ оруулахыг хүсвэл бид⁠ ажилтан авч байна⁠!