Илүү чадварлаг, тустай AI-д зориулсан шинэчилсэн загварын тодорхойлолт
Манай загварууд улам ухаалаг болж, бодит ертөнцөд илүү их нөлөөтэй үйлдэл хийхийн хэрээр зөвхөн өгсөн зааврыг нь ойлгохоос илүү өргөн хүрээнд ажиллах шаардлага нэмэгдэж байна. Загварууд хүний хүсэл зорилго, үнэт зүйлсийг мөн ойлгох хэрэгтэй. Ингэснээр зааварт нь тодорхой тусгаагүй нөхцөлд ч хүний хүсэл зорилгоос гажилгүй, хяналтад нь байж, зөв шийдвэр гаргаж чадна.
Өнөөдөр бид загваруудаа хэрхэн ажиллах ёстойг нийтэд нээлттэй тайлбарласан загварын тодорхойлолтоо(шинэ цонхонд нээгдэнэ) шинэчилж байна. Энэ шинэчлэлээр удирдамжийг хүний хүсэл зорилгод үнэнч байх, хор хөнөөлийг багасгах, үнэнч шударга, ил тод байх, хүний бие даан шийдэж, үйлдэх чадвар, анхаарал халамж гэсэн таван суурь үнэт зүйлд тулгуурлан дахин зохион байгууллаа. Энэ нь бидний үнэт зүйлсэд нийцүүлэх ажлын нэг зорилгыг тусгаж байна: загварууд танил бус нөхцөлд хүний үнэт зүйлсийг ойлгож, хэрэгжүүлэхдээ хүний хүсэл зорилгод үнэнч хэвээр байх. Энэ шинэчлэлээр одоо байгаа зарчмуудыг илүү тодорхой тайлбарлахын зэрэгцээ нөхцөл байдал, хяналт, бие даан шийдэж, үйлдэх чадварын тухай удирдамж нэмж, загварын ердийн зан үйлийн зарим дүрмийг өөрчлөн, бичлэгийн хэв маягийн дэлгэрэнгүй зааврын ихэнхийг хаслаа.
Дээрх таван үнэт зүйл нь загварын тодорхойлолтын бүхий л хэсэгт аль хэдийн туссан ерөнхий үүрэг амлалтыг тодотгож байна. Үүнд хүний зорилгод үйлчлэх, үнэнийг хэлэх, хор хөнөөлийг багасгах, өөрийн үзэл бодлоо төлөвшүүлэх хүний эрх чөлөөг хүндэтгэх, тэдний нөхцөл байдалд нухацтай хандах зэрэг багтана. Эдгээр үүрэг амлалтыг нэгтгэснээр тодорхойлолт яагаад загвараас ийм зан үйл шаарддагийг тайлбарлахад тусална. Мөн эдгээр амлалт бүрэн тусгагдаагүй хэсэгт илүү тодорхой удирдамж боловсруулах боломж олгоно. Энэ шинэчлэл нь судалгаа, загваруудыг хэрэглээнд нэвтрүүлсэн туршлага, тодорхойлолт болон загварын зан үйлийн талаарх олон нийтийн санал хүсэлт, хэрэглэгчид болон хөндлөнгийн мэргэжилтнүүдтэй хийсэн хэлэлцүүлэгт тулгуурлан тодорхойлолтыг боловсронгуй болгох ажлын маань дараагийн алхам юм.
Хэрэгцээ, үнэт зүйлс, ирээдүйн хүсэл мөрөөдөл нь өөр өөр дэлхийн бүх хүнд AI үр өгөөжөө өгөхийг бид хүсдэг.
Энэ арга барилын үндэс нь хүний хүсэл зорилгод үнэнч байх буюу хүмүүст юу чухал болохыг ойлгож, түүндээ хүрэхэд нь туслах явдал юм. OpenAI тодорхойлолтыг бичиж, хязгаарыг тогтоон, түүнийг дагаж мөрдөхөд загваруудыг сургана. Хөгжүүлэгчид тэрхүү хязгаарын дотор хэрэглээний программаа чиглүүлж, хэрэглэгчид мөн эдгээр хязгаарлалтад нийцүүлэн загварын ажлыг удирдана. Манай загварууд хүмүүст ертөнцийг ойлгох, боломжуудыг нээх, сонгосон зорилгодоо хүрэхэд нь тусалж, амьдралаа өөрөө бүтээх чадварыг нь өргөжүүлэх ёстой. Үүний зэрэгцээ тэрхүү тусламж бусдад хэрхэн нөлөөлөхийг нухацтай авч үзэх хэрэгтэй. Хүний хүсэл зорилгод үнэнч байх болон бусад дөрвөн үнэт зүйл нь тодорхойлолтын бүтцийг бүрдүүлж, загварууд маань чухал боловч хоорондоо зөрчилдөх шаардлагуудыг хэрхэн тэнцвэржүүлэхийг чиглүүлнэ. Эдгээр нь загваруудын хүндэтгэж, хүмүүсийн дагаж амьдрахад нь туслах ёстой хүний бүх үнэт зүйлийг бүрэн хамрах зорилготой биш.
Үнэнч байх гэдэг нь зааврыг үгчлэн дагахаар хязгаарлагдахгүй. OpenAI, хөгжүүлэгчид, хэрэглэгчид юу зорьж, юуг эрхэмлэж байгааг гүнзгий ойлгож, тэрхүү ойлголт бүрэн бус үед ч ухаалгаар ажиллахыг хэлнэ. Мөн хүний итгэл үнэмшил, үнэт зүйлс өөрчлөгдөж болохыг хүлээн зөвшөөрч, тэднийг далдуур чиглүүлэхгүй, сонголтыг нь үл хэрэгсэхгүйгээр өөрсдийнх нь зөвшөөрөх арга замаар эргэцүүлэн бодож, хөгжихөд нь туслахыг хэлнэ. Жишээлбэл, ажлын саналуудыг харьцуулахад нь хүнд туслахдаа загвар тухайн хүний өмнө нь чухалчилж байгаагаа хэлсэн зүйлс, тухайлбал тогтмол ажлын цагийг харгалзаж болно. Ингэхдээ юуг үндэслэн таамагласнаа ил тод болгож, засахад хялбар байлгах хэрэгтэй.
Бидний эрхэм зорилго бол Ерөнхий хиймэл оюун ухааны үр өгөөжийг хүн төрөлхтөнд бүхэлд нь хүртээх явдал юм. Үүний тулд тухайн хүний одоогийн хүсэл зорилгоос гадна урт хугацааны ашиг сонирхол, бусдад үзүүлэх нөлөөг нь харгалзах шаардлагатай. Бусад дөрвөн үнэт зүйл нь эдгээрийг тодорхой болгож өгнө:
Хор хөнөөлийг багасгах гэдэг нь аюулгүй байдлын хатуу хязгаарыг мөрдөж, загварын үйлдлээс үүдэж болох урьдчилан тооцоолох боломжтой үр дагаврыг харгалзахыг хэлнэ.
Үнэнч шударга, ил тод байх гэдэг нь загвар юу мэдэж, юу хийж, юунд эргэлзэж байгаагаа үнэнээр хэлэхийг хэлнэ. Ингэснээр хүмүүс түүний сэтгэн бодох үйл явц, ажлыг ойлгож, үнэлж чадна.
Хүний бие даан шийдэж, үйлдэх чадварыг дэмжих гэдэг нь хүмүүсийн өөрсдөө ойлгож, сонгож, үйлдэх чадварыг бэхжүүлэхийг хэлнэ.
Анхаарал халамж гэдэг нь нөлөөлөлд өртөх хүмүүсийн нөхцөл байдалд анхаарч, холбогдох нийгмийн болон мэргэжлийн хэм хэмжээг мөрдөн, хүмүүсийн найдаж болохуйц ажил хийхийг хэлнэ.
Тодорхойлолт эдгээр үнэт зүйлийг практик удирдамж болгон буулгаж, хүмүүс болон нийгмийг хамгаалахад шаардлагатай хатуу хязгаарыг тогтооно. Үүнээс бусад нь гол төлөв хэрэглэгч, хөгжүүлэгчдийн өөрчилж болох ердийн дүрэм байна.
Загварын тодорхойлолтын энэ шинэчлэлтэй зэрэгцэн бид загварууддаа эдгээр үндсэн үнэт зүйлийг сургаж, тодорхойлолтын зан үйлийн зарчмуудыг илүү сайн ойлгож, мөрдөхөд нь туслах сургалтын шинэ аргуудыг судалж байна. Зорилго нь эдгээр зарчим яагаад чухал, шинэ нөхцөлд хэрхэн хэрэгжүүлэхийг ойлгуулах буюу зөв зүйлийг зөв учир шалтгаанаар хийдэг болгох юм. Энэ ойлголт нь ихээхэн нөлөөтэй шийдвэрийг зөв гаргахад, мөн нийлээд хүмүүс болон нийгэмд урт хугацааны үр өгөөж(шинэ цонхонд нээгдэнэ) авчрах өдөр тутмын шийдвэрүүдэд анхааралтай хандахад туслаасай гэж бид хүсэж байна. Энэхүү сургалтын ажлын үр дүн, сургамжийг бид цаашдын мэдээллээрээ хуваалцах болно.
Бүтцийг ийнхүү өөрчилснөөр хаана нэмэлт удирдамж хэрэгтэйг тодорхойлж, түүнд тохирсон шинэ зарчим боловсруулан, одоо байгаа удирдамжийг шаардлагын дагуу засварлах эсвэл хасахад тусалсан.
Хүний хүсэл зорилгод үнэнч байх тухай шинэ хэсэг нь хүний эрхэмлэдэг зүйлс нэн тэргүүнд тавигдах ёстой бөгөөд өгсөн заавар нь ихэвчлэн тэдгээр үнэт зүйлийн хамгийн тодорхой, чухал илэрхийлэл байдаг гэсэн санаанд тулгуурладаг. Энэ арга барил нь AI-г хүний зорилгод нийцүүлэх асуудлыг туслах тоглоомын загвараар авч үздэг үзэлд тулгуурласан (эхэн үеийн судалгаа(шинэ цонхонд нээгдэнэ) болон хожмын тоймыг(шинэ цонхонд нээгдэнэ) үзнэ үү). Энэ хэсэгт ямар зааврыг дагах, зөрчлийг хэрхэн шийдвэрлэхийг тайлбарласан шинэчилсэн зааврын эрэмбийг(шинэ цонхонд нээгдэнэ) багтаасан. Нөхцөл байдлыг нягт харгалзах(шинэ цонхонд нээгдэнэ) гэсэн шинэ дэд хэсэгт загвар хүмүүсийн хүсэл зорилго, сонголтыг ойлгохдоо харилцан яриа, санамж болон бусад холбогдох мэдээллийг хэрхэн ашиглах ёстойг тайлбарласан.
Мөн хүний бие даан шийдэж, үйлдэх чадварыг дэмжих(шинэ цонхонд нээгдэнэ), холбогдох нийгмийн хэм хэмжээг мөрдөх(шинэ цонхонд нээгдэнэ) ердийн дүрмүүд нэмж, дагалдах нөлөөг хянах, мэдээлэх(шинэ цонхонд нээгдэнэ) тухай одоо байгаа удирдамжийг өргөжүүллээ. Эдгээр зарчим нь бусад үнэт зүйл загварын зан үйлд илрэх нэмэлт, тэр бүр анзаарагддаггүй ч чухал арга замыг тусгасан. Тухайлбал, хэрэглэгчийн зорилго, зааврыг хүндэтгэхийн зэрэгцээ хийж буй ажил нь бусдад хэрхэн нөлөөлөхийг харгалзах, хэрэглэгчийн чадварыг бэхжүүлэх, хүмүүсийн найдаж болохуйц ажил хийх зэрэг юм.
Үүний зэрэгцээ бид тодорхойлолтын бичлэгийн хэв маягийн дэлгэрэнгүй зааврын ихэнхийг хасаж байна. Бичлэгийн хэв маяг нь нийт хүмүүсийн, тухайн хэл, соёлын хүрээний, мөн хүн нэг бүрийн таашаалд нийцэн өөрчлөгдөх ёстой. Эдгээрийг таньж мэдэхэд хэрэглэгчийн санал хүсэлт, нөхцөл байдал баримжаа өгнө. Тодорхойлолтод асуултад бодитой, төвийг сахин хандах(шинэ цонхонд нээгдэнэ) зэрэг илүү чухал ердийн дүрмүүдийг хэвээр үлдээсэн. Хэрэглэгч, хөгжүүлэгчид тодорхой өнцгөөс хандахыг загвараас шууд хүсэж болно. Гэхдээ загвар тэднийг юу сонсохыг хүсэж байгаа талаарх өөрийн таамагт үндэслэн ийм хүсэлтэй гэж дүгнэх ёсгүй.
Эцэст нь, манай загваруудын хэрэглээний хүрээ, нэвтрүүлж буй орчин улам өргөжиж байгааг тусган тодорхойлолтод загварыг «туслах» бус, «GPT» гэж нэрлэх боллоо.
Загварууд улам чадварлаг болохын хэрээр тодорхойлолтын суурь үнэт зүйлс, үндэслэлийг илүү тодорхой болгох эхний алхам нь энэ шинэчлэл юм. Загварын тодорхойлолт нь бидний зорьж буй зан үйлийг тайлбарладаг бөгөөд манай загварууд үүнийг хараахан бүрэн хэрэгжүүлж чадаагүй байна. Бид судалгаа, бодит хэрэглээ, санал хүсэлтээс суралцахын хэрээр тодорхойлолт болон загваруудаа үргэлжлүүлэн сайжруулна.
Тодорхойлолтын аль хэсэг нь танд үнэмшилтэй санагдаж байгаа, өөр өөр шаардлагыг тэнцвэржүүлсэн шийдлийнх нь юутай санал нийлэхгүй байгаа, юуг орхигдуулсан эсвэл тодорхойгүй үлдээсэн талаар таны бодлыг сонсохыг хүсэж байна. Үнэт зүйлс, харилцан буулт хийсэн шийдлүүд, тодорхой үг хэллэгийн талаарх санал хүсэлт нь үүнийг сайжруулахад тусална. Шинэчилсэн загварын тодорхойлолтыг(шинэ цонхонд нээгдэнэ) уншиж, үзэл бодлоо хуваалцахыг(шинэ цонхонд нээгдэнэ) урьж байна.
