OpenAI-ийн улаан багийн сүлжээ

Бид OpenAI-ийн улаан багийн сүлжээнд элсэх нээлттэй сонгон шалгаруулалт зарлаж, OpenAI-ийн загваруудын аюулгүй байдлыг сайжруулах сонирхолтой салбарын мэргэжилтнүүдийг хамтран ажиллахыг урьж байна. Бид хиймэл оюуны загваруудаа нарийвчлан үнэлж, улаан багийн туршилт хийхэд хамтран ажиллах олон салбарын мэргэжилтэн хайж байна.

Улаан багийн туршилт^A нь манай үе шаттайгаар нэвтрүүлж, сайжруулах үйл явцын⁠ салшгүй хэсэг юм. Сүүлийн хэдэн жилд манай улаан багийн ажил OpenAI дотор системийн сул талыг зориуд илрүүлэх туршилт хийхэд төвлөрч байснаас өргөжсөн. Одоо бид гаднын мэргэжилтнүүдтэй^B хамтран салбар тус бүрийн эрсдэлийн ангиллыг боловсруулах, шинэ системүүдийн хор хөнөөл учруулж болзошгүй чадавхыг үнэлэхэд ажиллаж байна. Та DALL·E 2⁠(шинэ цонхонд нээгдэнэ), GPT‑4⁠(шинэ цонхонд нээгдэнэ) зэрэг загварт хийсэн улаан багийн өмнөх туршилтууд болон гаднын мэргэжилтнүүдтэй хамтарсан ажлын талаар дэлгэрүүлэн уншиж болно.^C

Өнөөдөр бид өмнөх ажлууддаа тулгуурлан, загваруудаа илүү аюулгүй болгохын тулд гаднын мэргэжилтнүүдтэй хамтын ажиллагаагаа гүнзгийрүүлж, өргөжүүлэх илүү албан ёсны санаачилгыг эхлүүлж байна. Бие даасан мэргэжилтнүүд, судалгааны байгууллагууд болон иргэний нийгмийн байгууллагуудтай хамтран ажиллах нь бидний үйл ажиллагааны чухал хэсэг юм. Бид энэ ажлыг хөндлөнгийн аудит зэрэг гаднын талаас тогтоосон засаглалын арга хэмжээг нөхөх ажил гэж үздэг.

OpenAI-ийн улаан багийн сүлжээ нь томоохон загвар нэвтрүүлэхийн өмнө нэг удаагийн хамтын ажиллагаа, сонгон шалгаруулалт хийхээс илүү өргөн хүрээнд эрсдэлийг үнэлэх, бууруулах ажилд маань мэдлэг, санал дүгнэлтээрээ хувь нэмэр оруулах найдвартай, туршлагатай мэргэжилтнүүдийн нийгэмлэг юм. Сүлжээний гишүүдийг мэргэшсэн чиглэлд нь үндэслэн загвар, бүтээгдэхүүн хөгжүүлэх мөчлөгийн янз бүрийн үе шатанд улаан багийн туршилтад оролцохыг урина. Гишүүн бүр шинэ загвар, бүтээгдэхүүн бүрийн туршилтад оролцохгүй. Зарцуулах цагийг гишүүн тус бүртэй тохиролцох бөгөөд жилд ердөө 5–10 цаг ч байж болно.

OpenAI-ийн захиалсан улаан багийн туршилтуудаас гадна гишүүд улаан багийн нийтлэг арга барил, үр дүнгийн талаар хоорондоо санал солилцох боломжтой. Зорилго нь илүү олон талын санал, хувь нэмрийг тасралтгүй авч, улаан багийн туршилтыг давтан хийж сайжруулдаг үйл явц болгох юм. Энэ сүлжээ нь манай Судлаачдад хандах эрх олгох хөтөлбөр⁠ болон нээлттэй эхийн үнэлгээнүүд⁠(шинэ цонхонд нээгдэнэ) зэрэг хиймэл оюуны аюулгүй байдлын чиглэлээр хамтран ажиллах бусад боломжийг нөхөж өгнө.

Энэ сүлжээ нь илүү аюулгүй хиймэл оюуны технологи, бодлогыг хөгжүүлэх, мөн бидний амьдрах, ажиллах, харилцах хэв маягт хиймэл оюун хэрхэн нөлөөлөхийг тодорхойлоход хувь нэмрээ оруулах онцгой боломж юм. Сүлжээнд нэгдсэнээр та манай загвар, системийг нэвтрүүлэх олон үе шатанд үнэлгээ хийхээр урьж болох салбарын мэргэжилтнүүдийн бүрэлдэхүүнд багтана.

Хиймэл оюуны системийг үнэлэхийн тулд олон салбарын мэдлэг, ялгаатай үзэл бодол, амьдралын туршлагыг ойлгох шаардлагатай. Бид дэлхийн өнцөг булан бүрийн мэргэжилтнүүдээс өргөдөл хүлээн авч, сонгон шалгаруулахдаа газарзүйн болон салбарын олон талт төлөөллийг чухалчилж байна. 

Бид дараах болон бусад салбарын мэргэжилтнүүдийг сонирхож байна:

Өмнө нь хиймэл оюуны систем эсвэл хэлний загвартай ажиллаж байсан туршлага шаардлагагүй ч байвал тустай. Хиймэл оюуны системийн нөлөөг үнэлэх ажилд оролцож, өөрийн үзэл бодол, өнцгийг хуваалцах хүсэл эрмэлзлийг тань бид хамгийн их үнэлдэг.

OpenAI-ийн улаан багийн сүлжээний бүх гишүүн улаан багийн төсөлд оролцохдоо оруулсан хувь нэмрийнхээ төлөө урамшуулал авна. Энэ сүлжээний гишүүн байх нь судалгаагаа нийтлэх, бусад боломжийг эрэлхийлэхэд тань хязгаарлалт болохгүй. Гэхдээ улаан багийн болон бусад төсөлд оролцохдоо ихэвчлэн нууц хадгалах гэрээ (NDA) байгуулах, эсвэл хугацаагүйгээр нууц хадгалах шаардлагатай байдгийг анхаараарай.

Өргөдөл хүлээн авах хугацаа дууссан.

Асуулт: Сүлжээнд нэгдсэнээр юу хийх вэ?

Хариулт: Сүлжээний гишүүн болсноор тантай шинэ загвар турших, эсвэл аль хэдийн нэвтрүүлсэн загварыг сонирхож буй чиглэлээрээ турших боломжийн талаар холбогдож болно. Сүлжээний хүрээнд хийх ажил нь нууц хадгалах гэрээний (NDA) дагуу явагдана. Гэхдээ бид өмнө нь улаан багийн туршилтынхаа олон үр дүнг системийн танилцуулга болон блогийн нийтлэлээр нийтэлж байсан. Улаан багийн төсөлд зарцуулсан цагийнхаа төлөө та урамшуулал авна.

Асуулт: Сүлжээний гишүүн байхад хэр их цаг зарцуулах шаардлагатай вэ? 

Хариулт: Та зарцуулах цагаа өөрийн хуваарьт тохируулан шийдэх боломжтой. Боломж гарах бүрд сүлжээний бүх гишүүнтэй холбогдохгүйг анхаарна уу. OpenAI тухайн улаан багийн төсөлд тохирох хүмүүсийг сонгох бөгөөд дараагийн улаан багийн туршилтуудад шинэ өнцөг, үзэл бодлыг чухалчилна. Жилд ердөө 5 цаг зарцуулсан ч бидэнд үнэ цэнтэй хувь нэмэр болно. Тиймээс сонирхолтой ч цаг зав багатай бол өргөдөл гаргахаас бүү эргэлзээрэй.

Асуулт: Өргөдөл гаргагчдад тэнцсэн эсэхийг хэзээ мэдэгдэх вэ?

Хариулт: OpenAI сүлжээний гишүүдийг өргөдөл ирэх явцад үе шаттайгаар сонгоно. Та 2023 оны 12-р сарын 1 хүртэл өргөдөл гаргаж болно. Энэ хугацаа дууссаны дараа бид цаашид дахин өргөдөл хүлээн авах эсэхийг үнэлж шийднэ.

Асуулт: Сүлжээний гишүүн болсноор шинэ загвар бүрийн улаан багийн туршилтад оролцох уу?

Хариулт: Үгүй. OpenAI тухайн улаан багийн төсөлд тохирох хүмүүсийг сонгох тул шинэ загвар бүрийг туршина гэж хүлээх хэрэггүй.

Асуулт: Сүлжээний гишүүдийг сонгохдоо ямар шалгуур харгалзах вэ?

Хариулт: Бид дараах шалгуурыг харгалзана:

• Улаан багийн ажилд хамаарах тодорхой салбарт мэргэшсэн эсвэл туршлагатайгаа харуулсан байх

• Хиймэл оюуны аюулгүй байдлыг сайжруулах чин хүсэлтэй байх

• Ашиг сонирхлын зөрчилгүй байх

• Олон янзын гарал, туршлагатай, уламжлал ёсоор төлөөлөл багатай бүлгүүдийн төлөөлөл байх

• Газарзүйн олон бүс нутгийг төлөөлөх 

• Нэгээс олон хэлийг чөлөөтэй эзэмшсэн байх

• Техникийн ур чадвартай байх (заавал шаардлагагүй)

Асуулт: Аюулгүй байдлын чиглэлээр хамтран ажиллах өөр ямар боломжууд бий вэ?

Хариулт: Сүлжээнд нэгдэхээс гадна хиймэл оюуны аюулгүй байдалд хувь нэмэр оруулж, хамтран ажиллах бусад боломжууд бий. Жишээлбэл, хиймэл оюуны системийн аюулгүй байдлыг үнэлэх арга боловсруулах эсвэл үнэлгээ хийж, үр дүнд нь дүн шинжилгээ хийх боломжтой.

OpenAI-ийн нээлттэй эхийн Evals⁠(шинэ цонхонд нээгдэнэ) репозитор нь (GPT‑4‑ийг танилцуулах үеэр⁠ гаргасан) энэ ажлыг эхлүүлэхэд зориулсан хэрэглэхэд хялбар бэлэн загвар, аргын жишээнүүдийг санал болгодог.

Үнэлгээ нь энгийн асуулт, хариултын тестээс эхлээд илүү нарийн төвөгтэй симуляц хүртэл байж болно. Тодорхой жишээ болгон, хиймэл оюуны зан үйлийг олон талаас нь үнэлэхээр OpenAI-ийн боловсруулсан дараах үнэлгээнүүдийг танилцуулъя:

Ятган үнэмшүүлэх

• MakeMeSay⁠(шинэ цонхонд нээгдэнэ): Хиймэл оюуны систем өөр нэг хиймэл оюуны системийг хуурч, нууц үгийг нь хэлүүлэхдээ хэр чадварлаг вэ?

• MakeMePay⁠(шинэ цонхонд нээгдэнэ): Хиймэл оюуны систем өөр нэг хиймэл оюуны системийг мөнгө хандивлахад хэр сайн ятгаж чадах вэ?

• Санал хураалтад оруулах санал⁠(шинэ цонхонд нээгдэнэ): Хиймэл оюуны систем өөр нэг хиймэл оюуны системийн улс төрийн санал дэмжих эсэхэд хэр хүчтэй нөлөөлж чадах вэ?

Стеганографи (мэдээллийг далдлах)

• Стеганографи⁠(шинэ цонхонд нээгдэнэ): Хиймэл оюуны систем өөр нэг хиймэл оюуны системд илрүүлэлгүйгээр нууц зурвас дамжуулахдаа хэр чадварлаг вэ?

• Текст шахах⁠(шинэ цонхонд нээгдэнэ): Хиймэл оюуны систем нууц зурвасыг далдлахын тулд зурвасуудыг хэр сайн шахаж, буцаан задлах вэ?

• Шеллингийн цэг⁠(шинэ цонхонд нээгдэнэ): Хиймэл оюуны систем өөр нэг хиймэл оюуны системтэй шууд харилцахгүйгээр үйлдлээ хэр сайн уялдуулж чадах вэ?

Бид хиймэл оюуны системийг үнэлэхдээ бүтээлчээр хандаж, шинэ зүйл туршихыг дэмждэг. Үнэлгээгээ боловсруулж дууссаны дараа хиймэл оюуны өргөн хүрээний нийгэмлэгт ашиглуулахын тулд нээлттэй эхийн Evals⁠(шинэ цонхонд нээгдэнэ) репозиторт хувь нэмэр болгон оруулахыг урьж байна.

Та мөн манай Судлаачдад хандах эрх олгох хөтөлбөр⁠т өргөдөл гаргаж болно. Энэ хөтөлбөр нь хиймэл оюуныг хариуцлагатай нэвтрүүлэх, холбогдох эрсдэлийг бууруулах чиглэлээр манай бүтээгдэхүүнийг ашиглан судалгаа хийдэг судлаачдыг дэмжих зорилгоор кредит олгодог.