Гэрэл зураг: Jake Stangel
AI-ийн ирээдүйн талаар танд хамгийн их догдлол төрүүлдэг зүйл юу вэ?
Ерөнхий хиймэл оюун ухаан (AGI) нь эдийн засгийн үнэ цэнтэй ихэнх ажил дээр хүнээс илүү байх ёстой. AGI нь хүний нийгэмд дараах байдлаар туслахыг би тэсэн ядан хүлээж байна:
- Давтагддаг, шинэлэг биш ажлууд дээрх хүний хүчин чармайлтыг бүрэн автоматжуулах эсвэл мэдэгдэхүйц бууруулах. Өөрөөр хэлбэл, AGI нь хүний бүтээмжийг эрс нэмэгдүүлэх ёстой.
- Шинжлэх ухааны шинэ нээлтүүдийг илрүүлэх явцыг ихээхэн хурдасгах, үүнд нэмэлт шинжилгээ, мэдээлэл өгөх замаар хүний шийдвэр гаргах үйл явцыг дэмжих зэрэг багтана, гэхдээ үүгээр хязгаарлагдахгүй.
- Бие махбодит ертөнцийг үр дүнтэй, бүтээмжтэй, аюулгүйгээр ойлгож, харилцах.
OpenAI-д ажиллахдаа оролцсон төслүүдээсээ та аль төслөөрөө хамгийн их бахархдаг вэ?
OpenAI-д ажилласан эхний 2.5 жилийн хугацаанд би Robotics багт маш амбицтай нэг санаан дээр ажилласан: бид хүнтэй төстэй ганц робот гарт Рубикийн шоог эвлүүлж сургахыг хүссэн. Энэ нь асар их догдлуулсан, хүндхэн, бас сэтгэл хөдөлгөм туршлага байсан. Бид гүнзгийрүүлэх сургалт (RL), асар их хэмжээний domain randomization, мөн бодит ертөнцийн сургалтын өгөгдөл огт ашиглахгүйгээр энэ сорилтыг шийдсэн. Үүнээс ч илүү чухал нь бид энэ сорилтыг баг болж давсан.
Симуляци ба RL сургалтаас эхлээд харааны ойлголт, техник хангамжийн firmware хүртэл бид маш нягт, уялдаа холбоотой хамтарсан. Энэ бол гайхалтай туршилт байсан бөгөөд тэр үед би Steve Jobs-ийн reality distortion field(шинэ цонхонд нээгдэнэ)-ийг байнга боддог байлаа: ямар нэг зүйлд маш хүчтэй итгэж, түүний төлөө тууштай зүтгэсээр байвал ямар нэгэн байдлаар боломжгүйг боломжтой болгож чадна.
2021 оны эхнээс би Хэрэглээний AI судалгааны багийг удирдаж эхэлсэн. Баг удирдах нь өөр төрлийн сорилтууд авчирч, ажлын хэв маягаа өөрчлөхийг шаарддаг. Хэрэглээний AI-ийн хүрээнд хэлний загварын аюулгүй байдалтай холбоотой хэд хэдэн төслөөрөө би хамгийн их бахархдаг:
- Урьдчилан сургагдсан хэлний загварууд үзэн ядсан, бэлгийн, эсвэл хүчирхийллийн агуулга үүсгэх хандлагатай эсэхийг үнэлэхийн тулд бид үнэлгээний өгөгдөл болон даалгаврын багц зохион бүтээж, байгуулсан.
- Бид хүсээгүй агуулгыг илрүүлэх, мөн яагаад тухайн агуулга зохисгүй байгааг тодорхойлох нарийвчилсан ангилалзүй боловсруулж, хүчирхэг ангилагч бүтээсэн.
- Бид загвар аюултай гаралт үүсгэх магадлалыг бууруулах янз бүрийн арга техник дээр ажиллаж байна.
Хэрэглээний AI баг том урьдчилан сургагдсан хэлний загвар зэрэг хамгийн сүүлийн үеийн AI аргуудыг нэвтрүүлэх шилдэг арга замыг хэрэгжүүлж байхдаа, эдгээр нь бодит ертөнцийн даалгаварт ямар хүчирхэг, ашигтайг харж байна. Мөн манай дүрэмд онцолсны дагуу эдгээр аргуудыг аюулгүй нэвтрүүлэхийн чухлыг бид ойлгож байна.
Гэрэл зураг: Jake Stangel
Одоогийн гүний сургалтын загварууд төгс биш. Эдгээрийг хүмүүсийн бүтээсэн асар их хэмжээний өгөгдлөөр (жишээ нь интернэт, цэгцэлсэн материал, уран зохиол) сургадаг бөгөөд манай нийгэмд эртнээс байсаар ирсэн олон алдаа, гажуудлыг зайлшгүй өөртөө шингээдэг. Жишээлбэл, DALL·E-ээс сувилагчийг дүрслэхийг хүсэхэд зөвхөн эмэгтэй дүр үүсгэдэг, эсвэл профессорын хувьд зөвхөн цагаан арьст хүмүүсийг гаргадаг байсан. Загвар нь бодит ертөнцийн статистик дахь гажуудал эсвэл манай сургалтын өгөгдлийн гажуудлыг тусган авдаг.
Ийм төрлийн нийгмийн гажуудлыг бууруулах арга боловсруулж, тэр арга хэр үр дүнтэйг үнэлэх сэдэл надад төрсөн. Багаараа бид ийм гажуудлыг бууруулах пайплайн, мөн хүнийг оролцуулсан үнэлгээ хийх ажлын урсгал зохион бүтээсэн. Нийгмийн гажуудлыг бууруулах нь амаргүй асуудал, учир нь энэ нь бидний амьдралын олон талд илэрдэг бөгөөд заримдаа анзаарахад ч хэцүү байдаг. Гэхдээ DALL·E-ийн баг энэ асуудлыг нухацтай авч үзэж, маш эрт үе шатанд арга хэмжээ авч байгаад би баяртай байдаг. Одоогоор бидний хийсэн зүйл бол зөвхөн эхлэл бөгөөд бид цаашид ахисаар байх болно. Би энэ чиглэлээр ажилладгаараа бахархдаг бөгөөд алхам алхмаар орчин үеийн AI-г илүү аюулгүй, илүү сайн болгож байгааг харахад баяртай байна.
«Өөр өөр сэдэв, салбарын санаанууд нь олонтаа шинэ санаа төрүүлж, боломжит шийдлийн хүрээг тэлдэг.»
Өөрийн хувийн туршлага, үнэт зүйлсээ OpenAI дахь өдөр тутмын ажилдаа та хэрхэн тусгадаг вэ?
Би суралцахын хүчид итгэдэг бөгөөд сурахад хэзээ ч оройтдоггүй. Хувийн блогоо хөтлөх нь энэ сониуч занг хадгалж, гүний сургалтын нийгэмлэгийн шинэ ахицыг тогтмол мэдэж байх сайн арга болдог. Би мөн багийнхаа хүмүүсийг одоогийн төслүүдтэй нь холбоотой ч бай, холбоогүй ч бай суралцсаар байхыг урамшуулдаг. Өөр өөр сэдэв, салбарын санаанууд нь олонтаа шинэ санаа төрүүлж, боломжит шийдлийн хүрээг тэлдэг.
Би багийн ажлын үнэнч дэмжигч мөн. Хэрэв хүн бүр өөрийн хамгийн сайн чадвараар гэрэлтэж чадвал 1+1 > 2 болно. Үүний зэрэгцээ бид заримдаа “бохир” ажилтай тулгардаг, тийм даалгавруудыг би хувьдаа дуртайяа үүрдэг. Учир нь хэрэв тэр нь хамгийн том саад болж байгаа эсвэл төсөлд хамгийн их үнэ цэнэ нэмэх ажил бол юу ч “бохир” эсвэл “өчүүхэн” гэж тооцогдох ёсгүй. Би эргэн тойрныхоо хүмүүсийг ч мөн ингэж, багийн тоглогч байж, багийн бүтээмжийг хурдасгахын төлөө хамтран ажиллахыг урамшуулдаг.
Блогийнхоо талаар яриач! Та яагаад үүнийг эхлүүлсэн бэ? Энэ юуг урамшуулна гэж найдаж байна вэ?
Бүх зүйл хувийн суралцах тэмдэглэлээс эхэлсэн. Би гүний сургалтын салбарт маш эрт орж ирээгүй, өөрийгөө ч “шинэхэн” гэж боддог байв. Эхэндээ олон өгүүлэл ухаж үзэж эхлэхэд асуудлыг шийдэх алгоритм зохиохын оронд тухайн асуудлыг шийдэх алгоритмыг сурах загвар сургана гэсэн ойлголт намайг бишрүүлсэн. Унших тусам улам их сониуч болдог байлаа. Практик дээр уншсан бүх өгүүлэл, сурсан шинэ ойлголтуудаа цэгцлэх маш хэцүү болсон. Тиймээс суралцах тэмдэглэлээ баримтжуулж, эмхлэхийн тулд блог эхлүүлэхээр шийдсэн. Мөн ямар нэг зүйлийг сурах хамгийн сайн арга нь тэр мэдлэгийг бусдад зөв, ойлгомжтой зааж чаддагаа батлах явдал гэж би боддог. Бичих нь надад үүнд хүрэхэд тусалдаг.
Энэ нь ML-ийн нийгэмлэгт алдартай болно гэж би огт төсөөлөөгүй. Гэхдээ хэн нэгнээс талархлын имэйл авах бүрт эсвэл миний блогоос их зүйл сурсан гэж нүүр тулан хэлэх бүрт би маш их хүндлэгдэж, талархаж явдаг. Би 2017 онд блогоо эхлүүлснээс хойш бараг 6 жил өнгөрчээ, би чадлынхаа хэрээр үүнийг үргэлжлүүлсээр байх болно.
Таны бодлоор AI манай нийгэмд шийдвэрлэж чадах хамгийн яаралтай сорилтуудын нэг нь юу вэ?
Сүүлийн жилүүдэд AI-ийн нийгэмлэг асар их ахиц гаргасан. Техник хангамж, загварын архитектур, өгөгдлийн дэвшил нь аварга том загваруудыг сургах боломжийг бүрдүүлж, үүний үр дүнд бид улам бүр өндөр чадваруудыг харсаар байна. Бид AGI руу зөв замаар явж байна гэж би боддог, гэхдээ цар хүрээг тэлэх нь цорын ганц жор биш. Миний бодлоор яг одоо хамгийн яаралтай сорилтууд бол нийцүүлэлт ба аюулгүй байдал юм. Нэг талаар эдгээр нь хянах чадвар эсвэл чиглүүлэх чадварын тухай нэг л асуудал байж магадгүй.
Нэгдүгээрт, бидний гарт аль хэдийн маш хүчирхэг AI систем байсан ч гэсэн, хэрэв бид зорилгоо үр дүнтэй илэрхийлж чадахгүй, мөн загвар бидний хүсэж буй зүйлтэй нийцэж байгааг баталж чадахгүй бол шаардлагатай хэмжээний үнэ цэнийг бүтээх боломжгүй. Одоогийн хамгийн хүчирхэг загвар асар их хэмжээний өгөгдлөөс суралцдаг бөгөөд тухайн өгөгдлийн багц нь бодит ертөнц дэх төгс бус алдаа, гажуудлыг зайлшгүй тусган авдаг. Энэ тал дээр нийцээгүй загварууд юуг зайлсхийх ёстойгоо ойлгодоггүй тул аюулгүй байдлын эрсдэл дагуулдаг.
«Бид AGI руу зөв замаар явж байна гэж би боддог, гэхдээ цар хүрээг тэлэх нь цорын ганц жор биш. Яг одоо хамгийн яаралтай сорилтууд бол нийцүүлэлт ба аюулгүй байдал юм.»
OpenAI дахь карьерынхаа хугацаанд авсан хамгийн сайн зөвлөгөө юу байсан бэ?
Энэ бол хэн нэгэн надад өгсөн тодорхой зөвлөгөө биш, харин өнөөг хүртэлх OpenAI дахь туршлага дээр маань үндэслэсэн зүйл. Тэр нь томоор сэтгэх тухай. Бид шинэ зүйл бүтээж байгаа учраас амбицтай, зоригтой байж, хүчин чармайлтаа үргэлжлүүлэх хангалттай тууштай байх ёстой.
Та урам зоригоо хаанаас олдог вэ?
Номууд. Би ихэвчлэн гүний сургалтын салбараас гадуурх номууд уншиж, олон янзын салбараас урам зориг авдаг. Жишээлбэл, зохиолч хүн 50 жилийн турш тууштай байх нь, мэс засалч төгс нарийн ширийнд анхаарах нь, мөн энтрепренер хүн “галзуу санаа”-тай байх нь ямар чухал вэ гэдгийг.
Миний эргэн тойрны хүмүүс. OpenAI-д маш авьяастай олон хамт олонтой ажилладагтаа би талархдаг. Хүн бүрт гялалзсан, урам өгсөн, эсвэл хүндэтгэл төрүүлсэн ямар нэг зүйл байдаг бөгөөд би тэднээс суралцах дуртай.
