AI нь нийгмийн олон талыг мэдэгдэхүйц сайжруулах асар их боломжтой.
Өмнөх бусад технологийн нэгэн адил энэ технологи хүмүүст илүү их чадавх, шийдвэр гаргах эрх мэдэл өгнө; хүмүүс AI-тайгаар хийж чадах зүйл нь уурын хөдөлгүүр эсвэл цахилгаанаар хийж чаддагаас хавьгүй давна.
Одоогоор төсөөлөхөд ч бэрх түвшний өргөн дэлгэр цэцэглэлттэй, мөн хувь хүний боломж, бие даасан байдал, сэтгэл ханамж мэдэгдэхүйц өссөн дэлхийг бид төсөөлж байна. Шинжлэх ухааны уран зөгнөлд л мөрөөдөж байсан олон зүйл бодит болж, ихэнх хүмүүс өнөөдрийнхөөс илүү утга учиртай амьдрах боломжтой болно.
Гэхдээ ийм үр дүн баталгаатай биш. Ирээдүйн эрх мэдэл хэт оюуныг ашиглаж, хянадаг цөөн хэдэн компанийн гарт төвлөрч ч болно, эсвэл хүмүүсийн гарт төвлөрөлгүй хэлбэрээр байж ч болно. Бид хоёр дахь хувилбар нь хавьгүй дээр гэж үздэг бөгөөд жинхэнэ ерөнхий AI-ийг аль болох олон хүний гарт хүргэх нь бидний зорилго юм. Өнөөдрийн адил ирээдүй бүхэлдээ муу ч биш, бүхэлдээ сайн ч биш байх боловч бидний одоо гаргах шийдвэрүүд сайн талыг хамгийн их болгоход тусална.
Бидний зорилго бол AGI хүн төрөлхтөнд бүхэлд нь үр өгөөжтэй байхыг хангах. Бидний ажлыг чиглүүлдэг зарчмуудыг дурдъя.
1. Ардчилах. Бид энэ технологи эрх мэдлийг цөөнхийн гарт төвлөрүүлэх эрсдэлийг эсэргүүцнэ.
Энэ нь хүн бүрт AI-ийн хүртээмж олгохоос гадна AI-ийн талаарх гол шийдвэрүүдийг зөвхөн AI лабораториуд биш, ардчилсан үйл явц болон тэгш эрхийн зарчмаар гаргадаг байх ёстой гэсэн үг.
2. Чадваржуулах. AI нь хүн бүрийг зорилгодоо хүрэх, илүү ихийг сурах, илүү аз жаргалтай, сэтгэл дүүрэн байх, мөрөөдлөө биелүүлэхэд нь дэмжиж чадна, мөн үүнээс нийгэм бүхэлдээ ашиг хүртэнэ гэж бид үздэг.
Үүнд хүрэхийн тулд бидний өмнө байгаа асар их боломжийг хүмүүс судалж турших боломжтой байх ёстой бөгөөд үүнийг дэмжих бүтээгдэхүүнүүдийг бид бүтээх хэрэгтэй. Хэрэглэгчид манай үйлчилгээнүүдээр улам үнэ цэнтэй даалгавруудыг тогтвортой хийж чаддаг байх ёстой.
Дэлхий олон янз, хүмүүсийн хэрэгцээ ч өөр өөр. Бид хэрэглэгчдэдээ шаардлагатай бие даасан байдлыг нь өгч, боломжийн хэрээр аль болох их эрх чөлөө олгохыг хүсдэг.
Хэдийгээр бид хэрэглэгчдэд үйлчилгээгээ хэрхэн ашиглах талаар маш өргөн эрх чөлөө олгохыг хүсэж, AI нь ерөнхийдөө асар их ашиг тустай байна гэдэгт бат итгэдэг ч, хохирлыг аль болох багасгах байдлаар үүнийг бүтээж, нэвтрүүлэх үүрэг бидэнд бий. Үүнд мэдээж сүйрлийн хэмжээний хор уршгаас сэргийлэхээс гадна орон нутгийн хохирлыг багасгах, нийгэмд идэмхий нөлөө үзүүлж болзошгүй үр дагавраас зайлсхийх орно. Энэ нь тодорхойгүй нөхцөлд болгоомжийг илүүд үзэж, илүү их нотолгоо гарвал хязгаарлалтыг зөөлрүүлнэ гэсэн үг.
3. Нийтлэг хөгжил цэцэглэлт. Хүн бүр маш сайн амьдралтай байж чадах ирээдүйг бид хүсдэг.
Их хэмжээний тооцоолох хүчин чадалтай, хэрэглэхэд хялбар AI системүүдийг хүн бүрийн гарт хүргэснээр хүмүүс үнэ цэнэ бүтээх шинэ арга замуудыг олж, ялангуяа шинэ шинжлэх ухааны нээлтээр дамжуулан хүн бүрийн амьдралын чанарыг асар их сайжруулна гэж бид үздэг.
Хөгжил цэцэглэлтийг бүрэн бодит болгож, өргөн хүрээнд хуваалцахын тулд 1) манай засгийн газрууд хүн бүр ирээдүйд бий болох үнэ цэнийн бүтээлд оролцох боломжтой байлгахын тулд эдийн засгийн шинэ загваруудыг авч үзэх шаардлагатай байж магадгүй, мөн 2) бид AI дэд бүтцийн өртгийг эрс бууруулахын тулд асар их хэмжээний AI дэд бүтэц байгуулж, шинэ технологи хөгжүүлэх хэрэгтэй гэж бид үздэг.
Бидний хийдэг, заримдаа хачин мэт харагддаг олон зүйл—орлого маань харьцангуй бага байхад асар их хэмжээний тооцоолох нөөц худалдан авах, өртөг бууруулж технологио ашиглахад хялбар болгохын тулд босоо интеграц хийх, дэлхий даяар дата төвүүд байгуулахаар шахах болон бусад олон зүйл—нь нийтлэг хөгжил цэцэглэлтийн ирээдүйд итгэдэг бидний суурь үнэмшлээс үүдэлтэй.
4. Тэсвэртэй байдал. AI шинэ эрсдэлүүдийг бий болгоно. Бид тэдгээрийг шийдэхийн тулд бусад компани, экосистем, засгийн газар, нийгэмтэй хамтран ажиллана. Энэ ажлыг дэмжихэд бид өөрсдийн Foundation-ийн нөөцийг өргөнөөр ашиглана.
Ямар ч AI лаборатори ганцаараа сайн ирээдүйг баталгаажуулж чадахгүй. Илэрхий жишээ дурдвал, шинэ өвчин үүсгэгч бүтээхийг илүү хялбар болгодог маш өндөр чадвартай загварууд гарч ирж магадгүй бөгөөд үүнээс хамгаалахын тулд өвчин үүсгэгчээс үл хамаарах сөрөг арга хэмжээнүүд бүхий нийгэм даяарх хандлага бидэнд хэрэгтэй. Өөр нэг жишээ нь, загваруудын кибер аюулгүй байдлын чадавх нэмэгдэхийн хэрээр бид эдгээр загваруудыг нээлттэй эхийн програм хангамж болон чухал дэд бүтцийг хамгаалахад нэн даруй ашиглахын зэрэгцээ, хүн бүрийг илүү аюулгүй програм хангамж бүтээхэд туслахуйцаар загваруудыг сургах хэрэгтэй.
Энэ нь бидний удаан хугацаанд баримталж ирсэн үе шаттай нэвтрүүлэх стратегийн өргөтгөл юм; AI-ийн чадамжийн дараагийн түвшин бүртэй нийгэм тулгарч, түүнийг ойлгож, нэгтгэн шингээж, цааш явах хамгийн зөв замыг хамтдаа тодорхойлох шаардлагатай гэж бид үздэг. Үүнийг тусгаар орчинд хийх боломжгүй; нийгэм, технологи хоёр хамтдаа хувьсан өөрчлөгддөг бөгөөд үүнд хугацаа хэрэгтэй.
Үүнийг бид аюулгүй байдлын цорын ганц стратеги гэж хэлээгүй; бид мөн аюулгүй системүүд бүтээж, техникийн alignment дээрх өндөр түвшний ажлаа үргэлжлүүлэх ёстой.
Ажлаа цааш үргэлжлүүлэхээс өмнө alignment, аюулгүй байдал, эсвэл нийгмийн ноцтой асуудлуудыг хангалттай шийдсэн эсэхээ баталгаажуулахын тулд засгийн газрууд, олон улсын байгууллагууд болон бусад AGI хүчин чармайлттай тодорхой үеүүдэд хамтран ажиллах шаардлага гарна гэж бид үзэж байна.
5. Дасан зохицох чадвар. Маш ихээр урьдчилан таамаглах боломжгүй ирээдүйн сорилтуудыг даван туулах цорын ганц арга бол илүү ихийг сурах тусам байр сууриа шинэчлэхэд бэлэн байх явдал гэж бид цаашид ч үзэж байна. Мөн OpenAI нь хэдэн жилийн өмнөхөөсөө дэлхийд 훨씬 илүү том нөлөө бүхий хүч болсон гэдгийг бид хүлээн зөвшөөрч, үйл ажиллагааны зарчмууд маань хэзээ, хэрхэн, яагаад өөрчлөгдөж байгааг ил тод мэдээлнэ. Тодорхой жишээ хэлбэл, нийтлэг хөгжил цэцэглэлт маш чухал хэвээр байна гэдэгт бид нэлээд итгэлтэй байгаа ч, ирээдүйд зарим үед тэсвэртэй байдлыг нэмэгдүүлэхийн тулд чадваржуулалтын тодорхой хэсгийг золиослох шаардлага гарч магадгүй гэж бид төсөөлж байна.
AI-ийн хөгжил олон гэнэтийн зүйл авчирсан бөгөөд цаашид ч олон зүйл ирнэ. Технологи урагшлахын хэрээр түүний шинээр үүсэх зан төлөвүүдийг урьдчилан таамаглах нь улам бүр хэцүү болно. Бид чадамжийг болгоомжтой ахиулж, системүүдийг үе шаттай нэвтрүүлж, тэдгээрийн бодит ертөнцтэй харилцан үйлчлэлээс суралцах замаар тэр тодорхойгүй байдлыг хүлээн зөвшөөрдөг.
Удалгүй өнгөрсөн тэр үед бид GPT‑2‑ийн weights-ийг нийтлэхээс эмээж байсан, учир нь энэ нь нийгэмд ямар нөлөө үзүүлэхийг сайн мэдэхгүй байлаа. Эргээд харахад энэ нь мэдээж ташаа болгоомжлол байсан ч, энэ нь биднийг үе шаттай нэвтрүүлэх стратегийг нээж олоход хүргэсэн бөгөөд энэ нь бидний олж мэдсэн хамгийн чухал зүйлсийн нэг болсон.
__
Технологи тасралтгүй сайжирсаар байгаа энэ үед бид асар их нөлөөтэй шатанд орж байна. Бидний гаргасан шийдвэр бүрийг шүүмжлэх нь бүрэн үндэслэлтэй; бидний хийж буй зүйлийн жинг бодолцвол бид маш их хяналт, шалгалт хүртэх ёстой. Бид бүгдийг зөв хийхгүй, гэхдээ хурдан суралцаж, алдаагаа засна.
Бид ирээдүйг өнгөрсөн үеэс илүү сайн болгоход өөрсдийн хувь нэмрээ оруулахын төлөө тууштай байна; ийм чухал ажлыг хийж байгаадаа бид азтай гэж боддог.
