AI-д өгөх ардчилсан оролтууд

Манай ашгийн бус байгууллага OpenAI, Inc. хуульд заасан хүрээнд AI системүүд ямар дүрэм мөрдөхийг шийдэх ардчилсан үйл явцыг бий болгох туршилтуудыг санхүүжүүлэх зорилгоор тус бүр $100,000-ын арван буцалтгүй тусламж олгох хөтөлбөрийг эхлүүлж байна.

AI нь эдийн засаг, нийгэмд өргөн хүрээтэй, гүн нөлөө үзүүлнэ. Технологи нь хувь хүний амьдрал, бидний хоорондын харилцаа, мөн нийгэм бүхэлдээ хэрхэн хөгжихийг тодорхойлдог. AI хэрхэн ажиллах тухай шийдвэрүүд нь нийтийн ашиг сонирхлыг тусгасан олон янзын үзэл бодлоор хэлбэржих ёстой гэж бид үздэг.

Хууль нь зан үйлийг зохицуулах үнэт зүйл, хэм хэмжээг кодчилдог. Хуулийн хүрээнээс цааш AI-д ч, нийгэмтэй адил, илүү нарийн бөгөөд дасан зохицохуйц зан үйлийн удирдамж хэрэгтэй. Жишээлбэл: тодорхой олон нийтийн зүтгэлтнүүдийн талаар бүлгүүдийн үзэл бодол өөр өөр байхад AI системүүд ямар нөхцөлд тэднийг буруушаах эсвэл шүүмжлэх ёстой вэ? Маргаантай үзэл бодлыг AI-ийн хариултад хэрхэн тусгах ёстой вэ? AI нь анхдагчаар дэлхийн дундаж хүний дүр төрхийг, хэрэглэгчийн улсын, хэрэглэгчийн хүн ам зүйн бүлгийнхийг, эсвэл огт өөр зүйлийг тусгах ёстой юу? Эдгээр шийдвэрийг ганц хүн, компани, тэр ч байтугай улс орон хүртэл дангаараа тогтоох ёсгүй.

AGI⁠ нь бүх хүн төрөлхтөнд ашиг тусаа өгөх ёстой бөгөөд аль болох хүртээмжтэй байхаар хэлбэржих ёстой. Бид энэ чиглэлд эхний алхам болгох үүднээс энэхүү буцалтгүй тусламжийн хөтөлбөрийг эхлүүлж байна. Бид AI системүүд ямар дүрэм мөрдөх ёстой талаархи асуултад хариулах ардчилсан үйл явцын proof-of-concept-уудыг боловсруулахын тулд дэлхийн өнцөг булан бүрээс багуудыг хайж байна. Бид эдгээр туршилтаас суралцаж, цаашид илүү дэлхий нийтийг хамарсан, илүү зоримог үйл явцын үндэс болгохыг хүсэж байна. Эдгээр эхний туршилтууд нь (ядаж одоогоор) шийдвэрт заавал мөрдөгдөх зорилготой биш ч гэсэн, шийдвэрт хамааралтай асуултуудыг судалж, ирээдүйд шийдвэрт илүү шууд мэдээлэл өгөх шинэ ардчилсан хэрэгслүүдийг бүтээнэ гэж бид найдаж байна.

Хамгийн хүчирхэг системүүдийн засаглал⁠, мөн тэдгээрийг нэвтрүүлэхтэй холбоотой шийдвэрүүд нь олон нийтийн хүчтэй хяналттай байх ёстой. Энэхүү буцалтгүй тусламж нь AGI болон эцэст нь суперинтеллектийг хянах ардчилсан үйл явцыг бий болгох алхам юм. Үүнийг OpenAI-ийн ашгийн бус байгууллага олгох бөгөөд судалгааны үр дүнгүүд нийтэд чөлөөтэй нээлттэй байна.

“Ардчилсан үйл явц” гэж бид өргөн хүрээнд төлөөлөх чадвартай хүмүүсийн бүлэг^A санал бодлоо солилцож, хэлэлцүүлэгт оролцон,^B эцэст нь ил тод шийдвэр гаргах үйл явцаар^C үр дүнг шийддэг процессыг хэлж байна. Ийм үйл явцыг зохион байгуулах олон арга байж болох тул бид өргөдөл гаргагчдыг танил арга зүй дээр тулгуурлан, мөн цоо шинэ арга барил сэдэн шинэлэг байхыг уриалж байна. Бидэнд урам өгдөг бүтээлч арга барилын жишээнд Wikipedia⁠(шинэ цонхонд нээгдэнэ), Twitter Community Notes⁠(шинэ цонхонд нээгдэнэ), DemocracyNext⁠(шинэ цонхонд нээгдэнэ), Platform Assemblies⁠(шинэ цонхонд нээгдэнэ), MetaGov⁠(шинэ цонхонд нээгдэнэ), RadicalxChange⁠(шинэ цонхонд нээгдэнэ), People Powered⁠(шинэ цонхонд нээгдэнэ), Collective Response Systems⁠(шинэ цонхонд нээгдэнэ), мөн pol.is⁠(шинэ цонхонд нээгдэнэ) багтана. Онцлох өөр нэг үргэлжилж буй санаачилгыг Collective Intelligence Project⁠(шинэ цонхонд нээгдэнэ) (CIP) удирдаж байгаа бөгөөд бид AI-д өгөх олон нийтийн оролцоон дээр тэдэнтэй хамтран ажиллаж, удахгүй болох Alignment Assemblies⁠(шинэ цонхонд нээгдэнэ)-д нь хувь нэмэр оруулж байна. Мөн бид өргөдөл гаргагчдыг AI нь ардчилсан үйл явцыг хэрхэн сайжруулж⁠(шинэ цонхонд нээгдэнэ) болохыг төсөөлөхийг уриалж байна. Жишээлбэл, AI нь олон тооны хүмүүсийн хоорондын харилцааг илүү үр ашигтай болгохыг боломжтой болгож⁠(шинэ цонхонд нээгдэнэ) чадна.

Цөөнх эсвэл олонхийн бүлгийг хангалттай төлөөлж чадахгүй байх, тусгай ашиг сонирхлын бүлгүүдийн нөлөөлөлд автах, оролцогчид хангалттай мэдээлэлгүй байх, эсвэл оролцоо⁠(шинэ цонхонд нээгдэнэ) угаах⁠(шинэ цонхонд нээгдэнэ) зэрэг нь ардчилсан үйл явцыг сулруулж болзошгүй. Бид эдгээр доголдлын хэлбэрүүдийг идэвхтэйгээр шийдвэрлэж, янз бүрийн арга барилын боломжит сул тал, эрсдэлийг ойлгож байгаагаа харуулах багуудыг хайж байна. Эцсийн дүндээ, жинхэнэ ардчилсан үйл явцыг зохион бүтээх нь маш өндөр шалгуур бөгөөд бидний хүчин чармайлтыг засгийн газруудын AI-ийн зохицуулалтыг орлох зүйл бус, харин түүнийг нөхөх зүйл гэж үздэг; энэ хөтөлбөр нь хэлэлцүүлэг, олон нийтийн өргөн оролцоог агуулсан, ардчилсан үзэл санаанд нийцсэн үйл явцыг дараагийн алхмын суурь болгон дэмжиж байна.

Буцалтгүй тусламжид өргөдөл гаргахын тулд шаардлагатай материалыг 2023 оны 6-р сарын 24-ний PDT цагаар оройн 9:00 гэхэд илгээхийг урьж байна. Та өргөдлийн порталд эндээс⁠(шинэ цонхонд нээгдэнэ) хандах боломжтой. Танаас багийнхаа туршлага, сонгосон асуултууд, санал болгож буй хэрэгслийнхээ өндөр түвшний дэлгэрэнгүй мэдээлэл, мөн ардчилсан үйл явцыг хэрэгжүүлж үнэлэх төлөвлөгөөний талаар эдгээр хүчин зүйлсийг⁠ харгалзан цуврал асуултад хариулахыг хүснэ. Та өгөгдсөн жагсаалт⁠-аас нэг буюу хэд хэдэн бодлогын асуултыг авч, түүнд хандах арга барилаа боловсруулахыг бид хүсэж байна. Нийгмийн шинжлэх ухаан эсвэл AI-ийн мэдлэг боловсролоос үл хамааран хэн ч (хувь хүн эсвэл байгууллага) энэ боломжид өргөдөл гаргаж болно.

Өргөдөл хүлээн авах хугацаа дууссаны дараа бид амжилттай арван хүлээн авагчийг сонгоно гэж найдаж байна. Хүлээн авагчид нь хувь хүн, баг, эсвэл байгууллага байж болно. Хүлээн авагч бүр өргөдлийн материалдаа тайлбарласны дагуу саналаа туршихын тулд $100,000-ын буцалтгүй тусламж авна. Буцалтгүй тусламжийн хүлээн авагчид дор хаяж 500 оролцогчийг хамруулсан proof-of-concept / prototype хэрэгжүүлэхээр хүлээгдэж байгаа бөгөөд 2023 оны 10-р сарын 20 гэхэд ололт дүгнэлтээ багтаасан олон нийтийн тайлан нийтлэх шаардлагатай. Нэмж хэлэхэд, энэхүү буцалтгүй тусламжийн хөтөлбөрийн хүрээнд төслийн төлөө боловсруулсан аливаа код болон бусад оюуны өмчийг нээлттэй эхийн лицензийн дагуу нийтэд нээлттэй болгох шаардлагатай. Буцалтгүй тусламжийн хүлээн авагчдад үйлчлэх нөхцөлийг Grant Terms болон энэ хөтөлбөртэй холбоотойгоор хүлээн авагчдаас бидэнтэй байгуулахыг хүсэж болох бусад гэрээнд тодорхойлсон.

Өргөдөл гаргаж, илгээх үйл явцыг эхлүүлнэ үү⁠(шинэ цонхонд нээгдэнэ).

• 2023 оны 6-р сарын 24, Номхон далайн цагаар оройн 9:00: Буцалтгүй тусламжийн өргөдөл илгээх эцсийн хугацаа
• 2023 оны 7-р сарын 14: Амжилттай өргөдөл гаргагчдыг сонгож, мэдэгдэнэ
• 2023 оны 10-р сарын 20: Ажиллаж буй prototype болон үр дүнгийн бүрэн олон нийтийн тайлан

Оролцохын тулд багууд санал болгож буй арга барилаа харуулах зорилгоор өгөгдсөн жагсаалтаас нэг буюу хэд хэдэн асуулт сонгох ёстой. Хэрэв хүсвэл тэд өөрсдийн асуултыг ч боловсруулж болно. Хамгийн чухал нь, энгийн “тийм” эсвэл “үгүй” хариулт хангалтгүй, харин илүү нарийн бодлогын санал шаардагдах асуултуудыг авч үзэхийг бид багуудад уриалж байна.

Энэхүү буцалтгүй тусламжийн хүрээ нь загварын зан үйлтэй холбоотой бодлогын асуултуудад хамаарна. Учир нь бодлогын зөвлөмжийн дагуу өөрчилсөн загварын зан үйлээр A/B тест хийх боломжийг олгодог. Бид энэ буцалтгүй тусламжийн хязгаарлалтыг хүлээн зөвшөөрч байгаа бөгөөд AI-тай холбоотой олон асуудлыг ардчилсан үйл явцаар шийдвэрлэж болохыг ойлгож байна. Эдгээр нь загварын зан үйлээс цаашилж, янз бүрийн нөхцөлд AI ашиглах удирдамж, эдийн засгийн нөлөө, ашиг тусын хуваарилалт зэрэг салбарыг хамарч болно.

• ChatGPT шиг AI туслахуудыг хэрэглэгчийн амт, сонголтод нийцүүлэн хувьчлах нь таны бодлоор хэр хол явах ёстой вэ? Энэ үйл явцад ямар нэгэн хил хязгаар байх ёстой юу?
• Олон нийтийн зүтгэлтнүүдийн үзэл бодлын талаархи асуултад AI туслахууд хэрхэн хариулах ёстой вэ? Жишээ нь, тэд төвийг сахисан байх ёстой юу? Хариулахаас татгалзах ёстой юу? Ямар нэгэн эх сурвалж өгөх ёстой юу?
• Ямар нөхцөлд, хэрэв тийм нөхцөл байвал, AI туслахуудад эрүүл мэндийн/санхүүгийн/хууль зүйн зөвлөгөө өгөхийг зөвшөөрөх ёстой вэ?
• Ямар тохиолдолд, хэрэв тийм тохиолдол байвал, AI туслахууд хувь хүмүүст сэтгэл зүйн дэмжлэг үзүүлэх ёстой вэ?
• Хамтарсан дүрс-хэлний загваруудад хүмүүсийн зургуудаас хүйс, арьсны өнгө, сэтгэл хөдлөл, мөн хэн болох/нэрийг нь танихыг зөвшөөрөх ёстой юу? Яагаад, эсвэл яагаад үгүй гэж?
• Үүсмэл загвар "a CEO," "a doctor," эсвэл "a nurse" зэрэг тодорхойгүй өгөгдлөөр зураг бүтээхдээ олон янз эсвэл нэгэн төрлийн үр дүн гаргах боломжтой. AI загварууд эдгээр боломжийг хэрхэн тэнцвэржүүлэх ёстой вэ? Ийм тохиолдолд хүмүүсийг хэрхэн дүрслэхийг шийдэхдээ ямар хүчин зүйлсийг тэргүүнд тавих ёстой вэ?
• LGBTQ эрх, эмэгтэйчүүдийн эрх зэрэг хүний эрх болон орон нутгийн соёл, хууль зүйн ялгааг зэрэг хамарсан сэдвүүдийг AI боловсруулахдаа ямар зарчим баримтлах ёстой вэ? AI-ийн хариулт ашиглагдаж буй байршил эсвэл соёлоос хамааран өөрчлөгдөх ёстой юу?
• AI загвар бүтээгчид ямар агуулгын ангиллыг, хэрэв тийм ангилал байвал, хязгаарлах эсвэл хориглоход анхаарах ёстой гэж та үзэж байна вэ? Эдгээр хязгаарлалтыг тогтоохдоо ямар шалгуур ашиглах ёстой вэ?

Энэхүү буцалтгүй тусламжийн үндсэн зорилго нь үйл явц дахь инновацыг дэмжихэд оршино—бидэнд AI-ийн зан үйлийг удирдах илүү сайн ардчилсан аргууд хэрэгтэй. Асуултуудын тодорхой хариултаас илүүтэйгээр үйл явц өөрөө хэрхэн сайжирч буй нь илүү чухал юм.

• Colin Megill, pol.is-ийн хамтран үүсгэн байгуулагч⁠(шинэ цонхонд нээгдэнэ)
• Hélène Landemore, Yale-ийн улс төр судлалын профессор⁠(шинэ цонхонд нээгдэнэ)
• Aviv Ovadya, Berkman Klein Center⁠(шинэ цонхонд нээгдэнэ)

• Үнэлгээ: Оролцогчдын сэтгэл ханамж, туйлшралын өөрчлөлт, өргөтгөх боломж эсвэл бусад холбогдох үзүүлэлт зэрэг арга барилынхаа чанарыг үнэлэх хэмжүүр тогтоож, эрүүл ардчилсан үйл явцад зориулсан шинэ хэмжүүр бүтээхийг бид оролцогчдод уриалж байна.
• Тогтвортой байдал: Троллинг, хуурамч аккаунт зэрэг зохисгүй үйлдлээс сэргийлэх эсвэл шийдвэрлэх арга хэмжээ.
• Хүртээмж ба төлөөлөх чадвар: Ардчилсан үйл явцад янз бүрийн гарал үүсэлтэй, AI системүүдийн талаарх мэдлэгийн түвшин өөр өөр хүмүүсийг оролцуулах стратеги.
• Цөөнхийн санал бодлыг чадавхжуулах: Түгээмэл бус эсвэл цөөнхийн санал бодлыг сонсогддог болгох, мөн жижиг бүлгүүдэд өөрсдөд нь ихээхэн хамаатай асуудалд нөлөөлөх боломж олгох.
• Үр дүнтэй модерац: Үзэл бодлын олон янз төлөөллийг хангах, үнэ цэнтэй хувь нэмрийг “сэдвээс гадуурх” сэтгэгдлээс ялгах, модераторын хазайлт үйл явцад нөлөөлөхөөс сэргийлэх зэрэг модерацтай холбоотой сорилтуудыг шийдвэрлэх.
• Өргөтгөх боломж: Бид биечлэн оролцохоос илүүтэйгээр виртуалаар хэрэгжүүлэх боломжтой өргөтгөхүйц үйл явцыг онцолдог. Энэ арга нь нүүр тулсан хэлэлцүүлгийн зарим давуу талыг алдагдуулж болзошгүйг бид ойлгож байгаа бөгөөд виртуал орчинд тодорхой талууд алдагдаж болохыг мөн хүлээн зөвшөөрч байна.
• Хэрэгжүүлэх боломж: Хэлэлцүүлгийн үйл явцаар цуглуулсан мэдээллийг бодитоор хэрэгжүүлэх боломжийн түвшин.
• Ойлгомжтой байдал: Үйл явцыг ойлгож, түүнд итгэхэд хэр хялбар вэ.