OpenAI Дүрэм

Энэхүү баримт бичиг нь OpenAI-ийн дотоод болон гаднах олон хүний санал хүсэлтийг багтаан, сүүлийн хоёр жилийн хугацаанд бидний сайжруулан боловсруулсан стратегийг тусгасан. AGI-д хүрэх хугацаа тодорхойгүй хэвээр байгаа ч манай Дүрэм нь түүний хөгжлийн туршид хүн төрөлхтний хамгийн сайн ашиг сонирхлын төлөө үйлдэхэд биднийг чиглүүлнэ.

OpenAI-ийн эрхэм зорилго нь ерөнхий хиймэл оюун ухаан (AGI)—өөрөөр хэлбэл эдийн засгийн хувьд үнэ цэнтэй ихэнх ажлыг гүйцэтгэхдээ хүнээс давуу өндөр автономит системүүд—нь хүн төрөлхтөнд бүхэлд нь ашиг тусаа өгөхийг баталгаажуулах явдал юм. Бид аюулгүй бөгөөд ашиг тустай AGI-г шууд бүтээхийг хичээх боловч манай ажил бусдад энэ үр дүнд хүрэхэд нь тусалбал бид эрхэм зорилгоо биелүүлсэн гэж үзнэ. Үүний тулд бид дараах зарчмуудыг баримтлан ажиллахаа амлаж байна:

Бид AGI-г нэвтрүүлэхтэй холбоотой олж авах аливаа нөлөөг бүх хүнд ашиг тусаа өгөх байдлаар ашиглахыг зорьж, мөн хүн төрөлхтөнд хор хөнөөл учруулах эсвэл эрх мэдлийг хэт төвлөрүүлэхэд хүргэх хиймэл оюун ухаан (AI) болон AGI-н хэрэглээг дэмжихээс зайлсхийхээр амлаж байна.

Бидний үндсэн итгэмжлэгдсэн үүрэг бол хүн төрөлхтөнд үйлчлэх явдал юм. Бид эрхэм зорилгоо хэрэгжүүлэхийн тулд их хэмжээний нөөц бололцоог дайчлах шаардлагатай болно гэж үзэж байна. Гэсэн хэдий ч өргөн хүрээний нийтийн ашиг тусыг алдагдуулах эрсдэлтэй байж болох ажилтнууд болон оролцогч талуудын ашиг сонирхлын зөрчлийг багасгахын тулд бид үргэлж хичээнгүйлэн ажиллана.

Бид AGI-г аюулгүй болгоход шаардлагатай судалгааг хийх, мөн ийм судалгааг AI нийгэмлэг даяар өргөнөөр нэвтрүүлэхэд тууштай үүрэг хүлээдэг.

Бид сүүлийн шатны AGI хөгжүүлэлт хангалттай аюулгүй байдлын урьдчилан сэргийлэх арга хэмжээг авах цаггүйгээр өрсөлдөөнт уралдаан болж хувирах вий гэж санаа зовниж байна. Тиймээс хэрэв үнэт зүйлстэй нийцсэн, аюулгүй байдлыг эрхэмлэсэн төсөл биднээс өмнө AGI бүтээхэд ойртвол бид уг төсөлтэй өрсөлдөхөө зогсоож, түүнд тусалж эхлэхээ амлаж байна. Бид нарийвчилсан нөхцөлийг тохиолдол бүрийн гэрээгээр тохиролцоно, гэхдээ ердийн “өдөөгч нөхцөл нь ирэх хоёр жилд амжилтад хүрэх магадлал 50 хувиас дээш байх байж болно.”

AGI-ийн нийгэмд үзүүлэх нөлөөг үр дүнтэй шийдвэрлэхийн тулд OpenAI нь хиймэл оюун ухааны чадварын хамгийн тэргүүн эгнээнд байх шаардлагатай — зөвхөн бодлого болон аюулгүй байдлын талаархи байр суурь, зөвлөмжүүд дангаараа хангалтгүй юм.

Бид AGI-ээс өмнө хиймэл оюун ухаан нийгэмд өргөн хүрээний нөлөө үзүүлнэ гэж үздэг. Бидний эрхэм зорилго, мэргэжлийн ур чадвартай шууд нийцсэн чиглэлүүдэд манлайлахын төлөө хичээнэ.

Бид судалгаа болон бодлогын бусад байгууллагуудтай идэвхтэй хамтран ажиллах бөгөөд AGI-ийн дэлхийн сорилтуудыг шийдвэрлэхийн тулд хамтран ажилладаг дэлхийн хамтын нийгэмлэгийг бий болгохыг зорьж байна.

Бид нийгэмд AGI-д хүрэх замыг ойлгож, удирдан чиглүүлэхэд туслах олон нийтэд зориулсан ашиг тус бүхий нээлттэй нөөцүүдийг бий болгоход тууштай ажиллаж байна. Өнөөдөр энэ нь манай хиймэл оюун ухааны судалгааны ихэнхийг нийтлэх ажлыг багтааж байна. Гэвч аюулгүй байдал болон хамгаалалтын асуудлууд ирээдүйд улам чухал болохын хэрээр уламжлалт судалгааны нийтлэлүүд маань багасах магадлалтай. Харин үүний зэрэгцээ аюулгүй байдал, бодлого, стандартын талаарх судалгааг хуваалцахын ач холбогдол улам нэмэгдэх болно.