Пол Кристиано OpenAI Foundation-ийн Удирдах зөвлөлд нэгдлээ
Пол Кристиано мөн OpenAI Foundation-ийн Аюулгүй байдал, хамгаалалтын хороонд нэгдэнэ.
Пол Кристианог OpenAI Foundation-ийн Удирдах зөвлөлд томилсныг бид зарлаж байна. Тэрээр OpenAI Group PBC-ийн Удирдах зөвлөлд саналын эрхгүй ажиглагчаар ажиллана.
Пол мөн OpenAI Foundation-ийн Удирдах зөвлөлийн Аюулгүй байдал, хамгаалалтын хороонд нэгдэж, тус хорооны дарга Зико Колтертой хамтран ажиллана. Аюулгүй байдал, хамгаалалтын хороо нь OpenAI Group PBC зэрэг OpenAI даяарх аюулгүй байдал, хамгаалалтын үйл ажиллагаанд засаглалын хяналт тавьдаг.
Пол АНУ-ын хоёр засаг захиргааны үед ажилласан төрийн албаны туршлагатай. Тэрээр АНУ-ын Стандарт, технологийн үндэсний хүрээлэнгийн (NIST) дэргэдэх Хиймэл оюуны стандарт, инновацын төвд(шинэ цонхонд нээгдэнэ) (CAISI) ажилладаг. NIST нь АНУ-ын Худалдааны яамны харьяа байгууллага бөгөөд Пол тэнд Технологийн ахлах зөвлөхөөр ажилладаг1. Пол CAISI болон түүний өмнөх байгууллага болох АНУ-ын Хиймэл оюун ухааны аюулгүй байдлын хүрээлэнд ажиллахдаа хил хязгаарын хиймэл оюун ухааны загварууд, тэр дундаа үндэсний аюулгүй байдалд нөлөөлөх чадавхыг үнэлж, холбогдох аюулгүй байдал, хамгаалалтын эрсдэлийг бууруулах арга замууд дээр ажилласан.
Пол мөн дэвшилтэт хиймэл оюун ухааны системүүдийг хүний ашиг сонирхолд нийцүүлэхэд төвлөрдөг ашгийн бус судалгааны байгууллага болох Нийцүүлэлтийн судалгааны төвийг(шинэ цонхонд нээгдэнэ) (ARC) үүсгэн байгуулсан. Пол 2017–2021 онд OpenAI-ийн нийцүүлэлтийн судалгааг удирдаж, Хүний санал хүсэлтээс бататган суралцах (RLHF) аргын суурь судалгаанд хувь нэмэр оруулсан. Энэхүү шинэ үүрэгтээ Пол OpenAI-ийн засаглалын шийдвэрүүдэд өөрийн онцлог, техникийн баттай үндэслэлтэй байр суурийг нэмэрлэнэ. Бидний эрхэм зорилго бол Ерөнхий хиймэл оюун ухааны үр өгөөжийг бүх хүн төрөлхтөнд хүртээх явдал юм.
“Пол улам бүр чадварлаг болж буй системүүдийн үүсгэдэг хамгийн хүнд асуултуудад төвлөрсөн, нарийн чанд судалгаагаараа хиймэл оюуны нийцүүлэлтийн салбарыг тодорхойлоход хувь нэмэр оруулсан. Төрийн байгууллагад хил хязгаарын хиймэл оюун ухааны аюулгүй байдал, стандартын чиглэлээр ажилласан туршлага нь техникийн оновчтой дүгнэлттэй нь хослон, OpenAI хил хязгаарын хиймэл оюун ухааныг үргэлжлүүлэн хөгжүүлж, нэвтрүүлэх явцад Удирдах зөвлөлийн хяналт болон Аюулгүй байдал, хамгаалалтын хорооны ажлыг бэхжүүлнэ.”
“Өнгөрсөн нэг жилд хиймэл оюун ухааны чадавх маш хурдацтай ахисан ч нийцүүлэлт техникийн хувьд шийдвэрлэхэд хэцүү асуудал хэвээр байна. Иймээс Аюулгүй байдал, хамгаалалтын хорооны үүрэг хариуцлага урьд урьдынхаас илүү чухал, бас илүү төвөгтэй болжээ. Туслахын тулд багт нэгдэж байгаадаа баяртай байна.”
Хиймэл оюун ухаан чадавхын шинэ эринд орж байна. Иймээс эдгээр системийн дэвшлийг аюулгүй байдал, хамгаалалт, нийцүүлэлт, засаглалын бат бөх тогтолцоотой хослуулах нь улам чухал болж байна. Пол хиймэл оюуны нийцүүлэлтийг судалсан бүхий л замналынхаа туршид дэвшилтэт хиймэл оюун ухаан сүйрлийн эрсдэл учруулж болзошгүйг нухацтай авч үзэж, системүүд илүү аюултай түвшний чадавхад хүрэхээс өмнө хөгжүүлэгчид бэлтгэх ёстой гэсэн байр суурь баримталж ирсэн. Тэрээр салбарын хамгаалалтын арга хэмжээ хангалттай эсэх талаар бие даасан байр сууриа илэрхийлсээр ирсэн. Түгээмэл таамаглалуудад эргэлзэж, чухал шийдвэрүүдийн үндэс болсон нотолгоо, хамгаалалтын арга хэмжээ, хариуцлагыг бэхжүүлэхэд туслахад бэлэн хүмүүс оролцсоноор OpenAI Foundation-ийн засаглал улам батжинa гэдэгт бид итгэдэг.
Полын томилгоо нь OpenAI-ийг 2025 оны аравдугаар сард дахин хөрөнгөжүүлэх үеэр бий болгосон засаглалын бүтцэд тулгуурлаж байна. Үүнд Калифорни мужийн Ерөнхий прокурор(шинэ цонхонд нээгдэнэ) болон Делавэр мужийн Ерөнхий прокурорын(шинэ цонхонд нээгдэнэ) нэг жилийн турш хийсэн хянан шалгалттай холбоотой амлалтууд багтана. Тэдний оролцоо засаглалын тогтолцоог бэхжүүлэхэд тусалсан.
OpenAI Foundation-ийн тухай
OpenAI Foundation нь хиймэл оюун ухааны үр өгөөжийг бүх хүн төрөлхтөнд хүртээхэд зориулсан буяны байгууллага юм. Бие даасан ашгийн бус байгууллагын хувьд OpenAI Foundation нь өөрийн буяны үйл ажиллагааг явуулахын зэрэгцээ OpenAI Group PBC-д хяналтаа хадгалж, ихээхэн хэмжээний хувь эзэмшдэг. OpenAI Foundation нь шинжлэх ухааны нээлтийг урагшлуулах, иргэний нийгмийг бэхжүүлэх, хиймэл оюун ухааныг хариуцлагатай ашиглан тэсвэртэй байдлыг нэмэгдүүлэх санаачилгуудыг дэмждэг. OpenAI Foundation нь тэтгэлэг, түншлэл болон бусад буяны санаачилгаар дамжуулан олон нийтэд урт хугацааны үр өгөөж бий болгох ажлыг хурдасгаж, хиймэл оюун ухааны өөрчлөлт авчрах боломжийн хүртээмжийг өргөжүүлдэг.
OpenAI Foundation нь OpenAI Group PBC-д хяналт тавьдаг бөгөөд Аюулгүй байдал, хамгаалалтын хороо нь OpenAI Foundation-ийн Удирдах зөвлөлийн хороо юм. Дэлгэрэнгүйг www.openaifoundation.org(шинэ цонхонд нээгдэнэ)-оос үзнэ үү.
