Повеља компаније OpenAI

Овај документ одражава стратегију коју смо усавршавали током протекле две године, укључујући повратне информације многих људи, како унутар тако и ван OpenAI. Временски оквир до AGI остаје неизвестан, али ће нас наша повеља водити да делујемо у најбољем интересу човечанства током његовог развоја.

Мисија OpenAI је да обезбеди да општа вештачка интелигенција (AGI) – под чиме подразумевамо високо аутономне системе који надмашују људе у већини економски највреднијих послова– користи целом човечанству. Покушаћемо да директно изградимо безбедан и користан AGI, али ћемо такође сматрати да је наша мисија испуњена ако наш рад помогне другима да постигну овај циљ. У том циљу, обавезујемо се на следеће принципе:

Обавезујемо се да користимо сваки утицај који стекнемо над применом AGI-ја како бисмо обезбедили да се користи у корист свих и избегли омогућавање употреба AI или AGI које наносе штету човечанству или неоправдано концентришу моћ.

Наша примарна фидуцијарна дужност је према човечанству. Очекујемо да ће бити потребно да ангажујемо значајне ресурсе како бисмо испунили своју мисију, али ћемо увек марљиво деловати тако да умањимо сукобе интереса међу својим запосленима и заинтересованим странама који би могли угрозити широку корист.

Посвећени смо спровођењу истраживања неопходних да би AGI био безбедан и да би се подстакло широко усвајање таквих истраживања у AI заједници.

Забринути смо да би развој AGI у касној фази могао да постане конкурентска трка без времена за адекватне мере предострожности у погледу безбедности. Стога, ако се пројекат усклађен са вредностима и усмерен на безбедност приближи изградњи AGI пре нас, обавезујемо се да престанемо да се такмичимо са овим пројектом и да почнемо да му пружамо помоћ. Детаље ћемо разрадити у споразумима од случаја до случаја, али типичан услов за покретање могао би да буде „већа од 50% вероватноћа успеха у наредне две године.“

Да би био ефикасан у решавању утицаја AGI на друштво, OpenAI мора да буде на самом врху развоја AI способности – само заговарање политика и безбедности било би недовољно.

Верујемо да ће вештачка интелигенција имати широк друштвени утицај пре AGI и настојаћемо да предводимо у оним областима које су директно усклађене са нашом мисијом и стручношћу.

Активно ћемо сарађивати са другим истраживачким институцијама и институцијама за креирање политика; настојимо да створимо глобалну заједницу која заједно ради на решавању глобалних изазова AGI-ја.

Посвећени смо пружању јавних добара која помажу друштву да се креће путем ка AGI. Данас то укључује објављивање већине наших истраживања о вештачкој интелигенцији, али очекујемо да ће забринутости у вези са безбедношћу и сигурношћу у будућности смањити наше традиционално објављивање, уз истовремено повећање значаја дељења истраживања о безбедности, политици и стандардима.