Carta fundacional d'OpenAI

Aquest document reflecteix l’estratègia que hem perfeccionat durant els darrers dos anys, incloent-hi comentaris de moltes persones internes i externes a OpenAI. El calendari per a l'AGI continua sent incert, però la nostra Carta ens guiarà per actuar en el millor interès de la humanitat al llarg del seu desenvolupament.

La missió d’OpenAI és garantir que la intel·ligència artificial general (AGI) —amb la qual ens referim a sistemes altament autònoms que superen els humans en la majoria de feines econòmicament valuoses— beneficiï tota la humanitat. Intentarem construir directament una AGI segura i beneficiosa, però també considerarem que la nostra missió s’ha complert si la nostra feina ajuda altres a aconseguir aquest resultat. Amb aquesta finalitat, ens comprometem amb els següents principis:

Ens comprometem a utilitzar qualsevol influència que obtinguem sobre el desplegament de l’AGI per garantir que s’utilitzi en benefici de tothom i per evitar facilitar usos de la IA o de l’AGI que perjudiquin la humanitat o concentrin el poder de manera indeguda.

El nostre deure fiduciari principal és envers la humanitat. Preveiem que necessitarem mobilitzar recursos substancials per complir la nostra missió, però sempre actuarem diligentment per minimitzar els conflictes d'interès entre els nostres empleats i les parts interessades que podrien comprometre el benefici general.

Estem compromesos a dur a terme la recerca necessària per fer que l'AGI sigui segura i a impulsar l'adopció generalitzada d'aquesta recerca a tota la comunitat d'IA.

Ens preocupa que el desenvolupament d'AGI en fases avançades esdevingui una cursa competitiva sense temps per prendre les precaucions de seguretat adequades. Per tant, si un projecte alineat amb els valors i conscient de la seguretat s'acosta a construir AGI abans que nosaltres, ens comprometem a deixar de competir-hi i començar a ajudar aquest projecte. Concretarem els detalls en acords cas per cas, però una condició d’activació típica podria ser "una probabilitat d’èxit superior al 50 % en els dos anys vinents".

Per abordar de manera eficaç l’impacte de la IA general (AGI) en la societat, OpenAI ha d’estar al capdavant de les capacitats de la IA; la defensa de polítiques i la promoció de la seguretat, per si mateixes, no serien suficients.

Creiem que la IA tindrà un ampli impacte social abans de l'AGI i ens esforçarem per liderar en aquells àmbits que estiguin directament alineats amb la nostra missió i experiència.

Cooperarem activament amb altres institucions de recerca i de polítiques; busquem crear una comunitat global que treballi plegada per abordar els reptes globals de l’AGI.

Estem compromesos a proporcionar béns públics que ajudin la societat a recórrer el camí cap a l’AGI. Avui això inclou la publicació de la major part de la nostra recerca en IA, però esperem que les qüestions de seguretat i protecció redueixin les nostres publicacions tradicionals en el futur, mentre augmenten la importància de compartir la recerca sobre seguretat, polítiques i estàndards.