OpenAI LP

La nostra missió és garantir que la intel·ligència artificial general (AGI) beneficiï tota la humanitat, principalment intentant construir una AGI segura i compartir-ne els beneficis amb el món.

Hem experimentat⁠ de primera mà⁠ que els sistemes d’IA més espectaculars utilitzen més potència computacional⁠, a més d’innovacions algorítmiques, i vam decidir escalar molt més ràpid del que havíem previst quan vam fundar OpenAI. Necessitarem invertir milers de milions de dòlars en els pròxims anys en computació al núvol a gran escala, atreure i retenir persones amb talent i construir superordinadors d’IA.

Volem augmentar la nostra capacitat d’aconseguir capital mentre continuem servint la nostra missió, i cap estructura jurídica preexistent que coneguem no aconsegueix l’equilibri adequat. La nostra solució és crear OpenAI LP com un híbrid entre una entitat amb ànim de lucre i una sense ànim de lucre, que anomenem una empresa de «benefici limitat».

La idea fonamental d’OpenAI LP és que els inversors i els empleats poden obtenir un rendiment limitat si tenim èxit en la nostra missió, cosa que ens permet captar capital d’inversió i atreure empleats amb participacions semblants a les d’una startup. Però qualsevol rendiment per sobre d’aquest import —i, si tenim èxit, esperem generar ordres de magnitud més valor del que hauríem de pagar a les persones que inverteixen o treballen a OpenAI LP— pertany a l’entitat original OpenAI Nonprofit.

D’ara endavant (en aquesta publicació i en altres llocs), «OpenAI» es refereix a OpenAI LP (que ara ocupa la major part del nostre personal), i l’entitat original s’anomena «OpenAI Nonprofit».

Hem dissenyat OpenAI LP per posar la nostra missió general —garantir la creació i l’adopció d’una AGI segura i beneficiosa— per davant de la generació de rendiments per als inversors.

La missió és el primer fins i tot pel que fa a l’estructura d’OpenAI LP. Tot i que esperem que el que descrivim a continuació funcioni fins que la nostra missió es completi, podem actualitzar-ne la implementació a mesura que el món canviï. Independentment de com evolucioni el món, estem compromesos —legalment i personalment— amb la nostra missió.

L’obligació fiduciària principal d’OpenAI LP és fer avançar els objectius de la Carta d’OpenAI⁠, i l’empresa està controlada pel consell d’OpenAI Nonprofit. Tots els inversors i empleats signen acords segons els quals l’obligació d’OpenAI LP amb la Carta sempre és prioritària, fins i tot a costa d’una part o de la totalitat de la seva participació financera.

Només es permet que una minoria dels membres del consell tingui participacions financeres a la societat alhora. A més, només els membres del consell sense aquestes participacions poden votar en decisions en què els interessos dels socis comanditaris i la missió d’OpenAI Nonprofit puguin entrar en conflicte, inclosa qualsevol decisió sobre pagaments a inversors i empleats.

Com s’ha esmentat abans, els rendiments econòmics per als inversors i empleats estan limitats (amb el límit negociat per endavant per a cada soci comanditari). Qualsevol rendiment excedent va a OpenAI Nonprofit. El nostre objectiu és garantir que la major part del valor (monetari o d’un altre tipus) que creem, si tenim èxit, beneficiï tothom, així que pensem que aquest és un primer pas important. Els rendiments per a la nostra primera ronda d’inversors estan limitats a 100 vegades la seva inversió (d’acord amb els riscos que tenim al davant), i esperem que aquest múltiple sigui menor en futures rondes a mesura que continuem avançant.

La nostra feina del dia a dia no canvia. Avui creiem que podem aportar el màxim valor centrant-nos exclusivament en el desenvolupament de noves tecnologies d’IA, i no en productes comercials. La nostra estructura ens dona flexibilitat sobre com generar rendiments a llarg termini, però esperem resoldre-ho només un cop hàgim creat una AGI segura.

Actualment, OpenAI LP dona feina a unes 100 persones organitzades en tres àrees principals: capacitats (fer avançar allò que els sistemes d’IA poden fer), seguretat (garantir que aquests sistemes estiguin alineats amb els valors humans) i polítiques (garantir una governança adequada per a aquests sistemes). OpenAI Nonprofit governa OpenAI LP, gestiona programes educatius com ara Scholars⁠ i Fellows⁠, i impulsa iniciatives de polítiques. OpenAI LP continua (amb més ritme i a més escala) el full de ruta de desenvolupament iniciat a OpenAI Nonprofit, que ha donat lloc a avenços en aprenentatge per reforç⁠, robòtica⁠ i llenguatge⁠.

Ens entusiasma el potencial de l’AGI per ajudar a resoldre problemes d’escala planetària en àrees on la humanitat està fallant i on avui no hi ha una solució evident. Tanmateix, també ens preocupa el potencial de l’AGI per provocar canvis ràpids, ja sigui perquè les màquines persegueixin objectius mal especificats pel seu operador, perquè humans maliciosos subverteixin els sistemes desplegats, o per una economia fora de control que creixi sense comportar millores en la vida de les persones. Tal com es descriu a la nostra Carta⁠, estem disposats a fusionar-nos amb una organització alineada en valors (encara que això impliqui reduir o anul·lar els pagaments als inversors) per evitar una cursa competitiva que dificultaria prioritzar la seguretat.

• El consell d’OpenAI Nonprofit està format pels empleats d’OpenAI LP Greg Brockman (president i CTO), Ilya Sutskever (científic en cap) i Sam Altman (CEO), i per les persones no empleades Adam D’Angelo, Holden Karnofsky, Reid Hoffman, Shivon Zilis i Tasha McCauley.^A
• Elon Musk va deixar el consell d’OpenAI Nonprofit⁠ el febrer de 2018 i no participa formalment a OpenAI LP. Li agraïm tota l’ajuda que ens ha donat en el passat.
• Entre els nostres inversors hi ha la fundació benèfica de Reid Hoffman i Khosla Ventures, entre d’altres. Ens sentim afortunats de comptar amb inversors alineats amb la missió, centrats en l’impacte i molt útils!

Recorrem un camí difícil i incert, però hem dissenyat la nostra estructura per ajudar-nos a tenir un impacte positiu al món si aconseguim crear AGI —que creiem que tindrà un impacte tan ampli com el mateix ordinador i millorarà la sanitat, l’educació, la recerca científica i molts aspectes de la vida de les persones. Si vols ajudar-nos a fer realitat aquesta missió, estem contractant⁠ :)!