Nuestra estructura

Concebimos la estructura de OpenAI, que es una alianza entre una organización sin fines de lucro y una división empresarial con utilidades limitadas, como el motor que materializará el concepto de futuro de OpenAI: crear una inteligencia artificial general (IAG) segura que beneficie a toda la humanidad.

En 2019, dimos a conocer⁠ la estructura con “utilidades limitadas”, unos tres años después de haber fundado⁠ la organización de OpenAI sin fines de lucro.

Desde siempre, creímos que el desarrollo de una IA potente culminaría en la llegada de una IAG; es decir, un sistema completamente autónomo capaz de superar a los humanos en la mayoría de los trabajos de valor económico, lo cual tiene el potencial de transformar la sociedad y aportar ventajas extraordinarias, aunque también conlleva riesgos que deben neutralizarse debidamente. Dadas las competencias cada vez más avanzadas de los sistemas actuales, es menester que OpenAI y las demás empresas que se dedican a las IA hagan públicos los principios, los sistemas económicos y los modelos de gobernanza en los que se basan sus respectivos objetivos y actividades.

Fundamos la organización de OpenAI sin fines de lucro a fines de 2015 con la idea de crear una inteligencia artificial general útil y segura para el bien común de la humanidad. En otras épocas, un proyecto de esta magnitud, una iniciativa de escala mundial cuyo propósito es beneficiar ampliamente a toda la humanidad, habría sido fruto de la colaboración entre varios países.

Al tomar en cuenta que en la administración pública no se han trazado trayectorias claras y que en el sector privado han prosperado proyectos muy ambiciosos, como SpaceX y Cruise, tomamos la decisión de embarcarnos en esta empresa con capitales privados, con un firme compromiso hacia el interés público. En un principio, creímos que la fundación de una organización 501(c)(3) sería la plataforma más eficiente para dirigir la creación de una IAG segura de usar y provechosa en términos generales, sin tener la obligación de generar ganancias. Nos comprometimos a publicar nuestras investigaciones y datos en aquellos casos en los que consideráramos que su divulgación fuera prudente y contribuyera al bien común.

Siempre sospechamos que el proyecto exigiría grandes capitales, por lo que nos propusimos como meta inicial alcanzar los mil millones de dólares en donaciones. No obstante, con el paso de los años, la organización de OpenAI sin fines de lucro recibió aproximadamente un total de 130 millones de dólares en donaciones, que nos permitieron financiar las actividades y tareas de investigación iniciales sobre el aprendizaje profundo, su inocuidad y adecuación.

Nuestra misión pasó a estar en peligro, ya que se volvió cada vez más evidente que las donaciones no bastaban para afrontar el costo de la potencia computacional y los profesionales que necesitábamos para avanzar en las investigaciones esenciales. En esa disyuntiva, ideamos una estructura que nos permitiera no solo garantizar el objetivo principal, la gobernanza y la supervisión de la organización sin fines de lucro, sino también recaudar fondos para cumplir con nuestro cometido:

• La organización de OpenAI sin fines de lucro permanecería intacta y su junta directiva continuaría siendo el órgano rector de todas sus actividades.
• Se fundaría una filial empresarial capaz de emitir acciones para recaudar fondos y contratar profesionales de primera categoría, pero bajo la dirección de la organización sin fines de lucro. Los empleados que trabajaran en iniciativas con fines de lucro pasarían a la nueva filial.
• La división empresarial pasaría a tener la obligación jurídica de cumplir el objetivo de la organización sin ánimos de lucro y llevarlo a buen puerto mediante su participación en tareas de investigación, desarrollo, comercialización y otras actividades esenciales. En todo este proceso, los principios fundamentales de OpenAI sobre la seguridad y el bien común serían esenciales en todos los planteos.
• De acuerdo con la estructura de capitales de la división empresarial, los inversionistas y empleados percibirían hasta un determinado rendimiento financiero, con el objeto de que se concentraran en investigar, desarrollar e implementar la IAG y así lograr un equilibrio entre la rentabilidad, la seguridad y la sostenibilidad, en lugar de en la máxima redituabilidad posible.
• Por un lado, todas las actividades estarían bajo la dirección y supervisión de la junta directiva de la organización sin fines de lucro, que también dirigiría sus propias actividades. Por el otro, la organización continuaría llevando adelante un amplio abanico de iniciativas benéficas, como patrocinar estudios exhaustivos sobre el ingreso básico,⁠(se abre en una nueva ventana) subvencionar investigaciones sobre las repercusiones en la economía⁠ y experimentar con programas educativos como OpenAI Scholars⁠. Con el paso de los años, la organización sin fines de lucro también apoyaría a una gran cantidad de otras organizaciones benéficas relacionadas con la tecnología, su repercusión en la economía y la justicia, como Stanford University Artificial Intelligence Index Fund, Black Girls Code y la fundación Unión Americana de Libertades Civiles (ACLU).

Dicho esto, la organización sin fines de lucro seguiría siendo una parte vital de nuestra estructura y supervisaría la creación de la IAG, mientras que la división empresarial tendría como objeto disponer de los recursos necesarios para ello, con la obligación jurídica de adecuarse a la misión de OpenAI. En el convenio operativo de la división empresarial prima ante todo la misión, según la cual todos los inversionistas y empleados están sujetos a:

Por lo general, los inversionistas buscan un beneficio económico, pero nosotros encontramos la forma de conciliar sus objetivos y los nuestros. Llegamos a este acuerdo innovador gracias a ciertas condiciones económicas y de gobernanza fundamentales:

• En primer lugar, la filial empresarial está bajo el control de la organización de OpenAI sin fines de lucro. Para ello, la organización sin fines de lucro tiene la propiedad absoluta del organismo administrativo (OpenAI GP LLC) que controla y rige la filial empresarial.
• En segundo lugar, dado que la junta directiva es la misma que la de la organización sin fines de lucro, cada director debe cumplir sus obligaciones fiduciarias en consecución del objetivo primordial: promover una IAG segura para el bien común. Si bien la filial empresarial tiene permitido generar ganancias y distribuirlas, sus decisiones están sujetas a los objetivos de la organización sin fines de lucro, cuyos verdaderos beneficiarios son todas las personas del mundo, no los inversionistas de OpenAI.
• En tercer lugar, en la junta directiva la mayoría de los miembros tienen intereses independientes; es decir, no poseen acciones de OpenAI. Ni siquiera Sam Altman, el director de OpenAI, tiene acciones de forma directa. El único interés que le concierne es indirecto a través del fondo Y Combinator, que hizo una pequeña inversión en OpenAI antes de que él asumiera el cargo a tiempo completo.
• En cuarto lugar, las utilidades que perciben los empleados, incluso Microsoft, tienen un tope. Todo valor residual que se genere más allá del límite establecido se destina a la organización sin fines de lucro, para el beneficio de la humanidad.
• En quinto lugar, la junta directiva es la responsable de decidir en qué momento habremos consumado el desarrollo de la IAG. Cuando hablamos de IAG, nos referimos a un sistema completamente autónomo capaz de superar a los humanos en la mayoría de los trabajos de valor económico. Dicho sistema no está incluido en licencias basadas en propiedad intelectual ni en otras cláusulas comerciales estipuladas con Microsoft, que solo se aplican a tecnología anterior a la de la IAG.

Cuando analizamos oportunidades que nos permitirían acelerar nuestro trabajo, nos esforzamos por defender los componentes fundamentales de gobernanza y economía de nuestra estructura. En efecto, dado que los procesos de la IAG son poco certeros, el diseño de nuestra estructura es flexible. Para nosotros, esto es una virtud, no un defecto.

En 2019, poco después del anuncio sobre la estructura con utilidades limitadas de OpenAI (y de la primera etapa de financiamiento), establecimos⁠ una alianza estratégica con Microsoft. Posteriormente, la consolidamos⁠: Microsoft aumentó las inversiones totales y también ampliamos la escala y magnitud de nuestra colaboración comercial e informática.

Si bien esta alianza implica una inversión multimillonaria, OpenAI sigue siendo una empresa totalmente independiente que se rige por la organización de OpenAI sin fines de lucro. Y, tal como explicamos antes, la IAG está excluida explícitamente de todos nuestros acuerdos comerciales y licencias basadas en propiedad intelectual.

Estos convenios son el ejemplo de porqué elegimos a Microsoft como socio comercial e informático. Desde el comienzo, la empresa aceptó nuestra propuesta de capitales limitados y nuestro pedido de confiar las tecnologías de IAG y la gobernanza a la organización sin fines de lucro y al resto de la humanidad. Además, hemos trabajado en la constitución y la organización de un comité de seguridad conjunto que supervisa nuestros sistemas antes de su implementación. Microsoft respeta nuestros orígenes y sabe que tenemos entre manos un proyecto ambicioso y sin precedentes que exige no solo los medios de la administración pública, sino también nuestro compromiso de siempre para dar a conocer los resultados definitivos a toda la sociedad.

OpenAI is governed by the board of the OpenAI Nonprofit, currently comprised of Independent Directors Bret Taylor (Chair), Adam D’Angelo, Dr. Sue Desmond-Hellmann, Zico Kolter, Retired U.S. Army General Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, and Larry Summers, as well as our CEO Sam Altman.