Nuestra estructura corporativa

Hemos diseñado la estructura de OpenAI (una asociación entre nuestra organización sin ánimo de lucro original y una nueva rama de beneficios limitados) para que sea el motor de la misión de OpenAI: construir inteligencia artificial general (IAG) que sea segura y beneficie a toda la humanidad.

Anunciamos⁠ nuestra estructura de «beneficios limitados» en 2019, aproximadamente tres años después de fundar⁠ la organización sin ánimo de lucro OpenAI original.

Desde el principio, hemos creído que la IA potente, que culmina en la IAG (es decir, un sistema altamente autónomo que supera a los humanos en la mayoría de las tareas de valor económico) tiene el potencial de remodelar la sociedad y aportar enormes beneficios, pero también plantea riesgos que deben abordarse de manera segura. Dadas las crecientes capacidades de los sistemas actuales, es más importante que nunca que OpenAI y otras empresas de IA compartan los principios, los mecanismos económicos y los modelos de gobernanza fundamentales para nuestras respectivas misiones y operaciones.

Fundamos la organización sin ánimo de lucro OpenAI a finales de 2015 con el objetivo de crear una inteligencia artificial general segura y beneficiosa para la humanidad. En otra época, un proyecto de este tipo podría haber sido llevado a cabo por uno o varios gobiernos: un esfuerzo a escala humana con la intención de obtener amplios beneficios para la humanidad.

Sin embargo, al no ver una trayectoria clara en el sector público, y dado el éxito de otros proyectos ambiciosos en el sector privado (por ejemplo, SpaceX, Cruise, etc.), decidimos llevar a cabo este proyecto por medios privados, siempre sujeto a firmes compromisos con el bien público. En un principio, creímos que un 501(c)(3) sería el vehículo más eficaz para dirigir el desarrollo de una IAG segura y ampliamente beneficiosa, al margen de incentivos económicos. Nos comprometimos a publicar nuestras investigaciones y nuestros datos en los casos en los que consideráramos que sería seguro hacerlo y beneficioso para el público.

Siempre sospechamos que nuestro proyecto requeriría un capital elevado, razón por la cual nos marcamos el objetivo inicial de alcanzar los 1000 millones de dólares en donaciones. Sin embargo, a lo largo de los años, la organización sin ánimo de lucro OpenAI solo recibió aproximadamente 130,5 millones de dólares, que financiaron las operaciones de la organización sin ánimo de lucro y su trabajo exploratorio inicial en materia de aprendizaje profundo, seguridad y alineación.

Cada vez era más evidente que las donaciones por sí solas no bastarían para cubrir los costes de la potencia computacional y el talento necesarios para hacer avanzar la investigación principal, lo que ponía en peligro nuestra misión. Por eso, ideamos una estructura que nos permitiera mantener la misión principal, la gobernanza y la supervisión de nuestra organización sin ánimo de lucro al mismo tiempo que recaudamos el capital necesario para nuestra misión:

• La organización sin ánimo de lucro de OpenAI permanecería intacta y su junta seguiría siendo el órgano rector general de todas las actividades de OpenAI.
• Se formaría una nueva filial con ánimo de lucro, capaz de emitir acciones para recaudar capital y contratar talentos de talla mundial, pero siempre bajo la dirección de la organización sin ánimo de lucro. Se trasladó a los empleados que trabajaban en iniciativas con ánimo de lucro a la nueva filial.
• La organización con ánimo de lucro estaría legalmente obligada a perseguir la misión de la organización sin ánimo de lucro y llevarla a cabo participando en tareas de investigación, desarrollo, comercialización y otras operaciones principales. Los principios rectores de seguridad y amplios beneficios de OpenAI serían siendo fundamentales para su enfoque en todo momento.
• La estructura de capital de la empresa con ánimo de lucro tendría límites que restringirían los beneficios económicos máximos ofrecidos a los inversores y los empleados para incentivarlos a investigar, desarrollar e implementar la IAG de una manera que equilibrase la rentabilidad con la seguridad y la sostenibilidad, en lugar de centrarse únicamente en obtener los mayores beneficios económicos.
• La organización sin ánimo de lucro gobernaría y supervisaría todas esas actividades a través de su junta directiva, además de sus propias operaciones. Además, continuaría emprendiendo una amplia gama de iniciativas benéficas, como patrocinar un estudio exhaustivo sobre la renta básica,⁠(se abre en una ventana nueva) respaldar la investigación de las repercusiones económicas⁠ y experimentar con programas centrados en la educación, como OpenAI Scholars⁠. A lo largo de los años, la organización sin ánimo de lucro también ha respaldado a otras organizaciones benéficas públicas centradas en la tecnología, las repercusiones económicas y la justicia, incluido el Artificial Intelligence Index Fund de la Universidad de Stanford, Black Girls Code y la Fundación ACLU.

De esta manera, la organización sin ánimo de lucro seguiría siendo fundamental para nuestra estructura y controlaría el desarrollo de la IAG, mientras que la organización con ánimo de lucro sería responsable de reunir los recursos para lograrlo, persiguiendo siempre la misión principal de OpenAI. La prioridad de dicha misión queda incorporada, por encima de todo, en el acuerdo operativo de la empresa con ánimo de lucro, al que está sujeto todo inversor y empleado:

Si bien los inversores suelen buscar la rentabilidad financiera, hemos encontrado una manera de que sus objetivos se correspondan con nuestra misión. Este enfoque innovador ha sido posible gracias a la adopción de algunas disposiciones económicas y de gobernanza clave:

• En primer lugar, la filial con ánimo de lucro está totalmente controlada por la organización sin ánimo de lucro de OpenAI. Con tal fin, la organización sin ánimo de lucro es propietaria exclusiva y controla totalmente una entidad administradora (OpenAI GP LLC) que tiene el poder de controlar y gobernar la filial con ánimo de lucro.
• En segundo lugar, debido a que la junta directiva sigue siendo la junta de una organización sin ánimo de lucro, cada director deberá desempeñar sus deberes fiduciarios para promover su misión: una IAG segura que sea ampliamente beneficiosa. Aunque a la filial con ánimo de lucro se le permite obtener beneficios y distribuirlos, está sujeta a esta misión. El principal beneficiario de la organización sin ánimo de lucro es la humanidad, no los inversores de OpenAI.
• En tercer lugar, la junta sigue siendo mayoritariamente independiente. Los directores independientes no poseen acciones en OpenAI. Incluso el CEO de OpenAI, Sam Altman, no posee acciones directamente. Su único interés es indirecto a través de un fondo de inversión Y Combinator que hizo una pequeña inversión en OpenAI antes de que este se dedicara a tiempo completo a la organización.
• En cuarto lugar, se limitan las ganancias asignadas a inversores y empleados, incluido Microsoft. Todo el valor residual que supere el límite establecido se devolverá a la organización sin ánimo de lucro en beneficio de la humanidad.
• En quinto lugar, la junta determinará cuándo hemos alcanzado la IAG. De nuevo, por IAG nos referimos a un sistema altamente autónomo que supere a los humanos en la mayoría de las tareas de valor económico. Un sistema de este tipo queda excluido de las licencias de propiedad intelectual y otras condiciones comerciales con Microsoft, que solo se aplican a la tecnología anterior a la IAG.

Al explorar oportunidades para acelerar nuestro trabajo, nos esforzamos por conservar estos componentes económicos y de gobernanza centrales de nuestra estructura. De hecho, dado que la trayectoria hacia la IAG es incierta, nuestra estructura está diseñada para ser adaptable, algo que consideramos una virtud, no un error.

Poco después de anunciar la estructura de beneficios limitados de OpenAI (y nuestra ronda inicial de financiación) en 2019, entablamos⁠ una asociación estratégica con Microsoft. Posteriormente ampliamos⁠ nuestra asociación, incrementando tanto la inversión total de Microsoft como la escala y la amplitud de nuestras colaboraciones comerciales y de supercomputación.

Mientras que nuestra asociación con Microsoft conlleva una inversión multimillonaria, OpenAI sigue siendo una empresa totalmente independiente regida por la organización sin ánimo de lucro de OpenAI. Y, como hemos mencionado anteriormente, la IAG queda explícitamente excluida de todos los acuerdos de licencia comerciales y de propiedad intelectual.

Estas disposiciones ejemplifican por qué elegimos a Microsoft como nuestro socio comercial e informático. Desde el principio, aceptaron nuestra oferta de capital limitado y nuestra solicitud de dejar las tecnologías y la gobernanza de la IAG para la organización sin ánimo de lucro y el resto de la humanidad. Además, han colaborado con nosotros para crear y perfeccionar nuestra junta de seguridad conjunta, que revisa nuestros sistemas antes de implementarlos. Volviendo a nuestros orígenes, entienden que se trata de un proyecto único y ambicioso que requiere recursos a la escala del sector público, así como diligencia para compartir los resultados finales con todo el mundo.

OpenAI is governed by the board of the OpenAI Nonprofit, currently comprised of Independent Directors Bret Taylor (Chair), Adam D’Angelo, Dr. Sue Desmond-Hellmann, Zico Kolter, Retired U.S. Army General Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, and Larry Summers, as well as our CEO Sam Altman.