Actualització sobre l’OpenAI Foundation

La tardor passada, OpenAI va anunciar la seva recapitalització⁠, obrint el camí perquè l’OpenAI Foundation accedís a recursos significatius. Avui compartim com la Foundation està començant a posar aquest suport en marxa.

La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat. Es tracta d’un esforç amb múltiples facetes.

La IA ja està canviant la manera com les persones treballen, aprenen i accedeixen a l’atenció sanitària. Té el potencial de desbloquejar beneficis extraordinaris: avenços mèdics més ràpids, descobriments científics accelerats, serveis més personalitzats en salut i educació, noves eines per a la creativitat i la invenció, més productivitat i creixement econòmic, millors serveis públics com ara els sistemes de transport, i molt més. La nostra convicció en aquest potencial ha guiat OpenAI des de la seva fundació.

Però construir sistemes potents per beneficiar la humanitat és només una part de la feina de la nostra missió. Els models d’IA avançats també plantejaran nous reptes que ja estan apareixent, i hem d’estar preparats per identificar-los i desenvolupar solucions per abordar-los.

Aquestes són les dues dimensions d’allò per al qual estem construint la Foundation. Aspirem a fer possible l’ús de la IA per trobar solucions als problemes més difícils de la humanitat, transformar allò de què les persones són capaces i aportar beneficis reals a la vida de la gent, alhora que treballem intensament amb socis per estar preparats per a nous reptes i per ajudar a fer que la societat sigui resilient a mesura que la IA avanci.

Aquesta feina tot just comença. Durant l’any vinent, mentre accelerem ràpidament, la Foundation preveu invertir com a mínim 1.000 milions de dòlars en ciències de la vida i cura de malalties, llocs de treball i impacte econòmic, resiliència de la IA i programes comunitaris. Això inclou inversions inicials cap al nostre compromís anunciat prèviament de 25.000 milions de dòlars per a la cura de malalties i la resiliència de la IA.

Durant els mesos vinents, compartirem actualitzacions en cadascuna d’aquestes àrees mentre construïm, aprenem i perfeccionem el nostre enfocament, i fem avançar la nostra missió amb noves subvencions i programes.

Comencem per Ciències de la vida i cura de malalties, on creiem que la IA té un potencial enorme per accelerar el progrés científic i mèdic per salvar i millorar vides. Ja estem veient molts primers indicis de les capacitats de la IA en aquests àmbits. Els investigadors estan utilitzant la IA per entendre millor les malalties, explorar noves maneres de prevenir-les i tractar-les, i portar idees del laboratori als pacients més ràpidament.

A la Foundation, hem identificat tres àrees inicials d’interès en què creiem que aquesta feina podria marcar una diferència real:

• IA per a l’Alzheimer: L’Alzheimer és una de les malalties més difícils i devastadores a què s’enfronten les famílies, i un dels problemes més complexos de la medicina. La capacitat de la IA per raonar sobre dades complexes podria ajudar els investigadors a descobrir noves perspectives. Col·laborarem amb institucions de recerca capdavanteres, amb un enfocament inicial en el mapatge de les vies de la malaltia, la detecció de biomarcadors per a l’atenció clínica i els assaigs clínics, i l’acceleració de la personalització dels tractaments, incloent-hi, quan sigui possible, la reutilització de molècules existents aprovades per la FDA.
• Dades públiques per a la salut: Molts dels avenços més importants de la medicina han estat possibles gràcies a dades científiques compartides, i l’accés públic a les dades és essencial per fer realitat la promesa de la IA en els avenços científics. Ajudarem els socis a crear i ampliar conjunts de dades oberts i d’alta qualitat i, quan sigui adequat, a obrir de manera responsable conjunts que abans estaven tancats, perquè investigadors d’arreu puguin aprofitar la IA i utilitzar les dades per impulsar el progrés en diverses malalties.
• Accelerar el progrés en malalties d’alta mortalitat i gran càrrega: Creiem que la IA pot contribuir a avenços científics i reduir el cost i el risc de desenvolupar o reutilitzar teràpies, especialment en àrees de malalties d’alta mortalitat i gran càrrega que estan infrafinançades. Reunirem investigadors en IA i experts en malalties, començant amb un taller específic per identificar la millor manera de capacitar els científics amb eines d’IA i fer aflorar oportunitats prometedores.

Jacob Trefethen liderarà aquesta feina com a responsable de Ciències de la vida i cura de malalties. S’incorpora des de Coefficient Giving, on va supervisar més de 500 milions de dòlars en subvencions per a ciència i salut.

La IA canviarà la naturalesa del treball i de l’economia, portant tant reptes com oportunitats. Reconeixem que això és profundament important. La Foundation ja ha començat a interactuar amb experts i comunitats —societat civil, propietaris de petites empreses, sindicats, economistes destacats, responsables polítics i altres— per desenvolupar i finançar solucions pràctiques en aquest àmbit. Tenim la intenció de destinar recursos substancials als enfocaments més prometedors i compartirem més informació en les properes setmanes.

Tal com es va anunciar anteriorment, la resiliència de la IA també serà un dels nostres programes principals. Aquesta feina se centra en els nous reptes que sorgeixen inevitablement d’una IA més capaç, perquè les persones puguin beneficiar-se plenament de la IA de maneres que donin suport i ampliïn l’agència humana, la creativitat i les oportunitats.

Inicialment ens centrarem en unes quantes àrees on la preocupació per l’impacte ja és evident, i on creiem que la feina primerenca pot marcar una diferència real:

• Impacte de la IA en infants i joves: Volem contribuir a garantir que les eines d’IA siguin segures per a la gent jove i afavoreixin un desenvolupament saludable. Això inclou invertir en recerca i avaluació basades en dades, i treballar entre disciplines per ajudar a identificar les salvaguardes adequades que contribueixin a assegurar interaccions segures i beneficioses entre la IA i els infants i joves.
• Bioseguretat: Volem reforçar la manera com la societat es prepara per a possibles amenaces biològiques, tant brots naturals com brots facilitats per la IA. Això inclou millorar la detecció, la prevenció i la mitigació.
• Seguretat dels models d’IA: Volem que els sistemes d’IA siguin més segurs per defecte. Això significa donar suport a proves i avaluacions independents, desenvolupar estàndards sectorials nous i més sòlids, i finançar recerca fonamental que ajudi a evitar problemes de seguretat o a detectar-los i abordar-los aviat.

Wojciech Zaremba, cofundador d’OpenAI, s’incorpora a la Foundation com a responsable de Resiliència de la IA per liderar aquesta feina.

Aviat anunciarem l’última ronda de subvencions del fons inicial People-First AI Fund, juntament amb més detalls sobre el que vindrà després.

Amb aquesta feina —iniciada arran de la recomanació de la nostra Nonprofit Commission⁠— hem vist que les organitzacions de base comunitària estan en una posició única per ajudar les persones a gestionar els canvis impulsats per la IA. Aquests grups d’alta confiança són els més propers a les comunitats a les quals serveixen i lideren una feina crítica sobre el terreny.

Continuarem invertint en iniciatives que donin suport a les comunitats, amb un enfocament a ajudar les persones a entendre la IA, beneficiar-se de les seves capacitats i adaptar-se als canvis que comporta.

A més de Wojciech i Jacob, estem construint un equip per fer avançar la nostra feina a gran escala.

A mitjan abril, Anna Makanju s’incorporarà com a responsable d’IA per a la societat civil i la filantropia per liderar la feina de la Foundation en l’ús de la IA per ajudar organitzacions sense ànim de lucre, ONG, institucions filantròpiques i l’ecosistema més ampli de la societat civil a accelerar i ampliar el seu impacte. Anteriorment, Anna va exercir com a vicepresidenta d’Impacte Global a OpenAI. Esperem poder compartir més sobre aquesta feina en les properes setmanes.

Robert Kaiden s’incorpora com a director financer. Anteriorment, Robert va ocupar càrrecs de lideratge sènior a Deloitte, Twitter i Inspirato. Ajudarà a garantir que la Foundation operi amb una sòlida disciplina financera a mesura que creixem.

Jeff Arnold s’incorpora com a director d’operacions. Jeff va ser un dels primers membres d’OpenAI. Ha dedicat la seva carrera a construir i ampliar empreses, també en càrrecs de lideratge a Oracle i Dropbox. Ajudarà a construir els sistemes operatius necessaris per donar suport als objectius de la Foundation.

El Consell de la Foundation també està buscant un director executiu. Continuarem ampliant l’equip durant els propers mesos.

Encara som al començament del que la IA pot fer possible.

L’oportunitat —i la responsabilitat— és assegurar-nos que aquestes tecnologies condueixin a un progrés real per a les persones. Aprendrem ràpidament, treballarem estretament amb els socis i invertirem en solucions que puguin escalar i transformar.

El nostre objectiu és ajudar més persones a resoldre els problemes més difícils, cuidar millor les persones que estimen i construir vides plenes que abans quedaven fora del seu abast.

Ens il·lusiona la feina que tenim al davant i compartirem més informació durant els propers mesos.