Mise à jour sur la fondation OpenAI

L’automne dernier, OpenAI a annoncé sa recapitalisation⁠, ouvrant ainsi la voie à l’accès de la Fondation OpenAI à des ressources importantes. Aujourd’hui, nous expliquons comment la Fondation commence à mettre ce soutien en œuvre.

Notre mission  : veiller à ce que l’intelligence artificielle générale profite à l’ensemble de l’humanité. Il s’agit d’une entreprise à multiples facettes.

L’IA transforme déjà la manière dont les personnes travaillent, apprennent et accèdent aux soins. Elle a le potentiel de générer des bénéfices extraordinaires—des avancées médicales plus rapides, une accélération des découvertes scientifiques, des services plus personnalisés en santé et en éducation, de nouveaux outils pour la créativité et l’invention, une productivité accrue et une croissance économique renforcée, des services publics améliorés comme les systèmes de transport, et bien plus encore. Notre conviction en ce potentiel guide OpenAI depuis sa création.

Mais développer des systèmes puissants au service de l’humanité ne constitue qu’une partie de notre mission. Les modèles d’IA avancés poseront également de nouveaux défis, déjà en train d’émerger, et nous devons être prêts à les identifier et à développer des solutions pour y répondre.

Ce sont les deux dimensions que nous donnons à la Fondation. Nous visons à permettre l’utilisation de l’IA pour trouver des solutions aux problèmes les plus complexes de l’humanité, transformer ce dont les individus sont capables et apporter des bénéfices concrets dans leur vie—tout en travaillant étroitement avec des partenaires pour anticiper les nouveaux défis et renforcer la résilience de la société alors que l’IA progresse.    

Ce travail ne fait que commencer. Au cours de l’année à venir, alors que nous montons rapidement en puissance, la Fondation prévoit d’investir au moins 1 milliard de dollars dans les sciences de la vie, les opportunités économiques, la sécurité et les programmes communautaires—premières étapes vers les 25 milliards de dollars que nous avons annoncés.

Dans les mois à venir, nous partagerons des avancées dans chacun de ces domaines alors que nous construisons, apprenons et affinons notre approche, et que nous faisons progresser notre mission grâce à de nouvelles subventions et de nouveaux programmes.

Nous commençons par les sciences de la vie et la lutte contre les maladies, domaines dans lesquels nous pensons que l’IA a un potentiel considérable pour accélérer les progrès scientifiques et médicaux afin de sauver et d’améliorer des vies. Nous constatons déjà des signes précurseurs des capacités de l’IA dans ces domaines. Les chercheurs utilisent l’IA pour mieux comprendre les maladies, explorer de nouvelles façons de les prévenir et de les traiter, et accélérer le passage des idées du laboratoire aux patients.

Au sein de la Fondation, nous avons identifié trois premiers axes prioritaires pour lesquels nous pensons que ce travail peut faire une réelle différence :

• IA pour la maladie d’Alzheimer : La maladie d’Alzheimer est l’une des maladies les plus difficiles et les plus éprouvantes auxquelles les familles sont confrontées—et l’un des défis les plus complexes en médecine. La capacité de l’IA à raisonner à partir de données complexes pourrait aider les chercheurs à découvrir de nouvelles pistes. Nous collaborerons avec des institutions de recherche de premier plan, en mettant d’abord l’accent sur la cartographie des mécanismes de la maladie, la détection de biomarqueurs pour les soins cliniques et les essais cliniques, et l’accélération de la personnalisation des traitements—y compris, lorsque cela est possible, la réutilisation de molécules déjà approuvées par la FDA.
• Données publiques pour la santé : Bon nombre des plus grandes avancées en médecine ont été rendues possibles grâce au partage de données scientifiques, et l’accès public aux données est essentiel pour concrétiser le potentiel de l’IA en matière de découvertes scientifiques. Nous aiderons nos partenaires à créer et à enrichir des jeux de données ouverts et de haute qualité—et, lorsque cela est pertinent, à ouvrir de manière responsable des jeux de données auparavant fermés—afin que les chercheurs du monde entier puissent exploiter l’IA et utiliser les données pour faire progresser la recherche sur les maladies.
• Accélérer les progrès sur les maladies à forte mortalité et à forte charge : Nous pensons que l’IA peut contribuer à des avancées scientifiques majeures et réduire le coût ainsi que les risques liés au développement ou à la réutilisation de traitements, en particulier dans des domaines de maladies à forte mortalité et à forte charge encore sous-financés. Nous réunirons des chercheurs en IA et des experts des maladies, en commençant par un atelier ciblé pour identifier comment mieux outiller les scientifiques avec l’IA et faire émerger des opportunités prometteuses.

Jacob Trefethen dirigera ces travaux en tant que responsable des sciences de la vie et de la lutte contre les maladies. Il nous rejoint depuis Coefficient Giving, où il a supervisé plus de 500 millions de dollars de subventions dédiées à la science et à la santé.

L’IA transformera la nature du travail et de l’économie—en apportant à la fois des défis et des opportunités. Nous reconnaissons que cela est d’une importance capitale. La Fondation a commencé à collaborer avec des experts et des communautés—organisations de la société civile, petites entreprises, syndicats, économistes de premier plan, décideurs publics et autres—afin de développer et financer des solutions concrètes dans ce domaine. Nous prévoyons de mobiliser des ressources importantes pour soutenir les approches les plus prometteuses et partagerons davantage d’informations dans les semaines à venir.

Comme annoncé précédemment, la résilience face à l’IA sera également l’un de nos programmes principaux. Ce travail se concentre sur les nouveaux défis qui émergent inévitablement avec des IA plus puissantes, afin que chacun puisse pleinement bénéficier de l’IA d’une manière qui soutient et renforce l’autonomie, la créativité et les opportunités humaines.

Nous nous concentrerons dans un premier temps sur quelques domaines où les préoccupations liées à l’impact sont déjà évidentes et où nous pensons que des actions précoces peuvent faire une réelle différence :

• Impact de l’IA sur les enfants et les jeunes : Nous voulons contribuer à garantir que les outils d’IA soient sûrs pour les jeunes et favorisent un développement sain. Cela inclut des investissements dans la recherche et l’évaluation fondées sur les données, ainsi qu’un travail transversal entre disciplines pour identifier les garde-fous appropriés afin de garantir des interactions sûres et bénéfiques entre l’IA et les enfants et les jeunes.
• Biosécurité : Nous voulons renforcer la préparation de la société face aux menaces biologiques potentielles – qu’il s’agisse d’épidémies naturelles ou facilitées par l’IA. Cela inclut l’amélioration de la détection, de la prévention et de l’atténuation.
• Sécurité des modèles d’IA : Nous voulons que les systèmes d’IA soient plus sûrs par défaut. Cela signifie mener des tests et des évaluations indépendants, développer de nouvelles normes industrielles plus robustes et financer des recherches fondamentales qui permettent d’éviter les problèmes de sécurité ou de les détecter et de les traiter en amont.

Wojciech Zaremba, cofondateur d’OpenAI, rejoint la Fondation en tant que responsable de la résilience de l’IA pour diriger ces travaux.

Nous annoncerons bientôt la dernière vague de subventions du fonds initial People-First AI Fund, ainsi que davantage de détails sur la suite.

Grâce à ce travail—lancé sur recommandation de notre Commission des organisations à but non lucratif⁠— nous avons constaté que les organisations ancrées dans les communautés sont particulièrement bien placées pour aider les individus à s’adapter aux transformations induites par l’IA. Ces organisations de confiance sont au plus près des communautés qu’elles accompagnent et mènent des actions essentielles sur le terrain.

Nous continuerons d’investir dans des initiatives qui soutiennent les communautés, en mettant l’accent sur l’aide apportée aux individus pour comprendre l’IA, tirer parti de ses capacités et s’adapter aux changements qu’elle entraîne.

En plus de Wojciech et Jacob, nous constituons une équipe pour faire progresser nos travaux à grande échelle.

Anna Makanju rejoint la Fondation en tant que responsable de l’IA pour la société civile et la philanthropie afin de diriger les travaux visant à exploiter l’IA pour aider les organisations à but non lucratif, les ONG et les institutions philanthropiques à accélérer et à amplifier leur impact. Anna a précédemment occupé le poste de vice-présidente de l’Impact mondial chez OpenAI.

Robert Kaiden rejoint l’entreprise en tant que directeur financier. Robert a précédemment occupé des postes de direction de haut niveau chez Deloitte, Twitter et Inspirato. Il contribuera à garantir que la Fondation fonctionne avec une discipline financière rigoureuse alors que nous nous développons.

Jeff Arnold rejoint l’entreprise en tant que directeur des opérations. Jeff a été l’un des premiers membres d’OpenAI. Il a consacré sa carrière à créer et à développer des entreprises, notamment à des postes de direction chez Oracle et Dropbox. Il contribuera à mettre en place les systèmes opérationnels nécessaires pour soutenir les objectifs de la Fondation.

Le Conseil de la fondation recherche également un directeur général. Nous continuerons de recruter dans les mois à venir.

Nous n’en sommes encore qu’au début de ce que l’IA peut rendre possible.

L’enjeu—et la responsabilité —est de faire en sorte que ces technologies apportent des progrès concrets pour les individus. Nous apprendrons rapidement, travaillerons en étroite collaboration avec nos partenaires et investirons dans des solutions capables de se déployer à grande échelle et de transformer sur la durée.

Notre objectif est d’aider davantage de personnes à résoudre les problèmes les plus difficiles, à mieux prendre soin de leurs proches et à construire des vies épanouissantes qui étaient auparavant hors de portée.

Nous nous réjouissons du travail à venir et nous partagerons davantage d’informations dans les mois à venir.