Dix ans

OpenAI a accompli bien plus que ce que j’aurais osé imaginer ; nous nous étions lancés dans quelque chose de fou, d’improbable et de sans précédent.Partis d’un point de départ très incertain et contre toute attente raisonnable, notre travail acharné nous donne aujourd’hui une réelle chance de réussir notre mission.

Nous avons annoncé notre projet au monde il y a dix ans jour pour jour, même si nous n’avons officiellement démarré⁠(ouverture dans une nouvelle fenêtre) que quelques semaines plus tard, début janvier 2016.

D’un certain point de vue, dix ans, c’est très long, mais à l’échelle du temps qu’il faut habituellement pour infléchir le cours de la société, ce n’est pas grand-chose. Même si la vie quotidienne ne semble pas si différente d’il y a dix ans, l’horizon des possibles qui s’offre à nous aujourd’hui n’a rien à voir avec celui que nous percevions lorsque nous étions quinze nerds assis autour d’une table à essayer de comprendre comment avancer.

Quand je regarde les photos des débuts, je suis d’abord frappé par la jeunesse de tout le monde. Mais je suis tout autant frappé par l’optimisme démesuré qui se lit sur les visages, et par le bonheur qui s’en dégage.C’était une période incroyablement exaltante : même si nous étions largement incompris, nous avions une conviction profonde, le sentiment que ce que nous faisions comptait suffisamment pour y travailler très dur malgré nos faibles chances de succès, entourés de personnes extrêmement talentueuses et d’un cap très clair.

Petit à petit, au fil de quelques succès (et de nombreux échecs), nous avons affiné notre compréhension de ce qui se passait. À l’époque, il était difficile de savoir précisément sur quoi travailler, mais nous avons construit une culture incroyable, propice à la découverte. Le deep learning était clairement une technologie formidable, mais il ne semblait pas juste de le développer sans acquérir en parallèle de l’expérience sur son déploiement dans le monde réel. Je passerai sur toutes les choses que nous avons faites (j’espère que quelqu’un en écrira un jour l’histoire), mais nous avions cet esprit extraordinaire qui consistait à toujours simplement résoudre le prochain obstacle devant nous : vers où orienter la recherche, comment trouver des fonds pour des ordinateurs plus puissants, ou tout autre défi. Nous avons été pionniers de travaux techniques visant à rendre l’IA sûre et robuste de manière concrète, et cet ADN continue de nous guider aujourd’hui.

En 2017, nous avons obtenu plusieurs résultats fondateurs : nos résultats sur Dota en un contre un, où nous avons poussé l’apprentissage par renforcement à une nouvelle échelle. Le « neurone de sentiment » non supervisé, où nous avons vu un modèle de langage apprendre indéniablement la sémantique, et pas seulement la syntaxe.Et notre résultat sur l’apprentissage par renforcement à partir de préférences humaines, qui esquissait une voie rudimentaire pour aligner une IA sur des valeurs humaines.À ce stade, nous étions encore loin d’avoir tout inventé, mais nous savions qu’il nous fallait porter chacun de ces résultats à l’échelle en mobilisant une puissance de calcul massive.

Nous avons poursuivi nos efforts, amélioré la technologie, et lancé ChatGPT il y a trois ans.Le monde a commencé à y prêter attention, et bien davantage encore lorsque nous avons lancé GPT‑4 ; soudain, l’AGI n’apparaissait plus comme une idée folle.Ces trois dernières années ont été extrêmement intenses, marquées par beaucoup de stress et une lourde responsabilité ; cette technologie s’est intégrée dans le monde à une échelle et à une vitesse qu’aucune autre technologie n’avait jamais atteintes auparavant.Cela a exigé une excellence opérationnelle très difficile à atteindre, pour laquelle nous avons dû développer un nouveau « réflexe » quasiment du jour au lendemain.Passer de presque rien à une entreprise de très grande taille en si peu de temps n’a pas été simple, et nous a obligés à prendre des centaines de décisions par semaine.Je suis fier du nombre de bonnes décisions que l’équipe a prises, et celles que nous avons mal prises sont, pour la plupart, de ma responsabilité.

Nous avons dû prendre des décisions d’un nouveau genre ; par exemple, en nous interrogeant sur la manière de rendre l’IA la plus bénéfique possible pour le monde, nous avons élaboré une stratégie de déploiement itératif, consistant à mettre entre les mains du public des premières versions de la technologie, afin que chacun puisse se forger des intuitions et que la société et la technologie puissent co-évoluer.C’était une approche assez controversée à l’époque, mais je pense que cela reste l’une de nos meilleures décisions, et c’est devenu la norme dans le secteur.

Dix ans après la création d’OpenAI, nous avons une IA capable de faire mieux que la plupart de nos esprits les plus brillants sur nos défis intellectuels les plus difficiles.

Le monde a pu utiliser cette technologie pour accomplir des choses extraordinaires, et nous nous attendons à voir apparaître encore beaucoup d’autres choses extraordinaires dès l’année à venir.Le monde a également, jusqu’ici, plutôt bien réussi à atténuer les risques potentiels, et nous devons continuer à travailler pour que cela reste le cas.

Je n’ai jamais été aussi optimiste quant à nos feuilles de route de recherche et de produit, et quant à la manière dont elles nous rapprochent de notre mission.Dans dix ans, je pense qu’il est presque certain que nous aurons construit une superintelligence.Je m’attends à ce que l’avenir paraisse étrange ; d’un certain point de vue, la vie quotidienne et ce qui compte le plus pour nous changeront très peu, et je suis certain que nous resterons bien plus attentifs à ce que font les autres personnes qu’à ce que font les machines.Mais d’un autre point de vue, les personnes de 2035 seront capables de faire des choses que nous avons, à mon avis, beaucoup de mal à imaginer aujourd’hui.

Je suis reconnaissant envers les personnes et les entreprises qui nous font confiance et utilisent nos produits pour accomplir de grandes choses.Sans cela, nous ne serions qu’une technologie confinée au laboratoire ; nos utilisateurs et nos clients ont, dans bien des cas, fait très tôt un pari à la fois risqué et d’un niveau de conviction exceptionnel sur nous, et notre travail n’aurait jamais atteint ce niveau sans eux.

Notre mission est de faire en sorte que l’AGI bénéficie à l’humanité tout entière.Il nous reste encore beaucoup de travail, mais je suis vraiment fier de la trajectoire sur laquelle l’équipe nous a engagés.Nous constatons déjà aujourd’hui des bénéfices considérables dans ce que les gens font avec cette technologie, et nous savons que beaucoup d’autres avancées arrivent dans les prochaines années.