Quand OpenAI a-t-il été fondé, par qui, et quel était son but?

Si vous utilisez GPT-3 par l’intermédiaire d’une application, ou si vous avez lu ce mois-ci que le modèle Codex d’OpenAI écrit du code, vous avez croisé une organisation qui n’a pas tout à fait six ans. OpenAI s’est présenté au monde le 11 décembre 2015 dans un court billet de blogue intitulé « Introducing OpenAI ». Il y décrivait un nouveau genre de laboratoire : une entreprise de recherche organisée comme un organisme sans but lucratif, avec une mission pensée pour toute l’humanité plutôt que pour des actionnaires.

Savoir comment OpenAI a commencé aide à comprendre bien des débats qui l’entourent aujourd’hui, de la façon dont il publie ses modèles à la façon dont il paie les énormes ordinateurs dont ils ont besoin.

Ce qui a été annoncé, et qui y a participé

Le billet était signé par Greg Brockman, Ilya Sutskever et « l’équipe d’OpenAI ». Sa première ligne mettait la structure en avant : « OpenAI est une entreprise de recherche en intelligence artificielle sans but lucratif. » L’objectif était de faire avancer l’intelligence numérique de la manière qui ferait le plus de bien à l’humanité dans son ensemble, sans la pression de devoir générer un rendement financier.

Le groupe fondateur se présentait ainsi :

Ensemble, les bailleurs de fonds se sont engagés à verser 1 milliard $ US, même si le billet précisait que le laboratoire comptait n’en dépenser qu’une infime fraction au cours de ses premières années. L’organisation était établie à San Francisco. Selon les récits de ses débuts, elle a d’abord été dirigée depuis le salon de Brockman; Brockman avait rencontré Yoshua Bengio pour dresser une liste des meilleurs chercheurs, et neuf d’entre eux se sont joints à l’équipe comme premiers employés en décembre.

Ce qu’OpenAI disait vouloir faire

Le billet présentait son argument en trois temps.

1. L’IA était devenue étonnamment performante. L’apprentissage profond, une approche étudiée depuis des décennies, avait récemment commencé à s’imposer dans de nombreux problèmes, dont la reconnaissance d’objets dans les images, la traduction et la reconnaissance vocale. Au lieu de coder à la main un nouvel algorithme pour chaque tâche, les chercheurs concevaient des réseaux qui se façonnaient eux-mêmes selon les données.
2. Les enjeux pourraient devenir très élevés. Les systèmes actuels étaient spécialisés, disait le billet, mais ils pourraient un jour atteindre la performance humaine dans presque toutes les tâches intellectuelles. De tels systèmes pourraient être extrêmement bénéfiques pour la société, ou lui nuire gravement s’ils étaient construits ou utilisés sans précaution.
3. Il fallait donc un autre genre d’institution. Comme personne ne pouvait prédire quand une IA de niveau humain pourrait arriver, il serait important d’avoir un laboratoire de premier plan qui fasse passer un bon résultat pour tous avant ses propres intérêts.

Dans ce but, OpenAI promettait l’ouverture. Ses chercheurs seraient fortement encouragés à publier des articles, des billets de blogue et du code; les brevets éventuels seraient partagés avec le monde; et il collaborerait librement avec d’autres institutions. Le billet disait aussi que l’IA devrait prolonger ce que chaque personne veut faire, et que ses bienfaits devraient être répartis aussi largement et équitablement que la sécurité le permet.

Pourquoi c’était important

En 2015, une grande partie de la recherche en apprentissage profond la plus visible venait de grandes entreprises technologiques, Google en tête, qui avait acheté l’année précédente le laboratoire londonien DeepMind. Le lancement d’OpenAI plaçait un grand laboratoire bien financé hors de ces entreprises, avec une mission publique axée sur la sécurité à long terme et les bienfaits pour tous. Il a attiré des chercheurs de haut calibre, même s’il n’égalait pas les salaires que versaient Google ou Facebook.

Ses premiers travaux reflétaient cette approche ouverte. En avril 2016, il a lancé une version bêta publique d’OpenAI Gym, une trousse d’outils gratuite pour la recherche en apprentissage par renforcement (entraîner des agents logiciels au moyen de récompenses), et en décembre 2016, il a lancé Universe, une plateforme pour entraîner des agents sur des jeux et des sites Web. En septembre 2016, il a emménagé dans le Pioneer Building, dans le quartier Mission de San Francisco.

Comment OpenAI a-t-il changé depuis sa fondation?

Beaucoup, et ces changements font eux-mêmes partie de l’histoire. Elon Musk a quitté le conseil d’administration d’OpenAI en 2018. En 2019, OpenAI a créé une nouvelle société, OpenAI LP, sous le contrôle de l’organisme sans but lucratif. C’est une société à « profit plafonné » : les investisseurs peuvent obtenir un rendement, mais seulement jusqu’à une limite de 100 fois leur mise. OpenAI a dit que ce changement lui permettrait de réunir l’argent nécessaire à l’informatique à grande échelle et d’offrir à ses employés une participation au capital, comme ses concurrents. Microsoft a ensuite investi 1 milliard $ US, et les systèmes d’OpenAI sont passés au nuage Azure de Microsoft. Certains chercheurs ont soutenu que ce virage cadre mal avec la vision d’origine sans but lucratif.

La promesse d’ouverture a aussi été réinterprétée. En février 2019, OpenAI a annoncé GPT-2, mais a d’abord retenu le modèle complet en invoquant le risque d’utilisation malveillante, et l’a publié par étapes au cours de l’année. GPT-3, décrit en mai 2020, n’a pas été offert en téléchargement, mais par l’intermédiaire d’une API, avec un accès accordé sur demande. Ce mois-ci, OpenAI a commencé à offrir Codex, un descendant de GPT-3 entraîné sur du code, par la même API avec une liste d’attente; Codex alimente aussi l’aperçu de Copilot de GitHub.

Ce qui est resté constant, c’est l’énoncé de mission, qui parle toujours de profiter à toute l’humanité. Savoir si la structure actuelle sert mieux cette mission que la conception de 2015 est l’une des questions les plus débattues en IA aujourd’hui.