Qu’est-ce qu’OpenAI LP, et que veut dire « à profit plafonné »?

Hier, le 11 mars 2019, le laboratoire d’intelligence artificielle OpenAI a annoncé la création d’une nouvelle société, OpenAI LP. Jusqu’ici, OpenAI était un organisme de recherche sans but lucratif. La nouvelle société peut recevoir de l’argent d’investisseurs et donner aux employés une part des profits futurs, mais avec une limite à ce que chacun peut gagner. OpenAI parle d’une société « à profit plafonné » (capped-profit).

La plupart des quelque 100 membres du personnel d’OpenAI travaillent maintenant pour OpenAI LP. L’organisme sans but lucratif d’origine, qu’OpenAI appelle désormais OpenAI Nonprofit, chapeaute la société et en garde le contrôle par son conseil d’administration. Dans les communications d’OpenAI, « OpenAI » désigne maintenant la nouvelle société.

Pourquoi OpenAI dit en avoir besoin

OpenAI dit avoir pour mission de faire en sorte que l’intelligence artificielle générale, ou IAG (AGI), profite à tout le monde. L’IAG désigne d’hypothétiques systèmes d’IA capables d’accomplir la plupart des tâches intellectuelles aussi bien que les humains; aucun système de ce genre n’existe aujourd’hui.

L’annonce, écrite par les cofondateurs Greg Brockman et Ilya Sutskever, donne une raison directe à ce changement : l’argent pour la puissance de calcul. Le laboratoire dit avoir constaté que les résultats les plus spectaculaires en IA utilisent le plus de puissance de calcul, en plus de nouveaux algorithmes; il a donc décidé de croître beaucoup plus vite que prévu lors de son lancement en 2015. Il prévoit de dépenser des milliards de dollars au cours des prochaines années en infonuagique, pour embaucher et garder les meilleurs chercheurs, et pour construire des superordinateurs d’IA.

Un organisme sans but lucratif peut difficilement amasser autant. Les donateurs n’obtiennent aucun rendement financier, et les meilleurs chercheurs peuvent plutôt recevoir des actions d’entreprises comme Google. Sutskever l’a dit sans détour dans un commentaire sur Reddit cité par TechCrunch : il n’y a aucun moyen de rester à la fine pointe « sans augmenter massivement notre investissement en calcul ».

OpenAI dit qu’aucune structure juridique existante ne lui offrait l’équilibre voulu; il a donc conçu une structure hybride.

Comment fonctionne la structure à profit plafonné

OpenAI LP est une société en commandite (limited partnership), un type de société qui compte des commandités, qui la dirigent, et des commanditaires, qui investissent. Ici, le commandité est OpenAI Nonprofit, dont le nom légal est OpenAI Inc. Les commanditaires sont les investisseurs et les employés.

Chaque commanditaire ne peut obtenir de rendement que jusqu’à un plafond négocié à l’avance. Pour la première ronde d’investisseurs, le plafond est de 100 fois leur investissement. OpenAI s’attend à ce que les plafonds soient plus bas lors des rondes suivantes. Tout ce qui est gagné au-delà du plafond revient à l’organisme sans but lucratif.

Un exemple chiffré, qui reprend l’illustration de TechCrunch, montre l’ampleur de ce plafond :

OpenAI soutient que s’il réussit à créer l’IAG, la valeur créée sera bien plus grande que ce qu’il doit aux investisseurs et aux employés, si bien que l’essentiel irait à l’organisme sans but lucratif et, par lui, à tout le monde.

Plusieurs règles visent à garder la mission en premier :

• La principale obligation légale d’OpenAI LP est envers la Charte d’OpenAI (OpenAI Charter), l’énoncé de principes publié par le laboratoire, et non envers les investisseurs.
• Chaque investisseur et chaque employé signe des documents qui disent que la Charte passe en premier, même si cela doit leur coûter une partie ou la totalité de leur mise.
• Le conseil d’administration de l’organisme sans but lucratif contrôle la société. Seule une minorité de ses membres peut avoir un intérêt financier, et seuls ceux qui n’en ont pas peuvent voter lorsque les intérêts des investisseurs et la mission pourraient entrer en conflit, y compris sur les décisions de versement.

Qui est en jeu

Le conseil de l’organisme sans but lucratif compte trois employés d’OpenAI, Greg Brockman (président du conseil et directeur de la technologie), Ilya Sutskever (scientifique en chef) et Sam Altman (chef de la direction), ainsi que cinq membres externes : Reid Hoffman, Adam D’Angelo, Tasha McCauley, Holden Karnofsky et Sue Yoon. Elon Musk, l’un des premiers bailleurs de fonds, a quitté le conseil en février 2018 et n’a aucun rôle officiel dans OpenAI LP.

Parmi les investisseurs nommés figurent la fondation philanthropique de Reid Hoffman et la société de capital-risque Khosla Ventures. Altman a quitté la présidence du conseil de l’accélérateur de jeunes pousses Y Combinator quelques jours à peine avant l’annonce. Le directeur des politiques d’OpenAI, Jack Clark, a dit à TechCrunch que les personnes concernées discutaient du projet depuis plus d’un an.

Les premières réactions

Le reportage de TechCrunch rend compte des deux côtés des réactions du premier jour. Il admet qu’un organisme sans but lucratif peut difficilement dépenser plus que des sociétés géantes dans un domaine où les budgets comptent. Il remet aussi en question la taille du plafond. TechCrunch note qu’une limite de 100 fois permet des rendements assez élevés pour que la restriction ne soit « limitée » que de nom, et compare cette décision à la déclaration de fondation d’OpenAI de 2015, qui décrivait une recherche libérée de l’obligation de produire un rendement financier.

Que signifie ce changement pour la recherche d’OpenAI et pour le public?

À court terme, OpenAI dit que son travail quotidien ne change pas. Il compte continuer de se concentrer sur la mise au point de nouvelles technologies d’IA plutôt que sur des produits commerciaux, et ne chercher comment générer un rendement qu’une fois qu’il aura créé une IAG sûre. Son travail se poursuit dans trois domaines : les capacités (ce que l’IA peut faire), la sécurité (garder les systèmes en accord avec les valeurs humaines) et les politiques (la façon dont l’IA devrait être encadrée). L’organisme sans but lucratif continue de mener des programmes d’éducation et des travaux sur les politiques.

Le plus grand changement est l’échelle. Grâce aux capitaux externes, OpenAI peut acheter beaucoup plus de puissance de calcul et rivaliser plus fort pour attirer des chercheurs. Bien des observateurs s’attendent à ce que suivent des modèles plus gros et des expériences plus coûteuses.

Pour le public, les questions clés portent sur la reddition de comptes. Les garde-fous sont inscrits dans les propres documents juridiques d’OpenAI et dépendent de son conseil. OpenAI répète aussi un engagement de sa Charte : pour éviter une course qui mettrait la sécurité de côté, il s’associerait à une organisation qui partage ses valeurs, même si les investisseurs ne recevaient alors que peu ou rien. Les lecteurs qui veulent suivre le fonctionnement concret de la structure peuvent surveiller qui se joint au conseil, quels investisseurs embarquent et comment les plafonds futurs sont fixés.