Qui a fondé DeepMind en 2010, et que cherchaient-ils à construire?

En 2010, très peu d’entreprises disaient ouvertement vouloir construire une intelligence artificielle générale, un système capable d’apprendre à faire presque n’importe quoi. L’IA avait traversé des cycles de grandes promesses et de déceptions, et la plupart des produits à succès se concentraient sur des tâches étroites comme le filtrage des pourriels ou le classement des résultats de recherche. Trois jeunes chercheurs de Londres ont quand même décidé de s’attaquer au problème général. Leur entreprise s’appelait DeepMind.

Les fondateurs étaient Demis Hassabis, Shane Legg et Mustafa Suleyman. Hassabis et Legg se sont d’abord croisés à l’University College London, dans son unité Gatsby de neurosciences computationnelles, un groupe de recherche qui étudie comment le cerveau calcule. L’histoire de DeepMind racontée par l’entreprise elle-même décrit son point de départ comme une tentative interdisciplinaire de construire des systèmes d’IA générale, en s’appuyant sur l’apprentissage automatique, les neurosciences, l’ingénierie, les mathématiques et la simulation.

Quand et où tout a commencé

Le registre officiel des entreprises du Royaume-Uni, Companies House, indique que l’entreprise qui s’appelle maintenant DeepMind Technologies Limited a été constituée le 23 septembre 2010. Elle a porté un nom provisoire jusqu’au 15 novembre 2010, la date que Wikipédia donne pour son lancement officiel. Selon le jalon retenu, DeepMind a donc commencé en septembre ou en novembre 2010. Elle était établie à Londres et y a toujours son siège.

Parmi les investisseurs figuraient les sociétés de capital de risque Horizons Ventures et Founders Fund, ainsi que des entrepreneurs comme Peter Thiel et Elon Musk. Jaan Tallinn a été l’un des premiers investisseurs et conseillers.

La grande idée : apprendre plutôt que tout coder à la main

En 2010, la plupart des programmes d’IA étaient construits pour une seule tâche, avec beaucoup de connaissances fournies par leurs programmeurs. DeepMind voulait des systèmes qui partent de très peu et apprennent par l’expérience, comme le fait un animal ou un enfant.

Les jeux ont été le terrain d’essai choisi. Ils sont assez complexes pour être intéressants, ils ont un pointage clair, et un ordinateur peut jouer des millions de parties sans que personne se blesse. Selon Wikipédia, l’entreprise a commencé par apprendre à son logiciel à jouer à des jeux vidéo Atari des années 1970 et 1980, comme Breakout, Pong et Space Invaders, sans lui en donner les règles.

Voici à peu près comment fonctionne une telle boucle d’apprentissage dans Breakout, où l’on déplace une raquette pour faire rebondir une balle contre un mur de briques :

Partie	Ce que voit le programme	Ce qu’il essaie	Ce qui se passe	Ce qu’il apprend
1	Les pixels bruts de l’écran	Bouge au hasard	La balle passe à côté de la raquette	Pas grand-chose encore
50	La balle part vers la gauche	Va à gauche, en partie par hasard	La balle rebondit, une brique se brise, le pointage monte	Aller vers la balle rapporte
5 000	La balle part vite vers la gauche	Va à gauche tôt	Plus de rebonds, pointage plus élevé	Anticiper où la balle va tomber
Beaucoup plus tard	Une brèche dans le mur de briques	Vise la brèche avec la balle	La balle passe derrière le mur et détruit beaucoup de briques	Une stratégie à long terme

On ne dit jamais au programme ce qu’est une raquette ou une balle. Il voit des pixels et un pointage, et il apprend quelles actions mènent à de meilleurs pointages au fil du temps. Selon l’histoire de DeepMind, son système DQN a appris 49 jeux Atari différents de cette façon.

À essayer : jouez à un jeu en ligne simple que vous n’avez jamais vu, sans lire les instructions. Notez combien d’essais il vous faut avant de comprendre ce qui rapporte des points. Ce processus d’essais et d’erreurs, c’est ce que les premiers systèmes de DeepMind ont automatisé.

Ce que DeepMind a fait depuis

La recherche sur Atari a été publiée en 2013 et, selon Wikipédia, elle aurait contribué à inciter Google à acheter l’entreprise. Google a confirmé l’acquisition le 26 janvier 2014; le prix rapporté se situait entre 400 et 650 millions $ US. DeepMind a conservé sa base londonienne et son orientation vers la recherche.

Les jalons depuis, jusqu’au début de 2021 :

AlphaGo a battu le champion d’Europe de go Fan Hui 5 à 0 en octobre 2015, la première fois qu’un programme battait un joueur de go professionnel, puis a battu Lee Sedol 4 à 1 en mars 2016.
AlphaZero a appris seul les échecs, le shogi et le go en jouant contre lui-même, et MuZero (2019) a maîtrisé des jeux sans même qu’on lui en donne les règles.
WaveNet (2016) générait une parole synthétique réaliste et a ensuite été utilisé dans des produits de Google.
AlphaStar a battu un joueur professionnel de haut niveau de StarCraft II en 2019.
AlphaFold a remporté l’évaluation de prédiction de structures de protéines CASP13 en décembre 2018. À CASP14, dont les résultats ont été communiqués à la fin de novembre 2020, ses prédictions ont atteint une exactitude que les organisateurs ont jugée comparable à celle des méthodes de laboratoire.

Il y a aussi eu des controverses. En 2017, l’organisme de réglementation de la protection des données du Royaume-Uni a conclu qu’un regroupement hospitalier de Londres ne s’était pas conformé à la loi en communiquant des dossiers de patients à DeepMind pour tester une application de santé. DeepMind a répondu qu’elle devait faire mieux et, en octobre 2017, elle a lancé une unité de recherche, DeepMind Ethics & Society, pour étudier les questions sociales que soulève l’IA. En décembre 2019, le cofondateur Mustafa Suleyman a annoncé son départ pour un poste lié aux politiques chez Google.

Pourquoi la fondation de DeepMind compte

DeepMind a montré qu’un laboratoire de recherche pouvait être organisé comme une entreprise, avec de grandes équipes, de gros budgets de calcul et des objectifs à long terme, tout en publiant de la science fondamentale. Ses succès dans les jeux ont fait de l’apprentissage par renforcement, un coin assez spécialisé de l’IA, l’un des domaines de recherche les plus suivis.

Le résultat d’AlphaFold à CASP14, annoncé il y a quelques semaines à peine, est le signe le plus clair de la direction que les fondateurs espéraient prendre : passer des jeux à de vrais problèmes scientifiques. Prédire la forme dans laquelle une protéine se replie est un problème de longue date en biologie moléculaire, auquel DeepMind a commencé à travailler en 2016.

Qu’est-ce que l’apprentissage par renforcement, la méthode derrière les résultats les plus connus de DeepMind?

L’apprentissage par renforcement est une façon d’entraîner un ordinateur par la récompense plutôt que par l’exemple. Au lieu de lui montrer des milliers de réponses étiquetées, on le laisse agir, on lui donne un pointage pour le résultat et on le laisse découvrir quelles actions mènent à de meilleurs pointages au fil du temps. Le tableau de Breakout ci-dessus raconte une histoire simple d’apprentissage par renforcement.

L’étape clé de DeepMind a été de combiner cette méthode avec des réseaux de neurones profonds, capables de transformer des entrées brutes, comme les pixels d’un écran, en caractéristiques utiles. Cette combinaison, appelée apprentissage par renforcement profond, a permis à une seule méthode de s’attaquer à de nombreux jeux différents.

Ce n’est pas toute l’histoire. AlphaGo, par exemple, a d’abord étudié des parties humaines enregistrées avant de s’améliorer en jouant contre lui-même. Mais l’habitude de laisser les machines apprendre par essais, erreurs et récompenses est la signature de DeepMind, et elle remonte à ces premières expériences avec de vieux jeux Atari.