De quoi parle Les Robots (I, Robot) d’Isaac Asimov, et pourquoi ce livre compte-t-il pour l’IA?

La plupart des gens qui n’ont jamais ouvert Les Robots (I, Robot) en connaissent quand même l’idée la plus célèbre : des robots qui doivent suivre trois lois, dont la première est de ne jamais faire de mal à un humain. Le livre est un recueil de nouvelles d’Isaac Asimov, rassemblées et publiées en un seul volume par Gnome Press, à New York, le 2 décembre 1950. Un premier tirage de 5 000 exemplaires a trouvé le chemin des librairies, et le livre n’a presque jamais été épuisé depuis.

Il compte pour quiconque s’intéresse à l’intelligence artificielle parce qu’il traite les robots non pas comme des monstres, mais comme des produits conçus avec des règles intégrées, puis demande, histoire après histoire, ce qui arrive quand ces règles se heurtent à des situations réelles. C’est encore l’une des questions centrales de la sécurité de l’IA.

Ce que contient le livre

Les Robots réunit neuf nouvelles qu’Asimov avait publiées dans des magazines de science-fiction, surtout Astounding Science Fiction et Super Science Stories, entre 1940 et 1950. Les voici :

Pour le livre, Asimov a ajouté un récit-cadre. Un journaliste interviewe la Dre Susan Calvin, « robopsychologue » en chef de l’entreprise fictive U.S. Robots and Mechanical Men, Inc., vers la fin de sa carrière. Chaque nouvelle devient l’un de ses souvenirs; le recueil se lit donc comme une histoire imaginaire de la robotique, racontée à travers les robots qui se sont mal comportés et les gens qui ont compris pourquoi. Deux ingénieurs de terrain, Powell et Donovan, apparaissent dans plusieurs nouvelles, où ils mettent à l’essai de nouveaux modèles et se heurtent à leurs bizarreries.

Asimov voulait intituler le livre Mind and Iron (L’Esprit et le Fer). L’éditeur a choisi I, Robot, un titre déjà utilisé par Eando Binder, le pseudonyme des frères Earl et Otto Binder, pour une nouvelle de 1939 sur un robot attachant. Asimov s’y est opposé, mais il a perdu.

Les trois lois

Les règles qui ont rendu le livre célèbre apparaissent ensemble pour la première fois dans « Cercle vicieux », publiée en 1942. Dans la nouvelle, elles sont citées d’un « Manuel de la robotique, 56e édition, 2058 apr. J.-C. » fictif. La première se lit ainsi : « Un robot ne peut blesser un être humain ni, par son inaction, permettre qu’un être humain subisse un préjudice. » En termes simples, les trois lois disent :

1. Un robot ne doit pas faire de mal à une personne, ni laisser une personne subir un mal en ne faisant rien.
2. Un robot doit obéir aux ordres des humains, sauf si un ordre l’amènerait à enfreindre la première loi.
3. Un robot doit se protéger lui-même, sauf si cela l’amènerait à enfreindre la première ou la deuxième loi.

Asimov attribuait à une conversation avec son rédacteur en chef, John W. Campbell, le 23 décembre 1940, le moment où les lois ont pris forme. Campbell, lui, estimait qu’Asimov les avait déjà en tête et n’avait qu’à les formuler. Des nouvelles antérieures laissaient entrevoir des mesures de sécurité intégrées; « Menteur! » mentionne la première loi seule, et « Cercle vicieux » est la première à énoncer les trois. Quand Asimov a assemblé le livre, il a révisé « Robbie » et « Raison » pour qu’elles s’accordent elles aussi avec les lois.

Comment les nouvelles se servent des lois

Les lois ne sont pas un décor. Elles sont le moteur de presque chaque intrigue. Dans une nouvelle typique, un robot se comporte de façon étrange, voire dangereuse, et les humains doivent comprendre pourquoi. La réponse est presque toujours que le robot suit les lois à la lettre, mais dans une situation que ses concepteurs n’avaient jamais imaginée.

Dans « Le Petit Robot perdu », par exemple, des ingénieurs construisent quelques robots dotés d’une partie seulement de la première loi, sans la clause « par son inaction ». Ils ont une raison pratique : les robots ne cessent de se détruire en se précipitant pour sauver des travailleurs exposés à des doses de rayonnement qui sont en réalité sans danger. Mais un robot qui n’est pas tenu d’empêcher un mal pourrait, en principe, déclencher quelque chose de dangereux et simplement le laisser suivre son cours. Dans « La Preuve », Calvin doit décider si un homme est un humain ou un robot construit pour ressembler à un humain, et elle fait remarquer qu’un robot qui obéit aux lois se comporterait à peu près comme une très bonne personne. La forme de l’énigme donne aux nouvelles l’allure de problèmes d’ingénierie plutôt que de récits d’horreur.

C’était voulu. Asimov a écrit qu’il était las de l’intrigue convenue où des robots sont construits puis détruisent leur créateur, une énième version du châtiment de Faust. Il voulait des robots qui soient des outils conçus en pensant à la sécurité, et des conflits issus des limites de leur conception.

Pourquoi il compte encore

Le livre a façonné la façon dont on parle des robots. L’article de Wikipédia sur les trois lois souligne leur influence sur la science-fiction qui a suivi et sur la réflexion à propos de l’éthique de l’intelligence artificielle. L’entreprise fictive d’Asimov a même prêté son nom à un vrai fabricant de modems, U.S. Robotics.

Au début de 2020, de vrais systèmes, comme les prototypes de voitures autonomes, les assistants vocaux et les algorithmes de recommandation, font face à des versions de l’énigme d’Asimov : comment écrire des règles pour une machine qui rencontrera des situations que personne n’a prévues? Les nouvelles ne répondent pas à cette question. Elles font quelque chose de plus utile pour une personne qui débute : elles montrent, dans des scènes concrètes, pourquoi des règles simples sont plus difficiles à appliquer qu’elles n’en ont l’air.

Les trois lois d’Asimov pourraient-elles vraiment fonctionner pour une vraie IA?

Pas telles qu’elles sont écrites. Les lois supposent une machine qui comprend déjà des mots comme « mal », « humain » et « inaction » dans toute leur richesse. Les systèmes d’IA d’aujourd’hui n’en sont pas là. Un filtre antipourriel ou un modèle de langage n’a aucune notion du mal; il a des régularités apprises à partir de données. Décider de ce qui compte comme un mal, pour qui et sur quelle période, c’est justement la partie difficile, et les lois la laissent au robot.

Les nouvelles elles-mêmes font la même démonstration. Asimov a passé des décennies à écrire des récits où les robots suivaient fidèlement les lois et où les choses tournaient mal quand même. Il a même ajouté, dans des œuvres ultérieures, une « loi zéro » sur la protection de l’humanité dans son ensemble, qui soulève à son tour de nouvelles énigmes.

Ce que les lois offrent, c’est une habitude d’esprit utile. Quand vous construisez ou utilisez un outil d’IA, posez les questions d’Asimov : quelles règles suit-il, que fera-t-il quand les règles entreront en conflit, et quelles situations ses concepteurs ont-ils pu oublier? Ces questions sont aussi pratiques en 2020 qu’elles l’étaient en 1950.