Qu’est-ce que le golem de Prague, et d’où vient la légende?

Dans le folklore juif, un golem est une figure de forme humaine faite d’une matière inerte, généralement de l’argile ou de la boue, et animée par des mots sacrés. Le golem le plus célèbre est celui de Prague. Selon la légende, le rabbin Juda Loew ben Bezalel, grand érudit de la fin du XVIe siècle, a façonné un homme dans l’argile, l’a animé avec un nom divin et s’en est servi pour servir et protéger la communauté juive de la ville.

L’histoire est devenue l’une des images les plus citées dans les discussions sur la technologie : un assistant puissant qui fait exactement ce qu’on lui dit, parfois avec des résultats que son créateur ne voulait pas.

D’où vient le mot

Le mot golem est très ancien. Il apparaît une fois dans la Bible hébraïque, au Psaume 139, verset 16, où il désigne un embryon, quelque chose qui n’est pas encore entièrement formé. La tradition juive ultérieure l’a employé pour tout ce qui est inachevé. Un ancien texte rabbinique décrit les premières heures de la création d’Adam et dit qu’à une étape, il était un golem : une masse informe qui attendait de recevoir une forme et la vie.

Le Talmud, le grand recueil des discussions rabbiniques, contient une histoire courte et frappante. Un rabbin nommé Rava crée un homme et l’envoie à un autre rabbin, Rav Zeira. Rav Zeira parle à l’homme, mais l’homme ne peut pas répondre; Rav Zeira lui dit donc de retourner à la poussière. L’homme fabriqué peut bouger, mais il ne peut pas parler. Retenez ce détail; il reviendra.

Comment on anime un golem

Au Moyen Âge, une croyance s’est répandue selon laquelle on pouvait donner vie à une figure d’argile ou de bois à l’aide du Sefer Yetzirah, le « Livre de la création », un ancien texte mystique sur les lettres de l’alphabet hébreu. Les plus anciennes instructions écrites connues pour fabriquer un golem viennent d’Éléazar de Worms, à la fin du XIIe siècle ou au début du XIIIe.

La méthode, telle que la racontent les légendes, fonctionne ainsi :

Certaines versions ajoutent une astuce ingénieuse. Le mot hébreu emet, qui signifie « vérité », est écrit sur le front du golem. Effacez sa première lettre et il reste met, qui signifie « mort », et le golem s’arrête.

L’histoire de Prague

La version la plus connue va comme suit. Le rabbin Loew a fabriqué un golem et s’en servait comme serviteur pendant la semaine. Chaque vendredi après-midi, il retirait le nom de sa bouche pour qu’il se repose pendant le sabbat, le jour de repos hebdomadaire. Un vendredi, il a oublié. Craignant que le golem ne viole le sabbat, il a couru après lui, l’a arrêté devant la synagogue quelques instants avant le début du jour de repos et lui a retiré le nom. Le golem est tombé en morceaux. Ses restes, dit l’histoire, reposent dans le grenier de la synagogue Vieille-Nouvelle de Prague.

Des versions plus tardives ajoutent que le rabbin Loew a fabriqué le golem pour défendre la communauté contre des attaques sous le règne de l’empereur Rodolphe II, et certaines le décrivent devenant violent et incontrôlable.

Avant Prague, on racontait une histoire semblable au sujet du rabbin Élie de Chelm, au milieu du XVIe siècle, la première personne à qui l’on attribue la fabrication d’un golem au moyen d’un nom divin. Son golem, dit la tradition, ne cessait de grandir, si bien qu’il a craint qu’il détruise le monde, et il lui a retiré le nom.

Quel est l’âge de la légende de Prague?

C’est ici que la précision compte. Le rabbin Loew était un rabbin réel et important du Prague de la fin du XVIe siècle. Mais les historiens s’entendent généralement pour dire que l’histoire qui le relie à un golem est apparue bien plus tard. Les premières versions écrites datent des années 1830 et 1840, en allemand, sous la plume d’écrivains juifs. Aucun livre hébreu des XVIe, XVIIe ou XVIIIe siècles, pas même ceux imprimés à Prague, ne dit qu’il a fabriqué un golem, et il n’en mentionne aucun dans ses propres écrits.

Un livre de 1909 présenté comme le témoignage du gendre du rabbin Loew a beaucoup contribué à répandre l’histoire, mais les spécialistes le considèrent largement comme une supercherie littéraire. Le golem de Prague se décrit donc mieux comme une légende façonnée surtout au XIXe siècle dans un décor du XVIe siècle, bâtie sur des idées qui remontent à plus de mille ans.

Pourquoi compare-t-on l’IA au golem?

Parce que le golem résume plusieurs inquiétudes bien vivantes en 2019.

La première est l’obéissance littérale. Dans bien des versions, le golem n’est pas intelligent; il exécute les ordres exactement comme on les lui donne. Une histoire décrit un golem qui, à cause d’une petite erreur dans ses instructions, a allumé un incendie qui a rasé une ville. Quiconque a écrit un logiciel connaît ce sentiment : les ordinateurs font ce qu’on leur dit, pas ce qu’on veut dire.

La deuxième est le contrôle. Le golem est utile tant que son créateur peut l’arrêter, et dangereux dès qu’il oublie. Les débats d’aujourd’hui sur l’IA tournent souvent autour de la même question : comment s’assurer qu’un système puissant peut être arrêté ou corrigé? Le mois dernier encore, OpenAI a choisi de ne pas publier la version complète de son modèle de langage GPT-2, invoquant des craintes d’abus, une décision qui a suscité un débat animé sur le degré de contrôle que les créateurs devraient garder sur ce qu’ils construisent.

La troisième est le langage. L’homme fabriqué du Talmud pouvait bouger, mais pas parler, et la parole est depuis longtemps considérée comme le signe d’un véritable esprit. Ce même critère traverse l’histoire de l’IA, des premiers robots conversationnels aux générateurs de texte qui font l’actualité cette année. L’histoire du golem nous rappelle qu’une figure peut être active et utile sans comprendre un seul mot.