# De quoi parle vraiment Frankenstein de Mary Shelley, et pourquoi revient-il dans les débats sur l’IA?

Date: 2019-06-05 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/frankenstein-mary-shelley-et-ia/

**Answer:** Frankenstein ou le Prométhée moderne, publié anonymement à Londres le 1er janvier 1818, raconte l’histoire d’un jeune scientifique, Victor Frankenstein, qui donne vie à un corps, puis abandonne la créature intelligente et sensible qu’il a fabriquée. Le roman de Mary Shelley parle moins d’un monstre que d’un créateur qui refuse ses responsabilités, et c’est pourquoi il est devenu l’histoire de référence chaque fois qu’on s’inquiète de ce qu’il advient de nos créations, y compris l’IA.

Quand un nouveau système d’IA fait les manchettes, un nom revient sans cesse dans les commentaires : Frankenstein. Il est devenu un raccourci pour désigner une création qui échappe au contrôle de son créateur. Pourtant, les gens qui relisent le roman de Mary Shelley y trouvent souvent un livre différent de celui qu’ils attendaient. Le « monstre » s’exprime avec aisance et réfléchit, lit de la poésie et de la philosophie, et commence sa vie avec douceur. Ce qui tourne mal tient autant à l’homme qui l’a fabriqué qu’à la créature elle-même.

Cela rend le roman plus utile pour réfléchir à l’IA que ne le laisse croire la version de film d’horreur. C’est l’histoire de la construction d’un être capable d’apprendre, et de ce que son créateur lui doit, à lui et à tous les autres.

## Comment le livre est né

À l’été 1816, Mary Godwin, qui allait bientôt épouser le poète Percy Bysshe Shelley, séjournait avec lui près du lac Léman, en Suisse, où ils passaient de longues soirées avec lord Byron à la villa Diodati, la maison où celui-ci logeait. Le temps était froid et morne; le groupe restait donc à l’intérieur à lire des histoires de fantômes allemandes. Byron a proposé que chacun en écrive une.

Mary, alors âgée de 18 ans, a peiné pendant des jours à trouver une idée. Les conversations ont porté sur la nature de la vie, sur les théories d’Erasmus Darwin et sur le *galvanisme*, les expériences de Luigi Galvani qui montraient que l’électricité pouvait faire tressaillir des muscles morts. Peu après, elle a imaginé un scientifique horrifié par la vie qu’il avait créée. Ce qui avait commencé comme un court conte est devenu, avec les encouragements de Percy, un roman qu’elle a terminé au printemps 1817.

Le livre a été publié à Londres le 1er janvier 1818 par la petite maison Lackington, Hughes, Harding, Mavor and Jones, en trois volumes et à seulement 500 exemplaires. Il a paru sans le nom de l’autrice, avec une préface écrite par Percy et une dédicace au père de Mary, le philosophe William Godwin. Elle n’a été nommée qu’en 1823, dans la deuxième édition. En 1831, elle a publié une version très remaniée, qui est le texte que la plupart des gens lisent aujourd’hui; le texte de 1818 est plus proche de sa conception première.

## Ce qui se passe dans le roman

Victor Frankenstein, un jeune étudiant doué de Genève, devient obsédé par la découverte de l’origine de la vie. À l’université d’Ingolstadt, il passe près de deux ans à assembler un corps et à chercher un moyen de lui donner vie. Par une lugubre nuit de novembre, il réussit. L’œil de la créature s’ouvre, et Victor, submergé par le dégoût, s’enfuit de la pièce et l’abandonne.

Laissée à elle-même, la créature doit comprendre le monde par ses propres moyens. Elle est rejetée partout à cause de son apparence. Elle se cache dans une cabane grossière à côté d’une chaumière et observe en secret la famille qui y vit; c’est auprès d’elle qu’elle apprend à parler, puis à lire. Elle finit par retrouver Victor et plaide sa cause : elle a déjà été bonne, dit-elle, et c’est le malheur qui l’a rendue cruelle. Elle demande de l’aide à son créateur. Quand Victor refuse, puis manque à une promesse qu’il lui avait faite, l’histoire s’enfonce dans la vengeance et le deuil pour l’un comme pour l’autre.

## Comment la créature apprend

Les passages les plus frappants, pour quiconque s’intéresse à l’IA, décrivent comment la créature apprend le langage. Personne ne le lui enseigne. Elle se contente d’observer, pendant des mois, et découvre lentement ce que veulent dire les sons. Voici comment son apprentissage se déroule :

| Ce qu’elle observe | Ce qu’elle apprend |
|---|---|
| Les sons de la famille provoquent sourires ou tristesse chez les uns et les autres | La parole transporte du sens d’un esprit à l’autre |
| Certains sons reviennent chaque fois qu’un objet est présent | Premiers mots : feu, lait, pain, bois |
| Les membres de la famille s’appellent par des noms différents | Les noms, et des mots comme « père » et « sœur » |
| Des mots comme « bon » et « malheureux » reviennent | Elle peut les dire avant de les comprendre |
| Elle trouve trois livres et les lit | Des idées sur l’histoire, l’amour et sa propre place dans le monde |

Les livres qu’elle trouve sont *Le Paradis perdu* de John Milton, les *Vies* de Plutarque et *Les Souffrances du jeune Werther* de Goethe, et ils façonnent la façon dont elle se voit. Comparant son sort à celui de l’Adam de Milton, elle dit à Victor :

> « Je devrais être ton Adam; mais je suis plutôt l’ange déchu »

C’est une idée puissante pour 1818 : un esprit fabriqué qui apprend entièrement de ce qu’il observe et lit, et dont le caractère est façonné par la façon dont on le traite.

> **À essayer :** choisissez un mot que vous avez appris à l’âge adulte, peut-être au travail ou dans un loisir. Notez comment vous en avez d’abord compris le sens. Vous l’a-t-on expliqué, ou l’avez-vous déduit en l’entendant employer, comme l’a fait la créature? Réfléchissez ensuite à ce dont une machine aurait besoin pour apprendre le même mot de la même façon.

## Pourquoi c’était important

*Frankenstein* a fondé toute une famille d’histoires. L’écrivain Brian Aldiss a soutenu que c’est le premier vrai roman de science-fiction, parce que son héros utilise délibérément la science de laboratoire pour accomplir quelque chose de fantastique. Il a façonné une grande partie de la fiction sur les êtres artificiels qui a suivi, et le nom « Frankenstein » lui-même est aujourd’hui couramment employé, mais pas par Shelley, pour désigner la créature.

Son thème le plus profond est la responsabilité. La faute de Victor n’est pas de créer la vie, mais de s’en détourner dès qu’elle le déçoit. Les lecteurs préoccupés par l’IA voient le parallèle : construire un système qui apprend du monde, puis refuser de veiller à ce qu’il apprend ou à la façon dont il est utilisé. Le roman a eu 200 ans l’an dernier, et ses questions se posent avec une urgence nouvelle.

## L’IA d’aujourd’hui ressemble-t-elle à la créature de Frankenstein?

À la plupart des égards, non. Les systèmes d’IA de 2019 n’ont ni corps, ni sentiments, ni désirs propres. Un logiciel de reconnaissance vocale ou un programme de traduction fait une seule tâche étroite, et il ne passe pas ses nuits à en vouloir à son créateur. Les discours sur des machines qui « se retournent contre nous » en disent généralement plus sur nos peurs que sur un quelconque système actuel.

D’une certaine façon, pourtant, la comparaison est juste. De nombreux systèmes d’IA modernes, comme le modèle de langage GPT-2 d’OpenAI présenté plus tôt cette année, apprennent en absorbant d’énormes quantités d’écrits humains, un peu comme la créature a appris en écoutant et en lisant. Ils retiennent ce que contient ce matériel, le bon comme le mauvais, et leurs créateurs ne peuvent pas toujours prévoir le résultat.

C’est là que le roman de Shelley mérite encore sa place. Il ne nous met pas en garde contre le fait de créer des choses; il montre ce qui arrive quand un créateur cesse d’être attentif. Que nous construisions des robots conversationnels ou des programmes d’échecs, la question utile est celle que Victor ne s’est jamais posée : de quoi cette création a-t-elle besoin de notre part, et qu’apprendra-t-elle de la façon dont nous la traitons?

## Sources

- Frankenstein; or, The Modern Prometheus (1818 text): https://www.gutenberg.org/ebooks/41445
- Frankenstein: https://en.wikipedia.org/w/index.php?title=Frankenstein&oldid=899445000