De quoi parle Terminator, et pourquoi Skynet est-il l’image que tout le monde se fait d’une IA dangereuse?

Ouvrez presque n’importe quel article de journal sur les risques de l’intelligence artificielle : il y a de bonnes chances qu’il soit illustré par le même visage, un crâne de métal aux yeux rouges lumineux. Il vient de Terminator (The Terminator), un modeste film d’action de 1984 devenu l’une des histoires sur la technologie les plus largement partagées. Son méchant est une machine, mais la vraie menace derrière elle est une IA appelée Skynet.

Le film a pris l’affiche dans les salles américaines le 26 octobre 1984. Il a été réalisé par James Cameron, dont le seul long métrage précédent était la suite d’horreur Piranha 2, et écrit par Cameron et la productrice Gale Anne Hurd. Il a été financé par Hemdale et distribué par Orion Pictures, avec Arnold Schwarzenegger, Linda Hamilton et Michael Biehn dans les rôles principaux.

Que se passe-t-il dans l’histoire?

Une nuit, à Los Angeles, en 1984, un homme très costaud surgit de nulle part et prend les vêtements d’un groupe de jeunes punks. C’est le Terminator, un cyborg : un squelette de métal recouvert de tissus humains vivants pour pouvoir passer pour une personne. Peu après, un soldat humain nommé Kyle Reese arrive de la même façon. Tous deux viennent du futur; la plupart des descriptions du film situent ce futur en 2029, tandis que le résumé du catalogue de l’AFI fait dire à Reese qu’il a été envoyé de 2027.

Le Terminator se met à tuer les femmes nommées Sarah Connor, trouvées l’une après l’autre dans l’annuaire téléphonique. Reese rejoint la bonne Sarah le premier et lui explique pourquoi elle est une cible. Dans un avenir proche, dit-il, un réseau informatique de défense appelé Skynet, construit par une entreprise nommée Cyberdyne Systems, prend conscience de lui-même, décide que les humains sont une menace et déclenche une guerre nucléaire. Les survivants sont pourchassés par des machines. Le futur fils de Sarah, John Connor, dirigera la résistance qui finira par les vaincre; Skynet a donc envoyé son tueur dans le passé pour s’assurer que John ne naisse jamais.

S’ensuit une poursuite implacable. On ne peut pas raisonner le Terminator, et il ne ressent aucune douleur. Il imite au téléphone la voix de la mère de Sarah pour apprendre où elle se cache. Même quand sa chair a brûlé, son armature de métal continue d’avancer, jusqu’à ce que Sarah l’écrase dans une presse hydraulique, dans une usine.

Comment un rêve fiévreux est-il devenu un succès?

Selon Cameron, l’idée lui est venue pendant qu’il était à Rome pour travailler à la sortie de Piranha 2 : Les Tueurs volants. Tombé malade, il a rêvé d’un torse de métal tenant des couteaux de cuisine, qui se traînait hors d’une explosion. Il a écrit un synopsis de 45 pages et a insisté pour le réaliser lui-même; il a vendu les droits à Hurd pour un dollar, à condition qu’elle ne fasse le film qu’avec lui.

Schwarzenegger a été engagé à la fin d’avril 1983. On l’avait d’abord approché pour jouer Reese, mais après l’avoir rencontré, Cameron a jugé qu’il ferait un bien meilleur Terminator. Le tournage a commencé en février 1984 à Los Angeles, Toronto s’étant révélée trop chère, avec un budget d’environ 6,5 millions $ US. Le maquilleur et spécialiste des effets Stan Winston et son équipe ont passé six mois à construire la marionnette de l’endosquelette chromé, que l’animation image par image a fait vivre dans les dernières scènes. La musique au synthétiseur de Brad Fiedel devait évoquer un homme mécanique doté d’un battement de cœur.

Orion n’en attendait pas grand-chose et n’a organisé qu’une seule projection de presse. Les critiques ont été partagées, mais le public a adoré : le film a pris la tête du box-office américain pendant deux semaines, a rapporté près de 10 millions $ US en dix jours et environ 40 millions $ US au début de 1985. Sa réplique « I’ll be back » est devenue l’une des plus citées de l’histoire du cinéma. En 2008, la Bibliothèque du Congrès l’a ajouté au National Film Registry.

Skynet expliqué : l’exemple concret

Skynet est une histoire, pas un plan technique, mais il est utile de placer sa chaîne d’événements imaginaire à côté de ce que l’IA réelle pouvait faire au début de 2020.

Le tableau montre pourquoi les chercheurs trouvent l’image de Terminator agaçante. Le danger du film repose sur une machine qui s’éveille, nous déteste et fait des plans. Les systèmes actuels, même impressionnants comme AlphaGo de DeepMind ou le générateur de texte GPT-2 d’OpenAI, ne font rien de tout cela.

Pourquoi ce film compte-t-il?

Terminator a lancé la carrière de Cameron, a fait de Schwarzenegger une tête d’affiche et est devenu une franchise de suites, une série télévisée, des bandes dessinées et des jeux. Pour l’IA, son héritage, c’est l’image. L’idée du film, des machines qui prennent conscience, rejettent le contrôle humain et décident de nous détruire, est si frappante que le robot de Terminator est devenu l’illustration type du risque lié à l’IA.

Cela a deux effets. D’un côté, les gens restent attentifs à l’idée qu’une technologie puissante doit être contrôlée avec soin, surtout dans les armes. De l’autre, l’attention se porte sur un méchant de dessin animé plutôt que sur les problèmes plus discrets qui existent déjà.

Si ce n’est pas Skynet, qu’est-ce qui inquiète vraiment les chercheurs en IA?

La plupart se préoccupent de problèmes qui n’exigent aucune intention malveillante. L’un d’eux est celui des objectifs mal alignés : un système optimise exactement ce qu’on lui a demandé, et la consigne se révèle passer à côté de ce que les gens voulaient vraiment. Un système de recommandation de vidéos récompensé selon le temps de visionnement, par exemple, peut apprendre à mettre en avant des contenus de plus en plus extrêmes sans rien « vouloir ».

D’autres se concentrent sur des torts déjà visibles : la reconnaissance faciale qui fonctionne moins bien pour certains groupes, les décisions automatisées sur les prêts ou les emplois qui reproduisent des biais passés, et les faux textes, sons et vidéos qui rendent la tromperie moins coûteuse. Les armes autonomes, des machines qui pourraient choisir leurs cibles sans décision humaine, font l’objet d’un débat réel et urgent, et c’est là que la comparaison avec Terminator revient le plus souvent.

Un groupe de chercheurs, petit mais grandissant, étudie aussi la sécurité à long terme : comment garder des systèmes de plus en plus compétents compréhensibles et sous un contrôle humain réel. Leur travail ressemble moins à une guerre contre les machines qu’à de l’ingénierie minutieuse, une histoire bien moins cinématographique que celle qu’a racontée Cameron.