La question d’une éventuelle révolte des intelligences artificielles, et de la menace que celles-ci constituent pour l’humanité – pas du point de vue de l’exploitation des ressources terrestres, mais bien dans le sens d’une menace directe, violente, mortelle – est revenue en une des actualités ces dernières semaines. Jacob Coxon, employé successif d’OpenAI et d’Anthropic, a quitté en grande pompe ses fonctions au sein de cette seconde entreprise, visiblement effrayé par la trajectoire des champions de l’I.A. qui disent voir approcher le stade au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.
Cette démission, annoncée à grand renfort de communiqués de presse, a été suivie par une requête commune de Dario Amodei (Anthropic, justement), de Sam Altman (OpenAI) et d’Elon Musk à ralentir un temps les investissements dans le développement de l’I.A.. Le temps de reprendre le contrôle. De limiter les risques pour l’humanité.
Et sans doute de… redonner un peu de souffle au narratif de l’intelligence artificielle et de continuer à séduire marchés et investisseurs. La menace mortelle n’impliquant pas l’arrêt du modèle, bien entendu.
Des imaginaires pour masquer le réel
La domination de l’espèce humaine, voire son anéantissement, par un programme informatique devenu autonome, est un imaginaire fort du petit monde de l’I.A. Et ce n’est pas la première fois qu’il est invoqué par les grandes entreprises du secteur elles-mêmes.
On appelle ça le syndrome Skynet, du nom de l’intelligence artificielle déclenchant l’anéantissement de l’espèce humaine le 29 aout 1997 dans le film Terminator 2 de James Cameron, et il a fait la une de la presse grand public ou spécialisée à de nombreuses reprises, souvent assorti d’un discours prônant le ralentissement des développements et parfois des investissements de la part des grands acteurs de l’I.A.
Ce discours, de l’avis de nombreux experts du secteur, et surtout du côté de ses critiques, n’est de toute façon qu’une posture : il permet de justifier une baisse de performances (ou un ralentissement de celles-ci, pour rester dans le vocabulaire) auprès des marchés, et bien souvent de distraire une partie de l’opinion publique des impacts réels de la technologie.
Tant que l’on parle de l’anéantissement de l’humanité, on ne parle pas de la spoliation des droits des auteurs et artistes, de l’impact des datacenters sur les réserves d’eaux ou de la situation des enfants qui travaillent dans les mines de terres rares en Afrique.
Aparté : un autre collatéral du recours régulier au narratif de Terminator a également été évoqué par l’anglais Stuart Russel en 2022. Ramener les dangers de l’I.A., et notamment ceux liés aux armes autonomes, à Skynet, décale le débat à un futur hypothétique (le futur de Terminator). Ce recours fait croire, notamment au grand public, que le danger des armes autonomes tient de la science-fiction. Alors que ces armes autonomes existent déjà.
Bref, Skynet est une mythologie qui rend service à beaucoup de monde.
La pop-culture à la place des faits
Mais voilà, Skynet, comme tant d’autres images employées parler de l’intelligence artificielle, est avant tout un « imaginaire ».
Et l’on a déjà parlé à de nombreuses reprises des imaginaires dans Cybernétruc et dans quelques autres articles ici ou là. Notamment dans un article partagé en fin d’année dernière ici-même et qui revenait de façon détaillée sur ce que sont réellement les imaginaires individuels ou pour ce qui nous intéresse aujourd’hui, collectifs : des récits communs qui nous aident parfois à appréhender une technologie ou une situation, et quelques fois la simplifient trop ou en masquent les effets.
Le monde de l’I.A. est peuplé de ces imaginaires.
C’est que l’invention d’une machine indépendante de l’être humain et entièrement à son service est un vieux fantasme. Un fantasme qui remonte au moins à la Grèce antique, à la Chine impériale, voire à quelques civilisations encore plus anciennes.
Et des automates au service d’Héphaïstos à Frankenstein, du Golem à Skynet et des robots de R.U.R. au chatbot Samantha de HER, ils sont nombreux ces imaginaires collectifs issus de la pop-culture – on se permettra de qualifier de pop-culture la mythologie grecque comme les films hollywoodiens – à avoir influencé non seulement notre vision de l’intelligence artificielle, mais également la façon dont les grands groupes du secteur racontent leurs histoires et déploient leur marketing.
Cela valait bien une petite exploration.
Aparté : Ils sont nombreux les auteurs, et les ouvrages, à s’être penchés sur cette question des imaginaires de l’IA, et sur ses représentations à travers les âges. S’il fallait en retenir un, je choisirais certainement le AI Narratives: A History of Imaginative Thinking about Intelligence Machine de Stephen Cave, Kanta Dihal et Sarah Dillon, paru aux presses de l’Université d’Oxford. Une belle compilation d’articles sur la perception des machines à travers les âges, de l’antiquité aux artefacts modernes.
Trente siècles d’imaginaires
Voici donc la Frise des imaginaires de l’intelligence artificielle (imaginaires-ia.com) : une exploration numérique de ces imaginaires qui façonnent la représentation que nous avons de l’intelligence artificielle.
Créée en collaboration avec les équipes de Café I.A., elle recense pour l’instant – son inventaire est en constante évolution – une soixantaine de représentations de l’I.A., ou de ce que l’on assimile à l’I.A. aujourd’hui, à travers les âges.
On y retrouve donc les automates antiques et les récits de créatures se révoltant contre son créateurs (le Golem, la créature du docteur Frankenstein et quelques autres), différentes lois et tests théoriques énoncés par différents auteurs de la science-fiction classique (les 3 lois de la robotique d’Isaac Asimov, le test de Voight-Kampff imaginé par Philip K. Dick ou le principe de la singularité énoncé par Vernor Vinge…) ou encore des représentations populaires des robots et de l’I.A. dans les livres, les films et les séries modernes (le HAL-9000 de Stanley Kubrick, le robot-taxi Johnny Cab de Total Recall, Wall-E ou le robot philosophe des romans de Becky Chambers).
Chacune de ces représentations fictionnelles de l’intelligence artificielle et des robots a, depuis la nuit des temps et de manière parfois involontaire, forgé la représentation que nous en avons aujourd’hui. L’invocation de Skynet par les analystes du secteur, l’utilisation de la voix de Scarlett Johansson (la voix de l’assistant vocal Samantha du film HER de Spike Jonze) dans les démonstrations de Meta ou le nom d’Optimus utilisé pour les robots humanoïdes développés par Tesla sont des preuves flagrantes de l’impact des œuvres de fiction sur l’industrie actuelle de la robotique et de l’I.A.
Cette industrie elle-même forge d’ailleurs ses propres imaginaires, tant le numérique est devenu lui-même une pop-culture. ELIZA, le premier chatbot est ainsi souvent invoqué en illustration de l’histoire et de la légitimité des agents conversationnel. Deep Blue et AlphaGo sont devenus eux aussi des légendes et des références invoqués par la culture I.A., pour vanter les bienfaits de cette technologie et, en même temps, l’inéluctabilité du progrès.
C’est pourquoi ces applications concrètes de la technologie, des automates grecs au piano mécanique, du canard de Vaucanson à Grok font également partie de ces imaginaires.
Aparté : Une remarque en passant : Oui, cette Frise des imaginaires a elle-même été développée avec l’aide d’un intelligence artificielle générative. Claude, pour ne pas la nommer. Un recours qui ne s’érige pas en exemple à suivre, mais qui est le reflet de mes pauvres compétences en code informatique au-delà du HTML basique.
Explorer pour mieux débattre.
Mais à quoi sert, dans ce monde technologique qui évolue si vite, d’exposer des sources et des imaginaires qui appartiennent au passé ? La réponse est triple, et n’est de toute façon qu’une petite goutte d’eau dans le grand débat que suscite l’intelligence artificielle aujourd’hui.
La première réponse, c’est celle d’une prise de conscience : ces débats qui nous occupent tant aujourd’hui n’ont rien de nouveau et sont déjà survenus – dans une dimension moindre il est vrai – par le passé.
Oui, la question des menaces sur l’existence humaine, pour toute théorique qu’elle soit encore aujourd’hui, n’est pas nouvelle. On s’interrogeait déjà dans Frankenstein de la menace que représentait une créature artificielle pour l’existence humaine. Et l’on se demandait déjà au XVIIe siècle s’il était possible de reporter son amour sur un être synthétique. Comme l’aurait fait, selon la légende, René Descartes en créant un automate à l’effigie de sa fille Francine.
Seconde réponse : si ces imaginaires sont anciens, on l’a dit, ils sont aujourd’hui largement utilisés comme narratifs par l’industrie de l’I.A.
Une industrie qui possède une dimension, un pouvoir, un impact – politique, environnemental, économique, personnel – que personne n’a eu auparavant.
Connaître les imaginaires véhiculés par la science-fiction ou l’industrie hollywoodienne, c’est également être capable de mieux comprendre, analyser, et pourquoi pas démonter les mystifications de cette industrie et les écrans de fumée – le syndrome Skynet – qu’elle projette régulièrement à la face du grand public et des médias.
Enfin, troisième réponse, ces imaginaires sont également une clé de lecture de notre relation intime et quotidienne aux outils numériques.
Et une manière d’ouvrir le débat, auprès du grand public, autour de cette technologie. Mais ça, on le verra dans un prochain article…
Aparté : Une dernière remarque, la Frise des imaginaires de l’I.A. est une frise évolutive et ouverte. Alors, si vous pensez qu’une représentation – fictionnelle ou réelle – de l’I.A. et de ses technologies apparentées, y manque cruellement, n’hésitez pas à commenter cet article, ou à utiliser la fonction de suggestion présente sur le site (à côté de son titre).
Explorons ensemble ces imaginaires !
Je vous laisse gamberger là-dessus ?
Et vous, qu’en pensez-vous ?
N’hésitez pas à :
1. partager votre avis ?
2. nous laisser un petit mot ?
3. rédiger un article ?
