Le livre Situations 2043 est une anthologie de science-fiction rédigée dans le cadre d’armasuisse Sciences et technologie. Les différents auteurs abordent des questions relatives à la contribution d’innovations comme l’intelligence artificielle aux pratiques militaires. Quentin Ladetto, directeur du programme, introduit le document, constitué d’essais philosophiques et de fictions, en affirmant que « notre intention est ici de voir comment des situations de vie quotidienne pourraient se trouver bouleversées par les technologies, tout en y rattachant des éléments sécuritaires » (p. 7).
Frédéric Jaccaud, conservateur de la Maison d’ailleurs, le célèbre musée suisse de la science-fiction, considère par ailleurs la fiction comme un laboratoire. Il pense qu’elle ne vise pas à trouver la vérité, ni à déterminer les contours d’un futur hypothétique, mais plutôt à esquisser des tendances vraisemblables. Il souligne toutefois que les fictions ont un impact sur le monde réel, à l’image de l’influence du film La femme sur la Lune (1929) de Fritz Lang, qui aurait selon Wernher von Braun joué un rôle non négligeable dans les programmes de la NASA. L’auteur souligne aussi qu’un grand nombre d’histoires publiées au début du vingtième siècle traitaient de la guerre du futur. Ce mouvement s’est essoufflé après la Seconde Guerre mondiale en raison de leur surproduction, qui a nui à la dimension prospective de ces récits. Les histoires de science-fiction publiée dans la seconde partie du vingtième siècle traitaient davantage de crises, de cataclysmes et de révoltes.
Laurent Bolli souligne une mutation de la pensée prospective depuis l’an 2000 – à lire dans ce billet.
En effet, avant cette date, les êtres humains se projetaient vers cet horizon qui nourrissait fantasmes, craintes et espoirs : « Depuis l’an 2000, il y aurait donc à la fois la mort de la pensée du futur et l’organisation systématique de la pensée du présent ».
Toutefois, de nombreuses sociétés de conseil fondent leur activité sur la quête de l’avenir, pratique héritée des oracles et des devins. Toutefois, bien que le design fiction soit une aide intéressante dans la perspective de décrire l’avenir, il convient de se souvenir que ce dernier est insaisissable, personne n’ayant anticipé Facebook, ou ChatGPT.
Un chapitre est par la suite intitulé « Cyberespace et territoire ». Après avoir brièvement rappelé que l’imaginaire du virtuel puise ses racines dans des œuvres comme Tron (1982), WarGames (1983) et Neuromancien (1984) de William Gibson, la figure du hacker est présentée comme un personnage des romans cyberpunks qui « désirent s’échapper de l’insupportable rugosité du réel et pallient leur incapacité à s’adapter au monde en investissant l’univers numérique : une alternative sublimée » (p. 40).
Chaque fiction est introduite par une chronologie d’œuvres de science-fiction célèbres ayant marqué l’histoire de l’imaginaire technique par des descriptions particulièrement marquantes d’artefacts qui devinrent par la suite des innovations, pour certaines radicales.
La première série de fictions est consacrée au hacking. Dans « Casual Hacking », Boris Bruchler décrit une société de 2043 dans laquelle explose l’usage de programmes de hacking pour pirater la gestion énergétique et domotique privée. Ainsi, 34% des accidents domestiques sont issus d’infractions numériques. L’histoire décrit l’intervention de l’armée sur un train victime d’une attaque informatique.
Puis le thème de l’intelligence artificielle émotionnelle et empathique est abordé. Les auteurs affirment que ce sujet du simulacre se trouve dans de nombreux récits depuis l’antiquité et dans des inventions comme le canard mécanique de Vaucanson (1738) ou le joueur d’échecs mécanique de Maelzel (1864).
Puis, des récits comme Pinocchio, ou « Le robot qui rêvait » (1986) d’Isaac Asimov ont abordé la question du rêve d’indépendance des êtres artificiels qui cherchent à se singulariser. L’article se conclut par cette phrase : « Reste à savoir aujourd’hui ce qu’il y a à obtenir ou à craindre d’une machine empathique » (p. 65).
Dans « Le jeune homme et son IA », Frédéric Jacaud décrit un hiver 2043 dans lequel plus de 623 modèles d’intelligences artificielles se trouvent dans l’univers cyber libre : « La part grandissante des IA dites empathiques développées initialement dans le domaine médical semble annoncer le déclin des IA rationnelles. Cependant, aucune étude sérieuse ne permet d’estimer le degré d’empathie ressentie par les humains face aux machines » (p. 69).
Le scénario décrit une sorte d’oreillette en silicone, ressemblant à un bouchon translucide muni d’un câble semi-rigide connecté derrière l’oreille. Cette IA utilise les données personnelles des individus pour s’adapter à leur personnalité. L’engin équipe notamment les militaires. Il permet de repérer les cibles avec précision, de s’adapter aux situations sur le théâtre des opérations, de conduire un véhicule inconnu ou de prendre des décisions complexes.
Dans le scénario, il est indiqué que les premiers modèles étaient équipés d’IA déterministes, qui donnaient des ordres et contraignaient les humains. Ces derniers finissaient bien souvent par se rebeller. C’est pourquoi une nouvelle IA a été créée, capable de développer une stratégie personnelle. Par ailleurs, l’engin est peu consommateur d’énergie, s’alimentant avec la bioénergie de l’utilisateur. Toutefois, un personnage est réticent vis-à-vis de cette technologie : « – Voilà ce qui me dérange. Elle me connait mieux que moi-même. Ça ressemble à un pacte avec le diable, à un viol ».
La suite de l’ouvrage est consacrée au thème de la mémoire et de la technologie. Dans « Au-delà de l’horizon », Boris Bruchler imagine qu’à l’automne 2043, le gouvernement suisse décide de créer le Réduit National Numérique permettant d’augmenter la sécurité des données critiques en les coupant partiellement du réseau mondial.
Cette approche permettrait à la suite de se retrancher totalement en cas de crise. Toutefois, « le concept de verrou numérique dérange les grandes cyberpuissances » (p. 97).
Dans « Les mains sales », Sébastien Charvet évoque une vague de manifestations en Suisse à l’été 2043 causée par la convergence des problématiques climatiques et de la hausse du chômage de 5,2%.
Les émeutiers demandent « Du travail aux humains ! ».
En effet, en vingt ans, 300 millions d’emplois ont disparu, remplacés par des IA, touchant principalement les métiers liés à l’administration, aux finances, à la gestion, à la vente, c’est-à-dire au secteur tertiaire.
Une analyse détecte une rupture importante dans l’histoire de la science-fiction. Si dans la première moitié du vingtième siècle, le genre exploitait le sense of wonder, c’est-à-dire la volonté de créer un effet de sidération en proposant des situations ou des objets qui dépassent l’entendement humain, une rupture apparait dans les années 1960.
En effet, « fusée, laser, atome et robot deviennent désuets, ridiculement éculés, dans un monde où l’accélération technologique semble dépasser les créations fictionnelles. Ces grandes icônes empoussiérées se transforment en reliquats d’un rêve du futur qui souffre d’un passéisme insurmontable » (p. 131).
Par la suite, à travers des œuvres comme La révolution électronique (1970) de W.S. Burroughs ou Crash ! (1973) de James Ballard, la science-fiction semble se désolidariser des progrès technoscientifiques. Ainsi, l’auteur estime que le courant cyberpunk préfigure l’ère du numérique, mais surtout la radicalité des mouvements sociaux qui l’accompagneront.
La conclusion de l’ouvrage repose sur une analyse sur l’avenir et les limites de l’IA. Laurent Bolli, spécialiste en interaction humain machine, évoque notamment qu’elle est capable de trouver des traitements médicaux très rapidement, mais que son utilisation peut aussi se révéler problématique si elle tombe entre les mains d’individus malintentionnés.
Face à l’affirmation de l’hégémonie à venir de l’IA, notamment dans le domaine militaire, Rodolphe Koller affirme la nécessité de la ruse dans la stratégie militaire, ainsi que la difficulté pour une IA d’en faire preuve. En effet, elle serait l’apanage de l’humain, et une source de succès au combat. De même, être copilote de l’IA permettra-t-il encore au soldat d’être rusé ? Holler affirme que « Laisser le contrôle cybernétique prospérer et se priver de mètis, c’est peut-être faire émerger un monde sans guerre, c’est aussi créer un empire immuable, stable et mortifère » (p. 178).
Ainsi, cet ouvrage est un nouvel exemple de science-fiction institutionnelle militaire. Ce type de document est de plus en plus fréquent ces dernières années et vise une utilité prospective.
Les auteurs évoquent le design fiction comme une influence pour construire un texte particulièrement stimulant intellectuellement et richement illustré.
L’imaginaire du futur, fixé à 2043, est suffisamment réaliste pour laisser au lecteur la liberté de se figurer des réalités potentielles générées par l’impact des innovations, et notamment de l’IA, sur la société. Mais la plupart des scénarios envisagent l’apport de l’IA sur les militaires et sur la société suisse.
armasuisse n’est pas à son coup d’essai puisqu’elle a déjà publié plusieurs œuvres de design fiction. Un court-métrage est par ailleurs disponible sur Internet pour illustrer une histoire de ce document, accessible aussi bien sous forme électronique que de livre. Cette spéculation à horizon 20 ans propose de nombreuses situations très crédibles.
Ces fictions collent à un impératif pragmatique, cherchant à anticiper les apports de l’IA à l’armée suisse dans les prochaines décennies.
La conjonction de textes fictionnels et philosophiques oriente la réflexion du lecteur vers la conception d’un futur complexe, profondément influencé par l’innovation technologique.
Les textes, souvent critiques à l’égard du progrès technique, mènent à questionner l’intérêt pour l’humanité de sans cesse innover, au risque de perdre son identité. Toutefois, la lecture des différentes fictions soulève une question fondamentale : quelle sera la meilleure utilisation de l’IA par l’armée, dans le but de préserver les intérêts de l’État ?
Situations 2043 est à l’honneur de l’émission radio Quartier Livre du 17 mars 2024
C’est une très belle idée que cet ouvrage!
Mais pour le commander c’en est une autre! Aucune mention de l’éditeur et de son site web.
Merci beaucoup d’aborder de cette façon l’IA.
Bien à vous.
LF
Bonsoir Laurence,
En fait il n’y a pas – encore ? – d’éditeur.
Le document PDF est disponible ici: https://deftech.ch/fr/publications/#2024
Nous avons imprimé des exemplaires.
Si vous souhaitez en recevoir un, n’hésitez pas à me contacter en m’envoyant votre adresse – https://deftech.ch/fr/contact/
Avec mes plus cordiales salutations,
Quentin