Disponible sur :
La saison complète
Ecrite et présentée par Bruno Giussani, expert des enjeux sociétaux liés aux technologies numériques, cette série de six épisodes (augmentée par un « épisode bonus » d’une fiction immersive) explore une dimension aussi invisible que décisive des conflits contemporains : l’intégrité de nos esprits.
Transcript
Vous écoutez Deftech podcast, le podcast de prospective technologique d’armasuisse.
Episode 4 : Guerre cognitive : quand le cerveau devient un terrain de bataille.
BRUNO GIUSSANI
Il y a plus de cinquante conflits armés en cours dans le monde. Des conflits « cinétiques », où des forces militaires ou des milices utilisent fusils, chars, avions, drones et missiles pour infliger à l’ennemi des dommages matériels et humains.
Ce sont les conflits qu’on voit à la télévision, faits de violence, sang et destruction. Mais il y en a d’autres, très nombreux, qu’on ne voit pas. Non déclarés, invisibles, qui ne font pas de dégâts physiques, où la partie attaquée souvent ne sait même pas en être la cible. Leurs outils sont l’information, les ordinateurs et les réseaux, la psychologie, la linguistique, la neurobiologie.
Dans les épisodes précédents de ce podcast nous n’avons pas utilise le mot « guerre ». Mais les conflits que je viens de décrire configurent une nouvelle forme de guerre.
Une « Guerre cognitive ».
C’est le titre d’un papier publié en 2020 par François du Cluzel, un chercheur français auprès de l’OTAN. Il commence avec ces mots:
VOIX SYNTHETIQUE
La nature de la guerre a changé. L’esprit humain est désormais considéré comme un nouveau domaine de la guerre.
BRUNO GIUSSANI
La publication de Cluzel ne parle que peu de guerre de l’information: celle faite de propagande, de désinformation et de « psy-ops », les opérations psychologiques. Il ne s’étend pas non plus sur la cyberguerre: les attaques informatiques devenus une constante de l’ère numérique. Et ne mentionne nullement l’influence du « soft power ».
Il met en avant un autre niveau de menace: la menace cognitive, dont le but n’est pas de voler des données ou d’influencer par les « fake news » ce que les individus pensent, mais de modifier leur façon de penser, leur capacité à savoir et à s’orienter dans le monde qui les entoure et à décider de leurs actions en autonomie. L’instrument central de cette guerre, comme on l’a vu dans l’épisode trois, est l’exploitation, à travers la technologie, de la connaissance de plus en plus détaillée et intime des personnes et de leur cerveau. « Data » et neuroscience.
Celle de Cluzel n’est d’ailleurs pas une projection future. La guerre cognitive est déjà là. C’est un ensemble de pratiques et de technologies de subversion utilisées, avec plus ou moins de succès, par une multitude d’acteurs, étatiques et non étatiques.
Remarquez le mot utilisé par Cluzel: « un nouveau domaine de la guerre ». Les armées modernes sont en général organisées en cinq domaines: la terre, la mer, les airs, l’espace et le cyberespace. Le cognitif vient maintenant s’y ajouter. Il devient le sixième domaine, où psychologie, neurobiologie et technologie convergent au service d’une idée, en fait, très ancienne: celle de la victoire sans combat.
Idée proposée il y a 2500 ans déjà par Sun Tzu dans son traité « L’Art de la Guerre« .
Le stratège chinois suggère d’être invisible et inaudible pour, je cite, « maîtriser le destin de tes adversaires« . Parce que l’art de la guerre, écrit-il, « c’est de soumettre l’ennemi sans combattre« .
JINGLE
Le Deftech Podcast fait partie du programme de prospective technologique d’armasuisse Science et Technologie.
Je suis Quentin Ladetto, responsable de ce dispositif de recherche.
Notre mission est d’anticiper les avancées technologiques et leurs usages, au service des acteurs du Département fédéral suisse de la défense, de la protection de la population et des sports, mais également du public.
Dans cette première série de six épisodes, intitulée « La menace cognitive » j’ai demandé à Bruno Giussani, expert des impacts sociopolitiques des technologies numériques, de décrypter les défis de l’intégrité et de la sécurité cognitives.
Avec l’aide d’experts – et aussi de quelques voix artificielles: à vous de deviner lesquelles! – Bruno nous guidera à travers une exploration des menaces qui pèsent sur nos esprits à l’heure des écrans omniprésents, de l’intelligence artificielle et des neurotechnologies. En discutant mécanismes, impacts individuels et collectifs, risques, et réponses possibles.
BRUNO GIUSSANI
L’après-midi du mercredi 18 septembre 2024, le Conseil National, une des deux Chambres du Parlement suisse, menait une discussion sur la mission de l’armée, quand la députée centriste Isabelle Chappuis prit la parole :
ISABELLE CHAPPUIS
Chères et chers collègues, imaginez un monde où vos pensées ne vous appartiennent plus vraiment.
BRUNO GIUSSANI
Une ouverture de discours qui fit taire la salle concentrant l’attention sur sa proposition: l’inclusion du sixième domaine, le cognitif, parmi celles que les Suisses appellent les « valeurs-cible » – les principes autour desquels s’articule la mission de leur armée :
ISABELLE CHAPPUIS
La guerre cognitive est un type de conflit totalement nouveau, plus ample et profond que la manipulation de l’information ou la propagande que nous connaissons.
Elle vise à changer notre perception de la réalité et notre réaction aux événements, de façon progressive et subtile, sans notre consentement et souvent sans que nous nous en rendions compte.
Comment ça fonctionne en pratique?
En exploitant une compréhension toujours plus intime de nos fonctions cérébrales, grâce à l’intelligence artificielle et à un arsenal évolutif d’outils basés sur les neurosciences.
Ces technologies, développées d’abord pour des buts positifs, peuvent désormais être utilisées pour mener une guerre dans l’esprit humain.
BRUNO GIUSSANI
Si beaucoup de ces technologies promettent d’améliorer nos performances cognitives, elles configurent donc aussi la possibilité d’orienter notre façon de penser et de prendre des décisions, à une échelle en même temps spécifique – l’individu – et universelle – toute une société.
Mais est-ce vraiment là une question de sécurité nationale, à confier à l’armée ?
ISABELLE CHAPPUIS
Oui.
La guerre cognitive contourne les règles classiques des conflits armés.
Elle peut être menée à moindre coût, en temps de paix, sans déclaration de guerre, ce qui rend sa détection et la défense très difficiles.
Elle n’est pas encore prise en considération par les doctrines militaires établies.
Il n’y a pas non plus de règles internationales, ni de limites temporelle ou géographique à un conflit cognitif.
BRUNO GIUSSANI
Cet après-midi là, la proposition d’Isabelle Chappuis a obtenu une majorité des voix du Conseil National.
Trois mois plus tard, l’autre Chambre du Parlement, le Conseil des Etats, s’est également prononcée en faveur. Depuis, le cognitif fait partie de la mission de défense de l’armée suisse.
Défense contre un type de guerre moins cher, furtif, qui ne provoque pas de dommages matériels, qui brouille la frontière entre paix et conflit, sans contraintes temporelle ou géographique, et qu’on peut nier avec plausibilité.
Si Sun Tzu était adepte de la guerre sans bataille, un autre stratège a influencé profondément des générations de militaires en privilégiant l’approche opposée. Dans son essai « De la guerre » publié après sa mort en 1832, le général prussien Carl von Clausewitz parlait de la primauté du combat, de la bataille comme moment privilégié et décisif, où les différends sont réglés par la violence armée.
Au milieu du siècle dernier, la pensée clausewitzienne a été rendue obsolète par l’irruption des armes nucléaires et le principe de la dissuasion. Leur immense puissance destructrice a en effet rendu leur utilisation presqu’impossible. Mais on s’éloigne du sujet. Revenons-y par une porte dérobée. Dans les quarante dernières années, on a assisté au triomphe d’une autre technologie transformationnelle, non militaire cette fois: le développement de chaînes d’approvisionnement globales, la logistique des marchandises.
Vous direz: qu’est-ce qu’elles viennent faire là dedans?
En effet, leur développement a été motivé par des raisons purement économiques: la recherche de coûts de main-d’œuvre et de production plus bas et le libre-échange. Il a été porté par des technologies qui permettent une coordination de plus en plus sophistiquée et une visibilité pratiquement en temps réel des flux de marchandises, et affinée par des pratiques de gestion comme le juste-à-temps et la minimisation des stocks.
L’existence de ces chaînes d’approvisionnement témoigne de l’immense ingéniosité humaine. Quoi qu’on puisse penser de l’économie globalisée et de ses effets – et les effets néfastes sont nombreux – il s’agit d’une technologie organisationnelle d’une formidable sophistication.
Si elles ont contribué à la globalisation économique, ce qui n’est pas notre sujet ici, les chaînes logistiques globales ont eu également un autre effet. Et celui-là nous intéresse, car il a des implications sécuritaires. Elles ont enveloppé presque tous les pays du monde dans un maillage d’intérêt économiques réciproques et d’interdépendance. Cela a rendu le conflit armé direct, destructeur de vies, d’entités sociales et économiques et d’infrastructures, beaucoup plus coûteux et lourd de conséquences.
Par ricochet, l’intérêt et l’avantage de la guerre cognitive a été démultipliée. Elle est invisible, modulable, peu chère, ne crée pas de perturbations matérielles, et peut être déployée sans causer de dégâts majeurs à l’infrastructure de la globalisation.
Si la guerre cognitive nie la vision de Clausewitz de la bataille violente comme moment de résolution des différends, elle est totalement alignée à ce qu’il considérait le but de la guerre. Dans la toute première page de son traité, il écrit: « La guerre est un acte de violence destiné à contraindre l’adversaire à exécuter notre volonté« .
Imaginons, avec l’aide d’une voix synthétique, une version contemporaine d’un Clausewitz qui aurait accès à TikTok, ChatGPT et aux dernières découvertes neuroscientifiques :
VOIX SYNTHETIQUE
La guerre est un acte de brouillage informationnel et de manipulation cognitive destiné à contraindre l’adversaire à exécuter notre volonté.
BRUNO GIUSSANI
Bien qu’il soit le cadet des domaines de la guerre contemporaine, le cognitif en est probablement le plus étendu et important, puisqu’il touche à la capacité de lire la réalité et d’y agir, et donc à la conduite de tous les autres.
Les Américains, les Russes, les Chinois, les Français et bien d’autres mènent des programmes de recherche et des expérimentations à ce sujet depuis des années.
MAURO VIGNATI
Les armées s’intéressent à ces technologies d’abord pour se renforcer, pour les exploiter afin d’amplifier leur capacités opérationnelles et celles de leur personnel et gagner une supériorité cognitive.
Si l’image du « soldat augmenté » de certains films futuristes vous vient à l’esprit: on n’en est pas là, mais c’est bien la direction.
Aussi, l’IA et les neuro-technologies sont prises en considération en tant qu’armes, pour attaquer et dégrader les facultés cognitives d’un ennemi, ou pour se défendre contre de telles attaques
BRUNO GIUSSANI
La voix que vous venez d’entendre est bien celle d’un humain, Mauro Vignati, spécialiste de la question auprès du Comité International de la Croix Rouge :
MAURO VIGNATI
D’un côté, les armées doivent protéger leurs soldats et officiers, ainsi que leur capacité à comprendre et à prendre des décisions, contre les interférences ennemies.
En ce sens, ces technologies peuvent aussi aider à améliorer leurs performances cognitives pour faire face à la complexification de la guerre.
D’un autre côté, elles doivent aussi défendre la population contre des infiltrations cognitives qui peuvent menacer la stabilité sociale, saper la confiance entre les citoyens et les institutions, brouiller la perception du risque ou affaiblir la volonté de se défendre.
BRUNO GIUSSANI
Arrêtons-nous un instant sur le premier point soulevé par Vignati – la préservation des facultés de décision – et essayons d’expliquer ce que cela signifie à travers un exemple. Il existe un outil de planification et exécution des opérations militaires appelé « boucle OODA« , un acronyme anglais qui signifie Observe, Orient, Decide, Act, c’est à dire observation, orientation, décision et action.
C’est un instrument au service de la réactivité et adaptabilité des armées, qui fournit un cadré structuré pour la prise de décision.
Il y a deux façons d’opérer dans ce cadre:
- on peut gagner soit en réalisant la boucle plus rapidement que son adversaire,
- soit en pénétrant sa boucle dans le but de l’altérer.
Bien qu’en apparence les quatre étapes soient égales et séquentielles, la boucle OODA est très dépendante du deuxième « O », l’orientation, c’est à dire de l’analyse des informations pour déchiffrer la situation et les enjeux.
Qui est aussi la cible prioritaire des stratégies de guerre cognitive. Si l’ennemi parvient à vous désorienter, peu importe l’acuité de votre observation, la vitesse de vos décisions, l’efficacité de votre action: vous êtes affaibli.
Ce risque de désorientation n’est pas apanage exclusif des militaires.
Il est généralisé :
MAURO VIGNATI
Nous vivons dans un environnement imprégné de technologie et en sur-information constante, et on appelle cela la « data economy », mais en réalité l’enjeu, ce ne sont pas les données.
La surveillance et la capture de données ne sont que l’outil.
Le nerf de cette nouvelle guerre, comme l’a bien montré il y a quelques années le scandale lié à Cambridge Analytica et à son rôle dans les élections américaines et dans le vote sur le Brexit, est l’influence que cela permet d’exercer sur les comportements humains, qu’ils soient commerciaux, sociaux, politiques ou militaires.
BRUNO GIUSSANI
La pénétration technologique, notamment numérique, de notre quotidien façonne l’environnement dans lequel cette influence se déploie.
Seule derrière son écran, chaque personne devient une cible potentielle, mais également un acteur potentiel – un « soldat involontaire » – de la bataille cognitive.
MAURO VIGNATI
La propagande, on la subit de façon passive. Mais dans la guerre cognitive, sans s’en rendre compte chacun de nous participe à donner forme à l’écosystème informationnel.
On fait cela en générant des quantités énormes de données, mais aussi en disséminant de l’information.
Par exemple, à chaque fois qu’on partage, sur un réseau social, un lien vers une vidéo ou un article sans avoir pris la peine de l’avoir lu ou vérifié, on court le risque de prendre part à une campagne d’influence cognitive.
BRUNO GIUSSANI
Des technologies qui étaient censées démocratiser, ouvrir, égaliser, servent maintenant à influencer et manipuler.
Retrouvons Jean-Marc Rickli, déjà rencontré dans un épisode précédent :
JEAN-MARC RICKLI
Toutes ces technologies sont à double usage. Elles ont été conçues en général d’abord à des fins positives, pour des utilisation civiles, professionnelles, commerciales, ludiques, thérapeutique également, pour communiquer avec les amis ou accéder à l’information ou d’autres aspects de la vie quotidienne. Mais elles n’en constituent pas moins une infrastructure d’accès direct à notre corps et à notre cerveau.
L’utilisation croissante de ces technologies dans notre quotidien crée un phénomène d’accoutumance et d’addiction qui atténue notre capacité critique et nous rend moins sensibles aux risques qu’elles représentent.
BRUNO GIUSSANI
Ce que Jean-Marc Rickli dit à propos de l’accoutumance par l’utilisation quotidienne va au delà des appareils auxquels on pense immédiatement – notamment, le smartphones.
En fait, des pans toujours plus larges de notre environnement sont régis par des algorithmes: le frigo connecté qui pourra vérifier combien vous consommez d’un tel produit; le poste de télévision « smart » qui non seulement sait ce que vous regardez, mais pointe une camera vers vous tandis que vous le faites; le miroir connecté qui remarquera peut-être votre état de fatigue et vous conseillera – et probablement partagera l’information avec quelqu’un qui saura l’exploiter.
Juste pour le fait qu’elle nous entoure, la technologie pervasive qu’on appelle « l’internet des objets » (IOT, « the Internet of Things ») a un impact sur notre cognitif.
Ceci résonne avec l’analyse des auteurs chinois Qiao Liang et Wang Xiangsui, général le premier, haut fonctionnaire le second, dont voici un paragraphe tiré du livre de 1999 « La Guerre Hors Limites » :
VOIX SYNTHETIQUE
Ce qui doit être clair, c’est que le nouveau concept d’armement est en train de donner naissance à des armes étroitement liées à la vie des populations civiles.
Si notre première remarque est que l’apparition des armements de conception nouvelle élèvera à coup sûr la guerre future à un niveau difficilement imaginable par les individus – et même par les militaires – la seconde est que le nouveau concept d’armement provoquera un grand étonnement – chez les gens ordinaires comme chez les militaires – causé par le fait que les choses banales, familières, peuvent aussi devenir des armes de guerre.
Nous croyons qu’un beau matin les hommes découvriront avec surprise que des objets aimables et pacifiques ont acquis des propriétés offensives et meurtrières.
BRUNO GIUSSANI
Les progrès technologiques, que ce soit l’invention de la poudre à canon ou celle des satellites, ont toujours entraîné des changements dans les organisations et les doctrines militaires.
En fait, certaines technologies, comme l’internet ou le GPS, ont été développées en premier lieu à des fins militaires, pour s’infiltrer ensuite dans notre usage quotidien.
L’armée américaine travaille sur la guerre cognitive depuis une dizaine d’années. Les Russes et les Chinois aussi, qui ont développé des doctrines spécifiques, à propos desquelles je reprends ici des éléments du rapport établi pour l’OTAN par François du Cluzel.
Le recours par la Russie à la guerre algorithmique asymétrique est bien documenté. On connaît les inférences électorales par la diffusion d’information fausse, trompeuse et clivante via les réseaux sociaux, les fabriques à trolls, les cyberattaques.
Tout cela exploite la nature ouverte des sociétés occidentales et de leurs écosystèmes médiatiques. L’approche russe s’appuie sur les techniques et les démarches développées auparavant par l’Union Soviétique. L’objectif n’est toutefois plus de convaincre de la supériorité de son système. Il s’agit plutôt de semer le doute et la méfiance, et finalement de saper le système ennemi de l’intérieur.
Cette démarche, connue comme « Doctrine du Contrôle Réflexif« , vise à pousser les adversaires à agir dans l’intérêt de la Russie en modifiant leur perception du monde, avec pour objectif accessoire que la cible soit convaincue que la décision lui appartient.
La Chine, c’est bien connu, utilise des horizons de planification stratégique plus longs que les pays occidentaux. Elle a une politique explicite de double usage civil et militaire des technologies. Ses opérations cognitives s’articulent autour de deux axes : la cognition fondamentale, qui comprend des approches et des technologies influençant la capacité de réflexion et de fonctionnement d’un individu, et la cognition subliminale, qui se concentre sur les émotions, la force de volonté et les convictions.
Entre d’autres initiatives, l’armée chinoise gère une base de données d’étrangers qu’elle considère clés parce qu’ils occupent des postes politiques, militaires et diplomatiques importants, et qui contient des informations sur des dizaines de milliers de personnes: une liste de cibles prioritaires évidentes pour des opérations cognitives.
Essayons de mieux comprendre comment se déroule une opération d’influence :
JEAN-MARC RICKLI
Un article récent qui a été publié par des chercheurs liés à l’armée chinoise, identifie quatre étapes dans le domaine de la confrontation cognitive.
La première, c’est ce qu’ils appellent la perturbation de l’information. C’est un peu similaire à ce que font les Russes au niveau du contrôle réflexif, c’est à dire on va envoyer un narratif avec des médias d’Etat ou reconnus afin de borner les limites du débat.
La deuxième étape, c’est ce qu’ils appellent la concurrence discursive, et c’est basé sur ce que Daniel Kahneman, dans son livre « Thinking Fast and Slow« , montre avec le fait qu’on a chacun deux systèmes de réflexion. Le système 1 qui est un système instantané, intuitif. émotionnel qui repose sur des impulsions, des préjugés, et le système 2 qui est beaucoup plus lent, qui est beaucoup plus rationnel, qui vise in fine à contrôler le système 1, mais ce qu’on voit c’est qu’il y a une asymétrie entre la façon et la vitesse dont ils travaillent. Et donc, cette concurrence discursive va cibler le système 1, cibler les préjugés, en alimentant avec des préjugés existants, en en créant des nouveaux, pour alimenter, si vous voulez, le développement d’une bulle, ce qu’on appelle une bulle informationnelle.
BRUNO GIUSSANI
Et la nature même d’une bulle informationnelle, c’est qu’il est très difficile d’en sortir, de prendre en considération des informations qui contredisent ou nuancent ce à quoi l’on croit.
JEAN-MARC RICKLI
La troisième étape, c’est ce qu’ils appellent le blackout de l’opinion publique, qui vise à faire de l’analyse de sentiments afin de faire un mapping, une cartographie d’une certaine population, c’est-à-dire d’identifier qui dans la population pense plutôt A ou plutôt B. Et puis après, à travers notamment des réseaux sociaux, envoyer de l’information en masse. C’est une espèce d’essaim, si vous voulez, le « swarm », comme on dit en anglais, au niveau cognitif. Et là, vous créez une situation de chaos
Et ça, c’est quelque chose qui est complètement nouveau par rapport à ce qu’on a vu dans le passé, dans le domaine de la guerre de désinformation ou la guerre psychologique, où on envoyait des messages et on espérait qu’une partie de la population allait y répondre. Là, on arrive à cibler de manière très précise les individus, comprendre la façon dont ils fonctionnent, leur envoyer de l’information afin de susciter une réponse qui va aller dans le sens où on voudrait aller.
BRUNO GIUSSANI
Par définition, ces opérations sont invisibles, et peuvent se dérouler même en temps de paix.
Ce n’est que la quatrième étape qui ressemble un peu plus à la guerre conventionnelle :
JEAN-MARC RICKLI
Ce serait serait l’étape où empêcher l’adversaire de pouvoir riposter, notamment en neutralisant ses propres systèmes de communication et ses propres systèmes digitaux.
BRUNO GIUSSANI
Les pays européens, eux, confrontés au réalignement rapide des équilibres mondiaux, poursuivent actuellement des politiques de réarmement ambitieuses.
Il s’agit de réinventer, après des années de « dividendes de la paix » et de complaisance, des dispositifs de sécurité désormais inadaptés.
Au vu de ce qu’on a raconté jusqu’ici, et du fait qu’une grande partie des campagnes cognitives connues portent des visions antidémocratiques, il semblerait nécessaire que les nouveaux budgets de la défense, en croissance un peu partout, contiennent un chapitre substantiel consacré à la menace cognitive.
Une première étape est la mise en place de systèmes de surveillance et signalement précoce. La France par exemple a créé en 2021 un service en charge de la vigilance et de la protection contre les ingérences numériques étrangères, appelé Viginum.
Son mandat est de « préserver le débat public des manipulations de l’information provenant de l’étranger sur les plateformes numériques« .
D’autres pays ont pris des initiatives similaires:
JEAN-MARC RICKLI
La Suède, en 2022, a mis sur pied l’agence de défense psychologique, en réponse notamment à la guerre en Ukraine, car les pays nordiques sont bien sûr sur la première ligne dans le domaine de l’influence de la Russie près de ses frontières.
Mais ceci n’est pas nouveau parce que les États neutres, notamment la Suède, la Finlande, la Suisse également, à travers son concept de défense générale, avaient déjà intégré cette notion de résilience et de défense psychologique de la population durant la guerre froide.
Ce qui est nouveau, bien sûr, c’est l’environnement international qui a changé, mais surtout les moyens qui permettent de mener des guerres cognitive et la désinformation.
BRUNO GIUSSANI
On a commencé cet épisode avec François du Cluzel.
Approchons-nous de sa fin en lisant encore quelques lignes de son rapport pour l’OTAN :
VOIX SYNTHETIQUE
L’objectif de la guerre cognitive est de nuire aux sociétés, pas seulement aux militaires.
La conception moderne de la guerre ne se résume pas aux armes, mais à l’influence.
Pour façonner les perceptions et contrôler le discours, la bataille devra être menée dans le domaine cognitif, avec une approche pan-gouvernementale – « whole-of-government », comme on dit en anglais.
Cela requière une forte coordination entre le recours à la force et les autres leviers de pouvoir au sein de l’État, impliquant des changements dans la manière dont l’armée est dotée de ressources, d’équipements et d’organisation, afin d’offrir des options militaires en deçà du seuil de conflit armé et d’améliorer la contribution militaire à la résilience collective.
BRUNO GIUSSANI
La réponse militaire, toutefois, n’est de loin pas suffisante. Ecoutons encore Jean-Marc Rickli :
JEAN-MARC RICKLI
Si on regarde quels sont les États qui sont les plus à même d’être sujets à la subversion, eh bien ce sont les démocraties, car les démocraties ont un accès libre aux citoyens, ce qui n’est pas le cas des États autoritaires.
Donc il y a déjà cette asymétrie d’accès qui fait que mener des opérations de contre-subversion est beaucoup plus difficile pour une démocratie contre un État autoritaire qu’elle ne l’est pour un État autoritaire contre une démocratie.
Répondre à des tentatives de guerre cognitive demande une réponse qui est multifactorielle sur tout le spectre, finalement. Des opérations qui sont dans le domaine aussi civil que militaire. Et ça implique, la réponse est majoritairement non militaire.
C’est-à-dire qu’il faut augmenter la résilience de la population et des individus à ce type d’attaque.
BRUNO GIUSSANI
Dans la discussion politique européenne, face à la capture de l’espace public et personnel par les plateformes technologiques, notamment américaines, et à la multiplication des cyberattaques, a émergé le concept de « souveraineté numérique ».
C’est-à-dire la capacité d’un pays à protéger ses données, ses infrastructures et à maintenir son autonomie stratégique.
Il s’agit d’un thème complexe qui, d’un point de vue technique, touche à des éléments dont la territorialité (et donc le degré de souveraineté applicable) est variable: le hardware, les logiciels, les réseaux, les données, leur agrégation et leur élaboration.
Les stratégies proposées ou mises en oeuvre sont en général d’ordre réglementaire, comme l’obligation d’héberger certains types de données à l’intérieur des frontières du pays, ou techniques, tels la création d’infrastructures numériques nationales ou de nouveaux standards de sécurité.
Il existe donc, tant dans les milieux politiques et économiques que dans la population, une conscience du risque lié à la dépendance aux acteurs technologiques étrangers.
La menace cognitive préfigure toutefois des questions qui excèdent le « où sont hébergées nos données », « qui y a accès » et « utilisons des solutions techniques locales » – mesures indispensables, mais pas suffisantes.
Protéger une forme d’autonomie intellectuelle qui permet aux individus comme aux sociétés de contrôler leur perception de la réalité et de prendre des décisions éclairées et indépendantes, demande qu’on pense en termes de souveraineté cognitive.
Et pour aujourd’hui, on va s’arrêter ici.
Dans le cinquième épisode, on va s’interroger sur un type de réponse non-militaire à la guerre cognitive: la loi.
Je suis Bruno Giussani et ceci est le Deftech Podcast.
Merci de votre écoute.
Deftech Podcast
Idée & projection : Quentin Ladetto
La menace cognitive
Conception et rédaction : Bruno Giussani
Production : Clément Dattée
Réalisation : Anna Holveck
Enregistrement : Denis Democrate
Mixage : Jakez Hubert
Jaquette : Cécile Cazanova
Fiction
Ecriture : Martin Quenehen
Comédienne : Clara Bretheau
Sound design : Felix Davin
Edition
Kognitive Kriegsführung
Wenn das Gehirn zum Schlachtfeld wird.
Verfügbar auf :
Die komplette Staffel
Diese sechsteilige Serie (ergänzt durch eine „Bonusfolge” mit einer immersiven Fiktion) wurde von Bruno Giussani, einem Experten für gesellschaftliche Fragen im Zusammenhang mit digitalen Technologien, geschrieben und präsentiert. Sie untersucht eine ebenso unsichtbare wie entscheidende Dimension zeitgenössischer Konflikte: die Integrität unseres Geistes.
Transcript
Sie hören den Deftech-Podcast von armasuisse über Technologiefrüherkennung.
Folge 4: Kognitive Kriegsführung: Wenn das Gehirn zum Schlachtfeld wird.
BRUNO GIUSSANI
Aktuell gibt es weltweit mehr als 50 bewaffnete Konflikte. Dabei handelt es sich um «kinetische» Konflikte, in deren Rahmen Streitkräfte oder Milizen einem Feind mit Gewehren, Panzern, Flugzeugen, Drohnen und Raketen Personen- und Sachschäden zufügen wollen.
Dies sind die Konflikte, die im Fernsehen zu sehen sind und von Gewalt, Blut und Zerstörung zeugen. Es gibt aber noch zahlreiche weitere Konflikte, die nicht zu sehen sind. Sie werden nicht erklärt, sind unsichtbar und verursachen keine physischen Schäden, wobei die angegriffene Partei oft nicht einmal weiss, dass sie das Ziel ist. Ihre Waffen sind Informationen, Computer und Netzwerke, Psychologie, Linguistik und Neurobiologie.
In den vorigen Folgen dieses Podcasts haben wir den Begriff «Krieg» nicht verwendet. Doch die von mir soeben beschriebenen Konflikte begründen eine neue Kriegsform: die «kognitive Kriegsführung».
Dies ist der Titel eines von François du Cluzel, einem französischen Forscher bei der NATO, 2020 veröffentlichten Aufsatzes. Er beginnt mit folgenden Worten:
SYNTHETISCHE STIMME
Die Art des Krieges hat sich verändert. Das menschliche Bewusstsein gilt von nun an als neuer Bereich des Krieges.
BRUNO GIUSSANI
Cluzel spricht in seinen Ausführungen nur wenig über den Informationskrieg, d. h. einen Krieg aus Propaganda, Desinformation und «PsyOps» bzw. psychologischen Operationen. Auch der Cyberkrieg und damit die Cyberangriffe, die im digitalen Zeitalter zum Dauerthema geworden sind, werden nicht behandelt. Auch der Einfluss der «Soft Power» bleibt unerwähnt.
Dafür wird eine andere Bedrohungsebene hervorgehoben: die kognitive Bedrohung. Deren Ziel ist es nicht, Daten zu stehlen oder über «Fake News» die Gedanken von Individuen zu beeinflussen. Verändert werden soll vielmehr ihre Denkweise und ihre Fähigkeit, Wissen zu besitzen und sich in ihrem Umfeld zu orientieren und eigenständig über ihr Handeln zu entscheiden. Wie wir in der dritten Folge erörtert haben, besteht das zentrale Instrument dieses Krieges darin, das immer detailliertere und vertrauliche Wissen über Menschen und ihr Gehirn mithilfe von Technologie auszuschlachten. «Daten» und Neurowissenschaft.
Cluzels Vision ist übrigens keine Zukunftsprognose. Der kognitive Krieg hat längst begonnen. Konkret umfasst er eine Reihe von Praktiken und Technologien zur Subversion, die mehr oder weniger erfolgreich von einer Vielzahl staatlicher und nichtstaatlicher Akteure angewendet werden.
Man beachte den von Cluzel verwendeten Ausdruck: «ein neuer Bereich des Krieges». Moderne Armeen gliedern sich im Allgemeinen in fünf Bereiche: Heer, Marine, Luftwaffe, Weltraum und Cyberraum. Nun kommt als Nummer 6 der kognitive Bereich hinzu, in dem Psychologie, Neurobiologie und Technologie zu einem uralten Konzept verschmelzen – dem Sieg ohne Gefecht.
Dieses Konzept wurde bereits vor 2500 Jahren von Sun Tzu in seinem Werk «Die Kunst des Krieges» geprägt.
Dem chinesischen Strategen zufolge sollte man unsichtbar und unhörbar sein, um – ich zitiere – «das Schicksal seiner Feinde in seiner Hand zu halten». Denn die Kunst des Krieges, so schreibt er, besteht darin, «den Feind ohne Gefecht zu besiegen».
JINGLE
Der Deftech-Podcast gehört zum Technologiefrüherkennungsprogramm von armasuisse Wissenschaft und Technologie. Ich bin Quentin Ladetto und leite dieses Forschungsprogramm.
Unser Auftrag besteht darin, die technologischen Fortschritte samt ihrer Verwertung zum Nutzen der Akteure des Eidgenössischen Departements für Verteidigung, Bevölkerungsschutz und Sport, aber auch der Öffentlichkeit vorwegzunehmen.
In dieser ersten sechsteiligen Staffel «Die kognitive Bedrohung» habe ich einen Experten für die sozialpolitischen Auswirkungen digitaler Technologien, Bruno Giussani, gebeten, die Herausforderungen in Zusammenhang mit der kognitiven Integrität und Sicherheit zu entschlüsseln. Und das mithilfe von Experten und einigen künstlichen Stimmen, die Sie erraten müssen! – Bruno wird uns einen Querschnitt über die Bedrohungen bieten, denen unser Bewusstsein im Zeitalter der allgegenwärtigen Bildschirme, der künstlichen Intelligenz und der Neurotechnologien ausgesetzt ist.
Dabei werden die Mechanismen, die Auswirkungen auf den Einzelnen und das Kollektiv sowie die Risiken und mögliche Antworten erörtert.
BRUNO GIUSSANI
Am Mittwoch, den 18. September 2024 debattierte der Nationalrat und damit eine der beiden Kammern des Schweizer Parlaments am Nachmittag über den Auftrag der Armee, als die Abgeordnete der Mitte-Partei, Isabelle Chappuis, das Wort ergriff.
ISABELLE CHAPPUIS
Liebe Kolleginnen und Kollegen, stellen Sie sich eine Welt vor, in der Ihre Gedanken Ihnen nicht mehr wirklich gehören.
BRUNO GIUSSANI
Eine Einleitung zu einer Rede, die den Saal verstummen liess und die Aufmerksamkeit auf ihren Beitrag lenkte: die Aufnahme des sechsten Bereichs und damit des kognitiven Bereichs in die Zielwerte der Schweizer, d. h. der Grundsätze des Auftrags ihrer Armee:
ISABELLE CHAPPUIS
Der kognitive Krieg ist eine vollständig neue Konfliktform, die weitreichender und tiefgreifender ist als die Manipulation von Informationen oder Propaganda, so wie wir sie kennen.
Ziel ist, unsere Wahrnehmung der Realität und unsere Reaktion auf Ereignisse auf progressive und subtile Weise zu verändern – und das ohne unsere Zustimmung und häufig ohne, dass wir es merken.
Möglich wird dies durch immer bessere Kenntnisse über unsere Hirnfunktionen, die wiederum der künstlichen Intelligenz und dem sich ausweitenden neurowissenschaftlichen Instrumentarium zu verdanken ist.
Diese zunächst für wohlwollende Absichten entwickelten Technologien können künftig für einen Krieg um das menschliche Bewusstsein eingesetzt werden.
BRUNO GIUSSANI
Zwar versprechen viele dieser Technologien eine Verbesserung unserer kognitiven Leistungsfähigkeit, doch bieten sie auch die Möglichkeit, unsere Denkweise und unsere Entscheidungsfindung zu beeinflussen – und das auf spezifischer Ebene, d. h. dem Individuum, als auch auf universeller Ebene, d. h. der gesamten Gesellschaft.
Doch handelt es sich hier um eine Frage der nationalen Sicherheit, für die die Armee zuständig ist?
ISABELLE CHAPPUIS
Ja. Der kognitive Krieg setzt die klassischen Regeln bewaffneter Konflikte ausser Kraft.
Denn er lässt sich kostengünstig und in Friedenszeiten und ohne Kriegserklärung durchführen.
Dies erschwert erheblich die Identifizierung eines solchen Krieges und die Verteidigung. Ein solcher Krieg wird in den gängigen Militärdoktrinen bislang noch nicht erwähnt.
Ausserdem gibt es weder internationale Regeln noch zeitliche oder geografische Beschränkungen für einen kognitiven Konflikt.
BRUNO GIUSSANI
Der Vorschlag von Isabelle Chappuis erhielt an jenem Nachmittag die Mehrheit der Stimmen des Nationalrats. Drei Monate später befürwortete auch der Ständerat und damit die andere Kammer des Parlaments den Vorschlag. Seitdem ist die kognitive Dimension Bestandteil des Verteidigungsauftrags der Schweizer Armee.
Konkret ist dies die Verteidigung in einem billigeren und diskreten Krieg, der keine Sachschäden verursacht, die Grenzen zwischen Krieg und Frieden verschwimmen lässt, weder zeitlich noch geografisch beschränkt ist und sich plausibel leugnen lässt.
Auch wenn Sun Tzu den Krieg ohne Gefecht propagierte, war es ein anderer Stratege, der ganze Generationen von Streitkräften durch den konträren Ansatz tiefgreifend beeinflusste. In seinem Hauptwerk «Vom Kriege», das 1832 posthum veröffentlicht wurde, sprach der preussische General Carl von Clausewitz von der Vorrangstellung des Gefechts, der Schlacht als bevorzugtem und entscheidendem Moment, in dem Streitigkeiten durch bewaffnete Gewalt geregelt werden.
Gegen Mitte des letzten Jahrhunderts wurden seine Theorien durch das Aufkommen von Kernwaffen und das Prinzip der Abschreckung hinfällig. Ihre gewaltige Zerstörungskraft machte ihren Einsatz praktisch undenkbar.
Doch hier holen wir zu weit aus. Kommen wir über eine Hintertür wieder zum Thema zurück. In den letzten 40 Jahren vollzog sich der Siegeszug einer anderen, diesmal jedoch nichtmilitärischen transformativen Technologie: die Entstehung globaler Lieferketten und der Güterlogistik.
Sicherlich fragen Sie sich, was das mit unserem Thema zu tun hat.
Tatsächlich entstand beides aus rein ökonomischen Erwägungen: Man wollte geringere Arbeits- und Produktionskosten und Freihandel. Unterstützt wurde dies durch Technologien, die eine immer komplexere Koordinierung und eine Sichtbarkeit des Güterflusses in Quasi-Echtzeit ermöglichen. Für weitere Verbesserungen sorgten Bewirtschaftungspraktiken wie «Just-in-Time» und Bestandsminimierung.
Das Bestehen dieser Lieferketten zeugt von der immensen menschlichen Genialität. Was auch immer man von der globalisierten Wirtschaft samt ihren Folgen – und nachteilige Auswirkungen gibt es viele – denken mag, handelt es sich um eine Organisationstechnologie herausragender Komplexität.
Auch wenn die globalen Logistikketten zur wirtschaftlichen Globalisierung beigetragen haben, was aber hier nicht unser Thema ist, haben sie noch einen anderen Effekt bewirkt. Letzterer ist für uns von Interesse, da er sich auf die Sicherheit auswirkt.
Hierdurch gerieten nahezu alle Länder weltweit in ein Geflecht aus gegenseitigen wirtschaftlichen Interessen und Interdependenzen. Direkte bewaffnete Konflikte, die Leben, soziale und wirtschaftliche Strukturen und Infrastrukturen vernichten, wurden so wesentlich teurer und folgenschwerer.
Als Nebeneffekt stiegen das Interesse und die Vorteile des kognitiven Krieges um ein Vielfaches. Ein kognitiver Krieg ist unsichtbar, modulierbar, kostengünstig, verursacht keine materiellen Störungen und lässt sich führen, ohne grössere Schäden an der Infrastruktur der Globalisierung zu verursachen. Auch wenn der kognitive Krieg nichts mit der Clausewitzschen Vision vom gewaltsamen Gefecht als Moment zur Lösung von Streitigkeiten gemein hat, deckt er sich vollständig mit dem, was von Clausewitz als den Zweck des Krieges bezeichnete.
Auf der ersten Seite seines Werks schrieb er: «Der Krieg ist ein Akt der Gewalt, um den Gegner zur Erfüllung unseres Willens zu zwingen.»
Stellen wir uns mithilfe einer künstlichen Stimme eine moderne Version eines von von Clausewitz vor, der Zugang zu TikTok, ChatGPT und anderen neurowissenschaftlichen Entdeckungen hätte:
SYNTHETISCHE STIMME
Der Krieg ist ein Akt der Informationsvernebelung und kognitiven Manipulation, um den Gegner zur Erfüllung unseres Willens zu zwingen.
BRUNO GIUSSANI
Auch wenn die kognitive Dimension die jüngste Variante des modernen Kriegs darstellt, dürfte sie am weitreichendsten und wichtigsten sein, zumal es dabei um die Fähigkeit geht, die Realität zu erkennen und entsprechend zu handeln, und folglich um das Verhalten der anderen.
Die USA, Russland, China und Frankreich und viele weitere Länder führen seit Jahren einschlägige Forschungsprogramme und Experimente durch.
MAURO VIGNATI
Die Armeen interessieren sich in erster Linie für diese Technologien, um ihre Kampfkraft zu stärken und sie dafür zu nutzen, ihre und die operativen Fähigkeiten ihrer Mitglieder zu erweitern und die kognitive Überlegenheit zu erlangen.
Auch wenn das noch nicht jenem «augmentierten Soldaten» bestimmter futuristischer Filme gleichkommt, geht es doch in diese Richtung.
Ausserdem werden KI und Neurotechnologien als Waffen erwogen, um die kognitiven Fähigkeiten eines Feindes anzugreifen und zu schädigen oder sich vor solchen Angriffen zu verteidigen.
BRUNO GIUSSANI
Die soeben erklungene Stimme gehört tatsächlich einem Menschen, nämlich Mauro Vignati, einem einschlägigen Experten des Internationalen Komitees vom Roten Kreuz:
MAURO VIGNATI
Einerseits haben Armeen ihre Soldaten und Offiziere sowie deren Fähigkeit, Entscheidungen zu verstehen und zu treffen, vor feindlichen Interferenzen zu schützen.
Daher können diese Technologien auch dazu beitragen, ihre kognitive Leistungsfähigkeit zu verbessern, um mit der immer grösseren Komplexität des Krieges fertigzuwerden.
Andererseits müssen sie aber auch die Bevölkerung vor kognitiver Infiltration schützen, die die soziale Stabilität bedrohen, das Vertrauen zwischen Bürgern und Institutionen untergraben, die Risikowahrnehmung verschleiern oder den Willen zur eigenen Verteidigung schwächen kann.
BRUNO GIUSSANI
Befassen wir uns kurz mit dem ersten Aspekt Vignatis, der Bewahrung der Entscheidungsfähigkeit, und versuchen wir, dies anhand eines Beispiels zu erläutern. Zur Planung und Umsetzung militärischer Operationen gibt es das sogenannte «OODA-Loop», ein englisches Akronym aus den Anfangsbuchstaben von Observe, Orient, Decide, Act, d. h. Beobachten, Orientieren, Entscheiden, Handeln.
Dieses Instrument dient der Reaktions- und Anpassungsfähigkeit von Armeen und liefert einen strukturieren Rahmen für die Entscheidungsfindung.
In diesem Rahmen kann auf zwei verschiedene Weisen operiert werden.
- Gewinnen kann entweder derjenige, der den Loop schneller durchlaufen kann als der Gegner,
- oder derjenige, der den Loop durchdringen kann, um ihn zu stören.
Obwohl die vier Schritte auf den ersten Blick gleichberechtigt sind und aufeinanderfolgen, fusst der OODA-Loop auf dem zweiten Schritt, d. h. dem «O» bzw. Orientieren. Dabei werden die Informationen ausgewertet, um die Bedrohung zu erkennen und die Optionen zu prüfen.
Folglich zielen Strategien des kognitiven Krieges vorwiegend auf diesen zweiten Schritt ab. Gelingt es dem Feind, Sie zu verunsichern – unabhängig davon, wie präzise Sie beobachten, wie schnell Sie entscheiden und wie effizient Sie handeln –, sind Sie in einer schwächeren Position.
Diese Gefahr der Verunsicherung betrifft übrigens nicht nur ausschliesslich den militärischen Bereich, sondern ist allgemeiner Natur.
MAURO VIGNATI
Wir leben in einer von Technologie und konstanter Informationsüberflutung geprägten Gesellschaft, der sogenannten ‹data economy›. Doch um die Daten geht es in Wirklichkeit gar nicht.
Die Überwachung und die Erfassung von Daten sind nur das Mittel.
Die Macht dieses neuen Kriegs – und das hat der Skandal um Cambridge Analytica und deren Rolle bei den US-Wahlen und der Brexit-Abstimmung vor einigen Jahren gezeigt – rührt von dem Einfluss her, den er auf menschliche Verhaltensweisen im kommerziellen, sozialen, politischen oder militärischen Bereich ausüben kann.
BRUNO GIUSSANI
Die technologische Durchdringung, vorwiegend auf digitaler Ebene, in unserem Alltag prägt das Umfeld, in dem sich dieser Einfluss entfaltet.
Erst vor dem Bildschirm wird jeder zu einer potenziellen Zielscheibe, aber auch zu einem potenziellen Akteur, d. h. einem «unfreiwilligen Soldaten» der kognitiven Schlacht.
MAURO VIGNATI
Propaganda unterliegt man auf passive Weise. Doch im kognitiven Krieg trägt jeder dazu bei, das Informationsökosystem zu gestalten, ohne es zu merken.
Dies erfolgt, indem enorme Datenmengen produziert, aber auch Informationen verbreitet werden.
Immer wenn auf sozialen Netzwerken ein Link zu einem Video oder einem Artikel geteilt wird, ohne dass er abgerufen oder überprüft wurde, besteht die Gefahr, Teil einer Kampagne für kognitive Beeinflussung zu werden.
BRUNO GIUSSANI
Technologien, die eigentlich zu Demokratisierung, Öffnung und Gleichbehandlung beitragen sollten, dienen nun der Beeinflussung und Manipulation.
Jean-Marc Rickli, der bereits Gegenstand einer vorigen Folge war, meint hierzu:
JEAN-MARC RICKLI
Alle Technologien dienen einem doppelten Zweck. Zunächst wurden sie allgemein zu positiven Zwecken im zivilen, beruflichen, kommerziellen, spielerischen und therapeutischen Bereich sowie zur Kommunikation mit Freunden oder den Zugriff auf Informationen bzw. sonstige Aspekte des täglichen Lebens konzipiert. Allerdings sind sie nichts anderes als eine Infrastruktur für den direkten Zugriff auf unseren Körper und unser Gehirn.
Die zunehmende Verwendung dieser Technologien in unserem Alltag ruft ein Phänomen der Gewöhnung und Sucht hervor, die unsere Kritikfähigkeit einschränkt und unsere Sensibilität für die mit diesen Technologien verbundenen Risiken verringert.
BRUNO GIUSSANI
Ce que Jean-Marc Rickli dit à propos de l’accoutumance par l’utilisation quotidienne va au delà des appareils auxquels on pense immédiatement – notamment, le smartphones.
En fait, des pans toujours plus larges de notre environnement sont régis par des algorithmes: le frigo connecté qui pourra vérifier combien vous consommez d’un tel produit; le poste de télévision « smart » qui non seulement sait ce que vous regardez, mais pointe une camera vers vous tandis que vous le faites; le miroir connecté qui remarquera peut-être votre état de fatigue et vous conseillera – et probablement partagera l’information avec quelqu’un qui saura l’exploiter.
Juste pour le fait qu’elle nous entoure, la technologie pervasive qu’on appelle « l’internet des objets » (IOT, « the Internet of Things ») a un impact sur notre cognitif.
Ceci résonne avec l’analyse des auteurs chinois Qiao Liang et Wang Xiangsui, général le premier, haut fonctionnaire le second, dont voici un paragraphe tiré du livre de 1999 « La Guerre Hors Limites » :
Jean-Marc Ricklis Ausführungen über die Gewöhnung aufgrund täglicher Nutzung beziehen sich nicht nur auf spontan in den Sinn kommende Geräte wie Smartphones.
Tatsächlich werden immer grössere Bereiche unseres Alltags von Algorithmen beherrscht. Man denke an den vernetzten Kühlschrank, der weiss, wie viel Sie von einem bestimmten Produkt verbraucht haben, der Smart-TV, der nicht nur weiss, was Sie konsumieren, sondern währenddessen auch eine Kamera auf Sie richtet, den vernetzten Spiegel, der vielleicht Ihre Ermüdung erkennt, Ihnen Tipps gibt und die Information an jemanden weiterleitet, der sie verwerten kann.
Gerade weil uns pervasive Technologie – übrigens als «Internet der Dinge» («Internet of Things», IOT) bezeichnet – umgibt, wirkt sie sich auf unsere kognitive Dimension aus.
Zu diesen Schlüssen gelangten auch die chinesischen Autoren Qiao Liang, ein Generalmajor, und Wang Xiangsui, ein hochrangiger Beamter, von deren 1999 erschienenem Werk «Krieg ohne Grenzen» nachfolgend ein Absatz wiedergegeben ist:
SYNTHETISCHE STIMME
Es muss klar sein, dass das neue Rüstungskonzept dabei ist, Waffen hervorzubringen, die eng mit dem Leben der Zivilbevölkerungen verflochten sind. Wir behaupten zunächst, dass das Aufkommen neuartiger Waffen künftige Kriege mit Sicherheit auf eine Stufe heben wird, die sich Individuen und selbst Militärs nur schwer ausmalen können.
Zweitens wird das neue Rüstungskonzept bei normalen Bürgern und Militärs für grosses Erstaunen sorgen, weil banale und vertraute Dinge auch zu Kriegswaffen werden können.
Wir sind überzeugt, dass die Menschheit eines Tages überrascht bemerken wird, dass lieb gewordene und friedliche Dinge plötzlich offensive und tödliche Eigenschaften besitzen.
BRUNO GIUSSANI
Tatsächlich ist es nicht einmal erforderlich, dass jemand eine böse Absicht entwickelt. Die blosse Verfügbarkeit vernetzter Geräte verändert schon unmittelbar unsere Art und Weise, wie wir mit der Welt in Beziehung treten. Unser Gedächtnis verschlechtert sich, weil wir uns daran gewöhnen, Informationen auf Google zu finden. Unsere Darstellung der Realität verschwimmt in der Schwierigkeit, Wahres von Falschem und Reales von Virtuellem zu unterscheiden.
Unsere Fähigkeit zu komplexem Denken weicht dem Gewicht der Hypergeschwindigkeit, der Unmittelbarkeit und der Emotionen.
Wir vertrauen mehr und mehr GPS-Systemen, wobei wir rechts abbiegen, wenn das Verkehrsschild nach links weist, das GPS-System aber nach rechts weist. Wir wollen sofortige Antworten, die Menschen aber nicht liefern können. All das und viele weitere Verzerrungen und mentale Vereinfachungen führen dazu, dass unsere Gehirne immer exponierter sind.
Der technologische Fortschritt – ob die Erfindung des Schwarzpulvers oder der Satelliten – hat schon immer Änderungen in Organisationen und Militärdoktrinen nach sich gezogen. Tatsächlich wurden bestimmte Technologien wie das Internet oder GPS ursprünglich für militärische Zwecke entwickelt, bevor sie später den Weg in unseren Alltag fanden.
Die US-Armee beschäftigt sich seit rund zehn Jahren mit dem kognitiven Krieg. Das gilt auch für die Russen und die Chinesen, die spezifische Doktrinen ausgearbeitet haben, zu denen ich an dieser Stelle Passagen aus dem Bericht von François du Cluzel für die NATO zitiere.
Dass Russland die asymmetrische algorithmusgestützte Kriegsführung nutzt, ist gut dokumentiert. Die Einmischung in Wahlen durch die Verbreitung falscher, betrügerischer und polarisierender Informationen über soziale Netzwerke, Trollfabriken und Cyberangriffe ist nichts Neues. Dabei wird der offene Charakter westlicher Gesellschaften und ihrer Mediensysteme ausgenutzt.
Der russische Ansatz stützt sich auf Techniken und Verfahren, die zuvor in der Sowjetunion entwickelt wurden. Gleichwohl besteht das Ziel nicht mehr darin, die Überlegenheit des eigenen Systems zu beweisen. Vielmehr geht es nun darum, Zweifel und Misstrauen zu säen und das feindliche System letztlich von innen heraus zu unterwandern.
Diese als «Doktrin der reflexiven Kontrolle» bekannte Vorgehensweise soll Gegner dazu bringen, durch Änderung ihres Weltbilds im Interesse Russlands zu handeln, indem dem Opfer zusätzlich vorgegaukelt wird, dass die Entscheidung bei ihm liegt.
Allgemein bekannt ist, dass die strategischen Planungshorizonte Chinas länger sind als in westlichen Ländern. China betreibt eine explizite Politik der doppelten Verwendung von Technologien für zivile und militärische Zwecke. Seine kognitiven Operationen drehen sich um zwei Schwerpunkte: zum einen die fundamentale Kognition, die Ansätze und Technologien zur Beeinflussung des Denkvermögens und der Funktionsweise eines Individuums umfasst, sowie zum anderen die subliminale Kognition, die sich auf Emotionen, Willenskraft und Überzeugungen konzentriert.
Neben anderen Initiativen unterhält die chinesische Armee eine Datenbank mit Ausländern, die sie als wichtig erachtet, weil diese wichtige politische, militärische und diplomatische Positionen innehaben. Ausserdem enthält die Datenbank Informationen über Zehntausende Personen und damit eine Liste offensichtlicher vorrangiger Ziele für kognitive Operationen.
Betrachten wir ein wenig näher, wie eine Beeinflussungsoperation abläuft. Jean-Marc Rickli:
JEAN-MARC RICKLI
In einem neuen Artikel, der von Forschenden der chinesischen Armee veröffentlicht wurde, werden im Bereich der kognitiven Konfrontation vier Schritte identifiziert.
Im ersten Schritt geht es um das, was sie als Störung der Information bezeichnen. Dies ist ein wenig mit dem Vorgehen der Russen in Bezug auf die reflexive Kontrolle vergleichbar. Man prägt mit staatlichen oder etablierten Medien ein Narrativ, um der Debatte Grenzen aufzuerlegen.
Der zweite Schritt, von ihnen als ‹diskursive Konkurrenz› bezeichnet, basiert auf dem, was Daniel Kahneman in seinem Buch «Thinking Fast and Slow» anhand der Tatsache aufzeigt, dass wir alle über zwei Denksysteme verfügen. System 1 ist ein spontanes, intuitives und emotionales System, das von Impulsen und Vorurteilen geleitet wird. System 2 ist dagegen wesentlich langsamer und rationaler und will eigentlich System 1 kontrollieren. Man sieht also, dass eine Asymmetrie zwischen der Art und Weise und der Geschwindigkeit beider Systeme besteht. Folglich zielt diskursive Konkurrenz auf System 1 bzw. auf die Vorurteile ab, füttert das System mit bestehenden Vorurteilen und erzeugt neue Vorurteile, sodass letztendlich, wenn man so will, eine Blase, d. h. eine Informationsblase, entsteht.
BRUNO GIUSSANI
Und eine Informationsblase ist so beschaffen, dass es sehr schwer ist, aus ihr herauszukommen und sich wieder auf Informationen zu besinnen, die die eigene Überzeugung widerlegen oder nuancieren.
JEAN-MARC RICKLI
Den dritten Schritt bezeichnen sie als ‹Ausschaltung der öffentlichen Meinung›. Dabei werden Gefühle analysiert, um ein Mapping bzw. Abbild einer bestimmten Bevölkerungsgruppe zu erstellen und zu ermitteln, wer in dieser Gruppe der Meinung A oder eher der Meinung B ist. Im Folgenden werden hauptsächlich über soziale Netzwerke massenweise Informationen verbreitet. Folglich wird die kognitive Ebene von einer Art ‹Schwarm› befallen. So entsteht ein kognitives Chaos.
Und das unterscheidet sich radikal von der bisherigen Praxis in Desinformationskriegen oder psychologischen Kriegen, in deren Rahmen Nachrichten in der Hoffnung versendet wurden, dass ein Teil der Bevölkerung darauf reagiert. Dieses Verfahren hingegen ermöglicht, sehr präzise auf Individuen abzuzielen, ihre Denkweise zu verstehen und ihnen Informationen zu übermitteln, um eine in die gewünschte Richtung gehende Reaktion zu erzeugen.
BRUNO GIUSSANI
Derartige Operationen sind definitionsgemäss unsichtbar und können selbst in Friedenszeiten erfolgen.
Erst der vierte Schritt ist ein wenig mit einem konventionellen Krieg vergleichbar:
JEAN-MARC RICKLI
Bei diesem Schritt geht es darum, den Gegenangriff zu vereiteln, indem insbesondere dessen Kommunikations- und Digitalsysteme neutralisiert werden.
BRUNO GIUSSANI
Die europäischen Länder, die sich einer rapiden Umgestaltung der Weltordnung gegenübersehen, verfolgen aktuell eine Politik der umfassenden Aufrüstung.
Nach Jahren der «Friedensdividenden» und Selbstgefälligkeit geht es darum, inzwischen überholte Sicherheitssysteme neu zu erfinden.
Angesichts unserer Feststellungen und der Tatsache, dass die bekannten kognitiven Kampagnen grösstenteils antidemokratische Visionen verfolgen, erscheint es notwendig, dass in den überall leicht steigenden neuen Verteidigungsbudgets ein beträchtlicher Anteil in die kognitive Bedrohung fliesst.
Ein erster Schritt ist die Einsetzung von Systemen zur frühzeitigen Überwachung und Warnung. So schuf Frankreich 2021 den Dienst «Viginum» und damit ein System für Wachsamkeit und Schutz gegen die digitale Einmischung von aussen.
Sein Auftrag besteht darin «die öffentliche Debatte vor ausländischen Manipulationen von Informationen über digitale Plattformen zu bewahren».
Andere Länder haben vergleichbare Initiativen ergriffen:
JEAN-MARC RICKLI
Schweden hat 2022 – insbesondere als Reaktion auf den Krieg in der Ukraine – die Agentur für psychologische Verteidigung eingerichtet, da die skandinavischen Länder an vorderster Front stehen, was den Einfluss Russlands in der Nähe ihrer Grenzen angeht.
Neu ist das aber nicht, weil neutrale Länder, insbesondere Schweden, Finnland und auch die Schweiz mit ihrem allgemeinen Verteidigungskonzept, dieses Konzept der Resilienz und der psychologischen Verteidigung der Bevölkerung bereits während des Kalten Krieges eingeführt hatten.
Neu ist natürlich, dass sich das internationale Umfeld, aber insbesondere die Mittel verändert haben, die kognitive Kriege und Desinformation ermöglichen.
BRUNO GIUSSANI
Am Anfang dieser Folge sprachen wir über François du Cluzel.
Zitieren wir am Schluss einige Zeilen aus seinem Bericht für die NATO:
SYNTHETISCHE STIMME
Das Ziel des kognitiven Krieges ist, der Gesellschaft und nicht nur dem Militär zu schaden.
Das moderne Konzept des Krieges dreht sich nicht mehr nur um Waffen, sondern um Einfluss.
Um die Wahrnehmung zu beeinflussen und die Meinungsbildung zu kontrollieren, muss das Gefecht im kognitiven Bereich mit einem ganzheitlichen staatlichen bzw. ‹whole-of-government»-Ansatz geführt werden.
Dies erfordert eine enge Koordinierung zwischen den Streitkräften und den anderen Machthebeln eines Staates. Damit einher geht die Veränderung von Ressourcen, Ausrüstung und Organisation der Armee, um militärische Optionen unterhalb eines bewaffneten Konflikts zu ermöglichen und den Beitrag des Militärs zur kollektiven Resilienz zu verbessern.
BRUNO GIUSSANI
Die militärische Reaktion ist jedoch bei Weitem nicht ausreichend. Hören wir dazu nochmals Jean-Marc Rickli:
JEAN-MARC RICKLI
Untersucht man, welche Staaten am anfälligsten für Subversion sind, dann sind das die Demokratien, denn diese haben freien Zugang zu den Bürgern, was in autoritären Staaten nicht der Fall ist.
Aufgrund dieses asymmetrischen Zugangs fällt es einer Demokratie wesentlich schwerer, Subversionsversuchen eines autoritären Staats entgegenzuwirken. Umgekehrt ist der Kampf eines autoritären Staats gegen eine Demokratie einfacher.
Die Reaktion auf Angriffe in einem kognitiven Krieg muss letztlich über mehrere Faktoren im gesamten Spektrum erfolgen.
Das betrifft Operationen im zivilen und im militärischen Bereich. Und das bedeutet, dass die Reaktion mehrheitlich nicht militärischer Natur ist.
Mit anderen Worten muss die Resilienz der Bevölkerung und des Einzelnen gegenüber dieser Form des Angriffs erhöht werden.
BRUNO GIUSSANI
Da der öffentliche und persönliche Raum insbesondere durch US-Technologieplattformen eingenommen wird und Cyberangriffe zunehmen, wurde im politischen Diskurs in Europa das Konzept der sogenannten «digitalen Souveränität» geprägt.
Gemeint ist damit die Fähigkeit eines Landes, seine Daten und seine Infrastrukturen zu schützen und seine strategische Autonomie zu bewahren.
Konkret handelt es sich um ein komplexes Thema, das rein technisch betrachtet Aspekte mit variabler Gebietsbezogenheit (die das jeweilige Ausmass an Souveränität bestimmt) betrifft, d. h. Hardware, Software, Netzwerke und Daten samt ihrer Aggregation und Aufbereitung.
Die empfohlenen oder umgesetzten Strategien sind im allgemeinen regulatorischer Natur und betreffen die Verpflichtung, bestimmte Datentypen innerhalb der Landesgrenzen zu speichern. Ebenso können sie technischer Natur sein wie die Schaffung nationaler digitaler Infrastrukturen oder neuer Sicherheitsstandards.
Folglich sind sich politische und wirtschaftliche Kreise, aber auch die Bevölkerung des Risikos bewusst, das mit der Abhängigkeit von ausländischen Technologieakteuren verbunden ist.
Gleichwohl wirft die kognitive Bedrohung Fragen auf, die über «Wo werden unsere Daten gespeichert?», «Wer hat Zugriff darauf?» und «Verwenden wir lokale technische Lösungen?» hinausgehen. Massnahmen, die unverzichtbar sind, aber nicht ausreichen.
Wenn wir eine Form der geistigen Autonomie bewahren wollen, die Individuen und Gesellschaft ermöglicht, ihre Wahrnehmung der Realität zu kontrollieren und fundierte und unabhängige Entscheidungen zu treffen, müssen wir nach den Grundsätzen der «kognitiven Souveränität» denken.
Für heute machen wir hier Schluss.
In der fünften Folge beschäftigen wir uns mit einer nicht militärischen Reaktion auf den kognitiven Krieg – dem Gesetz.
Mein Name ist Bruno Giussani, und dies ist der DEFTECH-PODCAST.
Vielen Dank fürs Zuhören.
Deftech Podcast
Idee & Projektion : Quentin Ladetto
Kognitive Bedrohung
Konzeption und Redaktion : Bruno Giussani
Produktion : Clément Dattée
Realisierung : Anna Holveck
Aufnahme : Denis Democrate
Mixage : Jakez Hubert
Cover : Cécile Cazanova
Fiktion
Redaktion : Martin Quenehen
Schauspielerin :
Sound design : Felix Davin
Bonjour Monsieur Giussani et Monsieur Ladetto,
merci pour vos efforts fantastiques dans le domaine du cognitive warfare! Un sujet très important et malheureusement presque totalement ignoré.
Alors que je compile actuellement un bref aperçu du domaine, j’ai découvert que, non mentionné dans la plupart des textes ultérieurs, le concept remonte au moins à une thèse de maîtrise intitulée « Cognitive Warfare » par Stuart A. Green au Joint Military Intelligence College des États-Unis en 2008. Cette thèse de maîtrise de 300 pages me semble très fondamentale dans le développement du domaine.
Cordialement,
Andreas Leiser
Bonjour Monsieur Leiser,
Un grand merci !
Le document mentionné est téléchargeable ici –> Cognitive Warfare
Très cordialement,
Quentin
Merci M. Leiser, pour vos mots sur le podcast et aussi pour l’information. Dans le podcast on n’a pas cherché l’origine du concept, s’appuyant plutôt sur des documents plus récents de l’OTAN et autres, mais c’est une information précieuse. Merci, cordialment, Bruno Giussani
Cher Monsieur Giussani,
Je vous en prie ! Si vous lisez ceci et connaissez d’autres travaux peu connus ou antérieurs, je serais très intéressé. Un petit mot ici ou par courriel serait apprécié.
Dans le cadre d’un petit projet personnel parallèle, je m’intéresse particulièrement à deux sujets : (1) Quel peut être l’apport des mathématiques et de la cryptologie au domaine de la guerre cognitive ? (2) Comment une société libre et démocratique peut-elle transformer un désavantage perçu ou réel dans ce domaine en un avantage par rapport aux systèmes autoritaires/totalitaires ?
Comme je l’ai dit, tout ceci est un projet parallèle en cours de développement … Purely interest driven side project 🙂
Andreas
En complément, voici quelques extraits que je ne peux que recommander :
– Asma Mhalla
– Xiangsui, Wang; Liang, Qiao
– François Jullien