Disponible sur :
La saison complète
Ecrite et présentée par Bruno Giussani, expert des enjeux sociétaux liés aux technologies numériques, cette série de six épisodes (augmentée par un « épisode bonus » d’une fiction immersive) explore une dimension aussi invisible que décisive des conflits contemporains : l’intégrité de nos esprits.
Transcript
Vous écoutez Deftech podcast, le podcast de prospective technologique d’armasuisse.
Episode 4 : Guerre cognitive : quand le cerveau devient un terrain de bataille.
BRUNO GIUSSANI
Il y a plus de cinquante conflits armés en cours dans le monde. Des conflits « cinétiques », où des forces militaires ou des milices utilisent fusils, chars, avions, drones et missiles pour infliger à l’ennemi des dommages matériels et humains.
Ce sont les conflits qu’on voit à la télévision, faits de violence, sang et destruction. Mais il y en a d’autres, très nombreux, qu’on ne voit pas. Non déclarés, invisibles, qui ne font pas de dégâts physiques, où la partie attaquée souvent ne sait même pas en être la cible. Leurs outils sont l’information, les ordinateurs et les réseaux, la psychologie, la linguistique, la neurobiologie.
Dans les épisodes précédents de ce podcast nous n’avons pas utilise le mot « guerre ». Mais les conflits que je viens de décrire configurent une nouvelle forme de guerre.
Une « Guerre cognitive ».
C’est le titre d’un papier publié en 2020 par François du Cluzel, un chercheur français auprès de l’OTAN. Il commence avec ces mots:
VOIX SYNTHETIQUE
La nature de la guerre a changé. L’esprit humain est désormais considéré comme un nouveau domaine de la guerre.
BRUNO GIUSSANI
La publication de du Cluzel ne parle que peu de guerre de l’information: celle faite de propagande, de désinformation et de « psy-ops », les opérations psychologiques. Il ne s’étend pas non plus sur la cyberguerre: les attaques informatiques devenus une constante de l’ère numérique. Et ne mentionne nullement l’influence du « soft power ».
Il met en avant un autre niveau de menace: la menace cognitive, dont le but n’est pas de voler des données ou d’influencer par les « fake news » ce que les individus pensent, mais de modifier leur façon de penser, leur capacité à savoir et à s’orienter dans le monde qui les entoure et à décider de leurs actions en autonomie. L’instrument central de cette guerre, comme on l’a vu dans l’épisode trois, est l’exploitation, à travers la technologie, de la connaissance de plus en plus détaillée et intime des personnes et de leur cerveau. « Data » et neuroscience.
Celle de du Cluzel n’est d’ailleurs pas une projection future. La guerre cognitive est déjà là. C’est un ensemble de pratiques et de technologies de subversion utilisées, avec plus ou moins de succès, par une multitude d’acteurs, étatiques et non étatiques.
Remarquez le mot utilisé par du Cluzel: « un nouveau domaine de la guerre ». Les armées modernes sont en général organisées en cinq domaines: la terre, la mer, les airs, l’espace et le cyberespace. Le cognitif vient maintenant s’y ajouter. Il devient le sixième domaine, où psychologie, neurobiologie et technologie convergent au service d’une idée, en fait, très ancienne: celle de la victoire sans combat.
Idée proposée il y a 2500 ans déjà par Sun Tzu dans son traité « L’Art de la Guerre« .
Le stratège chinois suggère d’être invisible et inaudible pour, je cite, « maîtriser le destin de tes adversaires« . Parce que l’art de la guerre, écrit-il, « c’est de soumettre l’ennemi sans combattre« .
JINGLE
Le Deftech Podcast fait partie du programme de prospective technologique d’armasuisse Science et Technologie.
Je suis Quentin Ladetto, responsable de ce dispositif de recherche.
Notre mission est d’anticiper les avancées technologiques et leurs usages, au service des acteurs du Département fédéral suisse de la défense, de la protection de la population et des sports, mais également du public.
Dans cette première série de six épisodes, intitulée « La menace cognitive » j’ai demandé à Bruno Giussani, expert des impacts sociopolitiques des technologies numériques, de décrypter les défis de l’intégrité et de la sécurité cognitives.
Avec l’aide d’experts – et aussi de quelques voix artificielles: à vous de deviner lesquelles! – Bruno nous guidera à travers une exploration des menaces qui pèsent sur nos esprits à l’heure des écrans omniprésents, de l’intelligence artificielle et des neurotechnologies. En discutant mécanismes, impacts individuels et collectifs, risques, et réponses possibles.
BRUNO GIUSSANI
L’après-midi du mercredi 18 septembre 2024, le Conseil National, une des deux Chambres du Parlement suisse, menait une discussion sur la mission de l’armée, quand la députée centriste Isabelle Chappuis prit la parole :
ISABELLE CHAPPUIS
Chères et chers collègues, imaginez un monde où vos pensées ne vous appartiennent plus vraiment.
BRUNO GIUSSANI
Une ouverture de discours qui fit taire la salle concentrant l’attention sur sa proposition: l’inclusion du sixième domaine, le cognitif, parmi celles que les Suisses appellent les « valeurs-cible » – les principes autour desquels s’articule la mission de leur armée :
ISABELLE CHAPPUIS
La guerre cognitive est un type de conflit totalement nouveau, plus ample et profond que la manipulation de l’information ou la propagande que nous connaissons.
Elle vise à changer notre perception de la réalité et notre réaction aux événements, de façon progressive et subtile, sans notre consentement et souvent sans que nous nous en rendions compte.
Comment ça fonctionne en pratique?
En exploitant une compréhension toujours plus intime de nos fonctions cérébrales, grâce à l’intelligence artificielle et à un arsenal évolutif d’outils basés sur les neurosciences.
Ces technologies, développées d’abord pour des buts positifs, peuvent désormais être utilisées pour mener une guerre dans l’esprit humain.
BRUNO GIUSSANI
Si beaucoup de ces technologies promettent d’améliorer nos performances cognitives, elles configurent donc aussi la possibilité d’orienter notre façon de penser et de prendre des décisions, à une échelle en même temps spécifique – l’individu – et universelle – toute une société.
Mais est-ce vraiment là une question de sécurité nationale, à confier à l’armée ?
ISABELLE CHAPPUIS
Oui.
La guerre cognitive contourne les règles classiques des conflits armés.
Elle peut être menée à moindre coût, en temps de paix, sans déclaration de guerre, ce qui rend sa détection et la défense très difficiles.
Elle n’est pas encore prise en considération par les doctrines militaires établies.
Il n’y a pas non plus de règles internationales, ni de limites temporelle ou géographique à un conflit cognitif.
BRUNO GIUSSANI
Cet après-midi là, la proposition d’Isabelle Chappuis a obtenu une majorité des voix du Conseil National.
Trois mois plus tard, l’autre Chambre du Parlement, le Conseil des Etats, s’est également prononcée en faveur. Depuis, le cognitif fait partie de la mission de défense de l’armée suisse.
Défense contre un type de guerre moins cher, furtif, qui ne provoque pas de dommages matériels, qui brouille la frontière entre paix et conflit, sans contraintes temporelle ou géographique, et qu’on peut nier avec plausibilité.
Si Sun Tzu était adepte de la guerre sans bataille, un autre stratège a influencé profondément des générations de militaires en privilégiant l’approche opposée. Dans son essai « De la guerre » publié après sa mort en 1832, le général prussien Carl von Clausewitz parlait de la primauté du combat, de la bataille comme moment privilégié et décisif, où les différends sont réglés par la violence armée.
Au milieu du siècle dernier, la pensée clausewitzienne a été rendue obsolète par l’irruption des armes nucléaires et le principe de la dissuasion. Leur immense puissance destructrice a en effet rendu leur utilisation presqu’impossible. Mais on s’éloigne du sujet. Revenons-y par une porte dérobée. Dans les quarante dernières années, on a assisté au triomphe d’une autre technologie transformationnelle, non militaire cette fois: le développement de chaînes d’approvisionnement globales, la logistique des marchandises.
Vous direz: qu’est-ce qu’elles viennent faire là dedans?
En effet, leur développement a été motivé par des raisons purement économiques: la recherche de coûts de main-d’œuvre et de production plus bas et le libre-échange. Il a été porté par des technologies qui permettent une coordination de plus en plus sophistiquée et une visibilité pratiquement en temps réel des flux de marchandises, et affinée par des pratiques de gestion comme le juste-à-temps et la minimisation des stocks.
L’existence de ces chaînes d’approvisionnement témoigne de l’immense ingéniosité humaine. Quoi qu’on puisse penser de l’économie globalisée et de ses effets – et les effets néfastes sont nombreux – il s’agit d’une technologie organisationnelle d’une formidable sophistication.
Si elles ont contribué à la globalisation économique, ce qui n’est pas notre sujet ici, les chaînes logistiques globales ont eu également un autre effet. Et celui-là nous intéresse, car il a des implications sécuritaires. Elles ont enveloppé presque tous les pays du monde dans un maillage d’intérêt économiques réciproques et d’interdépendance. Cela a rendu le conflit armé direct, destructeur de vies, d’entités sociales et économiques et d’infrastructures, beaucoup plus coûteux et lourd de conséquences.
Par ricochet, l’intérêt et l’avantage de la guerre cognitive a été démultipliée. Elle est invisible, modulable, peu chère, ne crée pas de perturbations matérielles, et peut être déployée sans causer de dégâts majeurs à l’infrastructure de la globalisation.
Si la guerre cognitive nie la vision de Clausewitz de la bataille violente comme moment de résolution des différends, elle est totalement alignée à ce qu’il considérait le but de la guerre. Dans la toute première page de son traité, il écrit: « La guerre est un acte de violence destiné à contraindre l’adversaire à exécuter notre volonté« .
Imaginons, avec l’aide d’une voix synthétique, une version contemporaine d’un Clausewitz qui aurait accès à TikTok, ChatGPT et aux dernières découvertes neuroscientifiques :
VOIX SYNTHETIQUE
La guerre est un acte de brouillage informationnel et de manipulation cognitive destiné à contraindre l’adversaire à exécuter notre volonté.
BRUNO GIUSSANI
Bien qu’il soit le cadet des domaines de la guerre contemporaine, le cognitif en est probablement le plus étendu et important, puisqu’il touche à la capacité de lire la réalité et d’y agir, et donc à la conduite de tous les autres.
Les Américains, les Russes, les Chinois, les Français et bien d’autres mènent des programmes de recherche et des expérimentations à ce sujet depuis des années.
MAURO VIGNATI
Les armées s’intéressent à ces technologies d’abord pour se renforcer, pour les exploiter afin d’amplifier leur capacités opérationnelles et celles de leur personnel et gagner une supériorité cognitive.
Si l’image du « soldat augmenté » de certains films futuristes vous vient à l’esprit: on n’en est pas là, mais c’est bien la direction.
Aussi, l’IA et les neuro-technologies sont prises en considération en tant qu’armes, pour attaquer et dégrader les facultés cognitives d’un ennemi, ou pour se défendre contre de telles attaques
BRUNO GIUSSANI
La voix que vous venez d’entendre est bien celle d’un humain, Mauro Vignati, spécialiste de la question auprès du Comité International de la Croix Rouge :
MAURO VIGNATI
D’un côté, les armées doivent protéger leurs soldats et officiers, ainsi que leur capacité à comprendre et à prendre des décisions, contre les interférences ennemies.
En ce sens, ces technologies peuvent aussi aider à améliorer leurs performances cognitives pour faire face à la complexification de la guerre.
D’un autre côté, elles doivent aussi défendre la population contre des infiltrations cognitives qui peuvent menacer la stabilité sociale, saper la confiance entre les citoyens et les institutions, brouiller la perception du risque ou affaiblir la volonté de se défendre.
BRUNO GIUSSANI
Arrêtons-nous un instant sur le premier point soulevé par Vignati – la préservation des facultés de décision – et essayons d’expliquer ce que cela signifie à travers un exemple. Il existe un outil de planification et exécution des opérations militaires appelé « boucle OODA« , un acronyme anglais qui signifie Observe, Orient, Decide, Act, c’est à dire observation, orientation, décision et action.
C’est un instrument au service de la réactivité et adaptabilité des armées, qui fournit un cadré structuré pour la prise de décision.
Il y a deux façons d’opérer dans ce cadre:
- on peut gagner soit en réalisant la boucle plus rapidement que son adversaire,
- soit en pénétrant sa boucle dans le but de l’altérer.
Bien qu’en apparence les quatre étapes soient égales et séquentielles, la boucle OODA est très dépendante du deuxième « O », l’orientation, c’est à dire de l’analyse des informations pour déchiffrer la situation et les enjeux.
Qui est aussi la cible prioritaire des stratégies de guerre cognitive. Si l’ennemi parvient à vous désorienter, peu importe l’acuité de votre observation, la vitesse de vos décisions, l’efficacité de votre action: vous êtes affaibli.
Ce risque de désorientation n’est pas apanage exclusif des militaires.
Il est généralisé :
MAURO VIGNATI
Nous vivons dans un environnement imprégné de technologie et en sur-information constante, et on appelle cela la « data economy », mais en réalité l’enjeu, ce ne sont pas les données.
La surveillance et la capture de données ne sont que l’outil.
Le nerf de cette nouvelle guerre, comme l’a bien montré il y a quelques années le scandale lié à Cambridge Analytica et à son rôle dans les élections américaines et dans le vote sur le Brexit, est l’influence que cela permet d’exercer sur les comportements humains, qu’ils soient commerciaux, sociaux, politiques ou militaires.
BRUNO GIUSSANI
La pénétration technologique, notamment numérique, de notre quotidien façonne l’environnement dans lequel cette influence se déploie.
Seule derrière son écran, chaque personne devient une cible potentielle, mais également un acteur potentiel – un « soldat involontaire » – de la bataille cognitive.
MAURO VIGNATI
La propagande, on la subit de façon passive. Mais dans la guerre cognitive, sans s’en rendre compte chacun de nous participe à donner forme à l’écosystème informationnel.
On fait cela en générant des quantités énormes de données, mais aussi en disséminant de l’information.
Par exemple, à chaque fois qu’on partage, sur un réseau social, un lien vers une vidéo ou un article sans avoir pris la peine de l’avoir lu ou vérifié, on court le risque de prendre part à une campagne d’influence cognitive.
BRUNO GIUSSANI
Des technologies qui étaient censées démocratiser, ouvrir, égaliser, servent maintenant à influencer et manipuler.
Retrouvons Jean-Marc Rickli, déjà rencontré dans un épisode précédent :
JEAN-MARC RICKLI
Toutes ces technologies sont à double usage. Elles ont été conçues en général d’abord à des fins positives, pour des utilisation civiles, professionnelles, commerciales, ludiques, thérapeutique également, pour communiquer avec les amis ou accéder à l’information ou d’autres aspects de la vie quotidienne. Mais elles n’en constituent pas moins une infrastructure d’accès direct à notre corps et à notre cerveau.
L’utilisation croissante de ces technologies dans notre quotidien crée un phénomène d’accoutumance et d’addiction qui atténue notre capacité critique et nous rend moins sensibles aux risques qu’elles représentent.
BRUNO GIUSSANI
Ce que Jean-Marc Rickli dit à propos de l’accoutumance par l’utilisation quotidienne va au delà des appareils auxquels on pense immédiatement – notamment, le smartphones.
En fait, des pans toujours plus larges de notre environnement sont régis par des algorithmes: le frigo connecté qui pourra vérifier combien vous consommez d’un tel produit; le poste de télévision « smart » qui non seulement sait ce que vous regardez, mais pointe une camera vers vous tandis que vous le faites; le miroir connecté qui remarquera peut-être votre état de fatigue et vous conseillera – et probablement partagera l’information avec quelqu’un qui saura l’exploiter.
Juste pour le fait qu’elle nous entoure, la technologie pervasive qu’on appelle « l’internet des objets » (IOT, « the Internet of Things ») a un impact sur notre cognitif.
Ceci résonne avec l’analyse des auteurs chinois Qiao Liang et Wang Xiangsui, général le premier, haut fonctionnaire le second, dont voici un paragraphe tiré du livre de 1999 « La Guerre Hors Limites » :
VOIX SYNTHETIQUE
Ce qui doit être clair, c’est que le nouveau concept d’armement est en train de donner naissance à des armes étroitement liées à la vie des populations civiles.
Si notre première remarque est que l’apparition des armements de conception nouvelle élèvera à coup sûr la guerre future à un niveau difficilement imaginable par les individus – et même par les militaires – la seconde est que le nouveau concept d’armement provoquera un grand étonnement – chez les gens ordinaires comme chez les militaires – causé par le fait que les choses banales, familières, peuvent aussi devenir des armes de guerre.
Nous croyons qu’un beau matin les hommes découvriront avec surprise que des objets aimables et pacifiques ont acquis des propriétés offensives et meurtrières.
BRUNO GIUSSANI
Les progrès technologiques, que ce soit l’invention de la poudre à canon ou celle des satellites, ont toujours entraîné des changements dans les organisations et les doctrines militaires.
En fait, certaines technologies, comme l’internet ou le GPS, ont été développées en premier lieu à des fins militaires, pour s’infiltrer ensuite dans notre usage quotidien.
L’armée américaine travaille sur la guerre cognitive depuis une dizaine d’années. Les Russes et les Chinois aussi, qui ont développé des doctrines spécifiques, à propos desquelles je reprends ici des éléments du rapport établi pour l’OTAN par François du Cluzel.
Le recours par la Russie à la guerre algorithmique asymétrique est bien documenté. On connaît les inférences électorales par la diffusion d’information fausse, trompeuse et clivante via les réseaux sociaux, les fabriques à trolls, les cyberattaques.
Tout cela exploite la nature ouverte des sociétés occidentales et de leurs écosystèmes médiatiques. L’approche russe s’appuie sur les techniques et les démarches développées auparavant par l’Union Soviétique. L’objectif n’est toutefois plus de convaincre de la supériorité de son système. Il s’agit plutôt de semer le doute et la méfiance, et finalement de saper le système ennemi de l’intérieur.
Cette démarche, connue comme « Doctrine du Contrôle Réflexif« , vise à pousser les adversaires à agir dans l’intérêt de la Russie en modifiant leur perception du monde, avec pour objectif accessoire que la cible soit convaincue que la décision lui appartient.
La Chine, c’est bien connu, utilise des horizons de planification stratégique plus longs que les pays occidentaux. Elle a une politique explicite de double usage civil et militaire des technologies. Ses opérations cognitives s’articulent autour de deux axes : la cognition fondamentale, qui comprend des approches et des technologies influençant la capacité de réflexion et de fonctionnement d’un individu, et la cognition subliminale, qui se concentre sur les émotions, la force de volonté et les convictions.
Entre d’autres initiatives, l’armée chinoise gère une base de données d’étrangers qu’elle considère clés parce qu’ils occupent des postes politiques, militaires et diplomatiques importants, et qui contient des informations sur des dizaines de milliers de personnes: une liste de cibles prioritaires évidentes pour des opérations cognitives.
Essayons de mieux comprendre comment se déroule une opération d’influence :
JEAN-MARC RICKLI
Un article récent qui a été publié par des chercheurs liés à l’armée chinoise, identifie quatre étapes dans le domaine de la confrontation cognitive.
La première, c’est ce qu’ils appellent la perturbation de l’information. C’est un peu similaire à ce que font les Russes au niveau du contrôle réflexif, c’est à dire on va envoyer un narratif avec des médias d’Etat ou reconnus afin de borner les limites du débat.
La deuxième étape, c’est ce qu’ils appellent la concurrence discursive, et c’est basé sur ce que Daniel Kahneman, dans son livre « Thinking Fast and Slow« , montre avec le fait qu’on a chacun deux systèmes de réflexion. Le système 1 qui est un système instantané, intuitif. émotionnel qui repose sur des impulsions, des préjugés, et le système 2 qui est beaucoup plus lent, qui est beaucoup plus rationnel, qui vise in fine à contrôler le système 1, mais ce qu’on voit c’est qu’il y a une asymétrie entre la façon et la vitesse dont ils travaillent. Et donc, cette concurrence discursive va cibler le système 1, cibler les préjugés, en alimentant avec des préjugés existants, en en créant des nouveaux, pour alimenter, si vous voulez, le développement d’une bulle, ce qu’on appelle une bulle informationnelle.
BRUNO GIUSSANI
Et la nature même d’une bulle informationnelle, c’est qu’il est très difficile d’en sortir, de prendre en considération des informations qui contredisent ou nuancent ce à quoi l’on croit.
JEAN-MARC RICKLI
La troisième étape, c’est ce qu’ils appellent le blackout de l’opinion publique, qui vise à faire de l’analyse de sentiments afin de faire un mapping, une cartographie d’une certaine population, c’est-à-dire d’identifier qui dans la population pense plutôt A ou plutôt B. Et puis après, à travers notamment des réseaux sociaux, envoyer de l’information en masse. C’est une espèce d’essaim, si vous voulez, le « swarm », comme on dit en anglais, au niveau cognitif. Et là, vous créez une situation de chaos
Et ça, c’est quelque chose qui est complètement nouveau par rapport à ce qu’on a vu dans le passé, dans le domaine de la guerre de désinformation ou la guerre psychologique, où on envoyait des messages et on espérait qu’une partie de la population allait y répondre. Là, on arrive à cibler de manière très précise les individus, comprendre la façon dont ils fonctionnent, leur envoyer de l’information afin de susciter une réponse qui va aller dans le sens où on voudrait aller.
BRUNO GIUSSANI
Par définition, ces opérations sont invisibles, et peuvent se dérouler même en temps de paix.
Ce n’est que la quatrième étape qui ressemble un peu plus à la guerre conventionnelle :
JEAN-MARC RICKLI
Ce serait serait l’étape où empêcher l’adversaire de pouvoir riposter, notamment en neutralisant ses propres systèmes de communication et ses propres systèmes digitaux.
BRUNO GIUSSANI
Les pays européens, eux, confrontés au réalignement rapide des équilibres mondiaux, poursuivent actuellement des politiques de réarmement ambitieuses.
Il s’agit de réinventer, après des années de « dividendes de la paix » et de complaisance, des dispositifs de sécurité désormais inadaptés.
Au vu de ce qu’on a raconté jusqu’ici, et du fait qu’une grande partie des campagnes cognitives connues portent des visions antidémocratiques, il semblerait nécessaire que les nouveaux budgets de la défense, en croissance un peu partout, contiennent un chapitre substantiel consacré à la menace cognitive.
Une première étape est la mise en place de systèmes de surveillance et signalement précoce. La France par exemple a créé en 2021 un service en charge de la vigilance et de la protection contre les ingérences numériques étrangères, appelé Viginum.
Son mandat est de « préserver le débat public des manipulations de l’information provenant de l’étranger sur les plateformes numériques« .
D’autres pays ont pris des initiatives similaires:
JEAN-MARC RICKLI
La Suède, en 2022, a mis sur pied l’agence de défense psychologique, en réponse notamment à la guerre en Ukraine, car les pays nordiques sont bien sûr sur la première ligne dans le domaine de l’influence de la Russie près de ses frontières.
Mais ceci n’est pas nouveau parce que les États neutres, notamment la Suède, la Finlande, la Suisse également, à travers son concept de défense générale, avaient déjà intégré cette notion de résilience et de défense psychologique de la population durant la guerre froide.
Ce qui est nouveau, bien sûr, c’est l’environnement international qui a changé, mais surtout les moyens qui permettent de mener des guerres cognitive et la désinformation.
BRUNO GIUSSANI
On a commencé cet épisode avec François du Cluzel.
Approchons-nous de sa fin en lisant encore quelques lignes de son rapport pour l’OTAN :
VOIX SYNTHETIQUE
L’objectif de la guerre cognitive est de nuire aux sociétés, pas seulement aux militaires.
La conception moderne de la guerre ne se résume pas aux armes, mais à l’influence.
Pour façonner les perceptions et contrôler le discours, la bataille devra être menée dans le domaine cognitif, avec une approche pan-gouvernementale – « whole-of-government », comme on dit en anglais.
Cela requière une forte coordination entre le recours à la force et les autres leviers de pouvoir au sein de l’État, impliquant des changements dans la manière dont l’armée est dotée de ressources, d’équipements et d’organisation, afin d’offrir des options militaires en deçà du seuil de conflit armé et d’améliorer la contribution militaire à la résilience collective.
BRUNO GIUSSANI
La réponse militaire, toutefois, n’est de loin pas suffisante. Ecoutons encore Jean-Marc Rickli :
JEAN-MARC RICKLI
Si on regarde quels sont les États qui sont les plus à même d’être sujets à la subversion, eh bien ce sont les démocraties, car les démocraties ont un accès libre aux citoyens, ce qui n’est pas le cas des États autoritaires.
Donc il y a déjà cette asymétrie d’accès qui fait que mener des opérations de contre-subversion est beaucoup plus difficile pour une démocratie contre un État autoritaire qu’elle ne l’est pour un État autoritaire contre une démocratie.
Répondre à des tentatives de guerre cognitive demande une réponse qui est multifactorielle sur tout le spectre, finalement. Des opérations qui sont dans le domaine aussi civil que militaire. Et ça implique, la réponse est majoritairement non militaire.
C’est-à-dire qu’il faut augmenter la résilience de la population et des individus à ce type d’attaque.
BRUNO GIUSSANI
Dans la discussion politique européenne, face à la capture de l’espace public et personnel par les plateformes technologiques, notamment américaines, et à la multiplication des cyberattaques, a émergé le concept de « souveraineté numérique ».
C’est-à-dire la capacité d’un pays à protéger ses données, ses infrastructures et à maintenir son autonomie stratégique.
Il s’agit d’un thème complexe qui, d’un point de vue technique, touche à des éléments dont la territorialité (et donc le degré de souveraineté applicable) est variable: le hardware, les logiciels, les réseaux, les données, leur agrégation et leur élaboration.
Les stratégies proposées ou mises en oeuvre sont en général d’ordre réglementaire, comme l’obligation d’héberger certains types de données à l’intérieur des frontières du pays, ou techniques, tels la création d’infrastructures numériques nationales ou de nouveaux standards de sécurité.
Il existe donc, tant dans les milieux politiques et économiques que dans la population, une conscience du risque lié à la dépendance aux acteurs technologiques étrangers.
La menace cognitive préfigure toutefois des questions qui excèdent le « où sont hébergées nos données », « qui y a accès » et « utilisons des solutions techniques locales » – mesures indispensables, mais pas suffisantes.
Protéger une forme d’autonomie intellectuelle qui permet aux individus comme aux sociétés de contrôler leur perception de la réalité et de prendre des décisions éclairées et indépendantes, demande qu’on pense en termes de souveraineté cognitive.
Et pour aujourd’hui, on va s’arrêter ici.
Dans le cinquième épisode, on va s’interroger sur un type de réponse non-militaire à la guerre cognitive: la loi.
Je suis Bruno Giussani et ceci est le Deftech Podcast.
Merci de votre écoute.
Deftech Podcast
Idée & projection : Quentin Ladetto
La menace cognitive
Conception et rédaction : Bruno Giussani
Production : Clément Dattée
Réalisation : Anna Holveck
Enregistrement : Denis Democrate
Mixage : Jakez Hubert
Jaquette : Cécile Cazanova
Fiction
Ecriture : Martin Quenehen
Comédienne : Clara Bretheau
Sound design : Felix Davin
Edition
Kognitive Kriegsführung
Wenn das Gehirn zum Schlachtfeld wird.
Verfügbar auf :
Die komplette Staffel
Diese sechsteilige Serie (ergänzt durch eine „Bonusfolge” mit einer immersiven Fiktion) wurde von Bruno Giussani, einem Experten für gesellschaftliche Fragen im Zusammenhang mit digitalen Technologien, geschrieben und präsentiert. Sie untersucht eine ebenso unsichtbare wie entscheidende Dimension zeitgenössischer Konflikte: die Integrität unseres Geistes.
Transkript
Sie hören den Deftech-Podcast von armasuisse über Technologiefrüherkennung.
Folge 4: Kognitive Kriegsführung: Wenn das Gehirn zum Schlachtfeld wird.
BRUNO GIUSSANI
Aktuell gibt es weltweit mehr als 50 bewaffnete Konflikte. Dabei handelt es sich um «kinetische» Konflikte, in deren Rahmen Streitkräfte oder Milizen einem Feind mit Gewehren, Panzern, Flugzeugen, Drohnen und Raketen Personen- und Sachschäden zufügen wollen.
Dies sind die Konflikte, die im Fernsehen zu sehen sind und von Gewalt, Blut und Zerstörung zeugen. Es gibt aber noch zahlreiche weitere Konflikte, die nicht zu sehen sind. Sie werden nicht erklärt, sind unsichtbar und verursachen keine physischen Schäden, wobei die angegriffene Partei oft nicht einmal weiss, dass sie das Ziel ist. Ihre Waffen sind Informationen, Computer und Netzwerke, Psychologie, Linguistik und Neurobiologie.
In den vorigen Folgen dieses Podcasts haben wir den Begriff «Krieg» nicht verwendet. Doch die von mir soeben beschriebenen Konflikte begründen eine neue Kriegsform: die «kognitive Kriegsführung».
Dies ist der Titel eines von François du Cluzel, einem französischen Forscher bei der NATO, 2020 veröffentlichten Aufsatzes. Er beginnt mit folgenden Worten:
SYNTHETISCHE STIMME
Die Art des Krieges hat sich verändert. Das menschliche Bewusstsein gilt von nun an als neuer Bereich des Krieges.
BRUNO GIUSSANI
Du Cluzel spricht in seinen Ausführungen nur wenig über den Informationskrieg, d. h. einen Krieg aus Propaganda, Desinformation und «PsyOps» bzw. psychologischen Operationen. Auch der Cyberkrieg und damit die Cyberangriffe, die im digitalen Zeitalter zum Dauerthema geworden sind, werden nicht behandelt. Auch der Einfluss der «Soft Power» bleibt unerwähnt.
Dafür wird eine andere Bedrohungsebene hervorgehoben: die kognitive Bedrohung. Deren Ziel ist es nicht, Daten zu stehlen oder über «Fake News» die Gedanken von Individuen zu beeinflussen. Verändert werden soll vielmehr ihre Denkweise und ihre Fähigkeit, Wissen zu besitzen und sich in ihrem Umfeld zu orientieren und eigenständig über ihr Handeln zu entscheiden. Wie wir in der dritten Folge erörtert haben, besteht das zentrale Instrument dieses Krieges darin, das immer detailliertere und vertrauliche Wissen über Menschen und ihr Gehirn mithilfe von Technologie auszuschlachten. «Daten» und Neurowissenschaft.
Du Cluzels Vision ist übrigens keine Zukunftsprognose. Der kognitive Krieg hat längst begonnen. Konkret umfasst er eine Reihe von Praktiken und Technologien zur Subversion, die mehr oder weniger erfolgreich von einer Vielzahl staatlicher und nichtstaatlicher Akteure angewendet werden.
Man beachte den von du Cluzel verwendeten Ausdruck: «ein neuer Bereich des Krieges». Moderne Armeen gliedern sich im Allgemeinen in fünf Bereiche: Heer, Marine, Luftwaffe, Weltraum und Cyberraum. Nun kommt als Nummer 6 der kognitive Bereich hinzu, in dem Psychologie, Neurobiologie und Technologie zu einem uralten Konzept verschmelzen – dem Sieg ohne Gefecht.
Dieses Konzept wurde bereits vor 2500 Jahren von Sun Tzu in seinem Werk «Die Kunst des Krieges» geprägt.
Dem chinesischen Strategen zufolge sollte man unsichtbar und unhörbar sein, um – ich zitiere – «das Schicksal seiner Feinde in seiner Hand zu halten». Denn die Kunst des Krieges, so schreibt er, besteht darin, «den Feind ohne Gefecht zu besiegen».
JINGLE
Der Deftech-Podcast gehört zum Technologiefrüherkennungsprogramm von armasuisse Wissenschaft und Technologie. Ich bin Quentin Ladetto und leite dieses Forschungsprogramm.
Unser Auftrag besteht darin, die technologischen Fortschritte samt ihrer Verwertung zum Nutzen der Akteure des Eidgenössischen Departements für Verteidigung, Bevölkerungsschutz und Sport, aber auch der Öffentlichkeit vorwegzunehmen.
In dieser ersten sechsteiligen Staffel «Die kognitive Bedrohung» habe ich einen Experten für die sozialpolitischen Auswirkungen digitaler Technologien, Bruno Giussani, gebeten, die Herausforderungen in Zusammenhang mit der kognitiven Integrität und Sicherheit zu entschlüsseln. Und das mithilfe von Experten und einigen künstlichen Stimmen, die Sie erraten müssen! – Bruno wird uns einen Querschnitt über die Bedrohungen bieten, denen unser Bewusstsein im Zeitalter der allgegenwärtigen Bildschirme, der künstlichen Intelligenz und der Neurotechnologien ausgesetzt ist.
Dabei werden die Mechanismen, die Auswirkungen auf den Einzelnen und das Kollektiv sowie die Risiken und mögliche Antworten erörtert.
BRUNO GIUSSANI
Am Mittwoch, den 18. September 2024 debattierte der Nationalrat und damit eine der beiden Kammern des Schweizer Parlaments am Nachmittag über den Auftrag der Armee, als die Abgeordnete der Mitte-Partei, Isabelle Chappuis, das Wort ergriff.
ISABELLE CHAPPUIS
Liebe Kolleginnen und Kollegen, stellen Sie sich eine Welt vor, in der Ihre Gedanken Ihnen nicht mehr wirklich gehören.
BRUNO GIUSSANI
Eine Einleitung zu einer Rede, die den Saal verstummen liess und die Aufmerksamkeit auf ihren Beitrag lenkte: die Aufnahme des sechsten Bereichs und damit des kognitiven Bereichs in die Zielwerte der Schweizer, d. h. der Grundsätze des Auftrags ihrer Armee:
ISABELLE CHAPPUIS
Der kognitive Krieg ist eine vollständig neue Konfliktform, die weitreichender und tiefgreifender ist als die Manipulation von Informationen oder Propaganda, so wie wir sie kennen.
Ziel ist, unsere Wahrnehmung der Realität und unsere Reaktion auf Ereignisse auf progressive und subtile Weise zu verändern – und das ohne unsere Zustimmung und häufig ohne, dass wir es merken.
Möglich wird dies durch immer bessere Kenntnisse über unsere Hirnfunktionen, die wiederum der künstlichen Intelligenz und dem sich ausweitenden neurowissenschaftlichen Instrumentarium zu verdanken ist.
Diese zunächst für wohlwollende Absichten entwickelten Technologien können künftig für einen Krieg um das menschliche Bewusstsein eingesetzt werden.
BRUNO GIUSSANI
Zwar versprechen viele dieser Technologien eine Verbesserung unserer kognitiven Leistungsfähigkeit, doch bieten sie auch die Möglichkeit, unsere Denkweise und unsere Entscheidungsfindung zu beeinflussen – und das auf spezifischer Ebene, d. h. dem Individuum, als auch auf universeller Ebene, d. h. der gesamten Gesellschaft.
Doch handelt es sich hier um eine Frage der nationalen Sicherheit, für die die Armee zuständig ist?
ISABELLE CHAPPUIS
Ja. Der kognitive Krieg setzt die klassischen Regeln bewaffneter Konflikte ausser Kraft.
Denn er lässt sich kostengünstig und in Friedenszeiten und ohne Kriegserklärung durchführen.
Dies erschwert erheblich die Identifizierung eines solchen Krieges und die Verteidigung. Ein solcher Krieg wird in den gängigen Militärdoktrinen bislang noch nicht erwähnt.
Ausserdem gibt es weder internationale Regeln noch zeitliche oder geografische Beschränkungen für einen kognitiven Konflikt.
BRUNO GIUSSANI
Der Vorschlag von Isabelle Chappuis erhielt an jenem Nachmittag die Mehrheit der Stimmen des Nationalrats. Drei Monate später befürwortete auch der Ständerat und damit die andere Kammer des Parlaments den Vorschlag. Seitdem ist die kognitive Dimension Bestandteil des Verteidigungsauftrags der Schweizer Armee.
Konkret ist dies die Verteidigung in einem billigeren und diskreten Krieg, der keine Sachschäden verursacht, die Grenzen zwischen Krieg und Frieden verschwimmen lässt, weder zeitlich noch geografisch beschränkt ist und sich plausibel leugnen lässt.
Auch wenn Sun Tzu den Krieg ohne Gefecht propagierte, war es ein anderer Stratege, der ganze Generationen von Streitkräften durch den konträren Ansatz tiefgreifend beeinflusste. In seinem Hauptwerk «Vom Kriege», das 1832 posthum veröffentlicht wurde, sprach der preussische General Carl von Clausewitz von der Vorrangstellung des Gefechts, der Schlacht als bevorzugtem und entscheidendem Moment, in dem Streitigkeiten durch bewaffnete Gewalt geregelt werden.
Gegen Mitte des letzten Jahrhunderts wurden seine Theorien durch das Aufkommen von Kernwaffen und das Prinzip der Abschreckung hinfällig. Ihre gewaltige Zerstörungskraft machte ihren Einsatz praktisch undenkbar.
Doch hier holen wir zu weit aus. Kommen wir über eine Hintertür wieder zum Thema zurück. In den letzten 40 Jahren vollzog sich der Siegeszug einer anderen, diesmal jedoch nichtmilitärischen transformativen Technologie: die Entstehung globaler Lieferketten und der Güterlogistik.
Sicherlich fragen Sie sich, was das mit unserem Thema zu tun hat.
Tatsächlich entstand beides aus rein ökonomischen Erwägungen: Man wollte geringere Arbeits- und Produktionskosten und Freihandel. Unterstützt wurde dies durch Technologien, die eine immer komplexere Koordinierung und eine Sichtbarkeit des Güterflusses in Quasi-Echtzeit ermöglichen. Für weitere Verbesserungen sorgten Bewirtschaftungspraktiken wie «Just-in-Time» und Bestandsminimierung.
Das Bestehen dieser Lieferketten zeugt von der immensen menschlichen Genialität. Was auch immer man von der globalisierten Wirtschaft samt ihren Folgen – und nachteilige Auswirkungen gibt es viele – denken mag, handelt es sich um eine Organisationstechnologie herausragender Komplexität.
Auch wenn die globalen Logistikketten zur wirtschaftlichen Globalisierung beigetragen haben, was aber hier nicht unser Thema ist, haben sie noch einen anderen Effekt bewirkt. Letzterer ist für uns von Interesse, da er sich auf die Sicherheit auswirkt.
Hierdurch gerieten nahezu alle Länder weltweit in ein Geflecht aus gegenseitigen wirtschaftlichen Interessen und Interdependenzen. Direkte bewaffnete Konflikte, die Leben, soziale und wirtschaftliche Strukturen und Infrastrukturen vernichten, wurden so wesentlich teurer und folgenschwerer.
Als Nebeneffekt stiegen das Interesse und die Vorteile des kognitiven Krieges um ein Vielfaches. Ein kognitiver Krieg ist unsichtbar, modulierbar, kostengünstig, verursacht keine materiellen Störungen und lässt sich führen, ohne grössere Schäden an der Infrastruktur der Globalisierung zu verursachen. Auch wenn der kognitive Krieg nichts mit der Clausewitzschen Vision vom gewaltsamen Gefecht als Moment zur Lösung von Streitigkeiten gemein hat, deckt er sich vollständig mit dem, was von Clausewitz als den Zweck des Krieges bezeichnete.
Auf der ersten Seite seines Werks schrieb er: «Der Krieg ist ein Akt der Gewalt, um den Gegner zur Erfüllung unseres Willens zu zwingen.»
Stellen wir uns mithilfe einer künstlichen Stimme eine moderne Version eines von von Clausewitz vor, der Zugang zu TikTok, ChatGPT und anderen neurowissenschaftlichen Entdeckungen hätte:
SYNTHETISCHE STIMME
Der Krieg ist ein Akt der Informationsvernebelung und kognitiven Manipulation, um den Gegner zur Erfüllung unseres Willens zu zwingen.
BRUNO GIUSSANI
Auch wenn die kognitive Dimension die jüngste Variante des modernen Kriegs darstellt, dürfte sie am weitreichendsten und wichtigsten sein, zumal es dabei um die Fähigkeit geht, die Realität zu erkennen und entsprechend zu handeln, und folglich um das Verhalten der anderen.
Die USA, Russland, China und Frankreich und viele weitere Länder führen seit Jahren einschlägige Forschungsprogramme und Experimente durch.
MAURO VIGNATI
Die Armeen interessieren sich in erster Linie für diese Technologien, um ihre Kampfkraft zu stärken und sie dafür zu nutzen, ihre und die operativen Fähigkeiten ihrer Mitglieder zu erweitern und die kognitive Überlegenheit zu erlangen.
Auch wenn das noch nicht jenem «augmentierten Soldaten» bestimmter futuristischer Filme gleichkommt, geht es doch in diese Richtung.
Ausserdem werden KI und Neurotechnologien als Waffen erwogen, um die kognitiven Fähigkeiten eines Feindes anzugreifen und zu schädigen oder sich vor solchen Angriffen zu verteidigen.
BRUNO GIUSSANI
Die soeben erklungene Stimme gehört tatsächlich einem Menschen, nämlich Mauro Vignati, einem einschlägigen Experten des Internationalen Komitees vom Roten Kreuz:
MAURO VIGNATI
Einerseits haben Armeen ihre Soldaten und Offiziere sowie deren Fähigkeit, Entscheidungen zu verstehen und zu treffen, vor feindlichen Interferenzen zu schützen.
Daher können diese Technologien auch dazu beitragen, ihre kognitive Leistungsfähigkeit zu verbessern, um mit der immer grösseren Komplexität des Krieges fertigzuwerden.
Andererseits müssen sie aber auch die Bevölkerung vor kognitiver Infiltration schützen, die die soziale Stabilität bedrohen, das Vertrauen zwischen Bürgern und Institutionen untergraben, die Risikowahrnehmung verschleiern oder den Willen zur eigenen Verteidigung schwächen kann.
BRUNO GIUSSANI
Befassen wir uns kurz mit dem ersten Aspekt Vignatis, der Bewahrung der Entscheidungsfähigkeit, und versuchen wir, dies anhand eines Beispiels zu erläutern. Zur Planung und Umsetzung militärischer Operationen gibt es das sogenannte «OODA-Loop», ein englisches Akronym aus den Anfangsbuchstaben von Observe, Orient, Decide, Act, d. h. Beobachten, Orientieren, Entscheiden, Handeln.
Dieses Instrument dient der Reaktions- und Anpassungsfähigkeit von Armeen und liefert einen strukturieren Rahmen für die Entscheidungsfindung.
In diesem Rahmen kann auf zwei verschiedene Weisen operiert werden.
- Gewinnen kann entweder derjenige, der den Loop schneller durchlaufen kann als der Gegner,
- oder derjenige, der den Loop durchdringen kann, um ihn zu stören.
Obwohl die vier Schritte auf den ersten Blick gleichberechtigt sind und aufeinanderfolgen, fusst der OODA-Loop auf dem zweiten Schritt, d. h. dem «O» bzw. Orientieren. Dabei werden die Informationen ausgewertet, um die Bedrohung zu erkennen und die Optionen zu prüfen.
Folglich zielen Strategien des kognitiven Krieges vorwiegend auf diesen zweiten Schritt ab. Gelingt es dem Feind, Sie zu verunsichern – unabhängig davon, wie präzise Sie beobachten, wie schnell Sie entscheiden und wie effizient Sie handeln –, sind Sie in einer schwächeren Position.
Diese Gefahr der Verunsicherung betrifft übrigens nicht nur ausschliesslich den militärischen Bereich, sondern ist allgemeiner Natur.
MAURO VIGNATI
Wir leben in einer von Technologie und konstanter Informationsüberflutung geprägten Gesellschaft, der sogenannten ‹data economy›. Doch um die Daten geht es in Wirklichkeit gar nicht.
Die Überwachung und die Erfassung von Daten sind nur das Mittel.
Die Macht dieses neuen Kriegs – und das hat der Skandal um Cambridge Analytica und deren Rolle bei den US-Wahlen und der Brexit-Abstimmung vor einigen Jahren gezeigt – rührt von dem Einfluss her, den er auf menschliche Verhaltensweisen im kommerziellen, sozialen, politischen oder militärischen Bereich ausüben kann.
BRUNO GIUSSANI
Die technologische Durchdringung, vorwiegend auf digitaler Ebene, in unserem Alltag prägt das Umfeld, in dem sich dieser Einfluss entfaltet.
Erst vor dem Bildschirm wird jeder zu einer potenziellen Zielscheibe, aber auch zu einem potenziellen Akteur, d. h. einem «unfreiwilligen Soldaten» der kognitiven Schlacht.
MAURO VIGNATI
Propaganda unterliegt man auf passive Weise. Doch im kognitiven Krieg trägt jeder dazu bei, das Informationsökosystem zu gestalten, ohne es zu merken.
Dies erfolgt, indem enorme Datenmengen produziert, aber auch Informationen verbreitet werden.
Immer wenn auf sozialen Netzwerken ein Link zu einem Video oder einem Artikel geteilt wird, ohne dass er abgerufen oder überprüft wurde, besteht die Gefahr, Teil einer Kampagne für kognitive Beeinflussung zu werden.
BRUNO GIUSSANI
Technologien, die eigentlich zu Demokratisierung, Öffnung und Gleichbehandlung beitragen sollten, dienen nun der Beeinflussung und Manipulation.
Jean-Marc Rickli, der bereits Gegenstand einer vorigen Folge war, meint hierzu:
JEAN-MARC RICKLI
Alle Technologien dienen einem doppelten Zweck. Zunächst wurden sie allgemein zu positiven Zwecken im zivilen, beruflichen, kommerziellen, spielerischen und therapeutischen Bereich sowie zur Kommunikation mit Freunden oder den Zugriff auf Informationen bzw. sonstige Aspekte des täglichen Lebens konzipiert. Allerdings sind sie nichts anderes als eine Infrastruktur für den direkten Zugriff auf unseren Körper und unser Gehirn.
Die zunehmende Verwendung dieser Technologien in unserem Alltag ruft ein Phänomen der Gewöhnung und Sucht hervor, die unsere Kritikfähigkeit einschränkt und unsere Sensibilität für die mit diesen Technologien verbundenen Risiken verringert.
BRUNO GIUSSANI
Ce que Jean-Marc Rickli dit à propos de l’accoutumance par l’utilisation quotidienne va au delà des appareils auxquels on pense immédiatement – notamment, le smartphones.
En fait, des pans toujours plus larges de notre environnement sont régis par des algorithmes: le frigo connecté qui pourra vérifier combien vous consommez d’un tel produit; le poste de télévision « smart » qui non seulement sait ce que vous regardez, mais pointe une camera vers vous tandis que vous le faites; le miroir connecté qui remarquera peut-être votre état de fatigue et vous conseillera – et probablement partagera l’information avec quelqu’un qui saura l’exploiter.
Juste pour le fait qu’elle nous entoure, la technologie pervasive qu’on appelle « l’internet des objets » (IOT, « the Internet of Things ») a un impact sur notre cognitif.
Ceci résonne avec l’analyse des auteurs chinois Qiao Liang et Wang Xiangsui, général le premier, haut fonctionnaire le second, dont voici un paragraphe tiré du livre de 1999 « La Guerre Hors Limites » :
Jean-Marc Ricklis Ausführungen über die Gewöhnung aufgrund täglicher Nutzung beziehen sich nicht nur auf spontan in den Sinn kommende Geräte wie Smartphones.
Tatsächlich werden immer grössere Bereiche unseres Alltags von Algorithmen beherrscht. Man denke an den vernetzten Kühlschrank, der weiss, wie viel Sie von einem bestimmten Produkt verbraucht haben, der Smart-TV, der nicht nur weiss, was Sie konsumieren, sondern währenddessen auch eine Kamera auf Sie richtet, den vernetzten Spiegel, der vielleicht Ihre Ermüdung erkennt, Ihnen Tipps gibt und die Information an jemanden weiterleitet, der sie verwerten kann.
Gerade weil uns pervasive Technologie – übrigens als «Internet der Dinge» («Internet of Things», IOT) bezeichnet – umgibt, wirkt sie sich auf unsere kognitive Dimension aus.
Zu diesen Schlüssen gelangten auch die chinesischen Autoren Qiao Liang, ein Generalmajor, und Wang Xiangsui, ein hochrangiger Beamter, von deren 1999 erschienenem Werk «Krieg ohne Grenzen» nachfolgend ein Absatz wiedergegeben ist:
SYNTHETISCHE STIMME
Es muss klar sein, dass das neue Rüstungskonzept dabei ist, Waffen hervorzubringen, die eng mit dem Leben der Zivilbevölkerungen verflochten sind. Wir behaupten zunächst, dass das Aufkommen neuartiger Waffen künftige Kriege mit Sicherheit auf eine Stufe heben wird, die sich Individuen und selbst Militärs nur schwer ausmalen können.
Zweitens wird das neue Rüstungskonzept bei normalen Bürgern und Militärs für grosses Erstaunen sorgen, weil banale und vertraute Dinge auch zu Kriegswaffen werden können.
Wir sind überzeugt, dass die Menschheit eines Tages überrascht bemerken wird, dass lieb gewordene und friedliche Dinge plötzlich offensive und tödliche Eigenschaften besitzen.
BRUNO GIUSSANI
Tatsächlich ist es nicht einmal erforderlich, dass jemand eine böse Absicht entwickelt. Die blosse Verfügbarkeit vernetzter Geräte verändert schon unmittelbar unsere Art und Weise, wie wir mit der Welt in Beziehung treten. Unser Gedächtnis verschlechtert sich, weil wir uns daran gewöhnen, Informationen auf Google zu finden. Unsere Darstellung der Realität verschwimmt in der Schwierigkeit, Wahres von Falschem und Reales von Virtuellem zu unterscheiden.
Unsere Fähigkeit zu komplexem Denken weicht dem Gewicht der Hypergeschwindigkeit, der Unmittelbarkeit und der Emotionen.
Wir vertrauen mehr und mehr GPS-Systemen, wobei wir rechts abbiegen, wenn das Verkehrsschild nach links weist, das GPS-System aber nach rechts weist. Wir wollen sofortige Antworten, die Menschen aber nicht liefern können. All das und viele weitere Verzerrungen und mentale Vereinfachungen führen dazu, dass unsere Gehirne immer exponierter sind.
Der technologische Fortschritt – ob die Erfindung des Schwarzpulvers oder der Satelliten – hat schon immer Änderungen in Organisationen und Militärdoktrinen nach sich gezogen. Tatsächlich wurden bestimmte Technologien wie das Internet oder GPS ursprünglich für militärische Zwecke entwickelt, bevor sie später den Weg in unseren Alltag fanden.
Die US-Armee beschäftigt sich seit rund zehn Jahren mit dem kognitiven Krieg. Das gilt auch für die Russen und die Chinesen, die spezifische Doktrinen ausgearbeitet haben, zu denen ich an dieser Stelle Passagen aus dem Bericht von François du Cluzel für die NATO zitiere.
Dass Russland die asymmetrische algorithmusgestützte Kriegsführung nutzt, ist gut dokumentiert. Die Einmischung in Wahlen durch die Verbreitung falscher, betrügerischer und polarisierender Informationen über soziale Netzwerke, Trollfabriken und Cyberangriffe ist nichts Neues. Dabei wird der offene Charakter westlicher Gesellschaften und ihrer Mediensysteme ausgenutzt.
Der russische Ansatz stützt sich auf Techniken und Verfahren, die zuvor in der Sowjetunion entwickelt wurden. Gleichwohl besteht das Ziel nicht mehr darin, die Überlegenheit des eigenen Systems zu beweisen. Vielmehr geht es nun darum, Zweifel und Misstrauen zu säen und das feindliche System letztlich von innen heraus zu unterwandern.
Diese als «Doktrin der reflexiven Kontrolle» bekannte Vorgehensweise soll Gegner dazu bringen, durch Änderung ihres Weltbilds im Interesse Russlands zu handeln, indem dem Opfer zusätzlich vorgegaukelt wird, dass die Entscheidung bei ihm liegt.
Allgemein bekannt ist, dass die strategischen Planungshorizonte Chinas länger sind als in westlichen Ländern. China betreibt eine explizite Politik der doppelten Verwendung von Technologien für zivile und militärische Zwecke. Seine kognitiven Operationen drehen sich um zwei Schwerpunkte: zum einen die fundamentale Kognition, die Ansätze und Technologien zur Beeinflussung des Denkvermögens und der Funktionsweise eines Individuums umfasst, sowie zum anderen die subliminale Kognition, die sich auf Emotionen, Willenskraft und Überzeugungen konzentriert.
Neben anderen Initiativen unterhält die chinesische Armee eine Datenbank mit Ausländern, die sie als wichtig erachtet, weil diese wichtige politische, militärische und diplomatische Positionen innehaben. Ausserdem enthält die Datenbank Informationen über Zehntausende Personen und damit eine Liste offensichtlicher vorrangiger Ziele für kognitive Operationen.
Betrachten wir ein wenig näher, wie eine Beeinflussungsoperation abläuft. Jean-Marc Rickli:
JEAN-MARC RICKLI
In einem neuen Artikel, der von Forschenden der chinesischen Armee veröffentlicht wurde, werden im Bereich der kognitiven Konfrontation vier Schritte identifiziert.
Im ersten Schritt geht es um das, was sie als Störung der Information bezeichnen. Dies ist ein wenig mit dem Vorgehen der Russen in Bezug auf die reflexive Kontrolle vergleichbar. Man prägt mit staatlichen oder etablierten Medien ein Narrativ, um der Debatte Grenzen aufzuerlegen.
Der zweite Schritt, von ihnen als ‹diskursive Konkurrenz› bezeichnet, basiert auf dem, was Daniel Kahneman in seinem Buch «Thinking Fast and Slow» anhand der Tatsache aufzeigt, dass wir alle über zwei Denksysteme verfügen. System 1 ist ein spontanes, intuitives und emotionales System, das von Impulsen und Vorurteilen geleitet wird. System 2 ist dagegen wesentlich langsamer und rationaler und will eigentlich System 1 kontrollieren. Man sieht also, dass eine Asymmetrie zwischen der Art und Weise und der Geschwindigkeit beider Systeme besteht. Folglich zielt diskursive Konkurrenz auf System 1 bzw. auf die Vorurteile ab, füttert das System mit bestehenden Vorurteilen und erzeugt neue Vorurteile, sodass letztendlich, wenn man so will, eine Blase, d. h. eine Informationsblase, entsteht.
BRUNO GIUSSANI
Und eine Informationsblase ist so beschaffen, dass es sehr schwer ist, aus ihr herauszukommen und sich wieder auf Informationen zu besinnen, die die eigene Überzeugung widerlegen oder nuancieren.
JEAN-MARC RICKLI
Den dritten Schritt bezeichnen sie als ‹Ausschaltung der öffentlichen Meinung›. Dabei werden Gefühle analysiert, um ein Mapping bzw. Abbild einer bestimmten Bevölkerungsgruppe zu erstellen und zu ermitteln, wer in dieser Gruppe der Meinung A oder eher der Meinung B ist. Im Folgenden werden hauptsächlich über soziale Netzwerke massenweise Informationen verbreitet. Folglich wird die kognitive Ebene von einer Art ‹Schwarm› befallen. So entsteht ein kognitives Chaos.
Und das unterscheidet sich radikal von der bisherigen Praxis in Desinformationskriegen oder psychologischen Kriegen, in deren Rahmen Nachrichten in der Hoffnung versendet wurden, dass ein Teil der Bevölkerung darauf reagiert. Dieses Verfahren hingegen ermöglicht, sehr präzise auf Individuen abzuzielen, ihre Denkweise zu verstehen und ihnen Informationen zu übermitteln, um eine in die gewünschte Richtung gehende Reaktion zu erzeugen.
BRUNO GIUSSANI
Derartige Operationen sind definitionsgemäss unsichtbar und können selbst in Friedenszeiten erfolgen.
Erst der vierte Schritt ist ein wenig mit einem konventionellen Krieg vergleichbar:
JEAN-MARC RICKLI
Bei diesem Schritt geht es darum, den Gegenangriff zu vereiteln, indem insbesondere dessen Kommunikations- und Digitalsysteme neutralisiert werden.
BRUNO GIUSSANI
Die europäischen Länder, die sich einer rapiden Umgestaltung der Weltordnung gegenübersehen, verfolgen aktuell eine Politik der umfassenden Aufrüstung.
Nach Jahren der «Friedensdividenden» und Selbstgefälligkeit geht es darum, inzwischen überholte Sicherheitssysteme neu zu erfinden.
Angesichts unserer Feststellungen und der Tatsache, dass die bekannten kognitiven Kampagnen grösstenteils antidemokratische Visionen verfolgen, erscheint es notwendig, dass in den überall leicht steigenden neuen Verteidigungsbudgets ein beträchtlicher Anteil in die kognitive Bedrohung fliesst.
Ein erster Schritt ist die Einsetzung von Systemen zur frühzeitigen Überwachung und Warnung. So schuf Frankreich 2021 den Dienst «Viginum» und damit ein System für Wachsamkeit und Schutz gegen die digitale Einmischung von aussen.
Sein Auftrag besteht darin «die öffentliche Debatte vor ausländischen Manipulationen von Informationen über digitale Plattformen zu bewahren».
Andere Länder haben vergleichbare Initiativen ergriffen:
JEAN-MARC RICKLI
Schweden hat 2022 – insbesondere als Reaktion auf den Krieg in der Ukraine – die Agentur für psychologische Verteidigung eingerichtet, da die skandinavischen Länder an vorderster Front stehen, was den Einfluss Russlands in der Nähe ihrer Grenzen angeht.
Neu ist das aber nicht, weil neutrale Länder, insbesondere Schweden, Finnland und auch die Schweiz mit ihrem allgemeinen Verteidigungskonzept, dieses Konzept der Resilienz und der psychologischen Verteidigung der Bevölkerung bereits während des Kalten Krieges eingeführt hatten.
Neu ist natürlich, dass sich das internationale Umfeld, aber insbesondere die Mittel verändert haben, die kognitive Kriege und Desinformation ermöglichen.
BRUNO GIUSSANI
Am Anfang dieser Folge sprachen wir über François du Cluzel.
Zitieren wir am Schluss einige Zeilen aus seinem Bericht für die NATO:
SYNTHETISCHE STIMME
Das Ziel des kognitiven Krieges ist, der Gesellschaft und nicht nur dem Militär zu schaden.
Das moderne Konzept des Krieges dreht sich nicht mehr nur um Waffen, sondern um Einfluss.
Um die Wahrnehmung zu beeinflussen und die Meinungsbildung zu kontrollieren, muss das Gefecht im kognitiven Bereich mit einem ganzheitlichen staatlichen bzw. ‹whole-of-government»-Ansatz geführt werden.
Dies erfordert eine enge Koordinierung zwischen den Streitkräften und den anderen Machthebeln eines Staates. Damit einher geht die Veränderung von Ressourcen, Ausrüstung und Organisation der Armee, um militärische Optionen unterhalb eines bewaffneten Konflikts zu ermöglichen und den Beitrag des Militärs zur kollektiven Resilienz zu verbessern.
BRUNO GIUSSANI
Die militärische Reaktion ist jedoch bei Weitem nicht ausreichend. Hören wir dazu nochmals Jean-Marc Rickli:
JEAN-MARC RICKLI
Untersucht man, welche Staaten am anfälligsten für Subversion sind, dann sind das die Demokratien, denn diese haben freien Zugang zu den Bürgern, was in autoritären Staaten nicht der Fall ist.
Aufgrund dieses asymmetrischen Zugangs fällt es einer Demokratie wesentlich schwerer, Subversionsversuchen eines autoritären Staats entgegenzuwirken. Umgekehrt ist der Kampf eines autoritären Staats gegen eine Demokratie einfacher.
Die Reaktion auf Angriffe in einem kognitiven Krieg muss letztlich über mehrere Faktoren im gesamten Spektrum erfolgen.
Das betrifft Operationen im zivilen und im militärischen Bereich. Und das bedeutet, dass die Reaktion mehrheitlich nicht militärischer Natur ist.
Mit anderen Worten muss die Resilienz der Bevölkerung und des Einzelnen gegenüber dieser Form des Angriffs erhöht werden.
BRUNO GIUSSANI
Da der öffentliche und persönliche Raum insbesondere durch US-Technologieplattformen eingenommen wird und Cyberangriffe zunehmen, wurde im politischen Diskurs in Europa das Konzept der sogenannten «digitalen Souveränität» geprägt.
Gemeint ist damit die Fähigkeit eines Landes, seine Daten und seine Infrastrukturen zu schützen und seine strategische Autonomie zu bewahren.
Konkret handelt es sich um ein komplexes Thema, das rein technisch betrachtet Aspekte mit variabler Gebietsbezogenheit (die das jeweilige Ausmass an Souveränität bestimmt) betrifft, d. h. Hardware, Software, Netzwerke und Daten samt ihrer Aggregation und Aufbereitung.
Die empfohlenen oder umgesetzten Strategien sind im allgemeinen regulatorischer Natur und betreffen die Verpflichtung, bestimmte Datentypen innerhalb der Landesgrenzen zu speichern. Ebenso können sie technischer Natur sein wie die Schaffung nationaler digitaler Infrastrukturen oder neuer Sicherheitsstandards.
Folglich sind sich politische und wirtschaftliche Kreise, aber auch die Bevölkerung des Risikos bewusst, das mit der Abhängigkeit von ausländischen Technologieakteuren verbunden ist.
Gleichwohl wirft die kognitive Bedrohung Fragen auf, die über «Wo werden unsere Daten gespeichert?», «Wer hat Zugriff darauf?» und «Verwenden wir lokale technische Lösungen?» hinausgehen. Massnahmen, die unverzichtbar sind, aber nicht ausreichen.
Wenn wir eine Form der geistigen Autonomie bewahren wollen, die Individuen und Gesellschaft ermöglicht, ihre Wahrnehmung der Realität zu kontrollieren und fundierte und unabhängige Entscheidungen zu treffen, müssen wir nach den Grundsätzen der «kognitiven Souveränität» denken.
Für heute machen wir hier Schluss.
In der fünften Folge beschäftigen wir uns mit einer nicht militärischen Reaktion auf den kognitiven Krieg – dem Gesetz.
Mein Name ist Bruno Giussani, und dies ist der DEFTECH-PODCAST.
Vielen Dank fürs Zuhören.
Deftech Podcast
Idee & Projektion : Quentin Ladetto
Kognitive Bedrohung
Konzeption und Redaktion : Bruno Giussani
Produktion : Clément Dattée
Realisierung : Anna Holveck
Aufnahme : Denis Democrate
Mixage : Jakez Hubert
Cover : Cécile Cazanova
Fiktion
Redaktion : Martin Quenehen
Schauspielerin : Chantal Busse
Sound design : Felix Davin
Ausgabe
La guerra cognitiva
Quando il cervello diventa campo di battaglia
Disponibile su:
L’intera stagione
Questa serie in sei parti (integrata da un « episodio bonus » con una fiction immersiva) è stata scritta e presentata da Bruno Giussani, esperto di questioni sociali legate alle tecnologie digitali. Esplora una dimensione invisibile ma cruciale dei conflitti contemporanei: l’integrità della nostra mente.
Trascrizione
State ascoltando Deftech podcast, il podcast di prospettiva tecnologica di Armasuisse.
Prima stagione, episodio 4: La guerra cognitiva: quando il cervello diventa campo di battaglia.BRUNO GIUSSANI
Più di cinquanta conflitti armati sono in corso nel mondo. Conflitti « cinetici », in cui forze militari o milizie utilizzano fucili, carri armati, aerei, droni e missili per infliggere danni materiali e umani al nemico.
Sono i conflitti che vediamo in televisione, pieni di violenza, sangue e distruzione.
Ma ce ne sono molti altri che non vediamo. Non dichiarati, invisibili, che non causano danni fisici, in cui la parte che viene attaccata spesso non sa nemmeno di esserne il bersaglio. I loro strumenti sono l’informazione, i computer, le reti digitali e gli algoritmi, la psicologia, la linguistica e la neurobiologia.
C’è una parola che non abbiamo usato nelle puntate precedenti di questo podcast: « guerra ». Ma i conflitti che ho appena descritto s’iscrivono in un nuovo approccio alla guerra.
La « Guerra Cognitiva ».
E’ il titolo di un articolo pubblicato nel 2020 da François du Cluzel, un ricercatore francese della NATO. Inizia con queste parole:
VOCE SINTETICA
La natura della guerra è cambiata. La mente umana è ora considerata un nuovo dominio di azione bellica.
BRUNO GIUSSANI
Il testo di Cluzel contiene solo pochi riferimenti alla guerra dell’informazione, alla propaganda, alla disinformazione e alle « psy-ops », le operazioni psicologiche. Non si sofferma molto neppure sulla cyberguerra, gli attacchi informatici che sono diventati una costante dell’era digitale. E non fa alcun accenno al ruolo del « soft power ».
Evidenzia invece un altro livello di rischio: la minaccia cognitiva, il cui obiettivo non è di sottrarre dati o di influenzare il pensiero degli individui attraverso informazioni manipolate. Punta piuttosto a cambiare il loro modo di pensare, a diminuire la loro capacità di capire e orientarsi nel mondo, e di decidere autonomamente le proprie azioni.
Lo strumento centrale di questa guerra, come abbiamo visto nel terzo episodio, è lo sfruttamento, attraverso la tecnologia, della conoscenza sempre più dettagliata e intima delle persone e delle loro menti. « Dati » e neuroscienza.
Quella di Cluzel non è una proiezione futura. La guerra cognitiva è già qui. È un insieme di pratiche e tecnologie di sovversione già utilizzate, con più o meno successo, da una moltitudine di attori, statali e non statali.
Prestate attenzione al termine usato da Cluzel: « un nuovo dominio » della guerra. Gli eserciti moderni sono generalmente organizzati in cinque domìni: terra, mare, aria, spazio e cyberspazio. A questi si aggiunge ora la minaccia cognitiva. Diventa il sesto dominio, dove psicologia, neurobiologia e tecnologia convergono al servizio di un’idea che, in realtà, è molto antica: quella della vittoria senza combattimento.
Un’idea proposta già 2500 anni fa da Sun Tzu nel suo trattato « L’arte della guerra« .
Lo stratega cinese suggerisce di essere invisibili e inudibili per, citazione, « controllare il destino dei propri avversari« . Perché l’arte della guerra, scrive, « consiste nel sottomettere il nemico senza combattere ».
JINGLE
Il Deftech Podcast fa parte del dispositivo di previsione tecnologica di armasuisse Scienza e Tecnologia.
Sono Quentin Ladetto, responsabile di questo programma di ricerca. La nostra missione è di anticipare gli sviluppi tecnologici e i loro utilizzi, al servizio del Dipartimento Federale svizzero della Difesa, della Protezione Civile e dello Sport, come pure del pubblico.
In questa prima stagione di sei episodi, intitolata « La Minaccia Cognitiva », ho chiesto a Bruno Giussani, specialista degli impatti sociopolitici delle tecnologie digitali, di decifrare le sfide dell’integrità cognitiva e della sicurezza.
Con l’aiuto di esperti – le cui voci sono tutte state doppiate utilizzando l’intelligenza artificiale – Bruno ci guida attraverso un’esplorazione del rischio cognitivo nell’era degli schermi onnipresenti, dell’intelligenza artificiale e delle neurotecnologie.
Si parlerà di meccanismi, impatti individuali e collettivi, rischi, e anche, naturalmente, di possibili risposte!
BRUNO GIUSSANI
Nel pomeriggio di mercoledì 18 settembre 2024, il Consiglio nazionale, una delle due camere del Parlamento svizzero, stava discutendo della missione dell’esercito, quando la deputata centrista Isabelle Chappuis prese la parola:
ISABELLE CHAPPUIS
Cari colleghi e care colleghe, immaginate un mondo in cui i vostri pensieri non vi appartengono più veramente
BRUNO GIUSSANI
Un’entrata in materia che fece tacere l’aula, focalizzando l’attenzione sulla sua proposta: includere il sesto dominio, quello cognitivo, tra i principi attorno ai quali si articola la missione dell’esercito svizzero:
ISABELLE CHAPPUIS
La guerra cognitiva è un tipo di conflitto nuovo, più ampio e profondo della manipolazione delle informazioni o della propaganda che già conosciamo.
Mira a modificare la nostra percezione e risposta alla realtà, gradualmente e in modo subdolo, senza il nostro consenso e spesso senza che ce ne rendiamo conto.
Come funziona in pratica? Sfruttando una comprensione sempre più approfondita delle nostre funzioni cerebrali, grazie all’intelligenza artificiale e a un arsenale in continua evoluzione di strumenti basati sulle neuroscienze.
Queste tecnologie, inizialmente sviluppate per scopi positivi, possono ora essere utilizzate per portare la guerra dentro la mente umana
BRUNO GIUSSANI
Molte di queste tecnologie promettono, alla base, di migliorare le nostre prestazioni cognitive. Esse tuttavia creano anche la possibilità di influenzare il nostro modo di pensare e di prendere decisioni, sia su scala specifica – quella dell’individuo – che su scala universale – tutta la società.
Ma – domanda – è davvero di una questione di sicurezza nazionale, da affidare alle forze armate?
ISABELLE CHAPPUIS
Sì. Perchè la guerra cognitiva permette di aggirare le regole classiche del conflitto armato.
Può essere condotta a basso costo, in tempo di pace, senza una dichiarazione di guerra, rendendone molto difficile l’individuazione e la difesa.
Inoltre, non conosce limiti temporali né geografici.
La guerra cognitiva non è ancora considerata dalle dottrine militari consolidate, e non esistono regole internazionali
BRUNO GIUSSANI
Quel pomeriggio, la proposta della deputata ottenne la maggioranza dei voti in Consiglio Nazionale. Tre mesi dopo, anche l’altra camera del Parlamento, il Consiglio degli Stati, votò a favore.
Da allora, l’integrità cognitiva è parte integrante della missione difensiva dell’esercito svizzero. Difesa contro un tipo di conflitto poco costoso, sfuggente, che non causa danni materiali, che erode il confine tra pace e guerra, e che può essere plausibilmente negato.
Se Sun Tzu era un sostenitore della guerra senza combattimento, un altro stratega ha influenzato profondamente generazioni di militari favorendo l’approccio opposto.
Nel suo saggio « Sulla guerra », pubblicato postumo nel 1832, il generale prussiano Carl von Clausewitz parla del primato del combattimento, della battaglia come momento privilegiato e decisivo, in cui le differenze vengono risolte con la violenza armata.
Verso la metà del secolo scorso, il pensiero clausewitziano fu reso obsoleto dall’avvento delle armi nucleari e dal principio di deterrenza. Il loro immenso potere distruttivo ne rende l’uso infatti quasi impossibile.
Ma non divaghiamo. Torniamo al nostro tema da una via secondaria. Gli ultimi quarant’anni hanno visto il trionfo di un’altra tecnologia trasformativa, questa volta non militare: lo sviluppo delle catene di approvvigionamento globali, le « supply chains« , la logistica del trasporto di merci.
Vi chiederete: e cosa c’entrano?
In effetti, il loro sviluppo è stato guidato da considerazioni puramente economiche: la ricerca di costi di manodopera e di produzione più bassi e il libero scambio. È stato reso possibile da tecnologie che permettono un coordinamento sempre più sofisticato e una visibilità quasi in tempo reale dei flussi di merci, accompagnate da pratiche gestionali come il just-in-time e la minimizzazione delle scorte. L’esistenza di queste catene di approvvigionamento è una testimonianza dell’immensità dell’ingegno umano.
Qualunque cosa uno pensi dell’economia globalizzata e dei suoi effetti – e gli effetti nefasti sono numerosi e profondi – si tratta di una tecnologia organizzativa di formidabile sofisticazione.
Oltre ad aver contribuito alla globalizzazione economica, che non è il nostro tema, le catene di approvvigionamento globali hanno avuto anche un altro effetto. E questo ci interessa perché ha implicazioni per la sicurezza. Hanno avvolto quasi tutti i paesi del mondo in una rete di interessi economici reciproci e di interdipendenza. Ciò ha aumentato, e di molto, il costo e le conseguenze del conflitto armato diretto, che distrugge vite umane, entità sociali ed economiche e infrastrutture.
Ne è conseguito un interesse crescente per la guerra cognitiva. È invisibile, scalabile, poco costosa, non crea perturbazioni materiali e può essere condotta senza causare gravi danni all’infrastruttura della globalizzazione. Sebbene la guerra cognitiva neghi la visione di Clausewitz della battaglia violenta come momento di risoluzione delle differenze, essa è però pienamente in linea con quello che egli considerava lo scopo della guerra.
Nella prima pagina del suo trattato infatti, scrive: « La guerra è un atto di violenza volto a costringere l’avversario a fare la nostra volontà« .
Immaginiamo, con l’aiuto di una voce sintetica, una versione contemporanea di Clausewitz che avrebbe accesso a TikTok, a ChatGPT e alle ultime scoperte neurobiologiche:
VOCE SINTETICA
La guerra è un atto di interferenza informativa e di manipolazione cognitiva ideato per costringere l’avversario a fare la nostra volontà.
BRUNO GIUSSANI
Sebbene sia il più recente tra i domini della guerra contemporanea, il cognitivo è probabilmente il più esteso e importante, poiché riguarda la capacità di leggere la realtà e di agire su di essa, e quindi la condotta di tutti gli altri.
Americani, russi, cinesi, francesi e molti altri conducono da anni programmi di ricerca e sperimentazione in questo campo.
MAURO VIGNATI
Gli eserciti sono interessati a queste tecnologie, da un lato, principalmente per potenziarsi, per sfruttarle per amplificare le proprie capacità operative e quelle del loro personale e ottenere così una superiorità cognitiva.
Se vi viene in mente l’immagine del « soldato aumentato » di certi film futuristici: non siamo ancora lì, ma è sicuramente la direzione nella quale stiamo andando.
D’altro canto, l’intelligenza artificiale e le neurotecnologie sono anche considerate come armi per attaccare e degradare le facoltà cognitive del nemico, o per difendersi da tali attacchi.
BRUNO GIUSSANI
La voce che avete appena sentito è quella di Mauro Vignati, specialista della questione presso il Comitato Internazionale della Croce Rossa:
MAURO VIGNATI
Da un lato, gli eserciti devono proteggere i propri soldati e ufficiali, nonché la loro capacità di comprendere e prendere decisioni, dalle interferenze nemiche.
In questo senso, queste tecnologie possono contribuire a migliorare le loro prestazioni cognitive per far fronte alla crescente complessità della guerra.
Dall’altro, devono anche difendere la popolazione da infiltrazioni cognitive che possono minacciare la stabilità sociale, minare la fiducia tra cittadini e istituzioni, offuscare la percezione del rischio o indebolire la volontà di difendersi.
BRUNO GIUSSANI
Attardiamoci per un attimo sul primo punto sollevato da Vignati – la preservazione delle capacità decisionali – e proviamo a spiegarne il significato con un esempio. Esiste uno strumento per la pianificazione e l’esecuzione delle operazioni militari chiamato « il ciclo OODA », acronimo che sta per Observe, Orient, Decide, Act – Osservare, Orientarsi, Decidere, e Agire. È uno strumento che migliora la reattività e l’adattabilità degli eserciti, fornendo un quadro strutturato per il processo decisionale.
Ci sono due modi per operare all’interno di questo quadro.
Si può vincere completando il proprio ciclo più velocemente dell’avversario, oppure penetrando il suo ciclo con l’obiettivo di alterarlo.
Sebbene le quattro fasi appaiano equivalenti e sequenziali, il ciclo OODA dipende fortemente dalla seconda « O », l’orientamento, cioè l’analisi delle informazioni per decifrare la situazione e la posta in gioco. Ed è su quello che si concentrano le strategie di guerra cognitiva.
Se il nemico riesce a disorientarvi, poco importano l’altra O, la D e la A – quanto sia acuta la vostra osservazione, quanto veloci siano le vostre decisioni e efficaci le vostre azioni: sarete comunque indeboliti.
Questo rischio di disorientamento non è esclusivo dell’ambito militare. È diffuso:
MAURO VIGNATI
Viviamo in un contesto intriso di tecnologia e in sovra-informazione costante. La chiamiamo l’economia dei dati’, la « data economy », ma in realtà la sorveglianza e l’acquisizione dei dati sono semplicemente gli strumenti.
Il nocciolo di questa nuova guerra, come hanno chiaramente dimostrato qualche anno fa lo scandalo Cambridge Analytica e il suo ruolo nelle elezioni statunitensi e nel voto sulla Brexit, è l’influenza che può essere esercitata sul comportamento umano, sia esso commerciale, sociale, politico o militare
BRUNO GIUSSANI
La penetrazione digitale delle nostre vite quotidiane dà forma all’ambiente in cui questa influenza si manifesta.
Da sola dietro il proprio schermo, ogni persona diventa un potenziale bersaglio, ma anche un potenziale partecipante – un « soldato involontario » – nella battaglia cognitiva:
MAURO VIGNATI
La propaganda, l’assorbiamo in modo passivo. Ma nella guerra cognitiva, senza rendercene conto, ognuno di noi partecipa a plasmare l’ecosistema informativo.
Lo facciamo generando enormi quantità di dati, ma anche diffondendo informazioni.
Ad esempio, ogni volta che condividiamo un link a un video o a un articolo su un « social » senza esserci presi la briga di leggerlo o verificarlo, corriamo il rischio di prendere parte a una campagna di influenza cognitiva.
BRUNO GIUSSANI
Tecnologie che avrebbero dovuto democratizzare, aprire e renderci più uguali vengono quindi ora utilizzate per influenzare e per manipolare.
Torniamo a Jean-Marc Rickli, che abbiamo incontrato in una puntata precedente:
JEAN-MARC RICKLI
Tutte queste tecnologie sono a duplice uso. In genere, sono state progettate principalmente per scopi positivi: per usi civili, professionali, commerciali, ricreativi e terapeutici, per comunicare con gli amici o accedere a informazioni o altri aspetti della vita quotidiana. Ma vanno comunque a costituire un’infrastruttura per l’accesso diretto al nostro corpo e al nostro cervello.
L’uso crescente di queste tecnologie nella nostra vita quotidiana crea un fenomeno di assuefazione e dipendenza, che indebolisce la nostra capacità critica e ci rende meno sensibili ai rischi che esse rappresentano.
BRUNO GIUSSANI
L’osservazione di Rickli sull’assuefazione attraverso l’uso quotidiano va ben oltre i dispositivi a cui pensiamo subito, in particolare gli smartphone.
Infatti, porzioni sempre più ampie dell’ambiente nel quale viviamo sono governate da algoritmi: il frigorifero connesso che può controllare la quantità che consumiamo di un dato prodotto; la televisione « smart » che non solo sa cosa stiamo guardando, ma ci punta una telecamera addosso mentre lo facciamo; lo specchio connesso, che potrebbe rilevare la nostra stanchezza e consigliarci – ma probabilmente anche condividere le informazioni con altri che sapranno come usarle.
La tecnologia pervasiva può avere un impatto sulla nostra cognizione semplicemente per il fatto che esiste tutt’attorno a noi.
A ciò fa eco l’analisi degli autori cinesi Qiao Liang e Wang Xiangsui, rispettivamente generale e alto funzionario pubblico, il cui libro del 1999 « Guerra senza limiti » include il seguente paragrafo:
VOCE SINTETICA
Deve essere chiaro che il nuovo concetto di armamento sta dando vita ad armi strettamente legate alla vita delle popolazioni civili.
Se la nostra prima osservazione è che la comparsa di armamenti di nuova concezione porterà certamente la guerra futura a un livello difficile da immaginare per gli individui – e persino per i militari – la seconda è che il nuovo concetto di armamento susciterà grande stupore – sia tra la gente comune che tra i militari – causato dal fatto che oggetti banali e familiari possono anche diventare armi da guerra.
Crediamo che un bel mattino la gente si sveglierà e scoprirà con sorpresa che oggetti d’uso comune e pacifici avranno acquisito proprietà offensive e mortali.
BRUNO GIUSSANI
In realtà, non è necessario immaginare delle intenzioni malevole da parte di qualcuno. Il semplice uso di dispositivi connessi induce già cambiamenti diretti nel modo in cui ci relazioniamo con il mondo. La nostra memoria si deteriora perché prendiamo l’abitudine di cercare informazioni su Google. La nostra rappresentazione della realtà diventa sfocata a causa della difficoltà di distinguere il vero dal falso e il reale dal virtuale.
La nostra capacità di pensare la complessità crolla sotto il peso dell’ipervelocità, dell’immediatezza e delle emozioni. La nostra fiducia viene gradualmente delegata al GPS, così che quando il cartello stradale indica « sinistra » e il navigatore dice « destra », svoltiamo a destra. Ci siamo abituati ad aspettarci risposte immediate, e gli esseri umani sono troppo lenti. Tutto questo, e molte altre distorsioni e scorciatoie mentali, rendono le nostre menti sempre più vulnerabili.
Le innovazioni tecnologiche, che si tratti dell’invenzione della polvere da sparo o dei satelliti, hanno sempre portato a cambiamenti nelle organizzazioni e nelle dottrine militari. Alcune tecnologie, come Internet o il GPS, sono state inizialmente sviluppate per scopi militari, per poi infiltrarsi nella nostra vita quotidiana.
L’esercito statunitense lavora sulla guerra cognitiva da oltre dieci anni. Anche russi e cinesi hanno sviluppato dottrine specifiche, sulle quali riprendiamo qui alcuni elementi del rapporto preparato per la NATO da François du Cluzel.
L’uso da parte della Russia della guerra algoritmica asimmetrica è ben documentato, in particolare le interferenze elettorali ottenute con la diffusione di informazioni false, fuorvianti e divisive attraverso i « social », le cosiddette fabbriche di troll e gli attacchi informatici.
Queste operazioni sfruttano la natura aperta delle società occidentali e dei loro ecosistemi mediatici. L’approccio russo si basa su tecniche e approcci sviluppati già dall’Unione Sovietica.
L’obiettivo, tuttavia, non è più quello di convincere gli altri della superiorità del proprio sistema. Piuttosto, si tratta di seminare dubbi e sfiducia e, in ultima analisi, di indebolire il sistema nemico dall’interno. Questo approccio, noto come « Dottrina del Controllo Riflessivo« , mira a spingere gli avversari ad agire nell’interesse della Russia, modificando la loro percezione del mondo, con l’obiettivo secondario di convincere il bersaglio che è comunque lui che decide.
La Cina, come è noto, utilizza orizzonti di pianificazione strategica più lunghi rispetto ai paesi occidentali. Ha una politica esplicita di duplice utilizzo civile E militare delle tecnologie. Le sue operazioni cognitive sono strutturate attorno a due assi: la cognizione fondamentale, che include approcci e tecnologie che influenzano la capacità di pensiero e di funzionamento di un individuo, e la cognizione subliminale, che si concentra su emozioni, forza di volontà e convinzioni.
Tra l’altro, l’esercito cinese da anni identifica personalità straniere che ricoprono importanti posizioni politiche, militari e diplomatiche. Questi database contengono informazioni su decine di migliaia di individui e costituiscono un chiaro elenco di obiettivi prioritari per delle operazioni cognitive.
Cerchiamo di capire meglio come si svolge un’operazione di influenza, con l’aiuto di Jean-Marc Rickli:
JEAN-MARC RICKLI
Un articolo recente pubblicato da ricercatori legati all’esercito cinese identifica quattro fasi in un confronto cognitivo.
La prima è quella che chiamano « perturbazione dell’informazione« . È un po’ simile a ciò che fanno i russi in termini di controllo riflessivo, disseminando narrazioni che permettano di definire in modo a loro favorevole i termini del dibattito.
La seconda fase è definita competizione discorsiva. Si basa su ciò che spiega lo psicologo Daniel Kahneman, nel suo libro « Pensieri lenti e veloci », cioè il fatto che ognuno di noi ha due sistemi di riflessione e decisione. Il Sistema 1, che è sistema istantaneo, intuitivo ed emotivo che funziona su impulsi e pregiudizi, e il Sistema 2, che è molto più lento, più razionale. C’è quindi un’asimmetria tra il modo e la velocità nelle quali questi sistemi funzionano. La competizione discorsiva prende di mira il sistema 1, i pregiudizi, rinforzando quelli esistenti, creadone di nuovi, per alimentare lo sviluppo di bolle informative.
BRUNO GIUSSANI
E la natura stessa di una bolla informativa è che è molto difficile uscirne per prendere in considerazione informazioni che contraddicono o smentiscono ciò in cui si crede.
JEAN-MARC RICKLI
Il terzo passaggio è quello che chiamano il blackout dell’opinione pubblica, che usa l’analisi attitudinale per creare una mappatura di una determinata popolazione, ovvero per identificare chi tra la popolazione pensa A oppure pensa B. Per poi, in particolare attraverso i « social », inviare informazioni mirate in quantità massicce. Una specie di attacco per sciame, uno « swarm » come si dice in inglese, a livello cognitivo.
Si possono creare così situazioni confuse e caotiche.
Si tratta di qualcosa di completamente nuovo rispetto a quanto visto in passato nel campo della disinformazione o della guerra psicologica, quando si diffondevano messaggi nella speranza che una parte della popolazione vi rispondesse. Oggi, invece, stiamo entrando in una dimensione in cui è possibile identificare con precisione i singoli individui, analizzarne i comportamenti e inviare loro informazioni mirate, in modo da orientarne le reazioni secondo degli obiettivi precisi
BRUNO GIUSSANI
Queste operazioni sono invisibili e possono aver luogo anche in tempo di pace.
È solo la quarta fase che assomiglia alla guerra convenzionale:
JEAN-MARC RICKLI
Sarebbe la fase in cui s’impedisce all’avversario di reagire, in particolare neutralizzando i suoi stessi sistemi di comunicazione e i suoi sistemi digitali.
BRUNO GIUSSANI
In altre parole, attaccando digitalmente, o addirittura bombardando, le sue infrastrutture fisiche.
Di fronte al rapido riallineamento degli equilibri globali, i paesi europei stanno attualmente perseguendo ambiziose politiche di riarmo. Ciò comporta la reinvenzione, dopo anni di « dividendi della pace » e di noncuranza, di assetti di sicurezza ormai inadeguati.
Alla luce di quanto detto finora, e del fatto che gran parte delle campagne cognitive conosciute veicolano visioni antidemocratiche, sembrerebbe quindi naturale che i nuovi bilanci della difesa, in crescita quasi ovunque, contengano un capitolo consistente dedicato alla minaccia cognitiva.
Un primo passo è l’istituzione di sistemi di monitoraggio e di segnalazione precoce. La Francia, ad esempio, ha creato nel 2021 un servizio responsabile del monitoraggio e della protezione dalle interferenze digitali straniere, chiamato Viginum.
Il suo mandato è, cito, di « proteggere il dibattito pubblico dalla manipolazione di informazioni provenienti dall’estero sulle piattaforme digitali« . Altri paesi hanno adottato iniziative simili:
JEAN-MARC RICKLI
Nel 2022 la Svezia ha istituito l’Agenzia di Difesa Psicologica, in particolare in risposta alla guerra in Ucraina, poiché i paesi nordici sono, ovviamente, in prima linea in termini di tentativi d’influenza russi.
Ma non è una vera novità, perché gli stati neutrali, in particolare Svezia, Finlandia – e anche la Svizzera attraverso il suo concetto di Difesa generale – avevano già integrato questa nozione di resilienza e difesa psicologica della popolazione durante la Guerra Fredda.
Ciò che è cambiato, è il contesto internazionale, ma soprattutto i mezzi tecnologici che rendono possibile condurre una guerra cognitiva.
BRUNO GIUSSANI
Abbiamo iniziato questa puntata con François du Cluzel e il suo rapporto per la NATO.
Avviamoci alla conclusione leggendone ancora qualche riga:
VOCE SINTETICA
L’obiettivo della guerra cognitiva è di danneggiare la società, non solo le forze armate.
Il concetto moderno di guerra non riguarda le armi, ma l’influenza.
Per plasmare le percezioni e controllare la narrazione, la battaglia dovrà essere combattuta nel dominio cognitivo con un approccio totalizzante. Ciò richiederà un migliore coordinamento tra l’uso della forza e le altre leve d’azione all’interno del governo.
Potrebbe pure implicare cambiamenti nel modo in cui l’esercito è dotato di risorse, attrezzature e organizzazione, in modo da disporre di opzioni militari al di sotto della soglia del conflitto armato e migliorare il contributo militare alla resilienza
BRUNO GIUSSANI
Jean-Marc Rickli inquadra la risposta militare in un approccio più ampio:
JEAN-MARC RICKLI
Se consideriamo quali paesi hanno maggiori probabilità di essere soggetti a sovversione, sono le democrazie, perché le democrazie danno libero accesso ai cittadini, cosa che non accade negli stati autoritari.
Questa asimmetria di accesso rende le operazioni di contro-sovversione molto più difficili per una democrazia contro uno stato autoritario di quanto non lo sia l’inverso.
Rispondere ai tentativi di guerra cognitiva richiede quindi una risposta multifattoriale, su tutto lo spettro.
Operazioni sia civili che militari. E ciò implica che la risposta sia prevalentemente non militare.
In altre parole, dobbiamo aumentare la resilienza di tutta la popolazione e degli individui a questo tipo di attacco.
BRUNO GIUSSANI
Di fronte alla cattura dello spazio pubblico e personale da parte delle piattaforme tecnologiche, in particolare americane, e all’aumento dei rischi digitali, nel dibattito politico europeo è emerso il concetto di « sovranità digitale ». Ovvero, la capacità di un Paese di proteggere i propri dati, le proprie infrastrutture e di mantenere la propria autonomia strategica.
Si tratta di un tema complesso che, da un punto di vista tecnico, tocca elementi la cui territorialità (e quindi il grado di sovranità applicabile) è variabile: hardware, software, reti, dati, la loro aggregazione e il loro sviluppo.
Le strategie proposte o implementate sono generalmente normative, come l’obbligo di ospitare determinati tipi di dati all’interno dei confini nazionali, o tecniche, come la creazione di infrastrutture digitali nazionali o di nuovi standard di sicurezza.
Esiste quindi, sia negli ambienti politici ed economici che nell’opinione pubblica, una certa consapevolezza dei rischi associati alla dipendenza da attori tecnologici stranieri. Tuttavia, la minaccia cognitiva pone interrogativi che vanno oltre il « dove sono ospitati i nostri dati » e « usiamo soluzioni tecniche locali » – tutte misure essenziali, ma insufficienti.
E’ necessario, per proteggere una forma di autonomia intellettuale che consenta a individui e società di controllare la propria percezione della realtà e di prendere decisioni informate e indipendenti, di pensare anche in termini di sovranità cognitiva.
Nei prossimi due episodi parleremo di risposte non militari alla minaccia cognitiva: dapprima quelle legali e regolamentari, e poi quelle sociali, individuali, educative e culturali.
Per oggi ci fermiamo qui.
Sono Bruno Giussani e questo è il Deftech Podcast. Grazie per il vostro ascolto.
Deftech Podcast
Idea e proiezione : Quentin Ladetto
Minaccia cognitiva
Ideazione e redazione : Bruno Giussani
Produzione : Clément Dattée
Realizzazione : Anna Holveck
Registrazione : Saverio Damiani
Mixaggio : Saverio Damiani e Johann Conand
Copertina : Cécile Cazanova
Finzione
Redazione : Martin Quenehen
Attrice : Elaine Miranda
Progettazione del suono : Felix Davi
Bonjour Monsieur Giussani et Monsieur Ladetto,
merci pour vos efforts fantastiques dans le domaine du cognitive warfare! Un sujet très important et malheureusement presque totalement ignoré.
Alors que je compile actuellement un bref aperçu du domaine, j’ai découvert que, non mentionné dans la plupart des textes ultérieurs, le concept remonte au moins à une thèse de maîtrise intitulée « Cognitive Warfare » par Stuart A. Green au Joint Military Intelligence College des États-Unis en 2008. Cette thèse de maîtrise de 300 pages me semble très fondamentale dans le développement du domaine.
Cordialement,
Andreas Leiser
Bonjour Monsieur Leiser,
Un grand merci !
Le document mentionné est téléchargeable ici –> Cognitive Warfare
Très cordialement,
Quentin
Merci M. Leiser, pour vos mots sur le podcast et aussi pour l’information. Dans le podcast on n’a pas cherché l’origine du concept, s’appuyant plutôt sur des documents plus récents de l’OTAN et autres, mais c’est une information précieuse. Merci, cordialment, Bruno Giussani
Cher Monsieur Giussani,
Je vous en prie ! Si vous lisez ceci et connaissez d’autres travaux peu connus ou antérieurs, je serais très intéressé. Un petit mot ici ou par courriel serait apprécié.
Dans le cadre d’un petit projet personnel parallèle, je m’intéresse particulièrement à deux sujets : (1) Quel peut être l’apport des mathématiques et de la cryptologie au domaine de la guerre cognitive ? (2) Comment une société libre et démocratique peut-elle transformer un désavantage perçu ou réel dans ce domaine en un avantage par rapport aux systèmes autoritaires/totalitaires ?
Comme je l’ai dit, tout ceci est un projet parallèle en cours de développement … Purely interest driven side project 🙂
Andreas
En complément, voici quelques extraits que je ne peux que recommander :
– Asma Mhalla
– Xiangsui, Wang; Liang, Qiao
– François Jullien