Version in English
« Désinformation ». Les media se sont emparés de cette notion, pour nous l’expliquer et nous faire prendre conscience des différentes manifestations de ce fléau. Jusqu’il y a peu, on pouvait, dans certains pays démocratiques et dans le cadre d’une éducation standard tout au moins, croire qu’il s’agissait d’une dérive partielle à juguler, en nous efforçant de mettre en évidence le faux et le malintentionné pour faire triompher le juste et le vrai.
C’était le temps du fact checking ! Il est clair désormais, tant les indices abondent, qu’on ne se trouve plus du tout dans cette relation.
Avant même l’avènement des IA génératives, les media sociaux rapidement weaponisés, la multi-polarisation politique et économique du monde, les agissements de trolling, le cyberhacking de rançon et les menaces cyber sur les infrastructures critiques, la production de contenus discutables, voire intentionnellement pollutifs (visant à pas seulement à tromper, mais aussi à diviser, déstabiliser, créer de la confusion) avaient déjà propulsé le problème dans un registre se situant au-delà du vrai ou du faux.
La guerre hybride et multi-fronts, avec les activités « cyber-agressives » d’un certain nombre de pays favorables à ce type de conflits, ont généré une guerre non seulement de l’information, mais des idées et des récits (narratives).
Une affiche du PLR pour les élections fédérales suisses 2023 pose la question de l’intelligence artificielle en politique et plus largement de la désinformation.
Avec un slogan en sous-titre qui souligne «innover plutôt que bloquer», elle met en scène cinq activistes qui bloquent le trafic dans une rue de centre-ville, et empêchent ainsi notamment une ambulance de passer.
Sauf que cette scène ne s’est jamais produite dans le monde réel.
La désinformation est moins une affaire de media sociaux ou physiques mal contrôlés, qu’un glissement de certaines fabriques de trolls vers des cyber attaques et des menaces plus vitales pour brouiller l’entendement et affaiblir certains groupes ou pays. C’est avant tout une concurrence de grands récits pour recruter et embrigader des affidés, des communautés, des pays, voire des cultures ou des régions entières. Un affrontement très ouvert à l’échelle de la planète.
Avec l’IA et notamment l’IA générative, l’activité de brouillage devient industrielle, pouvant jouer sur tous les supports communicationnels (texte, voix, image, vidéo) ; en somme, l’outil idéal dans une guerre d’influence multi-polaire et à géométrie variable.
Pour l’instant, la guerre informationnelle présente un fort accent anti-occidental (critiques des démocraties se prévalant de valeurs universelles, avec leurs nombreuses contradictions), et dans les pays démocratiques, aussi souvent une dimension anti-système (les mouvements conspirationnistes), voire anti-élites (les partis populistes). Cette tendance lourde et les problèmes qu’elle pose ne se résoudra pas par l’obstination à vouloir établir le vrai et le juste, mais par le fait que certains récits auront suffisamment d’adhérents pour être tenus pour une référence crédible et motivante.
Bien entendu, dans ce processus, il y a des efforts, dont certains soutenus par la recherche scientifique, pour débusquer les discours de haine et les biais à l’égard des minorités. Cela consiste donc à évaluer par des méthodes algorithmiques les travers d’autres démarches algorithmiques.
Mais de quelle couleur est le caméléon qui se place sur un autre caméléon ?
Pour aller plus loin, beaucoup misent sur l’IA. Or, celle-ci est utilisé aussi bien pour attaquer que pour protéger, et on peine encore, au plan de la réglementation, à contrôler les conditions de production (datasets source, design) et à soutenir les effets réellement « human-centric ».
Au nombre des exigences sous-jacentes à cette référence figure notamment le droit à pouvoir être informer et à débattre sans devoir se confronter à une pollution communicationnelle massive. Or, la désinformation fait également l’objet d’innovation. Il existe des groupes et des puissances organisées pour désinformer (Note de la rédaction: lire à ce propos entre autre Les ingénieurs du chaos de Giuliano da Empoli), en grande partie hors d’atteinte, pour produire des contenus pas nécessairement faux (même si cela existe aussi), mais porteurs de divisions, de brouillage, d’incertitude, de dangers aussi, comme autant de manières d’étendre leur influence politique et/ou économique.
De nouvelles alliances, de nouvelles formes de gouvernance, des réglementations innovantes, avec des approfondissements sans cesse affinés devront être mis en place. On observe ainsi l’exemple de l’UE qui, avec une bonne vingtaine de mesures de réglementation, au sein desquelles un des objectifs est de mitiger la propension désinformationnelle sous ses formes les plus connues, tente de faire progresser ce domaine de pratiques et d’obligations. A l’heure actuelle, un rapide état des lieux nous force toutefois à constater que le chemin vers cet état plus satisfaisant de la communication dans le monde est encore long. L’examen des récits dominants, comme le fait par exemple Reimagine Europa, est aussi un pas en avant.
La promotion des formes ouvertes de la connaissance et de la production de celle-ci en représente un autre : open source, open science, open data, open innovation, etc., pour compenser le rapport de force défavorable dans lequel des efforts d’autonomie et de préservation des valeurs (l’humain au centre) s’inscrivent.
Le futur ? La façon dont le contexte politiquement fracturé que nous connaissons va évoluer et faire en quelque sorte « gagner » certains récits recruteurs plutôt que d’autres va jouer un rôle fort, dans l’immédiat et pour quelques années encore sans doute.
La manière dont pendant ce temps la volonté de gérer le défi climatique ou au contraire de renforcer les points de vue climato-sceptiques va être arbitrée et se traduire ou non par des actions concrètes, avec leur cortège d’effets sociaux et économiques négatifs possibles, constituera aussi un paramètre décisif. L’IA, enfin, comme outil de détection, de défense, mais aussi de brouillage et d’attaque, sera également une ligne de crête dans ce défi.
Mais ce qui va faire la différence, ce sont les compétences nouvelles que l’individu, les organisations, les communautés et les états devront acquérir, non pas une fois pour toutes, mais comme une capacité d’apprendre en permanence pour discerner dans le bruit et la confusion, les références et les pistes de travail sinon salvatrices, du moins constructives et inclusive.
Q189 | What scenario, what dominant narrative should be used in the face of disinformation?
Version en français
« Disinformation ». The media have seized on this notion, to explain it to us and make us aware of the different manifestations of this plague. However, they most often only express a certain dismay at the scale and multi-dimensionality of this phenomenon. Until recently, in some democratic countries and in the context of standard education at least, it was possible to believe that this was a partial drift to be curbed, by striving to highlight the false and the ill-intentioned in order to make the just and the true triumph.
Those were the good times, the valiant days of fact-checking. It is now clear, as the clues abound, that we are no longer in this relationship at all.
Even before the advent of generative AI, the rapidly weaponized social media, the political and economic multi-polarization of the world, as well as trolling activities, cyberhacking for ransom and cyber-threats on critical infrastructures, the production of questionable or even intentionally polluting content (aimed not only at deception, but also at dividing, destabilizing, creating confusion) had already propelled the problem into a register beyond the true or the false.
Hybrid and multi-frontal warfare, with the « cyber-aggressive » activities of a number of countries that favor this type of conflict, has generated a war not only of information, but of ideas and narratives.
A PLR poster for the 2023 Swiss federal elections raises the issue of artificial intelligence in politics and, more broadly, disinformation.
With a subtitle that emphasises « innovate rather than block », it shows five activists blocking traffic in a city-centre street, preventing an ambulance from getting through.
Except that this scene never happened in the real world.
Disinformation is therefore not just a matter of poorly controlled social or physical media, but a shift from certain troll factories to cyber-attacks and more vital threats to confuse understanding and weaken certain groups or countries. Above all, it emerges as a competition of grand narratives and their spoksmen to recruit affiliates, communities, countries, and even entire cultures or regions. A very open confrontation on a global scale.
With AI, and in particular generative AI, the activity of jamming is becoming industrial, being able to play on all communication media (text, voice, image, video); in short, the ideal tool in a multi-polar and variable-geometry war of influence.
For the time being, information warfare has a strong anti-Western focus (criticism of democracies that claim universal values, with their many contradictions), and in democratic countries, also often an anti-system dimension (conspiracy movements), or even an anti-elite dimension (populist parties). This heavy trend and the problems it poses will not be resolved by the obstinacy of wanting to establish the true and the just, but by the fact that certain narratives will have enough adherents to be considered a credible and motivating reference.
Of course, in this process, there are efforts, some of them supported by scientific research, to root out hate speech and bias against minorities. It therefore consists of evaluating the shortcomings of other algorithmic approaches using algorithmic methods.
But what color is the chameleon that stands on top of another chameleon?
To go further, many are betting on AI. However, it is used both to attack and to protect, and it is still difficult, in terms of regulation, to control production conditions (source datasets, design) and support truly « human-centric » effects.
Among the requirements underlying this reference is the right to be informed and to debate without having to confront massive communication pollution. However, disinformation is also the subject of innovation. There are groups and powers organized to disinform (Editor’s note : read more on this subject on Les ingénieurs du chaos from Giuliano da Empoli), largely out of reach and therefore with impunity, to produce content that is not necessarily false (even if it also exists), but that conveys divisions, confusion, uncertainty, and dangers as well, as so many ways of extending their political and/or economic influence.
New alliances, new forms of governance, innovative regulations, with constantly refined deepening will have to be put in place. One example is the EU, which is trying to advance this area of practices and obligations with more than twenty regulatory measures, one of the objectives of which is to mitigate the propensity for disinformation in its most well-known forms. At present, however, a quick assessment of the situation forces us to note that the road to this more satisfactory state of communication in the world is still long. Examining dominant narratives, such as Reimagine Europa is doing, is also a step forward.
The promotion of open forms of knowledge and its production is another one: open source, open science, open data, open innovation, etc., to compensate for the unfavourable balance of power in which efforts to achieve autonomy and the preservation of values (with people at the centre) are part of.
The future? The way in which the politically fractured context we are experiencing will evolve and some recruiting narratives « win » rather than others will play a strong role, in the immediate future and probably for a few more years.
The way in which, during this time, the will to manage the climate challenge or, on the contrary, to strengthen climate-sceptic points of view will be arbitrated and whether or not it will be translated into concrete actions, with their procession of possible negative social and economic effects, will also be a decisive parameter. Finally, AI, as a tool for detection, defense, but also jamming and attacking, will also be a ridge line in this challenge. And sooner or later, sorcerer apprentices will complicate this landscape with neuro-bio proposals of various kinds, which will also have to be coped with.
But what will make the difference are the new skills that the individual, organizations, communities and states will have to acquire, not once and for all, but as a capacity to learn constantly in order to discern in the prevailing noise and confusion, some references and positive avenues of work, if not life-saving, at least constructive and inclusive.
