Q217 | Comment rendre l’intelligence moins artificielle ?

J’ai rédigé cet article à l’issue d’un cours dispensé ce mois-ci aux étudiants en master 2 de communication, intitulé « Impacts et enjeux numériques de l’IA en communication ». C’est aussi une réflexion largement nourrie par les échanges quotidiens sur le sujet avec Quentin Ladetto et Anne-Caroline Paucot à propos du programme ambitieux de l’Anticipascope.

Vous avez remarqué ? L’intelligence artificielle, l’IA, infiltre chaque recoin de notre quotidien. Du contenu que nous consommons aux décisions que nous prenons, elle influence de manière parfois invisible notre manière de penser et d’agir. Nos choix musicaux sont, par exemple, largement guidés par les algorithmes de plateformes comme Spotify, qui nous suggèrent des playlists en fonction de nos écoutes. Netflix oriente nos choix de séries et de films en fonction de nos préférences et de celles d’autres utilisateurs.

Ce phénomène ne concerne plus seulement les secteurs technologiques ou scientifiques, mais s’étend désormais à des domaines aussi variés que l’éducation, les médias, la politique, les entreprises, et même le secteur militaire.

D’où mon interrogation : cette évolution annonce-t-elle l’avènement d’une future symbiose entre l’humain et la machine. Nous amène-t-elle vers une sorte de fusion des intelligences ? À quoi ressemblera un avenir dans lequel l’humain et l’IA cohabitent au sens littéralement symbiotique ? Au point de ne plus pouvoir exister l’un sans l’autre ?

Faut-il faire confiance à l’IA ?

L’une des premières observations frappantes est la place que l’intelligence artificielle a prise dans les médias. De plus en plus de médias s’appuient sur des outils de génération automatique de contenus pour produire des articles en masse. Le site d’information CNET, avait révélé fin 2022 avoir publié une série d’articles rédigés de façon autonome par l’IA, avant de prendre la décision de les supprimer à cause de nombreuses erreurs.

« L’homme a toujours utilisé des machines pour aller plus vite, plus loin, mais lorsqu’il oublie de se poser les bonnes questions, il peut en perdre le contrôle », affirmait déjà George Orwell dans son livre « 1984« . Une réflexion qui résonne particulièrement bien aujourd’hui.

Cette délégation de tâches – auparavant purement humaines – à des algorithmes transforme des secteurs entiers de l’économie, mais aussi de l’éducation. À l’université où j’enseigne, les étudiants s’appuient de plus en plus sur des outils comme ChatGPT, Copilot ou Gemini pour rédiger leurs devoirs et leurs TP. Ces outils, bien que puissants, sont encore loin d’être infaillibles. Des confrères enseignants m’ont avoué être fatigués de lire des travaux contenant des erreurs grossières et des incohérences que les étudiants ne sont plus même plus capables de voir. Là encore, le problème n’est pas tant l’outil en lui-même, mais davantage le manque de discernement des utilisateurs qui acceptent sans critique le résultat généré par l’IA.

Le problème n’est pas tant l’outil en lui-même, mais davantage le manque de discernement des utilisateurs qui acceptent sans critique le résultat généré par l’IA

Quand les algorithmes se mêlent d’écrire l’avenir (et nos discours)

Cette tendance s’observe également dans le monde de la communication politique. Lorsque l’écriture d’un programme, d’un discours ou de messages pour les réseaux sociaux sont assistés par l’IA, la possibilité de propager des informations inexactes met en danger le principe même de démocratie. On peut s’inquiéter de façon légitime des conséquences. Lorsque l’IA intervient dans le domaine sensible de l’opinion publique, elle ne peut plus être perçue comme un simple outil. Elle devient un acteur d’influence à part entière.

Le leader politique devient « un homme creux […] dont les thèmes de sa conversation lui sont donnés par ceux qui l’interrogent » (1). Le mot d’ordre suivi par le candidat Trump en 2016 était « Never be boring » (ne jamais être ennuyeux).

L’unique différence entre les candidats se mesurant alors dans leur capacité à faire le meilleur spectacle. En saturant l’espace, médiatique et social médiatique, à l’aide de centaines de milliers de messages ciblés, hyperpersonnalisés, générés par ceux que Guiliano da Empoli nomme les ingénieurs du chaos (2).

Les communicants des candidats politiques étant remplacés par des ingénieurs en algorithmes, qui manipulent les foules en s’appuyant de moins en moins sur les mots, et de plus en plus sur des datas.

la possibilité de propager des informations inexactes met en danger le principe même de démocratie.

La coévolution homme-machine, ultime évolution darwinienne ?

L’essor de l’IA m’amène donc à la réflexion suivante : assistons-nous à une transformation dans laquelle les machines influencent directement nos choix, ou bien est-ce nous qui façonnons encore ces intelligences ? En réalité, la frontière entre humain et IA s’estompe. Les interfaces se veulent de plus en plus conviviales, presque humaines. Des chatbots imitent des conversations naturelles. Au point que certains utilisateurs se surprennent à oublier qu’ils échangent avec un logiciel.

Le réalisateur Spike Jonze l’avait exploré dans son film Her, où un homme développe une relation amoureuse avec une IA. Bien que ce scénario semble encore éloigné de notre réalité, il illustre parfaitement cette idée de convergence entre humain et machine. Ce n’est plus seulement une question de technologie : l’IA devient un partenaire, un assistant, un conseiller. Jusqu’où peut aller cette coévolution ?

Iain M. Banks, dans Le Cycle de la Culture, propose une vision dans laquelle l’IA et les humains cohabitent dans une société équilibrée, où les machines sont omniprésentes et omniscientes, mais jamais tyranniques. Ce modèle utopique pourrait-il représenter notre avenir ? Ou bien sommes-nous en train de céder trop de contrôle à des systèmes que nous comprenons à peine ?

De l’entretien d’embauche à la guerre, l’IA prise en flagrant délit d’abus de pouvoir

La coévolution entre l’humain et l’IA s’illustre également dans le monde des entreprises, où de plus en plus de dirigeants confient des décisions stratégiques à des systèmes d’IA. Prenons l’exemple d’Amazon, qui avait mis en place un algorithme pour optimiser ses processus de recrutement. Loin d’être un succès, l’IA a rapidement révélé des biais sexistes, discriminant les candidatures féminines. Cet épisode pointe le danger : si nous laissons les machines prendre des décisions sans notre intervention, nous risquons de reproduire — et même d’aggraver — les biais préexistants dans les données qui nourrissent ces algorithmes.

Dans le domaine militaire, la dépendance aux systèmes d’IA soulève des questions parfois vitales. Bien que les systèmes d’armes autonomes n’aient pas encore déclenché d’actions létales sans contrôle humain, l’idée que cela puisse arriver n’est pas une simple fiction. Là où une opportunité technologique existe, il y aura toujours une personne pour la mettre en œuvre. Quelles seraient les conséquences si nous déléguions toute notre confiance aux machines ?

C’est une question qui se pose à l’heure des conflits israélo-palestinien et russo-ukrainien, dans lesquels on assiste, d’abord, au phénomène de déshumanisation du conflit. Les opérateurs, éloignés physiquement, et guidés par des datas traitées par des algorithmes, peuvent percevoir leurs actions comme moins réelles ou moins conséquentes que des combattants luttant face à face sur un théâtre d’opération. Et, par ailleurs, à l’augmentation de l’asymétrie des conflits. Le pays disposant de plus de datas et de technologies avancées prenant un avantage décisif sur la partie adverse. La course à la supériorité opérationnelle de l’IA devient une composante clé de la course à l’armement.

Demain, le contrôle humain, dans l’entreprise comme à la guerre, pourrait-il se réduire à une simple supervision ? Transformant les opérateurs — civils ou militaires — en spectateurs passifs des décisions de l’IA ?

Là où une opportunité technologique existe, il y aura toujours une personne pour la mettre en œuvre.

Jusqu’où l’hypothèse d’une symbiose homme-machine peut-elle nous conduire ?

Si l’on observe les évolutions actuelles, il devient clair que la relation homme-machine ne fait que se renforcer. Dans le domaine de l’éducation, par exemple, l’IA ne se contente plus de fournir des réponses : elle devient un assistant à l’apprentissage, capable de personnaliser les parcours éducatifs en fonction des besoins individuels.

Les enseignants eux-mêmes pourraient se voir assistés par ces technologies, les incitant à adopter de nouvelles méthodes pédagogiques. Je pense notamment à des méthodes centrées sur l’analyse de données en temps réel des apprenants pour aboutir à une personnalisation totale de l’apprentissage.

De la même manière, dans les entreprises, les dirigeants ne peuvent plus ignorer le potentiel de l’IA pour améliorer la gestion prévisionnelle et décisionnelle. Mais, la question reste : cette cohabitation entre l’humain et l’IA conduira-t-elle à un partenariat équilibré ou à une perte de contrôle progressive ?

William Gibson, dans Neuromancien, avait anticipé un monde où les frontières entre l’homme et la machine se floutent complètement. Un monde dans lequel l’humain est littéralement connecté à des systèmes informatiques.

Nous n’y sommes peut-être pas encore. Lorsque je vois notre dépendance quotidienne au smartphone, pour nous déplacer, pour communiquer, pour payer et pour tous les autres usages dont nous ne pouvons plus nous passer, je me dis qu’on n’en est pas si loin.

Scénarios pour un futur partagé

Imaginons deux scénarios possibles pour cette relation homme-machine symbiotique.

Dans le premier, les IA deviennent des partenaires indispensables dans tous les secteurs. Apportant une efficacité accrue tout en permettant à l’humain de se concentrer sur des tâches plus créatives. Dans ce futur, l’IA ne remplace pas l’humain. Mais il le complète. Les décisions, prises conjointement, reposent sur une intelligence augmentée, combinant la rapidité de l’algorithme et le jugement humain. Cette vision, que je qualifierai d’optimiste, évoque un avenir dans lequel les humains et les IA forment une symbiose fonctionnelle et harmonieuse, où chaque entité bénéficie des capacités de l’autre.

Dans le second scénario, l’humain délègue l’essentiel de ses activités à l’IA. Au point d’en perdre progressivement le contrôle. Et, insidieusement, de perdre la capacité à reprendre la main de façon autonome. La confiance dans les algorithmes conduit alors à des erreurs systémiques, à des décisions opaques et à une dépendance croissante aux systèmes automatisés. Dans ce futur, l’intelligence humaine cesse de se développer sur tous les aspects couverts par les capacités des IA. De ce fait, aurons-nous encore besoin de savoir compter, lire ou écrire, dessiner, mémoriser, et, finalement, de savoir conceptualiser, si tout cela est mieux fait par les machines ? Dans ce scénario, on peut se demander quelle forme prendra l’intelligence humaine, une fois délestée de ces compétences ?

L’avenir de cette symbiose : une question ouverte

En fin de compte, la question que je me pose n’est pas tant de savoir si cette symbiose est souhaitable ou non. Mais plutôt celle de déterminer jusqu’à quel point l’homme, sa culture et la société vont changer sous l’influence croissante des systèmes d’intelligences artificielles.

Il est probable que l’avenir mêlera ces deux scénarios. Des domaines où la collaboration entre l’humain et l’IA apportera de réels bénéfices. Et d’autres où les dérives devront être anticipées et corrigées avant d’atteindre le point de non-retour de l’obsolescence programmée des humains.

Comme le soulignait Iain M. Banks, « La technologie est au service de la société, mais elle ne doit jamais en devenir le maître. » C’est bien à nous de définir la place de l’IA dans nos vies, en gardant à l’esprit que, si les machines peuvent nous aider, elles ne doivent jamais nous remplacer.

Pour rester humaine, l’intelligence devra donc apprendre à devenir un peu moins artificielle.