Guillaume Grallet est rédacteur en chef Sciences et Tech au magazine Le Point.
Avec Pionniers. Voyage aux frontières de l’intelligence artificielle (Grasset), il signe un ouvrage de référence pour saisir l’impact de cette technologie si singulière sur le monde de demain.
L’Atelier des Futurs. Dans ce livre, vous côtoyez Elon Musk, Mark Zuckerberg, Sam Altman ou Pavel Durov, pour ne citer que quelques noms… Au contact de ces Pionniers de l’intelligence artificielle, avez-vous eu le sentiment d’être face à des personnages historiques ?
Guillaume Grallet. Toutes les personnalités rencontrées ne sont pas aussi connues que celles que vous venez de citer. En revanche, elles ont un point commun : il y a fort à parier qu’elles vont influer, non seulement sur le présent, mais surtout sur l'avenir. C’est ce souci d’anticiper le futur, de faire connaître celles et ceux qui construiront la société de demain, que j’essaie de communiquer dans ce livre.
Pourquoi avoir souhaité traiter spécifiquement de l’intelligence artificielle ? En quoi cette technologie comptera-t-elle plus que les autres dans l’avenir ?
Dans mon métier, j’ai la chance de côtoyer des experts dans différents domaines de la science : la blockchain, la physique quantique, les matériaux intelligents, les moyens de transport du futur, les nouvelles sources d'énergie… Si j’ai décidé de m'intéresser dans ce livre à l’IA en particulier, c’est parce que je considère qu’elle n'est pas une technologie comme les autres.
Dans son ambition même, qu’elle l’atteigne ou non, le dessein est éminemment singulier : reproduire une faculté que l’on croyait le propre de l’être humain, notre capacité à parler, mais aussi à penser, à réfléchir par nous-mêmes, à planifier, à nous projeter dans l’avenir.
« L’IA ressemble à un miroir déformant. »
Chaque « pionnier » interrogé possède sa propre définition de l’IA. Pour Howard Rheingold, pionnier des communautés virtuelles, c’est un « amplificateur de l'intelligence humaine ». Pour Sam Altman, le CEO d’OpenAI et père de ChatGPT, c’est une « intelligence extraterrestre ». Alors, qu’est-ce que l’IA exactement ?
Je vais prendre une image. L’IA ressemble à un miroir déformant. C’est un miroir, dans la mesure où elle cherche à reproduire le réel : le langage humain, avec les LLM comme ChatGPT, mais aussi des photos, des vidéos et, demain, des caractéristiques physiques comme la gravité, la température ou la douleur.
Mais ce miroir est déformant, car la réalité modélisée est fatalement différente de la nôtre, celle qu’on avait prise pour modèle.
« ChatGPT a été un choc universel. »
Cette recherche mimétique, couplée à une puissance de calcul chaque jour plus importante, marque-t-elle selon vous une rupture ?
Je pense que la mise à disposition à grande échelle de ChatGPT, en novembre 2022, a été un choc universel. Peut-être la quatrième grande blessure narcissique infligée par la science à l’humanité, après la démonstration que nous ne sommes pas au centre de l’univers (Copernic), pas au centre de l’évolution (Darwin), pas même maîtres de notre propre psyché (Freud).
Cette fois, nous avons créé une sorte de créature géniale, l’IA, qui nous invite plus que jamais à relativiser notre anthropocentrisme.
Comment qualifier cette nouvelle ère de l’intelligence artificielle ?
Cette ère n’est pas uniforme. Elle est constituée tantôt de périodes d’accélérations, tantôt de plateaux. Il s’agit de science, pas de magie. De ce fait, la question des limites se pose à chaque étape, tant en termes de puissance des processeurs, de qualité des données, de quantité d’énergie ou de soutenabilité.
Mais oui, avec l’IA, nous sommes assurément entrés dans une nouvelle ère. Pour ce qui est de la qualifier, j’avais posé la question à Yann LeCun et Yuval Noah Harari, lors d’un entretien croisé proposé avec Le Point en 2023.
Le premier voyait dans l’IA un nouvel âge des Lumières. Le second était d’avis contraire : pour lui, cette technologie, en s'appropriant le langage et la connaissance à notre place, tendrait à terme à saper la démocratie.
« Nous vivons une époque ambivalente, à la fois géniale et inquiétante. »
Et vous, quelle est votre position ? L’IA, nouvel âge des Lumières ou menace pour la démocratie ?
Cela dépendra de l’usage que nous en ferons ! Mais quel que soit cet usage dans les années à venir, positif ou négatif, il est évident que nous assistons à un moment de l’Histoire porteur d’énormes promesses.
Nous vivons une époque ambivalente, à la fois géniale et inquiétante. Toute innovation scientifique est à double tranchant. C’est encore plus vrai avec l’IA.
Nous avons mis au monde une sorte de créature étonnamment puissante, pour le pire mais aussi pour le meilleur.
Dans le climat actuel, les craintes semblent parfois l’emporter sur les promesses. En quoi l’IA est-elle aussi, comme vous dites, une innovation « pour le meilleur » ?
L’IA est une technologie transverse qui permet de résoudre des équations et des problèmes scientifiques très complexes. Elle nous aide à mieux appréhender la physique quantique, à mieux connaître notre univers, à concevoir de nouveaux matériaux.
Elle nous accompagne dans la résolution d’importants défis éducatifs, énergétiques ou agronomiques.
L’IA de demain sera une IA physique, bien au-delà du monde du langage et de la logique humaine.
« Le futur de l’IA, c’est la reconstitution de la cellule vivante et
de l’ensemble du monde physique. »
En matière de connaissance du vivant, AlphaFold, développé par Google DeepMind, permet par exemple de modéliser la structure 3D des protéines à partir de leur séquence d’acides aminés, avec de vastes champs d’application, notamment en chimie et en médecine.
Le futur de l’IA, c’est la reconstitution de la cellule vivante et de l’ensemble du monde physique. Telle est l’ambition de chercheurs comme Yann LeCun.
C’est aussi le sens de la récente association entre NVIDIA et Dassault Systèmes, avec la création d’une plateforme d'IA industrielle dédiée aux jumeaux virtuels. En matière d’usage de l’IA, le champ des possibles semble très vaste, presque illimité.
Presque illimité aussi pour le pire ?
Disons que l’IA peut, en même temps, provoquer des dégâts considérables.
Menace sur le concept même de droit d’auteur, création de vérités alternatives de plus en plus difficiles à distinguer de la réalité, crainte de voir des métiers totalement bouleversés, remplacés, peut-être supprimés. Surtout, spectre de l’apocalypse cognitive…
« Quand une espèce se sent subjectivement inférieure,
elle peut céder son libre arbitre. »
Qu’est-ce que cette « apocalypse cognitive » à laquelle vous faites allusion ?
Le vrai risque à court terme n’est pas que l’IA dépasse effectivement l’humanité, c’est que celle-ci se sente tellement dépassé qu’elle en vienne à perdre pied, à s’abandonner totalement à l’IA.
C’est le syndrome de la Planète des singes, mis en lumière par le paléoanthropologue Pascal Picq : quand une espèce se sent subjectivement « inférieure », elle confie à l’espèce perçue comme « supérieure » ce qui lui reste de souveraineté, et peut céder son libre arbitre.
Autrement dit, ce n’est pas l’IA qui s’emparerait du pouvoir, comme dans Terminator ou 2001 : l’odyssée de l’espace, c’est nous qui abdiquerions le nôtre à son profit ?
Ce scénario me semble plus crédible. J’en discutais récemment avec Marie-Paule Cani, géniale professeure au Laboratoire d’informatique de l’École polytechnique, qui a longtemps travaillé sur la création de mondes immersifs en 3D, par exemple pour comprendre comment vivait l’Homme de Tautavel il y a 400 000 ans. Elle m’expliquait qu’il était désormais possible de générer ce monde virtuel avec un simple prompt.
« Et si cette facilité provoquait un immense découragement,
une flemme généralisée ? »
Et si, au lieu de constituer un gain de temps énorme, comme on pouvait l’espérer, cette facilité provoquait un immense découragement, une flemme généralisée ? Car il n’y a rien de tel, me rappelait Marie-Paule Cani, que le geste du sculpteur. Le sculpteur ne sait pas précisément à quoi ressemblera sa sculpture.
Mais ce mouvement d'aller-retour, de tâtonnement, de doute, ce va-et-vient entre la réalité et son esprit, est la clé de toute réflexion et de toute création. C’est ce petit bijou qu’on pourrait être tenté de confier à la machine…
Cela me rappelle la citation de Henri Bergson dans L’Évolution créatrice : « Personne, pas même l'artiste, n'eût pu prévoir exactement ce que serait le portrait, car le prédire eût été le produire avant qu'il fût produit ». Cette incertitude fondamentale est inhérente au processus créatif…
Tout à fait. C’est bien souvent la « découverte » de sa propre création qui motive l’acte de créer. L’abandon de notre pouvoir de création, comme de notre pouvoir de réflexion, constituent, me semble-t-il, les dangers les plus immédiats.
Nous entrons dans l’ère des IA agentiques, capables de prendre une série de décisions en autonomie, à notre place…
« L’IA agentique pose le problème de la démission
de la volonté et de l’initiative humaines. »
L’une des pionnières que vous avez rencontrées, la chercheuse Meredith Whittaker, affirme que l’IA agentique revient à « mettre son cerveau dans une boîte »…
À quoi bon réfléchir, puisque la machine peut nous épargner ce labeur, un peu comme le tracteur nous dispense des durs travaux des champs ?
L’IA agentique pose le problème de la démission de la volonté et de l’initiative humaines et, à terme, l’atrophie de nos capacités cognitives.
Pour conjurer ce risque, quel conseil donneriez-vous à nos lecteurs ?
Continuez de faire travailler votre cerveau ! Dans le domaine du code, par exemple, on peut être tenté de tout arrêter.
Pourtant, quand j’ai posé la question à Dario Amodei, CEO d'Anthropic, la société à l'origine de Claude Code, l’un des outils IA les plus performants en la matière, il me répond qu’il faut continuer à coder, car cela aide à comprendre.
« Il est crucial de conserver le recul, l’esprit critique et la culture. »
Il en va de même pour les langues étrangères. Bien sûr, l’IA est une traductrice ultra-performante. Mais Elon Musk lui-même considère qu’il faut continuer l’apprentissage des langues étrangères : cela nous permet d’apprécier d’autres conceptions du monde, tout en musclant notre cerveau.
Il est crucial de conserver le recul, l’esprit critique et la culture, qui sont et resteront des qualités authentiquement humaines.
Outre ces qualités, quelles facultés ne pourront jamais être déléguées à l’IA ? Face à cette technologie, qu’est-ce qui fait le propre de l’être humain ?
D’abord, le sens de l’humour. Les IA sont en général très mauvaises pour les plaisanteries ! Plus sérieusement, chaque pionnier rencontré possède sa propre réponse à votre question. Pour Aravind Srinivas, l’inventeur de Perplexity, c’est la curiosité. Pour Sam Altman, c’est le génie, qui ne se résume pas à la créativité. Et pour Demis Hassabis, de Google DeepMind, c’est la quête de sens.
La question du sens est en effet primordiale. Car, si l’IA agentique peut « réfléchir » à notre place pour atteindre une mission qu’on lui a assignée, les moyens qu’elle met en œuvre peuvent diverger radicalement de nos propres systèmes de valeur…
C’est toute la question de l’alignement, qui préoccupe beaucoup les chercheurs en IA.
Les modèles de langage comme ChatGPT nous donnent l’impression que l’IA appréhende « naturellement » notre monde. C’est faux. En réalité, il est indispensable de mettre en cohérence nos demandes et ce que « comprend » l’IA, depuis son monde synthétique et artificiel.
Il y aurait donc des risques de « malentendus » entre l’intelligence humaine et l’intelligence artificielle ?
Bien sûr, et ils s’avèrent parfois monstrueux. C’est le philosophe Nick Bostrom qui a, dès 2003, soulevé cette question du nécessaire alignement entre les deux intelligences, humaines et artificielles, avec le scénario de l’usine de trombones. Imaginons que nous donnions à une IA agentique la mission de produire un maximum de trombones. À terme, cette IA risquerait de compromettre la survie de l’humanité : elle y verrait une menace pour l’accomplissement de son objectif, en même temps qu’une source de matériaux utiles pour la réalisation de celui-ci.
« La course à l’IA ne doit pas devenir une fin en soi. »
Le scénario de l’usine de trombones nous alerte sur les dangers d’une IA qui, sans être malveillante, aurait simplement été mise au service d’objectifs mal spécifiés, et surtout non alignés avec notre propre système de valeurs.
La course à l’IA ne doit pas devenir une fin en soi. Il faut veiller à ne pas négliger l’humain, son intégrité éthique, spirituelle et corporelle…
C’est pourquoi vous avez renoncé à être « cyborg », comme vous surnommaient vos amis – vous le racontez dans le livre –, après que vous vous soyez fait greffer une puce NFC dans le bras…
C’est ma maman qui m’a remis sur le droit chemin, il faut écouter les mamans (rires). En 2015, j’avais participé à Paris à une « implant party ». J’avais été séduit par le discours de Hannes Sjöblad, un représentant de la Singularity University, en Suède, qui prêchait l’implant pour « faciliter la vie ». J’avais signé un « contrat d’implantation », puis vécu avec une puce, dans laquelle j’avais mis mes documents d’identité, de paiement et quelques gadgets.
« Après une semaine, j’ai fait retirer
la puce qu’on m’avait implanté dans le bras. »
Mais très vite, je me suis interrogé : suis-je encore moi-même, ou déjà un autre ? Quid de mon intégrité physique, de ma liberté ? Après une semaine, j’ai fait retirer la puce qu’on m’avait implanté dans le bras. Avec le recul, cela me sidère. Je trouve dangereux que des personnalités comme Elon Musk, tout génial soit-il, ambitionnent de « fusionner » les capacités humaines avec celles de la machine.
Vous faites référence au projet Neuralink, qui vise à implanter des interfaces neuronales dans le cerveau humain. Quels en sont, selon vous, les écueils ou les dangers ?
D’abord, l’objectif n’est pas clair. S’agit-il, comme cela a été présenté au départ, d’un projet de recherche thérapeutique, visant à aider les personnes atteintes de maladies dégénératives ?
Ou d’une prétendue nécessité pour l’humain de « s’adapter » à la déferlante de l’IA, en greffant à son cerveau des capacités décuplées ?
Au point que certains, comme Alexandr Wang, Chief AI Officer de Meta, déclarent ne pas vouloir d'enfants tant qu’ils ne sont pas certains de pouvoir leur greffer une puce décuplant leurs capacités cérébrales. Les motivations de ceux qui préparent l’homme bionique sont floues, de même que la portée scientifique de leurs travaux. L’une des exigences vis-à-vis de ces progrès technologiques, quels qu'ils soient, c'est la publication de papiers de recherche, et la confrontation par les pairs.
« L'IA peut être au service de l’être humain. »
La scientificité est une question fondamentale. Depuis Descartes, la méthode scientifique pose que l’important est moins le résultat que le raisonnement qui y a conduit. Or, l’IA tend à abolir le raisonnement, puisque ce processus est délégué à la machine. L’IA, est-ce encore de la science ?
Il existe une IA ouverte, collaborative, fondée sur le doute, alignée sur les valeurs humaines, qui réponde à des besoins concrets, en matière d'agriculture, de détection des maladies ou d’anticipation des catastrophes climatiques.
L'IA peut être au service de l’être humain. J’ai rencontré des acteurs de l’IA qui œuvrent en ce sens. Par exemple, Gaël Varoquaux, chercheur à l’Inria, directeur de recherche d'Arthur Mensch et co-fondateur de Scikit-learn, une bibliothèque open-source de machine learning, qui permet de rendre les processus internes à l’IA un peu plus accessibles, transparents et intelligibles. Si j’ai écrit ce livre, c’est pour montrer que le futur est ouvert. Nous avons encore le choix.
