Ce texte est adapté d’une étude plus longue préparée pour GESDA (Geneva Science and Diplomacy Anticipator).
Le texte original est disponible ici.

English Version

Commençons par les bases : l’anticipation n’est pas neutre d’un point de vue éthique.

L’anticipation implique de faire des choix sur la manière d’envisager les futurs potentiels, et les nombreuses évaluations, réflexions et considérations requises en cours de route nécessitent toutes ce que nous pourrions appeler un processus de prise de décision éthique.

Ce processus consiste à identifier les valeurs que l’on juge importantes et à s’en inspirer pour parvenir à un résultat.

L’éthique vise à définir la manière dont les êtres humains/la société devraient agir et être organisés. Les personnes formées à la prise de décision éthique apprennent

à identifier les défis éthiques,
à structurer les valeurs/principes qui pourraient être utiles pour relever ces défis,
à tenter de justifier au mieux leurs choix.

En partant du principe que l’anticipation est inéluctablement un exercice éthique, les anticipateurs – ou prospectivistes – doivent faire face à deux défis principaux :

un défi méthodologique;
un défi sur ce que l’éthique pourrait devenir à l’avenir;

L’anticipation n’est pas neutre d’un point de vue éthique.

Comment faire de l’anticipation éthique ?

Le premier défi concerne la manière dont l’anticipation est effectuée. Dans ce premier sens, une anticipation « éthique » est utilisée comme synonyme d’une « bonne » anticipation.

Une éthique de l’anticipation devrait cultiver la capacité à mettre en lumière les opportunités que les innovations génèrent. Elle doit éviter la focalisation unilatérale sur les risques et la simple précaution, car le raisonnement de précaution peut empêcher l’anticipation de déployer tout son potentiel.

Développer et appliquer une éthique de l’anticipation ne signifie pas ralentir l’innovation et le développement humain, mais les soutenir vers une durabilité accrue et une distribution plus juste des biens, des capacités et des opportunités.

Pour relever ce défi méthodologique, une éthique de l’anticipation devrait également prendre en compte le fait que chaque acte d’anticipation est confronté à différentes manières de conceptualiser l’incertitude. Comme l’indique la littérature, nous pourrions regrouper trois grandes approches à cet égard.

L’anticipation prédictive, qui vise à prévoir l’avenir sur la base d’un calcul de probabilité fondé sur le passé (ou le présent).
L’anticipation adaptative, qui accepte la non-prédictibilité de l’avenir et l’utilise pour souligner le potentiel d’adaptation des individus et des sociétés. Elle maintient l’avenir radicalement ouvert en se concentrant sur les conditions qui peuvent être encouragées à se produire dans le présent.
L’anticipation projective sépare l’avenir de l’influence du passé : elle surmonte la détermination en anticipant l’avenir comme quelque chose de radicalement nouveau et de fondamentalement différent, ne présentant aucune continuité avec les époques précédentes.

Toutes les méthodes d’anticipation devraient pouvoir respecter les critères éthiques suivants.

L’anticipation doit être pratiquée sans sentiment d’inévitabilité et en étant conscient de ses inévitables idées préconçues. Accepter que l’anticipation soit ouvertement normative est l’occasion d’imaginer un monde meilleur, de l’évaluer et de décider si cet avenir est souhaitable ou non.
Les choix effectués dans le cadre de l’anticipation doivent être soigneusement justifiés, afin d’éviter les préjugés non choisis et les omissions injustes.
Il est nécessaire que les anticipateurs soient toujours en mesure de tenir compte de l’imprévu, y compris des perturbations radicales.
L’anticipation doit pouvoir tenir compte de l’intégration des activités humaines dans un environnement plus large. L’anticipation doit reconnaître l’importance de développer et d’adapter des récits pour appréhender notre situation en tant qu’êtres humains dans le contexte d’un environnement naturel – et ne pas se concentrer uniquement sur les êtres humains comme si nous existions dans une sorte de vide.

L’éthique contre-attaque

Au-delà des exigences méthodologiques d’une anticipation qui se veut éthique, le second défi concerne l’éthique considérée comme objet d’anticipation.

Les développements technologiques peuvent profondément remettre en question le fonctionnement de l’éthique en tant que discipline et, plus encore, notre conception de la personne humaine.

Une éthique de l’anticipation doit donc prévoir comment ces développements affectent les paramètres fondamentaux du raisonnement éthique.

Ces paramètres sont affectés par un double mouvement.

D’une part, nous avons une meilleure compréhension du fonctionnement du corps et de l’esprit humains. Prenons l’exemple des neurosciences et de la génomique. Ici, certains développements technologiques pourraient affecter les hypothèses de base sur l’action morale et la liberté humaine, ainsi que la capacité correspondante à assumer des responsabilités. Par exemple, des rapports faisant état de prédispositions génétiques et de perturbations de certains circuits neuronaux pourraient être utilisés pour expliquer et excuser des comportements criminels.

D’autre part, un monde dans lequel l’interaction avec des systèmes autonomes avancés devient routinière peut remettre en question la limitation traditionnelle de l’attribution de l’action morale aux seuls humains.

Le libre arbitre représente un aspect essentiel de la compréhension que l’homme a de lui-même, et une éthique de l’anticipation appelle à un examen minutieux des effets potentiels des développements futurs sur ce concept même. Par exemple, il sera de plus en plus important de clarifier les capacités que les systèmes autonomes pourraient acquérir à l’avenir et qui détermineront l’agence dans un sens significatif.

Il faudra également garder un œil sur les applications susceptibles de modifier les normes permettant de distinguer l’humain du non-humain et de remettre en question le libre arbitre.

Le libre arbitre représente un aspect essentiel de la compréhension que l’homme a de lui-même, et une éthique de l’anticipation appelle à un examen minutieux des effets potentiels des développements futurs sur ce concept même.

Q164 | How to do ethical anticipation?

Mind the Gap !

This text is adapted from a longer study prepared for GESDA (Geneva Science and Diplomacy Anticipator).
Original short text available here.

Let us start with the basics: anticipation is not ethically neutral.

Anticipation involves making choices about how to view potential futures, and the numerous evaluations, ponderations, considerations required on the way all necessitate what we could call an ethical decision-making process.

This process is about identifying values one finds important and drawing upon them to get to a result.

Ethics aims at outlining how human beings/society ought to act and to be organized. People trained in ethical decision-making learn

how to identify ethical challenges,
structure the values/principles which could be useful to address these challenges
try to provide the best possible justification for their choices.

Assuming that anticipation is inescapably an ethical exercise, anticipators must face two main challenges:

a methodological challenge;
a challenge on what ethics could become in the future

Anticipation is not ethically neutral.

How to do ethical anticipation?

The first challenge is about the way anticipation is done. In this first sense, an “ethical” anticipation is used as synonymous for a “good” anticipation.

An ethics of anticipation should cultivate the ability to shed light on the opportunities that innovations generate. It should avoid one-sided focus on risks and mere precaution, because precautionary reasoning can prevent anticipation from deploying its full potential.

Developing and applying an ethics of anticipation does not mean slowing down innovation and human development but supporting it towards enhanced sustainability and a more just distribution of goods, capabilities, and opportunities.

To face this methodological challenge, an ethics of anticipation should also consider the fact that every act of anticipation is confronted with different ways of conceptualising uncertainty. As discussed in the literature, we could cluster three broad approaches to this.

Predictive anticipation, which aims to forecast the future based on probability calculation informed by the past (or the present).
Adaptive anticipation which accepts the non-predictability of the future and uses it to emphasise the potential of both individuals and societies to adapt. This keeps the future radically open by focusing on conditions that can be encouraged to arise in the present.
Projective anticipation separates the future from the influence of the past: it overcomes determination by anticipating futures as something radically new and fundamentally different, showing no continuity with previous times.

All anticipation methods should be able to respect the following ethical criteria.

Anticipation needs to be practiced free of a sense of inevitability and aware of its inevitable preconceptions. Accepting that anticipation should be openly normative is an opportunity to imagine a better world, evaluate it and decide whether that future is desirable or not.
Choices made in anticipating must be carefully justified, as a contribution to avoid unchosen biases and unfair omissions.
It is necessary that anticipators always be able to account for the unforeseen, including radical disruption.
Anticipation should be able to account for the embedment of human activities within a broader environment. Anticipation needs to acknowledge the importance of developing and adapting narratives to apprehend our situation as humans in the context of a natural environment – and not to remain only focused on humans as if we were existing in a kind of vacuum.

Ethics strikes back

Beyond the methodological requirements of an anticipation which claim to be ethical, the second challenge is about ethics considered as object of anticipation.

Technological developments can deeply challenge the way ethics as a discipline works and, even further, our conception of the human person.

An ethics of anticipation must therefore anticipate how such developments affect the core parameters of ethical reasoning. These parameters are affected by a double movement.

On the one hand, we have an improved understanding of the functioning of the human body and mind. Consider neuroscience and genomics, for example. Here, some technological developments might affect basic assumptions about moral agency and human freedom, and the corresponding capacity to bear responsibility. For example, reports of genetic predisposition and disruption of certain neural circuits could be used to explain and excuse criminal behaviors.

On the other hand, a world in which interaction with advanced autonomous systems becomes routine may challenge the traditional limitation of attributing moral agency to humans only.

Moral agency represents a core aspect of human self-understanding, and an ethics of anticipation calls for scrutiny with regard to potential effects of future developments on that very concept. For instance, it will be increasingly important to clarify which capacities that autonomous systems may acquire in the future will determine agency in a meaningful sense.

Also, it will be necessary to keep an eye on applications that may shift norms allowing to distinguish human from non-human and that may question moral agency.

Moral agency represents a core aspect of human self-understanding, and an ethics of anticipation calls for scrutiny with regard to potential effects of future developments on that very concept.