252 extraits pour nourrir votre vision et guider votre action !
Si les ouvriers sont remplacés par des machines et les livreurs de plus en plus transformés en machines, le même phénomène touche aujourd’hui les employés, les fonctionnaires, jusqu’à atteindre ce que l’on appelait autrefois les professions libérales. Dans un futur déjà très proche, les médecins, les comptables et les avocats devront se conformer aux instructions de l’IA et se justifier dans les cas où ils décideront d’adopter un comportement déviant. Seuls les plus puissants auront une marge de manoeuvre, et encore, qui sait pour combien de temps.
Aujourd’hui, nous possédons de plus en plus d’informations et sommes de moins en moins capables de prédire l’avenir. Nos ancêtres vivaient dans des sociétés beaucoup plus pauvres en données, mais ils pouvaient faire des plans pour eux-mêmes et pour leurs descendants. Nous avons de moins en moins idée du monde dans lequel nous nous réveillerons demain matin.
Ce paradoxe n’est pas conjoncturel, mais structurel. Il découle de la nature même du numérique. En réduisant la réalité à une série de 0 et de 1, le codage numérique accomplit son oeuvre implacable d’homogénéisation, en éliminant tout ce qui ne peut être quantifié. Ce faisant, le passage de l’analogique au numérique élude le sens profond des choses et ouvre toute grande la porte au chaos.
C’est pouruqoi nous n’avons pas d’avenir, du moins au sens où nos grands-parents en avaient un. Les futurs culturels pleinement imaginés sont un luxe d’autrefois, dit William Gibson, une époque où le « maintenant » durait plus longtemps.
Le grand dilemme qui a structuré la politique au XXe siècle est le rapport entre l’État et le marché : quelle part de notre vie et de fonctionnement de notre société doit être sous le contrôle de l’État et quelle part doit être laissée au marché et à la société civile ? Au XXIe siècle, le clivage décisif devient celui entre l’humain et la machine.
Dans quelle mesure nos vies doivent-elles être soumises à de puissants systèmes numériques – et à quelles conditions ? En fin de compte, les individus et les sociétés devront décider quels aspects de la vie réserver à l’intelligence humaine et quels aspects confier à l’IA ou à la collaboration entre l’homme et l’IA.
Et chaque fois qu’ils choisiront de privilégier l’humaine, là où une IA aurait pu garantir des résultats plus efficaces, il y aura un prix à payer.
Le pouvoir de l’IA n’a rien de démocratique, ni de transparent. Plus qu’artificielle, l’IA est une forme d’intelligence autoritaire, qui centralise les données et les transforme en pouvoir. Le tout dans l’opacité la plus totale, sous le contrôle d’une poignée d’entrepreneurs et de scientifiques qui chevauchent le tigre en espérant ne pas se faire dévorer.
Si la mobilisation des préjugés a toujours été le nerf cu combat politique, les réseaux sociaux ont permis de lui donner une dimension industrielle. Partout, le principe reste le même. Trois opérations simples : identifier les sujets chauds, les fractures qui divisent l’opinion publique ; pousser, sur chacun de ces fronts, les positions les plus extrêmes et les faire s’affronter ; projeter l’affrontement sur l’ensemble du public, afin de surchauffer de plus en plus l’atmosphère.
Mais pour que le miracle du pouvoir se produise, il ne suffit pas d’une action résolue. Il faut aussi qu’il s’agisse d’un acte irréfléchi, car quelle serait la valeur d’une action qui répondrait simplement à la nécessité ? Ce ne serait guère plus que l’acte d’un technocrate, de l’un de ces fonctionnaires mornes et cruels qui agissent au nom de contraintes supérieures, qu’ils prétendent être les seuls à maîtriser. L’essence du pouvoir réside justement dans le contraire. Goethe raconte l’histoire de ce vieux due ce Saxe, original et obstiné, que l’on pressait de réfléchir, de considérer, avant de prendre une décision importante. « Je ne veux ni réfléchir ni considérer, aurait-il répondu, sinon pourquoi serais-je duc de Saxe ? »
La première loi du comportement stratégique est l’action. En situation d’incertitude, lorsque la légitimité du pouvoir est précaire et peut être remise en cause à tout moment, celui qui n’agit pas peut être sûr que les changements auront lieu à son désavantage.
Ces jours-ci, l’attaque coûte moins cher que la défense. Beaucoup moins. Et le prix continue à baisser. À l’avenir, certains prétendent qu’un seul individu pourra déclarer la guerre au monde entier, et la gagner. Quand on sait qu’un synthétiseur d’ADN capable de créer de nouveaux pathogènes mortels coûte environ vingt mille dollars, soit le prix d’une voiture d’occasion, cette perspective ne semble pas si lointaine.
Il y a des phases dans l’histoire où les techniques défensives progressent plus vite que les techniques offensives. Ce sont des périodes où les guerres deviennent plus rares parce que le coût de l’attaque est plus élevé que celui de la défense. À d’autres moments, ce sont surtout les technologies offensives qui se développement. Ce sont des époques sanglantes où les guerres se multiplient, car attaquer coûte beaucoup moins cher que se défendre.
Les dirigeants politiques passent en général par trois étapes. Dans un premier temps, lorsqu’ils prennent le pouvoir, ils sont à l’écoute, ils savent qu’ils ne savent pas, ils essaient de comprendre comment interpréter leur rôle. Au bout d’un certain temps, ils se convainquent qu’ils ont accumulé suffisamment d’expérience, ils en savent assez pour s’imaginer qu’ils ont tout compris. C’est la phase la plus risquée, celle de l’hubris : « Vous n’avez pus envie d’couter les autres, écrit Blair, vous êtes le patron, qui en sait plus que vous ? » Seuls quelques-uns atteignent la dernière étape, celle de la maturité, où l’on se rend compte que son expérience ne constitue pas la somme totale de la connaissance politique et où l’on recommence à écouter les autres. La plupart des leaders, écrit Blair, n’y parviennent jamais.
Imaginons maintenant que le pouvoir n’ait plus besoin de la collaboration humaine. Que sa sécurité – et sa force – soit garantie par des instruments qui n’ont pas la possibilité de se révolter contre lui. Une armée de capteurs, de drones, de robots capables de frapper à n’importe quel moment, sans la moindre hésitation. Ce serait, finalement, le pouvoir dans sa forme absolue.
Tant qu’il se fondait sur la collaboration d’hommes en chair et en os, tout pouvoir, aussi dur fût-il, devait compter sur leur consentement. Mais quand il sera fondé sur des machines qui maintiennent l’ordre et la discipline, il n’y aura plus aucun frein.
Le problème des machines n’est pas qu’elles se rebelleront contre l’homme, c’est qu’elles suivront les ordres à la lettre.
« … L’oeil humain est fait pour survivre dans la forêt. C’est pour cette raison qu’il est sensible au mouvement. N’importe quelle chose qui bouge, même à la périphérie la plus extrême de notre regard, l’oeil la capte et transporte l’information au cerveau. En revanche, tu sais ce que l’on ne voit pas? » J’avais secoué la tête.
« Ce qui reste immobile , Vadia. Au milieu de tous les changements, nous ne sommes pas entraînés à distinguer les choses qui restent les mêmes. Et c’est un grand problème parce que, quand on y pense, les choses qui ne changent pas sont presque toujours les plus importantes. »
J’étais un gamin de seize ans qui ne savait rien, mais c’est précisément pour cette raison que j’étais plus adapté au monde nouveau que lui qui savait tout.
Tu ne contrôles pas les choses qui arrivent, pire, tu n’es même pas capable de savoir si elles sont bonnes ou mauvaises. Tu es là, tu attends une chose, tu la désires de toutes tes forces. Elle se produit enfin et, juste après, tu te rends compte que ta vie est gâchée. Ou le contraire.
Le ciel te tombe sur la tête et après un peu de temps tu te rends compte que c’est la meilleure chose qui pouvait t’arriver. Crois-moi, la seule chose que tu peux contrôler c’est ta façon d’interpréter les événements. Si tu pars de l’idée que ce ne sont pas les choses, mais le jugement que nous portons sur elles qui nous fait souffrir, alors tu peux aspirer à prendre le contrôle de ta vie. Sinon tu es condamné à tirer sur des mouches avec un canon.