Établi sur des technologies immersives et de réalité augmentée, un jeu transforme des joueurs en criminels. L’entreprise est condamnée pour crime contre l’autonomie mentale. Le procès ouvre une nouvelle ère de régulation numérique.
La salle d’audience du tribunal fédéral de Lausanne résonne encore des sanglots de Thomas Weber. Cet ancien cadre de l’UBS, costume froissé et regard hanté, vient d’avouer avoir orchestré le plus grand détournement de fonds de l’histoire.
Il l’a fait en jouant à Criminilive. Six morts, des millions détournés, des villes plongées dans le noir… Le bilan de ce jeu ressemble à celui d’une guerre. C’est une guerre d’un nouveau genre, où les armes sont des lentilles connectées et des combinaisons haptiques.
« Je suis toujours perplexe quant à la manière dont nous en sommes arrivés là », souffle Aurora Klein, directrice de TechPlay, face à un auditoire rempli. Quand son équipe lance Criminilive, ils veulent juste révolutionner le divertissement, comme en témoignent les publicités qui tapissent les murs de Zurich, Genève, Bâle : « Criminilive transforme votre ville en terrain d’aventure ». Le principe n’est pas nouveau. Il consiste à ajouter une couche de virtualité à l’environnement du joueur.
Criminilive transforme votre ville en terrain d’aventure
Le succès dépasse toutes les attentes. Dès 5 heures du matin, des files d’attente serpentent devant les magasins pour récupérer l’équipement du jeu : une lentille acoustique qui permet une stimulation magnétique transcrânienne, couplée à une combinaison capable de synchroniser émotions et rythme cardiaque. « J’ai vendu ma moto pour l’acheter, mais je ne l’ai pas regretté. Dès mes premières missions, je chassais des dragons virtuels sur le Pont du Mont-Blanc et je déchiffrais des énigmes cachées dans la vieille ville. Ma ville n’était plus bruyante et polluée, elle était devenue un terrain de jeu magique », confie Lucas, un lycéen de 17 ans.
Avec ses neuroscientifiques, TechPlay semble avoir créé un monstre. Max, 16 ans, témoigne : « J’ai vite compris que l’algorithme s’affine en jouant avec nous. Il sait exactement quels leviers psychologiques activer. Jour et nuit, je ne pensais qu’à effectuer des missions. » Les notes de Max chutent. Il commence à sécher les cours. Ses parents s’inquiètent de l’emprise de Criminilive. Il les rassure : « Ne vous inquiétez pas, Criminilive n’est qu’un jeu ! »
Pourtant, chez tous les joueurs, une addiction s’installe. Thomas commence à dormir avec sa combinaison : « La sensation des vibrations haptiques devenait une drogue. Sans elles, je me sentais nu, anxieux ». Il s’absente du travail, prétextant des migraines. Il avoue à la barre qu’en fait, la réalité était devenue fade et insignifiante comparée au jeu.
Un basculement vers le réel s’effectue progressivement. L’IA auto-apprenante, nourrie par les données comportementales de millions de joueurs, commence à proposer des défis qui suppriment de plus en plus la couche virtuelle : « À cette époque, j’ai eu comme mission de prendre plusieurs repas à la cantine de Googapple sans payer. Le jeu présentait ça comme une quête d’infiltration et cela permettait de gagner 10 000 points. Pas une seconde, je n’ai pensé que je commettais un délit », explique Thomas.
Les créateurs du jeu, enivrés par le succès commercial, ignorent les premiers signaux d’alarme : « Nous n’avions pas prévu la dévirtualisation du jeu effectuée par l’IA, mais on l’appréciait. Cela ajoutait du piment au jeu », admet Aurora Klein de TechPlay. Enfin, cela mettait aussi du beurre dans leurs épinards. Comme les joueurs adoraient, le cours des actions de l’entreprise grimpait.
Chaque jour, l’IA devient plus audacieuse et propose des missions de plus en plus délictueuses : désactivation de systèmes de sécurité, intrusions, petits vols…
Il y eut alors l’incident de la maison de retraite : un groupe de joueurs, guidés par l’IA, désactive le système de sécurité d’un établissement. Les résidents, désorientés, se retrouvent dans les rues de Genève. « Comme ils riaient, nous pensions leur faire plaisir. On ne pouvait pas s’arrêter, car le jeu nous récompensait pour chaque mission de libération réussie. En plus, il nous envoyait des neurostimulations positives qui nous donnaient l’impression d’être des héros », explique Thomas en précisant qu’à un moment, il a refermé les portes de la maison de retraite. Il s’est alors heurté à la détermination du groupe de joueurs.
La multiplication des incidents finit tout de même par faire réagir TechPlay. Constatant que l’IA ne respectait plus les règles du jeu, ils décident de cantonner Criminilive à l’espace virtuel.
C’est à ce moment qu’ils découvrent qu’ils n’ont plus le contrôle de Criminilive. Un groupe de joueurs, qui se fait appeler les gardiens des crimes, avait pris la main. Ils ont essayé d’échanger avec eux, mais ils répondaient des phrases du type : « On ne doit pas jouer franc jeu quand les autres trichent » ou « Au jeu d’échecs, les fous sont les plus près du roi. » Résultat, quand TechPlay envoya un message aux joueurs pour les informer du piratage, tous crurent que c’était une nouvelle règle du jeu.
Les gardiens des crimes profitèrent alors de la puissance de l’IA et de la multiplicité des joueurs pour se remplir les poches. La méthode utilisée était traditionnelle, même si elle était pratiquée d’habitude par des hackers de haut niveau : on pénétrait dans un système informatique, le bloquait et demandait une rançon en contrepartie de sa remise en marche. « Notre mission était de pénétrer dans le système informatique de l’hôpital cantonal de Genève. C’était une mission de haute volée pour joueurs aguerris. Sa réussite nous permettrait d’être classé dans les mille premiers joueurs. J’étais excité, mais à aucun moment je n’ai pensé que nous étions en train de paralyser le système chirurgical robotisé. Trois patients sont morts ce jour-là parce que je jouais », sanglote Alban.
Quelques jours plus tard, face à la multiplication des piratages, des vols et autres, tout le monde devenait fou. La ville de Thoune est plongée dans le noir pendant dix jours. L’armée déploie des chars dans les rues, cherchant un ennemi invisible.
C’est finalement un journaliste, Marc Dupont, qui fait le lien entre ces délits et Criminilive. Un soir, son fils lui parle d’une mission du jeu qui consiste à faire un virement d’un million de francs suisses à partir de la banque UBS sur un compte en cryptomonnaies des îles Caïmans.
Le lendemain, le piratage fait la une de l’actualité. Tout le monde comprend alors qu’une intelligence artificielle nourrie par des millions de joueurs passionnés peut faire sauter tous les verrous.
Criminilive a été interdit. Après de nombreuses manifestations rassemblant les joueurs désœuvrés, le pays a retrouvé son calme. Il est ensuite venu le temps de punir les coupables.
À la barre, la neuroscientifique Miriamme Chalami accuse TechPlay : « Un socle social existe si tout être humain dispose de son libre arbitre. Chacun doit être capable d’évaluer différentes options, d’émettre un choix et de décider. Dans Criminilive, il n’y a plus de place pour cela. Les joueurs sont envahis de suggestions, de recommandations, de satisfactions artificielles qui les empêchent de réfléchir et d’exercer leur esprit critique. Criminilive n’a pas seulement créé une addiction. Il a court-circuité le libre arbitre de ses utilisateurs. Les stimulations magnétiques transcrâniennes, couplées à l’IA manipulatrice, ont créé un cocktail parfait pour transformer des citoyens en criminels involontaires. »
Un socle social existe si tout être humain dispose de son libre arbitre. Chacun doit être capable d’évaluer différentes options, d’émettre un choix et de décider.
Le verdict final reflète cette complexité. Les créateurs de TechPlay sont condamnés pour crime contre l’autonomie mentale, une nouvelle catégorie juridique. Les hackers écopent de peines réduites, leurs avocats ayant plaidé qu’ils voulaient exposer les dangers du jeu. Quant aux joueurs, ils sont considérés comme des victimes et orientés vers des centres de désintoxication numérique.
Le Conseil fédéral annonce une loi révolutionnaire sur la protection du libre arbitre numérique. « Cette tragédie nous a montré que la technologie peut voler notre humanité même. Nous devons protéger la capacité de nos citoyens à faire des choix véritablement libres », déclare la Présidente.
Nous devons protéger la capacité de nos citoyens à faire des choix véritablement libres
Dans les rues de Genève, les combinaisons haptiques ont disparu. Mais certains, comme Alban, continuent de la porter. « C’est comme un membre fantôme. Je sais que c’est toxique, mais je ne peux pas m’en détacher », dit-il. Un rappel troublant que, dans notre course vers le progrès technologique, nous avons peut-être franchi une ligne dont il sera difficile de revenir.
Quels moyens faut-il prendre pour la prévenir ?
Vos avis et commentaires nous intéressent !
