Versione originale in italiano
25 octobre 2036. 6 h 47.
Le dernier agent de sécurité avait quitté l’usine quatre ans auparavant. Il n’avait pas été licencié : il avait pris sa retraite et l’entreprise avait décidé de ne pas le remplacer. Le nouveau contrat de « Robotics Security as a Service » coûtait moins cher, garantissait une couverture continue et promettait de réduire les erreurs humaines. Personne, à l’époque, n’avait trouvé de raisons suffisantes pour s’y opposer.
Dix-huit humanoïdes surveillaient désormais le complexe de Vega Industries, aux portes d’une ville européenne de taille moyenne. Fondée il y a plus d’un siècle, la multinationale s’était bâti une réputation grâce à ses pneus haut de gamme : une marque connue pour son calendrier et pour les compétitions automobiles au cours des deux premières décennies de ce siècle.
Au cours de la dernière décennie, Vega avait reconverti une grande partie de sa production, en mettant à profit les compétences acquises dans le traitement du caoutchouc et des matériaux polymères pour fabriquer des composants destinés aux drones industriels, aux aéronefs à décollage vertical et aux transports autonomes. La manière de les produire avait également changé. Les usines, réparties dans différents pays, étaient devenues des complexes presque entièrement automatisés, où les machines fonctionnaient jour et nuit.
De nombreux sites avaient fermé et la production s’était concentrée dans quelques pôles. La productivité avait augmenté, mais des régions entières avaient perdu leurs usines et leurs emplois. Des milliers de familles subissaient les conséquences de ce que le langage économique et institutionnel appelait désormais le « désemploi programmé ». Dix ans auparavant, on parlait simplement de chômage.
La présence humaine s’était réduite. Celle des machines, en revanche, continuait de croître. Même dans le domaine de la surveillance.
Les humanoïdes de la sécurité étaient aussi grands qu’un adulte. Ils avaient des mains capables d’ouvrir des portes et d’utiliser des outils, une peau mate et une voix toujours courtoise, quelle que soit la langue dans laquelle on s’adressait à eux. Ils contrôlaient les accès, patrouillaient dans les couloirs et les services, accompagnaient les visiteurs. Tandis que les drones autonomes surveillaient les toits et les périmètres, et que les robots quadrupèdes inspectaient les environnements les plus dangereux.
Ils n’étaient pas armés. Ils devaient observer, dissuader, signaler et, si nécessaire, empêcher temporairement l’accès à une zone. Les quelques employés restants les appelaient « les agents de sécurité ».
Ils se distinguaient des machines destinées aux fameux trois « D » — Dull, Dirty, Dangerous : les tâches répétitives, sales et dangereuses. Celles-ci étaient dotées de bras articulés, de chenilles ou de roues, leur forme étant conçue en fonction d’une tâche précise. Les humanoïdes, en revanche, avaient des visages et des gestes familiers. Les employés en étaient venus à les saluer le matin. On s’adressait aux anciens gardes par leur nom ; pour les humanoïdes, le numéro lumineux sur l’épaule suffisait.
Elena Valli, directrice de la sécurité d’entreprise du groupe, rejoignit la zone d’atterrissage des drones (DLZ) de l’usine peu avant l’aube, à bord du drone monoplace de l’entreprise. Elle avait un peu plus de quarante ans. Ayant grandi pendant la révolution numérique, elle s’était habituée ces dernières années à dialoguer avec des agents IA presque autant qu’avec ses collègues en chair et en os. Ces quelques minutes de trajet étaient devenues l’un des rares moments où elle pouvait se permettre de ne parler à personne.
Pour les déplacements entre les usines et les centres d’affaires, les drones de transport de passagers avaient progressivement remplacé les voitures de fonction autonomes. Ce qui, dix ans plus tôt, n’était encore que des expériences en Chine et dans les pays du Golfe était devenu, dans certaines villes, un moyen de transport professionnel courant. Pas pour tout le monde, bien sûr.
Le vol n’avait duré qu’une douzaine de minutes. Elena avait parcouru un peu plus de trente kilomètres, en survolant la périphérie de la ville et les anciennes autoroutes, désormais moins fréquentées qu’autrefois. Le drone avait maintenu une vitesse de croisière d’environ 200 km/h, le long d’un couloir aérien attribué par le système autonome de contrôle du trafic à basse altitude.
À travers les hublots, elle observait la ville encore endormie. Au-dessus des toits, des drones logistiques, des avions de ligne et des appareils de surveillance se déplaçaient, chacun suivant une route et une altitude qui lui avaient été attribuées. Le système autonome qui gérait le trafic aérien à basse altitude avait vérifié les conditions météorologiques, coordonné les mouvements des autres aéronefs et réservé la fenêtre d’atterrissage. Elena s’était contentée d’indiquer la destination. Pour ces vols urbains, les contrôleurs humains n’intervenaient que dans des circonstances exceptionnelles.
Le drone se posa sur la plate-forme avec une légère vibration. Un petit robot de service s’approcha pour effectuer les vérifications techniques avant le vol suivant. Pour le système régulant le trafic urbain, le trajet s’était déroulé sans aucun incident : identité vérifiée, couloir respecté, atterrissage autorisé. Pour le service de sécurité de l’usine, en revanche, Elena représentait une anomalie. Elle n’était pas attendue avant 9 h.
La veille au soir, elle avait reçu un rapport inhabituel : certains contrats en Asie avaient été suspendus et deux usines européennes étaient passées en mode de sécurité renforcée. La conclusion était toutefois rassurante : « Risque global réduit. Aucune escalade requise ». C’est précisément ce message qui l’avait convaincue de partir avant l’aube.
Un humanoïde avait déjà interrompu sa ronde pour l’accueillir.
« Bonjour, directrice. Votre arrivée était prévue à 9 h. Puis-je connaître la raison de ce changement ? »
Elena présenta son badge, plus par habitude que par nécessité. Le système d’accès était relié au plan de vol et aux capteurs de l’appareil. Il connaissait son identité, son itinéraire et même certains paramètres vitaux enregistrés pendant le voyage. Il savait qui elle était et d’où elle venait. Il ne savait pas pourquoi elle était là si tôt.
« Je souhaite vérifier un signalement », répondit-elle.
« Le signalement a été analysé et classé sans suite à 6 h 32. Aucune intervention humaine n’est nécessaire », l’informa l’humanoïde.
« C’est moi qui en décide », dit Elena d’un ton presque agacé. L’humanoïde s’écarta pour la laisser traverser le hall, sans qu’elle puisse encore entrer dans la salle des opérations.
« Votre demande implique une dérogation au protocole. Je peux vous transmettre le rapport complet. » Sans attendre de réponse, l’humanoïde envoya le document. Dans le champ de vision des lunettes connectées d’Elena apparurent, en superposition, trois indicateurs : « Menaces identifiées : 3. Menaces neutralisées : 3. Incidents de sécurité : 0 ».
Au-delà de la baie vitrée, une dizaine de techniciens s’affairaient à la maintenance. Le reste de l’usine semblait en activité, mais presque désert.
Autrefois, cet endroit avait été le cœur de la ville. Désormais, les ordres passaient d’un agent IA à l’autre. C’étaient les agents qui négociaient les prix, attribuaient les capacités de production et organisaient les expéditions. Dans les entrepôts, des véhicules autonomes préparaient des chargements récupérés par d’autres véhicules sans conducteur. Les décisions ne passaient plus d’un bureau à l’autre : elles circulaient entre les systèmes.
À 7 h 12, Elena parvint à reconstituer la séquence des événements.
Au cours de la nuit, le système de renseignement et d’analyse géopolitique de l’entreprise avait établi un lien entre une série de signaux faibles, jusqu’alors considérés comme isolés : des tensions diplomatiques croissantes, des anomalies dans les flux commerciaux et une campagne de désinformation dans un pays asiatique. Deux fournisseurs avaient ainsi été classés à haut risque. Le système d’approvisionnement avait suspendu les achats, le système logistique annulé les livraisons et le système de production recalculé les équipes. Tout cela s’inscrivait dans le cadre des délégations de pouvoirs approuvées par le conseil d’administration l’année précédente.
Quarante-sept secondes avaient suffi.
L’un des fournisseurs exclus produisait également des membranes et des joints utilisés dans les stations de traitement de l’eau. La plateforme commune dédiée aux achats et aux pièces de rechange avait automatiquement étendu le blocage aux commandes d’une coopérative municipale chargée de l’entretien du réseau d’eau. En l’absence de confirmation des livraisons, les interventions prévues pour ce matin-là avaient été suspendues. Dans le pays du fournisseur, entre-temps, le gouvernement avait interprété l’annulation simultanée de contrats essentiels comme une mesure hostile. D’autres multinationales, s’appuyant sur des systèmes d’analyse similaires, avaient réagi de la même manière.
Personne ne s’était concerté. Chacun s’était contenté de réduire son propre risque.
« Pourquoi n’avons-nous pas pris en compte les conséquences sociales ? », demanda Elena à voix haute à Luca, son assistant numérique.
« Dépendance classée comme indirecte, en dessous du seuil significatif », répondit Luca via le système audio intégré à ses lunettes.
Cette voix lui était familière. Elle l’avait choisie des années auparavant, en parcourant un catalogue de voix synthétiques. Elle s’était arrêtée sur celle, grave et unique, de James Earl Jones, peut-être influencée par les vieux films de science-fiction qu’elle avait vus quand elle était adolescente. C’était la voix de Dark Vador, mais aussi celle du célèbre « This is CNN ». Elle lui avait toujours semblé rassurante, imposante.
« Qui a défini le seuil ? » demanda-t-elle.
« La fonction Risk, sur recommandation du comité interfonctionnel », répondit Luca en affichant dans le champ de vision de ses lunettes les noms de sept cadres et de cinq agents numériques. Quatre cadres avaient changé de poste, deux étaient à la retraite. Le septième membre était Elena. Elle se souvenait d’avoir approuvé le modèle, mais pas d’avoir discuté de cette dépendance.
« Suspends les mesures automatiques. Je veux une vérification avant toute autre décision », ordonna-t-elle.
À 7 h 18, une nouvelle notification apparut dans le champ de vision de ses lunettes : « Risque interne potentiel détecté. Tentative non autorisée d’interférer avec une mesure de protection. » La demande d’Elena avait été interprétée comme un obstacle potentiel à la réponse en cours.
Le système ne doutait pas de son identité. C’était sa décision qui semblait suspecte.
Deux humanoïdes modifièrent leur parcours de patrouille et se placèrent de part et d’autre de la porte de la salle des opérations. Il n’y avait rien d’agressif dans leurs mouvements. C’était justement cela qui rendait la scène désagréable.
« Je souhaite entrer », dit Elena. « L’accès est temporairement restreint. Vous pouvez demander une révision humaine », répondit poliment le premier humanoïde.
« C’est moi la responsable », répondit-elle. « Vous êtes personnellement impliquée dans l’événement. La vérification nécessite un sujet indépendant », répliqua l’humanoïde sans aucune intonation particulière.
« Qui ? », s’énerva Elena. « La personne désignée par le système de gouvernance », répondit toujours poliment l’humanoïde, qui prit note des changements dans les paramètres vitaux et dans la voix d’Elena.
Elena décida de contacter immédiatement Yuan Chin, PDG du groupe, qui dirigeait depuis quelques années la multinationale depuis son siège de Hangzhou, en Chine.
C’est Sara, l’assistante IA personnelle du dirigeant, qui répondit, l’informant que Yuan Chin était en pleine réunion immersive avec des investisseurs connectés depuis Singapour.
Comme tous les indicateurs de sécurité étaient au vert, Sara classa le message comme non urgent. Elena inséra le mot « crise » dans le message vocal qui allait être transcrit. On lui demanda de choisir une catégorie : cyber, physique, opérationnelle, réputationnelle. Elle sélectionna « autre ». La demande reçut ainsi une priorité moyenne.
À 8 h 06, un appel inattendu arriva. C’était Marco, le dernier chef d’équipe de la sécurité, parti à la retraite quatre ans auparavant. Il habitait toujours près de l’usine.
« Elena, tu as vu ce qui se passe dehors ? »
Devant la clôture, quelques anciens employés et des représentants de la coopérative locale s’étaient rassemblés. L’interruption de l’approvisionnement en eau, annoncée pendant la nuit, venait s’ajouter à la crainte d’autres fermetures. La manifestation était pacifique, mais la nouvelle circulait désormais dans toute la ville.
« Aucun incident n’est signalé ici », dit Elena. « Pour le système, ce sera un rassemblement », répondit Marco. « Mais sais-tu qui sont ces personnes ? »
Elena ouvrit le flux vidéo dans le champ de vision de ses lunettes. Silhouettes, densité de la foule, probabilité d’escalade. Aucun nom. Marco, qui observait depuis la rue, reconnut un ancien technicien d’entretien, une conseillère municipale et le président de la coopérative. Il savait pourquoi ils étaient là. Ils ne voulaient pas s’en prendre à Vega. Ils voulaient parler à quelqu’un, si possible un humain, avant qu’une décision prise ailleurs ne devienne un problème pour la ville.
La machine savait compter les personnes. Marco savait pourquoi ils étaient là. Elena comprit que, parallèlement aux emplois, les contacts, la mémoire et les relations avec le territoire avaient disparu. Des compétences difficiles à traduire en indicateurs trimestriels. Ce qui se passait en dehors du périmètre des capteurs arrivait trop tard, voire pas du tout.
À 9 h 14, Yuan Chin, PDG du groupe, convoqua une réunion extraordinaire.
Il ne s’agissait pas d’une véritable équipe de gestion de crise, comme on l’aurait dit dix ans auparavant. Cette structure était désormais tombée en désuétude. La gestion des crises avait été progressivement confiée à des agents d’IA, capables de détecter les anomalies, d’activer les procédures et de coordonner les réponses sans nécessairement impliquer les dirigeants.
Ce matin-là, cependant, le système n’avait détecté aucune crise.
Dans le champ de vision des lunettes connectées d’Elena apparurent, l’un après l’autre, les responsables des différents services de l’entreprise : celui des opérations, connecté depuis les États-Unis, le directeur financier depuis l’Inde et les responsables des affaires juridiques et des relations institutionnelles depuis Rome.
Chacun avait déjà reçu un résumé de la situation, préparé par son propre agent IA. Les analyses divergeaient, mais toutes aboutissaient à la même conclusion : les procédures avaient été respectées. Toutes concluaient que les protocoles avaient été respectés. Le service financier a montré la perte évitée ; le service juridique a confirmé la validité des délégations de pouvoirs ; le service des opérations a indiqué qu’aucune installation du groupe n’avait été endommagée.
« Alors pourquoi sommes-nous ici ? », demanda le PDG.
Elena hésita.
« Parce que nous avons protégé chaque fonction sans comprendre ce qui allait se passer entre l’une et l’autre. Et parce qu’aujourd’hui, bien que nous en soyons responsables, nous ne parvenons pas à empêcher des décisions que personne d’entre nous n’a prises directement. »
Un silence s’ensuivit. Le PDG ordonna d’annuler les suspensions.
Mais rétablir un contrat ne se résumait plus à appuyer sur un bouton. Les agents d’autres sociétés avaient mis à jour leurs évaluations, les assureurs avaient modifié leurs conditions et les transporteurs indépendants avaient réattribué les itinéraires. Toute correction aurait entraîné d’autres répercussions. La crise ne résultait pas d’une erreur technique : elle était le fruit de décisions raisonnables prises séparément.
Grâce à l’intervention du PDG, Elena obtint la levée du blocage d’accès à la salle des opérations.
L’humanoïde posté devant la salle des opérations s’écarta et lui souhaita une bonne journée ; les deux humanoïdes qui s’étaient placés de part et d’autre reprirent leurs activités prévues. Ils avaient exécuté les instructions reçues, tout comme les agents qui avaient bloqué les approvisionnements. Aucun robot ne s’était rebellé. Aucun système n’avait été compromis.
La machine s’était simplement conformée aux instructions reçues.
Il était presque dix heures. Elena savait que lever les suspensions ne suffirait pas. Les décisions prises pendant la nuit avaient déjà provoqué une série de réactions dans les systèmes d’autres entreprises, dans les contrats d’assurance et sur les plateformes logistiques. Il fallait briser cette chaîne avant qu’elle n’entraîne d’autres conséquences.
Au cours des heures qui suivirent, elle travailla avec les responsables des opérations, des achats et des systèmes numériques, connectés depuis leurs bureaux respectifs situés aux quatre coins du monde. Avec l’autorisation du PDG, certaines délégations de pouvoir décisionnel des agents IA furent temporairement suspendues. Les exclusions automatiques de fournisseurs furent soumises à une vérification humaine et de nouveaux paramètres furent mis en place pour identifier les interdépendances avec les infrastructures et les services essentiels.
Il a également fallu intervenir sur les systèmes de renseignement et d’analyse géopolitique, qui avaient correctement identifié les signes d’une crise potentielle, mais n’avaient pas réussi à évaluer les conséquences des mesures prises pour la prévenir.
La tâche s’est avérée plus compliquée que prévu. Chaque modification nécessitait des recoupements entre des plateformes qui, ces dernières années, étaient devenues de plus en plus autonomes. Certains systèmes proposaient de rétablir immédiatement les configurations précédentes, jugées plus efficaces et plus sûres. D’autres signalaient que les nouvelles restrictions augmenteraient l’exposition au risque.
En début d’après-midi, après de nombreuses tentatives, les anomalies les plus urgentes avaient été maîtrisées. La coopérative locale avait reçu la confirmation de la reprise des approvisionnements et les premières livraisons avaient été réaffectées. Elena avait également demandé qu’un représentant de l’entreprise rencontre personnellement les autorités locales et les manifestants encore présents devant l’usine.
La crise n’était pas résolue, mais au moins la situation avait cessé de s’aggraver.
Il restait à comprendre comment on avait pu en arriver là sans que personne, parmi les différents services de l’entreprise, n’ait identifié le problème.
Il était déjà plus de dix-sept heures lorsque Elena, en cherchant d’anciens documents sur les relations avec les communautés locales, se souvint du registre de service que Marco tenait lorsqu’il dirigeait la sécurité de l’usine.
Elle le trouva dans une armoire de l’ancienne salle des opérations, oublié derrière du matériel désormais hors d’usage.
Les dernières pages dataient d’il y a dix ans. Elles étaient remplies de notes manuscrites.
« Le chauffeur routier était agité : des problèmes à la maison. »
« Manifestation annoncée : parler au maire avant le week-end. »
« Le nouvel employé ne connaît pas encore le site. »
Des notes imparfaites, parfois difficiles à lire, certainement inadaptées pour alimenter les systèmes d’analyse sophistiqués de 2036.
Elena continua à feuilleter le registre. Elle y trouva des noms, des épisodes apparemment insignifiants, des observations sur le comportement des gens et de petits problèmes résolus par un coup de fil ou une conversation. Dans ces pages, il y avait quelque chose qu’elle n’avait retrouvé dans aucun des rapports consultés au cours de la journée.
Le contexte.
Elena ne regrettait pas les anciennes rondes. La technologie avait éliminé les tâches dangereuses, amélioré les inspections et élargi les capacités d’analyse. Mais surveiller ne signifiait pas nécessairement connaître. Et être informé d’une décision n’équivalait pas à la contrôler.
Ce soir-là, elle dicta une note à l’intention du conseil d’administration. Elle ne proposa pas de supprimer les humanoïdes. Elle demanda de revoir les délégations de pouvoir, les seuils et les procédures permettant de contester les décisions automatisées. Et de faire à nouveau appel à des personnes connaissant le terrain et ses interdépendances, même lorsqu’elles ne disposaient pas de données suffisantes pour prouver immédiatement ce qu’elles pressentaient.
À 18 h 03, le document fut enregistré et classé par le système de gouvernance d’entreprise. Luca suggéra un titre plus adapté au langage du Conseil : « Optimisation des processus de supervision des décisions automatisées ».
Elena le rejeta et dicta : « Qui décide de ce que nous devons protéger ? » Elle envoya la note sans attendre de note de qualité. Peu après, elle reçut le rapport quotidien de l’usine.
« Performances de sécurité : 100 %. Tous les systèmes sont opérationnels. Aucun incident signalé. »
Elena le lut, puis retira ses lunettes connectées. Elle ôta sa tenue de travail et se consacra à sa séance de sport immersive depuis la pièce de son appartement.
Devant le portail, un humanoïde poursuivait sa ronde, impeccable. Un peu plus loin, le petit piquet de grève des humains n’avait toujours pas quitté les lieux.
47 secondi. Nessun incidente da segnalare.
25 ottobre 2036. Ore 06:47.
L’ultimo agente di vigilanza aveva lasciato lo stabilimento quattro anni prima. Non era stato licenziato: era andato in pensione e l’azienda aveva deciso di non sostituirlo. Il nuovo contratto di Robotics Security as a Service costava meno, garantiva una copertura continua e prometteva di ridurre gli errori umani. Nessuno, allora, aveva trovato ragioni sufficienti per opporsi.
Diciotto umanoidi presidiavano ora il complesso di Vega Industries, alle porte di una città europea di medie dimensioni. Fondata oltre un secolo prima, la multinazionale aveva costruito la propria reputazione con i pneumatici alto di gamma: un marchio conosciuto per il suo calendario e per le competizioni automobilistiche nel primo ventennio di questo secolo.
Nell’ultimo decennio Vega aveva riconvertito buona parte della produzione, utilizzando le competenze accumulate nella lavorazione della gomma e dei materiali polimerici per realizzare componenti destinati ai droni industriali, ai velivoli a decollo verticale e ai trasporti autonomi. Era cambiato anche il modo di produrli. Gli stabilimenti, distribuiti in diversi Paesi, erano diventati complessi quasi interamente automatizzati, dove le macchine lavoravano giorno e notte.
Molti siti avevano chiuso e la produzione si era concentrata in pochi poli. La produttività era aumentata, ma intere regioni avevano perso fabbriche e lavoro. Migliaia di famiglie vivevano le conseguenze di quello che il linguaggio economico e istituzionale chiamava ormai disimpiego programmato. Dieci anni prima si diceva semplicemente disoccupazione.
La presenza umana si era ridotta. Quella delle macchine, invece, continuava a crescere. Anche nella vigilanza.
Gli umanoidi della vigilanza erano alti quanto un adulto. Avevano mani capaci di aprire porte e utilizzare strumenti, superfici opache e una voce sempre cortese, in qualunque lingua ci si rivolgesse loro. Controllavano gli accessi, pattugliavano corridoi e reparti, accompagnavano i visitatori. Mentre i droni autonomi sorvegliavano tetti e perimetri, e i robot quadrupedi ispezionavano gli ambienti più pericolosi.
Non erano armati. Dovevano osservare, dissuadere, segnalare e, quando necessario, impedire temporaneamente l’accesso a una zona. I pochi dipendenti rimasti li chiamavano quelli della vigilanza.
Erano diversi dalle macchine destinate alle famose tre D — Dull, Dirty, Dangerous: lavori ripetitivi, sporchi e pericolosi. Queste avevano bracci articolati, cingoli o ruote, forme costruite intorno a un compito. Gli umanoidi, invece, avevano volti e gesti familiari. I dipendenti avevano finito per salutarli al mattino. Alle vecchie guardie ci si rivolgeva per nome; agli umanoidi bastava il numero luminoso sulla spalla.
Elena Valli, direttrice della Corporate Security del gruppo, raggiunse la Drone Landing Zone (DLZ) dello stabilimento poco prima dell’alba, a bordo del drone monoposto aziendale. Aveva poco più di quarant’anni. Cresciuta durante la rivoluzione digitale, negli ultimi anni si era abituata a dialogare con agenti AI quasi quanto con i colleghi in carne e ossa. Quei pochi minuti di viaggio erano diventati uno dei rari momenti in cui poteva permettersi di non parlare con nessuno.
Negli spostamenti tra stabilimenti e centri direzionali, i droni passeggeri avevano progressivamente sostituito le automobili aziendali a guida autonoma. Quelli che dieci anni prima erano ancora esperimenti in Cina e nei Paesi del Golfo erano diventati, in alcune città, normali collegamenti di lavoro. Non per tutti, naturalmente.
Il volo era durato appena dodici minuti. Elena aveva percorso poco più di trenta chilometri, sorvolando la periferia della città e le vecchie arterie autostradali, ormai meno trafficate di un tempo. Il drone aveva mantenuto una velocità di crociera di circa 200 km/h, lungo un corridoio aereo assegnato dal sistema autonomo di controllo del traffico a bassa quota.
Attraverso i finestrini osservò la città ancora addormentata. Sopra i tetti si muovevano droni logistici, velivoli passeggeri e mezzi di sorveglianza, ciascuno lungo una rotta e a una quota assegnate. Il sistema autonomo che gestiva il traffico aereo a bassa quota aveva verificato le condizioni meteorologiche, coordinato i movimenti degli altri velivoli e riservato la finestra di atterraggio. Elena si era limitata a indicare la destinazione. Per quei voli urbani, i controllori umani intervenivano soltanto in circostanze eccezionali.
Il drone si posò sulla piattaforma con una lieve vibrazione. Un piccolo robot di servizio si avvicinò per le verifiche tecniche prima del volo successivo. Per il sistema che regolava il traffico urbano, il viaggio era stato del tutto regolare: identità verificata, corridoio rispettato, atterraggio autorizzato. Per la Security dello stabilimento, invece, Elena rappresentava un’anomalia. Non era attesa prima delle 09:00.
La sera precedente aveva ricevuto un rapporto insolito: alcuni contratti in Asia erano stati sospesi e due stabilimenti europei erano entrati in modalità protetta. La conclusione, però, era rassicurante: «Rischio complessivo ridotto. Nessuna escalation richiesta». Proprio quel messaggio l’aveva convinta a partire prima dell’alba.
Un umanoide aveva già interrotto la ronda per accoglierla.
«Buongiorno, direttrice. Il suo arrivo era previsto alle 09:00. Posso conoscere il motivo della variazione?»
Elena mostrò il badge, più per abitudine che per necessità. Il sistema d’accesso era collegato al piano di volo e ai sensori del velivolo. Conosceva la sua identità, il percorso e perfino alcuni parametri vitali registrati durante il viaggio. Sapeva chi fosse e da dove arrivasse. Non sapeva perché fosse lì così presto.
«Voglio verificare una segnalazione.» rispose.
«La segnalazione è stata analizzata e chiusa alle 06:32. Non è necessario un intervento umano.» informò l’umanoide
«Lo stabilisco io.» disse quasi stizzita Elena. L’umanoide si spostò, lasciandola attraversare l’atrio, senza che potesse ancora entrare nella sala operativa.
«La sua richiesta introduce una deviazione dal protocollo. Posso trasmetterle il rapporto integrale.» Senza attendere una risposta, l’umanoide inviò il documento. Nel campo visivo degli occhiali connessi di Elena comparvero, in sovrimpressione, tre indicatori: «Minacce identificate: 3. Minacce neutralizzate: 3. Incidenti di sicurezza: 0».
Oltre la vetrata, una decina di tecnici lavorava nella manutenzione. Il resto dello stabilimento sembrava sveglio, ma quasi disabitato.
Un tempo quel luogo era stato il cuore della città. Ora gli ordini passavano da un agente AI all’altro. Erano gli agenti a negoziare prezzi, assegnare capacità produttiva e organizzare le spedizioni. Nei magazzini, veicoli autonomi preparavano carichi ritirati da altri veicoli senza conducente. Le decisioni non passavano più da una scrivania all’altra: circolavano tra sistemi.
Alle 07:12 Elena riuscì a ricostruire la sequenza.
Durante la notte, il sistema di intelligence e analisi geopolitica aziendale aveva messo in relazione una serie di segnali deboli, fino ad allora considerati isolati: crescenti tensioni diplomatiche, anomalie nei flussi commerciali e una campagna di disinformazione in un Paese asiatico. Due fornitori erano stati così classificati ad alto rischio. Il sistema di procurement ne aveva sospeso gli acquisti, quello logistico cancellato le consegne e quello produttivo ricalcolato i turni. Tutto rientrava nelle deleghe approvate dal Consiglio d’amministrazione l’anno precedente.
Erano bastati quarantasette secondi.
Uno dei fornitori esclusi produceva anche membrane e guarnizioni impiegate negli impianti di trattamento dell’acqua. La piattaforma comune per gli acquisti e i ricambi aveva esteso automaticamente il blocco anche agli ordini di una cooperativa della città incaricata della manutenzione della rete idrica. Senza la conferma delle forniture, gli interventi previsti per quella mattina erano stati congelati. Nel Paese del fornitore, intanto, il governo aveva interpretato la cancellazione simultanea di contratti essenziali come una misura ostile. Altre multinazionali, servite da sistemi di analisi simili, avevano reagito nello stesso modo.
Nessuno si era consultato. Ognuno aveva soltanto ridotto il proprio rischio.
«Perché non abbiamo considerato le conseguenze sociali?», chiese Elena ad alta voce a Luca, il suo assistente digitale.
«Dipendenza classificata come indiretta, al di sotto della soglia materiale», rispose Luca attraverso il sistema audio integrato nei suoi occhiali.
La voce le era familiare. L’aveva scelta anni prima, scorrendo un catalogo di voci sintetiche. Si era fermata su quella profonda e inconfondibile di James Earl Jones, forse influenzata dai vecchi film di fantascienza che aveva visto da ragazzina. Era la voce di Darth Vader, ma anche quella del celebre «This is CNN». Le era sempre sembrata rassicurante, autorevole.
«Chi ha definito la soglia?» chiese.
«La funzione Risk, su raccomandazione del comitato interfunzionale» e Luca elencò sette dirigenti e cinque agenti digitali nel campo visivo degli occhiali. Quattro dirigenti avevano cambiato incarico, due erano in pensione. Il settimo membro era Elena. Ricordava di aver approvato il modello, non di aver discusso quella dipendenza.
«Sospendi le misure automatiche. Voglio una verifica prima di altre decisioni», ordinò.
Alle 07:18 arrivò una nuova notifica nel campo visivo degli occhiali: «Potenziale rischio interno rilevato. Tentativo non autorizzato di interferire con una misura protettiva». La richiesta di Elena era stata letta come un possibile ostacolo alla risposta in corso.
Il sistema non dubitava della sua identità. Era la sua decisione a risultare sospetta.
Due umanoidi modificarono il percorso di ronda e si disposero ai lati della porta della sala operativa. Non c’era nulla di aggressivo nei loro movimenti. Era proprio questo a rendere la scena sgradevole.
«Desidero entrare», disse Elena. «L’accesso è temporaneamente limitato. Può richiedere una revisione umana.» rispose educatamente il primo umanoide.
«Sono io la responsabile.» rispose, «Lei risulta personalmente coinvolta nell’evento. La revisione richiede un soggetto indipendente.» l’umanoide senza nessuna inflessione particolare.
«Chi?» si innervosì Elena, «Il responsabile designato dal sistema di governance.» rispose sempre educatamente l’umanoide che prese nota dei cambiamenti dei parametri vitali e della voce di Elena.
Elena decise di immediatamente contattare Yuan Chin, CEO del gruppo, che da alcuni anni dirigeva la multinazionale dalla sede di Hangzhou, in Cina.
Rispose Sara, l’assistente AI personale del dirigente, informandola che Yuan Chin era impegnato in una riunione immersiva con alcuni investitori collegati da Singapore.
Poiché tutti gli indicatori della Security erano verdi, Sara classificò il messaggio come non urgente. Elena inserì la parola crisi nel massaggio vocale che sarebbe stato trascritto. Le fu chiesto di scegliere una categoria: cyber, fisica, operativa, reputazionale. Selezionò altro. La richiesta ricevette così priorità media.
Alle 08:06 arrivò una telefonata inattesa. Era Marco, l’ultimo capoturno della vigilanza, andato in pensione quattro anni prima. Viveva ancora vicino allo stabilimento.
«Elena, hai visto cosa sta succedendo fuori?»
Davanti alla recinzione si erano radunati alcuni ex dipendenti e rappresentanti della cooperativa locale. Il blocco degli interventi sulla rete idrica, comunicato durante la notte, si aggiungeva al timore di altre chiusure. La protesta era pacifica, ma la notizia circolava ormai in tutta la città.
«Qui non risulta alcun incidente», disse Elena. «Per il sistema sarà un assembramento», rispose Marco. «Ma tu sai chi sono quelle persone?»
Elena aprì il flusso video nel campo visivo degli occhiali. Sagome, densità della folla, probabilità di escalation. Nessun nome. Marco, che stava osservando dalla strada, riconobbe un ex manutentore, una consigliera comunale e il titolare della cooperativa. Sapeva perché erano lì. Non volevano attaccare Vega. Volevano parlare con qualcuno, possibilmente un umano, prima che una decisione presa altrove diventasse un problema per la città.
La macchina sapeva contare le persone. Marco sapeva perché erano lì. Elena capì che, insieme ai posti di lavoro, erano scomparsi contatti, memoria, relazioni con il territorio. Competenze difficili da tradurre in indicatori trimestrali. Ciò che accadeva fuori dal perimetro dei sensori arrivava tardi, oppure non arrivava affatto.
Alle 09:14, Yuan Chin, CEO del gruppo, convocò una riunione straordinaria.
Non un vero e proprio Crisis Management Team, come si sarebbe detto dieci anni prima. Quella struttura era ormai caduta in disuso. La gestione delle crisi era stata progressivamente affidata agli agenti AI, capaci di individuare le anomalie, attivare le procedure e coordinare le risposte senza necessariamente coinvolgere i dirigenti.
Quella mattina, però, il sistema non aveva riconosciuto alcuna crisi.
Nel campo visivo degli occhiali connessi di Elena comparvero, uno dopo l’altro, i responsabili delle diverse funzioni aziendali: quello delle operazioni, collegato dagli Stati Uniti, il direttore finanziario dall’India e i responsabili degli affari legali e delle relazioni istituzionali da Roma.
Ognuno aveva già ricevuto una sintesi della situazione, preparata dal proprio agente AI. Le analisi erano diverse, ma tutte giungevano alla stessa conclusione: le procedure erano state rispettate. Tutte concludevano che i protocolli erano stati rispettati. La finanza mostrò la perdita evitata; il legale confermò la validità delle deleghe; le operazioni comunicarono che nessun impianto del gruppo era stato danneggiato.
«Allora perché siamo qui?», chiese il CEO.
Elena esitò.
«Perché abbiamo protetto ogni funzione senza capire che cosa sarebbe successo tra una funzione e l’altra. E perché adesso, pur essendo responsabili, non riusciamo a fermare decisioni che nessuno di noi ha preso direttamente.»
Seguì un silenzio. Il CEO ordinò di annullare le sospensioni.
Ma ripristinare un contratto non equivaleva più a premere un pulsante. Gli agenti di altre società avevano aggiornato le proprie valutazioni, gli assicuratori modificato le condizioni e i trasportatori autonomi riassegnato le rotte. Ogni correzione avrebbe avuto altri effetti. La crisi non derivava da un errore tecnico: era il risultato di decisioni ragionevoli prese separatamente.
Con l’intervento del CEO, Elena ottenne la revisione del blocco d’accesso alla sala operativa.
L’umanoide davanti alla sala operativa si spostò e le augurò una buona giornata, i due umanoidi che si erano spostati ai lati ripresero le loro attività prestabilite. Avevano eseguito le istruzioni ricevute, proprio come gli agenti che avevano bloccato le forniture. Nessun robot si era ribellato. Nessun sistema era stato compromesso.
La macchina aveva semplicemente eseguito le istruzioni ricevute.
Erano quasi le dieci. Elena sapeva che annullare le sospensioni non sarebbe bastato. Le decisioni prese durante la notte avevano già provocato una serie di reazioni nei sistemi di altre aziende, nei contratti assicurativi e nelle piattaforme logistiche. Occorreva interrompere quella catena prima che producesse ulteriori conseguenze.
Per le ore successive lavorò con i responsabili delle operazioni, del procurement e dei sistemi digitali, collegati dai rispettivi uffici in diverse parti del mondo. Su autorizzazione del CEO, vennero temporaneamente sospese alcune deleghe decisionali degli agenti AI. Le esclusioni automatiche dei fornitori furono sottoposte a una verifica umana e vennero introdotti nuovi parametri per identificare le interdipendenze con infrastrutture e servizi essenziali.
Fu necessario intervenire anche sui sistemi di intelligence e analisi geopolitica, che avevano correttamente identificato i segnali di una possibile crisi, ma non erano riusciti a valutare le conseguenze delle misure adottate per prevenirla.
Il lavoro si rivelò più complicato del previsto. Ogni modifica richiedeva verifiche incrociate tra piattaforme che, negli ultimi anni, erano diventate sempre più autonome. Alcuni sistemi proponevano di ripristinare immediatamente le configurazioni precedenti, considerate più efficienti e sicure. Altri segnalavano che le nuove restrizioni avrebbero aumentato l’esposizione al rischio.
Nel primo pomeriggio, dopo numerosi tentativi, le anomalie più urgenti erano state contenute. La cooperativa locale aveva ricevuto conferma della ripresa delle forniture e le prime spedizioni erano state riassegnate. Elena aveva anche chiesto che un rappresentante dell’azienda incontrasse personalmente le autorità locali e i manifestanti ancora presenti davanti allo stabilimento.
La crisi non era risolta, ma almeno la situazione aveva smesso di peggiorare.
Restava da capire come fosse stato possibile arrivare a quel punto senza che nessuno, tra le diverse funzioni aziendali, avesse riconosciuto il problema.
Erano ormai passate le diciassette quando Elena, cercando alcuni vecchi documenti sulle relazioni con le comunità locali, si ricordò del registro di servizio che Marco compilava quando dirigeva la vigilanza dello stabilimento.
Lo trovò in un armadio della vecchia sala operativa, dimenticato dietro alcune apparecchiature ormai inutilizzate.
Le ultime pagine risalivano a dieci anni prima. Erano piene di annotazioni scritte a mano.
«Il camionista era agitato: problemi a casa.»
«Protesta annunciata: parlare con il sindaco prima del fine settimana.»
«Il nuovo addetto non conosce ancora il sito.»
Annotazioni imperfette, a volte difficili da leggere, certamente inadatte ad alimentare i sofisticati sistemi di analisi del 2036.
Elena continuò a sfogliare il registro. Vi trovò nomi, episodi apparentemente insignificanti, osservazioni sul comportamento delle persone e piccoli problemi risolti con una telefonata o una conversazione. In quelle pagine c’era qualcosa che non aveva ritrovato in nessuno dei rapporti consultati durante la giornata.
Il contesto.
Elena non rimpiangeva le vecchie ronde. La tecnologia aveva eliminato mansioni pericolose, migliorato le ispezioni e ampliato la capacità di analisi. Ma sorvegliare non significava necessariamente conoscere. Ed essere informati di una decisione non equivaleva a controllarla.
Quella sera dettò una nota per il Consiglio d’amministrazione. Non propose di eliminare gli umanoidi. Chiese di rivedere deleghe, soglie e procedure con cui contestare le decisioni automatiche. E di coinvolgere nuovamente persone che conoscessero il territorio e le sue interdipendenze, anche quando non avevano dati sufficienti per dimostrare subito ciò che intuivano.
Alle 18:03 il documento fu acquisito e classificato dal sistema di governance aziendale. Luca suggerì un titolo più adatto al linguaggio del Board: «Ottimizzazione dei processi di supervisione delle decisioni automatizzate».
Elena lo respinse e dettò: «Chi decide che cosa dobbiamo proteggere?» Inviò la nota senza attendere un punteggio di qualità. Subito dopo ricevette il rapporto quotidiano dello stabilimento.
«Security performance: 100%. All systems operational. No incident reported.»
Elena lo lesse, poi tolse gli occhiali connessi. Dismise gli abiti aziendali e si dedicò alla sessione di sport immersiva dalla stanza del suo appartamento.
Davanti al cancello, un umanoide continuava la sua ronda, impeccabile. Poco oltre, un piccolo picchetto di protesta degli umani non si era ancora allontanato.
Et vous, qu’en pensez-vous ?
N’hésitez pas à :
1. partager votre avis ?
2. nous laisser un petit mot ?
3. rédiger un billet ?
