Version en français
25 ottobre 2036. Ore 06:47.
L’ultimo agente di vigilanza aveva lasciato lo stabilimento quattro anni prima. Non era stato licenziato: era andato in pensione e l’azienda aveva deciso di non sostituirlo. Il nuovo contratto di Robotics Security as a Service costava meno, garantiva una copertura continua e prometteva di ridurre gli errori umani. Nessuno, allora, aveva trovato ragioni sufficienti per opporsi.
Diciotto umanoidi presidiavano ora il complesso di Vega Industries, alle porte di una città europea di medie dimensioni. Fondata oltre un secolo prima, la multinazionale aveva costruito la propria reputazione con i pneumatici alto di gamma: un marchio conosciuto per il suo calendario e per le competizioni automobilistiche nel primo ventennio di questo secolo.
Nell’ultimo decennio Vega aveva riconvertito buona parte della produzione, utilizzando le competenze accumulate nella lavorazione della gomma e dei materiali polimerici per realizzare componenti destinati ai droni industriali, ai velivoli a decollo verticale e ai trasporti autonomi. Era cambiato anche il modo di produrli. Gli stabilimenti, distribuiti in diversi Paesi, erano diventati complessi quasi interamente automatizzati, dove le macchine lavoravano giorno e notte.
Molti siti avevano chiuso e la produzione si era concentrata in pochi poli. La produttività era aumentata, ma intere regioni avevano perso fabbriche e lavoro. Migliaia di famiglie vivevano le conseguenze di quello che il linguaggio economico e istituzionale chiamava ormai disimpiego programmato. Dieci anni prima si diceva semplicemente disoccupazione.
La presenza umana si era ridotta. Quella delle macchine, invece, continuava a crescere. Anche nella vigilanza.
Gli umanoidi della vigilanza erano alti quanto un adulto. Avevano mani capaci di aprire porte e utilizzare strumenti, superfici opache e una voce sempre cortese, in qualunque lingua ci si rivolgesse loro. Controllavano gli accessi, pattugliavano corridoi e reparti, accompagnavano i visitatori. Mentre i droni autonomi sorvegliavano tetti e perimetri, e i robot quadrupedi ispezionavano gli ambienti più pericolosi.
Non erano armati. Dovevano osservare, dissuadere, segnalare e, quando necessario, impedire temporaneamente l’accesso a una zona. I pochi dipendenti rimasti li chiamavano quelli della vigilanza.
Erano diversi dalle macchine destinate alle famose tre D — Dull, Dirty, Dangerous: lavori ripetitivi, sporchi e pericolosi. Queste avevano bracci articolati, cingoli o ruote, forme costruite intorno a un compito. Gli umanoidi, invece, avevano volti e gesti familiari. I dipendenti avevano finito per salutarli al mattino. Alle vecchie guardie ci si rivolgeva per nome; agli umanoidi bastava il numero luminoso sulla spalla.
Elena Valli, direttrice della Corporate Security del gruppo, raggiunse la Drone Landing Zone (DLZ) dello stabilimento poco prima dell’alba, a bordo del drone monoposto aziendale. Aveva poco più di quarant’anni. Cresciuta durante la rivoluzione digitale, negli ultimi anni si era abituata a dialogare con agenti AI quasi quanto con i colleghi in carne e ossa. Quei pochi minuti di viaggio erano diventati uno dei rari momenti in cui poteva permettersi di non parlare con nessuno.
Negli spostamenti tra stabilimenti e centri direzionali, i droni passeggeri avevano progressivamente sostituito le automobili aziendali a guida autonoma. Quelli che dieci anni prima erano ancora esperimenti in Cina e nei Paesi del Golfo erano diventati, in alcune città, normali collegamenti di lavoro. Non per tutti, naturalmente.
Il volo era durato appena dodici minuti. Elena aveva percorso poco più di trenta chilometri, sorvolando la periferia della città e le vecchie arterie autostradali, ormai meno trafficate di un tempo. Il drone aveva mantenuto una velocità di crociera di circa 200 km/h, lungo un corridoio aereo assegnato dal sistema autonomo di controllo del traffico a bassa quota.
Attraverso i finestrini osservò la città ancora addormentata. Sopra i tetti si muovevano droni logistici, velivoli passeggeri e mezzi di sorveglianza, ciascuno lungo una rotta e a una quota assegnate. Il sistema autonomo che gestiva il traffico aereo a bassa quota aveva verificato le condizioni meteorologiche, coordinato i movimenti degli altri velivoli e riservato la finestra di atterraggio. Elena si era limitata a indicare la destinazione. Per quei voli urbani, i controllori umani intervenivano soltanto in circostanze eccezionali.
Il drone si posò sulla piattaforma con una lieve vibrazione. Un piccolo robot di servizio si avvicinò per le verifiche tecniche prima del volo successivo. Per il sistema che regolava il traffico urbano, il viaggio era stato del tutto regolare: identità verificata, corridoio rispettato, atterraggio autorizzato. Per la Security dello stabilimento, invece, Elena rappresentava un’anomalia. Non era attesa prima delle 09:00.
La sera precedente aveva ricevuto un rapporto insolito: alcuni contratti in Asia erano stati sospesi e due stabilimenti europei erano entrati in modalità protetta. La conclusione, però, era rassicurante: «Rischio complessivo ridotto. Nessuna escalation richiesta». Proprio quel messaggio l’aveva convinta a partire prima dell’alba.
Un umanoide aveva già interrotto la ronda per accoglierla.
«Buongiorno, direttrice. Il suo arrivo era previsto alle 09:00. Posso conoscere il motivo della variazione?»
Elena mostrò il badge, più per abitudine che per necessità. Il sistema d’accesso era collegato al piano di volo e ai sensori del velivolo. Conosceva la sua identità, il percorso e perfino alcuni parametri vitali registrati durante il viaggio. Sapeva chi fosse e da dove arrivasse. Non sapeva perché fosse lì così presto.
«Voglio verificare una segnalazione.» rispose.
«La segnalazione è stata analizzata e chiusa alle 06:32. Non è necessario un intervento umano.» informò l’umanoide
«Lo stabilisco io.» disse quasi stizzita Elena. L’umanoide si spostò, lasciandola attraversare l’atrio, senza che potesse ancora entrare nella sala operativa.
«La sua richiesta introduce una deviazione dal protocollo. Posso trasmetterle il rapporto integrale.» Senza attendere una risposta, l’umanoide inviò il documento. Nel campo visivo degli occhiali connessi di Elena comparvero, in sovrimpressione, tre indicatori: «Minacce identificate: 3. Minacce neutralizzate: 3. Incidenti di sicurezza: 0».
Oltre la vetrata, una decina di tecnici lavorava nella manutenzione. Il resto dello stabilimento sembrava sveglio, ma quasi disabitato.
Un tempo quel luogo era stato il cuore della città. Ora gli ordini passavano da un agente AI all’altro. Erano gli agenti a negoziare prezzi, assegnare capacità produttiva e organizzare le spedizioni. Nei magazzini, veicoli autonomi preparavano carichi ritirati da altri veicoli senza conducente. Le decisioni non passavano più da una scrivania all’altra: circolavano tra sistemi.
Alle 07:12 Elena riuscì a ricostruire la sequenza.
Durante la notte, il sistema di intelligence e analisi geopolitica aziendale aveva messo in relazione una serie di segnali deboli, fino ad allora considerati isolati: crescenti tensioni diplomatiche, anomalie nei flussi commerciali e una campagna di disinformazione in un Paese asiatico. Due fornitori erano stati così classificati ad alto rischio. Il sistema di procurement ne aveva sospeso gli acquisti, quello logistico cancellato le consegne e quello produttivo ricalcolato i turni. Tutto rientrava nelle deleghe approvate dal Consiglio d’amministrazione l’anno precedente.
Erano bastati quarantasette secondi.
Uno dei fornitori esclusi produceva anche membrane e guarnizioni impiegate negli impianti di trattamento dell’acqua. La piattaforma comune per gli acquisti e i ricambi aveva esteso automaticamente il blocco anche agli ordini di una cooperativa della città incaricata della manutenzione della rete idrica. Senza la conferma delle forniture, gli interventi previsti per quella mattina erano stati congelati. Nel Paese del fornitore, intanto, il governo aveva interpretato la cancellazione simultanea di contratti essenziali come una misura ostile. Altre multinazionali, servite da sistemi di analisi simili, avevano reagito nello stesso modo.
Nessuno si era consultato. Ognuno aveva soltanto ridotto il proprio rischio.
«Perché non abbiamo considerato le conseguenze sociali?», chiese Elena ad alta voce a Luca, il suo assistente digitale.
«Dipendenza classificata come indiretta, al di sotto della soglia materiale», rispose Luca attraverso il sistema audio integrato nei suoi occhiali.
La voce le era familiare. L’aveva scelta anni prima, scorrendo un catalogo di voci sintetiche. Si era fermata su quella profonda e inconfondibile di James Earl Jones, forse influenzata dai vecchi film di fantascienza che aveva visto da ragazzina. Era la voce di Darth Vader, ma anche quella del celebre «This is CNN». Le era sempre sembrata rassicurante, autorevole.
«Chi ha definito la soglia?» chiese.
«La funzione Risk, su raccomandazione del comitato interfunzionale» e Luca elencò sette dirigenti e cinque agenti digitali nel campo visivo degli occhiali. Quattro dirigenti avevano cambiato incarico, due erano in pensione. Il settimo membro era Elena. Ricordava di aver approvato il modello, non di aver discusso quella dipendenza.
«Sospendi le misure automatiche. Voglio una verifica prima di altre decisioni», ordinò.
Alle 07:18 arrivò una nuova notifica nel campo visivo degli occhiali: «Potenziale rischio interno rilevato. Tentativo non autorizzato di interferire con una misura protettiva». La richiesta di Elena era stata letta come un possibile ostacolo alla risposta in corso.
Il sistema non dubitava della sua identità. Era la sua decisione a risultare sospetta.
Due umanoidi modificarono il percorso di ronda e si disposero ai lati della porta della sala operativa. Non c’era nulla di aggressivo nei loro movimenti. Era proprio questo a rendere la scena sgradevole.
«Desidero entrare», disse Elena. «L’accesso è temporaneamente limitato. Può richiedere una revisione umana.» rispose educatamente il primo umanoide.
«Sono io la responsabile.» rispose, «Lei risulta personalmente coinvolta nell’evento. La revisione richiede un soggetto indipendente.» l’umanoide senza nessuna inflessione particolare.
«Chi?» si innervosì Elena, «Il responsabile designato dal sistema di governance.» rispose sempre educatamente l’umanoide che prese nota dei cambiamenti dei parametri vitali e della voce di Elena.
Elena decise di immediatamente contattare Yuan Chin, CEO del gruppo, che da alcuni anni dirigeva la multinazionale dalla sede di Hangzhou, in Cina.
Rispose Sara, l’assistente AI personale del dirigente, informandola che Yuan Chin era impegnato in una riunione immersiva con alcuni investitori collegati da Singapore.
Poiché tutti gli indicatori della Security erano verdi, Sara classificò il messaggio come non urgente. Elena inserì la parola crisi nel massaggio vocale che sarebbe stato trascritto. Le fu chiesto di scegliere una categoria: cyber, fisica, operativa, reputazionale. Selezionò altro. La richiesta ricevette così priorità media.
Alle 08:06 arrivò una telefonata inattesa. Era Marco, l’ultimo capoturno della vigilanza, andato in pensione quattro anni prima. Viveva ancora vicino allo stabilimento.
«Elena, hai visto cosa sta succedendo fuori?»
Davanti alla recinzione si erano radunati alcuni ex dipendenti e rappresentanti della cooperativa locale. Il blocco degli interventi sulla rete idrica, comunicato durante la notte, si aggiungeva al timore di altre chiusure. La protesta era pacifica, ma la notizia circolava ormai in tutta la città.
«Qui non risulta alcun incidente», disse Elena. «Per il sistema sarà un assembramento», rispose Marco. «Ma tu sai chi sono quelle persone?»
Elena aprì il flusso video nel campo visivo degli occhiali. Sagome, densità della folla, probabilità di escalation. Nessun nome. Marco, che stava osservando dalla strada, riconobbe un ex manutentore, una consigliera comunale e il titolare della cooperativa. Sapeva perché erano lì. Non volevano attaccare Vega. Volevano parlare con qualcuno, possibilmente un umano, prima che una decisione presa altrove diventasse un problema per la città.
La macchina sapeva contare le persone. Marco sapeva perché erano lì. Elena capì che, insieme ai posti di lavoro, erano scomparsi contatti, memoria, relazioni con il territorio. Competenze difficili da tradurre in indicatori trimestrali. Ciò che accadeva fuori dal perimetro dei sensori arrivava tardi, oppure non arrivava affatto.
Alle 09:14, Yuan Chin, CEO del gruppo, convocò una riunione straordinaria.
Non un vero e proprio Crisis Management Team, come si sarebbe detto dieci anni prima. Quella struttura era ormai caduta in disuso. La gestione delle crisi era stata progressivamente affidata agli agenti AI, capaci di individuare le anomalie, attivare le procedure e coordinare le risposte senza necessariamente coinvolgere i dirigenti.
Quella mattina, però, il sistema non aveva riconosciuto alcuna crisi.
Nel campo visivo degli occhiali connessi di Elena comparvero, uno dopo l’altro, i responsabili delle diverse funzioni aziendali: quello delle operazioni, collegato dagli Stati Uniti, il direttore finanziario dall’India e i responsabili degli affari legali e delle relazioni istituzionali da Roma.
Ognuno aveva già ricevuto una sintesi della situazione, preparata dal proprio agente AI. Le analisi erano diverse, ma tutte giungevano alla stessa conclusione: le procedure erano state rispettate. Tutte concludevano che i protocolli erano stati rispettati. La finanza mostrò la perdita evitata; il legale confermò la validità delle deleghe; le operazioni comunicarono che nessun impianto del gruppo era stato danneggiato.
«Allora perché siamo qui?», chiese il CEO.
Elena esitò.
«Perché abbiamo protetto ogni funzione senza capire che cosa sarebbe successo tra una funzione e l’altra. E perché adesso, pur essendo responsabili, non riusciamo a fermare decisioni che nessuno di noi ha preso direttamente.»
Seguì un silenzio. Il CEO ordinò di annullare le sospensioni.
Ma ripristinare un contratto non equivaleva più a premere un pulsante. Gli agenti di altre società avevano aggiornato le proprie valutazioni, gli assicuratori modificato le condizioni e i trasportatori autonomi riassegnato le rotte. Ogni correzione avrebbe avuto altri effetti. La crisi non derivava da un errore tecnico: era il risultato di decisioni ragionevoli prese separatamente.
Con l’intervento del CEO, Elena ottenne la revisione del blocco d’accesso alla sala operativa.
L’umanoide davanti alla sala operativa si spostò e le augurò una buona giornata, i due umanoidi che si erano spostati ai lati ripresero le loro attività prestabilite. Avevano eseguito le istruzioni ricevute, proprio come gli agenti che avevano bloccato le forniture. Nessun robot si era ribellato. Nessun sistema era stato compromesso.
La macchina aveva semplicemente eseguito le istruzioni ricevute.
Erano quasi le dieci. Elena sapeva che annullare le sospensioni non sarebbe bastato. Le decisioni prese durante la notte avevano già provocato una serie di reazioni nei sistemi di altre aziende, nei contratti assicurativi e nelle piattaforme logistiche. Occorreva interrompere quella catena prima che producesse ulteriori conseguenze.
Per le ore successive lavorò con i responsabili delle operazioni, del procurement e dei sistemi digitali, collegati dai rispettivi uffici in diverse parti del mondo. Su autorizzazione del CEO, vennero temporaneamente sospese alcune deleghe decisionali degli agenti AI. Le esclusioni automatiche dei fornitori furono sottoposte a una verifica umana e vennero introdotti nuovi parametri per identificare le interdipendenze con infrastrutture e servizi essenziali.
Fu necessario intervenire anche sui sistemi di intelligence e analisi geopolitica, che avevano correttamente identificato i segnali di una possibile crisi, ma non erano riusciti a valutare le conseguenze delle misure adottate per prevenirla.
Il lavoro si rivelò più complicato del previsto. Ogni modifica richiedeva verifiche incrociate tra piattaforme che, negli ultimi anni, erano diventate sempre più autonome. Alcuni sistemi proponevano di ripristinare immediatamente le configurazioni precedenti, considerate più efficienti e sicure. Altri segnalavano che le nuove restrizioni avrebbero aumentato l’esposizione al rischio.
Nel primo pomeriggio, dopo numerosi tentativi, le anomalie più urgenti erano state contenute. La cooperativa locale aveva ricevuto conferma della ripresa delle forniture e le prime spedizioni erano state riassegnate. Elena aveva anche chiesto che un rappresentante dell’azienda incontrasse personalmente le autorità locali e i manifestanti ancora presenti davanti allo stabilimento.
La crisi non era risolta, ma almeno la situazione aveva smesso di peggiorare.
Restava da capire come fosse stato possibile arrivare a quel punto senza che nessuno, tra le diverse funzioni aziendali, avesse riconosciuto il problema.
Erano ormai passate le diciassette quando Elena, cercando alcuni vecchi documenti sulle relazioni con le comunità locali, si ricordò del registro di servizio che Marco compilava quando dirigeva la vigilanza dello stabilimento.
Lo trovò in un armadio della vecchia sala operativa, dimenticato dietro alcune apparecchiature ormai inutilizzate.
Le ultime pagine risalivano a dieci anni prima. Erano piene di annotazioni scritte a mano.
«Il camionista era agitato: problemi a casa.»
«Protesta annunciata: parlare con il sindaco prima del fine settimana.»
«Il nuovo addetto non conosce ancora il sito.»
Annotazioni imperfette, a volte difficili da leggere, certamente inadatte ad alimentare i sofisticati sistemi di analisi del 2036.
Elena continuò a sfogliare il registro. Vi trovò nomi, episodi apparentemente insignificanti, osservazioni sul comportamento delle persone e piccoli problemi risolti con una telefonata o una conversazione. In quelle pagine c’era qualcosa che non aveva ritrovato in nessuno dei rapporti consultati durante la giornata.
Il contesto.
Elena non rimpiangeva le vecchie ronde. La tecnologia aveva eliminato mansioni pericolose, migliorato le ispezioni e ampliato la capacità di analisi. Ma sorvegliare non significava necessariamente conoscere. Ed essere informati di una decisione non equivaleva a controllarla.
Quella sera dettò una nota per il Consiglio d’amministrazione. Non propose di eliminare gli umanoidi. Chiese di rivedere deleghe, soglie e procedure con cui contestare le decisioni automatiche. E di coinvolgere nuovamente persone che conoscessero il territorio e le sue interdipendenze, anche quando non avevano dati sufficienti per dimostrare subito ciò che intuivano.
Alle 18:03 il documento fu acquisito e classificato dal sistema di governance aziendale. Luca suggerì un titolo più adatto al linguaggio del Board: «Ottimizzazione dei processi di supervisione delle decisioni automatizzate».
Elena lo respinse e dettò: «Chi decide che cosa dobbiamo proteggere?» Inviò la nota senza attendere un punteggio di qualità. Subito dopo ricevette il rapporto quotidiano dello stabilimento.
«Security performance: 100%. All systems operational. No incident reported.»
Elena lo lesse, poi tolse gli occhiali connessi. Dismise gli abiti aziendali e si dedicò alla sessione di sport immersiva dalla stanza del suo appartamento.
Davanti al cancello, un umanoide continuava la sua ronda, impeccabile. Poco oltre, un piccolo picchetto di protesta degli umani non si era ancora allontanato.
Et vous, qu’en pensez-vous ?
N’hésitez pas à :
1. partager votre avis ?
2. nous laisser un petit mot ?
3. rédiger un billet ?
