Le macchine che leggono il pensiero :
breve introduzione alle neurotecnologie
Il libro che accompagna il podcast
Ciò che conta, e che è bene tenere a mente, è che avere il potere di determinare ciò che un chatbot risponde significa avere il potere di manipolare l’interlocutore.
La mente sotto assedio
Come non lasciarsi manipolare nell’era dell’intelligenza artificiale
Bruno Giussani, 2026, Edizioni Casagrande, Bellinzona
L’intera stagione
Questa serie in sei parti (integrata da un « episodio bonus » con una fiction immersiva) è stata scritta e presentata da Bruno Giussani, esperto di questioni sociali legate alle tecnologie digitali. Esplora una dimensione invisibile ma cruciale dei conflitti contemporanei: l’integrità della nostra mente.
Transkript
State ascoltando Deftech podcast, il podcast di prospettiva tecnologica di Armasuisse.
Prima stagione, episodio 3: Le macchine che leggono il pensiero: breve introduzione alle neurotecnologie
BRUNO GIUSSANI
Guardatevi intorno. Quante persone conoscete che portano degli smartwatch, gli orologi cosiddetti intelligenti. Oppure che indossano anelli digitali, apparecchi per misurare le prestazioni sportive, o magari occhiali dotati di fotocamera e computer? Forse, li portate anche voi.
Oltre a dare accesso a notifiche e informazioni, questi dispositivi, indossati sul corpo o integrati negli indumenti, permettono di monitorare l’attività fisica, il sonno, i parametri vitali, gli stati emotivi e persino il livello d’attenzione. In altre parole: offrono una migliore comprensione del nostro corpo.
Sono connessi, e spesso abbinati a sistemi di intelligenza artificiale. E integrano altre tecnologie avanzate. Gli auricolari intelligenti, ad esempio – gli « smart buds » – sono ovviamente utilizzati per ascoltare musica o telefonare, ma possono anche includere accelerometri e giroscopi per rilevare i movimenti di una persona o monitorarne la postura.
Questi gadget rappresentano l’avanguardia, il primo utilizzo diffuso di un tipo completamente diverso di integrazione uomo-macchina: non più basato, come abbiamo visto nelle puntate precedenti, sulle tracce digitali che lasciamo dietro di noi ogni giorno, ma sui nostri dati fisiologici e cerebrali.
E mostrano la via verso la neurotecnologia personale. Un campo che combina neuroscienze, ingegneria, informatica e altre discipline per sviluppare una famiglia di tecnologie progettate per interagire direttamente con il cervello e con il sistema nervoso umano.
Mirano a monitorare, comprendere e migliorare le funzioni cerebrali, per esempio nel contesto della salute mentale, o per aiutare a superare le limitazioni derivanti da una paralisi. Promettono pure di permetterci di raggiungere nuovi livelli di prestazioni cognitive, fisiche e anche di produttività. Ma sollevano pure profondi interrogativi sul controllo, la manipolazione e la tutela dell’autonomia mentale.
Nonostante i progressi della ricerca, capiamo ancora solo parzialmente il funzionamento dell’intelligenza umana. Ognuna delle nostre menti è un universo a sé stante, ancora in gran parte avvolto nel mistero.
Negli ultimi decenni però, tecnologie straordinarie ci hanno permesso di comprendere meglio la struttura del cervello, i processi neurali inconsci, le emozioni e le distorsioni cognitive.
Queste conoscenze vengono adesso utilizzate per sviluppare altre tecnologie in grado di influenzare e manipolare quegli stessi processi cognitivi, per indurre pensieri e per riprogrammare lo spazio della percezione.
JINGLE
Il Deftech Podcast fa parte del dispositivo di previsione tecnologica di armasuisse Scienza e Tecnologia.
Sono Quentin Ladetto, responsabile di questo programma di ricerca. La nostra missione è di anticipare gli sviluppi tecnologici e i loro utilizzi, al servizio del Dipartimento Federale svizzero della Difesa, della Protezione Civile e dello Sport, come pure del pubblico.
In questa prima stagione di sei episodi, intitolata « La Minaccia Cognitiva », ho chiesto a Bruno Giussani, specialista degli impatti sociopolitici delle tecnologie digitali, di decifrare le sfide dell’integrità cognitiva e della sicurezza.
Con l’aiuto di esperti – le cui voci sono tutte state doppiate utilizzando l’intelligenza artificiale – Bruno ci guida attraverso un’esplorazione del rischio cognitivo nell’era degli schermi onnipresenti, dell’intelligenza artificiale e delle neurotecnologie.
Si parlerà di meccanismi, impatti individuali e collettivi, rischi, e anche, naturalmente, di possibili risposte!
BRUNO GIUSSANI
Immaginate la meraviglia di un’intenzione che si traduce in un’azione. Pensate al fatto di controllare un computer, muovendo un cursore su uno schermo, attivando delle funzioni, soltanto con il pensiero.
Questo è l’obiettivo delle interfacce cervello-computer, sviluppate per consentire il controllo di dispositivi esterni con il pensiero, appunto, senza l’uso di tastiera o altro strumento fisico, stabilendo quindi un collegamento diretto tra l’attività cerebrale e i sistemi digitali.
Esistono vari approcci. Alcuni sono « invasivi », come quelli dell’azienda Neuralink, che prevedono l’impianto di elettrodi nel cervello. Questi catturano l’attività neurale e trasmettono i segnali a dispositivi esterni, che li traducono in comandi digitali. In questo modo, le persone paralizzate possono giocare a scacchi o scrivere al computer.
Esistono poi tecnologie « non invasive », di aziende come Emotiv, che utilizzano elettrodi posizionati sul cuoio capelluto per monitorare l’attività cerebrale e generare l’elettroencefalogramma (EEG) di una persona.
E c’è lo spazio intermedio, « semi-invasivo », in cui non è necessario un intervento chirurgico al cervello, ma elettrodi o altri dispositivi possono essere inseriti attraverso i vasi sanguigni, in prossimità dell’area di interesse.
Secondo un database gestito dalla Biblioteca Nazionale di Medicina, negli Stati Uniti sono attualmente in corso 47 studi sulle interfacce cervello-computer. Mentre in Europa, l’Atlante del mercato delle neurotecnologie elenca non meno di 80 aziende con prodotti già disponibili al grande pubblico e quasi altrettante in fase di pre-commercializzazione.
L’arco di sviluppo di queste tecnologie – come abbiamo visto anche a proposito dell’intelligenza artificiale – è lungo. Ci vuol tempo. La scoperta che il cervello è un sistema elettrico risale a più di un secolo fa. Ma fino a tempi recenti, studiare questi segnali richiedeva apparecchiature di laboratorio costose, complesse e delicate. Negli ultimi anni, la curva ha accelerato e la tecnologia è uscita dai laboratori. E così è ora possibile raccogliere, con dispositivi relativamente poco cari, una grande quantità di dati sul nostro cervello. E cercare di capire cosa ci dicono.
Non è necessario un grande sforzo per immaginare che queste interfacce possano essere utilizzate anche nella direzione opposta, per modellare attivamente l’attività cerebrale: per influenzare i pensieri e l’interpretazione della realtà, guidare le decisioni, impiantare falsi ricordi. Potenzialmente, in futuro, anche per creare esperienze del tutto credibili, sentite e toccanti, (fra virgolette) « vissute », attraverso la sola modulazione di segnali elettrici.
Un esempio di come funzionano queste tecnologie ce lo offre Jean-Marc Rickli, Direttore dei rischi globali ed emergenti presso il Centro per le Politiche di Sicurezza di Ginevra:
JEAN-MARC RICKLI
Pensate alle telecamere integrate in un visore per la realtà virtuale come quello lanciato da Apple lo scorso anno, che osservano e tracciano costantemente l’occhio dell’utente.
Associando queste informazioni visive provenienti da stimoli esterni ai sensori neurali installati nello stesso visore, si può correlare ciò che una persona sta guardando, con l’area del cervello che viene attivata.
Diventa così possibile sapere quale tipo di informazione visiva susciterà quale risposta emotiva.
BRUNO GIUSSANI
Olivier Desjeux è uno specialista svizzero di elettrotecnologia. Ha da poco pubblicato un rapporto sulla resilienza cognitiva per Deftech.
Per realizzarlo, ha analizzato brevetti che descrivono dispositivi che fanno parte di quel che viene chiamato IOT, The Internet of Things, l’internet degli oggetti connessi:
OLIVIER DESJEUX
L’analisi dei brevetti depositati mostra che tutti questi sistemi IoT sono sviluppati principalmente con intenzioni positive.
Si tratta di motivi rispettabili dal punto di vista etico. Nelle descrizioni vengono spesso sottolineati i benefici per la salute o la sicurezza delle persone.
Prendiamo l’esempio di un sensore di flusso nervoso in grado di allertare le persone epilettiche dell’imminenza di una crisi. O di dispositivi che monitorano la frequenza cardiaca e la pressione.
Li conosciamo tutti, e funzionano. In futuro inoltre, le persone che hanno perso una funzione motoria potranno recuperarla attraverso interfacce neurali.
BRUNO GIUSSANI
Esistono anche numerose applicazioni professionali. I macchinisti del treno ad alta velocità Pechino-Shanghai, la linea più trafficata al mondo, indossano per esempio sensori integrati nei loro berretti per monitorare il loro stato di allerta e livello di affaticamento.
La Cina è all’avanguardia in queste tecnologie, ma migliaia di aziende nei settori minerario, edile e dei trasporti in tutto il mondo utilizzano già sistemi simili. Altri approcci vogliono sfruttare una tecnica di retroazione nota come neurofeedback per permetterci di superare i nostri limiti: di avere una migliore percezione, una maggiore efficienza, concentrazione, memoria o di aumentare le prestazioni atletiche, per esempio in termini di coordinazione motoria e di riflessi. Diventa poi anche possible sfruttare i pattern cerebrali individuali degli studenti e i loro stati emotivi per offrire un ritmo di apprendimento ottimale. Diverse aziende stanno già sviluppando prodotti di questo tipo.
L’intenzione positiva alla base della creazione di una tecnologia, tuttavia, non dice nulla di come verrà utilizzata in futuro e delle conseguenze che potrà avere. Prendiamo l’esempio degli ultrasuoni, una delle modalità di diagnostica per immagine fra le più utilizzate al mondo.
Gli ultrasuoni furono scoperti quasi due secoli fa sulla base di studi sul volo dei pipistrelli e sulla propagazione del suono nell’acqua. Sono stati utilizzati, tra le altre cose, per mappare i fondali marini, trovare il relitto del Titanic, individuare sottomarini nemici, effettuare lavori di pulizia industriale …e persino per determinare il sesso di un feto tramite un’ecografia. Nella medicina moderna, gli ultrasuoni sono considerati uno strumento diagnostico e terapeutico essenziale.
Ma in Cina, alla fine degli anni ’70, furono utilizzati per sostenere la politica del figlio unico, portando direttamente all’eliminazione di milioni di feti di sesso femminile e a conseguenze demografiche e sociali che persistono ancora oggi.
In altre parole, la discussione sui possibili campi di applicazione di un’innovazione tecnologica è sempre scivolosa.
Un’azienda ottiene l’accesso alle onde cerebrali dei propri dipendenti per motivi di sicurezza, come nel caso dei macchinisti dei treni cinesi, o per monitorare i loro livelli di stress e migliorare il loro benessere mentale. Fin qui, tutto bene. Ma a che punto ciò sconfina nella sorveglianza, o addirittura nella coercizione?
Diventando così un’estensione neurale di quello che oggi conosciamo negli uffici come « bossware« , il software del capo, quei sistemi che monitorano le sequenze di tasti premuti, l’utilizzo di Internet, catturano screenshot e persino fotografano i dipendenti per controllarne le attività e massimizzare la produttività?
Un’azienda commercializza già un prodotto, di origine militare, il cui nome dice tutto: « Cognitive command and control », « Comando e Controllo Cognitivo« .
C’è un intero settore, il neuromarketing, che utilizza da tempo misurazioni fisiologiche e cerebrali per comprendere le motivazioni, le preferenze e i processi decisionali dei consumatori e manipolarne le decisioni d’acquisto. Vi siete mai chiesti, ad esempio, perchè i film di Hollywood, o alcune pubblicità, sono così accattivanti? Perché sono stati sottoposti a dei neurotest. Delle persone li guardano con sensori sulla testa che misurano le loro reazioni cerebrali, ed è su questa base che è fatto il montaggio finale del film.
Alcuni immaginano un futuro in cui la pubblicità sarà iniettata nei sogni. Altri ipotizzano cervelli connessi all’intelligenza artificiale, che sviluppano un pensiero simbiotico. Milioni di persone giocheranno presto online tramite interfacce cervello-computer o indossando visori per la realtà virtuale.
Alcuni useranno il neurofeedback per aumentare la propria autostima e promuovere uno stato mentale positivo. E poi ci sono campi emergenti come la neuroarchitettura che studia il modo in cui i neuroni reagiscono a diversi ambienti fisici e, quindi, se sia possibile creare spazi in grado di leggere, tramite sistemi di sensori, il livello di entusiasmo, stress o antagonismo delle persone al loro interno.
Sempre più, questo avverrà attraverso dispositivi integrati nell’ambiente nel quale ci muoviamo, nei vestiti, negli accessori, nelle infrastrutture e quindi quasi – o del tutto – invisibili.
Ascoltiamo ancora Olivier Desjeux:
OLIVIER DESJEUX
I sensori e gli attuatori e gli altri apparecchi che ci circondano stanno gradualmente diventando invisibili, indolori, insensibili, al punto che ce ne dimentichiamo, perdiamo la consapevolezza della loro presenza.
Prendiamo l’esempio degli « earbuds », gli « auricolari intelligenti ». Alcune persone li indossano tutto il giorno, anche quando non li usano, al punto da non farci più caso.
Oppure, un altro esempio: il leader mondiale degli apparecchi acustici ha da poco lanciato un modello che integra microprocessori con l’intelligenza artificiale.
L’obiettivo è di riconoscere e filtrare il rumore di fondo per garantire una migliore qualità uditiva a chi indossa questi dispositivi acustici.
BRUNO GIUSSANI
Ovviamente, dispositivi di questo tipo migliorano in modo significativo la vita dei loro utenti.
Tuttavia, posizionano dei microchip e dei sistemi di intelligenza artificiale, praticamente invisibili, vicino al cervello – in modo ottimale per « leggere » le emozioni attraverso i segnali cerebrali.
OLIVIER DESJEUX
C’è un principio della fisica quantistica che dice che più si misura con precisione la velocità di una particella, più si perde precisione sulla sua posizione.
Lo stesso vale per noi. Il semplice fatto di sapere che i nostri parametri fisiologici vengono misurati e monitorati altera già il nostro modo di funzionare.
Ciò può incitare comportamenti migliori, come l’incoraggiamento a camminare almeno 10.000 passi al giorno. Ma queste tecnologie hanno tutte due facce.
Possiamo immaginare che tutti questi dati vengano acquisiti da un’azienda poco etica, o da un governo con intenzioni poco democratiche, che li utilizzerebbero per stabilire modelli di correlazione su cui avviare operazioni di influenza.
BRUNO GIUSSANI
Il controllo mentale è stato finora un terreno fertile soprattutto per la fantascienza. Ma diversi governi hanno tentato in vari momenti di sviluppare queste capacità. E applicazioni specifiche sono facilmente immaginabili: per esempio di trovare il modo per identificare gli individui attraverso i loro schemi cerebrali unici, quella che potremmo chiamare la loro « firma cognitiva ».
La ricerca sta avanzando non solo su come decodificare e leggere pensieri e ricordi, ma anche su come modificarli e come iniettarne di nuovi. L’attività cerebrale a breve termine può già essere modificata utilizzando tecnologie come la stimolazione magnetica transcranica.
Questo metodo induce un campo elettrico che altera l’attività dei neuroni presi a bersaglio. Ciò può aiutare i pazienti per esempio a uscire da uno stato depressivo.
Per cambiamenti più profondi, la sfida è quella della precisione, perché, naturalmente, ogni cervello è fisicamente diverso da ogni altro. Intervenire su di essi richiede quindi metodi altamente specifici. Le interfacce invasive hanno qui un vantaggio, poiché sono essenzialmente una rete di fili impiantati direttamente nel cervello. Il che significa che dal punto di vista della libertà personale sono potenzialmente più problematiche.
Anche i sistemi non invasivi possono indurre passivamente nuovi schemi di attività cerebrale. Un interessante studio a questo proposito è stato condotto nel 2024 da ricercatori di tre università americane: Rochester, Yale e Princeton.
Utilizzando un dispositivo di risonanza magnetica funzionale e un sistema di neurofeedback, sono riusciti a iscrivere nuove informazioni nel cervello dei partecipanti come se le avessero apprese, ma senza alcuno sforzo di apprendimento cosciente.
Secondo i tre ricercatori:
VOCE SINTETICA
Questo meccanismo di feedback ha « scolpito » efficacemente l’attività cerebrale dei partecipanti, guidandola verso il modello desiderato.
BRUNO GIUSSANI
Metodi come questo potrebbero aiutare ad accelerare l’apprendimento, poiché non richiedono alcuno sforzo, alcuno studio o nessuna pratica.
Potrebbero essere utilizzati in riabilitazione, ad esempio per aiutare i pazienti vittime di un ictus a recuperare le loro funzioni cerebrali. Ma è evidente che queste ricerche – e altre simili – aprono la strada anche a utilizzi meno benigni.
Nita Farahany, professoressa di diritto all’università Duke, ha analizzato l’argomento in dettaglio nel suo libro « The Battle for your brain« , la battaglia per i nostri cervelli, del 2023.
Ne abbiamo tradotto e adattato alcuni passaggi:
VOCE SINTETICA
La promessa di queste tecnologie, di aiutare le persone a vivere una vita migliore, mi entusiasma. Esse raccolgono dati sul nostro cervello per aiutarci a diventare più veloci, più efficienti, più sicuri e più sani. Saremo quindi motivati a condividere i dati che derivano della nostra attività cerebrale e, individualmente e collettivamente, potremo trarre grandi benefici da ciò che questi dati ci riveleranno.
Ma c’è un rovescio della medaglia, un vaso di Pandora che non mi lascia dormire. Nulla, nelle leggi o nei trattati internazionali, conferisce agli individui una sovranità anche solo rudimentale sul proprio cervello. Non è per subito, ma ci stiamo rapidamente dirigendo verso un mondo di totale trasparenza cerebrale, in cui i progressi della neurotecnologia consentiranno a scienziati, medici, governi e aziende di scrutare a piacimento i nostri cervelli e le nostre menti. E temo che in un futuro ormai prossimo, rinunceremo volontariamente o involontariamente al nostro ultimo baluardo di libertà: la nostra privacy mentale. Temo che cederemo l’accesso alla nostra attività cerebrale a entità commerciali in cambio di sconti, libero accesso ai « social » o persino come condizione per mantenere il nostro impiego. La neurotecnologia potrebbe diventare un requisito nelle aziende e nelle scuole: niente braccialetto, o niente apparecchio che ci scruta, uguale niente lavoro.
Bisogna dire per chiarezza che i dati in sé non sono la stessa cosa dei nostri pensieri e delle nostre emozioni. Ma gli algoritmi di apprendimento automatico stanno diventando sempre più capaci di tradurre l’attività cerebrale in ciò che sentiamo, vediamo, immaginiamo o pensiamo. Scegliendo di utilizzare questi dispositivi, rischiamo di rivelare molto più di quanto previsto.
BRUNO GIUSSANI
Se utilizzate correttamente, queste tecnologie possono quindi portarci benefici individuali e collettivi innegabili. Possono aumentare la sicurezza. Migliorare l’attenzione e le prestazioni.
Ma influenzano fondamentalmente la nostra libertà cognitiva, il nostro diritto all’autodeterminazione sul nostro cervello e sulle nostre esperienze mentali.
Spesso, la nostra attività cerebrale inizia a cambiare prima che ce ne accorgiamo, ad esempio quando subentra uno stato depressivo o ansioso. Cosa succederà quando le macchine, controllate da aziende o governi, potranno sapere cosa stiamo pensando prima ancora che lo pensiamo?
Qui arriviamo a una questione centrale della neurotecnologia: l’importanza di capire che i dati cerebrali sono molto sensibili. E che è necessario definire con cura chi possa raccoglierli e utilizzarli, e come.
Perchè non si tratta soltanto, come le neurotech promette di fare, di aumentare le nostre capacità, ma anche di proteggerle. Di garantire che queste tecnologie ci aiutino a migliorare la nostra comprensione e i nostri processi decisionali, senza permettere ad organizzazioni di vario tipo di decidere al posto nostro. E soprattutto, di impedire che l’aumento artificiale delle nostre capacità cerebrali ci indebolisca come esseri umani, rendendoci più vulnerabili alla manipolazione.
Tutto questo può sembrare un po’ astratto. La ricercatrice in etica della tecnologia Nicoletta Iacobacci riassume così la sfida che ci troviamo ad affrontare:
NICOLETTA IACOBACCI
Le grandi aziende tecnologiche, in particolare americane e cinesi, puntano a creare forme di intelligenza artificiale generale, ovvero sistemi in grado di imitare il pensiero umano.
Allo stesso tempo, il cervello, la parte più complessa del corpo umano, a lungo considerata incomprensibile, sta iniziando a svelare i suoi segreti.
Dobbiamo analizzare e mettere in discussione seriamente la convergenza di queste due linee di sviluppo, che porterà alla nascita di una macchina che ci supererà sia in termini di velocità e potenza di calcolo, sia in termini di conoscenza dettagliata dei nostri schemi mentali ed emotivi.
Sarà un cervello collettivo, una sorta di superintelligenza che abbiamo tutte le ragioni di temere, ma che stiamo contribuendo a creare giorno dopo giorno
BRUNO GIUSSANI
Come l’ha scritto Nita Farahany, tutto ciò non accadrà domattina. Ma la tecnologia avanza a un ritmo molto rapido, plasmando il futuro con il quale dovremo confrontarci.
Diventa quindi essenziale riflettere sulla resilienza e sulla robustezza cognitiva.
Ciò che faremo nei prossimi episodi.
Nella quarta puntata affronteremo un argomento del quale non abbiamo ancora parlato: la guerra cognitiva.
Per oggi ci fermiamo qui.
Sono Bruno Giussani e questo è il Deftech Podcast. Grazie per il vostro ascolto.
Deftech Podcast
Idea e proiezione : Quentin Ladetto
Minaccia cognitiva
Ideazione e redazione : Bruno Giussani
Realizzazione : Anna Holveck
Registrazione : Saverio Damiani
Mixaggio : Saverio Damiani e Johann Conand
Copertina : Cécile Cazanova
Finzione
Redazione : Martin Quenehen
Attrice : Elaine Miranda
Progettazione del suono : Felix Davi
