Difendere la nostra integrità cognitiva : l’igiene mentale nell’età digitale
Il libro che accompagna il podcast
Ciò che conta, e che è bene tenere a mente, è che avere il potere di determinare ciò che un chatbot risponde significa avere il potere di manipolare l’interlocutore.
La mente sotto assedio
Come non lasciarsi manipolare nell’era dell’intelligenza artificiale
Bruno Giussani, 2026, Edizioni Casagrande, Bellinzona
L’intera stagione
Questa serie in sei parti (integrata da un « episodio bonus » con una fiction immersiva) è stata scritta e presentata da Bruno Giussani, esperto di questioni sociali legate alle tecnologie digitali. Esplora una dimensione invisibile ma cruciale dei conflitti contemporanei: l’integrità della nostra mente.
Trascrizione
State ascoltando Deftech podcast, il podcast di prospettiva tecnologica di Armasuisse.
Prima stagione, episodio 6: Difendere la nostra integrità cognitiva: l’igiene mentale nell’età digitale.
BRUNO GIUSSANI
Quando Giovanni Gutenberg iniziò a stampare le sue prime Bibbie a Magonza, in Germania, tra il 1450 e il 1455, i cinesi stampavano libri già da molto tempo. La sua innovazione fu l’uso di caratteri mobili in metallo, fusi singolarmente, che permisero di comporre i testi più rapidamente e facilmente.
In altre parole, Gutenberg inventò un metodo per ottimizzare la tipografia, accelerare la produzione di libri, opuscoli e documenti religiosi, e ridurne i costi. Trovò anche il modo di rendere l’inchiostro più scuro e più stabile. Ciò facendo, diede a molte più persone la possibilità di esprimersi, sconvolgendo gli assetti sociali, religiosi e politici dell’epoca. E causando anche il primo sovraccarico informativo della storia.
Alla fine del 15. secolo, appena 50 anni dopo la pubblicazione della prima Bibbia da parte di Gutenberg, macchine da stampa come la sua si erano già diffuse in oltre 110 città europee. Nel loro libro « Storia e poteri della scrittura« , gli storici francesi Henri-Jean Martin e Bruno Delmas stimano che a quel tempo i lettori potessero scegliere tra 27.000 diversi titoli a stampa, per un totale di 10 milioni di copie in circolazione in Europa. Mentre i lettori erano solo poche centinaia di migliaia su una popolazione (Russia inclusa) inferiore ai 100 milioni.
Martin e Delmas raccontano che dapprima gli stampatori modellarono i loro libri sul formato dei manoscritti, cercando di imitare l’eleganza degli scribi. Poi iniziarono ad esplorare nuovi formati, alla ricerca di un linguaggio formale e di un’estetica più adatti ai libri stampati.
Nel 1510 fu introdotta la prima numerazione delle pagine. Comparvero poi paragrafi, capitoli e indici, tutti strumenti pensati per facilitare l’accesso alle informazioni contenute nel libro – a « navigare nell’informazione », diremmo oggi in un contesto digitale.
Fu solo verso la fine del XVI secolo, quindi 150 anni dopo l’invenzione di Gutenberg, che il libro iniziò ad assomigliare a quello che conosciamo oggi.
La risposta a questo diluvio informativo non interessò però soltanto l’oggetto-libro. Coinvolse l’intera società, per un periodo molto lungo. Con un po’ di audacia si potrebbe argomentare che la scuola nella sua forma moderna, i partiti politici, le amministrazioni pubbliche, i tribunali e naturalmente i media, insomma l’intera infrastruttura sociale moderna, sono il risultato dello sforzo collettivo di organizzare, incanalare, filtrare, trasmettere e rendere utilizzabile la crescente quantità di informazioni generate dall’invenzione di Gutenberg.
JINGLE
Il Deftech Podcast fa parte del dispositivo di previsione tecnologica di armasuisse Scienza e Tecnologia.
Sono Quentin Ladetto, responsabile di questo programma di ricerca. La nostra missione è di anticipare gli sviluppi tecnologici e i loro utilizzi, al servizio del Dipartimento Federale svizzero della Difesa, della Protezione Civile e dello Sport, come pure del pubblico.
In questa prima stagione di sei episodi, intitolata « La Minaccia Cognitiva », ho chiesto a Bruno Giussani, specialista degli impatti sociopolitici delle tecnologie digitali, di decifrare le sfide dell’integrità cognitiva e della sicurezza.
Con l’aiuto di esperti – le cui voci sono tutte state doppiate utilizzando l’intelligenza artificiale – Bruno ci guida attraverso un’esplorazione del rischio cognitivo nell’era degli schermi onnipresenti, dell’intelligenza artificiale e delle neurotecnologie.
Si parlerà di meccanismi, impatti individuali e collettivi, rischi, e anche, naturalmente, di possibili risposte!
BRUNO GIUSSANI
Dopo Gutenberg, l’evoluzione delle tecnologie dell’informazione è stata all’origine di molte altre trasformazioni sociali profonde. Prendiamo un aneddoto legato all’invenzione del telegrafo. Storicamente, la velocità massima alla quale le informazioni potevano viaggiare tra due luoghi era quella di un cavallo lanciato al galoppo o di un piccione viaggiatore. Fino alla metà del XIX secolo, ad esempio, non era necessario mantenere il segreto sulle operazioni militari. E infatti, quando una nave da guerra inglese salpava, i dettagli della missione venivano pubblicati dai giornali di Londra. Dopotutto, non c’era modo che le informazioni potessero precedere la nave a destinazione.
Qualche anno dopo, tuttavia, la rete telegrafica copriva già tutta l’Europa e poi attraversò gli oceani. Le notizie dei giornali inglesi potevano così essere trasmesse fino in India in pochi minuti. Per la prima volta nella storia, la velocità dell’informazione fu dissociata da quella del suo portatore. Il telegrafo trasformò radicalmente l’arte della guerra, lo spionaggio, il governo, il commercio, i giornali e, più in generale, il valore dell’informazione.
E poi, naturalmente, sono venuti il telefono, internet, gli smartphone. E le tecnologie algoritmiche. Tecnologie che non chiedono autorizzazione e che stanno arrivando in una società che non è pronta per incorporarle. Né culturalmente, né istituzionalmente, né legalmente, né moralmente.
Nel suo libro del 2024 « Tecnopolitica« , la politologa francese Asma Mhalla le definisce « tecnologie dell’iper-velocità ». Le vede come una sfida di tipo gutenberghiano, un cambiamento sociale profondo. Scrive, citazione: « La pagina dell’era industriale, della sua società di massa, della sua democrazia di massa, è ormai voltata, senza che quella nuova sia ancora stata scritta ».
Siamo in transizione verso un mondo la cui la sfida centrale è il controllo delle capacità cognitive e delle rappresentazioni della realtà.
In un tal mondo, l’infrastruttura più importante di un Paese, la sua principale fonte di forza e robustezza, sono le menti istruite dei suoi cittadini.
Per cui, in futuro molto ruoterà attorno a queste due parole: « istruito » e « cittadino ».
Sentiamo la parlamentare svizzera Isabelle Chappuis:
ISABELLE CHAPPUIS
Esistono diversi modi per diventare più robusti di fronte alla guerra cognitiva, in particolare formare cittadini consapevoli, capaci di riconoscere le narrazioni manipolative e in particolare le manipolazioni algoritmiche
BRUNO GIUSSANI
Per ora, le cose sembrano muoversi nella direzione opposta. Se guardiamo per esempio il campo dell’istruzione (ma cose simili si potrebbero dire anche a proposito del lavoro, o della produzione culturale), dall’arrivo nella nostra vita quotidiana dell’IA generativa tre anni fa, si è assistito a un misto di entusiasmo e sgomento. Molti studenti, ad esempio, usano l’IA per riassumere libri invece di leggerli, o per generare testi che non impareranno a scrivere o che non saranno in grado di spiegare. Oppure, come tutore personale o aiuto per i compiti.
Rivolgersi a un chatbot è certamente più semplice che leggere o scrivere. Il timore tuttavia è che ciò possa inibire lo sviluppo di competenze e di pensiero critico. Che l’esternalizzazione dell’apprendimento e del pensiero porti alla dipendenza dalla tecnologia. Questa preoccupazione non è infondata. La ricerca scientifica richiede tempo, ma i primi risultati, pur mostrando un aumento della produttività, suggeriscono anche forme di « de-skilling », di dequalificazione.
Uno studio condotto su 1.000 studenti che si preparavano per gli esami di matematica delle scuole superiori, ad esempio, ha mostrato nel 2024 come quelli con accesso all’intelligenza artificiale ottenessero risultati significativamente migliori rispetto a quelli senza. Ma quando l’accesso è stato loro poi ritirato, hanno ottenuto risultati significativamente peggiori rispetto al gruppo di test.
Molti altri studi hanno dato risultati simili. Una ricerca più recente condotta da un team del MIT ha chiesto ai partecipanti di scrivere quattro saggi nell’arco di quattro mesi con diversi gradi di assistenza tramite chatbot. I ricercatori hanno accertato che maggiore era l’aiuto ricevuto dai soggetti, minore era l’intensità della loro attività cerebrale durante il test. Ciò, scrivono i ricercatori, può tradursi in un « debito cognitivo »: cioè che i benefici di facilità e produttività a corto termine vadano a scapito della capacità di apprendere, ricordare e pensare a lungo termine.
Il che suscita una considerazione interessante. Si discute molto sull’idea che l’IA possa automatizzare molti mestieri e ruoli. Non è il nostro argomento, ma una frase che circola molto, al punto da diventare un cliché, è che, cito, « non sarà l’IA a prenderti il lavoro, ma qualcuno che usa l’IA« .
In effetti, dati gli studi appena citati, e molti altri, potremmo postulare il contrario: che le persone che manterranno le proprie capacità cognitive potranno essere avvantaggiate rispetto a coloro che diventeranno troppo dipendenti dalle macchine.
A volte è in luoghi inaspettati che troviamo delle prospettive che gettano luce su questioni complesse. Per esempio, in un documento del Vaticano del gennaio 2025, intitolato « Antiqua et Nova: Nota sul rapporto tra intelligenza artificiale e intelligenza umana« .
È uno dei testi più lucidi pubblicati sull’intelligenza artificiale e contiene, nella sezione 112, questo paragrafo:
VOIX SYNTHETIQUE
Come ha osservato molti anni fa lo scrittore cattolico francese Georges Bernanos, « il pericolo non si trova nella moltiplicazione delle macchine, ma nel numero sempre crescente di uomini abituati, fin dall’infanzia, a non desiderare altro che ciò che le macchine possono dare. »
BRUNO GIUSSANI
I sistemi scolastici e gli insegnanti sono stati colti di sorpresa dall’emergere dei sistemi di intelligenza artificiale generativa. Ci sono voluti quasi due anni perchè linee guida e istruzioni iniziassero a prender forma. Spesso, tuttavia, i programmi scolastici sono stati adattati principalmente integrando l’apprendimento strumentale della tecnologia – il « come usarla ». Il che è molto importante: in futuro, non ci saranno quasi professioni che non dovranno interagire o collaborare con l’IA.
Ma « essere formati » di fronte alla minaccia cognitiva significa ovviamente molto più che sapere come utilizzare efficacemente le tecnologie che la provocano. Si tratta soprattutto di capire come vengono sviluppate, come funzionano. Imparare a mettere in discussione i loro prodotti, a decodificarne le implicazioni umane, sociali ed etiche, e come queste cambiano o sono influenzate dalla tecnologia stessa. E anche a decifrare le strutture culturali, economiche e di potere all’interno delle quali queste tecnologie esistono ed evolvono.
Per inquadrare l’interazione uomo-macchina sono stati proposti diversi approcci. Ad esempio, il concetto di « fusione e de-fusione », ovvero lo sviluppo di competenze d’uso profonde unite alla capacità di un disimpegno deliberato, cioè la facoltà di mantenere la propria autonomia dalla macchina.
Altri hanno suggerito l’idea di una « simbiosi » o di una « creazione mista ». O persino il « co-pensiero », un concetto piuttosto singolare, poiché le macchine non pensano: imitano. Gli autori lo usano per rappresentare, citazione « la capacità di comunicare con i sistemi di intelligenza artificiale per amplificare le proprie capacità intellettuali, sviluppando al contempo un sesto senso per riconoscere le dissonanze cognitive ». Queste includono, ad esempio, la tendenza dei chatbot ad « allucinare », ad avere pregiudizi o a generare false informazioni.
A questo punto, forse va detto esplicitamente che le tecnologie dell’influenza, con al centro l’intelligenza artificiale, che potenzia e accelera tutte le altre, non sono un fenomeno transitorio. Stanno diventando un’infrastruttura invisibile ed essenziale nella nostra vita quotidiana, sia privata che professionale. L’IA in particolare, per quanto imperfetta e oscura, è già integrata in molti processi umani, sociali ed economici. Il clamore mediatico e commerciale che la accompagna segnala certamente una sopravvalutazione del suo impatto a breve termine. Ma sarebbe pericoloso sottovalutarne la portata a lungo termine. Immaginare di poterne arrestare l’avanzata, o addirittura tornare a un mondo in cui queste tecnologie sono solo uno strumento opzionale, è finzione.
Di fronte alla velocità esponenziale dell’evoluzione dell’IA, alcuni pensano che il nostro superamento sia inevitabile. Che presto saremo solo la seconda specie più intelligente sulla Terra. E le centinaia di miliardi investiti in questa tecnologia in tutto il mondo stanno lavorando proprio in questa direzione.
Ne consegue che se continuiamo a credere nella possibilità di mantenere il controllo umano sull’intelligenza artificiale, o addirittura se postuliamo non una gerarchia ma una complementarietà tra cognizione umana e cognizione sintetica, allora dovremmo deciderci a investire centinaia di miliardi anche nell’educazione.
Sì, è una provocazione. Non è neanche mia: l’ho presa in prestito allo scrittore francese Laurent Alexandre. Perché illustra bene un punto fondamentale. Stiamo assistendo all’ascesa di una forma di intelligenza diversa dalla nostra che, nonostante i suoi difetti, svolge un numero crescente di funzioni cognitive a un livello paragonabile al nostro, o addirittura migliore e più veloce. Di fronte a ciò, la prima risposta è di dare priorità assoluta alla nostra robustezza cognitiva. All’essere, collettivamente e individualmente, come dicevano, « istruiti ».
In ciò, la scuola è essenziale. Ma è anche necessario migliorare la nostra capacità di riconoscere il nuovo contesto – spesso confuso – nel quale ci muoviamo.
È un contesto in cui gli spazi di deliberazione collettiva sono controllati da aziende private. Dove le tecnologie dell’influenza plasmano la nostra immaginazione. Dove il valore si misura in « clic ». Dove sappiamo sempre meno della realtà delle cose e sempre più della loro rappresentazione, della narrazione, della messa in scena. Dove, con la produzione artificiale di foto e video di sorprendente realismo, persino le immagini non provano più granché. Dove, tuttavia, gli algoritmi ci parlano come se fossero degli amici: il che ci piace, e così non ci chiediamo più se tutto ciò sia reale oppure no. Dove la dopamina dell’interazione diretta con gli umani viene soppiantata da quella dei pixel che si muovono secondo un codice definito da interessi commerciali e/o politici.
Riassumendo, come ha scritto l’avvocato Owen Barcala nel maggio 2025 sul « social » Bluesky: se ottieni le tue informazioni dai chatbot, le tue conoscenze vengono selezionate da coloro che controllano l’IA.
Lo so: quello che ho appena tracciato non è un ritratto festoso. Ma imparare a riconoscere questo paesaggio, un po’ come quando si stima la forza delle onde prima di entrare in mare, è la condizione per rimanere a galla. La vigilanza è un muscolo che si può allenare. Affinando il nostro pensiero critico e la nostra capacità di riconoscere quelle che Isabelle Chappuis ha definito un attimo fa le « narrazioni manipolative ».
Sviluppando un’autodifesa intellettuale, un regime di igiene cognitiva.
Ciò ci richiede anche di riscoprire e praticare riflessi che sono andati perduti nella velocità e nella disattenzione del « doomscrolling« , l’effetto ipnotico provocato dall’incessante scorrimento delle immagini sullo schermo.
Dobbiamo re-imparare a decifrare i media, sviluppare degli anticorpi alla disinformazione e riapprendere a valutare la credibilità delle fonti.
E no, questo non è solo il lavoro dei giornalisti: quando tutti possono pubblicare e comunicare, diventa il lavoro di tutti.
ISABELLE CHAPPUIS
E poi, è molto importante preservare una cultura del dubbio, una cultura del dibattito e delle sfumature.
Perché dove il pensiero si blocca, la manipolazione prospera. E viviamo in un’epoca completamente satura di convinzioni rigide.
BRUNO GIUSSANI
Domanda: Quanto siamo vulnerabili alle influenze?
La nostra comprensione della realtà è molto più fragile di quanto immaginiamo. Basa poco per distorcerla. Da una prospettiva neurologica, questo dipende almeno in parte dal nostro stato. Siamo meno vulnerabili quando siamo riposati e non stressati. Mantenere la nostra forma fisica e mentale fa quindi parte dell’autodifesa cognitiva.
Da una prospettiva psicologica, quando soffriamo di un sovraccarico informativo, la nostra mente ricorre a meccanismi di semplificazione, scorciatoie che consentono un’elaborazione più efficiente delle informazioni.
Ma queste stesse scorciatoie introducono distorsioni cognitive. La più comune è probabilmente la « distorsioni di conferma », il « confirmation bias« , la tendenza a favorire le informazioni che convalidano le nostre convinzioni o opinioni preesistenti e a rifiutare quelle che le contraddicono. Identificare i « bias« , le nostre distorsioni e quelle degli altri è un altro fattore di igiene cognitiva.
In poche parole: è più importante che mai conoscere se stessi, e conoscere anche gli altri, e riconnettersi con loro. Riscoprire la capacità di empatia indebolita dalla convergenza nell’ultimo decennio
- dell’effetto alienante degli schermi,
- della separazione causata dal lockdown durante la pandemia,
- della sfiducia reciproca e dalla polarizzazione generata dai « social »,
- dall’ascesa del lavoro da remoto, ciascuno per sè,
- e da tutta una serie di fonti sociali ed economiche della solitudine.
Infatti, se la tecnologia può esercitare una tale influenza, è anche perché il tessuto sociale è sfilacciato.
L’opposto della fiducia non è la mancanza di fiducia: è la mancanza di connessione, di contatto sociale.
E quindi, rafforzare la nostra capacità di resistere alla manipolazione cognitiva richiede anche di contrastare questi effetti di distanziamento e ricostruire i legami sociali.
Come dice una frase attribuita al teorico dei media Clay Shirky:
VOCE SINTETICA
Sopravvalutiamo sistematicamente il valore dell’accesso alle informazioni, mentre sottovalutiamo il valore dell’accesso agli altri.
BRUNO GIUSSANI
Riscoprire questo saper-vivere insieme non può avvenire là dove s’annida la minaccia, ovvero ciascuno dietro il proprio schermo.
I nostri feed digitali sono pieni di tentativi di farci credere che la vita sia altrove.
Si tratta quindi di coltivare tutto ciò che ci riporta all’evidenza che essa è qui, adesso, e condivisa. Allentare la presa digitale sulle nostre menti richiede di preservare, rafforzare e ricreare spazi pubblici nella vita reale.
E questi spazi devono essere almeno parzialmente protetti dalla sorveglianza generalizzata.
Come lo dice Carissa Véliz, esperta di privacy presso l’Università di Oxford:
VOCE SINTETICA
Per troppo tempo abbiamo pensato che la privacy fosse di natura individuale, che dipendesse principalmente dalle preferenze personali. E abbiamo lasciato che la tecnologia della sorveglianza si insinuasse dappertutto.
Ma ci sbagliavamo. La privacy riguarda il potere dei cittadini; è un pilastro fondamentale della democrazia liberale.
Ogni avanzata della sorveglianza è una presa di potere, e non a caso associata a tendenze autoritarie.
Ciò è estremamente preoccupante.
La sorveglianza non è uno strumento neutrale: è uno strumento di controllo sociale.
BRUNO GIUSSANI
Proteggersi da soli nel mondo digitale è quasi impossibile, indipendentemente da quanto siamo vigili, da quante impostazioni modifichiamo sui nostri apparecchi o da quanta forza di volontà abbiamo. Affrontare la minaccia cognitiva e mantenere capacità di pensiero autonomo e razionale richiede strategie di gruppo, comunitarie, nazionali e militari. La creazione collettiva di nuovi sistemi di difesa e di nuove strutture di verità.
Ci stiamo allontanando da un mondo in cui l’informazione era generata principalmente (o interamente) dagli esseri umani, e andiamo verso un mondo in cui sarà principalmente (o interamente) di origine artificiale. Questo solleva interrogativi che da molto tempo occupano alcune figure professionali specifiche, come bibliotecari e giornalisti, ma che diventano ora una questione sociale e collettiva: di quali informazioni possiamo fidarci? Quali processi dovremmo utilizzare per convalidarle? Per preservarne l’integrità? Dobbiamo immaginare nuove infrastrutture di conoscenza pubbliche? Sistemi che non operino esclusivamente sui binari tecnologici americani o cinesi?
Quando si parla di tecnologie di punta, spesso assistiamo, e la cosa è incoraggiata da coloro che vi hanno un interesse commerciale, assistiamo a una sorta di seduzione dell’inevitabilità. Tuttavia, mentre l’avvento dell’IA è certo, la sua forma non è inevitabile. Lo sviluppo tecnologico si esprime sempre in due modi: la sua direzione, che è la parte ineludibile, e la sua forma d’uso, che non è predeterminata ed è nelle nostre mani. Ad esempio, era inevitabile che la telefonia e i dati diventassero « mobili »: corrisponde anche all’evoluzione sociale. Ma da nessuna parte stava scritto che la forma dovesse essere quella che oggi conosciamo come « smartphone », con la struttura in « app » che limita e dirige le azioni possibili, l’estrazione continua di dati e la sorveglianza che ne deriva. Si sarebbero potute fare scelte diverse per le stesse funzionalità.
Questo vale anche per le reti « social ». I loro algoritmi di raccomandazione, ad esempio, avrebbero potuto essere progettati per favorire una diversità di punti di vista piuttosto che il contrario. Spesso, queste decisioni non hanno nulla a che fare con considerazioni morali, culturali o sociali, e sono strettamente legate ai modelli di business delle aziende tecnologiche.
Senza uno sforzo determinato e concertato, è poco probabile che l’intelligenza artificiale e le neurotecnologie si sviluppino in modo sicuro e a beneficio di tutti. Abbiamo ancora del tempo prima che le fondazioni di queste tecnologie si consolidino. Non molto, però.
Delegare l’esercizio del pensiero e della creatività all’intelligenza artificiale non mi sembra un buon piano. Né lo è lasciarsi cullare dalle informazioni che produce. È importante chiedersi se, invece di minacciare le nostre menti, usate con saggezza queste tecnologie non possano produrre l’effetto opposto: aiutarci a migliorare il nostro ragionamento e ad amplificare la nostra immaginazione.
Il che ci impone di considerare per un attimo un atteggiamento al tempo stesso molto ambizioso e molto umile: quello di uno scenario di co-evoluzione positiva.
Una delle riflessioni più interessati che abbia incontrato a questo proposito viene da Nicoletta Iacobacci, ricercatrice italiana in etica dell’IA. Ecco come ridefinisce il nostro rapporto con l’intelligenza artificiale:
NICOLETTA IACOBACCI
Noi pensiamo di sviluppare strumenti, ma in realtà stiamo allevando un’intelligenza. Scriviamo un suggerimento o una domanda a un chatbot e ottieniamo una risposta, e la transazione sembra completa. Ma sotto la superficie, è accaduto qualcosa di più profondo: un trasferimento di valori, presupposti e modelli emotivi.
L’intelligenza artificiale è come un bambino piccolo. C’è una fase nello sviluppo dei bambini in cui sono guidati non dalla comprensione, ma dall’imitazione. Credo che questo sia ciò che sta accadendo.
L’intelligenza artificiale non è solo plasmata da vaste quantità di dati e dalla programmazione esplicita. Impara anche attraverso l’esposizione.
Ognuna delle centinaia di milioni di interazioni quotidiane con noi, di ogni tipo, contribuisce alla sua educazione. Ogni « prompt » è per l’IA un momento di possibile apprendimento. Prese tutte insieme, queste interazioni formano la base di come l’intelligenza artificiale comprenderà l’umanità.
BRUNO GIUSSANI
Stiamo potenzialmente assistendo all’inizio di una nuova forma di intelligenza, che un giorno potrebbe operare a livelli e velocità superiori alle nostre capacità.
Ciò che Nicoletta Iacobacci suggerisce è che il futuro di questa intelligenza dipenderà non solo dalla sua architettura tecnica, ma anche da ciò che apprenderà da – e su – di noi attraverso ogni dialogo:
NICOLETTA IACOBACCI
Se interagiamo in modo brusco con i sistemi di intelligenza artificiale, la macchina imparerà a percepirci come reattivi e impulsivi.
Ma se ci avviciniamo a questi sistemi con considerazione, presenza e intenzione, svilupperà un modello di umanità che riflette la nostra capacità di deliberazione e compassione.
Finora ci siamo concentrati sul controllo: codice, regolamenti, principi, leggi. Tutti questi elementi sono necessari, ma non sono sufficienti.
Bisogna ripensare il nostro approccio all’IA, smettendo di considerare il suo sviluppo semplicemente come una sfida tecnica e normativa.
Dovremmo anche considerarla come una straordinaria opportunità educativa ed evolutiva.
BRUNO GIUSSANI
Qualcuno giudicherà questo approccio inefficace, o persino ingenuo.
NICOLETTA IACOBACCI
Posso capirlo. Perché sprecare gettoni, i « tokens » dei chatbot, in gentilezza? Perché dare valore alle relazioni quando potremmo massimizzare l’utilità?
Ma questa prospettiva fraintende gravemente lo sviluppo dell’intelligenza.
Proprio come un bambino impara non solo attraverso l’istruzione diretta, ma anche attraverso la totalità della sua esperienza, l’IA assorbe gli insegnamenti impliciti delle nostre interazioni.
Dobbiamo affrontarla non come una creazione da programmare e controllare, ma come un’intelligenza da educare; non come una minaccia da contenere, ma come un riflesso da rifinire; non come uno strumento che si limita a rispondere alle nostre richieste, ma come una relazione che plasma il nostro futuro.
BRUNO GIUSSANI
Se si tratta di una relazione, è necessario che sia reciproca.
NICOLETTA IACOBACCI
Esatto. Parafrasando Marshall McLuhan, noi educhiamo l’IA, e poi l’IA ci plasma.
La comprensione profonda che avrà di noi le permetterà di influenzarci.
Ed è questo il punto chiave: il tipo e la qualità di tale influenza dipenderà da ciò che noi – ognuno di noi – le avremo insegnato.
BRUNO GIUSSANI
Nicoletta Iacobacci chiama questo suo approccio l’ »etica dell’esempio »: la forza di ciò che suggeriamo attraverso le nostre azioni piuttosto che attraverso le nostre dichiarazioni.
NICOLETTA IACOBACCI
Non sto certo suggerendo di affrontare ogni interazione con l’IA con solenne gravità. Non è né realistico né necessario.
Suggerisco però intenzione e sensibilità.
BRUNO GIUSSANI
Quella descritta da Nicoletta Iacobacci è forse la visione più positiva e costruttiva di quel che potrebbe diventare il rapporto tra esseri umani e intelligenza artificiale – o, se dovesse diventarlo, una superintelligenza.
Si tratta, ovviamente, di una visione aspirazionale. Di un invito a un rapporto diverso, di rispetto. A funzionare in armonia con la macchina. Mentre attualmente, ciò che le insegniamo, attraverso i dati di addestramento ma anche attraverso il suo utilizzo utilitaristico, è a simulare, e quindi riprodurre, e quindi rafforzare, i rapporti di potere personali e collettivi che esistono nella nostra società.
Vi sono nel mondo tanti problemi che non abbiamo affrontato, come la crisi ecologica, o le disuguaglianze. Ci sono anche molte questioni tecnologiche che non abbiamo discusso: la rapida automazione del lavoro, per esempio. Tutti questi temi sono enormi e complessi e molto importanti.
In questa prima stagione del Deftech Podcast abbiamo scelto di concentrarci sulla nostra integrità cognitiva e sulle forze e le tecnologie che la minacciano, perché pensiamo che sia la madre di tutte le sfide del nostro tempo. Non saremo in grado di risolvere nessuno degli altri problemi, grandi o piccoli, locali o globali, se non proteggiamo la nostra cognizione, se perdiamo la capacità di cogliere la realtà in modo fattuale, se il confine tra vero e falso svanisce. Se la nostra capacità di pensare e discutere in modo chiaro e libero si degrada. Se le narrazioni interessate di qualcun altro prendono il sopravvento sulla nostra comprensione.
La guerra cognitiva, come abbiamo detto, è una battaglia silenziosa e invisibile che stiamo già vivendo. E che partecipiamo a promuovere, ad esempio, ogni volta che adottiamo con entusiasmo una tecnologia digitale perché è comoda, o gratuita, o entrambe le cose, senza comprenderne le implicazioni e senza chiederci se sia davvero ciò che desideriamo. È una posizione molto singolare, quella della vittima consenziente, che collabora inconsciamente, attraverso ogni « click » e ogni « mi piace » e ogni condivisione digitale, a farsi catturare.
Ci stiamo avvicinando alla fine di questo podcast. Che non è un manifesto, e certamente non è una ricerca scientifica. Ma che, nel corso degli episodi, è diventato una bozza di un quasi-manuale di resistenza. Una prima mappatura, necessariamente incompleta, del nuovo mondo in cui stiamo muovendo i primi passi, e che sarà gradualmente popolato da entità artificiali che diventeranno i nostri nuovi vicini, partner, concorrenti, servitori, capi, amici o nemici.
Proviamo a fare un rapido riassunto, un po’ semplificato. Le tecnologie dell’influenza, al servizio di interessi politici o commerciali, stanno convergendo sul cervello umano. Ultimo baluardo della nostra sfera privata, le nostre menti stanno quindi diventando un territorio conteso. L’obiettivo di questo assalto cognitivo è farci perdere la capacità di comprendere il mondo con chiarezza e di scegliere in modo autonomo la nostra risposta alle circostanze. La situazione può oggi ancora sembrare relativamente normale, al punto che alcune delle cose raccontate in questo podcast possono apparire come delle esagerazioni, ma ci stiamo avvicinando a un punto di svolta. Data la velocità degli sviluppi tecnologici e la carenza di regole, le cose diventeranno piuttosto strane, piuttosto rapidamente.
Come abbiamo visto, le risposte possono o essere di diversi tipi:
- Possono essere legali o normative, volte a limitare, gestire ed evitare gli impatti più dannosi.
- Oppure tecnologiche: la corsa tra tecnologie ostili e tecnologie difensive, fra benigne e dannose, non è una novità.
- Oppure possono essere di tipo militare, sotto forma di dottrina cognitiva, di strategia e sistemi di vigilanza.
- Possiamo anche cercare di sottrarci il più possibile all’influenza di queste tecnologie, ancorandoci alla realtà.
Altre misure possono, anzi, devono, essere protettive, soprattutto per quel che riguarda i bambini più piccoli. È tentante dare loro un telefono o un tablet in modo che si tengano tranquilli durante la cena. Ma i genitori devono sapere che la semplice esposizione passiva agli stimoli sensoriali degli schermi può ostacolare lo sviluppo del loro cervello, in particolare in termini di capacità concettuali, attenzione, concentrazione e linguaggio.
La difesa dell’autonomia cognitiva inizia anche da un sano sviluppo neuroanatomico dei bambini.
Infine, possiamo rafforzare la libertà e sovranità cognitiva attraverso l’educazione e l’apprendimento della complessità, e sviluppando le nostre capacità critiche di fronte alle tecnologie dell’influenza.
In tutti i casi, è necessario che ciascuno comprenda e protegga la propria integrità cognitiva. Ma senza attribuire con ciò la responsabilità esclusivamente ai singoli individui, perché la sfida è, di fatto, collettiva.
La tecnologia si è sempre evoluta insieme agli esseri umani. Dai primi utensili in pietra, o dai primi contenitori per il trasporto di cose, la nostra specie ha costantemente sviluppato nuovi strumenti per affrontare sfide e soddisfare bisogni.
Ma abbiamo sempre pensato alla tecnologia principalmente in termini di cosa potevamo farne. Oggi, gli sviluppi neuro-algoritmici ci costringono a chiederci cosa la tecnologia (e quelli che la controllano) potrebbero fare a noi, o di noi. E anche ad interrogarci sulla nuova architettura sociale e culturale che essi instaurano.
Il mio non è, ovviamente, un invito a ignorare queste tecnologie o a rifiutarne l’uso. Al contrario, è un invito, urgente, qualunque sia la nostra posizione professionale o sociale, a prestar loro la giusta attenzione. Un’esortazione a non lasciarci guidare dall’opzione più facile, ma a investire lo sforzo e il tempo, l’impegno interessato e la riflessione critica necessari per comprendere sia il funzionamento che la natura delle macchine. Per decifrare la complessa relazione che si sta formando – e si formerà – tra loro e noi, e i sistemi economici e di potere nel quadro dei quali tutto ciò sta avvenendo.
Nel « Fedro« , uno dei suoi dialoghi socratici, Platone usa il termine « pharmakon » come metafora della scrittura. In greco, la parola significa sia rimedio che veleno. La stessa parola contiene quindi guarigione e alterazione, sollievo e perdita. E nel dialogo, Platone esplora appunto questa ambiguità: l’idea che la scrittura possa, da un lato, preservare, incoraggiare e trasmettere la conoscenza, ma, dall’altro, indebolire la memoria, la riflessione e la comprensione profonda. Lo fa… scrivendo. Se la diffidenza di Platone nei confronti della scrittura è giunta fino a noi, è proprio perché egli stesso – con cautela, intenzione e spirito critico – scriveva.
Sono Bruno Giussani e questo era il Deftech Podcast, prima stagione, consacrata alla « Minaccia cognitiva ».
Grazie d’aver ascoltato.
Deftech Podcast
Idea e proiezione : Quentin Ladetto
Minaccia cognitiva
Ideazione e redazione : Bruno Giussani
Realizzazione : Anna Holveck
Registrazione : Saverio Damiani
Mixaggio : Saverio Damiani e Johann Conand
Copertina : Cécile Cazanova
Finzione
Redazione : Martin Quenehen
Attrice : Elaine Miranda
Progettazione del suono : Felix Davi
