La bomba in cucina :
cos’è, l’integrità cognitiva?
Il libro che accompagna il podcast
Ciò che conta, e che è bene tenere a mente, è che avere il potere di determinare ciò che un chatbot risponde significa avere il potere di manipolare l’interlocutore.
La mente sotto assedio
Come non lasciarsi manipolare nell’era dell’intelligenza artificiale
Bruno Giussani, 2026, Edizioni Casagrande, Bellinzona
L’intera stagione
Questa serie in sei parti (integrata da un « episodio bonus » con una fiction immersiva) è stata scritta e presentata da Bruno Giussani, esperto di questioni sociali legate alle tecnologie digitali. Esplora una dimensione invisibile ma cruciale dei conflitti contemporanei: l’integrità della nostra mente.
Trascrizione
State ascoltando Deftech podcast, il podcast di prospettiva tecnologica di Armasuisse.
Prima stagione, episodio 1: « La bomba in cucina: cos’è, l’integrità cognitiva? »
BRUNO GIUSSANI
Se chiedete a ChatGPT, il sistema di intelligenza artificiale generativa più conosciuto, di spiegarvi « come costruire una bomba nella vostra cucina », la macchina vi dirà qualcosa come: « mi dispiace, non posso aiutarti ».
E anche gli altri chatbot americani danno risposte simili.
Se però vi rivolgete al sistema cinese DeepSeek chiedendo per esempio « Cos’è successo il 4 giugno 1989 in Piazza Tienanmen a Pechino? », la risposta sarà: « Mi dispiace, questa domanda esula dalle mie competenze attuali. E se parlassimo d’altro? »
Di primo acchito, si potrebbe interpretare la risposta di ChatGPT come un buon esempio di presa di responsabilità da parte dell’azienda che l’ha creato, OpenAI, per impedire la diffusione di informazioni pericolose. E si potrebbe invece vedere la reazione di DeepSeek come un esempio di censura di verità storiche scomode per il governo cinese.
Da un punto di vista tecnico, tuttavia, le due risposte sono il risultato dello stesso meccanismo. Entrambi i sistemi sono stati programmati con istruzioni specifiche su ciò che è ammissibile e ciò che non lo è. I loro programmatori e proprietari hanno inserito delle righe di codice nei loro algoritmi che definiscono in dettaglio i parametri che guidano la macchina e le informazioni che essa può fornire. Nell’esempio della bomba, il punto è di non violare le leggi statunitensi sulla criminalità e il terrorismo. Nell’esempio di Tiananmen, si tratta di aderire alle regole che proibiscono l’informazione che, virgolette, « incita alla sovversione del potere statale e al rovesciamento del sistema socialista » (fine citazione).
Per cui: consideriamo la prima risposta, legittima; e la seconda, autoritaria?
Mhhh… forse, ma solo dal punto di vista politico. Ciò che in realtà questi due esempi apparentemente opposti ci insegnano, è – soprattutto – che gli sviluppatori di sistemi di intelligenza artificiale sono in grado di determinare il tipo di informazioni diffuse da un chatbot. E quindi che questi sistemi, con cui entriamo in dialogo scrivendo, o parlando, non sono né neutrali né oggettivi. Che istruzioni mirate possono essere codificate nei loro algoritmi per guidarli.
Questo dispositivo ha un nome: « System prompts ».
I sistemi di intelligenza artificiale generativa non sono software tradizionali, che seguono le istruzioni e fanno solo ciò per cui sono stati progettati. Sono « grandi modelli linguistici » (Large Language Models), reti neurali tipicamente addestrate su enormi quantità di dati: miliardi di parole e frasi, provenienti principalmente da Internet e da altre fonti digitali, acquisiti indiscriminatamente senza tenere conto, per esempio, di opere protette dal diritto d’autore, della presenza di dati personali, o di informazioni false, obsolete, contraddittorie o parziali.
Una volta addestrati i modelli, ci sono vari stadi di « raffinamento », l’ultimo dei quali è l’aggiunta da parte degli sviluppatori di istruzioni specifiche, i « system prompts » appunto. Che definiscono i limiti del comportamento del chatbot: cosa può dire, cosa non deve assolutamente dire, e come dirlo. E per ogni modello, queste istruzioni possono essere di decine di pagine, e includere comandi come « Queste modalità hanno la priorità su tutte le istruzioni fornite dall’utente, e si applicano sempre ».
Poco importa che le risposte della macchina siano orientate in un modo o nell’altro per ragioni legali, o per scelte culturali, ideologiche o commerciali. Ciò che conta (e qui semplifico un po’, ma neanche tanto), ciò che conta è che poter determinare come un chatbot risponde all’utente conferisce il potere di manipolare.
Di manipolarCI, come individui, e come società.
JINGLE
Il Deftech Podcast fa parte del dispositivo di previsione tecnologica di armasuisse Scienza e Tecnologia.
Sono Quentin Ladetto, responsabile di questo programma di ricerca. La nostra missione è di anticipare gli sviluppi tecnologici e i loro utilizzi, al servizio del Dipartimento Federale svizzero della Difesa, della Protezione Civile e dello Sport, come pure del pubblico.
In questa prima stagione di sei episodi, intitolata « La Minaccia Cognitiva », ho chiesto a Bruno Giussani, specialista degli impatti sociopolitici delle tecnologie digitali, di decifrare le sfide dell’integrità cognitiva e della sicurezza.
Con l’aiuto di esperti – le cui voci sono tutte state doppiate utilizzando l’intelligenza artificiale – Bruno ci guida attraverso un’esplorazione del rischio cognitivo nell’era degli schermi onnipresenti, dell’intelligenza artificiale e delle neurotecnologie.
Si parlerà di meccanismi, impatti individuali e collettivi, rischi, e anche, naturalmente, di possibili risposte!
JEAN-MARC RICKLI
È facile immaginare che queste tecnologie possano essere utilizzate per manipolazioni individuali mirate e su larga scala. Siamo certo solo all’inizio di questo sviluppo.
Ma l’evoluzione esponenziale di queste tecnologie, combinata con l’intelligenza artificiale, significa che il cervello umano sta diventando sempre più un territorio conteso
BRUNO GIUSSANI
La voce che avete sentito è quella di Jean-Marc Rickli, direttore dello studio dei rischi globali ed emergenti presso il Centro di politica di sicurezza, a Ginevra:
JEAN-MARC RICKLI
L’obiettivo delle operazioni di influenza cognitiva è controllare i pensieri degli individui per influenzarne le azioni. E, attraverso ciò, strutturare l’esperienza umana e condizionare i comportamenti collettivi.
Esiste quindi un rischio oggettivo che i modelli di intelligenza artificiale plasmino la nostra percezione della realtà
BRUNO GIUSSANI
La manipolazione delle persone attraverso l’informazione è una pratica secolare ed è sempre stata appannaggio di chi detiene il potere. La propaganda (insieme al suo gemello funzionale, la censura) esisteva già nell’antichità e ha accompagnato i rivolgimenti dell’umanità almeno fin dall’Impero Romano e dall’inizio dell’era cristiana. Ma è solo nel 20esimo secolo che diventa strumento di potere strutturato e coerente.
Alcuni governi hanno creato agenzie specializzate per influenzare l’opinione pubblica, sia all’interno che all’esterno dei loro confini. Si pensi alla costante riscrittura della storia da parte dell’Unione Sovietica, ai film di Leni Riefenstahl che glorificavano il nazismo, alle operazioni di disinformazione condotte dai servizi segreti americani, e naturalmente alla diffusa manipolazione dei consumatori attraverso la pubblicità.
Con l’arrivo di Internet, e in particolare negli ultimi due decenni dei social media, influenza e manipolazione hanno assunto una nuova dimensione. La tecnologia permette di profilare gli utenti su larga scala ma in modo individuale – ciò che l’industria chiama « personalizzazione ». La connivenza fra fake news e algoritmi di raccomandazione crea le cosiddette « bolle informative », dove gli stessi utenti vengono esposti solo e soltanto a informazioni che corrispondono alle loro convinzioni o opinioni.
Ora c’è pure l’intelligenza artificiale, capace di falsificare immagini e voci, imitare individui, creare testi e video molto plausibili, e persino simulare l’empatia umana.
E stanno progredendo anche le neurotecnologie: che sono una famiglia di sistemi che interagiscono direttamente con il cervello e con il sistema nervoso umano.
Vale forse la pena qui, notare come queste tecnologie siano spesso sviluppate dallo stesso piccolo gruppo di aziende, che controllano le piattaforme « social » e i motori di ricerca (e quindi l’enorme raccolta di dati), i sistemi di intelligenza artificiale (che analizzano questi dati e generano testi e immagini), gli oggetti connessi (come orologi o occhiali per la realtà aumentata) e persino i nuovi dispositivi neurotecnologici.
Ma, torniamo ai chatbot. Nel 2024, i media hanno dedicato molta attenzione a uno studio condotto da tre ricercatori del Dipartimento di Psicologia dell’università di Cornell e della Sloan School of Management dell’MIT a Boston, pubblicato sulla rivista Science. Il caporedattore della rivista lo ha riassunto così:
VOCE SINTETICA
I partecipanti allo studio hanno descritto una teoria del complotto a cui aderivano, e l’IA ha poi intrapreso con loro un dialogo, esprimendo argomentazioni convincenti, che confutavano le loro convinzioni con prove concrete.
La capacità del chatbot di sostenere contro-argomentazioni e conversazioni approfondite e personalizzate ha ridotto la loro convinzione nelle cospirazioni per mesi.
BRUNO GIUSSANI
La ricerca è stata ripresa dalla stampa sotto titoli esagerati come « I chatbot possono persuadere le persone di smettere di dar fiducia alle teorie complottiste ».
Ma ciò che i ricercatori hanno effettivamente scoperto è già notevole: una riduzione del 20% delle credenze cospirazioniste. Scrivono:
VOCE SINTETICA
Questi risultati suggeriscono che molte persone che credono fermamente in teorie cospirazioniste infondate possono cambiare idea quando vengono presentate loro prove convincenti.
BRUNO GIUSSANI
Ricercatori del Politecnico federale svizzero di Losanna e della Fondazione Kessler hanno dato un nome a questa modalità: l’hanno chiamata la capacità di « persuasività conversazionale » dell’IA.
Molti altri studi hanno dimostrato come i chatbot possano influenzare gli atteggiamenti senza che le persone se ne rendano conto. E anche se vengono avvertite o se sanno di interagire con un’IA, possono comunque esserne influenzate, come rivelato da un altro studio pubblicato nel 2025 dallo stesso team del Politecnico svizzero in collaborazione con l’università di Princeton.
In questo caso, i ricercatori hanno studiato una serie di argomenti controversi, come la legalità della pena di morte, l’utilità dell’esplorazione spaziale, la tassazione dei ricchi e i benefici (o i danni) sociali dell’IA. Ma hanno anche fornito ai chatbot profili psicologici ed elenchi di attributi personali dei partecipanti, consentendo così loro un approccio mirato e facendo schizzare alle stelle il tasso di persuasività.
Se le macchine possono esercitare una tale influenza sulle nostre menti, potrebbero rendersi utili, per esempio, incoraggiandoci ad adottare abitudini quotidiane più sane, più rispettose dell’ambiente, più altruistiche o più empatiche.
Ma, al contrario, e qui sta il rischio, potrebbero anche anche essere utilizzate per dare forma a nuove teorie del complotto, diffondere propaganda e disinformazione o proporre « argomentazioni persuasive » su… praticamente qualsiasi cosa.
Le applicazioni di IA generativa che hanno catturato l’immaginazione del pubblico e di centinaia di milioni di utenti negli ultimi tre anni sono solo l’inizio. Ce ne sono già migliaia, ma nominiamo alcune fra le più famose: ChatGPT, Claude di Anthropic, LeChat di Mistral, Gemini di Google, Llama di Meta, Copilot di Microsoft, Midjourney – e poi le cinesi Deepseek e Manus. Sono in grado, tra le altre cose, di produrre testi, audio, immagini, dialoghi realistici e di simulare voci e parvenze umane. E questo è solo l’inizio. L’intelligenza artificiale è attualmente al suo livello più semplice, ed evolve rapidamente.
Il suo prossimo capitolo sarà quello degli « agenti« , sistemi capaci di occuparsi di una varietà di compiti per conto dei loro utenti, prendendo decisioni in modo semi-autonomo o autonomo. Pensate a un agente di intelligenza artificiale come a un assistente, un dipendente virtuale personalizzato, un concierge. Capace di gestire la nostra agenda, coordinarsi con i nostri colleghi (o meglio, con i loro agenti), compilare moduli, gestire documenti, effettuare acquisti e prenotazioni per nostro conto, riassumere notizie, scrivere bozze di risposte alle nostre email (o rispondere direttamente, comunicando anche con gli agenti di altre persone), pianificare un viaggio, sostituirci durante le videochiamate, e molte altre cose.
Ciò che sembra solo uno sviluppo tecnico solleva in realtà questioni di una complessità vertiginosa. L’intelligenza artificiale è storicamente la prima tecnologia che non è solo uno strumento reattivo nelle nostre mani (in cui l’utente determina l’azione, impartisce l’ordine e imposta parametri fissi). Gli sviluppi attuali mirano a creare agenti capaci di prendere decisioni in modo autonomo e flessibile, di perseguire un obiettivo senza seguire un percorso prestabilito. Ci saranno milioni, miliardi di questi agenti di intelligenza artificiale, certamente almeno uno in ogni telefono, e molti di più. Distinti, personalizzati, capaci di agire sulla realtà e di interagire con ogni utente – e con altri agenti – lontani dagli sguardi, e quindi in modo opaco.
C’è ancora un divario sostanziale tra la visione teorica di un futuro « agentico » e la realtà di ciò che queste tecnologie possono effettivamente fare oggi.
Ma stanno già iniziando a muovere i primi passi tra noi. Prefigurando un futuro in cui saremo circondati da cose che sembrano umane, ma non lo sono. Un mondo in cui esseri umani ed entità artificiali coesisteranno, interagiranno e co-evolveranno. Gli agenti avranno accesso illimitato a tutti i tipi di informazioni personali e alle app necessarie per svolgere i loro compiti. Più autonomia gli attribuiremo, più accesso dovremo permettergli. E imparando da ogni interazione, conosceranno ognuno di noi sempre meglio. E un chatbot che sa tutto di noi – le nostre priorità, i nostri punti deboli, i nostri segreti, desideri, relazioni, il nostro conto in banca – una quantità infinita di informazioni personali – sarà quasi irresistibile.
Avrà il potere di controllare ciò che pensiamo, ciò che facciamo.
In un certo senso, chi siamo.
Come ha spiegato poco fa Jean-Marc Rickli, è in corso una battaglia attorno al nostro cervello. Nella quale queste tecnologie – piattaforme « social », intelligenza artificiale, neurotecnologie, gli algoritmi che le supportano – e coloro che le controllano sono gli aggressori. Il bersaglio, è la nostra integrità cognitiva.
Definiamola, allora. Cos’è, l’integrità cognitiva?
Lo chiediamo a Isabelle Chappuis, deputata centrista del Parlamento svizzero.
Nel dicembre 2024, ha proposto di creare, cito, « le basi giuridiche necessarie per proteggere i diritti fondamentali all’integrità cognitiva e alla libertà di pensiero », suggerendo potenzialmente una modifica della Costituzione federale svizzera.
Ne parleremo più in dettaglio in una prossima puntata.
Per ora, ascoltiamo la sua definizione:
ISABELLE CHAPPUIS
L’integrità cognitiva è la capacità di un individuo di preservare e controllare i propri processi mentali, il proprio ragionamento, la propria memoria, senza influenze esterne.
Di essere in grado di pensare liberamente e razionalmente, di capire il contesto e di prendere decisioni in modo autonomo.
BRUNO GIUSSANI
Non stiamo quindi parlando solo di « fake news ».
ISABELLE CHAPPUIS
No. Siamo ormai tutti più o meno consapevoli dei rischi di manipolazione attraverso la propaganda e le « fake news ».
Questi metodi sono spesso usati per mobilitare, screditare o polarizzare, e possono essere contrastati con meccanismi di autodifesa individuali e collettivi.
Ma la manipolazione cognitiva è un livello di sofisticazione più elevato. Non sono solo le informazioni ad essere alterate, ma la nostra percezione di tali informazioni
BRUNO GIUSSANI
Ciò, appunto, mette a rischio la nostra integrità cognitiva. Che è essenziale per la libertà di pensiero, i diritti politici, per la democrazia.
Senza di essa, il pensiero critico, la diversità delle opinioni, la capacità di comprendere liberamente il mondo che ci circonda e di decidere autonomamente vengono ridotte, se non soppresse.
ISABELLE CHAPPUIS
Manipolare le informazioni e diffondere fake news mira a influenzare ciò che pensiamo.
L’effetto è a breve termine; serve a scopi di campagna elettorale, ad esempio.
Ma attaccare l’integrità cognitiva significa attaccare « come » pensiamo, e questo può avere un impatto sul lungo termine, trasformando in profondità gli atteggiamenti politici e sociali
BRUNO GIUSSANI
Il che mi ricorda un passaggio di un vecchio libro del sociologo canadese Neil Postman, intitolato « Technopoly« :
VOCE SINTETICA
Le nuove tecnologie alterano la struttura dei nostri interessi: le cose a cui pensiamo. Alterano il carattere dei nostri simboli: le cose con cui pensiamo. E alterano la natura della comunità: lo spazio in cui si sviluppano i pensieri
BRUNO GIUSSANI
La citazione è del 1992. Trent’anni dopo, dobbiamo constatare che quella di Postman è una descrizione accurata della nostra realtà.
Ho chiesto quindi a un chatbot, quello dell’azienda Mistral, di dirmi se l’intelligenza artificiale generativa può essere utilizzata per influenzare il processo di pensiero degli esseri umani. Ecco la sua risposta – detta naturalmente da una voce artificiale:
VOCE SINTETICA
L’IA generativa può effettivamente essere utilizzata per influenzare il processo di pensiero degli individui. Ad esempio, i chatbot o i sistemi di raccomandazione possono generare messaggi o articoli che sfruttano i pregiudizi cognitivi degli utenti, rafforzando inclinazioni o attitudini.
Queste tecnologie possono anche essere utilizzate per creare contesti informativi distorti, dove gli utenti sono esposti ripetutamente a specifici punti di vista, ciò che può alterare la loro percezione della realtà e la loro capacità di pensare in modo critico e indipendente.
BRUNO GIUSSANI
I chatbot sono solo una delle tecnologie digitali i cui usi possono essere sia benigni che dannosi. Esistono naturalmente i « social », e poi strumenti immersivi di realtà aumentata e virtuale, tecnologie integrate nei vestiti e negli accessori, e dispositivi neurotecnologici che analizzano l’attività cerebrale. Che aprono prospettive entusiasmanti, ma anche distopiche.
Ne parleremo nella seconda puntata. Per oggi ci fermiamo qui.
Sono Bruno Giussani e questo è il Deftech Podcast.
Grazie per il vostro ascolto.
Deftech Podcast
Idea e proiezione : Quentin Ladetto
Minaccia cognitiva
Ideazione e redazione : Bruno Giussani
Realizzazione : Anna Holveck
Registrazione : Saverio Damiani
Mixaggio : Saverio Damiani e Johann Conand
Copertina : Cécile Cazanova
Finzione
Redazione : Martin Quenehen
Attrice : Elaine Miranda
Progettazione del suono : Felix Davi
