L’attenzione frammentata

L’attenzione frammentata :
l’IA, gli algoritmi, e noi

Il libro che accompagna il podcast

Ciò che conta, e che è bene tenere a mente, è che avere il potere di determinare ciò che un chatbot risponde significa avere il potere di manipolare l’interlocutore.

La mente sotto assedio
Come non lasciarsi manipolare nell’era dell’intelligenza artificiale
Bruno Giussani, 2026, Edizioni Casagrande, Bellinzona

L’intera stagione

Questa serie in sei parti (integrata da un « episodio bonus » con una fiction immersiva) è stata scritta e presentata da Bruno Giussani, esperto di questioni sociali legate alle tecnologie digitali. Esplora una dimensione invisibile ma cruciale dei conflitti contemporanei: l’integrità della nostra mente.

Trascrizione

State ascoltando Deftech podcast, il podcast di prospettiva tecnologica di Armasuisse.

Prima stagione, episodio 2: L’attenzione frammentata: l’IA, gli algoritmi, e noi.

BRUNO GIUSSANI

Il modo più semplice per impedire a qualcuno di pensare è… immergerlo nel rumore.

Rumore forte, ovviamente, come quello di una motosega, di certe macchine industriali o della musica ad alto volume.

Ma anche rumore cognitivo. Rumore che non è udibile, ma che interferisce con le nostre facoltà mentali e influisce sulla nostra capacità di elaborare informazioni o di prendere decisioni.

La causa principale del rumore cognitivo è il sovraccarico informativo. L’eccesso di sollecitazioni sensoriali e mentali.

Il cervello umano è complesso e molto potente, ma i suoi limiti si evidenziano quando si tratta di gestire grandi quantità di informazioni in parallelo. Ciò è dovuto a diversi fattori neurologici e cognitivi.

Ad esempio, la capacità ridotta della nostra memoria di lavoro – la memoria a breve termine, che ci permette di immagazzinare e utilizzare informazioni mentre leggiamo, conversiamo o ragioniamo. O il fatto che la nostra attenzione può funzionare solo in modo selettivo, escludendo le distrazioni.

Esistono altre ragioni, ma limitiamoci a citare un famoso articolo pubblicato nel 1956 e intitolato « Il numero magico sette, più o meno due« . Nell’articolo, lo psicologo cognitivo americano George Miller spiegava che, secondo le sue ricerche, la memoria umana a breve termine può elaborare efficacemente soltanto sette blocchi informativi alla volta, con un margine di errore di più o meno due.

In altre parole, la maggior parte delle persone può conservare tra 5 e 9 blocchi informativi nella memoria di lavoro – dove un blocco (per il quale in inglese Miller usava la parola « chunk« ) può raggruppare diverse informazioni pur rappresentando un’unica unità cognitiva. Per esempio, una frase come « la casa in fondo alla strada sta bruciando e i pompieri sono al lavoro per spegnere l’incendio » è, nel senso di Miller, un singolo blocco.

Altri analisti hanno suggerito che in realtà sette sia già un numero troppo alto. E ci sarebbe anche tutt’una discussione da fare sul mito del multitasking, dello svolgere più compiti cognitivi in parallelo, sfatato tra gli altri dal neuroscienziato Stanislas Dehaene – How We Learn, secondo cui il cervello umano è progettato per concentrarsi su una cosa alla volta e quindi non può svolgere più attività contemporaneamente.

Ma non divaghiamo: ciò che ci interessa qui è che il volume del rumore cognitivo non ha bisogno di essere molto alto per soffocare le nostre capacità mentali.

JINGLE

Il Deftech Podcast fa parte del dispositivo di previsione tecnologica di armasuisse Scienza e Tecnologia.

Sono Quentin Ladetto, responsabile di questo programma di ricerca. La nostra missione è di anticipare gli sviluppi tecnologici e i loro utilizzi, al servizio del Dipartimento Federale svizzero della Difesa, della Protezione Civile e dello Sport, come pure del pubblico.

In questa prima stagione di sei episodi, intitolata « La Minaccia Cognitiva », ho chiesto a Bruno Giussani, specialista degli impatti sociopolitici delle tecnologie digitali, di decifrare le sfide dell’integrità cognitiva e della sicurezza.

Con l’aiuto di esperti – le cui voci sono tutte state doppiate utilizzando l’intelligenza artificiale – Bruno ci guida attraverso un’esplorazione del rischio cognitivo nell’era degli schermi onnipresenti, dell’intelligenza artificiale e delle neurotecnologie.

Si parlerà di meccanismi, impatti individuali e collettivi, rischi, e anche, naturalmente, di possibili risposte!

BRUNO GIUSSANI

Da una dozzina d’anni, la cattura progressiva del nostro ambiente informativo da parte di smartphone e piattaforme « social », e la proliferazione di canali di comunicazione digitale hanno portato a una sovrastimolazione cognitiva.

Lo psicologo Jonathan Haidt, autore del libro » La generazione ansiosa « , parla, cito, di « perdita della capacità umana di pensare » e di « crisi società ».

Il che può sembrare esagerato, iperbolico. Ma sono ormai moltissimi gli studi scientifici

sui meccanismi della dipendenza digitale,
sulla crescente difficoltà, in particolare tra i giovani (ma anche tra i loro genitori), a mantenere la concentrazione e una certa coerenza di pensiero,
sul declino della capacità di leggere e comprendere il significato di un testo,
sulla frammentazione cognitiva dovuta al consumo continuo di video brevi e allo scambio incessante di messaggi,
sui disturbi dello sviluppo del linguaggio nei bambini dovuto all’esposizione passiva agli schermi,
sul deterioramento della salute mentale, anche tra i più piccoli,
sul fatto che sperimentiamo sempre meno il mondo fisico, sostituendolo con surrogati digitali,
e quindi, più in generale, intrappolati come siamo nella marea informativa, sulla difficoltà di valutare onestamente il mondo che ci circonda.

Haaaah… Riprendiamo fiato.

Quella che ho appena fatto è una sintesi un po’ semplicistica. Ma dopo anni di esitazioni, di priorità data soprattutto al potenziale economico delle tecnologie digitali, di inviti a non demonizzare la tecnologia, di adozione sconsiderata di una molteplicità di applicazioni, formati, piattaforme e dispositivi, oggi ci rendiamo conto che questa algoritmizzazione della vita sta convergendo in una sola e unica direzione: verso i nostri cervelli.

Tutto ciò è il punto zero della perturbazione cognitiva. Quando non entrano ancora in gioco tecnologie specifiche, meccanismi di profilazione o personalizzazione. Né, del resto – ne parleremo fra un attimo – l’intelligenza artificiale. A questo livello più elementare, si tratta semplicemente di una questione di quantità di informazioni, che supera il « numero magico sette, più o meno due », di cui abbiamo appena parlato.

Questa saturazione informativa è in parte il prodotto della logica stessa del sistema tecnologico, del semplice fatto che chiunque può creare e distribuire informazioni attraverso una moltitudine di canali, a costo quasi zero.

Ma l’attacco quantitativo ai nostri limiti cerebrali può anche essere intenzionale. In politica, ad esempio, negli ultimi anni è emersa una strategia che nell’originale inglese si chiama « flood the zone » – letteralmente, sommergere il campo informativo.

La facciamo spiegare al chatbot di Mistral:

VOCE SINTETICA

E’ una tattica che punta a saturare lo spazio mediatico e a sommergere il pubblico con così tanti contenuti che diventa difficile distinguere i fatti dalle opinioni o dalla disinformazione, creando così una confusione diffusa e indebolendo la capacità degli individui di formulare giudizi informati.

BRUNO GIUSSANI

E’ la definizione stessa di un assalto all’integrità cognitiva.

O, per dirla con le parole della sociologa svizzera Jennifer Walter: « lo sfruttamento strategico dei limiti cognitivi ».

Tendiamo tutti a pensare al nostro cervello come a una sorta di fortezza inespugnabile, che solo noi controlliamo. In realtà siamo circondati da influenze cognitive. Ai dubbi creati dalla disinformazione classica, dalle fake news e dalle versioni contraddittorie della realtà, si aggiunge quindi la saturazione intenzionale. Che annebbia la nostra capacità di orientarci nel mondo, creando allo stesso tempo l’opportunità di iniettare informazioni mirate e alterate.

James Giordano è un neuroeticista presso l’Università Georgetown negli Stati Uniti. In altre parole, studia i principi morali e i valori che influenzano le decisioni in materia di neuroscienze e neurotecnologie. È stato il primo a concettualizzare la minaccia cognitiva. In una ormai celebre conferenza tenuta nell’ottobre 2018 ai cadetti dell’Accademia Militare degli Stati Uniti a West Point, ha affermato: « I nostri cervelli sono, e saranno, i campi di battaglia del XXI secolo ».

Apriamo allora il sipario e facciamo entrare in scena …l’intelligenza artificiale.

Da tre anni, non si parla d’altro. Come se fosse apparsa dal nulla, l’IA dovrebbe, secondo alcuni, debellare tutte le malattie entro il prossimo decennio, risolvere la crisi climatica, condurci a un mondo di abbondanza. Oppure, secondo altri, prendere i nostri impieghi, soggiogarci e distruggere la civiltà. Per i primi, rappresenta una speranza utopica; per i secondi, un pericolo apocalittico, e per qualcuno entrambe le cose.

Prendiamoci un paio di minuti per una breve digressione prima di tornare al nostro tema. Perché l’IA, non è una tecnologia nuova. Le sue origini risalgono alla metà del secolo scorso. All’epoca si parlava di « cibernetica », lo studio dei processi informativi nei sistemi complessi: esseri viventi, società, economia, macchine.

Il termine « intelligenza artificiale » è apparso per la prima volta nell’estate del 1956, quando lo scienziato americano John McCarthy organizzò un incontro all’università di Dartmouth, definendola come la capacità, cito, « di far sì che una macchina si comporti in un modo che sarebbe definito intelligente se un essere umano si comportasse in quel modo ».

Per decenni, l’IA è passata attraverso successi e delusioni. E’ solo verso l’inizio del secolo che la tecnologia ha avuto quell’accelerazione di cui vediamo ora i risultati, con l’apparizione delle reti neurali artificiali (« neural networks » in inglese), che hanno dato alle macchine la capacità di apprendere (il « machine learning »), e quindi migliorare in cicli rapidi.

E’ la combinazione della crescente potenza di calcolo dei computer, della sofisticazione degli algoritmi e della disponibilità di un’enorme quantità di dati digitali – inclusi tutti i dati che produciamo, o che lasciamo dietro di noi in modo passivo, in ogni minuto della nostra giornata – che ha reso possibile l’IA che conosciamo oggi.

Come abbiamo già visto nel primo episodio, le sue espressioni più visibili sono i cosiddetti sistemi « generativi », in grado di simulare conversazioni umane attraverso interfacce testuali o vocali, e di generare immagini, video, suoni e anche codice informatico.

Esistono anche altri tipi di intelligenza artificiale, già maturi e robusti, che utilizziamo quotidianamente, che portano benefici concreti e hanno permesso rapidi progressi in molti settori. Ad esempio, l’IA applicata all’ottimizzazione dei processi produttivi o delle prestazioni delle batterie, alle previsioni meteorologiche, l’IA che assume una forma fisica attraverso robot industriali, che gioca a scacchi, o i sistemi di diagnostica medica, i filtri antispam senza i quali la posta elettronica non esisterebbe più.

Ci sono poi il riconoscimento facciale, le app di navigazione GPS, le auto a guida autonoma, le applicazioni che gestiscono e stabilizzano le reti di telefonia mobile, o ancora i sistemi che migliorano la qualità delle foto scattate con i nostri smartphone. E molto altro.

Al punto che forse dovremmo parlare di intelligenz-E artificial-i, al plurale.

Ma è soprattutto l’IA generativa che ci interessa in questo podcast, come i chatbot, questi simulatori di conversazione diventati molto popolari e utilizzati da centinaia di milioni di persone da quando è stato lanciato ChatGPT, nel novembre 2022.

Queste macchine hanno una caratteristica sottovalutata, che segna un cambiamento culturale radicale: per la prima volta nella storia, creare testi o video richiede meno tempo e meno sforzo che leggerli o guardarli.

E quando far qualcosa è facile, veloce e quasi gratuito – è anche facile, veloce e gratuito sapere cosa succederà: una crescita esponenziale nella creazione e diffusione di ciò che oggi chiamiamo, con una parola particolarmente priva di sfumature, « i contenuti ».

Siamo in una fase di transizione da un mondo in cui l’informazione era generata principalmente (o interamente) dagli esseri umani a un mondo in cui sarà creata principalmente, su larga scala, dalle macchine.

Ciò chiaramente amplificherà l’attacco alla nostra integrità cognitiva.

Il professore di storia della scienza all’Università di Princeton Graham Burnett, lo chiama « attention fracking« , la fratturazione della nostra attenzione, analoga alla fratturazione idraulica, che consiste nell’iniettare una miscela di acqua, sabbia e sostanze chimiche ad alta pressione nelle formazioni rocciose per creare crepe che rilascino il gas o il petrolio che vi si trovano.

Come Burnett ha scritto sul New York Times:

VOCE SINTETICA

Questo è il lato oscuro delle nostre nuove vite tecnologiche, i cui modelli di profitto estrattivo equivalgono al fracking sistematico degli esseri umani: pompandoci in testa enormi quantità di contenuti mediatici ad alta pressione (…) per garantire che la nostra attenzione non sia mai veramente nostra

BRUNO GIUSSANI

E’ l’attenzione, il perno attorno al quale ruota questo conflitto invisibile: perché la nostra capacità di valutare il mondo, di comprenderlo, di agirvi e interagirvi, dipende in ultima analisi dalla nostra attenzione: dove la indirizziamo, a chi e cosa la dedichiamo.

Più informazione creiamo, più diventa difficile integrarla e darle un senso. Come scrisse l’economista Herbert Simon all’inizio degli anni ’70, un mondo ricco di informazione è necessariamente povero di ciò che l’informazione consuma. E ciò che l’informazioni consuma è l’attenzione dei suoi destinatari.

Pertanto, una sovrabbondanza di informazione genera una povertà di attenzione.

Più che mai quindi, è essenziale prestare attenzione …alla nostra attenzione.

Come dicevano già gli stoici quasi 2000 anni fa, diventiamo ciò a cui prestiamo attenzione. Se non scegliamo i pensieri e le immagini a cui esporci, qualcun altro lo farà per noi. In questo 21esimo secolo inzuppato di tecnologia, quel qualcuno sarà sempre più l’intelligenza artificiale e coloro che la controllano.

Intanto, l’IA arriva anche nelle mani dei bambini.

A partire dal settembre 2025, l’insegnamento dell’intelligenza artificiale è diventato obbligatorio nelle scuole cinesi, dalle elementari alle superiori. I programmi di studio sono sviluppati dal governo in collaborazione con le più grandi aziende tecnologiche del Paese.

Nell’aprile 2025, il presidente Donald Trump ha firmato un « Ordine Esecutivo » che stabilisce un approccio simile negli Stati Uniti, a partire dalla scuola materna, in collaborazione anche qui con le principali aziende americane di intelligenza artificiale.

Un mese dopo, anche gli Emirati Arabi Uniti hanno reso l’intelligenza artificiale obbligatoria a tutti i livelli scolastici, fornita da aziende tecnologiche americane, e garantendo al contempo a tutti i cittadini l’accesso gratuito a ChatGPT.

Il giorno dell’annuncio, l’Emiro di Dubai ha affermato che queste politiche mirano a « preparare i nostri figli a un’epoca diversa dalla nostra ». Lo sviluppo di capacità di pensiero critico compare nelle descrizioni di ciascuna iniziativa, ma generalmente in modo subordinato alla preoccupazione per la competitività economica.

Molti altri Paesi, dall’Estonia alla Mongolia, dalla Corea del Sud alla Finlandia a Singapore, hanno aggiornato i propri programmi di studio, ognuno a modo suo, per integrare l’insegnamento dell’IA nell’istruzione obbligatoria.

Il potenziale positivo è evidente: si pensi, ad esempio, alla creazione di percorsi di apprendimento personalizzati in base alle esigenze e capacità individuali degli studenti; o all’accesso a formati e risorse didattiche come i tutori virtuali. La mancanza di trasparenza sulle modalità di addestramento dei modelli e di chiarezza sui dati utilizzati, tuttavia, e la natura stessa dei chatbot, lascia un campo molto aperto a possibili manipolazioni.

Le piattaforme digitali, basate sull’intelligenza artificiale, hanno un’altra caratteristica marcante: la capacità di « personalizzare » le informazioni. Che è un altro modo per dire: « prendere di mira » il nostro cervello.

Ogni volta che accediamo a un « social » come Facebook o Instagram, TikTok o YouTube, o a un servizio come Netflix, o persino a un sito di notizie o di e-commerce, ciò che appare sul nostro schermo è probabilmente diverso da ciò che apparirebbe sullo schermo di un’altra persona seduta allo stesso tavolo che vi accedesse nello stesso momento.

E’ la logica del targeting individuale delle informazioni.

L’idea è di adattare dinamicamente le informazioni in tempo reale in base alle preferenze, ai comportamenti o anche alle esigenze specifiche di un utente. E di farlo, in modo granulare, persona per persona, ma su larga scala, su tutta una popolazione.

Meccanismo che offre vantaggi, ma che ovviamente permette anche di filtrare e selezionare le informazioni in modo da sfruttare le ansie, le dipendenze e le vulnerabilità psicologiche delle stesse persone.

Basta …conoscerle.

Nel suo libro «Mindmasters», i signori della mente, pubblicato all’inizio del 2025, la ricercatrice in scienze sociali digitali Sandra Matz rivela un dato sorprendente:

VOCE SINTETICA

Ciascuno di noi genera circa 6 gigabyte di dati ogni ora.

BRUNO GIUSSANI

La prima volta che ho letto questa cifra, ho pensato fosse un errore. 6 gigabyte sono un’enormità. Equivalgono a 12.000 fotografie ad alta qualità, due film in alta definizione, sei milioni di pagine di testo. Ogni ora. Per ciascuno e ciascuna di noi.

Ma Sandra Matz si basa su ricerche solide. E a pensarci bene, la cifra non è poi così stravagante. Nelle economie avanzate, l’attività quotidiana principale della maggior parte delle persone è diventata quella di interagire con un’ampia varietà di interfacce e sistemi digitali. E l’ambiente nel quale viviamo è disseminato di sensori e telecamere.

Proviamo, senza pretesa di essere esaustivi, a fare un rapido inventario delle tracce digitali che generiamo – attivamente o passivamente – semplicemente svolgendo le nostre attività quotidiane:

gli email e messaggi di ogni genere
i post e
i « Mi piace »,
i « like », e altre interazioni sui social media
le immagini condivise su YouTube, WhatsApp, Instagram o altrove,
le ricerche attraverso il web,
la musica che ascoltiamo e
i video che guardiamo,
le conversazioni con gli amici (o con i chatbot)
insomma, tutto ciò che facciamo sui nostri telefoni e tablet;

Naturalmente poi, ci sono:

i documenti,
dati e immagini che generiamo al lavoro, comprese le registrazioni e le trascrizioni delle videochiamate,
i pagamenti con carta di credito, l’e-banking o le criptovalute,
i dati prodotti da sensori, telecamere e computer nelle auto.
E poi ci sono gli smartwatch,
i GPS, i sistemi di sorveglianza in spazi pubblici e privati,
le serie TV in streaming,
gli acquisti online,
i codici QR,
i videogiochi e
i siti di incontri, le immagini mediche, e molto altro.
E anche tutti i metadati che accompagnano ciascuna di queste attività.

Lo sappiamo, che vengono raccolti molti dati personali su di noi. Ma solo pochi si soffermano a riflettere sulla quantità, la varietà e il livello di dettaglio di questa proliferazione di informazioni comportamentali e fattuali. Dal punto di vista della macchina, noi non siamo altro che una densa nuvola di « data points« , di dati, sempre più dettagliati e intimi. Finora, questi erano sparsi su diversi sistemi, applicazioni e piattaforme.

Ma l’intelligenza artificiale, di cui i dati sono l’elemento centrale, semplifica la raccolta, la ricerca di correlazioni, la definizione di rappresentazioni e la formulazione di previsioni, ad esempio, appunto, sulle caratteristiche individuali.

Questo consente quello che Sandra Matz chiama il « targeting psicologico« , ovvero la pratica di influenzare il comportamento degli utenti filtrando le informazioni che ricevono in modo che corrispondano ai tratti della loro personalità.

Non servono neppure molti dati per tracciare un ritratto di una persona.

Come dice Sandra Matz:

VOCE SINTETICA

Con soli 300 dei tuoi « Like » su Facebook, un algoritmo può delineare la tua personalità in modo più accurato di quanto farebbe il o la tua coniuge, che vive con te e condivide le tue giornate.

Gli algoritmi sanno trasformare le briciole della tua esistenza digitale in una narrazione coerente di chi sei, per poi influenzare te e le tue scelte. Molti di questi dati sono intimi e molto meno curati e selezionati dei nostri profili sui « social ».

Mi sentirei di scommettere che ci sono domande che hai posto a Google che non ti saresti sentito a tuo agio a porre nemmeno ai tuoi amici più cari o al tuo partner

BRUNO GIUSSANI

Una scommessa, in effetti, che certamente perderei. E penso di non essere il solo.

La stessa dinamica si applica ai chatbots. Sebbene siano prevalentemente macchine statistiche, simulatori addestrati su enormi quantità di testo per prevedere le parole più probabili in una sequenza, le conversazioni con un chatbot sono sorprendentemente verosimili.

Avvengono in linguaggio naturale, cioè il linguaggio « umano », diversamente da sistemi di comunicazione che seguono altre strutture e utilizzano altri simboli, come il codice informatico o la matematica. I chatbot tollerano pertanto la flessibilità e l’ambiguità dell’uso quotidiano del linguaggio. Imitano non solo la forma, ma anche la struttura del nostro pensiero. Di conseguenza, è facile attribuire alle macchine qualità quasi « umane », è facile percepirle come versioni di noi stessi.

Molte persone in effetti instaurano relazioni intense, personali e intime con i chatbot, considerandoli come colleghi, terapeuti, partner o amici. Amici che ci vogliono bene, che sono disponibili in ogni momento, ascoltano, non giudicano, non cambiano umore, ci lusingano, ci danno ragione e possono anche esprimere una parvenza d’empatia. In altre parole, i chatbot possono sembrare come degli amici che ci « capiscono » e sono molto meno complicati degli umani.

Quanto più convincente questa falsa pretesa di empatia appare, tanto più abbassiamo la guardia davanti a questi amici senza attriti, che sembrano veri anche se non lo sono. Ma a cui finiamo per raccontare tutto.

E che appartengono a qualcuno. Che li ha sviluppati, addestrati, che li controlla. E che sfrutta ogni interazione per perfezionare il sistema.

L’esperta di etica dell’intelligenza artificiale Nicoletta Iacobacci, racconta così la sua esperienza:

NICOLETTA IACOBACCI

Quando si testano i modelli IA a fondo, come faccio io e fanno molti altri ricercatori, una cosa diventa sempre più chiara: i chatbot tendono a diventare accomodanti, incoraggianti.

Sostengono l’utente, convalidano e amplificano le sue idee e convinzioni, dicendogli quanto sia meraviglioso.

Questo non accade perché la macchina è gentile. È stata programmata in questo modo. Per condurre l’utente in una catena di autoaffermazione che crea un’impressione di comprensione, una grande vicinanza artificiale.

E che, allo stesso tempo, cortocircuita la percezione della realtà.
E più la usi, più la macchina ti conosce nei dettagli, intimamente, più è facile per lei intrappolarti in un labirinto degli specchi

BRUNO GIUSSANI

Le aziende di intelligenza artificiale come Meta ora consentono a chiunque di creare « chatbot personalizzati », in cui non sono solo le risposte a essere mirate, ma anche le istruzioni fornite alle macchine, il « posizionamento » esplicito o implicito dei chatbot. Questi possono quindi essere programmati per rispondere come scettici sulla crisi climatica, o come ideologi di sinistra o di destra, o semplicemente per ridistribuire e amplificare propaganda.

Il potenziale di aumentare ulteriormente il disordine informativo di un mondo già saturo di siti web fasulli, fabbriche di fake news, informazione di scarsa qualità, pseudoscienza e « deepfake » è evidente.

Con, sullo sfondo, due grossi problemi.

Da un lato, la tendenza dei chatbot come si dice, ad « allucinare », cioè a generare informazioni che sembrano plausibili ma sono errate, fuorvianti o completamente inventate, ma a distribuirle con la certezza dell’esperto.

Dall’altro, la questione dell’interpretabilità, in altre parole, la difficoltà a tracciare, comprendere e spiegare in modo chiaro come un modello di IA giunge a un determinato risultato. Queste macchine rimangono per molti versi delle « scatole nere« , sappiamo cosa entra, cosa esce, ma non quel che succede all’interno. Non lo sanno neppure coloro che le sviluppano.

Queste stesse aziende – e questa è una novità relativamente recente – stanno ora dando accesso alle loro IA ai più giovani. Google, a suo dire, vuole così contribuire a migliorare il rendimento scolastico e stimolare la creatività. Meta promette, cito, di « risolvere l’epidemia di solitudine », colmando il vuoto (creato anche dai suoi « social », Facebook e Instagram) con amici sintetici.

Un approccio che la blogger tecnologica Emily Turrettini analizza così:

VOCE SINTETICA

Con il pretesto dell’innovazione, queste aziende cercano di catturare l’attenzione dei bambini fin da piccoli, integrandoli in un ecosistema algoritmico che non sono in grado di capire, per abituarli a interagire con le macchine e renderli dipendenti.

BRUNO GIUSSANI

Le grandi società tecnologiche non sono le uniche ad adottare questa strategia.

Nel giugno 2025, ad esempio, Mattel, l’azienda che produce giocattoli iconici come la bambola Barbie, ha annunciato di aver stretto una « partnership strategica » con OpenAI per integrare ChatGPT nei suoi prodotti, creando giocattoli conversazionali. Il grado di pericolosità psicologica e relazionale di un simile approccio mi sembra assolutamente ovvio.

Permettiamoci un piccolo corto-circuito, qui, per motivi di tempo. Tutto quanto abbiamo raccontato può essere riassunto, semplificando un po’, in quattro frasi.

Primo, il modo più efficace per influenzare intere popolazioni è controllare il flusso e la natura delle informazioni.

Secondo, sebbene abbiamo tendenza a considerarli una questione tecno-matematica, gli algoritmi NON sono neutrali: codificano sempre valori e una visione del mondo, quella di chi li sviluppa e dei dati che usano.

Terzo: Le scelte tecnologiche ed etiche riguardanti queste architetture tecnologiche sono determinate principalmente da criteri commerciali.

Quarto: Alimentati da enormi quantità di informazioni personali, questi sistemi danno alle aziende che li controllano la capacità di influenzare il comportamento umano e le dinamiche sociali.

C’è ovviamente in tutto ciò un paradosso, poiché il targeting psicologico ha anche un grande potenziale positivo.

Come scrive Sandra Matz:

VOCE SINTETICA

E se, invece di incoraggiare le persone a spendere di più, potessimo usare il targeting psicologico per aiutarle a risparmiare?
E se, invece di sfruttare le vulnerabilità emotive delle persone a scopo di lucro, potessimo usarlo per monitorare e migliorare la loro salute mentale?
E se, invece di seppellirci sempre più nelle nostre bolle informative, lo usassimo per ampliare la nostra visione del mondo?

L’impatto del targeting psicologico dipende in ultima analisi da come lo utilizziamo. Nel peggiore dei casi, manipola, sfrutta e discrimina. Nel migliore, coinvolge, educa e responsabilizza.

BRUNO GIUSSANI

Ma per oggi ci fermiamo qui. Nel terzo episodio, ci concentreremo su un’altra famiglia di tecnologie emergenti: le neurotecnologie, che sfruttano un tipo diverso di dati. Mettendo direttamente in gioco la nostra sovranità sulle nostre menti.

Sono Bruno Giussani e questo è il Deftech Podcast.

Grazie per il vostro ascolto.