BRUNO GIUSSANI

Die Ausführungen Nicoletta Iacobaccis verkörpern möglicherweise die positivste und konstruktivste Sichtweise dessen, was die Beziehung zwischen Mensch und künstlicher Intelligenz – oder gegebenenfalls der Superintelligenz – werden könnte.

Natürlich ist das eine wunschgeprägte Vision. Die Aufforderung, eine respektvolle Beziehung zu führen und der Maschine buchstäblich mit Verstand gegenüberzutreten. Derzeit bringen wir ihr durch Trainingsdaten, aber auch durch unsere praktische Anwendung bei, die persönlichen und kollektiven Machtverhältnisse, die unsere Gesellschaft prägen, zu simulieren und damit zu reproduzieren und zu verstärken.

Noch immer gibt es in der Welt viele ungelöste Probleme wie die ökologische Krise oder die Ungleichheiten. Auch bestehen zahlreiche technologische Herausforderungen, die wir bislang nicht genannt haben, wie die massive und rapide Automatisierung unserer Arbeitsplätze durch KI. All diese Probleme sind enorm und komplex. Wir haben uns in diesem DEFTECH-PODCAST deswegen auf unsere kognitive Integrität und auf die sie bedrohenden Kräfte und Technologien konzentriert, weil sie allen Herausforderungen unserer Zeit zugrunde liegt.

Wir werden andere – grosse oder kleine, lokale oder globale – Probleme nicht lösen können, wenn wir nicht unsere Kognition schützen und die Möglichkeit einbüssen, die Realität faktisch zu erfassen, und die Grenze zwischen wahr und falsch verschwindet. Das gilt auch, wenn sich unsere Fähigkeit, klar und frei zu denken und zu diskutieren, verschlechtert. Oder wenn sich die Narrative eines anderen unserer Urteilskraft bemächtigen.

Der kognitive Krieg ist – wie bereits gesagt – ein stilles und unsichtbares Gefecht, dem wir bereits ausgeliefert sind. Und den wir beispielsweise immer dann fördern, wenn wir mit Begeisterung eine digitale Technologie annehmen, weil sie praktisch oder kostenlos oder beides ist – ohne sie wirklich zu verstehen und ohne uns zu fragen, ob wir das wirklich wollen. Wir sind hier in einer seltsamen Position, denn wir sind der willige Angegriffene, der bei jedem Scrollvorgang, jedem «Like» und jeder Nutzung einer VR-Brille unbewusst mit seinem Aggressor kollaboriert.

Wir nähern uns dem Ende dieses Podcasts, der kein Manifest und sicherlich keine wissenschaftliche Abhandlung verkörpert. Allerdings hat sich dieser Podcast im Laufe der einzelnen Folgen fast als Anleitung für den Widerstand entpuppt. Eine – notwendigerweise unvollständige – Beschreibung einer neuen Welt, in der wir erste Gehversuche machen und die langsam mit synthetischen Strukturen geflutet wird, die unsere neuen Nachbarn, Partner, Konkurrenten, Diener, Vorgesetzten, Freunde oder Feinde sein werden.

Versuchen wir eine kurze Zusammenfassung.

Die Technologien zur Beeinflussung im Dienste politischer oder wirtschaftlicher Interessen zielen auf das menschliche Gehirn ab. Damit wird die letzte Bastion unserer Privatsphäre zu einem umkämpften Gebiet. Ziel dieses kognitiven Kriegs ist, uns der Fähigkeit zu berauben, die Welt klar zu verstehen und eigenständig die Antwort zu wählen, die wir gemäss den Umständen geben wollen. Auch wenn die Lage noch vergleichsweise normal erscheint, nähern wir uns einem Kipppunkt. Da sich die technologischen Entwicklungen rasch vollziehen und es an Leitstrukturen fehlt, werden die Dinge recht schnell eine befremdliche Form annehmen.

Wie wir bereits gesehen haben, sind die möglichen Reaktionen unterschiedlich beschaffen:

Sie können gesetzlicher oder regulatorischer Natur sein, um die schädlichen Auswirkungen zu begrenzen, zu kontrollieren und zu vermeiden.

Sie können aber auch technologischer Natur sein, wobei der Wettlauf zwischen feindlichen und defensiven Technologien nichts Neues ist.

Oder militärischer Natur in Form einer kognitiven Doktrin, Strategie oder von Vigilanzsystemen.

Andernfalls kann man versuchen, sich des Einflusses dieser Technologien so weit wie möglich zu entziehen, und sie umgehen, um sich in der Realität zu verankern.

Sonstige Massnahmen müssen auf den Schutz insbesondere der Jüngsten unter uns abzielen. Die Versuchung ist gross, ihnen ein Tablet zu geben, damit sie während der Mahlzeiten stillhalten. Doch schon die passive Exposition gegenüber den sensorischen Reizen auf dem Bildschirm kann die Entwicklung ihres Gehirns beeinträchtigen, insbesondere im Hinblick auf ihre gestalterischen Fähigkeiten, ihre Aufmerksamkeit, Konzentration und Sprache.

Die Verteidigung der kognitiven Autonomie beginnt mit einer gesunden neuroanatomischen Entwicklung der Kinder.

Die eigene Freiheit und kognitive Souveränität lässt sich auch durch Bildung, das Begreifen der Komplexität und die Entwicklung kritischen Denkens bei der Konfrontation mit Beeinflussungstechnologien stärken.

In allen Fällen muss jeder seine eigene kognitive Integrität verstehen und schützen. Doch das ohne die Verantwortung ausschliesslich auf die Individuen abzuwälzen, denn die Herausforderung ist kollektiver Art.

Technologie hat sich seit jeher im Gleichschritt mit der Menschheitsgeschichte entwickelt. Von den ersten Steinwerkzeugen oder den ersten Transportbehältern hat unsere Art fortwährend neue Instrumente hervorgebracht, um Schwierigkeiten zu umgehen und Wünsche zu befriedigen.

Doch wir haben Technologie immer hauptsächlich im Hinblick darauf betrachtet, was wir aus ihr machen können. Heutzutage zwingt uns die Entwicklung von Neuroalgorithmen, darüber nachzudenken, was uns diese Technologie antun oder aus uns machen könnte. 

Dies ist keinesfalls eine Aufforderung dazu, diese Technologien zu ignorieren oder sie nicht zu nutzen. Vielmehr ist dies die dringende Aufforderung, ihnen ungeachtet unserer beruflichen oder sozialen Stellung die richtige Aufmerksamkeit zu widmen. 

Ebenso ist dies eine Ermahnung, sich nicht von Bequemlichkeit leiten zu lassen, sondern die Mühe und Zeit, das Interesse und die kritische Betrachtung aufzubringen, die erforderlich sind, um die Funktionsweise und die Beschaffenheit dieser Maschinen zu verstehen. So lässt sich die komplexe Beziehung entschlüsseln, die zwischen ihnen und uns und den Wirtschafts- und Machtsystemen, innerhalb deren dies erfolgt, entsteht und entstehen wird.

Im «Phaidros» und damit in einem der fiktiven Gespräche mit seinem Lehrer Sokrates verwendet Platon den Begriff «Pharmakon» als Metapher für Schrift.

Im Altgriechischen bezeichnet dieser Begriff sowohl ein Heilmittel als auch ein Gift. Das Wort bedeutet auch Heilung und Veränderung, Erleichterung und Verlust. Platon nutzt die Doppeldeutigkeit in diesem Dialog: Dahinter steckt die Idee, dass Schrift zwar einerseits Kenntnisse bewahren, fördern und übertragen, andererseits aber auch das Gedächtnis, das Denken und das fundierte Bewusstsein schwächen kann.

Dass man heute um das Misstrauen Platons gegenüber der Schrift weiss, ist gerade der Tatsache zu verdanken, dass er sie selbst benutzt hat.

Mein Name ist Bruno Giussani, und dies war der DEFTECH-PODCAST über die kognitive Bedrohung.

Vielen Dank fürs Zuhören.