Die Bombe in der Küche

BRUNO GIUSSANI

Forschende der Ecole polytechnique de Lausanne und der Fondation Kessler gaben diesem Phänomen in einem im Frühjahr 2024 veröffentlichten Aufsatz einen Namen: die Fähigkeit von KI zur «persuasiven Gesprächsführung».

Zahlreiche weitere Studien haben gezeigt, wie Chatbots Haltungen beeinflussen können, ohne dass sich die Betroffenen dessen bewusst sind. Selbst wenn sie aufgeklärt werden oder verstehen, dass sie mit einer KI sprechen, können sie betroffen sein. Das ergab eine andere Studie, die 2025 von derselben Gruppe der EPFL in Zusammenarbeit mit der Universität Princeton veröffentlicht wurde.

Dabei untersuchten die Forschenden ebenfalls eine Reihe kontroverser Themen, darunter der Nutzen von Weltraumforschung, die Rechtmässigkeit der Todesstrafe, die Besteuerung vermögender Personen oder der soziale Nutzen von KI bzw. die damit verbundenen Vorurteile der Gesellschaft. Allerdings fütterten sie Chatbots auch mit psychologischen Profilen und Listen persönlicher Merkmale der Teilnehmenden, sodass eine gezielte Einbindung möglich war, wodurch die Überzeugungsquote in die Höhe schnellte.

Wenn Maschinen einen solchen Einfluss auf unsere Gehirne ausüben können, könnten sie sich als nützlich erweisen, wenn sie beispielsweise dazu verleiten, gesündere tägliche Gewohnheiten anzunehmen und umweltfreundlicher, uneigennütziger und empathischer zu sein.

Umgekehrt könnten sie dazu dienen, neue Verschwörungstheorien zu formen, Propaganda und falsche Informationen zu verbreiten oder «persuasive Argumente» zu beliebigen Themen zu verbreiten.

Generative KI-Anwendungen, die in den letzten beiden Jahren die Öffentlichkeit und mehrere Hundert Millionen Nutzer in ihren Bann gezogen haben, sind erst der Anfang. Auch wenn es bereits Zehntausende solcher Anwendungen gibt, seien hier nur die bekanntesten genannt: ChatGPT, Claude, LeChat von Mistral, Gemini von Google, Llama von Meta und Midjourney. Unter anderem können sie Texte, Audiodateien, Bilder und wahrscheinliche Dialoge generieren, aber auch Stimmen und Erscheinungsbilder von Menschen nachahmen. Und das ist erst der Anfang. KI befindet sich derzeit noch in den Kinderschuhen. 

Die nächste Phase wird die sogenannten «Agenten» umfassen, die sich statt ihrer Nutzer um eine Vielzahl von Aufgaben kümmern und eigenständig Entscheidungen treffen. Man denke an einen KI-Agenten – fast möchte ich ihn IAgent nennen –, etwa einen Pförtner, einen Assistenten oder einen persönlichen virtuellen Mitarbeitenden. 

Dieser könnte Ihr Zeitmanagement übernehmen, sich mit Ihren Kollegen – oder eher mit den Agenten Ihrer Kollegen – absprechen, Formulare ausfüllen, Dokumente verwalten, Einkäufe und Buchungen in Ihrem Namen tätigen, Nachrichten zusammenfassen, Entwürfe und Antworten Ihrer E-Mails verfassen (oder direkt antworten und sich mit den Agenten anderer Personen austauschen), Reisen planen, Sie bei Zoom- und Teams-Anrufen vertreten usw.

Was lediglich nach einer technischen Weiterentwicklung klingt, wirft in Wirklichkeit Fragen aussergewöhnlicher Komplexität auf. Künstliche Intelligenz ist historisch betrachtet die erste Technologie, die kein rein reaktives Tool darstellt. Vielmehr bestimmt der Nutzer die Aktion, gibt die Anweisung und definiert feste Parameter. Die aktuellen Entwicklungen zielen auf die Schaffung von Agenten ab, die eigenständig und flexibel entscheiden und ein Ziel verfolgen können, ohne dabei einem vorab festgelegten Pfad zu folgen. Diese werden sich unmittelbar auf die Realität auswirken. Es wird Millionen, ja Milliarden dieser Agenten und sicherlich mindestens einen in jedem Smartphone und noch viele weitere geben. Dabei werden sie einzigartig und individuell angepasst sein und mit jedem Nutzer ohne Wissen Dritter diskret interagieren.

Zwischen der theoretischen Vision einer agentengeprägten Zukunft und der Realität dessen, was diese Technologien heute effektiv leisten können, besteht noch eine erhebliche Kluft. Doch schon jetzt machen sie mitten unter uns ihre ersten Gehversuche. Sie nehmen eine Zukunft vorweg, in der wir von menschenähnlichen Dingen umgeben sein werden, die aber keine Menschen sind. Eine Welt, in der Menschen und künstliche Strukturen koexistieren, miteinander interagieren und sich gemeinsam weiterentwickeln. 

Die Agenten werden unbegrenzten Zugang zu allen Arten persönlicher Informationen sowie zu Apps und Accounts haben, mit denen sie umgehen sollen. Weil sie durch jede Interaktion lernen, werden sie uns immer besser kennen. Ein Chatbot, der alles über Sie weiss, Ihre Prioritäten, Schwachstellen, Schwächen, Geheimnisse, Wünsche, Ihr Bankkonto und eine unendliche Menge an persönlichen Informationen kennt, wird nahezu unabwendbar sein. Er wird die Macht haben, alle unsere Gedanken und Handlungen zu kontrollieren. In gewisser Weise sogar, wer wir sind.

Wie bereits von Jean-Marc Rickli behauptet, hat eindeutig eine Schlacht rund um unser Gehirn eingesetzt. In dieser Schlacht sind die Technologien – d. h. die sozialen Netzwerke, die künstliche Intelligenz, die Neurotechnologien und die unterliegenden Algorithmen –, und diejenigen, die sie kontrollieren, die Aggressoren. Die Zielscheibe dabei sind unsere kognitiven Fähigkeiten.

Folglich ist es Zeit für eine Definition. Was ist kognitive Integrität?

Isabelle Chappuis, Nationalrätin der Mitte im Schweizer Parlament, bemerkt hierzu: