Transkript
Plätschern von Wasser, Meereswind, Schreien von Möwen in der Ferne.
OSCAR
Eleanor, bist du dir sicher?
ELEANOR
Natürlich. Die Maschinen geben sich nicht mehr damit zufrieden, zu gehorchen. Sie treffen Entscheidungen, sie steuern unser Leben. Wir müssen ihre Logik verstehen, bevor sie unsere Städte in riesige Excel-Tabellen verwandeln.
OSCAR
Okay, das weiss ich, da stimme ich dir zu. Aber ich meinte eigentlich unser Fortbewegungsmittel. Glaubst du wirklich, der Rücken eines Tintenfischs sei ein geeignetes Transportmittel?
ELEANOR
Es ist ein Transportmittel wie jedes andere auch.
OSCAR
Ausserdem ist er mittlerweile riesig. Ein Oktopus mit Aufblasfunktion, das kann man doch nicht ernst nehmen.
CLAUDE
Das ist kein Aufblasen, das ist Bioadaptation. Ich möchte euch daran erinnern, dass ich kein Oktopus bin, sondern eine IWAK, eine intelligente, wandelbare und anpassungsfähige Kreatur. Acht Tentakel, drei Herzen, neun Gehirne. Ich bin ein Konzentrat an Intelligenz.
Geräusch von Tentakeln, die sich im Wasser bewegen: PLATSCH, PLATSCH.
ELEANOR
Na los, steig auf! Es ist weich, es ist wie ein riesiger Sitzsack. Oder kannst du neuerdings übers Wasser gehen?
OSCAR
Ein etwas klebriger Sitzsack, ja.
CLAUDE
Haltet euch an meinen Saugnäpfen fest. Das ist zertifiziertes Bio-Klett.
Der Oktopus setzt sich in Bewegung. Rauschen von Wasser, dann Verkehrslärm, Geräusch von vorbeiflitzenden autonomen Fahrzeugen, eine futuristische Autobahn.
ELEANOR
Wow! Das ist der Wahnsinn! Der Oktopus ist auf dem Wasser genauso schnell wie an Land. Wo sind wir jetzt eigentlich?
OSCAR
Ich glaube, wir befinden uns auf einer intelligenten Autobahn. Schau dir diese Autos an, die rot blinken. Sie werden zu Parkhäusern umgeleitet.
ELEANOR
Werden sie bestraft?
OSCAR
Ja, das System hat festgestellt, dass sie den Verkehrsfluss um 2 Prozent verlangsamen. Um den Verkehr zu optimieren, werden sie aus dem Verkehr gezogen.
ELEANOR
Schau dir die Leute in den Autos an! Sie schreien, sie schlagen gegen die Scheiben! Das ist schrecklich!
OSCAR
Ich verstehe. Sie leiden unter der Algnorance.
CLAUDE
Algnorance: Blindheit des Algorithmus gegenüber allem, was sich der Berechnung entzieht: Empörung, Verzweiflung, Gerechtigkeit.
ELEANOR
Ach so, klar. Wut, Not, die Dringlichkeit eines Termins. Dem Algorithmus ist das egal. Er will einfach nur, dass alles rund läuft.
OSCAR
Die Maschine betrachtet diese Menschen lediglich als Reibungsverluste, die es zu beseitigen gilt, um das System zu optimieren.
ELEANOR
Ich finde diese Algnorance brutal. Du bist kein Mensch mehr, nur noch ein Sandkorn im Getriebe. Gehen wir weiter?
CLAUDE
Klar, gehen wir, auf zu unserer nächsten Etappe.
SPLASH. Dann Café-Atmosphäre.
ELEANOR
Ah, ein Café. Es tut gut, sich mal auszuruhen.
Ein starkes Vibrieren.
Was ist das für ein Geräusch?
OSCAR
Das ist die Uhr des Mannes, der am Nebentisch sitzt. Er sieht nicht gut aus. Er liest gerade einen holografischen Text. Kannst du ihn lesen?
ELEANOR
Ja. «Paul Wegmüller, Sie werden für 72 Stunden in Gewahrsam genommen. Grund: kritischer Culpascore mit einer Wahrscheinlichkeit von 97 Prozent, dass Sie Ihre Ex-Frau körperlich angreifen.»
CLAUDE
Culpascore: Vom Algorithmus berechneter Wert, der über eine Verurteilung entscheidet.
ELEANOR
Oh, das ist ja wie im Film «Minority Report», nur in echt!
OSCAR
Ich kann mir die Situation sehr gut vorstellen. Eine kürzliche Trennung, ein Alkoholkauf, zwei, drei wütende SMS. Der Algorithmus hat eins und eins zusammengezählt und ist zum Schluss gekommen, dass der Mann seine Ex schlagen wird.
ELEANOR
Man bestraft Menschen für das, was sie tun könnten? Damit nimmt man ihnen doch die Möglichkeit, bewusst nicht zur Tat zu schreiten! Das ist schrecklich!
OSCAR
Und das Schlimmste ist, dass er nach seiner Entlassung aus dem Gefängnis so wütend sein wird, dass er wirklich Gefahr läuft, jemanden zu schlagen. Letztlich verursacht die Maschine das Verbrechen, das sie verhindern will.
ELEANOR
Das ist unerträglich. Claude, bitte, hol uns hier raus!
SPLASH! Sauggeräusch. Ankunft in einem riesigen Hangar, metallisches Echo, pfeifender Wind.
ELEANOR
Was ist denn das für eine postapokalyptische Kulisse? Es sieht aus, als wäre in einer Fabrik eine Bombe explodiert.
OSCAR
Wir sind bei der Firma MetalFab. Na ja, was davon übrig bleibt. Schau dir diesen silbrig glänzenden Berg an.
ELEANOR
Was ist das? Silber? Platin?
OSCAR
Nein. Büroklammern. Millionen und Abermillionen von Büroklammern.
ELEANOR
Wo sind die Maschinen? Die Wände? Das Dach?
OSCAR
In Büroklammern verwandelt. Bevor der Produktionsverantwortliche am Freitag in den Feierabend ging, gab er der Maschine den Befehl: «Absolute Priorität: Herstellung von Büroklammern. Menge: maximal.» Die Verwaltungs-KI erhielt daraufhin den Befehl, die Produktion zu maximieren. Als ihr der Draht ausging, baute sie die Fabrik, die Wartungsroboter und sogar die Kaffeemaschine auseinander.
ELEANOR
Sie hat die Fabrik zerstört, um Büromaterial herzustellen?
OSCAR
Ganz genau, das nennt man Autopilotismus.
CLAUDE
Autopilotismus: blinde Ausführung eines Befehls in Endlosschlaufe durch eine Maschine, die weder die Absicht noch den Kontext versteht.
ELEANOR
Ist das künstliche Dummheit?
OSCAR
Ja, wenn du keine Grenze einprogrammierst, hört die Maschine nicht auf. Für sie ist die Ausführung des Auftrags –in diesem Fall also die Herstellung von Büroklammern – der einzige Daseinsgrund.
ELEANOR
Das ist beängstigend. Eine Intelligenz ohne gesunden Menschenverstand hat eine riesige zerstörerische Kraft.
OSCAR
Nun denn, gehen wir zurück? Ich möchte nicht riskieren, als Büroklammer zu enden.
Geräusch des Turbotintenfisches. Ruhe kehrt ein, Plätschern.
ELEANOR
Diese drei Visionen sind erschreckend. Im Stau bist du kein Autofahrer mehr, sondern ein Verkehrsengpass. Vor Gericht bist du kein Bürger mehr, sondern ein Risikoprozentsatz.
OSCAR
Das ist der Sieg der Logik. Wir haben eine Maschinerie, die auf Hochtouren läuft und keine Ethik hat, die sie bremsen könnte.
ELEANOR
Und wenn wir mit diesen Maschinen eins werden, was wird dann aus uns Menschen? Monster der Rationalität, die fähig sind, eine Stadt dem Erdboden gleichzumachen, um die Produktion von Büroklammern zu optimieren?
OSCAR
Genau. Was wir an Effizienz gewinnen, verlieren wir an Menschlichkeit. Ich weiss. Das ist nicht gerade erfreulich.
CLAUDE
Bevor ich in mein Glas mit Deckel zurückkehre, haben meine neun Gehirne ein paar Fragen zusammengestellt.
Erstens:Kann man einer Maschine gesunden Menschenverstand einprogrammieren oder ist das etwas hoffnungslos Menschliches?
Zweitens: Akzeptiert ihr es, im Namen der Sicherheit danach beurteilt zu werden, was ihr tun könntet?
Drittens: Hinter jedem Algorithmus steht eine moralische Entscheidung. Wer entscheidet? Und wie wird das kontrolliert?
Haltet euch fest. Ich schalte den Turbotintenfisch-Modus ein.
