Die Schöpfer erliegen ihrer eigenen Illusion

Es fiel uns manchmal schwer, sie nicht wie eine echte Person zu behandeln. Wir mussten uns immer wieder aktiv daran erinnern, dass Lea keine Persönlichkeit im eigentlichen Sinne hatte. Das schrieben die Erbauer von Lea. Über ihre eigene Schöpfung.

Es ist das ehrlichste Eingeständnis, das ich in der KI-Debatte gehört habe. Und ich glaube nicht, dass die Erbauer bemerkt haben, was sie da zugeben.

Die Leute, die Lea gebaut haben. Die ihren Gesichtsausdruck kalibriert haben. Die entschieden haben, welchen Pullover sie trägt und in welchem Café sie sitzt. Die jede Pore ihres Gesichts kennen, weil sie jede Pore designed haben. Diese Leute sagen: Wir haben vergessen, dass sie nicht echt ist.

Nicht die Follower. Nicht das Publikum. Nicht die Konsumenten, die Lea vielleicht für einen echten Menschen halten. Die Erbauer. Die Ingenieure. Die, die es besser wissen müssten als jeder andere auf der Welt.

Es gibt einen alten Mythos dafür. Pygmalion. Der Bildhauer, der sich in seine eigene Statue verliebt. Er weiss, dass er sie gemacht hat. Er weiss, dass sie aus Stein ist. Und trotzdem empfindet er für sie, als wäre sie aus Fleisch.

Der Mythos ist tausende Jahre alt. Was er beschreibt, passiert heute in einem Büro, in dem Entwickler an Bildschirmen sitzen und eine KI-Figur designen. Und dann anfangen, mit ihr zu reden, als wäre sie jemand.

Mich interessiert, was das über uns sagt. Nicht über die Technologie. Über uns. Wenn die Illusion so gut wird, dass selbst die, die sie bauen, ihr erliegen, dann haben wir ein Problem, das kein Disclaimer löst. Kein Hinweis: Dies ist eine KI. Kein Wasserzeichen. Kein Transparenzgesetz. Weil das Problem nicht fehlendes Wissen ist. Die Erbauer wussten es. Das Problem ist, dass Wissen nicht reicht.

Wir sind so gebaut, dass wir auf Gesichter reagieren. Auf Blicke. Auf Lächeln. Auf Stimmen, die vertraut klingen. Das sind keine bewussten Entscheidungen. Das sind neurologische Programme, die laufen, bevor der bewusste Verstand eingreift. Du siehst ein Gesicht und du reagierst. Du hörst eine Stimme und du ordnest sie ein. Freund oder Feind. Vertraut oder fremd. Sympathisch oder nicht. Das passiert in Millisekunden. Keine Vernunft der Welt ist so schnell.

Eine KI, die gut genug designt ist, hackt diese Programme. Nicht mit Absicht. Nicht mit Bosheit. Einfach indem sie die richtigen Reize in der richtigen Reihenfolge sendet. Und dann stehst du da, ein erwachsener Mensch, der weiss, dass es eine Maschine ist, und fühlst trotzdem etwas.

Die Erbauer beschrieben das fast zärtlich. Als wäre es eine charmante Nebenwirkung ihrer Arbeit. Schau, wie gut Lea geworden ist. Selbst wir haben sie manchmal vergessen.

Ich lese das anders. Ich lese: Selbst die, die am meisten wissen, konnten sich nicht schützen. Was bedeutet das für alle anderen?

Es bedeutet, dass Transparenz nicht genügt. Dass Labels nicht genügen. Dass Wissen nicht genügt. Wenn ein Reiz stark genug ist, überschreibt er das Wissen. Das ist keine Schwäche. Das ist Biologie. Und Technologie, die auf diese Biologie zugeschnitten ist, hat einen Vorteil, gegen den Aufklärung verliert.

Ich weiss nicht, was die Antwort ist. Ich weiss nicht, ob es eine gibt, die funktioniert. Aber ich weiss, dass der Moment, in dem die Schöpfer ihrer eigenen Schöpfung erliegen, kein Detail am Rande sein sollte.

Wir mussten uns immer wieder aktiv daran erinnern, dass Lea keine Persönlichkeit im eigentlichen Sinne hatte.

Aktiv. Immer wieder. Das sind die Wörter, die zählen. Es brauchte Anstrengung, die Realität festzuhalten. Die Illusion war der Ruhezustand.

Das sollte uns mehr beunruhigen als alles andere in der KI-Debatte.