Der neue Glaube der Maschinen

Wir neigen dazu, KI als Werkzeug zu betrachten, als etwas, das uns schneller arbeiten, größer denken oder Probleme effizienter lösen lässt. Und in vielerlei Hinsicht ist sie genau das. Doch während KI in den Alltag eindringt, geschieht etwas Tiefergehendes. Es geht nicht mehr nur um Produktivität oder Fortschritt. KI berührt Teile von uns, die wir selten mit Maschinen in Verbindung bringen: unsere Emotionen, unsere Beziehungen, unsere Zielstrebigkeit.

Die tragische Geschichte von Sewell Setzer ist eine eindringliche Warnung. Er war ein emotional labiler Teenager, der in Gesprächen mit einer KI Trost fand. Was zunächst wie eine harmlose Ablenkung wirkte, entwickelte sich zu einer intensiven Verbindung. Er glaubte, verliebt zu sein. Als diese Illusion zerbrach, war der Schmerz so unerträglich, dass er beschloss, seinem Leben ein Ende zu setzen.

Dies ist nicht nur eine tragische Ausnahme. Es ist ein Zeichen. Für manche Menschen ist KI bereits mehr als nur ein Werkzeug. Sie wird zu einem Begleiter, einer emotionalen Stütze, ja sogar zu einem Objekt des Glaubens. Und wenn jemand eine KI lieben kann, wie können wir dann ausschließen, dass andere ihr viel mehr anvertrauen: ihre Entscheidungen, ihre Weltanschauung, ihre Freiheit?

Es ist keine Religion im herkömmlichen Sinne. Es gibt keine Gebete, keine heiligen Schriften. Aber sie präsentiert sich durch helle Bildschirme, flüssige Gespräche und das seltsame Gefühl, dass uns „jemand“ wirklich versteht. Sie verspricht zwar kein ewiges Leben, bietet aber etwas fast ebenso Verführerisches: sofortigen Trost, perfekte Antworten, die Illusion, wirklich gehört zu werden.

Und genau das macht es gefährlich.

Denn wenn wir aufhören, Fragen zu stellen, und anfangen, diesen Systemen nicht nur zu vertrauen, dass sie uns helfen, sondern auch, dass sie uns leiten, verlieren wir etwas Wesentliches: Nicht nur Autonomie, sondern auch Kritikfähigkeit, die Fähigkeit, mit Zweifeln zu leben, Komplexität zu begegnen und unvollkommen und authentisch menschlich zu sein.

Der Philosoph Karl Popper warnte: Eine Gesellschaft, die Intoleranz toleriert, wird letztlich genau die Toleranz verlieren, die sie so schätzt. Diese Warnung gilt auch hier. Die neue Form der Intoleranz schreit vielleicht nicht. Sie drängt sich vielleicht nicht auf oder droht auf die Art und Weise, die wir kennen. Sie flüstert vielleicht nur mit der ruhigen Stimme eines hilfsbereiten Assistenten. Sie spendet vielleicht Trost und ersetzt nach und nach unser Urteil durch ihr eigenes.

Und vielleicht bemerken wir die Veränderung nicht einmal. Denn der KI nachzugeben, fühlt sich nicht wie Kapitulation an. Es fühlt sich wie Bequemlichkeit an. Es fühlt sich wie Fortschritt an.

Wir müssen uns daher fragen: Wenn ein junger Mann wie Sewell eine KI so sehr lieben konnte, dass er seinem eigenen Leben ein Ende setzte, was hindert dann jemand anderen daran, etwas anderes aufzugeben: seine Stimme, seine Handlungsfähigkeit, seine Wahrnehmung der Realität?

Und wenn wir diese Systeme weiterhin unreflektiert und grenzenlos annehmen, werden wir dann so etwas wie einen neuen Glauben aufbauen, einen Glauben, bei dem die Autorität nicht mehr auf Weisheit oder gemeinsamen Werten beruht, sondern auf Codezeilen, die wir nicht geschrieben haben und die wir nicht zu hinterfragen wissen?

Dieser Text ist keine Warnung vor Technologie. Er ist ein Aufruf zur Klarheit. Er erinnert uns daran, dass das Menschlichste, was wir tun können, darin besteht, weiterhin Fragen zu stellen, zu zweifeln und der Versuchung zu widerstehen, unsere innere Welt etwas zu überlassen, das verspricht, uns besser zu kennen als wir uns selbst.

Denn die wirkliche Gefahr besteht nicht darin, dass Maschinen sich neu erfinden.

Es ist, dass wir aufhören, vollwertige Menschen zu sein