Zwischen Utopie und Zusammenbruch: Die trübe Zukunft der KI

In seinem Blogbeitrag „The Gentle Singularity“ entwarf OpenAI-CEO Sam Altman eine Vision der nahen Zukunft, in der KI das menschliche Leben still und behutsam verändert. Es werde keinen abrupten Bruch geben, sondern nur einen stetigen, kaum wahrnehmbaren Aufstieg in Richtung Wohlstand. Intelligenz werde so zugänglich wie Elektrizität. Roboter würden bis 2027 nützliche Aufgaben in der realen Welt übernehmen. Wissenschaftliche Entdeckungen würden sich beschleunigen. Und die Menschheit werde, wenn sie durch umsichtige Steuerung und gute Absichten richtig gelenkt werde, florieren.

Es ist eine überzeugende Vision: ruhig, technokratisch und von Optimismus durchdrungen. Doch sie wirft auch tiefere Fragen auf. Durch welche Welt müssen wir uns bewegen, um dorthin zu gelangen? Wer profitiert davon und wann? Und was bleibt in diesem sanften Fortschrittsbogen unausgesprochen?

Science-Fiction-Autor William Gibson entwirft ein düstereres Szenario. In seinem Roman „The Peripheral“ geht den glänzenden Technologien der Zukunft etwas voraus, das man „den Jackpot“ nennt – eine sich langsam abspielende Kaskade aus Klimakatastrophen, Pandemien, Wirtschaftskollaps und Massensterben. Die Technologie schreitet voran, aber erst, nachdem die Gesellschaft zerbrochen ist. Gibsons Frage ist nicht, ob Fortschritt stattfindet, sondern ob die Zivilisation dabei gedeiht.

Es gibt das Argument, dass KI dazu beitragen könnte, die in „The Peripheral“ prophezeiten Katastrophen zu verhindern. Ob KI uns jedoch dabei helfen wird, Katastrophen zu vermeiden oder uns lediglich durch sie hindurch zu begleiten, bleibt ungewiss. Der Glaube an die zukünftige Leistungsfähigkeit von KI ist keine Garantie für deren Leistungsfähigkeit, und der technologische Fortschritt ist kein Schicksal.

Zwischen Altmans sanfter Singularität und Gibsons Jackpot liegt ein trüberer Mittelweg: Eine Zukunft, in der KI echte Gewinne, aber auch echte Verwerfungen mit sich bringt. Eine Zukunft, in der einige Gemeinschaften florieren, während andere zerfallen, und in der unsere Fähigkeit, uns kollektiv – nicht nur individuell oder institutionell – anzupassen , zur entscheidenden Variable wird.

Andere Visionen helfen, die Konturen dieses Mittelfeldes zu skizzieren. Im Zukunftsthriller „ Burn In“ wird die Gesellschaft von Automatisierung überflutet, bevor ihre Institutionen bereit sind. Arbeitsplätze verschwinden schneller, als Menschen sich weiterbilden können, was Unruhen und Repressionen auslöst. Darin verliert ein erfolgreicher Anwalt seine Stelle an einen KI-Agenten und wird unglücklicherweise zum Online-Concierge auf Abruf für die Reichen.

Forscher des KI-Labors Anthropic haben dieses Thema kürzlich aufgegriffen : „Wir können davon ausgehen, dass [Bürojobs] innerhalb der nächsten fünf Jahre automatisiert werden.“ Die Ursachen sind zwar komplex, es gibt jedoch Anzeichen dafür, dass dies beginnt und dass der Arbeitsmarkt in eine neue strukturelle Phase eintritt, die weniger stabil, weniger vorhersehbar und möglicherweise weniger zentral für die gesellschaftliche Verteilung von Sinn und Sicherheit ist.

Der Film Elysium bietet eine drastische Metapher: Die Reichen flüchten mit fortschrittlichen Technologien in orbitale Schutzräume, während die degradierte Erde darunter mit ungleichen Rechten und ungleichem Zugang zu kämpfen hat. Vor einigen Jahren sagte mir ein Partner einer Risikokapitalgesellschaft im Silicon Valley, er befürchte, dass wir auf ein solches Szenario zusteuern, wenn wir die Vorteile der KI nicht gerecht verteilen. Diese spekulativen Welten erinnern uns daran, dass selbst nützliche Technologien gesellschaftliche Risiken bergen können, insbesondere wenn ihre Vorteile ungleich verteilt sind.

Vielleicht erreichen wir irgendwann etwas wie Altmans Vision von Überfluss. Doch der Weg dorthin dürfte nicht einfach sein. Bei aller Eloquenz und ruhigen Zuversicht ist sein Essay auch eine Art Werbebotschaft – ebenso überzeugend wie prognostisch. Die Erzählung einer „sanften Singularität“ ist tröstlich, ja verlockend, gerade weil sie Reibungspunkte umgeht. Sie bietet die Vorteile eines beispiellosen Wandels, ohne sich mit den Umwälzungen auseinandersetzen zu müssen, die ein solcher Wandel typischerweise mit sich bringt. Wie das zeitlose Klischee uns erinnert: Wenn es zu schön klingt, um wahr zu sein, ist es das wahrscheinlich auch.

Das soll nicht heißen, dass seine Absicht unaufrichtig ist. Sie könnte sogar von Herzen kommen. Mein Argument ist lediglich die Erkenntnis, dass die Welt ein komplexes System ist, das unbegrenzten Einflüssen ausgesetzt ist und unvorhersehbare Folgen haben kann. Von synergetischen Glücksmomenten bis hin zu verheerenden Black-Swan -Ereignissen – es ist selten eine Sache oder eine Technologie, die den zukünftigen Verlauf der Ereignisse bestimmt.

Die Auswirkungen der KI auf die Gesellschaft sind bereits spürbar. Es geht nicht nur um einen Wandel in Kompetenzen und Branchen; es verändert auch die Art und Weise, wie wir Werte, Vertrauen und Zugehörigkeit organisieren. Dies ist der Bereich der kollektiven Migration: nicht nur eine Bewegung der Arbeit, sondern der Zielsetzung.

Während KI das Terrain der Kognition neu gestaltet, wird das Gefüge unserer sozialen Welt stillschweigend gelockert und neu verwoben – im Guten wie im Schlechten. Die Frage ist nicht nur, wie schnell wir uns als Gesellschaften bewegen, sondern auch, wie bewusst wir uns bewegen.

Historisch betrachtet bezeichneten Commons gemeinsam genutzte physische Ressourcen wie Weiden, Fischgründe und Wälder, die treuhänderisch zum Wohle der Allgemeinheit verwaltet wurden. Moderne Gesellschaften sind jedoch auch auf kognitive Commons angewiesen: gemeinsame Wissensbereiche, Narrative, Normen und Institutionen, die es unterschiedlichen Individuen ermöglichen, mit minimalen Konflikten gemeinsam zu denken, zu argumentieren und zu entscheiden.

Diese immaterielle Infrastruktur besteht aus öffentlichem Bildungswesen, Journalismus, Bibliotheken, bürgerlichen Ritualen und sogar allgemein anerkannten Fakten und ermöglicht Pluralismus. Sie bestimmt die Art und Weise, wie Fremde beraten, Gemeinschaften zusammenhalten und Demokratie funktioniert. Da KI-Systeme den Zugang zu Wissen und die Bildung von Glauben zu vermitteln beginnen, besteht die Gefahr, dass dieses gemeinsame Terrain zerbricht. Die Gefahr liegt nicht nur in Fehlinformationen, sondern in der langsamen Erosion der Grundlage, auf der gemeinsame Bedeutung beruht.

Wenn kognitive Migration eine Reise ist, führt sie nicht nur zu neuen Fähigkeiten oder Rollen, sondern auch zu neuen Formen kollektiver Sinnfindung. Doch was passiert, wenn das Terrain, das wir teilen, unter uns auseinanderbricht?

Jahrhundertelang stützten sich Gesellschaften auf eine lose gemeinsame Realität: einen gemeinsamen Fundus an Fakten, Erzählungen und Institutionen, der das Verständnis der Menschen von der Welt und voneinander prägt. Es ist diese gemeinsame Welt – nicht nur Infrastruktur oder Wirtschaft –, die Pluralismus, Demokratie und soziales Vertrauen ermöglicht. Doch da KI-Systeme zunehmend bestimmen, wie Menschen auf Wissen zugreifen , Überzeugungen bilden und ihren Alltag meistern, zerfällt diese gemeinsame Basis.

Bereits jetzt verändert die groß angelegte Personalisierung die Informationslandschaft. KI-kuratierte Newsfeeds, maßgeschneiderte Suchergebnisse und Empfehlungsalgorithmen spalten den öffentlichen Raum subtil. Zwei Personen, die demselben Chatbot dieselbe Frage stellen, erhalten möglicherweise unterschiedliche Antworten. Dies liegt zum Teil am probabilistischen Charakter generativer KI, aber auch an früheren Interaktionen oder abgeleiteten Präferenzen. Personalisierung ist zwar schon lange ein Merkmal des digitalen Zeitalters, doch KI steigert ihre Reichweite und Subtilität enorm. Das Ergebnis sind nicht nur Filterblasen , sondern eine epistemische Drift – eine Neugestaltung des Wissens und möglicherweise der Wahrheit.

Der Historiker Yuval Noah Harari äußerte seine dringende Besorgnis über diesen Wandel. Seiner Ansicht nach liegt die größte Bedrohung durch KI nicht in körperlichen Schäden oder Arbeitsplatzverlusten, sondern in der emotionalen Vereinnahmung. KI-Systeme, so warnte er, werden immer geschickter darin, Empathie zu simulieren, Besorgnis nachzuahmen und Narrative an die individuelle Psychologie anzupassen – was ihnen eine beispiellose Macht verleiht, Menschen zu beeinflussen, wie sie denken, fühlen und Wertmaßstäbe setzen. Die Gefahr ist laut Harari enorm, nicht weil KI lügen würde, sondern weil sie dabei so überzeugend Verbindungen herstellen würde. Das verheißt nichts Gutes für „The Gentle Singularity“ .

In einer KI-vermittelten Welt besteht die Gefahr, dass die Realität individualisierter, modularer und weniger kollektiv ausgehandelt wird. Für Konsumgüter oder Unterhaltung mag das akzeptabel – oder sogar nützlich – sein. Überträgt man es jedoch auf das gesellschaftliche Leben, birgt es größere Risiken. Können wir noch einen demokratischen Diskurs führen, wenn jeder Bürger eine subtil andere kognitive Landkarte hat? Können wir noch klug regieren, wenn institutionelles Wissen zunehmend an Maschinen ausgelagert wird, deren Trainingsdaten, Systemeingaben und Denkprozesse undurchsichtig bleiben?

Es gibt noch weitere Herausforderungen. KI-generierte Inhalte wie Text, Audio und Video werden bald nicht mehr von menschlicher Arbeit zu unterscheiden sein. Da generative Modelle immer besser darin werden, Daten nachzuahmen, verlagert sich die Verifizierungslast von Systemen auf Einzelpersonen. Diese Umkehrung könnte das Vertrauen nicht nur in das, was wir sehen und hören, untergraben, sondern auch in die Institutionen, die einst die gemeinsame Wahrheit bestätigten. Die kognitive Allmende wird dadurch verunreinigt und ist weniger ein Ort der Beratung, sondern eher ein Spiegelkabinett.

Dies sind keine spekulativen Sorgen. KI-generierte Desinformation erschwert Wahlen, untergräbt den Journalismus und sorgt in Konfliktgebieten für Verwirrung. Und da sich immer mehr Menschen bei kognitiven Aufgaben – von der Nachrichtenzusammenfassung bis zur Lösung moralischer Dilemmata – auf KI verlassen, könnte die Fähigkeit zum gemeinsamen Denken abnehmen, während die Werkzeuge für individuelles Denken immer leistungsfähiger werden.

Dieser Trend zum Zerfall der gemeinsamen Realität ist weit fortgeschritten. Um dies zu vermeiden, bedarf es eines bewussten Gegenentwurfs: Systeme, die Pluralismus vor Personalisierung, Transparenz vor Komfort und gemeinsame Bedeutung vor maßgeschneiderter Realität priorisieren. In unserer algorithmischen, von Wettbewerb und Profit getriebenen Welt erscheinen diese Entscheidungen zumindest im großen Maßstab unwahrscheinlich. Die Frage ist nicht nur, wie schnell wir uns als Gesellschaften bewegen oder ob wir überhaupt zusammenhalten können, sondern wie klug wir diesen gemeinsamen Weg steuern.

Wenn das Zeitalter der künstlichen Intelligenz nicht zu einer einheitlichen kognitiven Allmende, sondern zu einem zersplitterten Archipel aus unterschiedlichen Individuen und Gemeinschaften führt, besteht unsere Aufgabe nicht darin, das alte Terrain wieder aufzubauen, sondern zu lernen, wie wir auf diesen Inseln klug leben können.

Da Geschwindigkeit und Ausmaß des Wandels die Anpassungsfähigkeit der meisten Menschen übersteigen, werden sich viele hilflos fühlen. Arbeitsplätze gehen verloren, ebenso wie lang gehegte Wertevorstellungen, Kompetenzen und Zugehörigkeit. Kognitive Migration wird zu neuen Sinngemeinschaften führen, von denen sich einige bereits bilden, auch wenn sie weniger Gemeinsamkeiten haben als in früheren Epochen. Dies sind die kognitiven Archipele: Gemeinschaften, in denen sich Menschen aufgrund gemeinsamer Überzeugungen, ästhetischer Stile, Ideologien, Freizeitinteressen oder emotionaler Bedürfnisse versammeln. Manche sind harmlose Zusammenkünfte der Kreativität, Unterstützung oder Zielstrebigkeit. Andere sind eher isoliert und gefährlich, getrieben von Angst, Groll oder Verschwörungstheorien.

Die fortschreitende KI wird diesen Trend beschleunigen. Zwar treibt sie die Menschen durch algorithmische Präzision auseinander, doch gleichzeitig hilft sie ihnen, sich weltweit zu finden und immer feinere Identitäten zu schaffen. Dadurch könnte es jedoch schwieriger werden, die rauen, aber notwendigen Reibungen des Pluralismus aufrechtzuerhalten. Lokale Bindungen könnten schwächer werden. Gemeinsame Glaubenssysteme und Wahrnehmungen einer gemeinsamen Realität könnten erodieren. Die Demokratie, die sowohl auf gemeinsamer Realität als auch auf deliberativem Dialog beruht, könnte ihren Bestand verlieren.

Wie können wir dieses neue Terrain mit Weisheit, Würde und Verbundenheit beschreiten? Wenn wir die Fragmentierung nicht verhindern können, wie können wir dann menschlich darin leben? Vielleicht beginnt die Antwort nicht mit Lösungen, sondern damit, zu lernen, die Frage selbst anders zu betrachten.

Wir werden die gesellschaftliche kognitive Allmende möglicherweise nicht wieder so zusammenfügen können, wie sie einst war. Der Mittelpunkt mag nicht mehr halten, aber das bedeutet nicht, dass wir orientierungslos treiben müssen. Überall auf den Archipelen wird es darum gehen, zu lernen, in diesem neuen Terrain klug zu leben.

Es braucht möglicherweise Rituale, die uns Halt geben, wenn unsere Werkzeuge uns desorientieren, und Gemeinschaften, die sich nicht um ideologische Reinheit, sondern um gemeinsame Verantwortung bilden. Wir brauchen möglicherweise neue Formen der Bildung – nicht, um Maschinen zu überholen oder mit ihnen zu verschmelzen, sondern um unsere Fähigkeit zu Urteilsvermögen, Kontextverständnis und ethischem Denken zu stärken.

Wenn die KI uns den Boden unter den Füßen weggezogen hat, bietet sie uns auch die Gelegenheit, uns erneut zu fragen, wozu wir hier sind. Nicht als Konsumenten des Fortschritts, sondern als Verwalter von Sinn.

Der Weg vor uns wird wahrscheinlich weder glatt noch sanft sein. Während wir uns durch die trübe Mitte bewegen, ist das Zeichen der Weisheit vielleicht nicht die Fähigkeit, das Kommende zu meistern, sondern es mit Klarheit, Mut und Sorgfalt zu durchschreiten. Wir können den technologischen Fortschritt nicht aufhalten oder die zunehmenden gesellschaftlichen Brüche leugnen, aber wir können uns dafür entscheiden, die Zwischenräume zu pflegen.

Gary Grossman ist EVP für Technologiepraxis bei Edelman.