Durchgesickertes Memo: Anthropic-CEO sagt, das Unternehmen werde doch Investitionen in den Golfstaaten anstreben

Anthropic plant, Investitionen aus den Vereinigten Arabischen Emiraten und Katar anzustreben. Dies geht aus einer Slack-Nachricht hervor , die CEO Dario Amodei am Sonntagmorgen an seine Mitarbeiter schickte und die WIRED vorliegt.

Amodei wägte die Vor- und Nachteile ab und räumte in seiner Notiz ein, dass die Annahme von Geldern von Nahost-Führern wahrscheinlich „Diktatoren“ bereichern würde. „Das ist ein echter Nachteil, und ich bin nicht begeistert davon“, schrieb er. „Leider halte ich den Grundsatz ‚Kein schlechter Mensch sollte jemals von unserem Erfolg profitieren‘ für ein ziemlich schwieriges Geschäftsprinzip.“

Diese Botschaft kommt zu einem Zeitpunkt, an dem KI-Unternehmen um die Beschaffung der enormen Kapitalmengen wetteifern, die für die Schulung und Entwicklung innovativer KI-Modelle erforderlich sind. Im Januar kündigte OpenAI ein 500 Milliarden Dollar teures Rechenzentrumsprojekt namens Stargate an, das von der staatlichen Investmentfirma MGX aus den Emiraten finanziell unterstützt wird. Vier Monate später kündigte das Unternehmen den Bau eines Rechenzentrums in Abu Dhabi an. Ziel ist es, ausländische Regierungen dabei zu unterstützen, „in Abstimmung mit den USA souveräne KI-Kapazitäten aufzubauen“.

„Als amerikanisches Unternehmen an der Spitze der KI-Entwicklung waren wir schon immer davon überzeugt, dass die Lieferkette für die Entwicklung innovativer KI-Modelle auf amerikanischem Boden liegen sollte, um Amerikas Führungsposition zu behaupten“, erklärte Anthropic-Sprecher Christopher Nulty in einer Erklärung. „Wie Dario bereits sagte, glauben wir grundsätzlich daran, die Vorteile der KI zu teilen und den Nahen Osten und Regionen weltweit im Einklang mit unserer Nutzungsrichtlinie kommerziell zu bedienen.“

Im Mai bereiste Präsident Donald Trump im Rahmen einer viertägigen Reise, die sich auf Wirtschaftsinvestitionen konzentrierte, die Vereinigten Arabischen Emirate und Saudi-Arabien. Eine Gruppe von Technologieführern, darunter Elon Musk, Sam Altman und Nvidia-Chef Jensen Huang, traf sich mit ihm zu einem Treffen mit dem Kronprinzen von Saudi-Arabien. Die Führung von Anthropic war auffällig abwesend.

In seinem Memo räumte Amodei ein, dass die Entscheidung, Investitionen autoritärer Regime zu fördern, zu Heucheleivorwürfen führen würde. In einem Essay mit dem Titel „Maschinen der liebenden Gnade“ schrieb Amodei: „Demokratien müssen in der Lage sein, die Bedingungen für die Einführung leistungsstarker KI festzulegen, um sowohl eine Übermacht durch autoritäre Regime zu vermeiden als auch Menschenrechtsverletzungen in autoritären Ländern zu verhindern.“

Im Jahr 2024 beschloss Anthropic laut CNBC , aus Gründen der nationalen Sicherheit kein Geld mehr aus Saudi-Arabien anzunehmen. Die Nachricht kam, als die gescheiterte Kryptowährungsbörse FTX Insolvenz anmeldete und ihr fast 8-prozentiger Anteil an Anthropic zum Verkauf stand. Schließlich ging ein Großteil dieser Anteile an ATIC Third International Investment, ein Unternehmen aus den VAE. Der Anteil war damals rund 500 Millionen Dollar wert.

Nun scheint Anthropic bereit zu sein, Geld aus den Golfstaaten anzunehmen – obwohl das Unternehmen nicht bekannt gab, ob es seine Haltung gegenüber Saudi-Arabien geändert hat. „Im Nahen Osten gibt es eine wahrhaft gigantische Menge an Kapital, locker 100 Milliarden Dollar oder mehr“, schrieb Amodei in dem Memo. „Wenn wir an der Spitze bleiben wollen, ist der Zugang zu diesem Kapital ein enormer Vorteil für uns. Ohne dieses Kapital ist es wesentlich schwieriger, an der Spitze zu bleiben.“

Durch die „eingegrenzte, rein finanzielle Investition aus den Golfstaaten“ hoffe das Unternehmen, die Risiken zu vermeiden, die damit verbunden seien, externen Investoren einen „Einfluss“ auf das Unternehmen zu gewähren, heißt es in dem Memo.

„Unsere Opposition gegen große Trainingszentren im Nahen Osten oder gegen die Lieferung von Wasserstoffperoxid nach China beruht darauf, dass es gefährlich ist, die KI-‚Lieferkette‘ an autoritäre Regierungen weiterzugeben. Da KI vermutlich die mächtigste Technologie der Welt ist, können diese Regierungen sie nutzen, um militärische Vorherrschaft zu erlangen oder Einfluss auf demokratische Länder auszuüben“, schrieb Amodei in dem Memo und bezog sich dabei auf Nvidia-Chips.

Der CEO räumte jedoch ein, dass Investoren durch das Versprechen zukünftiger Finanzierungen „Soft Power“ gewinnen könnten. „Das implizite Versprechen, in zukünftigen Runden zu investieren, kann dazu führen, dass sie über Soft Power verfügen, was es ihnen in Zukunft erschwert, diesen Dingen zu widerstehen. Tatsächlich mache ich mir Sorgen, dass es schwierig werden könnte, die größtmöglichen Investitionssummen zu erhalten, ohne einige dieser anderen Dinge zu vereinbaren“, schreibt Amodei. „Aber ich denke, die richtige Antwort darauf ist einfach, zu prüfen, wie viel wir ohne diese Vereinbarungen erreichen können (was meiner Meinung nach immer noch viele Milliarden sein dürfte), und dann standhaft zu bleiben, wenn sie fragen.“

In einem Abschnitt mit der Überschrift „Erosion der Standards“ weist Amodei darauf hin, dass Anthropic sich lautstark dafür eingesetzt habe, keine großen Rechenzentren im Nahen Osten zuzulassen, weil „es ohne eine zentrale Behörde, die sie blockiert, zu einem Wettlauf nach unten kommt, bei dem die Unternehmen große Vorteile erlangen, indem sie sich immer enger mit dem Nahen Osten verflechten.“

„Da wir diese Dynamik auf kollektiver Ebene leider nicht verhindern konnten, sitzen wir nun als einzelnes Unternehmen fest. Die durchschnittliche Position der anderen Unternehmen scheint zu sein: ‚Die Auslagerung unserer größten 5-GW-Trainingsläufe in die VAE/Saudi-Arabien ist in Ordnung‘“, sagte der CEO und bezog sich dabei wahrscheinlich auf die Vereinbarung der USA zum Bau eines neuen KI-Rechenzentrums in den VAE mit einer Leistung von 5 Gigawatt. „Das bringt uns in eine erhebliche Nachteilsposition, und wir müssen nach Wegen suchen, diesen Nachteil teilweise auszugleichen und gleichzeitig weniger anstößig zu bleiben. Ich wünschte wirklich, wir wären nicht in dieser Lage, aber wir sind es.“

In einem Abschnitt mit der Überschrift „Kommunikationsprobleme“ räumte der CEO ein, dass die Annahme von Investitionen aus den Golfstaaten wahrscheinlich öffentliche Kritik hervorrufen würde. Die „Medien / Twitter / die Außenwelt“ seien „immer auf der Suche nach Heuchelei, gleichzeitig aber auch sehr dumm und hätten daher ein mangelndes Verständnis für inhaltliche Fragen“, schrieb Amodei. Er fügte hinzu: „Es ist völlig folgerichtig, eine Politik zu vertreten, die besagt: ‚Niemand darf x tun‘, aber wenn diese Politik scheitert und alle anderen x tun, dann widerwillig selbst x zu tun.“

„Wir sind auch daran interessiert, die Region kommerziell zu bedienen. Das halte ich für absolut positiv, solange wir dort keine Rechenzentren bauen und unsere [Nutzungsrichtlinien] durchsetzen“, fügte er hinzu. „Tatsächlich könnte es wichtige Vorteile für die Welt bringen, darunter eine Verbesserung der menschlichen Gesundheit, die Förderung der wirtschaftlichen Entwicklung usw.“

Er schloss mit den Worten: „Wie viele Entscheidungen hat auch diese ihre Schattenseiten, aber wir glauben, dass sie insgesamt die richtige ist.“