China fordert mehr Kontrolle über das Training von Modellen mit KI-Algorithmen

In einer im sozialen Netzwerk WeChat veröffentlichten Erklärung warnte das Ministerium für Staatssicherheit, dass die Verbreitung von KI-generierten Texten, Bildern und Videos die Wahrscheinlichkeit erhöhe, dass „verfälschte, voreingenommene oder sich wiederholende“ Inhalte in neue Trainingsdatensätze aufgenommen würden, was zu Fehleinschätzungen, „falschen automatischen Entscheidungen“ oder „Manipulation der öffentlichen Meinung“ führen könne.

Die Behörden berufen sich auf Studien, die zeigen, dass bereits eine von 10.000 falschen Stichproben ausreichen würde, um die Anzahl schädlicher Reaktionen eines Modells deutlich zu erhöhen. Dieser „Kaskadeneffekt“, bei dem künstlich generierte Inhalte neue Systeme speisen, gibt in sensiblen Sektoren wie dem Gesundheitswesen, dem Finanzwesen oder der öffentlichen Sicherheit Anlass zur Sorge, da Entscheidungen auf Grundlage ungenauer Daten direkte Auswirkungen auf die Bevölkerung hätten.

Um diese Risiken zu mindern, erinnerte das Ministerium daran, dass seit Januar eine Verordnung in Kraft sei, die generative KI-Plattformen dazu verpflichtet, Sicherheitsprüfungen durchzuführen, von künstlicher Intelligenz erstellte Inhalte eindeutig zu kennzeichnen und Daten, die gegen geltende Vorschriften verstoßen, regelmäßig zu löschen.

Die Organisation hatte bereits im Juli gewarnt, dass der Einsatz von KI eine Bedrohung für die „soziale Stabilität“, den Schutz sensibler Daten und die nationale Sicherheit darstellen könnte, wenn die Technologie in die Hände von „China feindlich gesinnten Kräften“ gerate.

Seit 2023 müssen KI-Dienste im Land „grundlegende sozialistische Werte“ befolgen und dürfen keine „Inhalte erstellen, die die nationale Sicherheit, die territoriale Einheit und die soziale Stabilität untergraben“.

Trotz der Einführung von Chatbots durch große chinesische Technologiekonzerne wie Alibaba, DeepSeek, Tencent und ByteDance bleiben Zweifel an der Entwicklung von KI in einem Umfeld, das starker staatlicher Zensur unterliegt.

Seit 2023 veröffentlicht das Ministerium für Staatssicherheit regelmäßig Fälle mutmaßlicher Spionage auf seinem offiziellen WeChat-Konto und rät der Öffentlichkeit, bei Stellenangeboten oder Informationsanfragen aus dem Ausland vorsichtig zu sein.

Gleichzeitig ruft das Ministerium zu einer „Mobilisierung der gesamten Gesellschaft“ auf, um „Spionage zu verhindern und zu bekämpfen“ und „die Landesverteidigung zu stärken“, und warnt vor den Risiken, die mit der Übermittlung sensibler Daten über das Internet verbunden sind.

Lesen Sie auch: Sind „Chips“ ein Sicherheitsrisiko? Nvidia weist China-Vorwürfe zurück