Warum Menschen KI nutzen, um online Behinderungen vorzutäuschen

KI-generierte Profile, die sich als Menschen mit Down-Syndrom ausgeben, verbreiten sich in den sozialen Medien, wie eine Analyse von CBS News Confirmed zeigt. Viele dieser KI- gestützten Profile gewinnen schneller Follower als echte Behindertenaktivisten – und verdienen damit Geld.

Diese gefälschten Konten verwenden Wohlfühlbotschaften, tanzen zu angesagten Songs und danken ihren Followern für die Unterstützung ihrer Reisen.

Ein Video trägt die Überschrift: „Seien Sie stolz auf sich und Ihre Andersartigkeit!“

„Ich bin so dankbar, dass ich meinen Traum nie aufgegeben habe“, heißt es in einem anderen Beitrag.

Aber die in diesen Berichten dargestellten Personen sind nicht real.

CBS News Confirmed identifizierte auf Instagram, YouTube und TikTok mehr als 30 Accounts, die sich als Menschen mit Down-Syndrom ausgaben. Einige nutzten Deepfakes oder KI-basierte Faceswaps. Andere ahmten die Sprache echter Behindertenaktivisten nach und verpackten sie so, dass sie authentisch wirkten. Nur wenige Accounts gaben den Einsatz von KI bekannt.

Down-Syndrom-Communitys haben in den sozialen Medien eine starke Fangemeinde aufgebaut und nutzen bekannte Hashtags wie #DownSyndrome und #DownSyndromeAwareness, um sich zu vernetzen und ihre Geschichten zu teilen. Betrüger nutzen dieselben Tags, um neben echten Unterstützern zu erscheinen.

Viele der von CBS News identifizierten Betrügerkonten haben auf TikTok und Instagram Videos gepostet, in denen sie kokette oder emotionale Bildunterschriften verwendet haben, um Aufmerksamkeit zu erregen.

„Auch ein Mädchen mit Down-Syndrom kann zum Flirten in Clubs gehen!“, heißt es in einem der Posts eingeblendet.

Andere Accounts teilten Videos als Reaktion auf erfundene Kritik, um das Engagement zu steigern und viral zu gehen.

Ein Account, der sich selbst als „DS-Erstellerin Nr. 1“ bezeichnete, nutzte sein Profil – gefüllt mit Down-Syndrom-Inhalten und mit über 130.000 Followern –, um seine Inhalte auf einer Website nur für Erwachsene zu bewerben. CBS News kontaktierte die Inhaberin des Accounts, die unter dem Namen „Sara“ auftrat, und sagte: „Ja, ich verdiene gutes Geld damit.“

Ein anderer bekannter Account mit über 100.000 Followern behauptete, Spenden für die National Down Syndrome Society (NDSS), eine der führenden Interessengruppen des Landes, zu sammeln. Die Videos zeigten jedoch ein unscharfes und verzerrtes Gesicht mit deutlichen Anzeichen von KI. Ein Sprecher der NDSS sagte gegenüber CBS News, man kenne die Person nicht und habe sie auch nicht gebeten, Spenden für die Gruppe zu sammeln. Der Account wurde später gelöscht.

Für Menschen mit Down-Syndrom können sich diese gefälschten Accounts wie eine neue Ebene der Diskriminierung anfühlen – eine, bei der ihre Lebenserfahrungen kopiert, übertrieben und zu Geld gemacht werden.

„Es ist nicht richtig, unsere Geschichten zu stehlen, nur um online Aufmerksamkeit zu erregen“, sagte Alex Bolden, der für NDSS arbeitet.

Bolden, der selbst am Down-Syndrom leidet, sagte gegenüber CBS News, er habe jahrelang daran gearbeitet, seine 24.000 Follower auf Instagram aufzubauen – eine Zahl, die manche Imitatoren in nur wenigen Monaten erreicht haben.

„Das sind unsere Geschichten. Ich arbeite so hart daran, meine Geschichte online bekannt zu machen und mit anderen zu teilen, und ich kann nicht glauben, dass die Leute versuchen würden, mir das wegzunehmen“, sagte er.

„Das ist ein beunruhigender Trend“, sagte Michelle Sagan, die Kommunikationsleiterin bei NDSS, gegenüber CBS News. „Ich habe die Gesichter meiner Freunde schon mehr als einmal in KI-Posts gesehen.“

Nach Angaben der Centers for Disease Control and Prevention werden jedes Jahr etwa 5.700 Menschen mit Down-Syndrom geboren.

Auf ihrer jährlichen Konferenz für Betroffene , die letzte Woche in Washington, D.C. stattfand, waren sich mehrere Befürworter einig, dass nur Menschen mit Down-Syndrom ihre Geschichten erzählen sollten.

„Es gibt zwar viele Gründe, warum diese Fake-Accounts falsch sind, aber der Grundsatz lautet, dass nur Menschen mit Down-Syndrom darüber sprechen sollten, wie es ist, das Down-Syndrom zu haben“, sagte Kandi Pickard, Präsidentin und CEO von NDSS, gegenüber CBS News.

Sie sagte, diese Influencer würden nicht nur die Identität einer anderen Person imitieren , sondern auch eine Community ausnutzen, die bereits darum kämpft, gehört zu werden.

„Es bleibt noch viel zu tun, um sicherzustellen, dass Menschen mit Down-Syndrom in die Gesellschaft integriert und respektiert werden“, sagte Pickard.

CBS News hat Meta, TikTok und YouTube um einen Kommentar dazu gebeten, wie die einzelnen Plattformen mit KI-generierten Inhalten umgehen, die Menschen mit Behinderungen imitieren.

„Unsere Gemeinschaftsstandards gelten für alle auf unseren Plattformen veröffentlichten Inhalte, unabhängig davon, ob sie KI-generiert sind, und wir ergreifen Maßnahmen gegen alle Inhalte, die gegen diese Richtlinien verstoßen“, sagte ein Meta-Sprecher gegenüber CBS News.

Jede Plattform stellte fest, dass die von CBS News genannten Konten gegen ihre Richtlinien verstoßen hatten, und entfernte oder sperrte sie nach unseren Untersuchungen. Viele andere existieren jedoch noch.

Die Verbreitung KI-generierter Accounts zu stoppen, ist ein wandelndes Ziel, denn selbst wenn ein Account gelöscht wird, kann schnell ein neuer erscheinen. Und im Gegensatz zu echten Influencern brauchen diese Fake-Influencer weder Ruhe noch Auszeit. Sie generieren blitzschnell neue Inhalte, überfluten Feeds und drängen echte Menschen auf sozialen Plattformen immer weiter an den Rand.

„Wir brauchen die Hilfe aller, um diese gefälschten Konten zu identifizieren und zu melden, da sie immer wieder auftauchen“, sagte Pickard und fügte hinzu, sie hoffe, dass die Social-Media-Plattformen stärkere Maßnahmen ergreifen würden, um dem ein Ende zu setzen.

In:
• Behinderungen
• Soziale Medien
• Down-Syndrom
• Künstliche Intelligenz