Dänemark plant neues Gesetz zum Schutz der Bürger vor KI-Deepfakes

KOPENHAGEN, Dänemark – Im Jahr 2021 erhielt die dänische Videospiel-Livestreamerin Marie Watson ein Bild von sich selbst von einem unbekannten Instagram-Account.

Sie erkannte das Urlaubsfoto sofort von ihrem Instagram-Account, aber irgendetwas war anders: Ihre Kleidung war digital entfernt worden, sodass sie nackt aussah. Es handelte sich um einen Deepfake .

„Es hat mich völlig überwältigt“, erinnerte sich Watson. „Ich brach einfach in Tränen aus, weil ich plötzlich nackt dastand.“

In den vier Jahren seit ihrem Erlebnis sind Deepfakes – also hochrealistische, von künstlicher Intelligenz erzeugte Bilder, Videos oder Audioaufnahmen von realen Personen oder Ereignissen – nicht nur weltweit einfacher herzustellen, sondern auch um ein Vielfaches realistischer geworden. Dies ist technologischen Fortschritten und der Verbreitung generativer KI-Tools zu verdanken, darunter auch Videogenerierungstools von OpenAI und Google.

Diese Tools geben Millionen von Nutzern die Möglichkeit, auf einfache Weise Inhalte zu erstellen, auch für schändliche Zwecke, die von der Darstellung von Prominenten wie Taylor Swift und Katy Perry bis hin zur Störung von Wahlen und der Demütigung von Teenagern und Frauen reichen.

Als Reaktion darauf will Dänemark sowohl die dänische Bevölkerung als auch Künstler und Musiker schützen, deren Aussehen oder Stimme ohne ihre Zustimmung imitiert und verbreitet werden könnten. Ein Gesetzentwurf, der voraussichtlich Anfang nächsten Jahres verabschiedet wird, würde das Urheberrecht ändern und die Verbreitung von Deepfakes verbieten, um die persönlichen Merkmale der Bürger – wie ihr Aussehen oder ihre Stimme – vor der unbefugten Nachahmung und Verbreitung im Internet zu schützen.

Sollte das Gesetz in Kraft treten, erhielten dänische Bürger das Urheberrecht an ihrem eigenen Abbild. Theoretisch könnten sie dann von Online-Plattformen die Entfernung von Inhalten verlangen, die ohne ihre Zustimmung geteilt wurden. Parodien und Satire blieben weiterhin erlaubt, wobei unklar ist, wie diese definiert werden sollen.

Experten und Beamte sagen, dass die dänische Gesetzgebung zu den bisher umfassendsten Maßnahmen einer Regierung im Kampf gegen Desinformation durch Deepfakes gehören würde.

Henry Ajder, Gründer des Beratungsunternehmens Latent Space Advisory und führender Experte für generative KI, sagte, er lobe die dänische Regierung dafür, dass sie erkannt habe, dass das Gesetz geändert werden müsse.

„Denn wenn mich Leute fragen: ‚Was kann ich tun, um mich vor Deepfakes zu schützen?‘, muss ich ihnen meistens antworten: ‚Da kann man nicht allzu viel machen‘“, sagte er, „ohne ihnen im Grunde zu raten: ‚Verschwinden Sie komplett aus dem Internet.‘ Was ja eigentlich nicht möglich ist.“

Er fügte hinzu: „Wir können nicht einfach so tun, als wäre alles wie immer, wenn es um unsere Denkweise in Bezug auf diese zentralen Aspekte unserer Identität und unserer Würde geht.“

US-Präsident Donald Trump unterzeichnete im Mai ein überparteiliches Gesetz, das die wissentliche Veröffentlichung oder Androhung der Veröffentlichung intimer Bilder ohne Einwilligung der betroffenen Person, einschließlich Deepfakes, unter Strafe stellt . Südkorea führte im vergangenen Jahr Maßnahmen zur Eindämmung von Deepfake-Pornos ein , darunter härtere Strafen und verschärfte Vorschriften für Social-Media-Plattformen.

Der dänische Kulturminister Jakob Engel-Schmidt sagte, dass der Gesetzentwurf breite Unterstützung bei den Abgeordneten in Kopenhagen genieße, da solche digitalen Manipulationen Zweifel an der Realität wecken und Fehlinformationen verbreiten könnten.

„Wenn man in der Lage ist, einen Politiker per Deepfake zu täuschen, ohne dass dieser die Möglichkeit hat, das Produkt entfernen zu lassen, untergräbt das unsere Demokratie“, sagte er Reportern im September auf einer Konferenz zum Thema KI und Urheberrecht.

Das Gesetz würde nur in Dänemark gelten und sieht voraussichtlich keine Geldstrafen oder Haftstrafen für Social-Media-Nutzer vor. Große Technologieplattformen, die Deepfakes nicht entfernen, könnten jedoch mit empfindlichen Geldstrafen rechnen, so Engel-Schmidt.

Ajder sagte, dass beispielsweise das zu Google gehörende YouTube über ein „sehr, sehr gutes System verfügt, um ein Gleichgewicht zwischen Urheberrechtsschutz und kreativer Freiheit herzustellen“.

Die Bemühungen der Plattform lassen darauf schließen, dass sie „das Ausmaß der bereits bestehenden Herausforderung und deren zukünftige Dimension erkennt“, fügte er hinzu.

Twitch, TikTok und Meta, dem Facebook und Instagram gehören, haben auf Anfragen nach einer Stellungnahme nicht reagiert.

Engel-Schmidt sagte, Dänemark, das derzeit die rotierende EU-Ratspräsidentschaft innehat, habe mit seinem Gesetzesvorschlag auch von mehreren anderen EU-Mitgliedstaaten, darunter Frankreich und Irland, Interesse erfahren.

Der Anwalt für geistiges Eigentum, Jakob Plesner Mathiasen, sagte, dass die Gesetzgebung den weit verbreiteten Bedarf an Maßnahmen zur Bekämpfung der Online-Gefahr aufzeige, die mittlerweile in jeden Aspekt des dänischen Lebens eingedrungen sei.

„Das zeigt ganz klar, dass das Ministerium diesen Gesetzentwurf nicht eingebracht hätte, wenn es keinen Anlass dafür gegeben hätte“, sagte er. „Wir sehen es bei Fake News, bei Regierungswahlen. Wir sehen es bei Pornografie, und wir sehen es auch bei Prominenten und ganz normalen Menschen – wie du und ich.“

Die Danish Rights Alliance, die die Rechte der Kreativwirtschaft im Internet schützt, unterstützt den Gesetzentwurf, da ihr Direktor der Ansicht ist, dass das geltende Urheberrecht nicht weit genug geht.

Der dänische Synchronsprecher David Bateson war beispielsweise ratlos, als KI-Stimmenklone von Tausenden Nutzern online geteilt wurden. Bateson sprach eine Figur im beliebten Videospiel „Hitman“ sowie englische Werbespots des dänischen Spielzeugherstellers Lego.

„Als wir dies den Online-Plattformen meldeten, fragten sie: ‚Okay, aber auf welche Verordnung beziehen Sie sich?‘“, sagte Maria Fredenslund, Anwältin und Direktorin des Bündnisses. „Wir konnten keine konkrete dänische Verordnung nennen.“

Watson hatte zwar von anderen Influencern gehört, die digital veränderte Bilder von sich im Internet gefunden hatten, aber nie gedacht, dass ihr das selbst passieren könnte.

Sie tauchte in die Schattenseiten des Internets ein, wo anonyme Nutzer Deepfake-Bilder – oft von Frauen – verkaufen und teilen, und sagte, sie sei schockiert gewesen, wie einfach es sei, solche Bilder mit frei verfügbaren Online-Tools zu erstellen.

„Man könnte einfach bei Google nach ‚Deepfake-Generator‘ oder ‚Wie erstellt man einen Deepfake?‘ suchen, und schon würden all diese Webseiten und Generatoren auftauchen“, sagte die 28-jährige Watson.

Sie ist froh, dass ihre Regierung Maßnahmen ergreift, aber sie ist nicht optimistisch. Sie glaubt, dass mehr Druck auf die Social-Media-Plattformen ausgeübt werden muss.

„Es sollte nicht möglich sein, solche Bilder hochzuladen“, sagte sie. „Wenn sie erst einmal online sind, ist es zu spät. Man kann nichts mehr tun, man hat keine Kontrolle mehr darüber.“

___

Stefanie Dazio in Berlin, Kelvin Chan in London und Barbara Ortutay in San Francisco haben zu diesem Bericht beigetragen.