Blinzeln oder ein kaum merkliches Zucken im Mundwinkel. Noch vor wenigen Jahren hätten solche Details Deepfakes entlarvt. Doch die Maschinen lernen. Sie fälschen heute Gesichter, Stimmen, Gesten täuschend echt. Beispiele dafür gibt es viele.
2022 tauchte ein Deepfake-Video von Selenskyj auf, in dem er angeblich die Kapitulation der Ukraine verkündete. Im Frühjahr 2024 verbreitete das „Zentrum für politische Schönheit“ ein Video von Olaf Scholz, in dem er zum Verbot der AfD aufrufe – ebenfalls ein Fake.
Realistische Videos dank KI (NANO, 3Sat vom 19.Februar 2024)
Jeder kann betroffen sein – und es passiert schnell
Doch es kann jede*n treffen. Laut einer Forsa-Umfrage von Mai 2024 haben 17 Prozent der Deutschen schon einmal Kontakt mit Deepfake‑Inhalten gehabt, bei den unter 35‑Jährigen sind es sogar mehr als jede*r Vierte. 42 Prozent erhielten falsche Nachrichten von angeblichen Verwandten, 14 Prozent wurden schon per Telefon kontaktiert
Staatliche Behörden warnen: Deepfake‑Stimmen, etwa beim „Enkeltrick 2.0“, seien inzwischen gängige Masche. Es reichen oft wenige Sekunden Audio- oder Videomaterial, schon kann ein emotional manipulierter Anruf mit geklonter Stimme zum großen finanziellen Verlust führen.
Die Bedrohungslage durch Deepfakes für unsere demokratische Gesellschaft ist extrem hoch.
Dänemark zieht eine rote Linie
Dänemark will nun Vorreiter sein. Mit einem Gesetz, das jedem Menschen ein einklagbares Recht am eigenen Körper, der eigene Stimme und den eigenen Gesichtszüge gibt. Wer künftig ohne Einwilligung in einem KI-Video, Bild oder Audio auftaucht, könnte somit die Löschung verlangen.
Plattformen, die dies weigern, drohen hohe Strafen. Auch Anspruch auf Schadensersatz steht im Raum. Noch dieses Jahr will Dänemark das Gesetz durchbringen und auch 2026 auf europäischer Ebene vorantreiben.
Weltweit gibt es Gesetze gegen Täuschung
Weltweit reagieren Staaten zunehmend auf die Gefahr durch Deepfakes – aber sehr unterschiedlich. Großbritannien stellt die Herstellung intimer Deepfake-Pornos unter Strafe, Australien droht bei der Verbreitung mit bis zu sieben Jahre Haft.
In den USA existiert ein Flickenteppich an Gesetzen: In Kalifornien etwa sind Videos, die Politiker kurz vor und nach Wahlen in falschem Licht zeigen, untersagt.
Technik im Katz-und-Maus-Spiel
Auch Tech-Firmen entwickeln Programme, die Deepfakes erkennen sollen. Algorithmen prüfen etwa die Synchronität von Lippenbewegungen oder untypische Pixelmuster. Ein Wettrennen mit der Zeit, denn je schlauer die Detektoren, desto raffinierter die Fälscher.
Ein anderer Ansatz: digitale Herkunftssiegel. Die Content Authenticity Initiative, getragen von Adobe, Microsoft und der BBC, versieht Originalmaterial mit fälschungssicheren Metadaten. So ließe sich auch später prüfen: Ist das Scholz-Video echt oder doch eine Fälschung? Oft ist dann der Schaden jedoch bereits angerichtet.
Plattformen im Spagat
Auch Plattformen wie Instagram oder TikTok haben Regeln gegen manipulierte Inhalte. Sie löschen Deepfakes oder drosseln deren Reichweite. Doch ein Problem bleibt: Virale Fakes bringen Klicks, und Klicks bringen Geld.
Die technischen Prüfungen kosten Zeit und Personal. Oft bleiben einfache Schnitt-Tricks, sogenannte Shallowfakes, unentdeckt. Auch fürchten Plattformen Zensur-Vorwürfe, denn oft ist die Grenze zwischen gefährlicher Fälschung und zulässiger Satire hauchdünn.
Wir haben ein tatsächliches Problem mit Deepfakes. Aber die Schlussfolgerung darf nicht sein, das Strafrecht so zu verschärfen, das auch nicht strafwürdiges Verhalten kriminalisiert wird
Digitale Identität wird Eigentum
Was Dänemark nun plant, geht tiefer und ist eine Kulturfrage. Die digitale Identität soll Eigentum werden. Doch die Frage betrifft auch Kunst und Kultur. Künstler haben sich schon immer an Gesichtern, Stimmen und Bildern bedient. Wo endet die Kunstfreiheit und beginnt der Täuschungsversuch?
Fest steht: Wer in einer Welt lebt, in der jedes Gesicht fälschbar ist, braucht Schutz – aber auch neue Antworten auf die Frage, was Authentizität noch bedeutet.
