Deepfake: wenn Manipulation straflos bleibt

Es ist eines dieser Probleme, das durch den rasenden technologischen Fortschritt der Entwicklung von Künstlicher Intelligenz (KI) entstand und dessen Bekämpfung Politik und Strafverfolgung nur hinterherhinken können. Die Rede ist vom sog. Deepfake, also mit Methoden der Künstlichen Intelligenz manipulierte Medieninhalte wie Fotos oder Videos in einer Qualität, die nicht ohne Weiteres oder gar nicht als Fake zu erkennen sind und „erschreckend neue Möglichkeiten für Missbrauch schaffen.“ [1]

Vermeintlich harmlos werden damit beispielsweise Videos von Politikern als Gangsterrapper auf TikTok millionenfach geklickt, doch mit den falschen Intentionen kann der Deepfake regelrecht als Waffe eingesetzt, ob politisch motiviert, um Wahlkämpfe zu beeinflussen oder um vor allem Frauen gezielt mit täuschend echten Videos mit sexuellem Inhalt zu diskreditieren, erpressen oder mobben.

Wie groß das Problem wirklich ist, die Frage ob der Deepfake verboten ist und welche Reformversuche diskutiert werden, erklärt unser Beitrag.

II. Deepfake Definition: Was ist Deepfake einfach erklärt?

Ein Deepfake, abgeleitet  aus “Deep Learning” (tiefes maschinelles Lernen) und “Fake” (Fälschung), ist ein mithilfe künstlicher Intelligenz (KI) manipuliertes oder komplett neu generiertes Medienprodukt. Konkret bedeutet dies: Stimmen, Gesichter oder ganze Körperbewegungen werden übertragen oder nachgebildet – so realistisch, dass der Unterschied zum Original kaum mehr zu erkennen ist. Der Begriff „Deepfake“ hat sich seit seiner erstmaligen Nutzung im Jahr 2017 stetig erweitert und umfasst heute alle Medienmanipulationen durch KI, ob Video, Audio oder Bild. [2]

Wie funktioniert ein Deepfake?

Deepfakes basieren auf neuronalen Netzen, mit deren Hilfe ein Modell entwickelt wird, welches neues Material erzeugen kann und die Mimik, Stimme oder Gestik einer Person anhand der ihr zur Verfügung gestellten Daten lernt. Typische Verfahren wie Face Swapping, Voice Cloning, Text-to-Speech und Face Reenactment setzen diese Daten in täuschend echte Videos oder Audios um, wobei neben der vermeintlich echten Nachbildung realer Personen dadurch auch das Erzeugen gänzlich neue Identitäten möglich ist. [3]

Je besser die Trainingsdaten – also Video-, Audio- oder Bildmaterial einer Zielperson –, desto realistischer der Deepfake!

III. Was ist der Unterschied zwischen Fake und Deepfake?

Klassische Fälschungen (Fake) entstehen manuell, während Deepfakes automatisiert und oft in hoher Qualität von einer KI erstellt werden, wobei der Unterschied im Grad der technischen Raffinesse und der vielfältigen Möglichkeit der Nachahmung einer Person liegt. [6] Es kann eben nicht nur bestehendes Material verändert, sondern gänzlich neues geschaffen werden, sodass der Ersteller eines Deepfake die Nachahmung einer realen Person sagen, gestikulieren und machen lassen kann, was er möchte.

Gegenüber einer einfache Bildbearbeitung oder einem zusammengeschnittenes Video sind Deepfakes also deutlich variabler und täuschen Authentizität in zuvor noch nie dagewesenen Maße vor – durch Tonfall, Mimik, Gestik und Kontext. Sie können neues Material erschaffen, anstatt nur altes zu verändern.. Genau hierin liegt ihre Gefahr.

IV. Wie kann man einen Deepfake erkennen?

Das tückische am Deepfake ist gerade, dass er kaum von echten Bildern oder Videos zu unterscheiden ist. Es gibt allerdings technische Hilfsmittel, um die Fälschung besser zu erkennen. Spezielle Software analysiert Videos auf typische Manipulationsspuren, [7] wie unscharfe Konturen, asynchrone Lippenbewegung oder metallische Stimmen, genauso wie die Seriosität der Quelle und Glaubhaftigkeit der dargestellten Situation.

V. Deepfake in Politik und Wahlkampf

Seit Jahren wächst das Problem politischer Einflussnahme mithilfe des Deepfake rasant und zuletzt zeigte der US-Wahlkampf 2024 wie die Technologie gezielt gegen politische Gegner eingesetzt werden kann. Automatisierte Telefonanrufe an Wähler mit der Stimme von Joe Biden [8], ein Audio Deepfake von Kamala Harris, in dem sie ihre eigene Inkompetenz zugab [9], mehrere Video- und Bilddeepfakes, die Harris als Kommunistin darstellten [10] oder generierte Fotos von Taylor Swift-Fans, die angeblich Donald Trump unterstützten und von diesem selbst in den sozialen Medien geteilt wurden [11], kursierten im Netz. Welchen Einfluss sie am Ende tatsächlich auf das Wahlergebnis hatten, bleibt ungewiss.

Noch dramatischer sind Fälle, in denen der Deepfake gegen Politiker kriegsbeteiligter Länder eingesetzt wird. So kursieren beispielsweise immer wieder Fake-Videos des ukrainischen Präsidenten Wolodymyr Selenskyj, wie er sein Volk und seine Armee scheinbar dazu aufruft, die Waffen niederzulegen und sich der russischen Armee zu ergeben. [12]

Ist der Deepfake so gut, dass Menschen ihm glauben, kann er drastische Folgen haben.

VI. Deepfake Porno

In anderer Form, aber mit ebenfalls äußerst ernsten Auswirkungen wird der Deepfake tagtäglich tausendfach missbraucht. Erste Deepfake-Pornos mit prominenten Schauspielerinnen wie Scarlett Johansson kursierten 2017 auf Reddit. [13] Die Technologie wurde schnell weiterentwickelt und mittlerweile schätzen Experten, dass bis zu 96 Prozent der Deepfake-Videos im Internet Pornos sind.[14] Heute können selbst Laien täuschend echte Pornofälschungen mithilfe frei verfügbarer Software erzeugen – mit massiven Folgen für die Persönlichkeitsrechte und das Privatleben der Betroffenen und überforderte Strafverfolgungsbehörden. [15]

VII. Ist Deepfake verboten?

Strafgesetzbuch

Ein generelles Verbot existiert nicht, doch je nach Inhalt und Kontext können bestehende straf- und zivilrechtliche Normen greifen.

Eine Strafbarkeit nach § 201a StGB wegen Verletzung des höchstpersönlichen Lebensbereichs und von Persönlichkeitsrechten ist zumindest denkbar. So ist es gemäß § 201a Absatz 2 StGB strafbar, „unbefugt von einer anderen Person eine Bildaufnahme, die geeignet ist, dem Ansehen der abgebildeten Person erheblich zu schaden, einer dritten Person zugänglich“ zu machen. Dies gilt nur für reale, nicht aber neu generierte Bilder. Von § 201a StGB nicht erfasst ist damit grundsätzlich das bloße Herstellen eines Deepfakes. [17]

Denkbar ist auch § 185 StGB (Beleidigung), allerdings nur, wenn „in dem verbreiteten Deepfake ein beleidigendes Werturteil gegenüber dem Betroffenen oder gegenüber einem Dritten zu erblicken ist.“, was in den wenigsten praktischen Fällen gegeben sein dürfte. Gleiches gilt für § 186 StGB/187 StGB (Üble Nachrede/Verleumdung), die nur greifen, wenn mit dem Deepfake in Beziehung auf einen anderen eine Tatsache behauptet oder verbreitet wird, welche denselben verächtlich zu machen oder ihn in der öffentlichen Meinung herabzuwürdigen geeignet ist. [18]

Deepfake Porno

Bei Deepfake Pornos kommt eine Strafbarkeit wegen des Verbreitens pornographischer Inhalte nach §184 StGB in Betracht. Ob auch eine Verletzung des Intimbereichs durch Bildaufnahmen nach §184k StGB vorliegen kann, ist umstritten.

Unter bestimmten Voraussetzungen kann das Verbreiten eines Deepfake also bereits nach geltendem Recht strafbar sein. Eine große Strafbarkeitslücke klafft allerdings, wenn es um das bloße Herstellen geht oder bei solchen Deepfakes, die keinen beleidigenden bzw. verleumdenden Inhalt haben, aber dennoch gezielt Fehlinformationen streuen.

Urheberrecht:

In Betracht kommt des Weiteren auch eine Strafbarkeit wegen der Verletzung von Urheberrechten, da bei der Erstellung von Deepfakes – insbesondere auch beim Hauptanwendungsfall der pornographischen Deepfakes – regelmäßig auf urheberrechtlich geschütztes Foto- und Filmmaterial Dritter zurückgegriffen und dieses ohne deren Einverständnis bearbeitet und sodann verbreitet wird.

Auch interessant sind die Fragen: “Wer genießt Urheberschutz für KI-generierte Inhalte?” und “Was bedeutet das Copyright Zeichen?”

Denkbare Strafbarkeiten im Überblick:

EU-Recht: KI-Verordnung

Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) verpflichtet Anbieter von Deepfakes dazu, solche Inhalte eindeutig als künstlich erzeugt oder manipuliert zu kennzeichnen. Dies gilt für alle durch KI erstellten Bild-, Ton- oder Videoinhalte, die echte Personen, Orte oder Ereignisse imitieren und beim Publikum den Eindruck von Authentizität erwecken könnten. Ziel ist es, die Transparenz für Nutzerinnen und Nutzer zu erhöhen und Täuschungen wirksam zu begegnen, weshalb bei Verstößen drohen empfindliche Bußgelder. [19]

VIII. Reformversuch §201b StGB

Der Bundesrat wagte im Juli 2024 einen Vorstoß, um die von ihm anerkannte Lücke in der strafrechtlichen Bekämpfung des Deepfake zu schließen. Mit §201b StGB sollte eine Norm, die die „Verletzung von Persönlichkeitsrechten durch digitale Fälschung“ unter Strafe stellt, geschaffen werden. 

Mit Freiheitsstrafe bis zu zwei Jahren sollte bestraft werden, wer eine computertechnisch hergestellte oder veränderte, aber wirklichkeitsgetreu wirkende Aufnahme, verbreitet und dadurch das Persönlichkeitsrecht einer anderen Person verletzt. Bei öffentlicher Verbreitung oder Verletzung des höchstpersönlichen Lebensbereichs sollte die Höchststrafe fünf Jahre betragen. [20]

Die damalige Bundesregierung lehnte den Vorschlag allerdings ab und verwies auf die bestehenden Strafnormen.

IX. Deepfake im Koalitionsvertrag

Auch die neue Bundesregierung erkennt die zunehmende Gefahr des Deepfake an, die Koalition aus SPD und CDU/CSU lässt im Koalitionsvertrag verlauten: „Wir reformieren das Cyberstrafrecht und schließen Strafbarkeitslücken, zum Beispiel bei bildbasierter sexualisierter Gewalt. Dabei erfassen wir auch Deep Fakes und schließen Lücken bei deren Zugänglichmachung gegenüber Dritten.“ [21]

Wie eine solche Reform aussehen könnte und wie die Regierung das Problem konkret in den Griff bekommen möchte, lies sie aber bisher offen.

X. Fazit: Umdenken und Handlungsbedarf

Der Deepfake kann harmlose technische Spielerei sein, mit der lustige TikToks gebastelt werden können. Doch er ist viel mehr als das und entwickelt sich mehr und mehr zu einer der gefährlichsten Waffen, die der Einsatz künstlicher Intelligenz mit sich bringt. Er gefährdet Persönlichkeitsrechte, Demokratie und Vertrauen in audiovisuelle Beweismittel, wenn Menschen nicht mehr wissen was echt ist und was nicht, auf täuschend echte, gezielte Fehlinformationen hereinfallen oder im Gegenzug seriösen Quellen nicht mehr trauen.

Die Rechtslage ist im Angesicht des Ausmaßes des Problems in Deutschland undurchsichtig und unzureichend, Strafverfolgungsbehörden meist chancenlos. Strafbarkeiten aus dem StGB kommen nur in seltenen, untypischen Fällen in Betracht. 

Mit dem Entwurf des §201b StGB erkannte auch der Bundesrat den Handlungsbedarf an, die Umsetzung blieb aus. Auch eine Reform des Strafgesetzbuchs würde aber ohnehin nicht ausreichen. Es bräuchte ein Gesamtkonzept: Gesetzgebung, Aufklärung, Zusammenarbeit mit Technologieunternehmen, soziale Netzwerke und internationale Kooperation der Strafverfolgung, um Deepfake-Missbrauch effektiv zu begegnen. Dennoch hätte ein neuer Straftatbestand auch Signalwirkung an die Täter, die sich bisweilen wenig vor Bestrafung fürchten müssen.