USA: Zwei Männer wegen Erstellung von KI-Deepfakes in New York angeklagt

Ein aktueller Fall aus New York verdeutlicht die wachsende Bedrohung durch missbräuchlich eingesetzte KI-Technologien: Zwei Männer wurden vom U.S. Attorney's Office des Southern District of New York angeklagt, weil sie mithilfe von Künstlicher Intelligenz nicht genehmigte, sexualisierte Deepfakes von Frauen erstellt und verbreitet haben sollen. Die Anklage gilt als einer der ersten Fälle, in dem der 2024 in Kraft getretene DEFIANCE Act – das erste US-Bundesgesetz gegen sexualisierte Deepfakes – strafrechtlich angewendet wird.

Die Anklageschrift wurde beim U.S. District Court, Southern District of New York, in Manhattan eingereicht. Den Beschuldigten wird vorgeworfen, Bilder von mindestens acht Frauen aus sozialen Medien bezogen und diese mit KI-Software zu kompromittierenden Videos verarbeitet zu haben – ohne Wissen oder Zustimmung der Betroffenen. Die manipulierten Inhalte wurden anschließend verbreitet. Strafverfolgungsbehörden betonen den erheblichen emotionalen und reputationsbezogenen Schaden, der den Opfern dadurch entstanden ist.

Was sind Deepfakes – und wie entstehen sie?

Deepfakes sind synthetisch erzeugte oder manipulierte Medieninhalte, bei denen das Gesicht oder die Stimme einer realen Person mithilfe von KI-Algorithmen in ein fremdes Video oder Bild eingefügt wird. Der Begriff setzt sich aus „Deep Learning" und „Fake" zusammen und beschreibt sowohl die zugrunde liegende Technologie als auch deren täuschende Wirkung.

Technisch basieren Deepfakes auf sogenannten Generative Adversarial Networks (GANs). Dabei treten zwei künstliche neuronale Netzwerke gegeneinander an: Ein Generator erzeugt gefälschte Inhalte, während ein Diskriminator versucht, diese als Fälschungen zu entlarven. Durch diesen iterativen Prozess werden die erzeugten Bilder und Videos schrittweise realistischer – bis sie für das menschliche Auge kaum mehr von echten Aufnahmen zu unterscheiden sind. Für die Erstellung eines überzeugenden Deepfakes reichen heute mitunter wenige Dutzend Ausgangsbilder einer Person aus, die etwa aus öffentlich zugänglichen Social-Media-Profilen stammen können.

Deepfake-Technologie hat durchaus legitime Einsatzbereiche: In der Filmproduktion wird sie genutzt, um verstorbene Schauspieler digital zu rekonstruieren oder Darsteller zu verjüngen. Auch in der Sprachtherapie und bei der Erstellung barrierefreier Inhalte kommt sie zum Einsatz. Das Missbrauchspotenzial ist jedoch enorm – von politischer Desinformation über Betrug bis hin zu sexualisierter Gewalt gegen Privatpersonen.

Das DEFIANCE Act: Rechtliche Grundlage der Anklage

Rechtliche Grundlage der Anklage ist der sogenannte DEFIANCE Act (Disrupt Explicit Forged Images and Non-Consensual Edits Act), den der US-Kongress 2024 verabschiedete und der als erstes Bundesgesetz die Erstellung und Verbreitung nicht eingewilligter sexualisierter Deepfakes explizit unter Strafe stellt. Das Gesetz schließt damit eine langjährige Lücke im US-Bundesrecht, da zuvor lediglich einzelne Bundesstaaten entsprechende Regelungen besaßen – mit unterschiedlicher Reichweite und Strafrahmen.

Das Gesetz verbietet konkret die Veröffentlichung, den Besitz in Verbreitungsabsicht sowie die Herstellung von KI-generierten oder anderweitig manipulierten visuellen Darstellungen, die eine identifizierbare Person ohne deren Zustimmung in sexueller oder anderweitig kompromittierender Weise zeigen. Bei einer Verurteilung drohen bis zu fünf Jahre Freiheitsstrafe sowie Geldstrafen von bis zu 250.000 US-Dollar je Anklagepunkt.

Trotz dieses Fortschritts bleibt die US-amerikanische Rechtslage in Teilbereichen fragmentiert. Deepfakes im Kontext von Wahlmanipulation, kommerziellem Betrug oder gezielter Desinformation ohne sexuellen Charakter sind auf Bundesebene noch nicht einheitlich reguliert. Rechtswissenschaftler und Bürgerrechtsorganisationen fordern daher eine umfassendere gesetzliche Regelung, die mit der rasanten technologischen Entwicklung Schritt hält.

Der New Yorker Fall dürfte als Präzedenzfall wegweisend sein: Erstmals müssen sich Gerichte konkret mit der Frage auseinandersetzen, wie das neue Bundesgesetz in der Praxis ausgelegt und durchgesetzt wird. Experten erwarten, dass ein Schuldspruch weitere Strafverfolgungsbehörden ermutigen wird, ähnliche Fälle konsequenter zu verfolgen – und Tätern das Signal senden, dass KI-gestützter Missbrauch kein rechtsfreier Raum mehr ist.