Deepfakes: KI-Nacktbilder von 147 EU-Politikern im Netz

Auf einer einschlägigen Plattform kursieren KI-generierte Nacktbilder von mindestens 147 Mitgliedern des Europäischen Parlaments, wie eine Recherche mehrerer europäischer Medienhäuser in dieser Woche aufdeckte. Betroffen sind Abgeordnete aus nahezu allen 27 EU-Mitgliedstaaten, die überwiegende Mehrheit der Opfer sind Frauen. Die Bilder wurden mithilfe frei verfügbarer KI-Tools erstellt, die reale Fotos der Politikerinnen und Politiker in gefälschte Nacktaufnahmen verwandeln.

• Mindestens 147 EU-Abgeordnete von gefälschten Nacktbildern betroffen
• Rund 85 Prozent der Opfer sind weiblich
• Bilder wurden mit frei zugänglichen KI-Bildgeneratoren erstellt
• EU-Parlament kündigt rechtliche Schritte und interne Untersuchung an

Was ist bei den Deepfakes der EU-Politiker passiert?

Journalisten eines internationalen Rechercheverbunds stießen bei der Untersuchung einer Website, die sich auf gefälschte Prominentenbilder spezialisiert hat, auf eine eigene Kategorie für europäische Politikerinnen und Politiker. Die dort veröffentlichten Bilder zeigen die Betroffenen in expliziten, wahrheitswidrigen Posen. Grundlage waren offizielle Porträtfotos aus dem EU-Parlamentsarchiv sowie Aufnahmen von öffentlichen Auftritten.

Die Ersteller nutzten sogenannte Diffusionsmodelle, eine Form der Bildgenerierung, bei der eine KI aus einem Rauschmuster schrittweise ein neues Bild erzeugt und dabei durch Eingabebefehle gesteuert wird. Solche Modelle sind seit einiger Zeit auch ohne Programmierkenntnisse nutzbar, teils in abgewandelten, unzensierten Versionen im Umlauf.

Wie wurden die Bilder entdeckt?

Ein Hinweisgeber aus der Zivilgesellschaft machte Journalisten auf die Plattform aufmerksam. Die Redaktionen verglichen anschließend systematisch Profilfotos aller 720 EU-Abgeordneten mit den auf der Seite hinterlegten Bildern. Dabei bestätigte sich der Verdacht bei 147 Personen aus prinzipiell allen Fraktionen des Parlaments.

Wer steckt hinter der Plattform?

Die Betreiber der Website sind bislang nicht identifiziert, der Server liegt Berichten zufolge außerhalb der EU. Das erschwert eine schnelle Löschung der Inhalte erheblich, da europäisches Recht dort nicht unmittelbar durchsetzbar ist. Ermittler prüfen derzeit, über welche Zahlungsdienstleister die Plattform finanziert wird.

Warum sind vor allem Frauen betroffen?

Von den 147 identifizierten Opfern sind laut der Recherche rund 125 Frauen, also mehr als 85 Prozent. Diese Verteilung deckt sich mit früheren Studien zu nichteinvernehmlichen KI-generierten Bildern, die durchgängig zeigen, dass Frauen deutlich häufiger Ziel solcher Angriffe werden als Männer.

Experten sprechen von einer Form digitaler geschlechtsspezifischer Gewalt, die gezielt darauf abzielt, Frauen in der Öffentlichkeit zu diskreditieren und einzuschüchtern. Der Branchenverband Bitkom verweist darauf, dass Frauen in politischen Ämtern überproportional von Online-Belästigung betroffen sind, KI-Deepfakes verschärften diesen Trend erheblich (Quelle: Bitkom).

Welche psychischen Folgen berichten Betroffene?

Mehrere betroffene Abgeordnete schilderten gegenüber Journalisten Gefühle von Ohnmacht und Scham, obwohl ihnen bewusst ist, dass die Bilder nicht real sind. Einige berichteten, ihre öffentliche Präsenz in sozialen Netzwerken eingeschränkt zu haben, aus Angst vor weiterer Verbreitung. Politikwissenschaftler warnen, dies könne junge Frauen langfristig von einer politischen Karriere abschrecken.

Welche rechtlichen Schritte sind bereits eingeleitet?

Das Europäische Parlament kündigte umgehend eine interne Untersuchung an und schaltete die zuständigen Datenschutz- und Sicherheitsbehörden ein. Mehrere Abgeordnete erstatteten bereits Strafanzeige in ihren Heimatländern. Die EU-Kommission verwies auf den erst vor wenigen Jahren verschärften Rechtsrahmen gegen Missbrauch von KI-Technologie.

Bereits zuvor hatten sich EU-Institutionen intensiv mit der Regulierung solcher Inhalte befasst. So hatte Deepfakes: EU-Parlament stimmt für Verbot von KI für Missbrauch bereits Grundlagen geschaffen, die nun in der Praxis erstmals auf die eigenen Mitglieder angewendet werden müssen. Auch die Mitgliedstaaten selbst hatten sich zuvor auf gemeinsame Regeln verständigt, wie im Beitrag Sexualisierte Deepfakes: EU-Länder einigen sich auf Verbot beschrieben.

Was sagt der AI Act zu solchen Inhalten?

Der AI Act, das zentrale KI-Gesetz der Europäischen Union, verpflichtet Anbieter von Bildgenerierungssoftware seit einiger Zeit dazu, KI-generierte Inhalte klar zu kennzeichnen. Die Erstellung nichteinvernehmlicher sexualisierter Deepfakes ist in den meisten Mitgliedstaaten inzwischen zusätzlich strafrechtlich verboten. Das Problem liegt jedoch in der Durchsetzung, wenn Server und Betreiber außerhalb der EU sitzen.

Gibt es internationale Vorbilder für schärfere Gesetze?

In den USA wurden bereits einzelne Täter strafrechtlich verfolgt, etwa im Fall, der im Artikel USA: Zwei Männer wegen Erstellung von KI-Deepfakes in New York angeklagt dokumentiert ist. Juristen sehen darin ein mögliches Modell auch für europäische Staatsanwaltschaften, wenn Täter identifizierbar sind.

Wie verbreitet ist das Problem der Deepfakes insgesamt?

Der aktuelle Fall der EU-Abgeordneten ist kein Einzelfall, sondern Teil eines wachsenden Phänomens. Nach Angaben des Marktforschungsinstituts Statista hat sich die Zahl online kursierender Deepfake-Videos und -Bilder in den vergangenen drei Jahren mehr als verzehnfacht (Quelle: Statista). Auch das Analysehaus Gartner geht davon aus, dass bis Ende des Jahrzehnts ein erheblicher Anteil aller online konsumierten Bild- und Videoinhalte synthetisch erzeugt sein wird (Quelle: Gartner).

Betroffen sind längst nicht nur Politikerinnen und Politiker. Auch im Gesundheitswesen mehren sich Fälle von Betrug mittels gefälschter Identitäten, wie der Bericht Deepfakes von Ärzten: Betrug breitet sich auch auf unbekannte Mediziner aus zeigt. Das Marktforschungsunternehmen IDC schätzt, dass Unternehmen und Behörden weltweit inzwischen zweistellige Millionenbeträge jährlich in Erkennungssoftware gegen Deepfakes investieren (Quelle: IDC).

Welche Rolle spielen Deepfakes im politischen Wahlkampf?

Neben sexualisierten Inhalten sorgen gefälschte Videos und Audiodateien auch bei Wahlen zunehmend für Verunsicherung. Das Bundeskriminalamt hatte bereits vor der vergangenen Bundestagswahl gewarnt, wie der Artikel Deepfakes im Bundestagswahlkampf: BKA warnt vor massiver Desinformationskampagne schildert. Auch in den USA hatten KI-Fälschungen bereits erheblichen Einfluss auf den öffentlichen Diskurs, wie im Beitrag Deepfakes im Wahlkampf: Wie KI-Fakes die US-Wahl beeinflussten nachzulesen ist.

Wie funktionieren Erkennungssysteme gegen Deepfakes?

Spezialisierte Software analysiert Bild- und Videodateien auf typische Artefakte, die bei der KI-Generierung entstehen, etwa unnatürliche Lichtreflexionen in den Augen oder inkonsistente Hauttexturen. Diese Detektionssysteme müssen jedoch ständig aktualisiert werden, da auch die Generierungsmodelle immer realistischere Ergebnisse liefern. Ein Wettlauf zwischen Fälschung und Erkennung, den Experten als technisch kaum endgültig gewinnbar einschätzen.

Wie unterscheiden sich die verfügbaren KI-Tools zur Bilderzeugung?

Nicht jedes KI-Tool zur Bildgenerierung lässt die Erstellung expliziter oder missbräuchlicher Inhalte zu. Kommerzielle Anbieter mit strengen Nutzungsrichtlinien unterscheiden sich deutlich von offenen, frei modifizierbaren Modellen, die häufig für solche Zwecke missbraucht werden.

Warum sind quelloffene Modelle besonders anfällig?

Quelloffene KI-Modelle können von jedem Nutzer heruntergeladen, auf dem eigenen Rechner betrieben und beliebig verändert werden. Sicherheitsfilter, die Missbrauch verhindern sollen, lassen sich dabei technisch entfernen. Genau diese Offenheit, die für Forschung und Innovation eigentlich wertvoll ist, wird so zur Einfallstür für Missbrauch.

Welche Verantwortung tragen die Plattformbetreiber?

Rechtsexperten diskutieren derzeit, inwieweit Plattformen, auf denen Deepfake-Inhalte verbreitet werden, für Inhalte Dritter haftbar gemacht werden können. Der Digital Services Act der EU verpflichtet Betreiber bereits zur Löschung rechtswidriger Inhalte nach Meldung, Durchsetzungsprobleme bestehen jedoch bei Servern außerhalb europäischer Rechtshoheit weiterhin erheblich.

Wie reagiert das EU-Parlament auf den aktuellen Fall?

Parlamentspräsidentin und Fraktionsvorsitzende verurteilten die Verbreitung der Bilder in ersten Stellungnahmen scharf und sicherten den Betroffenen Unterstützung zu. Das Parlament prüft zudem, ob zusätzliche technische Schutzmaßnahmen für offizielle Fotos der Abgeordneten eingeführt werden können, etwa durch unsichtbare digitale Wasserzeichen.

Mehrere Fraktionen fordern zudem, das Thema auf europäischer Ebene mit höherer Priorität zu behandeln und die Durchsetzung bestehender Gesetze gegenüber Plattformen außerhalb der EU zu verbessern. Konkrete Beschlüsse dazu werden für die kommenden Wochen erwartet.

Welche Unterstützung erhalten betroffene Abgeordnete?

Das Parlament stellt betroffenen Mitgliedern psychologische Beratung sowie juristische Unterstützung bei der Anzeigenerstattung zur Verfügung. Zudem wurde eine interne Meldestelle eingerichtet, über die weitere Fälle vertraulich gemeldet werden können. Bislang ist unklar, ob die Zahl von 147 Betroffenen die tatsächliche Dimension bereits vollständig abbildet.

Der Fall macht deutlich, wie schwer Gesetzgebung mit der technischen Entwicklung Schritt hält, selbst wenn Regeln formal längst existieren. Solange Ersteller und Plattformen außerhalb der EU operieren können, bleibt die Durchsetzung bestehender Verbote eine der größten Herausforderungen im Kampf gegen missbräuchliche KI-Inhalte.