EU zwingt ChatGPT, Reddit und Roblox in die Knie

Bis zu sechs Prozent des weltweiten Jahresumsatzes: So hoch fallen die Bußgelder aus, die Brüssel künftig gegen KI-Chatbots und soziale Plattformen verhängen kann, die sich Alterskontrollen und Transparenzpflichten verweigern. Mit einer neuen Verschärfung des Digital Services Act nimmt die EU-Kommission nun gezielt ChatGPT, Reddit und Roblox ins Visier – drei Dienste, die nach Einschätzung der Aufsichtsbehörden bislang zu wenig gegen Falschinformationen, Suchtmechanismen und Risiken für Minderjährige unternommen haben.

Die Entscheidung markiert die bislang deutlichste Reaktion der EU auf die rasante Verbreitung generativer KI-Anwendungen und algorithmisch gesteuerter Plattformen. Während OpenAI, Reddit und Roblox in den vergangenen Wochen bereits erste Stellungnahmen abgegeben haben, wächst in Brüssel die Ungeduld: Die Kommission wirft allen drei Anbietern vor, systemische Risiken für ihre Nutzer nicht ausreichend abgemildert zu haben.

Was der Digital Services Act konkret verlangt

Der Digital Services Act (DSA) ist das zentrale Regelwerk der EU zur Kontrolle digitaler Dienste. Er verpflichtet große Online-Plattformen und Suchmaschinen dazu, transparent offenzulegen, wie ihre Algorithmen Inhalte auswählen, welche Daten sie für Werbung nutzen und welche Maßnahmen sie gegen illegale Inhalte ergreifen. Anbieter mit mehr als 45 Millionen Nutzern in der EU gelten als "sehr große Online-Plattformen" (VLOP) und unterliegen verschärften Pflichten – darunter jährliche Risikoprüfungen durch unabhängige Auditoren. Neu ist, dass die Kommission diese Kategorie nun ausdrücklich auf KI-gestützte Chat-Dienste ausweitet. ChatGPT wird damit erstmals wie eine klassische soziale Plattform behandelt, obwohl der Dienst technisch kein soziales Netzwerk im herkömmlichen Sinn ist, sondern ein textbasierter KI-Assistent.

Der Unterschied zwischen DSA und KI-Verordnung

Für Verbraucher ist die Abgrenzung oft unklar: Die EU-KI-Verordnung (AI Act) regelt vor allem, wie riskant eine KI-Anwendung grundsätzlich eingestuft wird und welche technischen Anforderungen sie erfüllen muss. Der Digital Services Act hingegen zielt auf die Verbreitungswirkung ab – also darauf, wie ein Dienst Inhalte an Millionen Nutzer ausspielt und welche gesellschaftlichen Folgen das haben kann. Beide Regelwerke greifen bei ChatGPT künftig ineinander: Die KI-Verordnung bewertet das Modell selbst, der DSA die Art und Weise, wie es Nutzern präsentiert wird.

ChatGPT im Fokus: Werbung, Kostenmodelle und Aufsicht

Besonders brisant ist die Verschärfung für OpenAI, weil sie zeitlich mit weitreichenden Änderungen am ChatGPT-Geschäftsmodell zusammenfällt. Wie in diesem Jahr bereits berichtet, testet OpenAI Werbeformate innerhalb des Chatbots, um die kostenlose Version querzufinanzieren – ein Schritt, der bereits vor der aktuellen DSA-Verschärfung für Diskussionen sorgte. Mehr dazu im Artikel ChatGPT bekommt Werbung: So bleibt es reklamefrei. Die EU-Kommission sieht in der Kombination aus Werbefinanzierung und algorithmischer Antwortsteuerung ein potenzielles Risiko: Wenn ein KI-System gleichzeitig Informationen liefert und kommerzielle Interessen bedient, drohen laut Brüsseler Einschätzung Interessenkonflikte, die für Nutzer nicht erkennbar sind. OpenAI muss künftig offenlegen, ob und wie gesponserte Inhalte die Antworten des Chatbots beeinflussen.

Rechtlicher Druck auch in den USA

OpenAI steht nicht nur in Europa unter verschärfter Beobachtung. Auch in den Vereinigten Staaten mehren sich rechtliche Konflikte, wie der Fall zeigt, den wir im Artikel Künstliche Intelligenz: Florida verklagt ChatGPT-Entwickler OpenAI und CEO Sam Altman eingeordnet haben. Der transatlantische Druck auf das Unternehmen wächst damit von zwei Seiten gleichzeitig – regulatorisch in Europa, juristisch in den USA. Gleichzeitig bleibt der kostenlose Zugang für Privatnutzer zentral für OpenAIs Wachstumsstrategie, wie sich an der Entscheidung zeigt, ChatGPT breiter kostenfrei zugänglich zu machen. Details dazu finden sich im Beitrag ChatGPT komplett kostenlos: Was sich für Nutzer geändert hat. Genau diese Gratis-Strategie macht das Unternehmen nun besonders anfällig für DSA-Auflagen, da kostenlose Reichweite in Brüssel automatisch mit höherer gesellschaftlicher Verantwortung gleichgesetzt wird.

Reddit: Community-Moderation unter Beobachtung

Reddit gerät aus einem anderen Grund ins Visier der Kommission: Die Plattform organisiert Inhalte über tausende unabhängig moderierte Communitys, sogenannte Subreddits. Genau diese dezentrale Struktur erschwert es laut EU-Einschätzung, einheitliche Schutzstandards gegen Desinformation und schädliche Inhalte durchzusetzen. Die Kommission verlangt von Reddit nun ein zentrales Berichtssystem, das Auffälligkeiten in einzelnen Communitys schneller an die Konzernebene meldet. Kritiker aus der Netzgemeinde befürchten, dass dies die basisdemokratische Moderationskultur der Plattform untergraben könnte, während Verbraucherschützer die Reform als überfällig bezeichnen.

Trainingsdaten aus Foren als neues Streitfeld

Ein weiterer Aspekt betrifft die Nutzung von Reddit-Inhalten als Trainingsdaten für KI-Modelle. Da große Sprachmodelle wie ChatGPT häufig auch mit Forenbeiträgen trainiert werden, prüft die Kommission, ob Nutzer ausreichend darüber informiert werden, dass ihre Kommentare in KI-Systeme einfließen können. Für Unternehmen, die eigene KI-Lösungen auf Basis solcher Daten aufbauen, könnte dies zusätzliche Dokumentationspflichten bedeuten – ein Thema, das auch im Kontext von ChatGPT Enterprise: Chancen und Risiken für deutsche Unternehmen relevant ist, wo Datenschutz und KI-Nutzung im Firmenkontext bereits ausführlich beleuchtet wurden.

Roblox: Jugendschutz als zentraler Streitpunkt

Am stärksten unter Druck steht offenbar Roblox. Die Spieleplattform mit mehreren hundert Millionen aktiven Nutzern weltweit gilt als besonders beliebt bei Kindern und Jugendlichen – und genau das macht sie für die Kommission zum Prüffall Nummer eins. Brüssel wirft dem Unternehmen vor, Altersverifikation und Chatfunktionen nicht ausreichend gegen den Kontakt zwischen Minderjährigen und Erwachsenen abzusichern. Nach Angaben des Digitalverbands Bitkom nutzen in Deutschland mittlerweile mehr als ein Drittel der Zehn- bis Dreizehnjährigen regelmäßig Plattformen wie Roblox – eine Zielgruppe, die aus Sicht der EU besonderen Schutz benötigt. Die Kommission fordert daher verpflichtende Altersnachweise, die über eine reine Selbstauskunft hinausgehen.

Technische Umsetzung der Altersprüfung

Technisch stellt eine zuverlässige Alterskontrolle Plattformen vor erhebliche Probleme. Verfahren wie Gesichtsanalyse zur Altersschätzung oder die Kopplung an amtliche Ausweisdokumente gelten datenschutzrechtlich als heikel, da sie zusätzliche sensible Daten erheben. Die EU-Kommission hat deshalb ein europaweites Pilotprojekt für eine anonymisierte Alters-Verifizierungs-App angekündigt, die Plattformen wie Roblox künftig einbinden sollen, ohne selbst Ausweisdaten speichern zu müssen. Bis zur flächendeckenden Einführung dürfte laut Marktforschern von Gartner allerdings noch mindestens ein Jahr vergehen.

Marktdaten: Wie groß ist das Ausmaß wirklich?

Um die Tragweite der Regulierung einzuordnen, lohnt ein Blick auf aktuelle Nutzungszahlen. Laut Statista zählt ChatGPT in Europa mittlerweile mehrere zehn Millionen wöchentlich aktive Nutzer, Tendenz weiter steigend. IDC schätzt, dass der Markt für generative KI-Anwendungen in Europa in diesem Jahr ein zweistelliges Wachstum verzeichnet, was den regulatorischen Handlungsdruck aus Brüsseler Sicht zusätzlich erhöht. Auch Reddit und Roblox verzeichnen laut eigenen Angaben stabile bis wachsende Nutzerzahlen in der EU, wobei genaue Details bislang nicht offengelegt wurden, da entsprechende Transparenzberichte erst im Rahmen der verschärften DSA-Pflichten fällig werden.

Wettbewerbsvergleich der betroffenen Dienste

Die Tabelle zeigt: Trotz völlig unterschiedlicher Geschäftsmodelle eint die drei Dienste ein gemeinsamer regulatorischer Nenner – die Frage, wie viel Verantwortung ein Anbieter für die Wirkung seiner Technologie auf besonders schutzbedürftige Nutzergruppen trägt.

Reaktionen der Unternehmen und Kritik aus der Branche

Die betroffenen Unternehmen reagieren unterschiedlich auf den Vorstoß aus Brüssel. OpenAI betont in einer schriftlichen Stellungnahme, man arbeite bereits an zusätzlichen Transparenzfunktionen und wolle konstruktiv mit der Kommission zusammenarbeiten. Reddit verweist auf seine bestehenden Moderationsteams und warnt vor überzogener Zentralisierung, die die Community-Kultur der Plattform beschädigen könnte. Roblox erklärte, man unterstütze grundsätzlich strengere Jugendschutzmaßnahmen, sehe aber technische Umsetzungsfragen als größte Hürde. Aus der Digitalwirtschaft kommt zugleich Kritik an der Regulierungsgeschwindigkeit. Bitkom warnte in einer aktuellen Einschätzung davor, dass zu kurze Übergangsfristen kleinere europäische KI-Anbieter überproportional belasten könnten, während internationale Konzerne über größere Compliance-Abteilungen verfügen. Verbraucherschützer wiederum begrüßen die Verschärfung als überfällige Reaktion auf jahrelang unzureichende Selbstregulierung der Plattformbetreiber.

Einordnung im internationalen Vergleich

Im Vergleich zu den USA, wo KI-Regulierung bislang überwiegend auf Bundesstaatenebene und oft erst nach Gerichtsverfahren erfolgt, positioniert sich die EU mit dem DSA als proaktiver Regulierer. Wie unterschiedlich die Modelle führender KI-Assistenten im Alltag funktionieren und wo Regulierung ansetzen könnte, zeigt der Vergleich ChatGPT-4o vs. Gemini Ultra: Wer ist der beste KI-Assistent für den Alltag. Auch ein Jahr nach dem großen medialen Hype um ChatGPT bleibt die gesellschaftliche Debatte über Kontrolle und Verantwortung aktuell, wie im Rückblick Hard Fork NYT: ChatGPT ein Jahr danach, Kevin Roose zieht Bilanz deutlich wird.

Was auf Nutzer in Deutschland zukommt

Für Verbraucher dürfte sich die Verschärfung zunächst in Form neuer Einwilligungsabfragen, überarbeiteter Nutzungsbedingungen und sichtbarer Kennzeichnungen bemerkbar machen. Wer ChatGPT nutzt, wird künftig klarer erkennen können, wann eine Antwort werblich beeinflusst ist. Reddit-Nutzer könnten auf zusätzliche Meldefunktionen stoßen, während bei Roblox eine verpflichtende Altersprüfung beim Login wahrscheinlich ist. Langfristig dürfte die Verschärfung auch Auswirkungen auf andere KI-Dienste haben, die bislang nicht im Fokus standen, da die Kommission signalisiert hat, ähnliche Anforderungen perspektivisch auf weitere Chatbot-Anbieter auszuweiten, sobald diese die Nutzerschwelle für VLOP-Status überschreiten.

Zeitplan der Umsetzung

Die Kommission hat den betroffenen Unternehmen eine Frist von mehreren Monaten eingeräumt, um technische und organisatorische Maßnahmen umzusetzen. Erste Prüfberichte unabhängiger Auditoren werden nach aktuellem Stand im kommenden Jahr erwartet. Bis dahin bleibt offen, ob die angekündigten Maßnahmen ausreichen, um die von Brüssel identifizierten Risiken tatsächlich zu senken, oder ob es zu weiteren Sanktionsverfahren kommt.

Die aktuelle Verschärfung zeigt, dass die EU generative KI-Chatbots inzwischen mit derselben regulatorischen Elle misst wie klassische soziale Netzwerke. Ob dieser Ansatz tatsächlich mehr Sicherheit für Nutzer schafft oder vor allem bürokratischen Mehraufwand erzeugt, wird sich erst zeigen, wenn die ersten unabhängigen Prüfberichte im kommenden Jahr vorliegen und belastbare Daten zur tatsächlichen Wirkung der neuen Auflagen liefern.