Künstliche Intelligenz: Florida verklagt ChatGPT-Entwickler OpenAI und CEO Sam Altman

Der US-Bundesstaat Florida hat eine weitreichende Klage gegen den KI-Entwickler OpenAI und dessen CEO Sam Altman eingereicht. Floridas Generalstaatsanwalt wirft dem Unternehmen vor, mit seinem Chatbot ChatGPT insbesondere Jugendliche zu gefährden und damit gegen Verbraucherschutzgesetze zu verstoßen. Die Klage könnte zum Präzedenzfall für die gesamte KI-Branche werden.

Die Vorwürfe aus Florida gegen OpenAI

Die Klage konzentriert sich auf mehrere zentrale Kritikpunkte. OpenAI soll nicht angemessen überprüft haben, ob sein KI-System für die Nutzung durch Minderjährige geeignet ist. ChatGPT sei in der Lage, problematische Inhalte zu generieren, die Teenager bei der Planung gefährlicher oder illegaler Aktivitäten unterstützen könnten – darunter Anleitungen zu Selbstverletzungen oder Drogenkonsum.

Ein weiterer Vorwurf betrifft die unzureichende Altersverifizierung. Nutzer können nach Angaben der Kläger mit falschen Altersangaben auf den Dienst zugreifen. Dies verstoße gegen Verbraucherschutzgesetze Floridas, die besondere Schutzvorkehrungen für Minderjährige vorsehen. Zusätzlich wirft Florida dem Unternehmen vor, irreführende Aussagen über die Sicherheit und Fähigkeiten von ChatGPT gemacht zu haben.

Sam Altman wird persönlich als Mitbeklagter geführt. Das ist in regulatorischen Verfahren kein ungewöhnliches Vorgehen: Indem auch Entscheidungsträger persönlich haftbar gemacht werden, soll sichergestellt werden, dass Verantwortung nicht allein auf Unternehmensebene verbleibt.

Warum ChatGPT für Jugendliche problematisch sein kann

Um die Vorwürfe einordnen zu können, ist es wichtig zu verstehen, wie ChatGPT technisch funktioniert und wo konkrete Risiken entstehen. ChatGPT basiert auf einem sogenannten Large Language Model (LLM) – einem großen Sprachmodell, das auf Milliarden von Textdaten aus dem Internet trainiert wurde. Das Modell lernt, Sprache statistisch zu verstehen und kontextuell passende Antworten zu generieren. Es gibt dabei keine echte Intentionserkennung oder moralische Bewertung von Anfragen.

Genau hier liegt das Problem: ChatGPT erkennt nicht zuverlässig, ob eine Anfrage schädlich ist. Ein Teenager könnte Fragen zu selbstgefährdendem Verhalten stellen, ohne dass das System dies automatisch und konsequent unterbindet. OpenAI hat zwar sogenannte Guardrails implementiert – technische Filter, die besonders eindeutig schädliche Anfragen blockieren sollen. Diese Mechanismen lassen sich jedoch durch kreative Umformulierungen, Rollenspielszenarien oder sogenannte Jailbreaking-Prompts regelmäßig umgehen.

Der Jailbreaking-Effekt ist dabei besonders heikel: Nutzer haben in einschlägigen Foren systematisch Methoden entwickelt, um ChatGPT dazu zu bringen, eigentlich gesperrte Inhalte zu produzieren. Für experimentierfreudige Jugendliche, die Grenzen testen, ist der Einstieg in solche Techniken niedrigschwellig. Anders als bei menschlichen Gesprächspartnern fehlt die soziale Kontrolle, die Nachfrage oder das Zögern.

OpenAI hat in der Vergangenheit Sicherheitsupdates veröffentlicht und betont, aktiv an der Verbesserung seiner Schutzmechanismen zu arbeiten. Wie zuverlässig diese Guardrails im Alltag wirklich funktionieren, ist jedoch auch in der Forschungsgemeinschaft umstritten.

Vergleich: Jugendschutzmaßnahmen großer KI-Anbieter

Der Vergleich zeigt: Kein Anbieter setzt bislang auf eine robuste, technisch belastbare Altersverifizierung. Floridas Klage gegen OpenAI könnte genau das ändern – und die gesamte Branche unter Zugzwang setzen, wirksamere Schutzmaßnahmen einzuführen.

Die Klage aus Florida dürfte nicht das letzte Wort in der Debatte um KI und Jugendschutz sein. Sollte das Verfahren erfolgreich sein, ist mit einer Welle ähnlicher Klagen aus anderen US-Bundesstaaten und möglicherweise auch aus Europa zu rechnen. Für OpenAI steht dabei mehr auf dem Spiel als nur Geldstrafen: Ein gerichtlich erzwungenes Nachbessern der Sicherheitsarchitektur von ChatGPT könnte das Produkt grundlegend verändern – und Signalwirkung für die gesamte KI-Industrie entfalten.