EU AI Act in der Praxis: Was Unternehmen konkret tun müssen

Rund 85 Prozent der europäischen Unternehmen, die KI einsetzen, wissen laut einer Bitkom-Erhebung nicht genau, welche regulatorischen Pflichten konkret für sie gelten. Der EU AI Act ist seit Sommer in Kraft — doch zwischen gesetzlichem Rahmen und gelebter Unternehmenspraxis klafft eine gefährliche Lücke.

Das Gesetz ist kein abstraktes Brüsseler Bürokratiekonstrukt. Es schreibt vor, wer was dokumentieren, melden und unter Umständen vom Markt nehmen muss — mit Bußgeldern von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. Wer jetzt noch wartet, riskiert nicht nur Strafen, sondern verliert auch wertvolle Zeit beim Aufbau compliantefähiger KI-Strukturen.

Die vier Risikoklassen: Was bedeuten sie in der Praxis?

Der EU AI Act teilt KI-Systeme in vier Kategorien ein — und die Einstufung entscheidet darüber, welche Pflichten ein Unternehmen treffen. Das klingt simpel, ist in der Anwendung aber komplex, weil dieselbe Technologie je nach Verwendungskontext unterschiedlich eingestuft werden kann.

Inakzeptables Risiko — die rote Kategorie — umfasst Systeme, die grundlegende Grundrechte gefährden: Social Scoring durch staatliche Stellen, biometrische Echtzeit-Überwachung im öffentlichen Raum (mit engen Ausnahmen), unterschwellige Manipulation und das gezielte Ausnutzen von Schwächen bestimmter Personengruppen. Diese Systeme sind verboten. Wer sie betreibt oder in Verkehr bringt, begeht keine Ordnungswidrigkeit, sondern verstößt gegen geltendes EU-Recht — mit entsprechenden Konsequenzen.

Hochrisiko-Systeme bilden die zweite Klasse und sind der eigentliche Kern des Gesetzes. Hier sind die Anforderungen am umfangreichsten. Betroffen sind KI-Anwendungen in Bereichen wie Kreditvergabe, Personalentscheidungen, medizinische Diagnostik, kritische Infrastruktur, Bildung, Strafverfolgung und Grenzkontrolle. Wer ein solches System betreibt, muss es vor dem Markteintritt registrieren, eine Konformitätsbewertung durchführen, umfangreiche technische Dokumentation vorlegen und menschliche Aufsicht sicherstellen.

Begrenzte Risikosysteme — etwa Chatbots oder KI-generierte Inhalte — unterliegen hauptsächlich Transparenzpflichten. Nutzer müssen erkennbar darüber informiert werden, dass sie mit einer KI interagieren oder KI-generierten Inhalt konsumieren. Das klingt nach wenig, ist aber für viele Marketingabteilungen und Kundenservice-Teams bereits eine operative Herausforderung. Wer ChatGPT Enterprise für Unternehmenskommunikation einsetzt, fällt in aller Regel in diese Kategorie — mit direkten DSGVO-Überschneidungen.

Minimale Risikosysteme — Spam-Filter, KI-gestützte Videobearbeitung, empfehlungsbasierte Playlist-Algorithmen — sind weitgehend frei von gesetzlichen Pflichten, unterliegen aber freiwilligen Verhaltenskodizes, die die EU-Kommission begleitend entwickelt.

Meldepflichten und Registrierung: Wer muss was wohin melden?

Ein zentrales Element des EU AI Acts ist die EU-Datenbank für Hochrisiko-KI-Systeme. Anbieter — also Unternehmen, die ein KI-System entwickeln oder in Verkehr bringen — müssen ihre Hochrisikoprodukte dort registrieren, bevor sie auf den Markt kommen. Betreiber, also Firmen, die fertige Systeme einsetzen, haben eigene Dokumentations- und Meldepflichten gegenüber nationalen Marktaufsichtsbehörden.

In Deutschland ist die Zuständigkeit noch nicht abschließend geregelt. Die Bundesnetzagentur, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und sektorspezifische Aufsichtsbehörden teilen sich voraussichtlich die Aufgaben — je nach Anwendungsfeld. Gartner prognostiziert, dass bis zur vollständigen Anwendbarkeit des AI Acts mehr als 40 Prozent der europäischen Unternehmen ihre interne KI-Governance-Struktur grundlegend umbauen müssen (Quelle: Gartner).

Konformitätsbewertung: Selbsteinschätzung oder externe Prüfung?

Für die meisten Hochrisiko-Systeme sieht der EU AI Act eine Selbstkonformitätsbewertung vor — das Unternehmen prüft also selbst, ob es die gesetzlichen Anforderungen erfüllt, und dokumentiert dies in einer technischen Akte. Klingt nach einem Freifahrtschein, ist es aber nicht: Die Anforderungen an diese Dokumentation sind detailliert, und nationale Marktaufsichtsbehörden können sie jederzeit prüfen und im Streitfall vor Gericht verwenden.

In bestimmten besonders sensiblen Bereichen — etwa biometrische Identifikation oder KI in der Strafverfolgung — ist eine externe Prüfung durch akkreditierte Stellen, sogenannte Notified Bodies, verpflichtend. Davon gibt es in Europa derzeit noch erschreckend wenige, was Engpässe bei der Zertifizierung erzeugen könnte. IDC warnt, dass die Nachfrage nach KI-Auditierungsdienstleistungen das Angebot in den nächsten 24 Monaten deutlich übersteigen wird (Quelle: IDC).

Vorfallmeldung: Wenn KI einen schwerwiegenden Schaden verursacht

Neu und für viele Unternehmen überraschend ist die Vorfallmeldepflicht. Verursacht ein Hochrisiko-KI-System einen schwerwiegenden Vorfall — das Gesetz definiert dies als Verletzung von Grundrechten, Personenschäden oder erhebliche Sachschäden — müssen Anbieter dies an die zuständige nationale Marktaufsichtsbehörde melden. Die Fristen orientieren sich an ähnlichen Regelungen aus dem Medizinprodukterecht und dem Cybersicherheitsrecht: In der Regel 15 Tage für ernsthafte Vorfälle, kürzer bei akuter Gefährdung. Das erfordert interne Incident-Response-Prozesse, die viele Unternehmen bislang nicht für KI-spezifische Ereignisse aufgebaut haben.

Was Unternehmen konkret tun müssen — eine Schritt-für-Schritt-Perspektive

Compliance beginnt mit Inventarisierung. Unternehmen müssen zunächst alle KI-Systeme erfassen, die sie einsetzen oder entwickeln — und für jedes System die Risikoklasse bestimmen. Das ist komplizierter als es klingt, weil viele KI-Komponenten in Drittanbietersoftware eingebettet sind. Wer etwa eine HR-Software mit eingebautem CV-Screening-Algorithmus nutzt, ist als Betreiber trotzdem verantwortlich, auch wenn er die KI selbst nicht entwickelt hat.

Im zweiten Schritt folgt die Lückenanalyse: Welche Dokumentation fehlt? Welche Prozesse für menschliche Aufsicht existieren noch nicht? Wo fehlen Transparenzhinweise gegenüber Nutzern? Statista-Daten zeigen, dass in deutschen Unternehmen KI bereits in durchschnittlich vier bis sechs verschiedenen Geschäftsbereichen gleichzeitig eingesetzt wird — was die Komplexität der Inventarisierung erheblich steigert (Quelle: Statista).

Der dritte Schritt ist die Implementierung technischer und organisatorischer Maßnahmen: Logging-Systeme für KI-Entscheidungen, menschliche Überprüfungsschleifen für kritische Ausgaben, Datensatz-Dokumentation und Qualitätssicherung. Gerade der letzte Punkt ist aufwendig — das Gesetz verlangt, dass Trainingsdaten auf Bias und Qualität geprüft werden, und diese Prüfung muss dokumentiert sein.

Die Debatte um KI-Einsatz in Unternehmen ist dabei längst keine rein technische. Die Frage, wie OpenAI und Anthropic in die Unternehmensberatung drängen, zeigt, dass auch große Modellanbieter zunehmend Compliance-Beratung als Geschäftsfeld entdecken — mit eigenen Interessen. Unternehmen sollten diese Angebote kritisch bewerten und unabhängige Rechts- und Technikberatung hinzuziehen.

KMU und Startups: Sonderregelungen, aber kein Freifahrtschein

Der EU AI Act sieht für kleine und mittlere Unternehmen sowie Startups erleichterte Bedingungen vor: günstigere Zugänge zu Regulatory Sandboxes — also kontrollierten Testumgebungen, in denen KI-Systeme unter Aufsicht erprobt werden dürfen — sowie vereinfachte Dokumentationsanforderungen in bestimmten Bereichen. Doch das bedeutet keine Befreiung von den Kernpflichten. Ein KMU, das ein Hochrisiko-KI-System betreibt, bleibt vollständig in der Pflicht.

Bitkom schätzt, dass der Erstaufwand für Compliance bei kleinen Unternehmen zwischen 50.000 und 100.000 Euro liegt — eine erhebliche Hürde, die kleinere KI-Anbieter vom europäischen Markt verdrängen könnte (Quelle: Bitkom). Wettbewerbspolitisch ist das eine offene Flanke des Gesetzes, die in der aktuellen Reviewphase diskutiert wird.

Für internationale Unternehmen, die in der EU tätig sind, gilt das Gesetz gleichermaßen — unabhängig vom Firmensitz. Ein US-amerikanisches Unternehmen, das sein KI-Produkt in Europa vertreibt, muss vollständig compliant sein. Das hat Auswirkungen auf globale Produktstrategien, wie sich etwa in der Diskussion rund um Googles Gemini-Modelle im praktischen Einsatz zeigt, wo Transparenzanforderungen und Dokumentationspflichten direkt in die Produktarchitektur einfließen müssen.

Strafen: Nicht nur Theorie

Die Bußgeldstruktur des EU AI Acts ist dreistufig. Verstöße gegen die absoluten Verbote — also das Betreiben verbotener KI-Systeme — können mit bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes geahndet werden. Verstöße gegen Anforderungen für Hochrisikosysteme kosten bis zu 15 Millionen Euro oder drei Prozent. Falsche oder unvollständige Angaben gegenüber Behörden ziehen bis zu 7,5 Millionen Euro oder 1,5 Prozent nach sich.

Die Behörden werden nicht sofort mit Maximalstrafen beginnen — das ist aus der DSGVO-Erfahrung bekannt. Aber die DSGVO hat auch gezeigt, dass nach einer Anlaufphase durchaus empfindliche Bußgelder verhängt werden, insbesondere gegen größere Akteure mit Signalwirkung. Unternehmen, die jetzt Compliance-Prozesse aufbauen, schaffen nicht nur rechtliche Sicherheit, sondern auch Dokumentation, die im Zweifel strafmildernd wirken kann.

Die Parallelen zur DSGVO-Einführung sind dabei lehrreich, aber nicht vollständig übertragbar. KI-Systeme verändern sich schneller als Datenschutzprozesse — Modelle werden aktualisiert, Trainingsdaten ausgetauscht, Funktionen erweitert. Was heute als minimales Risikosystem eingestuft ist, kann nach einem Update in die Hochrisikokategorie rutschen. Das erfordert kontinuierliche Überwachung, nicht einmalige Compliance-Projekte.

Wie Unternehmen KI bereits heute in der Praxis integrieren und welche Fehler dabei gemacht werden, dokumentiert unter anderem die Diskussion rund um den tatsächlichen KI-Einsatz in deutschen Unternehmen — mit ernüchternden Erkenntnissen über Lücken zwischen strategischen Ankündigungen und operativer Realität.

Was jetzt konkret zu tun ist

Unternehmen sollten drei Dinge unmittelbar angehen: Erstens eine vollständige KI-Inventur aller eingesetzten Systeme — einschließlich eingebetteter KI in Drittanbieter-Software. Zweitens eine rechtliche Ersteinschätzung der Risikoklassen durch externe Expertise, da interne Einschätzungen häufig zu optimistisch ausfallen. Drittens den Aufbau einer internen KI-Governance-Struktur mit klaren Verantwortlichkeiten — analog zu Datenschutzbeauftragten, jedoch mit technischer Tiefe.

Die regulatorische Landschaft für KI wird sich weiterentwickeln. Der EU AI Act ist kein statisches Dokument, sondern enthält Mechanismen für Anpassungen — insbesondere wenn neue Technologien oder Risikotypen entstehen. Wer Compliance nicht als Einmalprojekt, sondern als dauerhaften Prozess versteht, ist langfristig besser aufgestellt.

Auch Lieferketten und Logistikprozesse, die zunehmend auf KI-gestützte Steuerung setzen, sind betroffen — wie etwa die Debatte darüber zeigt, wie Amazon seine Logistikdienste für externe Unternehmen öffnet und dabei algorithmische Steuerung in externe Prozesse einbettet, was Fragen zur Verantwortung als Betreiber oder Anbieter im Sinne des EU AI Acts aufwirft.

Der EU AI Act ist kein Innovationshemmnis per se — aber er verlangt, dass Innovation mit Verantwortung einhergeht. Unternehmen, die das früh verstehen und umsetzen, schaffen nicht nur