KI-Haftung: Wer zahlt, wenn die KI Fehler macht?

Rund 400 Milliarden Euro Schaden könnte KI-bedingte Haftung europäische Unternehmen in den nächsten Jahren kosten — so schätzen Analysten von Gartner die kumulierten Risiken aus fehlerhaften KI-Entscheidungen, die von autonomen Systemen getroffen werden. Die Frage, wer für diese Schäden aufkommt, ist längst keine akademische mehr: Sie landet vor Gerichten, in Versicherungsverträgen und im Büro des EU-Gesetzgebers.

Ein neues Rechtsgebiet entsteht — langsam

Stellen Sie sich vor, ein KI-Diagnosesystem empfiehlt dem behandelnden Arzt die falsche Therapie, ein Patient erleidet dauerhaften Schaden. Oder ein automatisierter Kreditvergabe-Algorithmus verweigert einer Person den Kredit aufgrund fehlerhaft gelernter Muster — und diese Person verliert deshalb ihre Wohnung. Wer haftet: der Arzt, der das System genutzt hat? Der Krankenhausbetreiber? Der Softwareanbieter? Oder der Entwickler des zugrundeliegenden KI-Modells?

Genau diese Fragen hat der europäische Gesetzgeber lange nicht ausreichend beantwortet. Das klassische Produkthaftungsrecht, das in Europa seit Jahrzehnten gilt, wurde für physische Güter entwickelt — für fehlerhafte Bremsscheiben, giftige Lebensmittelzusatzstoffe, explodierende Akkuladegeräte. Software war lange explizit ausgenommen. KI — also Software, die eigenständig Entscheidungen trifft und sich dabei weiterentwickelt — passte in dieses Schema erst recht nicht.

Das ändert sich derzeit fundamental. Zwei Gesetzgebungsvorhaben der Europäischen Union verändern den Rechtsrahmen grundlegend: der AI Act (die KI-Verordnung) und die überarbeitete Produkthaftungsrichtlinie. Beide sind inzwischen verabschiedet und werden schrittweise wirksam. Zusammen bilden sie das komplexeste Regelwerk für KI-Haftung weltweit.

Wie die neue Produkthaftungsrichtlinie KI erfasst

Die überarbeitete EU-Produkthaftungsrichtlinie ist ein Meilenstein, der in der öffentlichen Diskussion oft unterschätzt wird. Sie definiert erstmals ausdrücklich, dass Software — und damit auch KI-Modelle — als "Produkt" im haftungsrechtlichen Sinne gelten. Das klingt technisch, hat aber weitreichende Konsequenzen.

Bislang mussten Geschädigte nachweisen, dass ein Produkt fehlerhaft war, dass der Fehler den Schaden verursacht hat und dass der Hersteller dafür verantwortlich ist. Bei KI-Systemen ist dieser Kausalnachweis praktisch unmöglich: Niemand — nicht einmal die Entwickler selbst — kann vollständig erklären, warum ein großes Sprachmodell in einer bestimmten Situation eine bestimmte Ausgabe produziert. Dieses Phänomen nennt man das "Black-Box-Problem".

Die neue Richtlinie begegnet dem mit einer Beweislastumkehr in bestimmten Konstellationen: Wenn ein Geschädigter plausibel machen kann, dass ein KI-System an seinem Schaden beteiligt war, müssen Hersteller und Betreiber aktiv beweisen, dass ihr System nicht fehlerhaft war. Das ist eine erhebliche Verschiebung der Machtverhältnisse.

Wer gilt als "Hersteller" bei KI?

Bei einem Automobil ist die Herstellerfrage einfach. Bei KI-Systemen hingegen existiert typischerweise eine mehrstufige Kette: Ein Basismodell-Anbieter (etwa ein US-amerikanisches Unternehmen) entwickelt das Grundmodell. Ein europäischer Softwareanbieter baut darauf eine Fachanwendung — etwa für medizinische Diagnose. Ein Krankenhausbetreiber lizenziert diese Anwendung und setzt sie ein. Ärzte nutzen sie schließlich im klinischen Alltag.

Die EU-Regelungen sehen hier eine gestaffelte Verantwortung vor. Der Anbieter (Provider) des KI-Systems — derjenige, der es auf den Markt bringt — trägt die Hauptverantwortung für die technische Konformität. Der Betreiber (Deployer) — also das Krankenhaus oder das Unternehmen, das das System einsetzt — haftet für den ordnungsgemäßen Einsatz, die Überwachung und die Einhaltung von Nutzungsbedingungen. Endnutzer — also die Ärzte — stehen haftungsrechtlich in der Regel nicht im Fokus, sofern sie das System bestimmungsgemäß genutzt haben.

Bitkom, der deutsche Digitalverband, warnt jedoch, dass diese Trennung in der Praxis zu erheblicher Rechtsunsicherheit führt. Viele mittelständische Unternehmen, die KI-Lösungen einsetzen, wissen oft nicht, ob sie als Anbieter oder Betreiber eingestuft werden — mit dramatisch unterschiedlichen Haftungsrisiken. (Quelle: Bitkom Rechtslage-Report zur KI-Regulierung)

Hochrisiko-KI: Besondere Pflichten, besondere Haftung

Der AI Act unterscheidet nicht nur regulatorisch, sondern auch haftungsrelevant zwischen Risikoklassen. Für Hochrisiko-KI-Systeme — definiert in Bereichen wie medizinische Diagnostik, biometrische Überwachung, KI in der Justiz, autonomes Fahren, Personalentscheidungen und kritische Infrastruktur — gelten besonders strenge Anforderungen.

Anbieter solcher Systeme müssen technische Dokumentation vorhalten, die belegt, dass das System ordnungsgemäß trainiert und getestet wurde. Sie müssen Protokollierungsfunktionen einbauen, die im Schadensfall eine Rekonstruktion ermöglichen. Sie müssen Mechanismen für menschliche Aufsicht implementieren — das bedeutet, ein Mensch muss in kritischen Situationen eingreifen können. Und sie müssen Vorfallmeldungen an Aufsichtsbehörden einrichten.

Diese Pflichten haben eine direkte haftungsrechtliche Dimension: Wer diese Dokumentationspflichten verletzt, kann im Schadensfall kaum glaubhaft bestreiten, dass sein System ordnungsgemäß funktionierte. Die Beweislastumkehr greift dann besonders hart.

Präzedenzfälle: Was Gerichte bisher entschieden haben

Wegweisende Urteile speziell zu KI-Haftung gibt es in Europa noch kaum — das Recht ist schlicht noch zu jung. Doch Fälle, die strukturell ähnliche Fragen aufwerfen, existieren bereits und geben Hinweise auf die künftige Rechtsprechung.

In den USA wurde gegen einen Arbeitgeber geurteilt, der einen algorithmischen Einstellungsprozess nutzte, der systematisch Frauen benachteiligte. Das Gericht wertete die Nutzung des diskriminierenden Systems als Verantwortung des Arbeitgebers — unabhängig davon, dass der Algorithmus vom Softwareanbieter stammte. Das Prinzip: Wer ein System einsetzt, übernimmt Verantwortung für dessen Wirkungen.

In Deutschland wurde im Kontext automatisierter Fahrassistenzsysteme — einer Vorstufe autonomer KI — bereits festgestellt, dass Fahrzeughersteller für Systemfehler haften, auch wenn der Fahrer das System aktiviert hatte. Diese Rechtsprechung dürfte auf autonomere KI-Systeme übertragbar sein.

Bemerkenswert ist der Fall Apple zahlt Millionen für verspätete KI-Features bei Siri — ein Beispiel dafür, wie Unternehmen bereits für kommunizierte, aber nicht gelieferte KI-Versprechen zur Rechenschaft gezogen werden. Hier geht es zwar um Verbraucherrecht und Irreführung, doch das Muster ist identisch: KI-Versprechen erzeugen rechtliche Verbindlichkeiten.

Software-Fehler als Haftungsmaßstab: Lehren aus der Praxis

KI-Haftung ist keine isolierte Erscheinung. Sie reiht sich ein in eine wachsende Debatte über die Haftung für digitale Systeme generell. Fehlerhafte Updates und Systemausfälle zeigen, welche wirtschaftlichen Schäden durch Software-Versagen entstehen können — und wie schwierig Haftungsfragen dann sind.

Der CrowdStrike-Ausfall: Wie ein Update-Fehler die Welt lahmlegte ist das wohl prominenteste Beispiel der jüngeren Zeit: Ein fehlerhaftes Sicherheits-Update legte weltweit Millionen von Windows-Systemen lahm, Krankenhäuser, Flughäfen und Behörden standen still. Der Schaden wurde auf mehrere Milliarden Dollar geschätzt. Haftungsklagen gegen CrowdStrike wurden eingereicht, doch die Rechtslage ist komplex — Verträge mit Haftungsausschlüssen, begrenzte Gewährleistungen, unterschiedliche Rechtssysteme.

Ähnliche Fragen stellten sich beim fehlerhaften Update, das deutsche Internetdienste lahmlegte, sowie beim DNSSEC-Fehler bei Denic, der zahlreiche .de-Domains lahmlegte. In beiden Fällen entstanden erhebliche wirtschaftliche Schäden für betroffene Unternehmen — aber die Haftungsfrage blieb weitgehend ungeklärt oder wurde außergerichtlich geregelt.

Diese Fälle zeigen ein strukturelles Problem: Haftungsausschlüsse in Allgemeinen Geschäftsbedingungen sind in der Software-Industrie Standard. Die neue EU-Regulierung setzt hier Grenzen — insbesondere für Hochrisiko-KI kann auf Haftung nicht mehr vollständig verzichtet werden.

Vergleich: Haftungsrahmen für KI-Anbieter im Überblick

Die Rolle der Versicherungswirtschaft und offene Lücken

Haftungsrecht und Versicherung sind zwei Seiten derselben Medaille. Doch der Markt für KI-spezifische Haftpflichtversicherungen ist in Europa noch unterentwickelt. Klassische Betriebshaftpflichtpolicen decken KI-Schäden häufig nicht oder nur teilweise ab — insbesondere dann nicht, wenn die Schäden durch autonome Entscheidungen entstehen, die kein Mensch unmittelbar veranlasst hat.

Gartner prognostiziert, dass bis zum Ende des Jahrzehnts die Nachfrage nach KI-spezifischen Versicherungsprodukten dramatisch steigen wird, der Markt aber noch mindestens fünf Jahre braucht, um sich zu stabilisieren. In dieser Übergangsphase tragen Unternehmen erhebliche unversicherte Risiken. (Quelle: Gartner Technology Risk Outlook)

Besonders heikel ist die Situation für kleine und mittlere Unternehmen, die KI-Dienste großer Plattformanbieter nutzen. Sie schließen Nutzungsverträge ab, die umfangreiche Haftungsausschlüsse enthalten — und stehen im Schadensfall oft allein. Die EU-Regulierung schränkt zwar die Möglichkeiten ein, auf Haftung zu verzichten, doch die praktische Durchsetzung ist aufwendig und kostspielig.

Interessant ist in diesem Zusammenhang auch, wie sich Haftungsfragen bei technologischen Transformationen generell verschieben — wie etwa bei der Vodafone-Übernahme von Three für 5 Milliarden Euro, die Netzinfrastruktur und damit auch KI-abhängige Dienste betrifft, oder bei der Abschaltung des 2G-Mobilfunkstandards durch A1 Telekom Austria, die zeigt, wie Infrastrukturentscheidungen Haftungsfragen bei abhängigen Systemen aufwerfen.

Was Unternehmen jetzt tun müssen

Für Unternehmen — ob als KI-Anbieter oder als Betreiber — ergibt sich aus dem neuen Rechtsrahmen ein klarer Handlungsbedarf. Drei