Haftung mit Fragezeichen
Rechtsrisiken beim Einsatz künstlicher Intelligenz
Künstliche Intelligenz dringt immer stärker in lebenswichtige Alltagsbereiche vor. KI-gestützte Entscheidungs- und Beurteilungsprozesse können erhebliche Konsequenzen haben, aber elektronische Systeme haften nicht für die Ergebnisse, die sie liefern.
Künstliche Intelligenz, die auf Grundlage maschinellen Lernens eigene Entscheidungen trifft, verdankt ihre Leistungsfähigkeit nicht zuletzt dem Umstand, dass sich ihre Ergebnisse nicht einfach regelorientiert herleiten und so vorhersagen lassen. Gerade diese im Konzept verankerte Unberechenbarkeit macht Juristen Kopfzerbrechen: Wer steht etwa dafür gerade, wenn jemandem durch den Betrieb einer KI ein Schaden entsteht?
Ein besonders aufmerksamkeitsträchtiges KI-Einsatzfeld ist das autonome Fahren. In den USA hat es bereits vor vier Jahren einen Aufsehen erregenden Unfall mit einem vollautomatischen Auto gegeben. In Tempe, Arizona, wollte die 49-jährige Elaine Herzberg am Abend des 18. März 2018 zu Fuß regelwidrig eine Straße überqueren. Dabei wurde sie von einem selbstfahrenden Test-SUV des Typs Volvo XC90 angefahren und getötet. In dem Wagen war ein von der Uber Advanced Technologies Group entwickeltes automatisiertes Fahrsystem eingebaut. Die Software des Fahrsystems erfasste die Situation erst ungefähr 1,5 Sekunden vor dem Zusammenstoß; der Algorithmus konnte keine Ausweichroute mehr berechnen. Wie sich herausstellte, war die KI des Fahrzeugs schlichtweg nicht darauf vorbereitet, dass Fußgänger regelwidrig auftauchen können [1, 2, 3].
Wer würde nach bestehendem deutschem Recht in einer solchen Situation haften? Gegen den Fahrzeugbetreiber kommt vor allem ein „deliktischer“ Anspruch aus § 823 Abs. 1 des Bürgerlichen Gesetzbuchs (BGB) in Betracht: Dabei müssen elementare Rechtsgüter wie Leib, Leben, Freiheit oder Eigentum betroffen sein. Eine Haftung setzt zudem voraus, dass der Verantwortliche schuldhaft gehandelt hat. Man müsste ihm also zumindest Fahrlässigkeit vorwerfen können, nämlich dass er seine Sorgfaltspflicht verletzt hat. Eine solche Pflicht besteht aber nur, wenn er in den Ablauf eingreifen kann. Außerdem muss er zur Überwachung verpflichtet sein. Das betrifft noch den vierten der fünf Level der Fahrzeugautonomie nach der Einstufung, die die Industrie geschaffen hat: vollautomatisches, aber von einer menschlichen Person begleitetes Fahren.