Zum Hauptmenü Zum Inhalt

Künstliche Intelligenz: Allheilsbringer oder Haftungsfalle?

von Johanna Fischer, Carina Gstöttner | 31.03.2021

Artificial Intelligence, „AI“ bzw. „KI“ sind längst mehr als nur Modewörter: Der Einsatz von KI ist nicht nur in der Industrie, Medizin und im Finanzdienstleistungsbereich, sondern auch im privaten Lebensbereich angekommen. Alexa, Staubsaugerroboter oder selbstfahrende Rasenmäher sind aus vielen Haushalten nicht mehr wegzudenkende Helfer geworden. Auch der selbst einkaufende Kühlschrank wird zur bequemen Einkaufshilfe.

Beitragsbild
Photo by Possessed Photography on Unsplash

KI nimmt uns damit Erledigungen des Alltags aber auch im Berufsleben ab, und löst mittels Muster- und Bilderkennung, Spracherkennung, Robotik und maschinellem Lernen komplexe Probleme. Das Schöne daran: KI-Systeme sind intelligent und lernfähig, analysieren ihre Umwelt (in erster Linie Daten) und handeln (jedenfalls bis zu einem gewissen Grad) autonom. Was im Rahmen der Handhabung bequem sein mag, kann zur Haftungsfalle werden. Denn wer haftet bei Fehlern? Eine ausdrückliche gesetzliche Grundlage für Ansprüche fehlt und die Rechtsprechung hat sich mit den damit verbundenen Rechtsfragen bislang (kaum) befasst.

Zu denken ist an eine Haftung des Herstellers oder aber eine Haftung desjenigen, der KI einsetzt, um eigene Sorgfaltspflichten zu erfüllen (Anwender).

  • Dass im Rahmen des allgemeinen Gewährleistungsrechts verschuldensunabhängig für autonome Softwareprogramme bzw. Softwareagenten und damit für KI (auch bei fortlaufender Bereitstellung) einzustehen ist, wird jedenfalls mit Umsetzung der beiden RL (EU) 2019/770 und RL (EU) 2019/771 klargestellt. Mit diesen wird eine uneingeschränkte Haftung des Vertragspartners für die Vertragsmäßigkeit von KI sichergestellt.
  • Bei Programmierfehlern steht zudem eine Haftung des Herstellers nach Verschulden im Raum. Aufgrund der stetigen Weiterentwicklung von KI-Systemen stellen sich schwierigere haftungsrechtliche Abgrenzungsfragen – wo liegt der den Schaden begründende Fehler, wer hat ihn verursacht und welche Beweislastregeln sollen diesbezüglich gelten?
  • Ob KI unter die allgemeinen Gefährdungshaftungsbestände fällt, was den Anwendungsbereich einer verschuldensunabhängigen Haftung für Schäden eröffnen würde, scheint fragwürdig. Noch offen ist, ob Software als Produkt gilt und somit den Regelungen des Produkthaftungsgesetzes unterliegt. Selbst wenn, wäre fraglich, ob der Hersteller von KI dann, wenn KI in eine körperliche Sache (zB selbstfahrendes Auto) integriert ist als Endhersteller haftet. Hinzu kommt, dass die Haftung für ein Produkt in der Regel nur für jenen Zustand übernommen wird, den ein Produkt zum Zeitpunkt seines Inverkehrbringens hat. Da sich KI ständig weiterentwickelt ist fraglich, ob auch eine Haftung für Weiterentwicklungen bestehen soll.

Was gilt nun aber für den Anwender, der sich KI bedient, um eigene vertragliche Pflichten zu erfüllen: kann er sich durch den Einsatz von KI von ihm obliegenden Pflichten befreien? In Einzelbereichen wurde die Zulässigkeit des Einsatzes von KI zur Erfüllung (eigener) Sorgfaltspflichten bereits ausdrücklich geregelt: Banken ist es beispielsweise aufgrund der Änderung des Finanzmarkt-Geldwäschegesetzes („FM-GwG“) künftig erlaubt, KI für das Überwachen von Transaktionsströmen zu verwenden. Gleichzeitig wurde in den Gesetzesmaterialien zu § 7a FM-GwG aber festgehalten, dass der Einsatz von KI die Banken nicht von der Haftung für die Einhaltung der Vorschriften gemäß FM-GwG befreit.

Weitere Anwendungsgebiete eröffnen sich im Zusammenhang mit automatisierten Identifikationsmöglichkeiten (Know-Your-Customer Prüfung). Problematisch in diesem Zusammenhang ist allerdings, dass die Aufsichtsbehörde derartige Kundenidentifikationen durch KI-Lösungen (anders als in Nachbarländern) bislang noch nicht anerkennen dürfte.

Erfreulich ist jedenfalls, dass sich die EU des Themas angenommen hat und nach Erstellung eines umfassenden White Paper, in dem verschiedene legislative Handlungsoptionen erörtert wurden, derzeit an einem Rechtsrahmen für KI arbeitet; ein Vorschlag der Kommission wird noch im Frühjahr erwartet. Es sollen potenzielle Auswirkungen auf Personen, Gesellschaft und Wirtschaft bestmöglich reguliert und ein wirtschaftliches Umfeld geschaffen werden, in dem Forschung, Innovation und Unternehmertum florieren können. Hochgradig risikobehaftete KI-Technologien sollen jederzeit von Menschen kontrolliert werden können. Offenbar wird angedacht, den Begriff des „Inverkehrbringens“ in Zusammenhang mit dem Produkthaftungsrecht zu überarbeiten, um so zu berücksichtigen, dass sich Produkte ändern und auch verändert werden können. Neben der grundlegenden Risikobewertung, die vor dem Inverkehrbringen eines Produkts durchgeführt werden muss, könnte auch ein neues Risikobewertungsverfahren für Produkte, bei denen es während ihrer Lebensdauer zu erheblichen Änderungen kommt, eingeführt werden. Erwogen wird daneben die Einführung einer gesetzlichen Versicherung, welche KI-Schäden absichern soll. Beitragspflichtig könnten Hersteller und professionelle Anwender sein.

Haben Sie Fragen zum Thema?