Wird Verantwortung künftig in der Black-Box von KI begraben? (Teil 3)

Wer die Frage nach dem Verschulden bei KI gesteuerten Anlageberatungen stellt, kommt kaum weiter. Warum ist das so?

Bei Black Box Algorithmen ist die Frage, wie Entscheidungen getroffen werden, häufig nur schwer zu beantworten (sog. Opazitätsrisiko). Selbst dem Entwickler ist es oft nicht mehr möglich, den Fehler zu finden oder zu bestimmen. Es liegt ein Kausalitätsproblem vor. Das bereitet Anspruchsstellern große Probleme. Pflichtverletzungen lassen sich nicht beweisen, also bleibt unklar, wer in solchen Konstellationen die Beweislast trägt. Denn in KI-Systemen fehlt eine eigenständige Rechtspersönlichkeit. Nach aktueller Rechtslage muss man daher auf das Fehlverhalten des Nutzers, der sich des Black Box Algorithmus bedient, nach §280 Abs. 1 BGB verweisen.

Demnach würde der Nutzer selbst für Schaden aufkommen müssen, der ihm durch KI entstanden ist. Der Erfinder einer KI-Applikation aber bleibt nach dieser Auffassung außen vor, sofern ihm nicht grobfahrlässige Fehlentscheidungen nachgewiesen werden können.

Hat man die Haftungsfrage vergessen, vernachlässigt oder Schritt für Schritt – mit Hoffnung auf Kosteneinsparungen – ausgeblendet?

Technische Innovation und Anpassung der Rechtsprechung laufen nur selten im Einklang. Wie es häufig so ist, versuchen Juristen zunächst die Frage nach der Pflichtverletzung mit der bereits vorhandenen Rechtsprechung zu beantworten. Irgendwann ist man dann an einem Punkt, wo die aktuelle Rechtsprechung nicht mehr eindeutig greift oder zumindest widersprüchlich ausgelegt werden kann. Erst dann reagiert der Gesetzgeber mit entsprechenden Anpassungen.

Im Grunde genommen bewegen wir uns hier auch in einem hochregulierten Bereich. Nach den Grundsätzen der EU-Richtlinie zur Harmonisierung der Finanzmärkte MIFID-II müssen Anlageberatungen, egal ob menschlich oder maschinell, immer dem „Suitability“-Prinzip genügen, also dem Prinzip der Geeignetheit. Man kann demnach Rentnern also nicht ohne weiteres „Junk Bonds“ verkaufen.

Meine Prognose ist: Wenn undurchsichtige Back Box Algorithmen ohne jegliche Validierung auf die Finanzmärkte losgelassen werden, könnten sich Flash Crashes in immer kürzeren Abständen wiederholen. Zum Glück gibt es bereits Gesetze, die es erlauben, bestimmte Finanzinstrumente vom Handel auszuschließen (vgl. § 73 WpHG). Das hält das Kursrutschpotential in Grenzen.

Wie könnte eine Lösung auch für den KI gesteuerten Anlagebereich mit Robo-Advisorn aussehen?

Es gibt eine Vielzahl von vorimplementierten Erklärungsmodellen (wie z.B. LIME und SHAP), die quasi universal, anwendbar sind. Allerdings nutzen die Firmen diese kaum, auch weil sie nicht gesetzlich vorgeschrieben sind.

Durch die „Suitability“-Forderung gemäß der oben genannten MIFID II-Richtlinie ist meines Erachtens der Einsatz von Transparenzalgorithmen andererseits zwingend notwendig. Sie würden das Nutzervertrauen erhöhen, Assoziationen von Input und Output herstellen, sowie verlässliche und faire RA-Systeme erzeugen, die zudem im Einklang mit aktuellen Datenschutzbestimmungen stehen und somit die Identität des Nutzers wahren.

Ohne Erklärbarkeit durch Transparenzalgorithmen kann keine Interpretation und somit auch keine Validierung seitens des prüfenden Fachpersonals vorgenommen werden.

Dem Recht auf Erklärung weicht in der Praxis bisweilen das Recht auf Vergessen – was halten Sie dagegen?

Unsere Empfehlungen zum Einsatz von Transparenzalgorithmen erstrecken sich hierbei auf fünf Gütekriterien: Vertrauen, Assoziationen, Verlässlichkeit, Fairness und Identität.

Ist eine Gefährdungshaftung durchführbar?

Geschädigte Investoren von KI gesteuerten Anlageberatungen können allenfalls eine Klage auf Schadensersatz wegen Pflichtverletzung gegenüber den Finanzdienstleistern geltend machen. Es lässt sich darüber streiten, ob der Betreiber des Robo-Advisors für einen Programmierfehler verantwortlich gemacht werden kann. Insbesondere bei Black Box Algorithmen, die nicht mehr auf expliziten Programmierlogiken wie einfachen Wenn-Dann-Beziehungen bestehen, ist es sehr schwer hier einen „tatsächlichen“ Fehler in der Implementierung ausfindig zu machen. Der Fehler könnte lediglich in der nicht sachgerechten Steuerung der Inputparameter liegen.

Wenn eine Haftung des Herstellers aufgrund einer fehlenden Rechtsgutverletzung ausscheidet, wäre die Einführung einer eigenständigen Gefährdungshaftung des Betreibers von Robo-Advisorn im Rahmen der Produkthaftung begrüßenswert.