Wird Verantwortung künftig in der Black-Box von KI begraben? (Teil 3)

Bei Black Box Algorithmen ist die Frage, wie Entscheidungen getroffen werden, häufig nur schwer zu beantworten (sog. Opazitätsrisiko). Selbst dem Entwickler ist es oft nicht mehr möglich, den Fehler zu finden oder zu bestimmen. Es liegt ein Kausalitätsproblem vor. Das bereitet Anspruchsstellern große Probleme. Pflichtverletzungen lassen sich nicht beweisen, also bleibt unklar, wer in solchen Konstellationen die Beweislast trägt. Denn in KI-Systemen fehlt eine eigenständige Rechtspersönlichkeit. Nach aktueller Rechtslage muss man daher auf das Fehlverhalten des Nutzers, der sich des Black Box Algorithmus bedient, nach §280 Abs. 1 BGB verweisen.

Demnach würde der Nutzer selbst für Schaden aufkommen müssen, der ihm durch KI entstanden ist. Der Erfinder einer KI-Applikation aber bleibt nach dieser Auffassung außen vor, sofern ihm nicht grobfahrlässige Fehlentscheidungen nachgewiesen werden können.

Es gibt eine Vielzahl von vorimplementierten Erklärungsmodellen (wie z.B. LIME und SHAP), die quasi universal, anwendbar sind. Allerdings nutzen die Firmen diese kaum, auch weil sie nicht gesetzlich vorgeschrieben sind.

Durch die „Suitability“-Forderung gemäß der oben genannten MIFID II-Richtlinie ist meines Erachtens der Einsatz von Transparenzalgorithmen andererseits zwingend notwendig. Sie würden das Nutzervertrauen erhöhen, Assoziationen von Input und Output herstellen, sowie verlässliche und faire RA-Systeme erzeugen, die zudem im Einklang mit aktuellen Datenschutzbestimmungen stehen und somit die Identität des Nutzers wahren.

Ohne Erklärbarkeit durch Transparenzalgorithmen kann keine Interpretation und somit auch keine Validierung seitens des prüfenden Fachpersonals vorgenommen werden.

Unsere Empfehlungen zum Einsatz von Transparenzalgorithmen erstrecken sich hierbei auf fünf Gütekriterien: Vertrauen, Assoziationen, Verlässlichkeit, Fairness und Identität.