Wird Verantwortung künftig in der Black-Box von KI begraben?

Marcus Becker, Professor für Quantitative Methoden der Wirtschaftsinformatik an der ISM Dortmund, beschäftigt sich mit Methoden des maschinellen Lernens seit vielen Jahren.

Aber der Erfolg von KNN gibt den Konstrukten im Grunde genommen Recht. Sie können nicht allzu schlecht sein, ansonsten wäre die Performanz dieser Modelle nicht so hoch. Ein generelles Problem, das sich hierbei ergibt, ist die Nachvollziehbarkeit dieser komplexen Modelle. KNN zählen zu den sog. Black Box Algorithmen (BBA). Wir können a priori also nicht genau feststellen, wie das Modell entscheiden wird für gegebene Input-Informationen.

Diese fußen auf einer Vielzahl von Trainingsereignissen mit denen die Algorithmen gefüttert werden. Dabei zählt, je mehr desto besser. Allerdings besteht auch immer die Gefahr, dass unsere Trainingsdaten einer bestimmten Voreingenommenheit obliegen, oder BIAS wie wir sagen. Um ein kleines Beispiel zu geben: Stellen Sie sich vor, dass Sie eine KI entwickeln möchten, die automatisiert Bewerbungen ausliest und entscheidet, ob eine Einladung zum Bewerbungsgespräch zu erteilen ist. Hierzu wird die KI mit historischen Daten von Bewerbungen und Entscheidungsresultaten (abgelehnt oder eingeladen) trainiert. Wenn in der Vergangenheit die vorwiegend durch Menschen getroffenen Entscheidungen ein bestimmtes Geschlecht diskriminieren, dann merken das die Algorithmen und übernehmen diesen BIAS auch für zukünftige Prognosen.