Wird Verantwortung künftig in der Black-Box von KI begraben?

Marcus Becker, Professor für Quantitative Methoden der Wirtschaftsinformatik an der ISM Dortmund, beschäftigt sich mit Methoden des maschinellen Lernens seit vielen Jahren.

Was hat sie bei der Analyse der Lernmethoden von KI überrascht?

Am meisten hat mich überrascht, das künstliche Intelligenz - oder wie sich in den meisten Fällen herausstellt: Machine Learning (ML) - die pure Anwendung von Mathematik ist. Während meines Mathematik-Studiums habe ich mir häufig die Frage gestellt: Wofür soll das gut sein? Machine Learning Algorithmen (MLA) verbinden dabei mehrere Teilbereiche der Mathematik auf überaus elegante Weise: Optimierung und Numerik, aber auch Basiswissen aus der Stochastik, Analysis und der Linearen Algebra. Mathematik ist wie eine Sprache, die man erlernen muss, wenn man sich selbstbewusst in der Thematik von Machine Learning bewegen möchte.

Was mich ebenfalls überrascht: Wie einfach es heutzutage ist, komplexe MLA in Programmier-Code, wie z.B. Python, umzusetzen. Früher waren mehrere hundert Zeilen Code dazu nötig. Die Initialisierung eines künstlichen neuronalen Netzes (KNN) z.B. lässt sich schon mit 10 Zeilen Code realisieren. Mit Chat-GPT müssen Anwender noch nicht einmal zwingend eine Programmiersprache beherrschen. Hierzu genügt eine kurze Prompt-Eingabe und schon erhält man einen halbwegs brauchbaren Code. Das kann natürlich Fluch und Segen zugleich sein.

Aber der Erfolg von KNN gibt den Konstrukten im Grunde genommen Recht. Sie können nicht allzu schlecht sein, ansonsten wäre die Performanz dieser Modelle nicht so hoch. Ein generelles Problem, das sich hierbei ergibt, ist die Nachvollziehbarkeit dieser komplexen Modelle. KNN zählen zu den sog. Black Box Algorithmen (BBA). Wir können a priori also nicht genau feststellen, wie das Modell entscheiden wird für gegebene Input-Informationen.

Diese fußen auf einer Vielzahl von Trainingsereignissen mit denen die Algorithmen gefüttert werden. Dabei zählt, je mehr desto besser. Allerdings besteht auch immer die Gefahr, dass unsere Trainingsdaten einer bestimmten Voreingenommenheit obliegen, oder BIAS wie wir sagen. Um ein kleines Beispiel zu geben: Stellen Sie sich vor, dass Sie eine KI entwickeln möchten, die automatisiert Bewerbungen ausliest und entscheidet, ob eine Einladung zum Bewerbungsgespräch zu erteilen ist. Hierzu wird die KI mit historischen Daten von Bewerbungen und Entscheidungsresultaten (abgelehnt oder eingeladen) trainiert. Wenn in der Vergangenheit die vorwiegend durch Menschen getroffenen Entscheidungen ein bestimmtes Geschlecht diskriminieren, dann merken das die Algorithmen und übernehmen diesen BIAS auch für zukünftige Prognosen.