Wird Verantwortung künftig in der Black-Box von KI begraben? (Teil 2)

Wie lässt sich die Güte solcher Prozesse und Resultate nachprüfen?

Zunächst freue ich mich als Stochastiker sehr darüber, wie gut die Anwendung von Wahrscheinlichkeitstheorie in der Praxis funktioniert. Mit ChatGPT haben wir ein Beispiel von einem Konstrukt, welches allein durch das Auslesen von Internetquellen Sprachkenntnisse erlernt und Sätze erzeugt, die nicht nur grammatisch korrekt sind, sondern mitunter auch Sinn ergeben. Das war vor kurzem noch undenkbar.

Wahrscheinlichkeitsberechnungen helfen dabei sehr, nicht nur einzelne Wörter, sondern ganze Textbausteine so miteinander zu assoziieren, dass es sich „menschlich“ anhört.

Als Forscher bin ich natürlich auch der Wahrheitssuche verpflichtet. Dazu gehört der Wunsch, genauer nachvollziehen zu können, wie ein Algorithmus zu einem Ergebnis kommt. Das ist gegenwärtig bei etlichen KI-Anwendungen leider nicht gegeben.

Daher plädiere ich dafür, die Überhand über die Algorithmen zu behalten und fordere den Einsatz von Transparenzalgorithmen (sog. „Explainable AI“ oder kurz XAI), um die Black Box von Künstlichen Neuronalen Netzen zu öffnen.

Verhindern somit zunehmend KI basierte Anwendungen letztlich also Innovation?

In wie weit eine allgemeine künstliche Intelligenz (AGI) zum Innovationsprozess beizutragen vermag, kann ich zum heutigen Standpunkt noch nicht sagen. Viele Innovationen sind auch aus reinem Zufall entstanden. Sog. Deep Reinforcement Learning-Algorithmen (DRLA) mischen ihre Entscheidungen auch aus einer Kombination von alt Bekanntem („Exploitation“) und Neuerung („Exploration“). Das sind rein zufällige Aktionen, die marginal zu einer Verbesserung des Entscheidungssystems führen können.

Was jedoch die menschliche Entscheidungskraft so einzigartig macht, ist die Intuition. Intuition ist technisch nur sehr schwer abbildbar. Wie gut sich allgemeine künstliche Intelligenz menschlicher Intuition annähern kann, wird sich in Zukunft zeigen. Ob diese Prozesse einen fundamentalen Mehrwert bringen oder nur semistrukturierbare Aufgaben übernhemen, also Prozesse, die einer gewissen Struktur Folge leisten, aber nicht vollständig determiniert werden können anhand von sog. „Wenn-Dann-Beziehungen“, ist Gegenstand aktueller Forschung.