Verstehen

In der aktuellen Flut der Publikationen zu KI taucht ein Argument sehr häufig auf:

“Systeme wie Chat GPT mögen vielleicht immer besser werden im Verfassen von Texten, aber sie werden niemals “wirklich verstehen”, weil sie nur statistische Verfahren sind, die Wahrscheinlichkeiten von Wortreihenfolgen ausrechnen.”

Leider wird hierbei nie reflektiert, wie eine Definition von “verstehen” aussehen sollte, die dieses Urteil ermöglicht. Landläufig würden wir sagen: ein Schüler muss eine Textaufgabe in Mathe verstehen, um sie richtig lösen zu können. Eine Aufgabe muss verstanden werden, um ein Programm schreiben zu können, das sie erledigt. Wenn aber Chat GPT ebendies mit Bravour leistet, und ihm dennoch kategorisch abgesprochen wird, etwas zu “verstehen”, so ist hier offenbar eine andere Definition von “verstehen” in Anschlag, als die landläufige. Dies dämmert den Autoren wahrscheinlich selber, weshalb hier sehr oft ein “wirklich” eingeschoben wird: Chat GPT kann nicht wirklich verstehen .... Es mag zwar in einem funktionalen Sinne schon verstehen – die Validität der Antworten lässt sich ja nicht bestreiten – aber in einem fundamentaleren Sinne, “in Wirklichkeit", versteht es dann doch nichts.

Mir ist noch keine wissenschaftliche Definition dieses fundamentalen Begriffes von “verstehen” begegnet - das heißt eine Definition, aus der sich überprüfbare Kriterien ableiten ließen. Damit bleibt diese Behauptung einfach ein Dogma, ein Reflex oder eine quasi-religiöse Überzeugung. Ähnliches gilt m.E. für die Begriffe “Intelligenz”, “Denken”, “Bewusstsein”, oder andere psychologische Begriffe. 

Ilya Sutskever, Chief Scientist bei OpenAI, wo Chat GPT entwickelt wurde, sagt: “Maybe we are now reaching a point, where the language of psychology is starting to be appropriate, to understandthe behavior of these neural networks” (0:17ff). Ich finde das eine sehr elegante Antwort auf die brachial anmutende Frage ob Maschinen Bewusstsein haben können. Ich selber würde nicht sagen, dass mit ChatGPT dieser Punkt erreicht ist. Aber ich denke, wir bewegen uns darauf zu, und zwar deutlich schneller, als ich vor einem Jahr noch gedacht hätte.

Und ich denke, dass diese Frage am Ende nicht in philosophischen Seminaren oder Feuilletons geklärt werden wird, sondern in der Interaktion mit den fraglichen Maschinen. Diese werden uns durch die Komplexität, Koherenz, Tiefe und Originalität ihrer Äußerungen davon überzeugen, “wirklich zu verstehen" und "jemand" zu sein - oder eben nicht. Eine Art großer, kollektiver Turing Test.

Wie können wir wissen, dass eine Katze “wirklich” Schmerz empfinden kann? Weil uns ihr Verhalten, wenn wir ihr auf den Schwanz treten, überzeugt. Ein philosophisches Argument, dass Katzen grundsätzlich keine Empfindungen haben können, könnte dieser Performance kaum standhalten.