Verstehen Chattbots was sie schreiben?

Aus Wiki1

Version vom 13:26, 16. Jun. 2024

Dieser Artikel befindet sich in der Entstehungsphase. Er ist unvollständig und noch nicht korrekt ausformuliert.

Anlass

Anlass für diesen Artikel ist ein YouTube-Video von Sabine Hossenfelder: I believe chatbots understand part of what they say. Let me explainin

In dem Video erläutert Sabine Hossenfelder, warum sie glaubt, dass die aktuellen Chatbots bereits über ein - wenn auch rudimentäres - Verständnis zu den Antworten verfügen, die sie liefern.

Ich schätze ihre Videos sehr, teile aber ihre Einschätzungen zur KI nicht und möchte in diesem Artikel meine Argumente aufführen, warum ich dies nicht glaube und warum ich diese Diskussion für wenig zielführend halte. Die Ideen und Gedanken finden sich auch verteilt in den Artikeln zum Thema Kategorie:Leben und Technik.

Grundsätzliches

Warum beschäftigt mich dieses Thema überhaupt? Ich interessiere mich seit den 90iger Jahren für das Thema künstliche Intelligenz. Angeregt und stark beeinflusst wurde ich durch die Bücher von Joseph Weizenbaum und seiner kritischen Haltung zur KI. Als Ingenieur interessiere ich mich für Technik und ich verfüge zumindest über ein paar naturwissenschaftliche Grundkenntnisse, um manche wissenschaftlichen Aussagen bewerten zu können - Quantenphysik gehört leider nicht dazu, das sollte aber bei diesem Thema keine Rolle spielen. Das nur zum Einstieg, um meine Haltung und meine Argumente besser einordnen zu können.

Das wissenschaftliche Feld der "künstlichen Intelligenz" ist nach meiner Einschätzung noch in einem Stadium vergleichbar der Allchemie. Viele Menschen haben viele Ideen, experimentieren und erzählen über ihre Experimente. Sie probieren und "spielen" und machen uns große Versprechungen.

Dabei entstehen beeindruckende Dinge - aber von einem Verständnis der grundlegenden Zusammenhänge sind wir weit entfernt. Es beginnt mit den verwendeten Begriffen, für die sich die Wissenschaft bis heute auf keine gemeinsame Definitionen einigen konnte. Bewußtsein, Verstehen, Lernen, Intelligenz und Kreativität werden je nach Fachgebiet anders eingeordnet und bewertet. Mit Einzug der KI mischen jetzt auch Informatiker und Mathematiker in diesen Forschungsfeldern mit und tragen zur Zeit noch mehr zur Verwirrung als zu Klärung bei.

Da es keine klaren Definitionen gibt, existieren auch noch keine Bewertungs- und Vergleichskriterien für Intelligenz, Bewußtsein usw.. Die "Experten" können daher viele plausible Erzählungen generieren, haben aber keine einheitlichen Messlatten für den Vergleich unterschiedlicher Systeme. Es werden haufenweise Behauptungen zur KI aufgestellt, ohne dabei existierende intelligente Systeme einzubeziehen. In den meisten Erzählungen taucht lediglich der Mensch als "Benchmark" auf: ChatGPT kann sprachlich korrekte Antworten geben, ein Mensch kann sprachlich korrekte Antworten geben - also ist ChatGPT bald so klug wie ein Mensch! Wir brauchen nur größere Computer, größere künstliche neuronale Netze und mehr Daten.

Eine belastbare Theorie zu Intelligenz und Bewusstsein müsste meiner Meinung nach aber auch intelligente Systeme jenseits von Computer und menschlichem Gehirn erfassen und erklären: Bakterien, Insekten, Pflanzen, Aliens. Bevor wir unsere Energie in die Plausibilisierung von "Glaubenssätzen" stecken, sollten wir Mühe und Energie dazu verwenden, eine wissenschaftlich tragfähige Theorie von Verstehen, Intelligenz und Bewusstsein zu schaffen. Wenn wir es gut machen, können wir das tatschlich in 10-20 Jahren schaffen. KI kann uns mit ihren experimentellen Möglichkeiten helfen. Aber jetzt ist es noch nicht so weit.

Einschätzung des aktuellen Forschungsstand