2+2 = 5

Man kann Chat GPT dazu überreden, dass 2+2 = 5 sei, er entschuldigt sich dann überschwänglich dafür, behauptet zu haben, es sei 4.

 

Ist das ein Beleg dafür, dass die kognitiven Leistungen, die er anderweitig an den Tag gelegt hat, nur “Fake” waren? Ich denke nicht. Ein Taschenrechner ist bzgl. der Frage nach 2+2 unbestechlich und unfehlbar, ein Kind ist es nicht. Ich sehe es eher als eine spezifische Schwäche von Chat GPT, dass er momentan noch sehr schlecht in der Lage ist, verschiedene Grade von Gewissheit zu managen. Aber es würde mich wundern, wenn es nicht möglich wäre, dieses "Halluzinieren" zu überwinden.

Auch Menschen haben oft, individuell oder gerne auch kollektiv, einen Hang zu starken kontrafaktischen Überzeugungen. Man könnte diese Plastizität der Weltbilder geradezu als ein Merkmal höherer Intelligenzen begreifen: ein Mensch ist zum Aberglauben fähig, ein Thermostat ist es nicht.