Offenbar fehlt es an kritischem Bewusstsein: Bei einem Studienexperiment der Dualen Hochschule haben die Probanden teils sogar grobe Fehler des Chatbots unreflektiert übernommen. Man habe „erhebliche Defizite“ festgestellt.
Studierende sind beim Einsatz von Künstlicher Intelligenz (KI) wie ChatGPT zu unkritisch und übernehmen deshalb in Arbeiten ohne genauere Prüfung falsche Ergebnisse. Zum diesem Schluss kommt eine aktuelle Studie der Dualen Hochschule Baden-Württemberg (DHBW) Stuttgart und Heilbronn. In der Studie, mit der das kritische Denken der Studierenden im Umgang mit KI getestet werden sollte, mussten die 307 Probanden eine wissenschaftliche Arbeit erstellen. Dabei konnten sie auch ChatGPT verwenden, zur Informationsrecherche, aber auch zur Erläuterung komplexer Sachverhalte.
Die Studienleiter Nicole Klein und Ulrich Bucher, beide Professoren der DHBW im Bereich Betriebswirtschaftslehre, machten sich bei der Aufgabenstellung Schwächen des Chatbots zunutze. So kann dieser derzeit nur auf Inhalte bis zum Jahr 2021 zurückgreifen.
Darüber hinaus wollte man herausfinden, ob Studierende, die ChatGPT schon nutzen, im Umgang damit höhere Kompetenzen haben als Kommilitonen, für die der Chatbot noch neu war. Doch die Anzahl der richtig beantworteten Fragen war in beiden Gruppen gleich. Der vorherige Umgang mit dem Chatbot hatte nicht zu einem kritischeren Bewusstsein der Studierenden geführt. Besonders bedenklich ist auch Sicht der Studienleiter, dass die Gruppe der aktiven Nutzer von ChatGPT sich bei der Anwendung des KI-Tools fälschlicherweise sogar höhere Kompetenzen zuschreiben als die Neulinge auf dem Gebiet. Die Nutzung alleine scheine „nicht dazu zu führen, dass die notwendigen Kompetenzen tatsächlich aufgebaut werden“, heißt es.
Das Fazit der DHBW fällt entsprechend kritisch aus. „Da die Ausgaben von ChatGPT sprachlich schön verpackt sind, schreiben viele Nutzende der künstlichen Intelligenz Fähigkeiten zu, die diese nicht oder nur eingeschränkt besitzt.“ Die Ergebnisse würden unzureichend hinterfragt und „oftmals unreflektiert übernommen“. Dies ändere sich erst, wenn den Probanden zusätzlich andere Informationsquellen wie etwa die Suchmaschine Google angeboten würden. Dann sei „die Wahrscheinlichkeit einer korrekten Antwort rund siebzehn Mal so hoch“.
Dies zeige, dass die Studierenden durchaus in der Lage seien, aus verschiedenen Quellen die richtige Antwort zu identifizieren. Nur: „Der Großteil der Probanden macht sich nicht die Mühe einer eigenen Informationsrecherche und hinterfragt den Output von ChatGPT nicht hinreichend“, erklären die Studienleiter. Es gebe deshalb „einen erheblichen Bedarf, das kritische Denken stärker zu fördern“. Denn kritisches Denken sei „eine der Schlüsselkompetenzen des 21. Jahrhunderts“, betont Ulrich Bucher.