Studie: Menschen überschätzen Kompetenzen von KI-Systemen

Ein internationales Forschungsteam hat untersucht, inwieweit Menschen KI-generierten Antworten mehr vertrauen als jenen anderer Menschen. Das Ergebnis zeigt, dass die Kompetenz von KI-Systemen oft überschätzt wird.

Forscher der University of Waterloo in Kanada und des University College London haben die Kommunikation zwischen Menschen sowie zwischen Mensch und Maschine verglichen.

Im Fokus stand die Frage, wie Probanden die Sicherheit und das Selbstvertrauen von Antworten bewerten – je nachdem, ob diese von einem Menschen oder einer KI stammen.

Die Studie ergab eine systematische Überschätzung der Selbstsicherheit von KI-Systemen im Vergleich zu Menschen. Dieser Effekt trat selbst dann auf, wenn das Verhalten identisch war.

Die Ergebnisse wurden im Fachjournal „Communications Psychology“ veröffentlicht.

„Da KI-Systeme immer ausgefeilter werden, verlassen sich Menschen zunehmend auf sie, um Ratschläge zu erhalten, etwa dazu, welche Produkte sie kaufen oder welche Inhalte sie konsumieren sollen“, erklärte Clara Colombatto vom Institut für Psychologie der University of Waterloo gegenüber phys.org.

Ein ähnliches Vertrauen spiegele sich bei menschlicher Interaktion, bei der man Anleitung und Rat von anderen suche, so Colombatto.

Ein wichtiger Unterschied sei aber, dass Menschen beim Erteilen von Ratschlägen oft mitkommunizierten, wie sicher sie sich ihrer Einschätzung seien. Davon sei abhängig, wie sehr man dem Rat vertraue und sich darauf verlasse, so die Psychologin und Studienautorin.

Genau diese Selbsteinschätzung fehle aber den KI-Systemen wie ChatGPT oder Gemini. Diese generierten die Antworten auf bestimmte Fragen, ohne anzugeben, wie sicher sie sich ihrer Sache seien.

Im Rahmen der Untersuchungen stellten Colombatto und ihre Kollegen fest, dass Menschen ihr Vertrauen in die KI-Kompetenz daraus ableiteten, wie schnell die jeweilige Antwort kam oder als wie fähig das System allgemein wahrgenommen wurde.

Die Konsequenz dieser Selbstfolgerung: „Menschen können am Ende zu viel Vertrauen in KI-Empfehlungen setzen, selbst wenn das System unsicher oder fehleranfällig ist“, warnt Colombatto.

Die Forscher arbeiten jetzt daran, Menschen mehr Unterstützung an die Hand zu geben, damit diese die Kompetenzen von KI-Systemen künftig besser erkennen können.

Die Studie zeigt, dass Nutzer oft blind auf KI-Vorschläge vertrauen – etwa bei Kaufentscheidungen oder der Auswahl von Online-Inhalten.

Dieses Verhalten birgt Risiken, da KI-Systeme keine eigene Unsicherheit kommunizieren können.

Die Autoren empfehlen, Transparenzmechanismen zu entwickeln, die die Zuverlässigkeit von KI-Antworten anzeigen.

Ohne solche Hilfsmittel bestehe die Gefahr, dass Menschen ihre Entscheidungen auf unzureichend abgesicherte Informationen stützen.

Die Ergebnisse unterstreichen die Notwendigkeit, das Vertrauen in KI kritisch zu hinterfragen.

Weitere Forschung soll klären, wie sich die Wahrnehmung von KI-Kompetenz durch unterschiedliche Präsentationsformen beeinflussen lässt.

Letztlich geht es darum, eine gesunde Balance zwischen Vertrauen und Skepsis im Umgang mit KI zu finden.

Die Studie liefert einen wichtigen Beitrag zum Verständnis der Mensch-KI-Interaktion und zeigt Handlungsbedarf für Entwickler und Nutzer gleichermaßen auf.