KI-Zitate im eigenen Buch: Autor rätselt über Wahrheit der Zukunft | t3n

Der Autor Steven Rosenbaum wollte ergründen, wie Künstliche Intelligenz unsere Realität beeinflusst – und wurde selbst Opfer des Phänomens. Sein Buch „The Future of Truth“ enthält offenbar zahlreiche KI-erfundene Zitate.

Das Werk „The Future of Truth: How AI Reshapes Reality“ von Steven Rosenbaum wird von namhaften Journalistinnen und Journalisten gelobt. Das Vorwort verfasste sogar die Nobelpreisträgerin Maria Duarte. Doch nun sorgt das Buch aus einem anderen Grund für Schlagzeilen.

Wie die New York Times (NYT) berichtet, enthält „The Future of Truth“ zahlreiche Zitate, die offenbar von einer Künstlichen Intelligenz erfunden wurden. Dies ist besonders brisant, da das Buch selbst die Frage untersucht, wie KI unsere Wahrnehmung der Realität verändert.

Auf den ersten Blick wirkt der Vorfall peinlich, denn die Werbung für das Buch verspricht, der Autor wolle herausfinden, „wie die Wahrheit verdreht, verwischt und neu konstruiert wird und wie sich die Art und Weise verändert, wie wir lieben, arbeiten, lernen und uns erinnern“.

Rosenbaum, ein erfahrener Medienfachmann und Geschäftsführer des gemeinnützigen Sustainable Media Center, reagiert offen auf die Kritik. Er hatte in seinem Buch darauf hingewiesen, dass er für Recherche, Schreiben und Editieren die KI-Tools ChatGPT und Claude genutzt hat.

„Das entschuldigt diese Fehler jedoch nicht, für die ich die volle Verantwortung übernehme“, so Rosenbaum gegenüber der NYT. Er arbeite nun mit den Herausgebern zusammen, um „die betroffenen Passagen gründlich zu prüfen und umgehend zu korrigieren; alle künftigen Ausgaben werden entsprechend korrigiert.“

Die New York Times listet konkrete Beispiele auf. So kommt die bekannte Tech-Journalistin Kara Swisher mit einem Zitat zu Wort, das sie nach eigenen Angaben nie gesagt hat. Auch ein Satz, der vermeintlich aus dem Buch „How Emotions Are Made: The Secret Life of the Brain“ stammt, kommt dort gar nicht vor, wie Autorin Lisa Feldman Barrett bestätigt.

In anderen Fällen ordnet das Buch Zitate falschen Quellen zu. So soll ein Zitat von Meredith Broussard, Professorin an der New York University, aus ihrem Buch „Artificial Unintelligence“ stammen. Tatsächlich stammt die Textstelle aus einem Interview, das Broussard 2023 gegeben hat.

An einer weiteren Stelle hat der Autor offenbar ein echtes Zitat mit KI-generierten Falschangaben vermischt. Die genauen Umstände, wie diese Fehler entstanden sind, sind noch unklar – Rosenbaum selbst rätselt darüber.

Steven Rosenbaum sieht aber auch einen Vorteil in dem Vorfall: Er erklärte gegenüber der NYT, dass, falls dieser Vorfall „als Warnung vor den Risiken KI-gestützter Recherche und Überprüfung dient, dies genau der Grund ist, warum ich das Buch geschrieben habe“.

Seiner Meinung nach schmälern die Fehler nicht die übergeordneten Fragen des Buches. Das Werk befasse sich mit grundlegenden Themen wie Wahrheit, Realität und den gesellschaftlichen Auswirkungen von KI – und genau diese Diskussion werde nun auf unerwartete Weise angestoßen.

Auf dem Buchmarkt wird der Einsatz von KI-Tools zunehmend zum Problem. So fluten KI-geschriebene Bücher den Markt, wie jene 200, die eine Autorin in einem einzigen Jahr geschrieben haben will. Auch das Leseerlebnis leidet, wenn etwa vergessene KI-Antworten im Text stehenbleiben.

Der Fall Rosenbaum zeigt, wie schnell selbst erfahrene Medienschaffende von den Tücken der KI eingeholt werden. Er unterstreicht die Notwendigkeit, KI-generierte Inhalte kritisch zu prüfen, anstatt ihnen blind zu vertrauen.

Die Branche diskutiert derzeit intensiv über den angemessenen Umgang mit KI im Journalismus und in der Buchproduktion. Viele Verlage und Autoren stehen vor der Herausforderung, die Effizienzvorteile der KI zu nutzen, ohne die Glaubwürdigkeit ihrer Inhalte zu gefährden.

Rosenbaum kündigte an, eine überarbeitete Version seines Buches zu veröffentlichen, in der alle fehlerhaften Zitate entfernt oder korrigiert werden. Er hofft, dass der Vorfall als Lehrstück für den verantwortungsvollen Umgang mit KI dient.

Die New York Times berichtet, dass Rosenbaum bereits mit betroffenen Expertinnen und Experten Kontakt aufgenommen hat, um die genauen Fehlerquellen zu identifizieren. Er zeigt sich entschlossen, aus dem Vorfall zu lernen und die Qualität seines Werkes zu sichern.

Der Fall wirft grundsätzliche Fragen auf: Wie können Autoren sicherstellen, dass KI-generierte Inhalte korrekt sind? Welche Verantwortung tragen Verlage bei der Prüfung KI-unterstützter Manuskripte? Und wie verändert KI das Verständnis von Autorschaft und Wahrheit?

Für Rosenbaum ist klar: Die KI ist ein Werkzeug, das sorgfältig kontrolliert werden muss. Er appelliert an seine Kollegen, KI nicht als Ersatz für menschliche Überprüfung zu sehen, sondern als Unterstützung, die einer kritischen Gegenlektüre bedarf.

Die Diskussion um KI im Buchmarkt wird sich in den kommenden Monaten weiter verschärfen. Experten rechnen mit einem deutlichen Anstieg von KI-generierten Inhalten, was die Notwendigkeit neuer Qualitätsstandards und Prüfmechanismen mit sich bringt.

Rosenbaums Buch bleibt trotz der Kontroverse ein wichtiger Beitrag zur Debatte über KI und Wahrheit. Der Autor hofft, dass der Vorfall die Leser für die Risiken und Chancen der KI sensibler macht, statt sie von der Lektüre abzuhalten.

Auch t3n wird die Entwicklungen in diesem Bereich weiter beobachten und darüber berichten. Der Fall zeigt, wie aktuell und relevant die Frage nach der Zukunft der Wahrheit im Zeitalter der KI ist – selbst für diejenigen, die sich professionell mit dem Thema befassen.