Arxiv verschärft Regeln für KI-generierte Forschungsarbeiten

KI-Tools sind im akademischen Alltag für viele Studierende längst selbstverständlich. Einheitliche Richtlinien für den Umgang mit der neuen Technologie fehlen jedoch häufig noch.

Einige Prüfungsämter setzen selbst KI ein, um Plagiate aufzudecken, während die Nutzung in wissenschaftlichen Arbeiten zunehmend reguliert wird. Nun hat auch das Forschungsarchiv Arxiv beschlossen, strenger mit KI-generierten Werken umzugehen.

Arxiv ist ein weit verbreitetes Open-Access-Archiv für wissenschaftliche Vorabveröffentlichungen. Mehr als 20 Jahre lang wurde die Plattform von der Cornell University gehostet und entwickelte sich zu einem zentralen Kanal für den Forschungsaustausch in Disziplinen wie Informatik und Mathematik.

Derzeit wandelt sich Arxiv zu einer unabhängigen gemeinnützigen Organisation um. In diesem Zuge verschärft das Archiv die Regeln gegen den unkritischen Einsatz großer Sprachmodelle (LLM).

Erste Maßnahmen sind bereits ergriffen: Erstautorinnen und -autoren müssen eine Empfehlung etablierter Forschender vorweisen. Ziel ist es, der wachsenden Zahl minderwertiger KI-generierter Beiträge entgegenzuwirken.

Thomas Dietterich, Vorsitzender der Informatikabteilung von Arxiv, schrieb kürzlich auf X: „Wenn eine Einreichung unwiderlegbare Beweise dafür enthält, dass die Autor:innen die Ergebnisse der LLM-Generierung nicht überprüft haben, bedeutet das, dass wir der Arbeit nicht vertrauen können.“ Als Beispiel nannte er halluzinierte Quellenangaben.

Bei den neuen Regeln handelt es sich nicht um ein generelles KI-Verbot. Vielmehr geht es darum, dass Autorinnen und Autoren die volle Verantwortung für ihre Werke übernehmen – unabhängig davon, wie die Inhalte entstanden sind.

Wer unangemessene Sprache, plagiierte Inhalte, falsche Quellenangaben oder irreführende Informationen direkt aus einem KI-Modell übernimmt, haftet dafür. Bei entsprechenden Nachweisen droht ein einjähriges Arxiv-Verbot.

Nach Ablauf des Verbots müssen betroffene Forschende ihre Einreichungen zunächst durch eine anerkannte Peer-Review-Plattform akzeptieren lassen, bevor sie erneut bei Arxiv einreichen dürfen.

Gegenüber 404 Media erklärte Dietterich, dass die Regel bereits nach dem ersten Verstoß greife. Allerdings müssen Moderatorinnen und Moderatoren das Problem melden und Abteilungsvorsitzende die Beweise bestätigen, bevor eine Strafe verhängt wird. Einsprüche sind möglich.

Aktuelle Forschungsergebnisse zeigen, dass erfundene Zitate in der biomedizinischen Literatur zunehmen – ein Trend, der vermutlich auf den Einsatz von KI zurückzuführen ist.

Auch in Deutschland ist KI an Universitäten weit verbreitet. Laut einer bundesweiten Umfrage der Hochschule Darmstadt nutzten im Jahr 2025 bereits 92 Prozent der Studierenden Tools wie ChatGPT zumindest gelegentlich.

Mehr als zwei Drittel der Studierenden setzen KI ein, um Verständnisfragen zu klären. Rund 52 Prozent verwenden sie auch für Textanalyse und -erstellung.

KI-generierte Passagen zuverlässig zu erkennen, bleibt jedoch schwierig. Universitäten setzen seit Jahren auf Plagiatsprüfungstools: Turnitin, das 2023 um einen KI-Detektor erweitert wurde, ist eines der bekanntesten.

Wie ABC im vergangenen Jahr berichtete, wurden an der Australian Catholic University (ACU) zahlreiche Studierende durch dieses Tool fälschlicherweise des Schummelns beschuldigt. Für einige hatte das ernsthafte berufliche Folgen.

Eine Pflegestudentin erhielt kurz vor ihrem Abschluss eine E-Mail, in der ihr der Einsatz von KI in einer Hausarbeit vorgeworfen wurde. Bis zu ihrer Entlastung dauerte es sechs Monate.

In dieser Zeit enthielt ihr Zeugnis einen Vermerk, was laut der Studentin dazu führte, dass sie als Berufseinsteigerin keine Stelle fand. Die Universität hatte sich offenbar zu oft ausschließlich auf die automatisierten Bewertungen verlassen.

Dabei empfehlen die Entwickler des Tools ausdrücklich eine manuelle Prüfung. Der Fall zeigt die Risiken einer übermäßigen Abhängigkeit von automatischer Plagiatserkennung auf.

Arxiv reagiert mit seinen neuen Richtlinien auf wachsende Qualitätsprobleme durch KI. Die Wissenschaftsgemeinschaft steht vor der Herausforderung, technologische Hilfsmittel sinnvoll zu regulieren.

Letztlich geht es darum, die Integrität wissenschaftlicher Publikationen zu wahren – ohne die Chancen der Technologie pauschal zu verwerfen. Die Debatte darüber wird anhalten.