# Wie oft erfinden ChatGPT und andere KIs Quellen? Die Studienlage

Stand: Oktober 2026 · Redaktion Citely · https://citely.de/ratgeber/wie-oft-erfindet-ki-quellen

Wie oft ChatGPT und andere KIs Quellen erfinden, hängt vor allem von Modell, Fach und Websuche ab: In Studien von 2023 bis 2026 reicht der Anteil erfundener Literaturangaben von 0 bis über 90 %. GPT-3.5 erfand 2023 noch 55 %, GPT-5 mit verfügbarer Websuche 2026 noch 7,13 %. Häufiger sind bei neueren Modellen andere KI-Halluzinationen: echte Quellen mit falschen Angaben oder ohne die behauptete Aussage.

| Du suchst | Kurz | Wo |
|---|---|---|
| Die wichtigsten Zahlen | GPT-3.5 lag 2023 bei 55 %, GPT-5 mit Websuche 2026 bei 7,13 %. | [Die Zahlen auf einen Blick](#wie-oft-erfindet-chatgpt-quellen-die-zahlen-auf-einen-blick) |
| Jede Studie einzeln | 24 Studien mit Modell, Fach, Quote und Begutachtung. | [Alle Studien im Überblick](#alle-studien-im-ueberblick) |
| Warum Studien so verschieden messen | Definition, Version, Thema, Prompt und Verweigerungen. | [Warum die Zahlen auseinandergehen](#warum-die-zahlen-zu-ki-halluzinationen-so-weit-auseinandergehen) |
| Ob Websuche hilft | Meist deutlich weniger, aber nicht null und nicht in jeder Studie. | [Senkt die Websuche die Rate?](#senkt-die-websuche-die-rate) |
| Echte Quellen mit Fehlern | Falsche Metadaten oder eine Aussage, die die Quelle nicht deckt. | [Echte Quelle, falsche Angabe](#echte-quelle-falsche-angabe-das-haeufigere-problem) |
| Erfundene Quellen in Fachartikeln | Audits über Millionen Referenzen. | [Veröffentlichte Forschung](#erfundene-quellen-in-veroeffentlichter-forschung) |
| Folgen für deine Arbeit | KI-Nutzung im Studium und ein Urteil des VG Köln von 2026. | [Deine Hausarbeit](#was-das-fuer-deine-hausarbeit-heisst) |
| Selbst nachprüfen | Werk finden, dann die Stelle im Original lesen. | [Eine KI-Quelle prüfen](#so-pruefst-du-eine-ki-quelle-selbst) |
| Wie die Übersicht entsteht | Auswahl, Prüfweg und Stand Oktober 2026. | [Methodik](#methodik-dieser-uebersicht) |
| Prüfen lassen | Zitierstil und fehlende Verzeichniseinträge, im Pro-Check auch wörtliche Zitate gegen deine Quellen-PDFs. | [Was Citely prüft](#was-citely-an-deinen-zitaten-prueft) |

## Wie oft erfindet ChatGPT Quellen? Die Zahlen auf einen Blick

GPT-3.5 erfand 2023 in der Studie von Walters und Wilder 55 % seiner Literaturangaben, GPT-5 mit verfügbarer Websuche kam 2026 bei Bernstein et al. auf 7,13 %. Dazwischen liegen neue Modellgenerationen, aber auch andere Fächer, Prompts und Prüfverfahren. Die Tabelle zeigt je Modellgeneration eine aktuelle Zahl samt Bedingungen, Preprints sind gekennzeichnet.

| Modell, Testzeit | Bedingung | erfunden | Studie |
|---|---|---|---|
| GPT-3.5 und GPT-4, 2023 | ChatGPT ohne Websuche, 42 Themen | 55 % und 18 % | [Walters und Wilder 2023](https://doi.org/10.1038/s41598-023-41032-5) |
| GPT-4o, Juni 2025 | sechs Literaturübersichten zur psychischen Gesundheit | 19,9 % | [Linardon et al. 2025](https://doi.org/10.2196/80371) |
| ChatGPT-4.1 und Gemini 2.5 Pro, Juni 2025 | mit Websuche, HNO-Heilkunde | 2,4 % und 1,3 % komplett falsch (berechnet aus Tabelle 4) | [Pastucha et al. 2026](https://doi.org/10.12659/MSM.950916) |
| GPT-5, Februar und März 2026 | bezahlte Version, Websuche verfügbar, Orthopädie | 7,13 % | [Bernstein et al. 2026](https://doi.org/10.7759/cureus.113654) |
| GPT-5.3, März 2026 | Retrieval abgeschaltet, Neurointensivmedizin | 27 % | [Seifi und Seyfi 2026](https://doi.org/10.1097/CCE.0000000000001474) |
| ChatGPT-5.4 Plus, ChatGPT-5.3 Free, Claude Sonnet 4.6, Gemini 3, April 2026 | Web-Oberfläche, der Prompt verbot das Erfinden | 0 %, 5,5 %, 0,5 % und 20,2 % | [Linardon et al. 2026](https://doi.org/10.31234/osf.io/qs26b_v1), Preprint, nicht begutachtet |
| fünf 2026 erschienene Modelle, April und Juli 2026 | API ohne Websuche, Stresstest | 35,3 % | [Topaz et al. 2026](https://arxiv.org/abs/2609.14988), Preprint, nicht begutachtet |

Keine dieser Zahlen beschreibt eine deutschsprachige Hausarbeit in BWL, Jura oder Soziologie. Fast alle Tests liefen auf Englisch, die meisten in der Medizin, mehr dazu unter [Methodik dieser Übersicht](#methodik-dieser-uebersicht).

## Alle Studien im Überblick

Diese Übersicht führt 24 Studien von 2023 bis 2026, die den Anteil erfundener KI-Literaturangaben als Zahl berichten: 17 begutachtete Zeitschriftenartikel und 7 Preprints, Stand Oktober 2026. „Erfunden“ heißt meist, dass sich das Werk in Datenbanken, Katalogen und Suchmaschinen nicht finden ließ, „voll korrekt“, dass alle geprüften Angaben stimmen. „k. A.“ heißt, die Studie nennt keine Zahl, „berechnet“, die Quote ist aus ihren Rohzahlen gerechnet.

| Studie | erfunden | voll korrekt | Modell, Testzeit | Fach | Angaben | Websuche | Typ |
|---|---|---|---|---|---|---|---|
| [Walters und Wilder 2023](https://doi.org/10.1038/s41598-023-41032-5), Scientific Reports | 55 % und 18 % | k. A. | GPT-3.5, GPT-4 (ChatGPT, 2023) | 42 Themen, fachübergreifend | 636 | nein | begutachtet |
| [Bhattacharyya et al. 2023](https://doi.org/10.7759/cureus.39238), Cureus | 47 % | 7 % | ChatGPT-3.5 | Medizin | 115 | nein | begutachtet |
| [Gravel et al. 2023](https://doi.org/10.1016/j.mcpdig.2023.05.004), Mayo Clinic Proceedings: Digital Health | 69 % | k. A. | ChatGPT, Februar 2023 | Medizin | 59 | nein | begutachtet |
| [Athaluri et al. 2023](https://doi.org/10.7759/cureus.37432), Cureus | 15,7 % weder über Google noch per DOI auffindbar (berechnet) | k. A. | ChatGPT (laut Abstract GPT-3) | Medizin, Forschungsanträge | 178 | nein | begutachtet |
| [McGowan et al. 2023](https://doi.org/10.1016/j.psychres.2023.115334), Psychiatry Research | 33 von 35 nicht real, 94 % (berechnet) | k. A. | ChatGPT, März 2023 | Psychiatrie | 35 | nein | begutachtet |
| [Buchanan, Hill und Shapoval 2024](https://doi.org/10.1177/05694345231218454), The American Economist | über 30 % bei GPT-3.5, bei GPT-4 nur leicht weniger | k. A. | GPT-3.5, GPT-4 | Volkswirtschaftslehre | k. A. | nein | begutachtet |
| [Chelli et al. 2024](https://doi.org/10.2196/53164), Journal of Medical Internet Research | 39,6 %, 28,6 % und 91,4 % (weite Definition) | k. A. | GPT-3.5, GPT-4, Bard | Orthopädie | 362 | nein | begutachtet |
| [Mugaanyi et al. 2024](https://doi.org/10.2196/52935), Journal of Medical Internet Research | 27,3 % und 23,4 % nicht bestätigt (berechnet) | k. A. | GPT-3.5 | Natur- und Geisteswissenschaften | 102 | nein | begutachtet |
| [Linardon et al. 2025](https://doi.org/10.2196/80371), JMIR Mental Health | 19,9 % | 43,8 % (berechnet) | GPT-4o, Juni 2025 | psychische Gesundheit | 176 | nicht berichtet | begutachtet |
| [Güneş, Cesur und Çamur 2026](https://doi.org/10.4274/dir.2025.253101), Diagnostic and Interventional Radiology | 3,1 % (Claude 3.5 Sonnet) bis 60,6 % (Gemini 1.5 Pro), ChatGPT-Modelle 27,7 bis 52,9 % | 80,8 % bis 2,7 % | sechs Modelle, u. a. Claude 3.5 Sonnet, ChatGPT-4o, Gemini 1.5 Pro (eingereicht Oktober 2024) | Radiologie | 480 je Modell | nicht berichtet | begutachtet |
| [Pastucha et al. 2026](https://doi.org/10.12659/MSM.950916), Medical Science Monitor | ohne Websuche 7,4 bis 20,7 %, mit Websuche 1,3 bis 2,4 % (berechnet aus Tabelle 4) | Genauigkeit 51 % und 41 % mit Websuche | ChatGPT-4, ChatGPT-4.1, Gemini 1.5 Pro, Gemini 2.5 Pro, die beiden neueren auch mit Websuche (ChatGPT-4 und Gemini 1.5 Pro im Juli 2024, die übrigen im Juni 2025) | HNO-Heilkunde | 1.947 | ja, direkter Vergleich | begutachtet |
| [Ettien et al. 2026](https://doi.org/10.5195/jmla.2026.2284), Journal of the Medical Library Association | ChatGPT 70 %, Gemini 63 %, Copilot 42 %, Claude 27 %, Perplexity 3,0 %, OpenEvidence 0 % | k. A. | ChatGPT, Claude, Copilot, Gemini, Perplexity, OpenEvidence; Versionen uneinheitlich angegeben, August und September 2024 | Medizin, Literatursuche | 1.004 ohne OpenEvidence | Perplexity und OpenEvidence suchbasiert | begutachtet |
| [McCavitt et al. 2026](https://doi.org/10.2106/JBJS.OA.25.00225), JBJS Open Access | 7,9 % | k. A. | ChatGPT-4o mini | Orthopädie | 2.556 | nicht berichtet | begutachtet |
| [Bernstein et al. 2026](https://doi.org/10.7759/cureus.113654), Cureus | 7,13 % | 49,34 % | GPT-5, bezahlte Version (Februar und März 2026) | Orthopädie | 2.736 | verfügbar, nicht kontrolliert | begutachtet |
| [Seifi und Seyfi 2026](https://doi.org/10.1097/CCE.0000000000001474), Critical Care Explorations | 27 %, 8 % und 50 % | k. A. | GPT-5.3, DeepSeek-V3, Grok-4 (10.03.2026) | Neurointensivmedizin | 300 | nein, Retrieval abgeschaltet | begutachtet |
| [Ülkir und Paslı 2026](https://doi.org/10.1002/ca.70187), Clinical Anatomy | „Halluzinationsrate“ 23,2 %, 45,8 % und 47,5 % (Definition im Abstract offen) | k. A. | ChatGPT 5.2, Gemini 3 Pro, DeepSeek V3.2 | Anatomie | 1.800 | nicht berichtet | begutachtet |
| [Asai et al. 2026](https://doi.org/10.1038/s41586-025-10072-4), Nature | GPT-4o 78 bis 90 %, OpenScholar praktisch keine | k. A. | GPT-4o ohne Retrieval, verglichen mit dem Retrieval-System OpenScholar | Informatik und Biomedizin | Benchmark | Vergleich mit und ohne Retrieval | begutachtet |
| [Linardon et al. 2026](https://doi.org/10.31234/osf.io/qs26b_v1), PsyArXiv | 6,1 % gesamt, je Modell 0 %, 5,5 %, 0,5 % und 20,2 % | 72 % der echten Angaben | ChatGPT-5.4 Plus, ChatGPT-5.3 Free, Claude Sonnet 4.6, Gemini 3 (April 2026) | psychische Gesundheit | 825 | Web-Oberfläche, nicht kontrolliert | Preprint, nicht begutachtet |
| [Topaz et al. 2026](https://arxiv.org/abs/2609.14988), arXiv | 55,4 % gesamt, 2026 erschienene Modelle 35,3 %, Spanne 10,2 bis 98,4 % | 14,9 % (2026er Modelle 31,8 %) | 26 Modelle von GPT-3.5 Turbo bis GPT-5.5 und Claude Opus 4.8 (April und Juli 2026) | Biomedizin | 24.518 Antworten | nein, API | Preprint, nicht begutachtet |
| [Naser 2026](https://arxiv.org/abs/2603.03299), arXiv | 11,4 % (GPT-5-mini) bis 56,8 % (Claude Haiku 4.5) | k. A. | zehn Modelle über die API, u. a. GPT-5-mini und Claude Haiku 4.5 | vier Fächer | 69.557 | nein | Preprint, nicht begutachtet |
| [Xu et al. 2026, GhostCite](https://arxiv.org/abs/2602.06718), arXiv | 14,23 bis 94,93 %, GPT-5 50,92 % | k. A. | 13 Modelle über die API, u. a. GPT-5 | Informatik, 40 Teilgebiete | rund 331.800 | per API zuschaltbar | Preprint, nicht begutachtet |
| [Hell et al. 2026](https://arxiv.org/abs/2607.25672), arXiv | 3 % gesamt, Deep Research 0 % | 33 % (Deep Research 78 %) | ChatGPT-4o, ChatGPT Deep Research, Gemini (Mitte 2025) | Physik, Astrophysik, Kosmologie | 641 | ja, bei Deep Research | Preprint, nicht begutachtet |
| [Shi et al. 2026](https://doi.org/10.64898/2026.04.02.26350091), medRxiv | 2,9 bis 36,8 % | k. A. | sechs KI-Forschungssysteme | klinische Epidemiologie | k. A. | k. A. | Preprint, nicht begutachtet |
| [Spennemann 2026](https://arxiv.org/abs/2604.16407), arXiv | 9,2 % | k. A. | ChatGPT 5-mini mit Webzugang | Bildungswissenschaft | 98 | ja | Preprint, nicht begutachtet |

Sechs weitere Studien stehen nicht in der Tabelle, weil sie keine vergleichbare Quote nennen. [Aljamaan et al. (2024)](https://doi.org/10.2196/54345) und [Özbek und Bağcıer (2026)](https://doi.org/10.1007/s43465-026-01807-0) messen einen Halluzinations-Score statt eines Anteils. [Cheng et al. (2025)](https://doi.org/10.1097/SIH.0000000000000877) berichten nur, dass 60,4 % von 303 Angaben korrekt waren. [Uçar et al. (2026)](https://doi.org/10.3390/diagnostics16162620) geben Raten je Frage an. [Tiller et al. (2026)](https://doi.org/10.1136/bmjopen-2025-112695) bewerten ganze Literaturlisten, [Buchanan, Hill und Shapoval (2026)](https://doi.org/10.1002/soej.70069) nennen im Abstract keine Zahlen.

## Warum die Zahlen zu KI-Halluzinationen so weit auseinandergehen

Die Zahlen gehen auseinander, weil jede Studie anders misst, und das trifft selbst dasselbe Modell: GPT-5 kam mit verfügbarer Websuche auf 7,13 % erfundene Angaben (Bernstein et al. 2026), in einem Informatik-Benchmark über die API auf 50,92 % (Xu et al. 2026, Preprint). Für die GPT-5-Familie reichen die Messwerte von 0 % bei ChatGPT-5.4 Plus (Linardon et al. 2026, Preprint) über 14,5 % bei GPT-5.5 per API (Topaz et al. 2026, Preprint) und 27 % bei GPT-5.3 ohne Retrieval (Seifi und Seyfi 2026) bis zu diesen 50,92 %. Bei Claude reicht die Spanne von 0,5 % für Sonnet 4.6 (Linardon et al. 2026) bis 56,8 % für Haiku 4.5 (Naser 2026), beides Preprints. Diese Unterschiede in der Versuchsanlage stecken dahinter:

| Faktor | Was die Studien zeigen |
|---|---|
| Definition von „erfunden“ | Ettien et al. (2026) zählen jede nicht verifizierbare Angabe, Chelli et al. (2024) schon zwei falsche Felder aus Titel, Erstautor und Jahr. Asai et al. (2026) prüfen nur den Titel über Semantic Scholar, Topaz und Naser (beide Preprints) gleichen automatisch mit Datenbanken ab. |
| Modellversion | In derselben Studie erfand GPT-3.5 55 % und GPT-4 18 % der Angaben (Walters und Wilder 2023). |
| Thema | Bei GPT-4o waren 28 % der Angaben zu Binge-Eating erfunden und 29 % zur körperdysmorphen Störung, zur Depression nur 6 % (Linardon et al. 2025). |
| Gratis oder bezahlt | Die Gratisversion ChatGPT-5.3 Free erfand 5,5 %, das bezahlte ChatGPT-5.4 Plus 0 von 235 Angaben (Linardon et al. 2026, Preprint). Neben dem Tarif unterschied sich dabei auch die Modellversion. |
| Oberfläche oder API | Topaz, Naser und Xu (alle Preprints) fragten die Modelle über die Programmierschnittstelle ab. Linardon et al. 2026 (Preprint) nutzten die Web-Oberflächen der Chatbots. |
| Prompt | Linardon et al. 2026 (Preprint) verboten das Erfinden im Prompt und halten bei natürlicheren Anfragen höhere Raten für möglich. Bat Naser (Preprint) die Modelle um neue und einflussreiche Arbeiten, lag die Halluzinationsrate bei 74,1 %. Bei Buchanan et al. (2024) sank die Zuverlässigkeit, je spezifischer der Prompt war. |
| Aufgabe | Topaz et al. (Preprint) bauten einen Stresstest: 50 von 69 Textstellen stammten aus Artikeln, in denen genau dort eine erfundene Referenz stand. |
| Verweigerung | Claude Opus 4.8 lehnte 52,1 % der Anfragen ab und hatte mit 10,2 % die niedrigste Rate der 26 Modelle (Topaz et al. 2026, Preprint). Claude Sonnet 4.5 nannte bei 14 von 20 Fragen keine konkreten Quellen (Uçar et al. 2026). |

Eine niedrige Quote kann also auch heißen, dass ein Modell öfter gar keine Quelle nennt. Für deine Arbeit zählt am Ende nicht die Quote eines Modells, sondern ob die eine Angabe stimmt, die du übernimmst.

## Senkt die Websuche die Rate?

Ja, in den meisten Studien, die mit und ohne Suche vergleichen, senkt eine echte Websuche den Anteil erfundener Titel deutlich, aber nicht auf null: Bei Pastucha et al. (2026) fiel er für ChatGPT-4.1 von 20,7 % ohne auf 2,4 % mit Websuche und für Gemini 2.5 Pro von 19,4 auf 1,3 % (berechnet aus Tabelle 4). Elf Befunde im Vergleich:

| Befund | Studie | Richtung |
|---|---|---|
| ChatGPT-4.1 und Gemini 2.5 Pro mit Websuche: 2,4 % und 1,3 % komplett falsche Angaben, ohne Websuche bis 20,7 % | Pastucha et al. 2026 | senkt deutlich |
| Suchbasierte Werkzeuge Perplexity mit 3,0 % und OpenEvidence mit 0 %, ChatGPT mit 70 % | Ettien et al. 2026 | senkt deutlich |
| ChatGPT Deep Research ohne eine erfundene Angabe, 78 % perfekt | Hell et al. 2026, Preprint | senkt deutlich |
| Retrieval-System OpenScholar praktisch ohne erfundene Titel, GPT-4o ohne Retrieval 78 bis 90 % | Asai et al. 2026 | senkt deutlich |
| Elicit und SciSpace mit vernachlässigbarer Halluzination, Perplexity im Mittelfeld, ChatGPT 3.5 und Bing auf kritischem Niveau | Aljamaan et al. 2024 | senkt, je nach Werkzeug |
| Getestet mit GPT-4o und GPT-5.1 mit Websuche: Web-fähige Modelle besser als ihre Vorgänger, doch selbst ein fortgeschrittenes web-fähiges Modell nennt nicht existente Zitate, Fehlerraten bleiben hoch | Buchanan, Hill und Shapoval 2026 | senkt, löst nicht |
| GPT-5 mit verfügbarer Websuche: 7,13 % erfunden, 49,34 % korrekt | Bernstein et al. 2026 | löst nicht |
| ChatGPT 5-mini mit Webzugang: 9,2 % erfunden | Spennemann 2026, Preprint | löst nicht |
| Online-Suche und Denkmodus per API zugeschaltet: im Schnitt 2,1 Prozentpunkte mehr, bei GPT-5 16,4 Punkte mehr | Xu et al. 2026, Preprint | kein einheitlicher Effekt |
| Perplexity mit dem höchsten Halluzinations-Score von drei Werkzeugen | Özbek und Bağcıer 2026 | widerspricht |
| GPT-4o mit Websuche: rund 30 % der Einzelaussagen nicht von der zitierten Quelle gedeckt | [Wu et al. 2025](https://doi.org/10.1038/s41467-025-58551-6) | Fehler verlagert sich |

Wie stark der Versuchsaufbau zählt, zeigt Perplexity: bei Ettien et al. 3,0 % erfundene Angaben, bei Özbek und Bağcıer der höchste Halluzinations-Score. Pastucha et al. folgern, dass Zugriff auf aktuelle Daten die Ungenauigkeit von Literaturangaben nicht vollständig behebt. Für deine Hausarbeit heißt das: Eine eingeschaltete Suche senkt nach den meisten Studien das Risiko eines komplett erfundenen Titels. Ob Jahr, Seiten und Aussage stimmen, sichert sie nicht ab.

## Echte Quelle, falsche Angabe: das häufigere Problem

Bei neueren Modellen ist eine echte Quelle mit falschen Angaben häufiger als ein erfundener Titel: In einem Physik-Preprint von 2026 waren 3 % der KI-Literaturangaben erfunden, aber 64 % wichen in den Metadaten vom echten Werk ab (Hell et al. 2026). Bei GPT-5 stimmten nur in 8 % der Anfragen alle Angaben einer Antwort (Bernstein et al. 2026).

| Studie, Modell | erfunden | voll korrekt | Was sonst auffiel |
|---|---|---|---|
| Walters und Wilder 2023, GPT-3.5 und GPT-4 | 55 % und 18 % | k. A. | 43 % und 24 % der echten Angaben mit substanziellen Fehlern |
| Bhattacharyya et al. 2023, ChatGPT-3.5 | 47 % | 7 % | 46 % echt, aber ungenau |
| Linardon et al. 2025, GPT-4o | 19,9 % | 43,8 % (berechnet aus 77 von 176) | unter den Fehlern am häufigsten falsche oder ungültige DOIs |
| Bernstein et al. 2026, GPT-5 | 7,13 % | 49,34 % | Fehler am häufigsten bei PMID (37,28 %), Titel (30,70 %) und Seiten (27,49 %) |
| Hell et al. 2026, Preprint, ChatGPT und Gemini | 3 % | 33 % | 64 % mit abweichenden Metadaten |
| Topaz et al. 2026, Preprint, 26 Modelle | 55,4 % | 14,9 % | bei den 2026 erschienenen Modellen 31,8 % voll korrekt |

Auch ganze Literaturlisten sind betroffen: [Tiller et al. (2026)](https://doi.org/10.1136/bmjopen-2025-112695) ließen fünf Chatbots Gesundheitsfragen beantworten, und keiner lieferte eine vollständig korrekte Liste, die Vollständigkeit lag im Median bei 40 %. Ein falsches Jahr oder eine verdrehte Seitenzahl wirkt harmlos. In der Hausarbeit kann sie aber dazu führen, dass deine Prüferin die Stelle nicht findet.

### Die Quelle sagt etwas anderes

Noch schwerer zu sehen ist eine echte, korrekt angegebene Quelle, die deine Aussage nicht trägt. Wu et al. (2025) fanden in Nature Communications, dass 50 bis 90 % der Antworten von Sprachmodellen auf medizinische Fragen nicht vollständig von den zitierten Quellen gedeckt waren, teils widersprachen die Quellen sogar. Selbst bei GPT-4o mit Websuche waren rund 30 % der Einzelaussagen ohne Deckung und knapp die Hälfte der Antworten nicht vollständig belegt. Diesen Fehler findet kein Katalog. Du erkennst ihn nur, wenn du die zitierte Stelle im Original liest. Dass er nicht erst mit KI aufkam, zeigt eine Metaanalyse zu Zitierfehlern in der Fachliteratur, die der Ratgeber [Quellen prüfen](/ratgeber/quellen-pruefen#zitate-gegen-das-original-pruefen) vorstellt.

## Erfundene Quellen in veröffentlichter Forschung

Erfundene Literaturangaben stehen inzwischen auch in begutachteten Fachartikeln: Ein Audit von 97,1 Millionen Referenzen in rund 2,5 Millionen biomedizinischen Artikeln fand 4.046 erfundene Zitate in 2.810 Artikeln (Topaz et al. 2026, The Lancet, laut Pressemitteilung der Autoren-Universität und STAT News). Betroffen war 2023 einer von 2.828 Artikeln, 2025 einer von 458 und in den ersten sieben Wochen 2026 einer von 277. Den Lancet-Volltext konnte diese Übersicht nicht lesen. Die Zahlen stammen aus der [Pressemitteilung der University of Eastern Finland](https://www.uef.fi/en/article/international-ai-assisted-audit-finds-fabricated-references-in-nearly-3000-peer-reviewed-medical) vom 08.05.2026 und aus [STAT News](https://www.statnews.com/2026/05/07/lancet-study-finds-steep-rise-fraudulent-citations-academic-papers/) vom 07.05.2026.

| Studie | Korpus | Befund | Typ |
|---|---|---|---|
| [Topaz et al. 2026](https://doi.org/10.1016/S0140-6736%2826%2900603-3), The Lancet | PubMed Central Open Access, Januar 2023 bis Februar 2026 | 4.046 erfundene Zitate in 2.810 Artikeln, mehr als zwölfmal so viele wie 2023 | Leserbrief (Correspondence), Zahlen laut Pressemitteilung und STAT |
| [Zhao et al. 2026](https://arxiv.org/abs/2605.07723) | 111 Millionen Referenzen in 2,5 Millionen Papern aus arXiv, bioRxiv, SSRN und PubMed Central | im August 2025 halluzinierte Referenzen von 0,39 % (arXiv), 0,21 % (bioRxiv), 1,91 % (SSRN) und 0,27 % (PMC); vorsichtig geschätzt 146.932 im Jahr 2025 | Preprint, nicht begutachtet |
| [Xu et al. 2026, GhostCite](https://arxiv.org/abs/2602.06718) | 2,2 Millionen Zitate aus 56.381 Papern zu KI, maschinellem Lernen und IT-Sicherheit, 2020 bis 2025 | 1,07 % der Paper mit ungültigen Zitaten, 2025 ein Anstieg um 80,9 % | Preprint, nicht begutachtet |
| [Russinovich, Siva Kumar und Salem 2026](https://arxiv.org/abs/2607.00738) | ICLR, ICML, NeurIPS, USENIX Security | 2025 etwa jedes 20. NeurIPS- und USENIX-Security-Paper mit mindestens zwei wahrscheinlich halluzinierten Referenzen | Preprint, nicht begutachtet |
| [Ansari 2026](https://arxiv.org/abs/2602.05930) | angenommene Paper der NeurIPS 2025 | 100 erfundene Zitate in 53 Papern, rund 1 % der angenommenen Paper | Preprint, nicht begutachtet |
| [Sakai, Kamigaito und Watanabe 2026](https://arxiv.org/abs/2601.18724) | ACL, NAACL, EMNLP 2024 und 2025 | fast 300 Paper mit mindestens einer halluzinierten Referenz, die meisten von 2025 | Preprint, nicht begutachtet |
| [Denny et al. 2026](https://arxiv.org/abs/2609.16574) | Informatikdidaktik, SIGCSE Technical Symposium | verifizierte halluzinierte Referenzen von 3 (2025) auf 17 (2026), in 2,3 % der Paper von 2026 | Preprint, nicht begutachtet |

Zhao et al. (Preprint) messen den Überschuss nicht zuordenbarer Referenzen gegenüber der Zeit vor den Sprachmodellen, der steilste Anstieg beginnt Mitte 2024. Die Begutachtung fängt solche Fehler nicht zuverlässig ab: Die 100 erfundenen NeurIPS-Zitate passierten laut Ansari (Preprint) die Prüfung durch drei bis fünf Fachleute je Paper. In einer Umfrage im GhostCite-Preprint gaben 76,7 % der befragten Gutachtenden an, Referenzen nicht gründlich zu prüfen.

Für dich folgt daraus: Übernimmst du eine Referenz ungeprüft aus einem Fachartikel, kann auch sie erfunden sein. Wie du mit Angaben aus zweiter Hand umgehst, erklärt der Ratgeber [Sekundärzitat](/ratgeber/sekundaerzitat).

## Was das für deine Hausarbeit heißt

Wie viele Hausarbeiten erfundene Quellen enthalten, hat nach dieser Recherche noch keine belastbare Studie gemessen, aber in einer Befragung der Hochschule Darmstadt nutzten 2025 46,2 % der befragten Studierenden KI für Recherche und Literaturstudium (laut Pressemitteilung der Hochschule). Die Befragungen der letzten Jahre im Überblick:

| Erhebung | Befragte | Ergebnis |
|---|---|---|
| [von Garrel und Mayer 2023](https://doi.org/10.1057/s41599-023-02304-7), Hochschule Darmstadt | über 6.300 Studierende in Deutschland | fast zwei Drittel nutzen oder nutzten KI-Werkzeuge im Studium |
| Folgebefragung der Hochschule Darmstadt 2025, laut [Pressemitteilung (idw)](https://idw-online.de/de/news849363) | 4.910 Studierende an 395 Hochschulen, selbstselektierte Stichprobe | 91,6 % nutzen KI fürs Studium, 46,2 % für Recherche und Literaturstudium (2023: 28,6 %) |
| [DZHW Brief 02/2025](https://doi.org/10.34878/2025.02.dzhw_brief) | rund 2.000 Studierende, Oktober und November 2024 | zwei Drittel nutzen KI-Tools regelmäßig, 26 % (sehr) häufig für Literaturrecherchen |
| [CHE DatenCHECK 9/2026](https://hochschuldaten.che.de/kuenstliche-intelligenz-im-studium-die-sicht-von-studierenden-im-wintersemester-2025-26/) | 28.584 Studierende der Wirtschafts- und Rechtswissenschaften und der Sozialen Arbeit an 202 Hochschulen, Wintersemester 2025/26 | 46,5 % nutzen KI im Studium täglich, 2,4 % nie (Vorjahresbefragung in anderen Fächern: 24,9 % täglich, laut CHE kein direkter Zeitvergleich) |

Direkt vergleichbar sind die Werte nicht: Die Befragungen fragen nach „nutzen“, „regelmäßig“ oder „täglich“ und wählen verschieden aus. Rund die Hälfte der vom DZHW Befragten sieht große Nachteile darin, dass KI Fehler und Falschaussagen erzeugt. Eine Hochrechnung auf Hausarbeiten geben diese Daten nicht her, sie zeigen nur, wie verbreitet KI bei der Literaturarbeit ist.

### Der Fall VG Köln 2026

Was falsche Belege in einer Hausarbeit auslösen können, zeigt ein Urteil des VG Köln vom 16.06.2026 ([6 K 6485/25](https://nrwe.justiz.nrw.de/ovgs/vg_koeln/j2026/6_K_6485_25_Urteil_20260616.html)). Eine Hausarbeit im Bachelor English Studies schrieb Werken, die überwiegend vor 2012 erschienen waren, Aussagen zu einem Film von 2012 zu. Die Werke gab es, die zugeschriebenen Aussagen standen nicht darin. Nach Ansicht der Kammer wäre der Studentin das aufgefallen, hätte sie die Quellen selbst gelesen. Ob KI im Spiel war, ließ das Gericht ausdrücklich offen, die Studentin selbst gab an, ChatGPT nur zur Literatursuche genutzt zu haben. Weil es nicht ihre erste Täuschung war, blieb es beim Verlust ihres Prüfungsanspruchs. Wie deine Hochschule einen solchen Fall wertet, regelt deine Prüfungsordnung (keine Rechtsberatung, Stand Oktober 2026). Weitere Entscheidungen und woran Prüfer KI-Nutzung festmachen, zeigt der Ratgeber [Kann die Uni KI erkennen?](/ratgeber/kann-die-uni-ki-erkennen#urteile-2023-bis-2026).

### Ein Chat belegt keine Sachaussage

Liefert dir ChatGPT eine Aussage samt Quelle, zitierst du in deiner Arbeit das Werk, das du gelesen hast, nicht den Chat. Ob und wie du die KI-Nutzung selbst angeben musst, regelt deine Hochschule. Formate und Beispiele dafür zeigt der Ratgeber [KI zitieren](/ratgeber/ki-zitieren).

## So prüfst du eine KI-Quelle selbst

Eine KI-Quelle prüfst du in zwei Schritten: Erst klärst du, ob es das Werk mit genau diesen Angaben gibt, dann, ob die zitierte Stelle deine Aussage trägt. Für den ersten Schritt reichen meist Google Scholar, der DOI und der Bibliothekskatalog, die Reihenfolge zeigen die [Prüfschritte](/ki-quellen-pruefen#pruefschritte) und die typischen [Warnsignale](/ki-quellen-pruefen#warnsignale) auf der Seite KI-Quellen prüfen. Für den zweiten Schritt brauchst du das Original und die angegebene Seite. Wie du Wortlaut, Kontext und Paraphrase mit dem Original vergleichst, steht im Ratgeber [Quellen prüfen](/ratgeber/quellen-pruefen#zitate-gegen-das-original-pruefen). Nach den Studien oben lohnt der zweite Schritt gerade bei Quellen, die es wirklich gibt.

## Methodik dieser Übersicht

Diese Übersicht sammelt Studien von 2023 bis 2026, die erfundene oder fehlerhafte Literaturangaben von KI-Chatbots als Zahl messen (Stand Oktober 2026).

- **Prüfweg:** Jede Zahl ist am Abstract oder am Volltext der Originalquelle geprüft, etwa über Europe PMC, PubMed Central, arXiv, OSF, die Seiten von DZHW und CHE und die Rechtsprechungsdatenbank NRWE.
- **Eigene Rechnungen:** Quoten, die so nicht in der Studie stehen, sind als „berechnet“ gekennzeichnet.
- **Preprints:** In den Tabellen stehen sie als „Preprint, nicht begutachtet“, im Text als Preprint.
- **Gekennzeichnete Ausnahmen:** der Lancet-Beitrag von Topaz et al., belegt über die Pressemitteilung der Universität und STAT News, und die Darmstädter Befragung von 2025, belegt über die Pressemitteilung der Hochschule.
- **Ausgeschlossen:** Zahlen, die sich nur über Suchmaschinen-Zusammenfassungen, Blogs oder Zweitquellen finden ließen.

Die Datenlage hat Lücken. Fast alle Experimente fragen auf Englisch, die meisten in Medizin und Naturwissenschaften. Geistes-, Rechts- und Wirtschaftswissenschaften sind kaum untersucht, Ausnahmen sind die Volkswirtschaftslehre bei Buchanan et al., die Geisteswissenschaften bei Mugaanyi et al. und die Bildungswissenschaft bei Spennemann. Einen Test mit der kostenlosen ChatGPT-Version, deutschen Prompts und deutscher Fachliteratur hat diese Recherche nicht gefunden. Weil Modellzahlen schnell veralten, worauf auch Linardon et al. (2026, Preprint) hinweisen, nennt die Übersicht zu jeder Zahl das Modell und, wo die Studie sie angibt, die Testzeit.

## Was Citely an deinen Zitaten prüft

Citely prüft deine Hausarbeit, bevor dein Prüfer die Quellen nachschlägt. Im Pro-Check gleicht Citely deine Zitate mit bis zu 15 hochgeladenen Quellen-PDFs ab, prüft an der zitierten Seite und markiert wörtliche Zitate, die es dort nicht oder nur verzerrt findet. Die Zitations-Form erkennt deinen Zitierstil, ob Harvard, APA, Fußnoten oder DGPs, und zeigt Abweichungen davon sowie Werke, die du im Text zitierst, die aber im Literaturverzeichnis fehlen. Deinen Bericht hast du nach rund 5 Minuten. Mehr unter [Hausarbeit prüfen](/hausarbeit-pruefen).

## Häufige Fragen

### Erfindet ChatGPT Quellen?

Ja. In fast jeder Studie seit 2023 war ein Teil der Literaturangaben von ChatGPT erfunden, die Werke ließen sich in keiner Datenbank finden. Walters und Wilder maßen 2023 bei GPT-3.5 55 % und bei GPT-4 18 %, Linardon et al. 2025 bei GPT-4o 19,9 %. Bernstein et al. kamen 2026 bei GPT-5 mit verfügbarer Websuche auf 7,13 %. Ohne erfundene Angabe blieben nur einzelne Tests, etwa ChatGPT-5.4 Plus in einem Preprint von 2026 mit 0 von 235 Angaben, allerdings mit einem Prompt, der das Erfinden untersagte. Die erfundenen Titel wirken echt, laut Gravel et al. (2023) sahen sie real aus. Schlag deshalb jede KI-Angabe im Katalog nach, bevor du sie übernimmst.

### Wie oft erfindet ChatGPT Quellen?

Das hängt von Version, Websuche und Aufgabe ab, die Studien messen für ChatGPT zwischen 0 und über 50 %. Mit Websuche lagen aktuelle Versionen zuletzt meist im einstelligen Bereich: ChatGPT-4.1 bei 2,4 % (Pastucha et al. 2026, berechnet), GPT-5 bei 7,13 % (Bernstein et al. 2026) und ChatGPT 5-mini bei 9,2 % (Spennemann 2026, Preprint). Ohne Suche lag GPT-5.3 bei 27 % (Seifi und Seyfi 2026). In einem API-Benchmark kam GPT-5 auf 50,92 %, gemittelt über Läufe mit und ohne zugeschaltete Online-Suche (Xu et al. 2026, Preprint). Von 2023 stammen die Werte von 55 % für GPT-3.5 und 18 % für GPT-4 (Walters und Wilder). Eine Messung mit deutschen Prompts und Fächern wie BWL oder Jura hat diese Übersicht bisher nicht gefunden.

### Erfindet ChatGPT mit Websuche weniger Quellen?

Ja, in den meisten Studien deutlich weniger, aber nicht in allen. Pastucha et al. (2026) testeten dieselben Chatbots mit und ohne Suche: ChatGPT-4.1 lieferte ohne Websuche 20,7 % komplett falsche Angaben, mit Websuche 2,4 % (berechnet aus Tabelle 4). ChatGPT Deep Research erfand in einem Physik-Preprint gar keine Angabe (Hell et al. 2026). Xu et al. (2026, Preprint) sahen dagegen keinen einheitlichen Effekt, als sie Online-Suche und Denkmodus über die API zuschalteten. Und die Suche klärt nicht, ob eine Quelle deine Aussage trägt: Bei GPT-4o mit Websuche fanden Wu et al. (2025) rund 30 % der Einzelaussagen ohne Deckung in der zitierten Quelle.

### Welche KI erfindet am wenigsten Quellen?

Eine allgemeine Rangliste geben die Studien nicht her, weil Modell, Fach, Prompt und Testzeit wechseln. Im April 2026 erfanden in einem Preprint mit Prompt gegen das Erfinden ChatGPT-5.4 Plus 0 %, Claude Sonnet 4.6 0,5 %, ChatGPT-5.3 Free 5,5 % und Gemini 3 20,2 % (Linardon et al. 2026). In der Radiologie lag Claude 3.5 Sonnet bei 3,1 % und Gemini 1.5 Pro bei 60,6 % (Güneş et al. 2026, eingereicht im Oktober 2024). Suchbasierte Werkzeuge schnitten 2024 bei Ettien et al. gut ab, Perplexity mit 3,0 % und OpenEvidence mit 0 %. In einer Orthopädie-Studie hatte Perplexity dagegen den höchsten Halluzinations-Score (Özbek und Bağcıer 2026). Über die API ohne Suche kam Claude Haiku 4.5 auf 56,8 % (Naser 2026, Preprint).

### Warum erfindet ChatGPT Quellen?

Ein Sprachmodell ohne Suche schlägt Literatur nicht in einer Datenbank nach, es erzeugt Text, der wie eine passende Angabe aussieht. So entstehen plausible Namen, Titel und Jahre, die zusammen kein echtes Werk ergeben. McGowan et al. (2023) beschreiben 21 von 35 Angaben als plausible Mischung aus mehreren existierenden Arbeiten. Wann das öfter passiert, zeigen mehrere Studien: bei weniger vertrauten Themen (Linardon et al. 2025: 28 % bei Binge-Eating gegenüber 6 % bei Depression), bei sehr spezifischen Anfragen (Buchanan et al. 2024) und bei der Bitte um neue und einflussreiche Arbeiten, die bei Naser (2026, Preprint) eine Halluzinationsrate von 74,1 % auslöste. Ungefragt nannten die Modelle dort gar keine Zitate.

### Ist eine erfundene Quelle in der Hausarbeit eine Täuschung?

Ja, sie kann als Täuschung gewertet werden, auch ohne Nachweis, dass eine KI sie erzeugt hat. Das VG Köln bestätigte am 16.06.2026 (6 K 6485/25) diese Wertung für eine Hausarbeit im Bachelorstudium, in der zahlreiche Belege Aussagen enthielten, die in den zitierten Werken nicht standen. Ob die Studentin KI eingesetzt hatte, musste die Kammer nicht klären. Ihr hätte beim Lesen der Quellen auffallen müssen, dass die Aussagen dort fehlen. Weil es nicht ihre erste Täuschung war, verlor sie den Prüfungsanspruch. Wie deine Hochschule einen solchen Fall wertet, regelt deine Prüfungsordnung. Diese Antwort ist keine Rechtsberatung, Stand Oktober 2026.


## Quellen

- [Walters, William H. und Wilder, Esther Isabelle (2023): Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports 13, 14045](https://doi.org/10.1038/s41598-023-41032-5)
- [Bhattacharyya, Mehul; Miller, Valerie M.; Bhattacharyya, Debjani; Miller, Larry E. (2023): High Rates of Fabricated and Inaccurate References in ChatGPT-Generated Medical Content. Cureus 15(5), e39238](https://doi.org/10.7759/cureus.39238)
- [Gravel, D'Amours-Gravel und Osmanlliu (2023): Learning to Fake It: Limited Responses and Fabricated References Provided by ChatGPT for Medical Questions. Mayo Clinic Proceedings: Digital Health 1(3)](https://doi.org/10.1016/j.mcpdig.2023.05.004)
- [Athaluri et al. (2023): Exploring the Boundaries of Reality: Investigating the Phenomenon of Artificial Intelligence Hallucination in Scientific Writing Through ChatGPT References. Cureus 15(4), e37432](https://doi.org/10.7759/cureus.37432)
- [McGowan et al. (2023): ChatGPT and Bard exhibit spontaneous citation fabrication during psychiatry literature search. Psychiatry Research 326, 115334](https://doi.org/10.1016/j.psychres.2023.115334)
- [Buchanan, Hill und Shapoval (2024, online 2023): ChatGPT Hallucinates Non-existent Citations: Evidence from Economics. The American Economist 69(1)](https://doi.org/10.1177/05694345231218454)
- [Chelli et al. (2024): Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis. Journal of Medical Internet Research 26, e53164](https://doi.org/10.2196/53164)
- [Mugaanyi et al. (2024): Evaluation of Large Language Model Performance and Reliability for Citations and References in Scholarly Writing: Cross-Disciplinary Study. Journal of Medical Internet Research 26, e52935](https://doi.org/10.2196/52935)
- [Aljamaan et al. (2024): Reference Hallucination Score for Medical Artificial Intelligence Chatbots: Development and Usability Study. JMIR Medical Informatics 12, e54345](https://doi.org/10.2196/54345)
- [Linardon, Jarman, McClure, Anderson, Liu und Messer (2025): Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study. JMIR Mental Health 12, e80371](https://doi.org/10.2196/80371)
- [Cheng et al. (2025): Exploring AI Hallucinations of ChatGPT: Reference Accuracy and Citation Relevance of ChatGPT Models and Training Conditions. Simulation in Healthcare 20(6)](https://doi.org/10.1097/SIH.0000000000000877)
- [Wu et al. (2025): An automated framework for assessing how well LLMs cite relevant medical references. Nature Communications 16, 3615](https://doi.org/10.1038/s41467-025-58551-6)
- [Güneş, Cesur und Çamur (2026, online 2025): Evaluating the reference accuracy of large language models in radiology: a comparative study across subspecialties. Diagnostic and Interventional Radiology 32(2)](https://doi.org/10.4274/dir.2025.253101)
- [Pastucha, Skarżyński, Kochanek und Jedrzejczak (2026): Reference Accuracy in Large Language Model Chatbots: A Metric for Inherent Misinformation? Medical Science Monitor 32, e950916](https://doi.org/10.12659/MSM.950916)
- [Ettien et al. (2026): Comparing AI chat tools and PubMed for medical literature searches. Journal of the Medical Library Association 114(4)](https://doi.org/10.5195/jmla.2026.2284)
- [McCavitt et al. (2026): ChatGPT-4o Mini Fabricates and Miscites Evidence for American Academy of Orthopaedic Surgeons Hip Fracture Clinical Practice Guidelines. JBJS Open Access 11(1)](https://doi.org/10.2106/JBJS.OA.25.00225)
- [Bernstein et al. (2026): Evaluating the Citation Accuracy of ChatGPT-5 Using the American Academy of Orthopaedic Surgeons Clinical Practice Guidelines. Cureus 18(7), e113654](https://doi.org/10.7759/cureus.113654)
- [Seifi und Seyfi (2026): Hallucination Rate of Peer-Reviewed Citations Generated by Large Language Models in Neurocritical Care. Critical Care Explorations 8(9), e1474](https://doi.org/10.1097/CCE.0000000000001474)
- [Ülkir und Paslı (2026): Reference Hallucination, Citation Reliability, and Readability of Large Language Models in Anatomy-Related Question Answering. Clinical Anatomy (online 2026)](https://doi.org/10.1002/ca.70187)
- [Uçar et al. (2026): Comparative Evaluation of ChatGPT-5.2, Claude Sonnet 4.5, and DeepSeek-V3.2 for Rosacea-Related Information. Diagnostics 16(16), 2620](https://doi.org/10.3390/diagnostics16162620)
- [Tiller et al. (2026): Generative artificial intelligence-driven chatbots and medical misinformation: an accuracy, referencing and readability audit. BMJ Open 16(4), e112695](https://doi.org/10.1136/bmjopen-2025-112695)
- [Özbek und Bağcıer (2026): Reference Hallucination in AI-Assisted Academic Writing: A Comparative Analysis of ChatGPT, Gemini, and Perplexity in Rotator Cuff Literature. Indian Journal of Orthopaedics 60(8)](https://doi.org/10.1007/s43465-026-01807-0)
- [Buchanan, Hill und Shapoval (2026): LLM Hallucination of Citations in Economics Persists With Web-Enabled Models. Southern Economic Journal 93(2)](https://doi.org/10.1002/soej.70069)
- [Asai et al. (2026): Synthesizing scientific literature with retrieval-augmented language models. Nature 650](https://doi.org/10.1038/s41586-025-10072-4)
- [Linardon, Anderson, Bolger, Liu, Soliman und McClure (2026): Citation Fabrication and Accuracy in AI-Generated Psychiatric Research: A Comparative Evaluation of Four Contemporary Large Language Models. PsyArXiv, Preprint vom 09.10.2026 (nicht begutachtet)](https://doi.org/10.31234/osf.io/qs26b_v1)
- [Topaz et al. (2026): Biomedical Reference Generation Remains Unreliable across 26 Large Language Models. arXiv:2609.14988, Preprint (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2609.14988)
- [Naser (2026): How LLMs Cite and Why It Matters: A Cross-Model Audit of Reference Fabrication in AI-Assisted Academic Writing and Methods to Detect Phantom Citations. arXiv:2603.03299, Preprint (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2603.03299)
- [Xu et al. (2026): GhostCite: A Large-Scale Analysis of Citation Validity in the Age of Large Language Models. arXiv:2602.06718, Preprint (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2602.06718)
- [Hell et al. (2026): AI's Capability in Assisting Scientific Research in Physics, Astrophysics, and Cosmology I: Literature Review. arXiv:2607.25672, Preprint (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2607.25672)
- [Shi et al. (2026): Citation Hallucination Determines Success: An Empirical Comparison of Six Medical AI Research Systems. medRxiv, Preprint (nicht begutachtet, Stand Oktober 2026)](https://doi.org/10.64898/2026.04.02.26350091)
- [Spennemann (2026): How unique are hallucinated citations offered by generative Artificial Intelligence models? arXiv:2604.16407, Preprint (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2604.16407)
- [Topaz, Roguin, Gupta, Zhang und Peltonen (2026): Fabricated citations: an audit across 2·5 million biomedical papers. The Lancet 407(10541), Correspondence (Volltext nicht eingesehen, Zahlen über Pressemitteilung und STAT)](https://doi.org/10.1016/S0140-6736(26)00603-3)
- [University of Eastern Finland: Pressemitteilung zum Audit erfundener Referenzen in begutachteten medizinischen Artikeln (08.05.2026)](https://www.uef.fi/en/article/international-ai-assisted-audit-finds-fabricated-references-in-nearly-3000-peer-reviewed-medical)
- [STAT News, Anil Oza: Lancet study finds steep rise in fraudulent citations in academic papers (07.05.2026)](https://www.statnews.com/2026/05/07/lancet-study-finds-steep-rise-fraudulent-citations-academic-papers/)
- [Zhao, Wang, Stuart, De Vaan, Ginsparg und Yin (2026): LLM hallucinations in the wild: Large-scale evidence from non-existent citations. arXiv:2605.07723, Preprint (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2605.07723)
- [Russinovich, Siva Kumar und Salem (2026): Preprint zu halluzinierten Referenzen in ICLR, ICML, NeurIPS und USENIX Security, arXiv:2607.00738 (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2607.00738)
- [Ansari (2026): Preprint zu erfundenen Zitaten in angenommenen Papern der NeurIPS 2025, arXiv:2602.05930 (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2602.05930)
- [Sakai, Kamigaito und Watanabe (2026): Preprint zu halluzinierten Referenzen in ACL, NAACL und EMNLP, arXiv:2601.18724 (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2601.18724)
- [Denny et al. (2026): Preprint zu halluzinierten Referenzen in der Informatikdidaktik (SIGCSE), arXiv:2609.16574 (nicht begutachtet, Stand Oktober 2026)](https://arxiv.org/abs/2609.16574)
- [von Garrel und Mayer (2023): Befragung von über 6.300 Studierenden zur KI-Nutzung im Studium. Humanities and Social Sciences Communications 10](https://doi.org/10.1057/s41599-023-02304-7)
- [Hochschule Darmstadt: Pressemitteilung zur Folgebefragung über KI im Studium, idw (21.03.2025)](https://idw-online.de/de/news849363)
- [DZHW Brief 02/2025: Marczuk, Multrus, Hinz und Strauß, KI-Nutzung von Studierenden (Befragung Oktober und November 2024)](https://doi.org/10.34878/2025.02.dzhw_brief)
- [CHE DatenCHECK 9/2026: Horstmann, Hüsch und Breiter, Künstliche Intelligenz im Studium: die Sicht von Studierenden im Wintersemester 2025/26 (22.07.2026)](https://hochschuldaten.che.de/kuenstliche-intelligenz-im-studium-die-sicht-von-studierenden-im-wintersemester-2025-26/)
- [VG Köln, Urteil vom 16.06.2026, 6 K 6485/25 (NRWE, Justiz NRW)](https://nrwe.justiz.nrw.de/ovgs/vg_koeln/j2026/6_K_6485_25_Urteil_20260616.html)