ChatGPT-Quellen prüfen: So erkennst du erfundene Quellen vor der Abgabe

Wie oft erfindet ChatGPT Quellen?

55 %

GPT-3.5, erfundene Quellen (2023)

18 %

GPT-4, erfundene Quellen (2023)

19,9 %

GPT-4o, erfundene Zitate (2025)

Halluzinierte Quellen erkennen: 6 Warnsignale

Was eine halluzinierte Quelle genau ist, erklärt die FAQ auf der Startseite. Hier geht es ums Erkennen: Diese sechs Muster tauchen bei erfundenen Quellen immer wieder auf.

ChatGPT-Quellen prüfen: Schritt für Schritt

Mit diesen 6 Schritten verifizierst du jede KI-Quelle. Universitätsbibliotheken, etwa die der Universität Duisburg-Essen, raten in ihren KI-Leitfäden ausdrücklich dazu, KI-Ergebnisse und Quellen immer selbst zu überprüfen.

1. 1

   Suche den exakten Titel in Google Scholar. Setze den Titel in Anführungszeichen, damit die exakte Wortfolge gesucht wird. Ein angeblicher Journal-Artikel ohne Treffer ist sehr wahrscheinlich halluziniert. Prüfe zur Sicherheit eine Variante ohne Untertitel.

2. 2

   Löse den DOI auf doi.org auf. Falls die Quelle einen DOI nennt, gib ihn auf doi.org ein. Führt er zu keinem oder zu einem anderen Dokument, streiche die Quelle. Fehlt der DOI bei einem neueren Zeitschriftenartikel komplett, ist das selbst ein Warnsignal.

3. 3

   Prüfe den Bibliothekskatalog oder den KVK. Bücher und Sammelbände findest du nicht immer in Google Scholar. Dein Uni-Katalog zeigt die lokalen Bestände; der Karlsruher Virtuelle Katalog durchsucht die Bibliotheken im deutschsprachigen Raum und zeigt dir, ob der Band existiert.

4. 4

   Prüfe die Publikationsliste der Autorin oder des Autors. Instituts-Seite, ORCID oder Google-Scholar-Profil zeigen, was die Person wirklich veröffentlicht hat. So entlarvst du die häufigste Misch-Halluzination: echter Name, erfundener Titel.

5. 5

   Besorge dir das Original-PDF. Erst mit dem Volltext kannst du prüfen, ob die zitierte Aussage wirklich auf der angegebenen Seite steht. Über die Uni-Bibliothek kommst du an die meisten Paper kostenlos heran.

6. 6

   Prüfe, ob die Quelle deine Aussage stützt. Existenz allein genügt nicht: KI gibt auch echte Quellen sinnentstellt wieder oder hängt Belege an Aussagen, die dort nie stehen. Vergleiche jede Belegstelle mit dem Originaltext, inklusive Seitenzahl.

Was passiert, wenn erfundene Quellen auffallen?

Literaturverzeichnis automatisch prüfen: So arbeitet Citely

5 Min

kompletter Check

15

Quellen-PDFs

9,90 €

Pro-Check einmalig

Häufige Fragen zu KI-Quellen und erfundenen Zitaten

Warum erfindet ChatGPT Quellen?

ChatGPT ist ein Sprachmodell: Es erzeugt Wort für Wort den Text, der statistisch am besten zu deiner Anfrage passt. Es hat keine Literaturdatenbank und gleicht nichts mit Bibliothekskatalogen ab. Wenn du nach Quellen fragst, produziert das Modell Literaturangaben, die so aussehen wie typische Literaturangaben in seinem Trainingsmaterial: plausible Autorennamen, ein realistisch klingender Titel, ein passendes Journal, ein glaubwürdiges Jahr. Ob genau diese Kombination existiert, kann das Modell nicht wissen. Es optimiert auf Plausibilität, nicht auf Wahrheit. Genau deshalb wirken halluzinierte Quellen so überzeugend: Sie sind aus echten Mustern zusammengesetzt und folgen allen formalen Regeln des Zitierens. Das Ausmaß ist wissenschaftlich belegt: In einer Studie in Scientific Reports (2023) waren 55 Prozent der von GPT-3.5 generierten Quellen komplett erfunden, bei GPT-4 noch 18 Prozent. Auch Modelle mit Websuche verkleinern das Problem nur, sie beseitigen es nicht.

Kann mein Prof merken, dass meine Quellen erfunden sind?

Ja, und zuverlässiger, als viele denken. Prüfende schlagen Quellen stichprobenartig nach, besonders bei Aussagen, die zentral für die Argumentation sind oder ungewöhnlich klingen. Dafür reicht Google Scholar oder der Bibliothekskatalog: Existiert der Titel nicht, ist der Fall in zwei Minuten klar. Viele Lehrstühle prüfen inzwischen gezielt, weil erfundene Quellen als typisches KI-Muster bekannt sind. Dazu kommt der Wissensvorsprung: Betreuende kennen die Literatur ihres Fachgebiets. Ein erfundener Aufsatz unter bekanntem Autorennamen fällt Fachleuten oft schon beim Lesen des Literaturverzeichnisses auf, weil sie die Publikation nicht kennen, obwohl sie das Feld überblicken. Und anders als ein vager KI-Verdacht ist eine nicht existierende Quelle objektiv beweisbar. Dein Prüfer muss nicht nachweisen, dass ChatGPT den Text geschrieben hat. Es genügt der Nachweis, dass dein Beleg nicht existiert.

Ist es ein Täuschungsversuch, wenn ChatGPT die Quellen erfunden hat?

Die Verantwortung liegt bei dir, nicht beim Werkzeug. Mit der Eigenständigkeitserklärung versicherst du, dass du die Arbeit selbstständig verfasst und alle Quellen korrekt angegeben hast. Diese Erklärung deckt auch dein Literaturverzeichnis ab: Wer eine Quelle zitiert, die nicht existiert, hat objektiv falsch belegt, unabhängig davon, ob die Angabe von ChatGPT stammt oder selbst getippt wurde. Ob du vorsätzlich gehandelt hast, wird in der Praxis oft aus den objektiven Umständen gefolgert: Wer eine nicht existierende Quelle einreicht und die Eigenständigkeitserklärung unterschreibt, kann sich kaum auf Unwissen berufen. „Ich wusste nicht, dass die KI Quellen erfindet" ist deshalb keine belastbare Verteidigung. Wie dein Fall genau eingeordnet wird, hängt von deiner Prüfungsordnung und vom Einzelfall ab; verbindlich beantworten kann das nur deine Hochschule oder eine Rechtsberatung. Sicher ist nur der Weg davor: jede KI-Quelle vor der Abgabe verifizieren.

Kann man wegen erfundener Quellen exmatrikuliert werden?

In dokumentierten Fällen ist genau das passiert: Studierende, deren Arbeiten gefälschte Quellenbelege und KI-generierte Passagen enthielten, wurden exmatrikuliert oder dauerhaft von Prüfungen ausgeschlossen. Dauerhafte Prüfungsausschlüsse hat ein Verwaltungsgericht erstinstanzlich bestätigt (rechtskräftig sind die Entscheidungen noch nicht), daneben ist mindestens ein Exmatrikulationsfall dokumentiert. Die Exmatrikulation ist allerdings das obere Ende der Skala. Üblicher ist eine Eskalationsleiter: Die Arbeit wird mit „nicht ausreichend" bewertet, der Täuschungsversuch wird in der Prüfungsakte vermerkt, und bei schweren oder wiederholten Fällen sehen viele Prüfungsordnungen den Ausschluss von weiteren Prüfungen oder die Exmatrikulation vor. Wie hart sanktioniert wird, hängt von Hochschule, Prüfungsordnung und Umfang der Täuschung ab: Eine einzelne fehlerhafte Angabe wird anders behandelt als ein zur Hälfte erfundenes Literaturverzeichnis. Für dich zählt die Konsequenz daraus: Bei einer Bachelorarbeit oder Masterarbeit, die du nur einmal schreibst, steht das Risiko einer ungeprüften KI-Quelle in keinem Verhältnis zum Aufwand der Prüfung.

Wie überprüfe ich, ob eine ChatGPT-Quelle wirklich existiert?

Der schnellste Weg: Suche den exakten Titel in Anführungszeichen in Google Scholar. Existiert die Publikation, findest du sie dort in der Regel sofort. Kein Treffer ist ein starkes Warnsignal, dann prüfst du weiter: Löse den DOI auf doi.org auf, falls einer angegeben ist; führt er ins Leere oder zu einem anderen Paper, ist die Quelle halluziniert. Bücher und Sammelbände suchst du im Katalog deiner Uni-Bibliothek oder im Karlsruher Virtuellen Katalog, der die Bestände im deutschsprachigen Raum abdeckt. Bleibt es unklar, wirf einen Blick in die Publikationsliste der angeblichen Autorin oder des Autors auf der Instituts-Seite oder im Google-Scholar-Profil. Und selbst wenn die Quelle existiert: Prüfe am Original-PDF, ob die zitierte Aussage wirklich auf der angegebenen Seite steht. KI gibt auch echte Quellen regelmäßig sinnentstellt wieder. Die ausführliche Anleitung mit allen 6 Schritten findest du oben auf dieser Seite.

Wie prüfe ich mein komplettes Literaturverzeichnis auf KI-Quellen?

Manuell gehst du Eintrag für Eintrag vor: Titel in Google Scholar suchen, DOI auflösen, bei Büchern den Bibliothekskatalog prüfen, danach die Belegstellen mit dem Volltext abgleichen. Rechne realistisch mit 5 bis 15 Minuten pro Quelle. Bei einer Hausarbeit mit 15 Einträgen ist das an einem Nachmittag machbar, bei einer Bachelorarbeit mit 40 bis 60 Quellen wird daraus schnell ein voller Arbeitstag. Priorisiere deshalb: zuerst die Quellen, die zentrale Aussagen deiner Argumentation tragen, und alle Einträge, die eine KI vorgeschlagen hat. Den Abgleich automatisiert Citely: Du lädst deine Arbeit und bis zu 15 Quellen-PDFs hoch, und das Modul Zitations-Inhalt vergleicht jede Belegstelle aus diesen Quellen mit dem Originaltext. Bei mehr als 15 Einträgen lädst du die tragenden Quellen hoch. Erfundene oder sinnentstellte Belege werden als „nicht gefunden" oder „fabriziert" gemeldet, inklusive falscher Seitenzahlen. Der komplette Check läuft in 5 Minuten durch und kostet einmalig 9,90 €.

Was tue ich, wenn ich erfundene Quellen schon abgegeben habe?

Verschaffe dir zuerst Klarheit über das Ausmaß: Prüfe dein Literaturverzeichnis vollständig durch, damit du weißt, ob es um einen Eintrag geht oder um mehrere. Danach hast du zwei Optionen. Du kannst proaktiv auf deine Betreuerin oder deinen Betreuer zugehen, den Fehler erklären und um eine Korrekturmöglichkeit bitten. Ob eine Nachbesserung möglich ist, entscheidet die Hochschule, aber ein selbst gemeldeter Fehler wird häufig anders bewertet als ein entdeckter. Oder du wartest ab und trägst das Risiko, dass eine Stichprobe die Quelle auffliegen lässt und die Situation als Täuschungsversuch eingeordnet wird. Eine pauschale Empfehlung gibt es nicht, dafür hängt zu viel von Prüfungsordnung und Einzelfall ab. Bei einer laufenden Prüfungsangelegenheit helfen Studienberatung, AStA oder eine Fachanwältin für Prüfungsrecht weiter. Für alle künftigen Arbeiten gilt: vor der Abgabe prüfen, nicht danach.

Sind Fake-Quellen in der Bachelorarbeit schlimmer als in einer Hausarbeit?

Der Verstoß ist derselbe, die Fallhöhe nicht. Eine Hausarbeit kannst du in vielen Studiengängen wiederholen oder durch eine andere Leistung ersetzen; der Schaden bleibt meist auf ein Modul begrenzt. Die Bachelorarbeit ist dagegen eine Abschlussleistung: Sie wird von zwei Gutachtern gelesen, oft archiviert und ist Voraussetzung für deinen Abschluss. Ein Täuschungsvermerk wiegt hier schwerer, eine Wiederholung kostet mindestens ein Semester, und in dokumentierten Extremfällen stand am Ende die Exmatrikulation. Dazu kommt die einfache Statistik: Eine Bachelorarbeit hat typischerweise 30 bis 60 Seiten und ein entsprechend langes Literaturverzeichnis. Je mehr Quellen, desto größer die Wahrscheinlichkeit, dass eine ungeprüfte KI-Angabe dabei ist, und desto aufwendiger die manuelle Kontrolle. Gerade vor der Abschlussarbeit lohnt sich deshalb ein systematischer Quellen-Check statt Stichproben auf gut Glück. Mehr dazu: Bachelorarbeit prüfen →

Warum ist ChatGPT keine zitierfähige Quelle?

ChatGPT erfüllt die Grundeigenschaften eines wissenschaftlichen Belegs nicht: Die Antworten sind nicht überprüfbar, nicht reproduzierbar und nicht dauerhaft abrufbar. Eine Quelle muss für Prüfende auffindbar und nachlesbar sein; ein Chat-Verlauf, der bei jeder Anfrage anders ausfällt, leistet das nicht. Dazu kommt das Problem dieser Seite: ChatGPT erfindet einen Teil seiner Quellenangaben, ein Beleg aus zweiter Hand über ChatGPT ist also doppelt unsicher. Was deshalb nie funktioniert: inhaltliche Aussagen mit „ChatGPT sagt" zu belegen. Für Fakten brauchst du die Originalquelle, und die musst du selbst finden, lesen und prüfen. Davon getrennt ist die Frage der Deklaration: Nutzt du ChatGPT als Werkzeug, etwa für Gliederungsideen, verlangen viele Hochschulen eine Angabe als Hilfsmittel. Wie du das sauber machst, beantwortet die FAQ auf unserer Startseite.

Welche KI gibt echte Quellen an?

Zuverlässiger als reines ChatGPT sind Tools, die an echte Literaturdatenbanken angebunden sind: Elicit, Semantic Scholar oder Perplexity mit Quellenanzeige verlinken auf real existierende Paper. Auch ChatGPT mit aktivierter Websuche zitiert häufiger echte Publikationen als das reine Sprachmodell. Verlass ist darauf trotzdem nicht: Eine Studie in JMIR Mental Health (2025) fand selbst bei GPT-4o je nach Thema zwischen 6 und 29 Prozent erfundene Zitate. Und auch wenn die Quelle existiert, sind die Angaben oft fehlerhaft: In der Studie in Scientific Reports (2023) enthielten selbst die echten Quellenangaben zu 43 Prozent (GPT-3.5) beziehungsweise 24 Prozent (GPT-4) substanzielle Fehler, etwa falsche Autoren, Jahrgänge oder Seitenzahlen. Dazu kommt das Risiko, dass eine echte Quelle deine Aussage gar nicht stützt, weil das Modell den Inhalt falsch wiedergibt. Die Regel bleibt deshalb gleich, egal welches Tool du nutzt: Jede KI-Quelle wird vor der Abgabe verifiziert, per Hand oder automatisiert.