KI nennt Quellen. Aber belegen sie auch die Antwort?

Unter einer KI-Antwort stehen vier Quellen. Drei davon führen zu bekannten Medien oder wissenschaftlichen Veröffentlichungen. Das sieht nach sauberer Recherche aus. Nur folgt daraus noch nicht, dass diese Texte die Aussage darüber tatsächlich belegen.

Der Unterschied ist klein genug, um ihn beim schnellen Lesen zu übersehen, und groß genug, um aus einer plausiblen Behauptung eine scheinbar gesicherte Erkenntnis zu machen. Ein Link kann echt sein. Der Artikel kann seriös sein. Und trotzdem steht der entscheidende Satz dort nicht. Wer sich auf KI-gestützte Recherche verlässt, muss deshalb etwas anderes prüfen als nur die Existenz einer Quellenliste.

Ein Quellenlink ist ein Verweis, keine Beweisführung

Bei einem menschlich geschriebenen Fachtext ist die Quellenangabe eine nachprüfbare Behauptung: Diese Veröffentlichung stützt, was hier steht. Bei generierten Antworten bleibt zunächst offen, ob das System den richtigen Text gefunden, die passende Passage verstanden und die Aussage in ihrer ursprünglichen Bedeutung wiedergegeben hat. Diese drei Vorgänge können unabhängig voneinander schiefgehen.

Man stelle sich eine Antwort auf die Frage vor, ob eine neue Arbeitsmethode die Produktivität steigert. Die KI nennt eine Studie, in der die Methode tatsächlich vorkommt. Dort wurde aber nur die Zufriedenheit einer kleinen Versuchsgruppe erfragt. Der Link funktioniert. Die Quelle existiert. Ein Produktivitätsnachweis ist sie nicht. Das Beispiel ist konstruiert, der Prüfkonflikt nicht: Eine thematisch passende Quelle ist noch keine Quelle für die behauptete Wirkung.

Hier liegt ein blinder Fleck der verbreiteten Empfehlung, man müsse KI-Antworten eben „mit Quellen“ anfordern. Damit lässt sich eine Antwort leichter untersuchen. Verlässlich wird sie durch die Aufforderung allein nicht.

Was zwei große Untersuchungen tatsächlich gefunden haben

Das Tow Center for Digital Journalism der Columbia University testete im Februar 2025 acht KI-Suchdienste. Für 200 ausgewählte Nachrichtenartikel wurden jeweils kurze Textauszüge vorgelegt; jedes System sollte dazu den richtigen Titel, den ursprünglichen Verlag und die URL finden. Insgesamt ergab das 1.600 Anfragen. Bei mehr als 60 Prozent gelang die korrekte Identifikation nach den Kriterien des Tests nicht.

Ein auffälliges Ergebnis war nicht allein die Fehlerquote. Die Systeme nannten oft selbstsicher einen falschen Artikel, statt einzuräumen, dass sie die Fundstelle nicht bestimmen konnten. Manche verwiesen auf Kopien oder übernommene Fassungen anstelle der Originalpublikation. Das erschwert die Prüfung für Leserinnen und Leser – und die korrekte Zuordnung für Verlage.

Die Grenze dieser Untersuchung ist wichtig. Getestet wurde eine spezielle Aufgabe der Artikelerkennung, nicht die Qualität sämtlicher KI-Antworten zu Medizin, Wissenschaft oder Alltagsfragen. Die Zahlen stammen aus dem damaligen Systemstand. Wer daraus die Behauptung macht, heutige KI-Recherche sei generell in mehr als 60 Prozent der Fälle falsch, lässt genau jene methodische Vorsicht vermissen, um die es hier geht.

Eine zweite Perspektive lieferte im Oktober 2025 die European Broadcasting Union in einer von der BBC geleiteten Untersuchung. Journalistinnen und Journalisten von 22 öffentlich-rechtlichen Medienorganisationen aus 18 Ländern prüften mehr als 3.000 Antworten auf Nachrichtenfragen in 14 Sprachen. In 45 Prozent der geprüften Antworten stellten sie mindestens ein schwerwiegendes Problem fest. 31 Prozent wiesen ernsthafte Quellenprobleme auf, 20 Prozent erhebliche Genauigkeitsfehler.

Diese Kategorien überschneiden sich; sie dürfen nicht addiert werden. Auch handelt es sich nicht um denselben Test wie beim Tow Center. Die journalistische Bewertung von Nachrichtenantworten und die exakte Rücksuche nach einem Artikel messen unterschiedliche Fehler. Gemeinsam zeigen die Arbeiten aber, dass Quellenangaben eine eigene Qualitätsdimension sind – nicht einfach ein dekorativer Zusatz zur Antwort.

Was beim Zitieren verwechselt wird

In einer guten Recherche muss die Verbindung zwischen Aussage und Fundstelle halten. Dafür reicht es nicht, die URL anzuklicken. Vier Fragen helfen, das Problem präzise zu sehen.

Ist die Quelle wirklich die angegebene? Bei einer falsch zugeordneten Überschrift oder einer erfundenen Fundstelle scheitert bereits die Identifikation. Ein Treffer mit ähnlichem Titel repariert das nicht.

Steht die konkrete Behauptung dort? Ein Bericht über einen Zusammenhang ist kein Nachweis einer Ursache. Eine Studie über Studierende ist nicht automatisch eine Aussage über alle Erwerbstätigen. Und ein im Artikel referiertes Argument ist nicht zwingend dessen Ergebnis.

Fehlt eine wesentliche Einschränkung? „Die Behandlung wirkte“ hat einen anderen Informationsgehalt als „Im untersuchten Zeitraum zeigte sich in einer kleinen Gruppe ein Vorteil, dessen Dauer offen ist“. Beide Fassungen können oberflächlich zum selben Link führen. Nur eine bewahrt den Vorbehalt.

Wie unabhängig ist die Evidenz? Drei Meldungen, die auf dieselbe Pressemitteilung zurückgehen, sind nicht drei voneinander unabhängige Bestätigungen. Die Quellenliste ist länger, die Belegbasis aber kaum breiter geworden.

Die Forschung trennt Antwortqualität und Belegqualität

Dass die Unterscheidung fachlich notwendig ist, zeigt der Forschungsbenchmark ALCE, vorgestellt 2023 auf der Konferenz EMNLP. Die Autoren Tianyu Gao, Howard Yen, Jiatong Yu und Danqi Chen entwickelten ein Prüfverfahren für Antworten mit Quellenangaben. Sie betrachteten sprachliche Qualität, sachliche Korrektheit und Zitierqualität getrennt. Im damals getesteten ELI5-Datensatz fehlte selbst den besten untersuchten Systemen in der Hälfte der Fälle eine vollständige Quellenstützung.

Auch diese Zahl beschreibt einen bestimmten Benchmark und damalige Systeme. Interessanter als die Zahl selbst ist die Messlogik: Eine Antwort kann gut formuliert sein, inhaltlich teilweise stimmen und dennoch keine ausreichenden Belege für jeden ihrer wesentlichen Schritte liefern. Wer nur einen Gesamteindruck bewertet, übersieht genau diese Trennung.

Eine weitere ACL-Studie von Xu und Kollegen aus dem Jahr 2023 untersuchte die Bewertung ausführlicher Antworten mit Fachleuten aus sieben Wissensbereichen. Sie zeigte, wie wenig eine einzelne automatische Gesamtmetrik über die menschliche Einschätzung einer Antwort aussagen muss. Vollständigkeit und weitere Qualitätsdimensionen spielen eine eigene Rolle. Für die Bewertung von KI-Recherche bedeutet das: Ein einziger Vertrauenswert kann den Vergleich mit der Quelle nicht ersetzen.

Die Gegenposition: Bessere Zitierpraxis ist technisch möglich

Aus all dem lässt sich kein Urteil ableiten, dass KI-Systeme grundsätzlich unfähig seien, nachvollziehbare Quellenangaben zu liefern. Die Entwicklung verläuft weder einheitlich noch steht sie still.

In einer 2026 in Nature veröffentlichten Arbeit beschreibt ein Forschungsteam OpenScholar, ein spezialisiertes System zur wissenschaftlichen Literaturauswertung. Es nutzt eine große Sammlung frei zugänglicher Veröffentlichungen, gezieltes Auffinden von Passagen und wiederholte Prüfung der eigenen Antworten. In der veröffentlichten Benchmark-Evaluation schnitt OpenScholar bei der Genauigkeit von Zitaten erheblich besser ab als mehrere verglichene allgemeine Modellkonfigurationen; die Autoren berichten von einem Niveau, das mit menschlichen Fachleuten vergleichbar war.

Das ist ein Gegenbefund zur Vorstellung, Quellenfehler seien unvermeidlich. Er ist allerdings kein Freibrief. OpenScholar ist auf wissenschaftliche Recherche zugeschnitten, die Resultate hängen an Testaufgaben und Beurteilungskriterien, und auch dort bleibt die genaue Definition von Zitatgenauigkeit entscheidend. Die untersuchte Leistung überträgt sich nicht automatisch auf Nachrichten, interne Richtlinien oder jeden öffentlich verfügbaren Chatbot.

Gerade dieser Vergleich macht die Debatte nützlicher. Die Frage lautet nicht, ob „KI“ insgesamt zuverlässig oder unzuverlässig ist, sondern unter welchen Bedingungen ein System Behauptungen tatsächlich mit überprüfbaren Fundstellen verbindet.

Wie man eine KI-Antwort ohne Scheinprüfung kontrolliert

Der erste Schritt besteht darin, nicht alle Sätze gleich zu behandeln. Eine harmlose Begriffsdefinition verlangt weniger Aufwand als eine Zahl, eine Wirksamkeitsaussage oder eine Entscheidung mit finanziellen und rechtlichen Folgen. Man beginnt bei den Sätzen, auf denen die Schlussfolgerung ruht.

Für jede solche Aussage lässt sich eine kleine, aber wirksame Probe machen: Die Originalquelle öffnen, die konkrete Passage suchen und den Wortlaut der Antwort dagegenhalten. Ist die Aussage dort nur als Vermutung formuliert? Bezieht sie sich auf eine andere Zielgruppe? Stammt die Zahl aus einer früheren Untersuchung? Gibt es im Original eine Einschränkung, die in der KI-Antwort verschwindet?

Hilfreich ist dabei eine Gegenfrage, die nicht an dasselbe Modell delegiert werden muss: Welche Beobachtung müsste vorliegen, damit die behauptete Schlussfolgerung falsch wäre? Wer das Original liest, findet häufig nicht nur eine Bestätigung, sondern den Geltungsbereich eines Befunds. Bei großen Entscheidungen sollte eine zweite unabhängige Quelle oder fachliche Prüfung hinzukommen.

Dasselbe Prinzip lässt sich auf Unternehmenswissen übertragen. Ein interner Assistent mag die richtige Prozessseite verlinken, aber eine veraltete Passage zitieren. Warum Organisationen dafür fachliche Verantwortung und gültige Versionen brauchen, behandelt unser Beitrag über KI und Wissensmanagement. Der hier beschriebene Belegcheck setzt eine Ebene später an: Er prüft, ob die konkrete Antwort aus der angegebenen Quelle folgt.

Und es bleibt menschliche Arbeit. Wer KI einsetzt, um die komplette Literaturprüfung zu beschleunigen, muss nicht jeden Nebensatz von Hand verifizieren. Wer aus einer KI-Synthese aber eine belastbare Aussage macht, übernimmt die Verantwortung für den Weg vom Original zur Schlussfolgerung. Welche Denkoperationen man dabei nicht vollständig auslagern sollte, untersuchen wir auch in unserer Analyse zum kritischen Denken mit KI.

Das Problem beginnt dort, wo die Quelle Autorität verleiht

Ein Quellenlink ist nützlich. Er ist die Voraussetzung dafür, einen Beleg überprüfen zu können. Er ist aber kein Zertifikat, dass diese Überprüfung bereits stattgefunden hat. Das gilt für maschinelle Antworten ebenso wie für menschliche Texte.

Die Untersuchungen aus Journalismus und Forschung zeigen eine wiederkehrende Lücke zwischen korrekt klingender Antwort und belastbarer Zuordnung. Die spezialisierten Gegenbeispiele zeigen zugleich, dass sich diese Lücke verkleinern lässt. Beides sollte man ernst nehmen.

Am Ende entscheidet nicht die Anzahl der Links, sondern eine nachvollziehbare Beziehung: Trägt diese Quelle genau diese Aussage – unter genau diesen Bedingungen? Wer darauf keine Antwort hat, besitzt vielleicht eine gute Spur für die Recherche. Noch keinen gesicherten Befund.