KI-generierte Antworten können nützliche Ausgangspunkte sein, sollten aber nicht als endgültige Wahrheitsquelle behandelt werden. Am sichersten überprüft man sie, indem man die Antwort in einzelne Behauptungen zerlegt, diese mit verlässlichen Quellen abgleicht, prüft, ob angeführte Belege die konkreten Aussagen tatsächlich stützen, und festhält, was unklar bleibt.
Dieser Ablauf ist wichtig, weil ein einziger korrekter Satz nicht belegt, dass die gesamte Antwort zuverlässig ist. Eine KI-Antwort kann zutreffende Hintergrundinformationen mit unbelegten Details, veraltetem Kontext oder Quellenangaben vermischen, die zwar einschlägig wirken, die Behauptung aber nicht stützen. OpenAI rät Nutzerinnen und Nutzern, wichtige Informationen aus ChatGPT anhand verlässlicher Quellen zu überprüfen und generierten Text als Entwurf zu behandeln, statt davon auszugehen, dass er vollständig korrekt ist; so steht es im Hilfeartikel zur Frage, ob ChatGPT die Wahrheit sagt.
Dieser Leitfaden richtet sich an Studierende, Berufstätige, Forschende, Content-Erstellende und allgemeine Nutzerinnen und Nutzer, die eine praktische Methode brauchen, um KI-Ausgaben zu prüfen, bevor sie sich darauf verlassen.
Praxisbeispiel: Eine Antwort mit einer vollständigen Quelle abgleichen
Dies ist eine fiktive Übung, keine echte Firmenrichtlinie und kein protokollierter KI-Test. Alle nötigen Belege stehen unten.
Quellenkarte A
Bestellungen bis 14:00 Uhr an einem Werktag werden am selben Tag versandt. Spätere Bestellungen werden am nächsten Werktag versandt. Die Standardlieferung dauert nach Versand 2–3 Werktage. Kein Versand am Wochenende.
Quellenkarte B
Bestellung am Freitag um 16:30 Uhr. Werktage sind Montag bis Freitag. Es gibt keine Feiertage.
Zu prüfende Antwort (absichtlich fehlerhaft)
Die Bestellung wird Freitag versandt, kommt Montag an und der Expressversand ist kostenlos.
Prüfen Sie die drei Aussagen vor dem Lesen der Auflösung.
| Aussage | Bewertung und Begründung |
|---|---|
| Versand am Freitag | Widersprochen. 16:30 liegt nach 14:00; nächster Werktag ist Montag. |
| Ankunft am Montag | Widerspricht den angegebenen Standardlieferbedingungen. Versand am Montag; Dienstag als Tag 1 ergibt Mittwoch–Donnerstag als voraussichtlichen Lieferzeitraum. Das ist keine Garantie. |
| Expressversand kostenlos | Unbelegt. Keine Karte nennt Verfügbarkeit oder Preis eines Expressversands. Unbelegt bedeutet nicht nachweislich falsch. |
Korrigierte Antwort
Nach diesen fiktiven Bedingungen erfolgt der Versand Montag; die Standardlieferung wird Mittwoch–Donnerstag erwartet. Verfügbarkeit und Preis einer Expresslieferung sind nicht belegt.
Selbst ausprobieren
Ändern Sie die Bestellung auf Freitag 13:30: Versand Freitag, erwartete Lieferung Dienstag–Mittwoch. Ist stattdessen Montag ein Feiertag, wird eine Bestellung vom Freitag 16:30 am Dienstag versandt; erwartete Lieferung Donnerstag–Freitag.
Prüfprompt zum Kopieren
Verwende nur die Quellenkarten A und B oben. Zerlege die Antwort in einzelne Aussagen. Kennzeichne jede als belegt, widersprochen oder unbelegt. Zeige die genaue Regel oder Rechnung für jede Bewertung. Schreibe dann eine korrigierte Antwort. Erfinde keine fehlenden Gebühren oder Leistungen.
Bestanden ist die Übung nur mit drei korrekten Bewertungen und korrekter Werktagsrechnung. Eine zweite KI-Antwort ist kein unabhängiger Beleg: Vergleichen Sie sie mit Karten und Auflösung. Die Übung zeigt eine Prüfmethode, keine gemessene Modellgenauigkeit.
Schritt 1: Die zu prüfenden Behauptungen erkennen
Beginnen Sie damit, die KI-Antwort in einzelne Bestandteile zu zerlegen. Nicht jeder Satz erfordert denselben Prüfaufwand.
Achten Sie auf Folgendes:
- Sachbehauptungen: Aussagen, die sich belegen oder widerlegen lassen, etwa Daten, Gesetze, technische Anforderungen, Definitionen oder namentlich genannte Quellen.
- Zahlenangaben: Statistiken, Preise, Prozentsätze, Ranglisten, Messwerte oder Fristen.
- Kausale Behauptungen: Aussagen, wonach eine Sache eine andere verursacht, verhindert, verbessert oder verringert.
- Empfehlungen: Ratschläge dazu, was jemand tun sollte.
- Annahmen: Hintergrundbedingungen, auf denen die Antwort beruht, die sie aber möglicherweise nicht klar benennt.
- Meinungen oder Deutungen: Bewertungen, Prognosen oder Zusammenfassungen, die plausibel sein können, aber dennoch Kontext benötigen.
Die Überprüfung sollte sich auf einzelne Behauptungen konzentrieren. Wenn eine KI-Antwort sagt, dass eine Quelle existiert, ein Datum stimmt und eine Regelung in den USA gilt, ist jeder dieser Punkte eine eigene Prüfung. Geben Sie nicht die gesamte Antwort frei, nur weil ein Teil korrekt war.
Eine einfache Methode besteht darin, die KI-Antwort in ein Dokument zu kopieren und nur die Aussagen zu markieren, bei denen ein Fehler relevant wäre. Das sind Ihre vorrangigen Prüfpunkte.
Schritt 2: Die Antwort mit verlässlichen Quellen abgleichen
Sobald Sie die Behauptungen ermittelt haben, vergleichen Sie sie mit Quellen, die zum jeweiligen Thema passen.
Zum Beispiel:
- Bei einer staatlichen Regel prüfen Sie die zuständige Behörde, das einschlägige Gesetz, die Verordnung oder eine offizielle Handreichung.
- Bei einer Produktfunktion eines Unternehmens prüfen Sie die offizielle Dokumentation oder die Supportseiten des Unternehmens.
- Bei akademischen oder wissenschaftlichen Informationen suchen Sie nach begutachteter Forschung, offiziellen Abstracts oder anerkannten Facheinrichtungen.
- Bei technischen Anleitungen prüfen Sie offizielle Dokumentationen, Normungsorganisationen oder vertrauenswürdige Maintainer.
- Bei aktuellen Ereignissen prüfen Sie aktuelle Berichte seriöser Nachrichtenorganisationen und, soweit verfügbar, offizielle Stellungnahmen.
Ziel ist nicht, einfach eine weitere Seite zu finden, die etwas Ähnliches sagt. Ziel ist festzustellen, ob die konkrete Behauptung der KI-Antwort überprüfbar ist.
Das National Institute of Standards and Technology beschreibt einen verwandten Bewertungsansatz für maschinell erstellte Berichte: Die Behauptungen und Quellenangaben des Berichts werden mit den Quelldokumenten verglichen, um festzustellen, ob sie belegt sind. Dieser Punkt stammt aus der NIST-Veröffentlichung zur Evaluierung maschinell erstellter Berichte. Derselbe Gedanke lässt sich gut auf alltägliche KI-Antworten übertragen: Behauptungen sollten anhand der Dokumente oder Stellen geprüft werden, die sie tatsächlich belegen könnten.
Schritt 3: Quellenangaben und Quellenbelege prüfen
Quellenangaben können eine KI-Antwort vertrauenswürdig wirken lassen, beweisen für sich allein aber keine Genauigkeit. Nützlich ist eine Quellenangabe nur, wenn sie vier Prüfungen besteht.
Fragen Sie:
- Existiert die Quelle? Öffnen Sie den Link oder suchen Sie nach dem Titel des Dokuments. Vergewissern Sie sich, dass es tatsächlich existiert.
- Ist die Quelle relevant? Eine Quelle kann das allgemeine Thema behandeln, ohne die konkrete Behauptung zu stützen.
- Ist die Quelle ausreichend maßgeblich? Prüfen Sie, wer sie veröffentlicht hat, welche Fachkenntnis dahintersteht und ob ein Anlass besteht, besonders genau zu sein.
- Stützt die Quelle die genaue Behauptung? Verlassen Sie sich nur dann auf eine Quellenangabe, wenn die zitierte Seite tatsächlich das sagt, was die KI-Antwort ihr zuschreibt.
Die vierte Prüfung wird häufig übersprungen. Eine Quelle kann echt und seriös sein und die Aussage der KI trotzdem nicht stützen. So belegt eine Regierungsseite zur Arbeitssicherheit möglicherweise keine konkrete Aussage zu einer bestimmten Vorschrift eines Bundesstaats. Ein medizinischer Artikel über eine Patientengruppe stützt nicht unbedingt Empfehlungen für eine andere. Eine technische Dokumentationsseite zu einer Softwareversion gilt möglicherweise nicht für eine andere Version.
Wenn eine Quellenangabe die Behauptung nicht stützt, kennzeichnen Sie die Behauptung als nicht verifiziert, auch wenn die Quelle glaubwürdig wirkt.
Schritt 4: Auf fehlenden Kontext und überzogene Sicherheit achten
KI-generierte Antworten können sicherer klingen, als es die Belege zulassen. Besonders riskant ist das, wenn die Antwort kurz, verallgemeinernd oder in einem selbstbewussten Ton formuliert ist, ohne Bedingungen oder Grenzen zu erläutern.
Warnzeichen sind unter anderem:
- Pauschale Aussagen wie „immer“, „nie“, „garantiert“ oder „bewiesen“ ohne Beleg.
- Statistiken ohne Quelle, Datum, Grundgesamtheit oder Methodik.
- Rechtliche, medizinische, finanzielle oder sicherheitsbezogene Ratschläge ohne Rechtsraum, Kontext oder fachliche Prüfung.
- Aussagen zum aktuellen Geschehen ohne Datum oder Quelle.
- Technische Schritte, bei denen Versionsnummern, Plattformunterschiede oder Voraussetzungen fehlen.
- Quellenangaben, die auf Startseiten statt auf das konkret belegende Dokument verweisen.
- Empfehlungen, die keine Abwägungen oder Unsicherheiten erklären.
Fehlender Kontext bedeutet nicht automatisch, dass die Antwort falsch ist. Er bedeutet, dass man sich noch nicht auf sie verlassen sollte. Fragen Sie, welche Bedingungen erfüllt sein müssten, damit die Antwort zutrifft.
Eine Aussage zu einer Frist kann zum Beispiel vom Bundesstaat, von der Behörde, vom Steuerjahr, vom Anmeldestatus oder vom Datum des Inkrafttretens abhängen. Eine technische Antwort kann von der Softwareversion abhängen. Eine gesundheitsbezogene Zusammenfassung kann von Alter, Diagnose, Medikamenten oder Risikofaktoren abhängen. Wenn solche Angaben fehlen, prüfen Sie sie, bevor Sie handeln.
Schritt 5: Wichtige Behauptungen mit mehreren unabhängigen Quellen abgleichen
Bei wichtigen oder umstrittenen Behauptungen reicht eine Quelle möglicherweise nicht aus. Nutzen Sie mehrere unabhängige Quellen, wenn die Entscheidung Folgen hat oder wenn Quellen einander widersprechen.
Eine gute Gegenprüfung sucht nach unabhängiger Bestätigung, nicht nach bloßer Wiederholung. Wenn drei Artikel dasselbe Originaldokument zusammenfassen, liefern sie möglicherweise keine drei voneinander getrennten Bestätigungen. Ermitteln Sie nach Möglichkeit die Originalquelle und vergleichen Sie die Zusammenfassungen damit.
Nutzen Sie mehrere Quellen, wenn:
- die Antwort gesundheitliche, rechtliche, finanzielle, sicherheitsrelevante, akademische oder berufliche Entscheidungen beeinflusst.
- die Behauptung überraschend ist oder der Intuition widerspricht.
- sich das Thema häufig ändert.
- die KI-Antwort eine konkrete Zahl, eine Frist oder eine Anforderung nennt.
- verschiedene Quellen einander offenbar widersprechen.
Wenn glaubwürdige Quellen einander widersprechen, erzwingen Sie kein Fazit. Halten Sie den Widerspruch fest und bestimmen Sie, wodurch er geklärt werden könnte: durch eine aktuellere Quelle, ein Primärdokument, eine qualifizierte Fachperson oder eine enger gefasste Fragestellung.
Schritt 6: Bei Themen mit hohen Risiken besonders vorsichtig sein
Manche KI-generierten Antworten müssen strenger geprüft werden, weil ein Fehler schwerwiegende Folgen hätte. Dazu gehören medizinische, rechtliche, finanzielle, sicherheitsrelevante, akademische, arbeitsbezogene, Compliance- und aktuelle Nachrichtenthemen.
Behandeln Sie die KI-Antwort bei solchen Themen als Entwurf für weitere Recherchen, nicht als Entscheidungsgrundlage. Überprüfen Sie die Informationen bei maßgeblichen Institutionen, in offiziellen Dokumenten oder bei qualifizierten Fachleuten. Verlassen Sie sich nicht allein auf eine KI-generierte Antwort, wenn das Ergebnis die Gesundheit, Rechte, Finanzen, Sicherheit oder rechtlichen Pflichten einer Person betreffen könnte.
Das bedeutet nicht, dass KI bei Themen mit hohen Risiken nutzlos ist. Sie kann helfen, Fragen zu ordnen, Hintergrundinformationen zusammenzufassen oder ein Gespräch mit einer Fachperson vorzubereiten. Die abschließende Prüfung sollte jedoch aus einer verlässlichen Quelle stammen, die zur jeweiligen Entscheidung passt.
Schritt 7: Einen Prüfvermerk führen
Wenn die Antwort wichtig ist, halten Sie kurz fest, was Sie geprüft haben. Das ist besonders nützlich für Schul- und Studienarbeiten, Recherchen am Arbeitsplatz, veröffentlichte Inhalte, technische Dokumentation und politische oder organisatorische Entscheidungen.
Ihr Vermerk kann einfach sein:
| Behauptung | Geprüfte Quelle | Ergebnis | Notizen |
|---|---|---|---|
| Die KI-Antwort sagt, dass eine Regel in den USA gilt | Offizielle Seite der zuständigen Behörde | Verifiziert / Nicht verifiziert / Unklar | Abrufdatum und etwaige Einschränkungen angeben |
| Die KI-Antwort zitiert einen Bericht | Bericht geöffnet und geprüft | Stützt die Aussage / Stützt die Aussage nicht | Relevanten Abschnitt notieren |
| Die KI-Antwort nennt eine Statistik | Originalquelle oder maßgebliche Datenbank | Verifiziert / Veraltet / Unklar | Datum der Quelle festhalten |
Das erfüllt zwei Zwecke. Erstens verhindert es, dass Sie denselben Punkt später noch einmal prüfen. Zweitens trennt es das, was Sie wissen, von dem, was Sie noch bestätigen müssen.
Checkliste: So überprüfen Sie KI-generierte Antworten
Nutzen Sie diese Checkliste, wenn Sie ein wiederholbares Vorgehen benötigen.
- Aussagen ermitteln. Markieren Sie Tatsachenbehauptungen, Zahlen, Daten, Empfehlungen und Annahmen.
- Nach Risiko priorisieren. Prüfen Sie die Aussagen, bei denen ein Fehler die größten Folgen hätte.
- Verlässliche Quellen finden. Bevorzugen Sie Primärquellen, offizielle Dokumentationen, begutachtete Forschung, staatliche Ressourcen oder anerkannte Fachpublikationen.
- Jede Quellenangabe prüfen. Vergewissern Sie sich, dass die zitierte Quelle existiert, relevant und glaubwürdig ist und die konkrete Aussage stützt.
- Auf übertriebene Sicherheit achten. Seien Sie vorsichtig bei weitreichenden Behauptungen, unbelegten Statistiken, unklaren Quellenangaben und fehlenden Datumsangaben.
- Aktualität prüfen. Achten Sie bei aktuellen Ereignissen, Richtlinien, Preisen, rechtlichen Anforderungen und technischen Funktionen darauf, dass die Quelle ausreichend aktuell ist.
- Unabhängige Bestätigung einholen. Vergleichen Sie bei wichtigen oder umstrittenen Aussagen mehrere verlässliche Quellen.
- Entscheidungen mit hohem Risiko weiter absichern. Ziehen Sie bei medizinischen, rechtlichen, finanziellen, sicherheitsrelevanten oder Compliance-Fragen qualifizierte Fachleute oder maßgebliche Institutionen hinzu.
- Prüfungen dokumentieren. Notieren Sie, was Sie überprüft haben, welche Quellen Sie verwendet haben und was weiterhin unklar ist.
- Antwort überarbeiten. Behandeln Sie die KI-Ausgabe als Entwurf und ergänzen Sie geprüfte Informationen, Einschränkungen und Quellenangaben.
Was tun, wenn sich eine Aussage nicht überprüfen lässt?
Wenn sich eine Aussage nicht überprüfen lässt, lassen Sie sie nicht stillschweigend stehen. Wählen Sie eine dieser Möglichkeiten:
- Entfernen Sie die Aussage.
- Formulieren Sie sie als Frage für weitere Recherchen um.
- Fügen Sie eine Einschränkung hinzu, etwa: „Dies scheint von der Quelle oder vom Kontext abzuhängen.“
- Ersetzen Sie sie durch eine engere Aussage, die Ihre Quellen tatsächlich stützen.
- Fragen Sie eine qualifizierte Fachperson oder eine maßgebliche Organisation.
Welche Option richtig ist, hängt von der Tragweite ab. Beim lockeren Brainstorming kann ein Hinweis auf Unsicherheit genügen. Bei veröffentlichten Arbeiten, beruflichen Entscheidungen, akademischen Einreichungen oder Ratschlägen, die andere betreffen, sollten unbelegte Aussagen vor der Verwendung entfernt oder überprüft werden.
Fazit
Der beste Weg, die Genauigkeit von KI zu prüfen, besteht nicht darin, zu fragen, ob die gesamte Antwort „richtig klingt“. Prüfen Sie die Antwort Aussage für Aussage. Behandeln Sie die KI-Antwort als Entwurf, vergleichen Sie wichtige Aussagen mit verlässlichen Quellen, prüfen Sie Quellenangaben darauf, ob sie die Aussage tatsächlich stützen, und legen Sie strengere Maßstäbe an, wenn die Folgen gravierend sein können.
Dieses Vorgehen garantiert keine Perfektion. Es hilft aber, unbelegte, veraltete, zu weit gefasste oder falsch zugeschriebene Informationen zu erkennen, bevor Sie sich darauf verlassen.
