LotookLotook
RSS-Feed
KI-Ratgeber · 7 Min. Lesezeit

KI-Antworten in fünf Minuten auf Fakten prüfen

Eine Fünf-Minuten-Routine, um KI-Antworten zu überprüfen: Aussagen und Quellen prüfen, Zahlen und Daten kontrollieren und bei Bedarf tiefer recherchieren.

Von Chunyu Cai

Illustration einer Lupe über einem Dokument, in dem einige Zeilen als überprüft und eine als auffällig markiert sind

Das Gefährlichste an KI-Antworten ist nicht, dass sie oft falsch sind. Es ist, dass eine falsche Antwort im genau gleichen selbstbewussten, gut strukturierten Ton daherkommt wie eine richtige.

Der Fall, den inzwischen alle in der Rechtswelt kennen, ist Mata v. Avianca. Im Jahr 2023 reichten Anwälte in einem New Yorker Bundesverfahren einen Schriftsatz ein, der von ChatGPT erfundene Gerichtsentscheidungen samt falschen Zitaten anführte. Auf ihre Frage, ob die Fälle echt seien, versicherte ChatGPT ihnen, sie „existierten tatsächlich“ und seien in juristischen Datenbanken zu finden. Das stimmte nicht. Im Juni 2023 verhängte Judge P. Kevin Castel gegen die Anwälte und ihre Kanzlei eine Geldstrafe von $5,000.

Die Werkzeuge sind seither viel besser geworden, doch die Lehre bleibt dieselbe: Man kann das Modell nicht bitten, für sich selbst zu bürgen. Dieser Leitfaden beschreibt die Routine, die ich empfehlen würde, um eine KI-Antwort zu überprüfen, bevor man sich auf sie verlässt. Sie dauert etwa fünf Minuten und deckt die meisten Probleme auf.

Warum KI-Antworten falsch sein können

Wer weiß, wie Fehler entstehen, weiß auch, wo er suchen muss.

  • Plausibel schlägt wahr. Sprachmodelle erzeugen Text, der zu erlernten Mustern passt. Wenn sie etwas nicht wissen, können sie etwas produzieren, das nur richtig klingt, statt „Ich weiß es nicht“ zu sagen.
  • Wissen veraltet. Ein Modell weiß möglicherweise nichts von jüngsten Ereignissen, sofern es nicht im Web sucht. Selbst dann kann es auf ältere Informationen zurückgreifen.
  • Quellen werden vermischt. Zwei Studien, zwei Personen mit ähnlichen Namen oder zwei Fassungen einer Richtlinie können zu einem selbstbewusst formulierten Satz verschmelzen.
  • Quellenangaben werden erfunden oder falsch gelesen. Ein Link existiert womöglich nicht, führt zu einer sachfremden Seite oder enthält etwas anderes als die darauf gestützte Zusammenfassung.
  • Zahlen verändern sich. Bei Prozentangaben, Daten, Einheiten und Währungen häufen sich Fehler.

Assistenten, die im Web suchen und ihre Quellen anzeigen, sind viel besser als noch vor einigen Jahren. Trotzdem machen sie gelegentlich jeden dieser Fehler.

Zuerst entscheiden, wie gründlich geprüft werden muss

Nicht jede Antwort braucht dieselbe Prüfung. Passen Sie den Aufwand an die Tragweite an.

Tragweite Beispiele Vorgehen
Niedrig Namen sammeln, eine E-Mail umformulieren, ein Konzept erklären, das Sie ohnehin lernen werden Kritisch lesen. Keine formelle Prüfung nötig
Mittel Fakten in einem Arbeitsdokument, eine Zusammenfassung zum Weitergeben, eine Anleitung, der Sie folgen werden Die folgende Fünf-Minuten-Prüfung durchführen
Hoch Entscheidungen zu Gesundheit, Recht, Geld oder Sicherheit; alles, was Sie veröffentlichen Die Prüfung durchführen und anschließend anhand von Primärquellen oder mit einer qualifizierten Fachperson bestätigen

Die Fünf-Minuten-Prüfung

Minute eins: Aussagen auflisten

Überfliegen Sie die Antwort und ziehen Sie die konkreten überprüfbaren Angaben heraus: Namen, Zahlen, Daten, Zitate, Quellenangaben und Ursache-Wirkungs-Aussagen wie „X führte zu Y“. Den verbindenden Text können Sie ignorieren. Die meisten Antworten beruhen auf drei bis sechs Aussagen; diese müssen Sie überprüfen.

Auch wenn Sie keine einzige überprüfbare Aussage finden, sollten Sie das beachten. Vage Antworten lassen sich schwer widerlegen, aber auch schwer als Grundlage nutzen.

Minute zwei: Jede Quelle öffnen

Wenn der Assistent Quellen genannt hat, klicken Sie jede einzelne an. Stellen Sie zu jeder drei Fragen: Existiert die Seite? Ist sie die Art von Quelle, als die sie ausgegeben wird, etwa eine offizielle Seite, eine Studie oder ein seriöses Medium statt einer Content-Farm? Und steht dort tatsächlich, was laut Antwort dort stehen soll?

Die letzte Frage deckt die meisten Fehler auf. In der Praxis kommt eine echte Quelle mit einer falschen Zusammenfassung weit häufiger vor als ein erfundener Link und wird viel leichter übersehen, weil der Link unauffällig aussieht.

Wenn es keine Quellen gibt, fragen Sie danach und prüfen Sie diese. Verlassen Sie sich aber nicht auf die Aussage des Modells, dass seine Quellen echt sind. Genau das ging bei Mata v. Avianca schief.

Minute drei: Lateral lesen

Faktenprüfer beurteilen eine Quelle nicht, indem sie diese gründlich lesen. Sie öffnen einen neuen Tab und schauen, was andere über sie sagen. Der Forscher für digitale Medienkompetenz Mike Caulfield machte daraus eine Methode namens SIFT:

  • Stop: Halten Sie inne, bevor Sie reagieren oder etwas teilen, besonders wenn eine Aussage Empörung oder Freude auslöst.
  • Investigate the source: Untersuchen Sie die Quelle. Wer steckt dahinter und wofür ist die Person oder Organisation bekannt?
  • Find better coverage: Suchen Sie bessere Berichte. Berichten andere vertrauenswürdige Quellen dasselbe?
  • Trace claims: Verfolgen Sie Aussagen bis zu ihrem ursprünglichen Kontext zurück: die eigentliche Studie, das vollständige Zitat, das Originalfoto.

Eine Suche nach der Schlüsselphrase in Anführungszeichen oder nach einem Namen zusammen mit einem Stichwort führt oft in Sekunden zum Original.

Minute vier: Zahlen und Daten prüfen

Sehen Sie sich jede Zahl genau an.

  • Ist sie aktuell? Suchen Sie nach einem Standdatum. Preise, Gesetze, Produktmerkmale und Statistiken ändern sich ständig.
  • Ist es die richtige Kennzahl? Umsatz und Gewinn, Nutzer und monatlich aktive Nutzer sowie Prozent und Prozentpunkte werden häufig verwechselt.
  • Stimmt die Rechnung? Wenn sich etwas von 40 auf 70 „verdoppelt“ hat, stimmt das nicht.
  • Stimmen die Einheiten? Achten Sie auf Währungen, Millionen und Milliarden sowie metrische und imperiale Einheiten.

Minute fünf: Fragen, was die Antwort ändern würde

Bitten Sie den Assistenten, seine eigene Antwort kritisch zu hinterfragen. Etwa so: „Bei welchen Teilen deiner Antwort bist du dir am wenigsten sicher, und was müsste ich prüfen, um sie zu bestätigen?“

So werden Schwachstellen oft schnell sichtbar. Betrachten Sie die Antwort aber als Aufgabenliste, nicht als Überprüfung. Das Modell bewertet weiterhin seine eigenen Hausaufgaben. Bei wichtigen Fragen ist dieselbe Frage an ein Modell eines anderen Anbieters eine günstige zweite Meinung; unser Leitfaden zur Auswahl eines KI-Modells erklärt, wann sich eine zweite Meinung lohnt.

Warnzeichen für eine zweite Prüfung

Warnzeichen Warum es wichtig ist
Sehr genaue Zahlen ohne Quelle Genauigkeit lässt sich genauso leicht erfinden wie alles andere
Zitate berühmter Personen Falsch zugeschriebene Zitate sind in Trainingsdaten weit verbreitet
Quellenangaben mit allgemeinen Titeln oder Links, die auf einer Startseite landen Häufige Anzeichen für eine nicht existierende Quellenangabe
Detaillierte Beschreibungen jüngster Ereignisse von einem Werkzeug ohne Webzugang Es könnte Lücken mit älteren Informationen füllen
Eine Antwort, die sich beim erneuten Generieren ändert Das Modell ist unsicher, auch wenn jede Version sicher klingt
Eine Antwort, die genau das sagt, was Sie gehofft haben Modelle neigen dazu, der Formulierung einer Frage zu folgen

Das letzte Warnzeichen ist das tückischste. Wenn Sie fragen „Warum ist X eine gute Idee?“, bekommen Sie meist Gründe dafür, dass X eine gute Idee ist. Fragen Sie stattdessen: „Was sind die stärksten Argumente für und gegen X?“

Sonderfälle

Bilder, Screenshots und Videos

KI-generierte und bearbeitete Bilder sind inzwischen alltäglich, und der Screenshot eines „Posts“ lässt sich in Sekunden fälschen. Suchen Sie per umgekehrter Bildersuche nach früheren Kopien und dem ursprünglichen Kontext. Prüfen Sie, ob die Datei Content Credentials enthält, den Herkunftsstandard der C2PA-Koalition, den manche Kameras, Bearbeitungsprogramme und KI-Generatoren an Bilder anhängen.

Regulierung beginnt zu helfen. Seit dem 2. August 2026 verpflichten die Transparenzregeln des EU AI Act Anbieter generativer KI-Systeme, synthetische Inhalte maschinenlesbar zu kennzeichnen, und diejenigen, die Deepfakes veröffentlichen, diese offenzulegen. Systeme, die schon vor dem 2. August auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, die Kennzeichnung hinzuzufügen. Unser Beitrag zu den EU-Regeln zur Kennzeichnung von KI-Inhalten erklärt die Einzelheiten. Kennzeichnungen können weiterhin fehlen oder entfernt werden; betrachten Sie ihr Fehlen daher als „unbekannt“, nicht als „echt“.

Gesundheit, Recht und Geld

Nutzen Sie KI, um Ihre Situation zu verstehen und bessere Fragen vorzubereiten, nicht für die endgültige Entscheidung. Bestätigen Sie alles, wonach Sie handeln werden, anhand einer Primärquelle, etwa einer offiziellen Behördenseite oder des eigentlichen Gesetzes- oder Richtlinientextes, oder mit einer qualifizierten Fachperson.

Aktuelle Nachrichten

Erste Berichte sind oft falsch, und KI-Zusammenfassungen übernehmen deren Fehler. Warten Sie bei sich schnell entwickelnden Ereignissen auf Bestätigung durch mehrere etablierte Medien oder wenden Sie sich direkt an diese.

Um leicht überprüfbare Antworten bitten

Sie können Zeit sparen, indem Sie gleich um eine überprüfbare Antwort bitten:

  • „Nenne für jede Tatsachenbehauptung eine Quelle mit direktem Link und einem kurzen Zitat von der Seite.“
  • „Trenne gut Belegtes von Unsicherem oder Umstrittenem.“
  • „Gib das Datum an, auf das sich jede Statistik bezieht.“
  • „Wenn du etwas nicht weißt, sag es, statt zu raten.“

Keine dieser Bitten garantiert Richtigkeit. Jede macht Probleme leichter erkennbar. Und wenn Sie Dokumente einfügen, anhand derer das Modell etwas prüfen soll, entfernen Sie zuerst alle sensiblen Angaben. Unser Leitfaden zur Nutzung von KI bei der Arbeit ohne Preisgabe sensibler Daten erklärt, was Sie weglassen sollten.

Die wichtigste Gewohnheit

Wenn Sie nur eines aus diesem Leitfaden mitnehmen, dann dies: Öffnen Sie die Quellen. Die meisten KI-Fehler mit tatsächlichem Schaden wären aufgefallen, wenn jemand den Link angeklickt und die Seite gelesen hätte.

Dieselbe Regel gilt, wenn ein KI-Agent über eine für Sie erledigte Arbeit berichtet. „Aufgabe abgeschlossen“ ist eine Behauptung, kein Beweis. Unser Leitfaden darüber, was ein KI-Agent ist, erklärt, warum das wichtiger wird, wenn Agenten längere Aufgaben übernehmen.

Quellen

Geschrieben von

Chunyu Cai

Chunyu Cai ist CEO von Lotook, LLC und Unternehmer. Er schreibt über KI-Modelle, Agenten und darüber, wie sie den Arbeitsalltag verändern. Chunyu Cai hat einen Masterabschluss am Imperial College London erworben.

X (@ChunyuCai)

Alle Artikel →
Illustration eines langen Dokuments, das an Überschriften und Absatzumbrüchen in überlappende Abschnitte mit kleinen Metadaten-Tags aufgeteilt wird
KI-Ratgeber · 8 Min. ·

Dokumente für RAG in Chunks aufteilen: Token-, semantische und Strukturmethoden

So teilen Sie Dokumente für RAG in Token-, semantische und strukturbasierte Chunks auf und wählen Überlappung und Metadaten passend aus.

Illustration einer leuchtenden geometrischen KI-Figur mit einer Waage, auf deren Schalen Antwortkarten liegen, vor einem Raster mit Bewertungskriterien
KI-Ratgeber · 11 Min. ·

LLM-as-a-judge erklärt: Wie KI KI bewertet und wo Fehler entstehen

LLM-as-a-judge bewertet Antworten eines anderen Modells. Erfahren Sie, wie das Verfahren funktioniert, welche Verzerrungen auftreten und wie es zuverlässig ist.

Illustration eines kleinen Stroms vorgeschlagener Token-Kacheln, die parallel von einer größeren leuchtenden Prüfinstanz geprüft werden, die passende Kacheln behält
KI-Ratgeber · 10 Min. ·

Was ist speculative decoding? Wie LLM Token schneller entwerfen und prüfen

Speculative decoding beschleunigt die Token-Erzeugung von LLM durch paralleles Prüfen von Entwürfen. Erfahren Sie, wie es funktioniert und wo Grenzen liegen.