p17-ki.de · Wissen · KI-Ergebnisse prüfen
Das Wichtigste in Kürze
- Guter Kontext verbessert Antworten, garantiert aber keine Richtigkeit. Das sagt Microsoft selbst über Copilot.
- Fünf Punkte genügen: Zahlen und Namen, Quellen, Zitate, unsichere Stellen, Verantwortung.
- Studien zeigen: KI hilft stark, aber bei Aufgaben jenseits ihrer Fähigkeiten lagen Nutzende seltener richtig als ohne KI.
Warum Prüfen Pflicht ist
Ein Sprachmodell sucht das wahrscheinlichste nächste Wort, nicht die Wahrheit. Fehlt eine Information, füllt es die Lücke mit etwas Plausiblem. Das BSI beschreibt es so: KI liefert auf fast jede Aufgabe eine Lösung, und wo die Grundlage fehlt, erfindet sie oftmals Inhalte. Wie das technisch zustande kommt, erklärt das Kapitel KI verstehen.
Die Anbieter sagen das selbst. Microsoft schreibt in den Copilot-Unterlagen, dass Kontext und Quellen die Richtigkeit nicht garantieren, und empfiehlt, verlinkte Quellen vor dem Teilen anzuklicken. Google rät, jedes Ergebnis vor dem Einsatz auf Klarheit, Relevanz und Richtigkeit zu prüfen. Das BSI empfiehlt, Aussagen über zuverlässige, unabhängige Quellen gegenzuprüfen, wenn es auf ihre Richtigkeit ankommt.
Eine Studie der Harvard Business School mit der Boston Consulting Group zeigt, warum das wichtig ist: 758 Beraterinnen und Berater arbeiteten mit KI rund 25 Prozent schneller und lieferten bessere Qualität, solange die Aufgabe zu den Fähigkeiten der KI passte. Bei Aufgaben jenseits dieser Grenze lagen sie mit KI um 19 Prozentpunkte seltener richtig als ohne. KI hilft also stark, aber nur, wenn man erkennt, wann sie danebenliegt.
Die Checkliste: fünf Punkte vor dem Weitergeben
- Zahlen, Namen, Daten, Paragrafen: am Original prüfen. Hier passieren die meisten Fehler, und sie fallen am wenigsten auf.
- Quellen öffnen: Gibt es die Quelle wirklich, und steht dort, was die KI behauptet? Chatbots erfinden mitunter Quellen.
- Zitate mit Fundstelle: Bei Dokumenten die Stelle angeben lassen und nachschlagen.
- Unsichere Stellen markieren lassen: Die KI kann kennzeichnen, was sie nicht belegen kann. Diese Stellen zuerst prüfen.
- Selbst lesen, selbst verantworten: Vor dem Versand das Ganze lesen. Passt der Ton, stimmen die Zusagen, würden Sie das mit Ihrem Namen unterschreiben?
Bei Texten über Menschen kommt ein sechster Punkt dazu: auf einseitige oder benachteiligende Darstellungen achten. Die Datenschutzkonferenz verlangt ausdrücklich, Ergebnisse mit Personenbezug vor der Weiterverarbeitung kritisch zu prüfen. Mehr dazu in der Datenschutz-Ampel.
Drei Prompts, die Fehler sichtbar machen
Sie können der KI das Prüfen erleichtern, indem Sie sie gleich mit einbauen:
Unsicheres kennzeichnen
„Markiere in deiner Antwort alle Aussagen, die du nicht sicher belegen kannst, mit [prüfen].“
Erst Belege, dann Antwort
„Suche zuerst die Stellen im Dokument heraus, die meine Frage beantworten, und gib sie wörtlich mit Seitenangabe wieder. Beantworte die Frage danach nur auf Grundlage dieser Stellen. Wenn das Dokument die Frage nicht beantwortet, sage das.“
Selbstprüfung am Ende
„Prüfe deine Antwort, bevor du sie abschließt: Stimmen alle Zahlen mit dem Dokument überein? Gibt es Aussagen ohne Beleg? Nenne mir, was ich selbst nachprüfen sollte.“
Der zweite Prompt folgt einer Empfehlung von Anthropic für lange Dokumente: erst die passenden Stellen heraussuchen lassen, dann darauf aufbauend antworten. So sehen Sie, worauf sich die Antwort stützt.
Was sich nicht prüfen lässt, bleibt beim Menschen
Manche Aufgaben eignen sich schlecht für KI, weil das Prüfen aufwendiger wäre als das Selbermachen: rechtlich verbindliche Aussagen, Berechnungen mit Folgen, Entscheidungen über Personen. Hier gilt: KI für den Entwurf, die Recherche oder die Struktur nutzen, die Entscheidung und die Endfassung bleiben beim Menschen.
Genau diese Urteilsfähigkeit ist der Kern dessen, was die KI-Verordnung unter KI-Kompetenz versteht. In unserer Schulung Basis-Prompts üben wir das Prüfen an echten Beispielen.
Quellen: Microsoft Learn und Microsoft Support zu Copilot-Prompts; Google Workspace, Leitfaden zum Prompting; Anthropic, Prompting-Leitfaden; BSI, „KI-Texterstellung“; Datenschutzkonferenz, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ (Mai 2024), Abschnitt 3.3; Dell'Acqua u. a., „Navigating the Jagged Technological Frontier“, Harvard Business School und BCG, 2023. Stand November 2026.
Häufige Fragen
Muss ich wirklich jedes Ergebnis prüfen?
Alles, was Ihr Haus verlässt oder auf dem Entscheidungen beruhen, ja. Für eine erste Ideensammlung oder einen internen Entwurf genügt ein kurzer Blick. Die Faustregel: Je größer die Folgen eines Fehlers, desto gründlicher die Prüfung.
Kann ich die KI ihre eigene Antwort prüfen lassen?
Als zusätzlichen Schritt ja, etwa mit „Prüfe deine Antwort auf Aussagen, die du nicht belegen kannst“. Das findet manche Fehler, ersetzt aber nicht Ihren Blick auf das Original. Die Verantwortung bleibt beim Menschen.
Sind Antworten mit Quellenangabe automatisch richtig?
Nein. Quellen können falsch zitiert, veraltet oder sogar erfunden sein. Öffnen Sie die Links und prüfen Sie, ob dort tatsächlich steht, was die KI behauptet.
Zuletzt geprüft: · Benjamin Beloch
