Erkennung erfundener Angaben

Die Erkennung erfundener Angaben beschreibt das systematische Aufspüren von Aussagen, die ein Sprachmodell erzeugt hat, ohne sie einer Quelle entnehmen zu können. Betroffen sind typischerweise Zahlen, Paragraphen, Normnummern, Fristen, Fördersätze, Produktbezeichnungen und Literaturverweise. Solche Angaben lassen sich nicht am Sprachstil erkennen, weil sie sich sprachlich in nichts vom übrigen Text unterscheiden. Erkennbar sind sie nur durch Prüfung an einer unabhängigen Quelle.

Im Handwerksbetrieb sind bestimmte Textarten besonders anfällig. Angebots- und Leistungstexte enthalten Verweise auf technische Regeln, Mängelschreiben nennen Fristen, Förderanträge nennen Programme und Quoten, Arbeitsanweisungen verweisen auf Sicherheitsvorgaben. Wird eine solche Angabe falsch übernommen, entsteht ein Schriftstück, das der Betrieb gegenüber Auftraggeber, Behörde oder Nachunternehmer vertritt, obwohl es eine erfundene Grundlage nennt.

Die Folgen fallen unterschiedlich schwer aus. Eine falsche Produktbezeichnung im Angebot führt meist zur Rückfrage, ein erfundener Normbezug in einer Leistungsbeschreibung kann dagegen den geschuldeten Leistungsumfang verschieben. Nennt ein Schreiben an den Auftraggeber eine Frist, die es so nicht gibt, entsteht Streit über die Wirksamkeit der Erklärung. Der Prüfaufwand richtet sich deshalb sinnvollerweise danach, welche Wirkung ein Schriftstück nach außen entfaltet, nicht nach seiner Länge.

Nützlich ist außerdem, auf wiederkehrende Warnzeichen zu achten. Auffällig sind runde, gut merkbare Zahlen ohne Quelle, Verweise auf Regelwerke, die im eigenen Gewerk unüblich sind, sehr konkrete Fristen ohne Bezug zum Vertrag sowie Formulierungen, die eine Rechtslage als eindeutig darstellen. Diese Merkmale beweisen nichts, sie lenken aber die Aufmerksamkeit auf die Stellen, an denen sich Prüfung lohnt. Wer regelmäßig mit denselben Textarten arbeitet, erkennt die Muster nach kurzer Zeit.

Wo KI ansetzt

Ein praktikables Vorgehen besteht aus drei Schritten. Erstens wird der Text auf prüfpflichtige Elemente durchgesehen: alles, was eine Zahl, ein Datum, eine Norm, einen Paragraphen oder einen Namen enthält. Zweitens wird jedes dieser Elemente an der Primärquelle geprüft, also am Gesetzestext, an der Norm, an der Preisliste oder an der Programmrichtlinie, nicht an einer weiteren KI-Antwort. Drittens wird alles gestrichen oder umformuliert, was sich nicht belegen lässt.

Unterstützend hilft, das Werkzeug in der Anweisung zur Zurückhaltung zu zwingen: keine Zahlen ohne übergebene Datengrundlage, keine Normverweise, stattdessen Platzhalter. Eine Quellenangabe durch KI ist nur dann aussagekräftig, wenn sie auf tatsächlich vorgelegte Dokumente verweist, etwa bei einer retrieval-gestützten Antwort; frei genannte Quellen können ebenso erfunden sein wie der Inhalt.

Für den Betrieb empfiehlt sich, die Prüfung an eine Person zu binden und im Freigabeprozess festzuhalten. Hilfreich ist eine kurze Liste der im eigenen Gewerk häufigen Fehlerbilder, etwa erfundene Normbezeichnungen oder falsch zitierte Verarbeitungsvorgaben von Herstellern. Wer diese Liste kennt, prüft schneller und übersieht seltener die Stellen, an denen es wirklich darauf ankommt.