Prüfpflicht bei KI-Texten

Die Prüfpflicht bei KI-Texten ist keine eigenständige gesetzliche Vorschrift, sondern folgt aus allgemeinen Sorgfaltspflichten. Wer ein Schreiben versendet, steht für dessen Inhalt ein. Dass ein Sprachmodell den Entwurf erstellt hat, ändert daran nichts. Im Betrieb bedeutet das eine klare Regel: Kein maschinell erzeugter Text verlässt das Unternehmen ungelesen.

Der Grund liegt in der Arbeitsweise der Modelle. Sie erzeugen sprachlich stimmige Texte, ohne deren Wahrheitsgehalt zu prüfen. Fehlende Angaben werden ergänzt, wenn sie plausibel wirken. Für Handwerks- und Bauunternehmen sind drei Fehlertypen typisch: erfundene Preise und Mengen, erfundene Normbezüge und Fristen sowie ungewollte Zusagen, etwa zu kostenloser Nachbesserung oder zu Ausführungsterminen.

Wo KI ansetzt

Die Prüfung muss deshalb gezielt an diesen Stellen ansetzen. Zahlen werden gegen die eigene Kalkulation oder das Aufmaß gehalten. Genannte Normen und Vorschriften werden entweder belegt oder gestrichen. Aussagen mit Zusagecharakter werden bewusst bestätigt oder entfernt. Ein flüchtiges Überfliegen genügt nicht, weil gerade die erfundenen Angaben sprachlich unauffällig eingebettet sind, siehe Halluzination.

Der Aufwand lässt sich verringern, indem in der Anweisung bereits ausgeschlossen wird, was das Modell nicht ergänzen soll. Eine Vorgabe wie “verwende ausschließlich die genannten Preise und Mengen, ergänze keine weiteren Zahlen und nenne keine Normen” reduziert die Zahl der Fundstellen erheblich. Zusätzlich kann verlangt werden, unklare Punkte als offene Frage zu markieren statt sie zu füllen.

Wie streng geprüft wird, sollte sich nach der Tragweite richten. Interne Protokolle brauchen weniger Aufmerksamkeit als Angebote und Mängelrügen. Für Schreiben mit rechtlicher Wirkung ist zusätzlich eine zweite Person sinnvoll, siehe Vier-Augen-Prinzip bei KI-Texten.

Hilfreich ist außerdem, die Prüfung nicht unmittelbar nach der Erzeugung vorzunehmen. Wer den Entwurf mit etwas zeitlichem Abstand liest, erkennt Abweichungen eher, weil er den Text nicht mehr aus der Erinnerung an die eigene Eingabe ergänzt. In Betrieben, in denen Angebote ohnehin gesammelt am Abend versendet werden, lässt sich dieser Abstand ohne organisatorischen Aufwand herstellen.

Die Regel gehört schriftlich in den Betrieb und in die Einweisung neuer Mitarbeitender. Sie ist in einem Satz formuliert und wirkt zuverlässiger als jede technische Vorkehrung. Im Betriebsalltag hilft eine schlichte Kennzeichnung: Entwürfe tragen im Betreff oder Dateinamen einen Zusatz, der erst mit der Freigabe entfällt. So kann kein Text versehentlich hinausgehen, nur weil er sauber formatiert wirkte. Halten Sie zusätzlich fest, wer freigeben darf. Bei Angeboten ist das üblicherweise die Kalkulation, bei Schreiben mit Fristbezug die Bauleitung oder die Geschäftsführung. Ohne benannte Zuständigkeit verteilt sich die Verantwortung auf alle und damit auf niemanden. Nehmen Sie die Regel in die Einarbeitung neuer Mitarbeitender auf, damit sie nicht nur für diejenigen gilt, die bei der Einführung dabei waren.