Quellenpflicht im Betrieb

Die Quellenpflicht im Betrieb ist eine selbst gesetzte Regel: Bestimmte Aussagen dürfen nur weiterverwendet werden, wenn dazu eine überprüfbare Fundstelle vorliegt. Sie richtet sich nicht an die Technik, sondern an die Beschäftigten und ergänzt die Prüfpflicht bei KI-Texten um eine Beweisanforderung. Wer eine Aussage übernimmt, muss sagen können, woher sie stammt.

Sinnvoll ist die Regel dort, wo eine falsche Aussage Geld oder Rechtsposition kostet. Typische Bereiche sind Vertragsinhalte, also Fristen, Zahlungsbedingungen, Gewährleistung und Vertragsstrafen. Weiter Preise und Konditionen, die aus Lieferantenlisten und nicht aus dem Gedächtnis eines Modells stammen müssen. Ebenso technische Vorgaben zu Aufbauten, Materialverträglichkeit oder Brandverhalten, bei denen ein Herstellerdatenblatt die Quelle ist. Schließlich Angaben zu Fördermitteln und Fristen, die sich häufig ändern. Für die interne Terminplanung oder einen Entwurf einer Kundenmail wäre die Regel dagegen unnötiger Aufwand.

Wo KI ansetzt

Der Grund liegt in zwei Eigenschaften der Werkzeuge. Erstens erfinden Sprachmodelle bei fehlendem Wissen plausibel klingende Angaben, siehe Halluzination. Zweitens ist ihr Wissensstand nicht aktuell, siehe veralteter Wissensstand. Beides ist am Ergebnis nicht zu erkennen. Die Quellenpflicht verlagert deshalb die Prüfung dorthin, wo sie funktioniert: an das Originaldokument. Werkzeuge mit Zugriff auf den eigenen Bestand unterstützen das, indem sie Fundstellen mitliefern, siehe Quellenangabe durch KI.

Praktisch wird die Regel in wenigen Sätzen formuliert und in die KI-Nutzungsrichtlinie aufgenommen. Sie benennt die Vorgangsarten, für die sie gilt, welche Belege akzeptiert werden, etwa Vertragsdokument, Datenblatt, Preisliste oder amtliche Veröffentlichung, und wo der Beleg abgelegt wird. Bewährt hat sich, den Nachweis im Vorgang selbst zu hinterlegen, also im Projektordner des DMS, statt in einer separaten Sammlung.

Der Zusatzaufwand ist geringer als befürchtet, weil die Quelle in vielen Fällen ohnehin geöffnet wird. Der Gewinn zeigt sich im Streitfall: Ein Betrieb, der zu jeder strittigen Aussage die Grundlage vorlegen kann, steht anders da als einer, der auf ein Chatprotokoll verweist. Führen Sie die Regel für zwei oder drei Vorgangsarten ein und weiten Sie sie erst aus, wenn sie im Alltag getragen wird. Nehmen Sie die Regel auch in die Einarbeitung neuer Mitarbeitender auf. Wer von Beginn an gewohnt ist, zu jeder übernommenen Aussage die Grundlage zu benennen, arbeitet unabhängig davon sauberer, ob der Text von einem Werkzeug oder aus dem Gedächtnis stammt.