RAG (Retrieval-Augmented Generation)

RAG steht für Retrieval-Augmented Generation, sinngemäß übersetzt eine Texterzeugung, die durch Nachschlagen ergänzt wird. Das Verfahren verbindet ein Sprachmodell mit einer eigenen Wissensquelle. Bevor die KI antwortet, sucht sie zuerst in vorgegebenen Dokumenten nach passenden Stellen und nutzt nur diese als Grundlage für ihre Antwort.

Entscheidend für die Qualität ist die Aufbereitung der hinterlegten Unterlagen. Ein Bestand aus gescannten PDF-Dateien ohne erkannten Text liefert keine brauchbaren Fundstellen, weil das System darin nicht suchen kann. Ebenso problematisch sind mehrere Fassungen desselben Dokuments: Findet das System eine veraltete Preisliste, formuliert es eine überzeugend klingende Antwort auf falscher Grundlage. Vor dem Einsatz steht deshalb das Aufräumen des Dokumentenbestands, nicht die Auswahl des Modells.

Ebenso wichtig ist die Angabe der Quelle. Eine Antwort ohne Verweis auf das zugrunde liegende Dokument lässt sich nicht überprüfen. Nützlich wird das Verfahren erst, wenn zu jeder Aussage die Fundstelle mitgeliefert wird und der Nutzer sie im Zweifel selbst nachlesen kann.

Warum Nachschlagen die Antworten verbessert

Ein reines Large Language Model antwortet aus dem, was es beim Training gelernt hat. Es kennt weder Ihre Preise noch Ihre Bauakten und neigt bei Wissenslücken zur Halluzination. RAG schließt diese Lücke. Sie hinterlegen eigene Unterlagen, etwa Leistungsverzeichnisse, technische Datenblätter oder häufige Kundenfragen. Bei einer Anfrage holt sich das System die passenden Abschnitte heraus und formuliert die Antwort streng auf dieser Basis.

Der Vorteil: Die Antworten sind aktueller, betriebsspezifisch und deutlich weniger anfällig für Erfindungen, weil sie sich auf echte Dokumente stützen.

Was das fürs Handwerk bedeutet

Für Handwerks- und Baubetriebe macht RAG KI erst richtig brauchbar, weil sie damit auf das eigene Wissen zugreift. Ein Chatbot auf Ihrer Website kann mit RAG verlässlich Auskunft über Ihre konkreten Leistungen, Liefergebiete und typischen Abläufe geben, statt allgemeine Floskeln zu liefern. Auch intern ist das nützlich: Mitarbeiter fragen in normaler Sprache nach einer Angabe aus einem technischen Datenblatt und bekommen die passende Stelle, ohne lange zu blättern.

Ein Beispiel: Ein SHK-Betrieb hinterlegt seine Wartungsanleitungen und Herstellerunterlagen. Ein Monteur fragt von der Baustelle aus nach einem bestimmten Einstellwert und erhält die Antwort direkt aus dem eigenen Dokumentenbestand.

Zu klären ist außerdem die Zugriffsberechtigung. Ein System, das den gesamten Dokumentenbestand durchsucht, kann Inhalte sichtbar machen, die nur für bestimmte Personen bestimmt sind, etwa Kalkulationen, Personalunterlagen oder Konditionen einzelner Kunden. Die Rechte des Dokumentenmanagements müssen deshalb auch für die Suche gelten, sonst entsteht über die Antwortfunktion ein Zugang, den es zuvor nicht gab.

Damit wird ein KI-Chatbot im Handwerk von einem netten Spielzeug zu einem echten Werkzeug. Wie sich solche Lösungen sauber aufsetzen lassen, klären wir im Rahmen einer KI-Automatisierung für das Handwerk.