Halluzination (KI)

Von einer Halluzination spricht man, wenn eine KI etwas behauptet, das schlicht falsch oder erfunden ist, dabei aber selbstbewusst und glaubwürdig klingt. Das System lügt nicht im menschlichen Sinn, sondern erzeugt eine Antwort, die sprachlich gut passt, inhaltlich aber daneben liegt.

Zu unterscheiden ist die Halluzination vom veralteten Wissensstand. Ein Modell kann eine Angabe wiedergeben, die einmal zutraf und inzwischen überholt ist; das ist kein erfundener, sondern ein alter Inhalt. Beides führt zu falschen Ergebnissen, verlangt aber unterschiedliche Gegenmaßnahmen: gegen Veralterung hilft eine aktuelle Quelle, gegen Erfindung nur die Prüfung am Original.

Warum KI Dinge erfindet

Ein Large Language Model berechnet bei jeder Antwort, welche Wörter am wahrscheinlichsten passen. Es hat keine Datenbank mit geprüften Fakten, sondern bildet plausible Sätze. Wenn das Modell etwas nicht weiß, füllt es die Lücke mit einer wahrscheinlich klingenden Erfindung, statt zu schweigen. So entstehen erfundene Quellen, falsche Normbezeichnungen oder Preise, die es nie gab.

Besonders heikel ist, dass eine Halluzination genauso souverän formuliert ist wie eine korrekte Antwort. Man sieht ihr den Fehler nicht an. Deshalb ist das Mitdenken des Nutzers Pflicht.

Was das fürs Handwerk bedeutet

Für Handwerks- und Baubetriebe ist das die wichtigste Regel im Umgang mit KI: Vertrauen ist gut, Prüfen ist Pflicht. Lassen Sie sich von ChatGPT ein Angebot, einen Bericht oder eine Materialliste entwerfen, übernehmen Sie nichts ungeprüft. Eine erfundene Norm in einem Angebot oder eine falsche technische Angabe kann teuer werden oder im Schadensfall Ärger bringen.

Ein Beispiel: Sie fragen die KI nach der genauen Bezeichnung einer DIN-Norm für eine Leistungsbeschreibung. Die Antwort klingt korrekt, kann aber falsch sein. Hier gilt: Zahlen, Normen, rechtliche Aussagen und technische Grenzwerte immer an einer gesicherten Quelle gegenprüfen.

Besonders anfällig sind Angaben, die konkret und überprüfbar wirken: Aktenzeichen, Normnummern, Fördersätze, Fristen, Produktbezeichnungen und Maßangaben. Genau diese Werte übernimmt ein Betrieb gern ungeprüft, weil sie präzise klingen. Eine einfache Regel im Betrieb lautet deshalb: Alles, was in ein Angebot, eine Leistungsbeschreibung oder ein Protokoll übernommen wird und eine Zahl oder eine Bezeichnung enthält, wird an der Originalquelle geprüft.

Wirksam ist außerdem, das Werkzeug an den eigenen Daten arbeiten zu lassen. Wird eine Frage auf hinterlegte Dokumente des Betriebs bezogen, etwa auf Leistungsverzeichnisse oder Protokolle, sinkt die Neigung zur freien Erfindung, weil eine Grundlage vorliegt. Frei gestellte Wissensfragen ohne Quelle sind der Fall mit dem höchsten Risiko.

Richtig eingesetzt bleibt KI trotzdem ein starkes Werkzeug, man muss nur ihre Grenzen kennen. Wie Sie KI im Betrieb sicher und sinnvoll nutzen, zeigt der Ratgeber KI-Tools für das Handwerk. Den sicheren Umgang üben Sie am besten in einem KI-Seminar für das Handwerk.