Halluzination (KI)

Von einer Halluzination spricht man, wenn eine KI etwas behauptet, das schlicht falsch oder erfunden ist, dabei aber selbstbewusst und glaubwürdig klingt. Das System lügt nicht im menschlichen Sinn, sondern erzeugt eine Antwort, die sprachlich gut passt, inhaltlich aber daneben liegt.

Warum KI Dinge erfindet

Ein Large Language Model berechnet bei jeder Antwort, welche Wörter am wahrscheinlichsten passen. Es hat keine Datenbank mit geprüften Fakten, sondern bildet plausible Sätze. Wenn das Modell etwas nicht weiß, füllt es die Lücke mit einer wahrscheinlich klingenden Erfindung, statt zu schweigen. So entstehen erfundene Quellen, falsche Normbezeichnungen oder Preise, die es nie gab.

Besonders heikel ist, dass eine Halluzination genauso souverän formuliert ist wie eine korrekte Antwort. Man sieht ihr den Fehler nicht an. Deshalb ist das Mitdenken des Nutzers Pflicht.

Was das fürs Handwerk bedeutet

Für Handwerks- und Baubetriebe ist das die wichtigste Regel im Umgang mit KI: Vertrauen ist gut, Prüfen ist Pflicht. Lassen Sie sich von ChatGPT ein Angebot, einen Bericht oder eine Materialliste entwerfen, übernehmen Sie nichts ungeprüft. Eine erfundene Norm in einem Angebot oder eine falsche technische Angabe kann teuer werden oder im Schadensfall Ärger bringen.

Ein Beispiel: Sie fragen die KI nach der genauen Bezeichnung einer DIN-Norm für eine Leistungsbeschreibung. Die Antwort klingt korrekt, kann aber falsch sein. Hier gilt: Zahlen, Normen, rechtliche Aussagen und technische Grenzwerte immer an einer gesicherten Quelle gegenprüfen.

Richtig eingesetzt bleibt KI trotzdem ein starkes Werkzeug, man muss nur ihre Grenzen kennen. Wie Sie KI im Betrieb sicher und sinnvoll nutzen, zeigt der Ratgeber KI-Tools für das Handwerk. Den sicheren Umgang üben Sie am besten in einem KI-Seminar für das Handwerk.