Mensch-in-der-Schleife

Mensch-in-der-Schleife, im Englischen human in the loop, beschreibt einen automatisierten Ablauf, der an definierten Stellen anhält und erst weiterläuft, wenn eine Person das Zwischenergebnis geprüft und freigegeben hat. Die Maschine bereitet vor, der Mensch entscheidet. Abzugrenzen ist das von der Aufsicht im Nachhinein, bei der ein Ablauf durchläuft und nur stichprobenartig kontrolliert wird.

Im Handwerksbetrieb ist das der Normalfall bei allem, was nach außen geht oder Geld kostet. Ein Sprachmodell erstellt aus dem Aufmaß einen Angebotsentwurf, der Kalkulator prüft Positionen und Preise und gibt frei. Eine eingehende Rechnung wird per OCR erfasst und vorkontiert, die Buchhaltung bestätigt, bevor gebucht wird. Ein Telefonassistent nimmt einen Notdienstanruf auf und legt einen Vorgang an, die Disposition entscheidet, wer fährt. Ohne Haltepunkt würde ein einzelner Fehler ungebremst bis zum Kunden durchlaufen.

Wo KI ansetzt

Der Nutzen liegt darin, den Haltepunkt bewusst zu setzen statt überall halb zu kontrollieren. Sinnvoll ist eine Abstufung nach Tragweite: Was intern bleibt und leicht korrigierbar ist, läuft durch. Was Kunden erreicht, Beträge auslöst oder eine Frist setzt, braucht eine Freigabe. Was rechtliche Wirkung entfaltet, etwa eine Behinderungsanzeige oder eine Mängelrüge, gehört zusätzlich in das Vier-Augen-Prinzip. Wichtig ist außerdem, dass der Prüfende die Grundlage sieht, also Quelle, Beleg oder Originalmaß, sonst wird die Freigabe zur Formalie.

Ein Beispiel aus dem Elektrohandwerk: Wird ein Prüfbericht automatisch aus Messdaten erzeugt, muss die prüfende Fachkraft die Messwerte im Zugriff haben und nicht nur den fertigen Text. Andernfalls bestätigt sie eine Aussage, deren Grundlage sie nicht gesehen hat, und der Bericht verliert genau die Aussagekraft, wegen der er erstellt wurde.

Rechtlich stützt das Prinzip die vom AI Act geforderte menschliche Aufsicht über den Einsatz von KI-Systemen und ist zugleich Ausdruck ordentlicher Betriebsorganisation. Bei Vorgängen, die Beschäftigte betreffen, etwa Bewerbungen oder Auswertungen von Arbeitszeiten, ist eine allein automatisierte Entscheidung ohnehin problematisch, siehe automatisierte Entscheidung über Beschäftigte.

Das größte praktische Risiko ist Gewöhnung. Wer hundert korrekte Entwürfe hintereinander freigibt, klickt beim einhundertersten mit. Dagegen helfen wenige, dafür ernst gemeinte Haltepunkte, eine namentlich benannte Zuständigkeit und eine kurze Dokumentation der Freigabe. Halten Sie in der KI-Nutzungsrichtlinie fest, welche Vorgänge eine Freigabe brauchen und wer sie erteilen darf. Prüfen Sie nach einigen Monaten, ob die gesetzten Haltepunkte noch die richtigen sind. Stellen, an denen nie etwas korrigiert wird, können entfallen. Stellen, an denen regelmäßig nachgebessert werden muss, brauchen eine bessere Vorbereitung oder ein anderes Werkzeug. Wer freigibt, sollte dafür auch Zeit haben. Eine Kontrolle, die zwischen zwei Terminen im Fahrzeug erledigt wird, ist keine.