Menschliche Aufsicht

Menschliche Aufsicht bezeichnet die Kontrolle eines KI-Systems durch Personen, die seine Arbeitsweise verstehen, seine Ergebnisse bewerten und den Betrieb bei Bedarf unterbrechen können. In der Verordnung (EU) 2024/1689 ist sie ein zentrales Element bei Systemen mit erhöhtem Risiko: Sie sollen so gestaltet sein, dass Menschen sie wirksam beaufsichtigen können. Wirksam heißt dabei mehr als ein Bestätigungsklick. Die aufsichtführende Person muss die Grenzen des Systems kennen, Fehlerbilder erkennen und ein Ergebnis auch verwerfen dürfen.

Im Handwerks- und Bauumfeld liegt der praktische Anwendungsfall meist unterhalb der Hochrisikoschwelle, die Logik bleibt aber dieselbe. Ein Sprachmodell entwirft ein Nachtragsschreiben, eine Bilderkennung schlägt Mängelkategorien vor, ein Werkzeug ermittelt Mengen aus einem Plan. In allen Fällen entscheidet nicht die Software, sondern der Kalkulator, der Bauleiter oder der Meister. Ohne diese Instanz wandern Rechenfehler, Halluzinationen und veraltete Preisannahmen ungeprüft in Angebote und Schriftverkehr.

Was das im Betrieb bedeutet

Damit Aufsicht funktioniert, braucht sie drei Dinge. Erstens eine benannte Zuständigkeit: Wer prüft welche Art von Ergebnis? Zweitens genug Fachwissen, um einen Fehler überhaupt zu bemerken. Ein KI-Vorschlag für eine Mengenermittlung ist nur dann kontrollierbar, wenn die prüfende Person das Aufmaß selbst beherrscht. Drittens Zeit. Wird ein Freigabeschritt so eng getaktet, dass er nur formal stattfindet, entsteht der gefährlichste Zustand: Verantwortung auf dem Papier ohne tatsächliche Prüfung.

Sinnvoll ist eine Abstufung nach Wirkung. Interne Notizen und Textentwürfe brauchen eine leichte Sichtprüfung. Alles, was den Betrieb nach außen bindet oder Geld kostet, gehört in einen echten Freigabeprozess: Preise, Termine, Zusagen zur Mängelbeseitigung, sicherheitsrelevante Angaben. Bei Entscheidungen über Beschäftigte, etwa in der Bewerberauswahl, ist eine tatsächliche menschliche Bewertung ohnehin die Grundlinie.

Zur Aufsicht gehört auch, typische Schwachstellen des jeweiligen Werkzeugs zu kennen. Sprachmodelle formulieren fehlende Angaben plausibel aus, Bilderkennung verwechselt ähnliche Materialien, Spracherkennung schreibt Fachbegriffe und Eigennamen falsch. Wer diese Muster im Team einmal benennt, prüft gezielter als jemand, der jedes Ergebnis von vorn liest. Kurze Rückmeldungen aus der Praxis in die eigenen Regeln aufzunehmen, kostet wenig und verbessert die Trefferquote der Prüfung spürbar.

Für die Bauleitung lässt sich das mit wenig Aufwand verankern: KI-Ergebnisse gelten grundsätzlich als Entwurf, freigegeben wird durch eine namentlich bekannte Person, und die Freigabe ist am fertigen Dokument erkennbar. Diese Regel schützt nicht nur rechtlich, sie hält auch die Qualität der Unterlagen stabil.