Gebrauchsanweisung KI-System

Die Gebrauchsanweisung eines KI-Systems ist die Information, die der Hersteller seinem Produkt mitgibt. Sie beschreibt den vorgesehenen Verwendungszweck, die bekannten Einschränkungen, die Anforderungen an die Eingabedaten, die erwartbare Genauigkeit und die Art der menschlichen Aufsicht, die der Hersteller für nötig hält. Für Systeme in regulierten Risikoklassen macht die Verordnung (EU) 2024/1689 dazu Vorgaben; bei einfachen Anwendungen findet sich Vergleichbares in Handbuch, Produkthilfe oder den Nutzungsbedingungen.

Im Handwerksbetrieb wird dieses Dokument häufig übersprungen. Die Kalkulationssoftware bekommt ein Update mit KI-Vorschlägen, die Bau-App eine automatische Fotoauswertung, und beides wird sofort genutzt. Genau hier entstehen typische Fehler: Ein Werkzeug, das Mengen aus Fotos schätzt, ist für Innenräume trainiert und liefert auf einer Fassade unbrauchbare Werte. Ein Beleg-Scanner erkennt Standardrechnungen zuverlässig, aber keine handschriftlichen Lieferscheine. Solche Grenzen stehen meist in den Herstellerinformationen.

Was das im Betrieb bedeutet

Für den Betreiber ist die Gebrauchsanweisung die Grundlage der bestimmungsgemäßen Verwendung. Wer ein System außerhalb des vorgesehenen Zwecks einsetzt, kann sich später schlecht auf den Hersteller berufen. Umgekehrt ist ein System, das dokumentiert nur Entwürfe liefert, auch dann sachgerecht genutzt, wenn ein Ergebnis einmal falsch ist, solange die vorgesehene Prüfung stattgefunden hat.

Praktisch lohnt sich ein einfacher Ablauf. Bei jeder neuen KI-Funktion drei Fragen an die Unterlagen stellen: Wofür ist das gedacht, wo liegen die dokumentierten Grenzen, welche Prüfung erwartet der Hersteller? Die Antworten in zwei bis drei Sätzen in die Systemliste übernehmen, zusammen mit dem Datum und der geprüften Version.

Fehlen solche Angaben ganz, ist das ein Auswahlkriterium. Anbieter, die weder Zweck noch Grenzen ihres Systems beschreiben, erschweren dem Betrieb die Erfüllung seiner eigenen Pflichten. In Ausschreibungen und bei der Softwareauswahl lässt sich das abfragen, ebenso wie Auftragsverarbeitungsvertrag und Angaben zum Serverstandort.

Zu beachten sind außerdem Versionswechsel. Cloud-Anwendungen ändern sich laufend, ohne dass eine neue Installation stattfindet; damit können sich Funktionsumfang und dokumentierte Grenzen verschieben. Wer die Herstellerinformationen einmal abgelegt hat, sollte deshalb festhalten, auf welchen Stand sie sich bezogen, und bei größeren Änderungen erneut hineinsehen. Für den Betrieb bedeutet das keinen laufenden Aufwand, sondern einen kurzen Blick, wenn ein Anbieter neue Funktionen ankündigt.

Nützlich ist außerdem, die Kernaussagen in die Betriebssprache zu übersetzen. Ein Satz wie Fotoaufmaß nur in geschlossenen Räumen, Ergebnis immer vom Polier gegenprüfen, hilft der Kolonne mehr als zwanzig Seiten Herstellertext.