Betreiber eines KI-Systems

Betreiber, im englischen Text deployer, ist nach der Verordnung (EU) 2024/1689 jede natürliche oder juristische Person, die ein KI-System unter eigener Verantwortung im Rahmen ihrer beruflichen Tätigkeit verwendet. Wer ein System nur privat und nicht beruflich nutzt, fällt nicht darunter. Die Betreiberrolle ist die für die Praxis wichtigste Einordnung, weil nahezu jeder Betrieb, der ein KI-Werkzeug einsetzt, sie einnimmt.

Ein Elektrobetrieb, der Angebotstexte mit einem Sprachmodell entwerfen lässt, ein Bauunternehmen mit einem KI-Telefonassistenten für die Notdienstannahme, ein Malerbetrieb, der Aufmaßfotos automatisch auswerten lässt: Alle drei sind Betreiber. Anbieter ist jeweils der Softwarehersteller, der das System entwickelt und unter eigenem Namen bereitstellt.

Was das im Betrieb bedeutet

Die Betreiberpflichten sind deutlich schlanker als die Anbieterpflichten und hängen davon ab, in welche Risikoklasse ein System fällt. Für die allermeisten Werkzeuge im Handwerk, also Textentwürfe, Zusammenfassungen, Belegerkennung oder Terminvereinbarung, greift lediglich der Bereich mit geringen oder minimalen Anforderungen. Drei Punkte bleiben trotzdem relevant.

Erstens die bestimmungsgemäße Verwendung: Ein System soll so eingesetzt werden, wie es der Hersteller in der Gebrauchsanweisung vorsieht. Wer ein Werkzeug zur Textzusammenfassung für die Bewertung von Bewerbern zweckentfremdet, verlässt diesen Rahmen. Zweitens die menschliche Aufsicht, also eine benannte Person, die Ergebnisse prüft, bevor sie nach außen gehen. Drittens die Transparenzpflicht aus Artikel 50 der Verordnung, wenn Kunden mit einem Chatbot oder Telefonassistenten sprechen oder KI-generierte Inhalte veröffentlicht werden.

Zusätzlich gelten die Regeln, die ohnehin gelten: Datenschutz, Mitbestimmung, Berufs- und Vertragsrecht. Der AI Act ersetzt sie nicht, er kommt hinzu.

Zwei Betreiberaufgaben werden leicht übersehen. Zum einen die Qualität der Eingabedaten: Ein System kann nur so gut arbeiten, wie die Pläne, Fotos und Stammdaten es zulassen, die der Betrieb hineingibt. Zum anderen der Umgang mit Auffälligkeiten. Wenn ein Werkzeug wiederholt falsche Mengen liefert oder Angaben erfindet, gehört das dem Anbieter gemeldet und intern festgehalten, statt es stillschweigend auszugleichen. Beides ist keine bürokratische Übung, sondern Voraussetzung dafür, dass die Ergebnisse brauchbar bleiben.

Für den Einstieg genügt eine Liste der eingesetzten Systeme mit Zweck, Anbieter und verantwortlicher Person, ergänzt um die Herstellerunterlagen. Diese Systemliste ist die Grundlage für alles Weitere und lässt sich in einer Tabelle führen. Einen Überblick über die Einordnung gibt der Ratgeber EU AI Act für Handwerk.