Verbotene KI-Praktik

Verbotene KI-Praktiken sind die Anwendungen, die die Verordnung (EU) 2024/1689 vollständig untersagt. Sie bilden die oberste Stufe des Risikoansatzes: Anders als bei Hochrisikosystemen gibt es hier keine Pflichten, die eine Nutzung zulässig machen, sondern ein Verbot. Dazu zählen unter anderem Systeme, die Menschen durch manipulative oder täuschende Techniken zu schädigendem Verhalten bewegen, Systeme, die Schutzbedürftigkeit ausnutzen, eine soziale Bewertung von Personen sowie das Ableiten von Emotionen am Arbeitsplatz, von eng gefassten Ausnahmen abgesehen.

Für Handwerks- und Baubetriebe wirkt das zunächst weit entfernt. Niemand plant ein System zur sozialen Bewertung von Monteuren. Näher liegen die Berührungspunkte im Personalbereich. Software, die aus Stimme, Gesichtsausdruck oder Videobild eines Bewerbers oder Beschäftigten auf dessen emotionalen Zustand schließen will, gehört in diesen kritischen Bereich. Angeboten wird solche Funktionalität durchaus, teils als Zusatz in Recruiting- oder Kommunikationswerkzeugen.

Was das im Betrieb bedeutet

Die praktische Aufgabe besteht weniger darin, Verbote auswendig zu kennen, als darin, bei der Anbieterauswahl aufmerksam zu sein. Wenn ein Werkzeug damit wirbt, Motivation, Stresslevel oder Persönlichkeit aus Sprachaufnahmen oder Videos zu erkennen, ist das ein Grund für gründliche Prüfung und im Zweifel für Verzicht. Dasselbe gilt für Auswertungen, die Beschäftigte anhand automatisch erhobener Merkmale in Ranglisten einordnen.

Auch im Kundenkontakt lohnt Zurückhaltung. Ein Chatbot oder Telefonassistent, der gezielt Druck aufbaut oder über seine Natur täuscht, berührt neben den Transparenzanforderungen aus Artikel 50 auch das Wettbewerbsrecht. Ein sachlicher Assistent, der sich als solcher zu erkennen gibt und bei komplexen Fragen an das Büro weiterleitet, ist unproblematisch und in der Praxis ohnehin wirksamer.

Für die übliche Werkzeuglandschaft eines Handwerksbetriebs gilt Entwarnung. Textentwürfe, Spracherkennung, Belegerkennung, Aufmaßunterstützung und Terminplanung berühren die Verbotstatbestände nicht. Die Aufmerksamkeit sollte dort liegen, wo Systeme Aussagen über Personen treffen, statt Arbeit an Dokumenten und Mengen zu unterstützen.

Zu bedenken ist, dass ein solches Verbot auch dann greift, wenn ein Anbieter die Funktion als harmlos bewirbt. Die Einordnung richtet sich nach dem, was das System tatsächlich tut, nicht nach der Bezeichnung im Produktblatt. Bei Zweifeln ist es sinnvoll, die Funktion abzuschalten oder den Anbieter schriftlich um eine Einordnung zu bitten und die Antwort abzulegen.

Eine kurze Prüffrage genügt für den Alltag: Bewertet das System Menschen, oder unterstützt es eine Aufgabe? Fällt die Antwort auf die erste Variante, gehören Zweck, Datengrundlage und Ergebnisverwendung genau angesehen, bevor das Werkzeug in einem Bauunternehmen zum Einsatz kommt.