KI im Personalwesen – Use Cases, rechtlicher Rahmen und praktische Handhabung

Der Personalbereich bietet umfangreiche Einsatzmöglichkeiten für KI-Systeme. So können diese bereits heute bei Auswahl- und Planungsentscheidungen unterstützen. Dies gilt gleichermaßen im Einstellungsprozess, bei Fragen der Bonusgewährungen, bei Beförderungsentscheidungen, bei der Gestaltung von Schichtplänen und in vielen weiteren Abläufen. In diesen Fällen geht es also um die Unterstützung der Vorgesetzten bei ihrer Arbeitsaufgabenerfüllung.
Nach einer von Bitkom durchgeführten Umfrage würden jedoch 30 % der Beschäftigten auch gerne ihre(n) eigene(n) Chef(in) durch ein KI-System ersetzen.¹ Hierbei ginge es also um das Ersetzen der Führungskräfte. Aber auch die Vorarbeit oder Erbringung einzelner Arbeitsschritte kann ganz oder teilweise durch KI-Systeme erfolgen: So übernehmen Chatbots Vorarbeiten für den Kundenservice oder Cobots Einzelaufgaben in der Industrie.

Die (sinnvolle) Nutzung von KI-Systemen erweist sich immer mehr als ein wettbewerbsrelevanter Faktor für Unternehmen. Der Fokus sollte daher vor allem auf dem rechtssicheren und verantwortungsvollen Einsatz liegen. Hierzu gilt es, die Möglichkeiten auszuloten, die gesetzlichen Vorgaben zu kennen, die Belegschaft abzuholen und sinnvolle Rahmenregelungen – gegebenenfalls auch gemeinsam mit den Arbeitnehmervertretern – zu entwickeln. Dies wird bestmöglich durch KI-Policies und auch Betriebsvereinbarungen umgesetzt.

Aus der Vielzahl der KI-Systeme sollen nachfolgend beispielhaft einige mit knapper Beschreibung vorgestellt werden. Hierbei geht es vor allem um das Aufzeigen bereits jetzt bestehender Möglichkeiten, nicht um eine Empfehlung oder rechtliche Würdigung.

Der gesamte Recruitingprozess kann von der Stellenausschreibung bis hin zur Auswahl des Bewerbers durch die Nutzung von KI-Systemen optimiert werden.

So kann durch sogenanntes "Programmatic Advertising" Einfluss darauf genommen werden, welchen Nutzern eine etwaige Stellenausschreibung überhaupt angezeigt wird.² Ungeeignete Kandidaten sollen hierdurch gar nicht erst angesprochen werden, sodass sich bereits der potenzielle Bewerberkreis erheblich reduziert. Algorithmen können sodann auf Basis von Performance-Daten besonders erfolgreiche Bewerber identifizieren.

Mittels des sogenannten "Sourcings" ist es möglich, geeignete Kandidaten im Internet zu ermitteln. Hierbei durchsucht ein KI-System das Internet, insbesondere Social-Media-Profile, um geeignete Bewerber zu finden.³ Hierfür werden beispielsweise für ein konkretes Stellenprofil die am besten geeigneten Kandidaten mittels ihres LinkedIn-Profils bewertet. Der suchende Arbeitgeber kann so unmittelbar auf geeignete Kandidaten zugehen (beispielhaft seien hier Fetcher und Onlyfy benannt – beide KI-Systeme identifizieren mittels konkreter Suchkriterien geeignete Kandidaten).

Sofern bereits geeignete Kandidaten identifiziert wurden, oder aber auch um bereits eingegangene Bewerbungen zu analysieren, haben Unternehmen die Möglichkeit, über das sogenannte "Matching" zu ermitteln, wie gut die Bewerber zu einem Stellenangebot passen. Dies erfolgt dadurch, dass sowohl Bewerbungsunterlagen als auch Stimm- und Verhaltensanalysen aus Vorstellungsgesprächen analysiert werden.⁴ Beispielhaft sei hier auf Systeme wie iMocha, HireVue und Zortify verwiesen, die sich auf das KI-basierte Matching spezialisiert haben.

Unter der Bezeichnung "People Analytics" werden solche KI-Systeme verstanden, durch die eine konkrete Bewertung der Kandidaten erfolgt. So können im Rahmen von Vorstellungsgesprächen bestimmte gewünschte Fähigkeiten getestet werden. Neben technischen Fähigkeiten können auch spielebasierte Bewertungen von Persönlichkeitsmerkmalen erfolgen.⁵

Eine Videoanalyse kann die automatisierte Auswertung von Sprache, Mimik und Gestik vornehmen – ggf. auch die Analyse von Persönlichkeitsmerkmalen, wie zum Beispiel Teamfähigkeit oder Belastbarkeit. Daneben können Programme zur Sprachanalyse auswerten, wie der Bewerber etwas sagt. Dies gilt sowohl für die Prosodie (z.B. Stimmführung und Tonlage) als auch die Linguistik (z.B. Satzbau und Wortwahl). Diese Analyse ermöglicht dann wiederum Rückschlüsse auf psychologisch relevante Sprachmuster.⁶

Ein Beispiel stellt die Software Retorio dar. Diese nutzt sowohl künstliche Intelligenz als auch maschinelles Lernen, um menschliche Verhaltensweisen und Persönlichkeitsmerkmale zu analysieren. Die Software kann Videos aus den verschiedensten Kontexten, in denen Personen sprechen oder interagieren, analysieren. Denkbare Anwendungsbeispiele sind Bewerbungsgespräche, Mitarbeiterbewertungen oder Mitarbeitertrainings. Die Software basiert auf dem Big-Five-Persönlichkeitsmodell, das die Persönlichkeit in fünf Hauptdimensionen unterteilt, nämlich

• Offenheit für Erfahrungen,
• Gewissenhaftigkeit,
• Extraversion,
• Verträglichkeit und
• Neurotizismus.

Die verwendeten Algorithmen erkennen und interpretieren Gestik, Mimik, Sprachmuster und andere nonverbale Signale. Das Ergebnis ist ein automatisch generierter Bericht, der Einblicke in die Persönlichkeitsmerkmale und Verhaltensweisen der analysierten Personen bietet. Die Erkenntnisse können dann zum Beispiel für die Bewertung der Eignung von Kandidaten für eine bestimmte Rolle oder die Entwicklung von Mitarbeiterfähigkeiten verwendet werden. Unternehmen bietet es dadurch die Möglichkeit, Bewerber objektiver zu bewerten und ein tieferes Verständnis für die Stärken und Entwicklungsbereiche ihrer Mitarbeiter zu entwickeln.⁷

Durch KI lässt sich die Einsatzplanung optimieren. So ermöglicht algorithmisches Management die Personaleinsatzplanung sowie die Koordination von Mitarbeiteraktivitäten. Beispielsweise können Mitarbeiter in der Logistikbranche von einem Algorithmus errechnete Arbeitsanweisungen über ein digitales Empfangsgerät erhalten. In Lagerhäusern können dadurch sogenannte "Lead-me"-Wagen die Mitarbeiter von einem Lagerort zum anderen leiten und Anweisungen geben, welches Produkt in welcher Menge an bestimmten Stationen entnommen werden soll.⁸

Die kontinuierliche Bewertung von Leistungsdaten eröffnet eine Echtzeit-Analyse der erbrachten Leistungen. Im Gegensatz zu periodischen Leistungsbeurteilungen ohne Scoring können auf dieser Grundlage Mitarbeitergespräche auf objektiverer und sachlicherer Basis durchgeführt und konkrete Schulungsmaßnahmen angeboten werden.

Auf Basis KI-basierter Leistungsanalyse lassen sich objektiviert Vergütungselemente anknüpfen. Beispielhaft bietet die Software Beqom nach eigenen Angaben eine Plattform zur Handhabung aller Aspekte der Mitarbeitervergütung. So lassen sich verschiedene Vergütungspläne, einschließlich Gehälterberechnungen, Bonigewähr, Gestaltung von Aktienoptionen und andere Formen der variablen Vergütung erstellen und verwalten. Durch die Möglichkeit, individuelle sowie Teamleistungen in die Vergütungsberechnung einzubeziehen, können Mitarbeiterleistungen und Vergütung unmittelbar miteinander verknüpft werden. Auch gesetzliche Bestimmungen sowie unternehmensinterne Richtlinien können mit der Software eingearbeitet werden. Insgesamt ermöglichen KI-Systeme dann eine klare, transparente und gerechte Vergütungsstruktur; dies kann Engagement und Zufriedenheit der Mitarbeiter fördern.⁹

Spezialisierte KI-Systeme beschleunigen die Personaleinsatzplanung und unterstützen eine effiziente Gestaltung.¹⁰ So übernimmt die Software Planday die Schichtplanung und das Personalmanagement. Nach Angaben des Unternehmens ermöglicht es Planday Führungskräften, Schichten effizient zu planen, indem die KI unter Berücksichtigung von Verfügbarkeit, Fähigkeiten und Arbeitsstunden die konkrete Einsatzplanung der Mitarbeitenden übernimmt. Daneben erstellt die Software Berichte, die es Managern ermöglicht, Arbeitsmuster, Kosten und andere wichtige Metriken zu analysieren.

KI-Systeme können Störungen in laufenden Arbeitsverhältnissen erkennen. Durch sogenanntes "Predictive Policing" findet z.B. eine Betrugsüberwachung statt.¹¹ Regel- und Gesetzesverstöße sollen hierdurch frühzeitig erkannt werden. Für die Beendigung von Arbeitsverhältnissen können Kündigungen automatisiert erstellt werden. Bei betriebsbedingten Kündigungen lässt sich die Sozialauswahl automatisiert vorbereiten und die Abfindung nach bestimmten Parametern für jeden Einzelfall berechnen.¹²

Neben den aufstrebenden KI-Systemen, deren bewusste Implementierung zu einer grundlegenden Änderung der täglichen Arbeit führt, ist es wichtig, sich zu vergegenwärtigen, dass eine Nutzung von KI-Systemen bereits vielfach erfolgt. So ist beispielsweise MS 365 Copilot ein KI-gestütztes Assistenzsystem, das in Microsoft-Anwendungen (z.B. Word, Excel, PowerPoint, Teams) bereits integriert ist. Dieses analysiert Benutzereingaben, um Aufgaben wie Text- und Präsentationserstellung, Datenanalyse, Workflows und E-Mail-Management zu automatisieren. Nutzungsdaten, Texteingaben und Befehle werden automatisiert verarbeitet, um die angeforderten Aufgaben zu erfüllen oder Vorschläge zu generieren.¹³

Die Nutzung von KI-Systemen bietet erhebliches Potenzial, nahezu sämtliche Arbeitsprozesse zu optimieren. Doch mit fortschreitenden auf KI-basierten Automatisierungsprozessen gehen auch Gefahren von Persönlichkeitsrechtsverletzungen einher. Durch die europäische KI-Verordnung¹⁴, die noch 2024 in Kraft treten soll, werden weitere rechtliche Grenzen für die verantwortungsvolle Nutzung von KI-Systemen geschaffen, die die bestehenden Regelungen ergänzen und an vielen Stellen verschärfen.

Dem Arbeitgeber steht gem. § 611a BGB und § 106 GewO gegenüber den Mitarbeitenden das arbeitgeberseitige Weisungsrecht zu. Danach kann der Arbeitgeber Inhalt, Ort und Zeit der Arbeitsleistung nach billigem Ermessen näher bestimmen, soweit diese Arbeitsbedingungen nicht durch den Arbeitsvertrag, eine Betriebsvereinbarung, einen anwendbaren Tarifvertrag oder gesetzliche Vorschriften festgelegt sind. Dieses Weisungsrecht bzw. dessen Ausübung wird in der Praxis durch die Führungskräfte ausgeübt, auf die das Weisungsrecht übertragen ist. Die rechtliche Grundlage hierfür findet sich im Weisungsrecht selbst. Die sich hieraus ergebende Folgefrage ist: Ist es auch möglich, das arbeitgeberseitige Weisungsrecht auf KI-Systeme zu übertragen?

Das deutsche Arbeitsrecht stellt keinen Grundsatz auf, dass Weisungen und Entscheidungen von einem Menschen vorzunehmen sind. Da zudem die von einer KI ausgeführte Weisung jedenfalls vom Arbeitgeber vordefinierte Bedingungen beachtet, können Arbeitgeber ihr Weisungsrecht einer KI übertragen.¹⁵ Die von der KI erteilten Weisungen sind dann dem Arbeitgeber zuzurechnen. Völlig frei bei der Ausübung des Weisungsrechts ist der Arbeitgeber jedoch nicht: Er muss stets nach „billigem Ermessen“ entscheiden, d.h. die Umstände des Einzelfalls und die berechtigten Interessen des Arbeitnehmers berücksichtigen. „Unbillige“ Weisungen muss der Arbeitnehmer nicht befolgen. Der Arbeitgeber hat in Zweifelsfällen darzulegen und zu beweisen, ob eine Entscheidung „billig“ war.

Je stärker die Arbeitsweisungen potenziell in Grundrechte der Arbeitnehmer eingreifen, desto enger muss der Rahmen für die KI-Systeme gesetzt werden. Der Arbeitgeber muss dann das Ermessen der KI-Systeme einschränken und Raum dafür schaffen, dass das Ergebnis einer Abwägung menschlicher Entscheidung vorbehalten bleibt.¹⁶ Daher ist ein gestuftes System abhängig vom (potenziellen) Wissen des Arbeitgebers: Je mehr dieser weiß – oder wissen müsste – desto mehr Daten muss das KI-System einbeziehen und zur Abwägung bringen.

Auf Grund der sich aus Art. 14 und Art. 12 GG ergebenden Wirtschaftsgrundrechte ist der Arbeitgeber grundsätzlich frei in seiner Entscheidung, ob er KI-Systeme in seinem Unternehmen einführt oder nicht.¹⁷ Diese Grundentscheidung hinsichtlich des "ob" der Nutzung ist zudem mitbestimmungsfrei. Auch ist der Arbeitgeber befugt, die Nutzung von KI-Systemen am Arbeitsplatz zu beschränken oder zu verbieten, insbesondere zum Schutz von Geschäftsgeheimnissen oder Urheberrechten.¹⁸ Diese Grundsatzentscheidung kann er über sein Weisungsrecht gegenüber seinen Mitarbeitern festlegen.

Insbesondere in betriebsratlosen Betrieben empfiehlt es sich, bei der durch den Arbeitgeber zugelassenen bzw. ggf. sogar angeordneten Nutzung von KI-Systemen den Rahmen in einer KI-Richtline festzulegen. Diese helfen, die „Dos and Don'ts“ zu definieren und so für alle Beteiligten Rechtssicherheit zu schaffen. Dies ist gerade bei gravierenden Neuerungen in der Arbeitswelt sehr geeignet, Vertrauen in neue Technologien zu bilden. KI-Richtlinien beschreiben typischerweise den Anwendungsbereich der Richtlinie und definieren die KI-Systeme, die der Arbeitgeber einführt und bzw. deren Nutzung er ausdrücklich erlaubt. Des Weiteren ermöglicht eine solche Richtlinie eine konkrete Ausgestaltung der erlaubten Nutzung, indem die Zwecke der Nutzung und eine Pflicht bzw. Freiwilligkeit geregelt werden und eine Festlegung erfolgt, inwieweit Mitteilungs- und/oder Offenlegungspflichten bei Nutzung von KI z.B. bei der Erfüllung von Arbeitsaufgaben bestehen. Auch Verbote zu Formen und Inhalten der Nutzung lassen sich in einer KI-Richtlinie klar festlegen. Die KI-Richtlinie sollte zudem eindeutige Regelungen zum Schutz vertraulicher Informationen und Geschäftsgeheimnisse enthalten. Ferner sollte der Schutz personenbezogener Daten durch klare Vorgaben sichergestellt werden. Ethische Aspekte können ebenfalls Berücksichtigung finden. Hierzu gehört z.B. der Ausschluss von KI-Systemen mit Emotionserkennung. Geregelt werden sollten auch die Folgen eines Verstoßes gegen die Richtlinie. Diese können je nach Intensität des Verstoßes ggf. von einer Abmahnung bis hin zur Kündigung des Arbeitsverhältnisses reichen.¹⁹

Zwar entscheidet der Arbeitgeber allein, ob KI eingeführt werden soll. Allerdings bestehen weitgehende Mitbestimmungsrechte des Betriebsrates hinsichtlich der Ausgestaltung der konkreten Nutzung. Durch das sog. „Betriebsrätemodernisierungsgesetz“ wurde der Begriff der KI an einigen Stellen in das Betriebsverfassungsgesetz („BetrVG“) integriert, nämlich in den §§ 80 Abs. 3, 90 Abs. 1 und 95 Abs. 2 BetrVG.²⁰

Soweit es zur ordnungsgemäßen Erfüllung der Aufgaben des Betriebsrats erforderlich ist, hat der Arbeitgeber diesem sachkundige Arbeitnehmer als Auskunftspersonen zur Verfügung zu stellen; er hat hierbei die Vorschläge des Betriebsrats zu berücksichtigen, soweit betriebliche Notwendigkeiten nicht entgegenstehen (§ 80 Abs. 2 S. 3 BetrVG). Zwar sind die Betriebsparteien nicht von der Einhaltung der üblichen Voraussetzungen für die Hinzuziehung von Sachverständigen entbunden. Will der Betriebsrat aber beim Thema KI einen Sachverständigen einschalten, braucht er die Erforderlichkeit jedoch nicht mehr nachzuweisen – sie wird kraft Gesetzes unterstellt.²¹

Die Informations- und Beratungsrechte zur Planung von Arbeitsverfahren und Arbeitsabläufen in § 90 Abs. 1 Nr. 3 BetrVG wurde um die Worte „einschließlich des Einsatzes von Künstlicher Intelligenz“ ergänzt. Diese Ergänzung hat allerdings nur deklaratorischen Charakter, da auch vorher schon der Einsatz von KI unter die Vorschrift subsumiert wurde.²²

Der Betriebsrat hat ein Mitbestimmungsrecht bei der Festlegung von Richtlinien zur personellen Auswahl bei Einstellungen, Versetzungen, Umgruppierungen und Kündigungen. Mit diesen Richtlinien können die Kriterien festgelegt werden, nach denen der Arbeitgeber seine Entscheidungen trifft. In Betrieben mit mehr als 500 Arbeitnehmern kann der Betriebsrat aktiv die Erstellung solcher Richtlinien fordern. Diese Mitbestimmungsrechte gelten auch dann, wenn bei der Erstellung der Richtlinien ein KI-System verwendet wird (§ 95 Abs. 2a BetrVG).²³

Arbeitgeber und Betriebsrat sind verpflichtet, die freie Entfaltung der Persönlichkeit der im Betrieb beschäftigten Arbeitnehmer zu schützen und zu fördern (§ 75 Abs. 2 BetrVG). Diese Schutzpflicht umfasst insbesondere die Einhaltung der Regelungen der DSGVO und des BDSG, da das Grundrecht auf informationelle Selbstbestimmung zu den zu schützenden Rechten gemäß § 75 Abs. 2 BetrVG gehört. Dieses Grundrecht gewährt dem Einzelnen das Recht, grundsätzlich selbst über die Preisgabe und Verwendung seiner persönlichen Daten zu bestimmen. Einschränkungen dieses Rechts sind nur im überwiegenden Allgemeininteresse und auf einer gesetzlichen Grundlage zulässig.²⁴ Bei der Einführung und Anwendung von KI-Systemen haben die Betriebsparteien die Verpflichtung, den Datenschutz zu wahren.

Da KI-Systeme in der Regel objektiv geeignet sind, das Verhalten oder die Leistung der Mitarbeitenden zu überwachen, unterfällt die Einführung zumeist der Mitbestimmung des Betriebsrats gemäß § 87 Abs. 1 Nr. 6 BetrVG.²⁵

Gesundheitsschutz

Ggf. kann die Einführung von KI-Systemen auch Fragen des Gesundheitsschutzes gem. § 87 Abs. 1 Nr. 7 BetrVG tangieren. Dies kann durch psychische Belastungen von Arbeitnehmern bedingt sein oder aber dadurch, dass der Einsatz von intelligenten Maschinen als Arbeitsmittel eine Gefährdungsbeurteilung nach § 3 BetrSichV erfordert.²⁶

Je nach Ausgestaltung und Anwendungsbereich des konkreten KI-Systems können überdies die Mitbestimmungstatbestände der Ordnung des Betriebs (§ 87 Abs. 1 Nr. 1 BetrVG), des Beginns und Endes der Arbeitszeit (§ 87 Abs. 1 Nr. 2 BetrVG), der Anordnung von Überstunden (§ 87 Abs. 1 Nr. 3 BetrVG) sowie der Urlaubserteilung (§ 87 Abs. 1 Nr. 5 BetrVG) betroffen sein.²⁷

Wie stets ist auch die Datenschutzgrundverordnung ("DSGVO") zu beachten. Entscheidungen, die gegenüber einer Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, dürfen nicht ausschließlich auf einer automatisierten Datenverarbeitung beruhen (vgl. Art. 22 Abs. 1 DSGVO). Das Verbot beruht auf dem Gedanken, dass Maschinen nicht über Menschen entscheiden sollen, um das Individuum vor der „Versachlichung“ in Form einer bloßen Datensammlung zu schützen. Entsprechend können KI-Systeme in vielen Bereichen menschliche Entscheidungen vorbereiten, diese aber aus datenschutzrechtlichen Gründen nicht vollständig ersetzen.

Ausnahmen sind nach der DSGVO allerdings möglich. Das Verbot der automatisierten Entscheidung findet dann keine Anwendung, wenn die Entscheidung für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem Verantwortlichen erforderlich ist (Art. 22 Abs. 2 lit. a DSGVO). Nach der aus dem Verhältnismäßigkeitsgrundsatz entnommenen Definition bedeutet Erforderlichkeit, dass kein gleich geeignetes, weniger eingreifendes Mittel existiert. Im Falle von KI-Systemen wird man davon ausgehen können, dass allein der damit verbundene Effizienzgewinn nicht zur "Erforderlichkeit" der Nutzung führt. Denn sonst wäre der Einsatz von KI-Systemen nahezu immer "erforderlich" in diesem Sinne, was dem Charakter als Ausnahmetatbestand widerspricht.

Eine weitere Ausnahme liegt vor, wenn die Entscheidung mit ausdrücklicher Einwilligung der Betroffenen erfolgt (Art. 22 Abs. 2 lit. c DSGVO). Problematisch ist hierbei allerdings, dass die DSGVO die Anforderungen an die Wirksamkeit einer datenschutzrechtlich relevanten Einwilligung sehr hoch setzt. Die Einwilligung muss bewusst und informiert, bestimmt, freiwillig und aufgrund eines transparenten Ersuchens erteilt worden sein (Art. 4 Nr. 11 DSGVO, Art. 6 Abs. 1 lit. a DSGVO, Art. 7 Abs. 4 DSGVO, Art. 7 Abs. 2 S. 1 DSGVO).²⁸ Bedenkt man die Komplexität und die sich stetig verändernden Parameter von KI, so scheint eine umfassende und transparente Erläuterung der Funktionsweise und des Umfangs der Datenverarbeitung von KI Systemen nahezu unmöglich.

Daneben besteht die Diskussion, ob es im Rahmen eines abhängigen Beschäftigungsverhältnisses überhaupt eine wirklich freie Entscheidung des Arbeitnehmers geben kann.²⁹ Denn bei der Beurteilung, ob eine Einwilligung freiwillig erteilt wurde, sind die Abhängigkeit des Beschäftigten und die Umstände bei der Einwilligung zu beachten (§ 26 Abs. 1 S. 1 BDSG). Selbst wenn man von zum Teil freiwilligen Einwilligungserklärungen im Rechtsinne ausgeht, stellt sich die Frage, wie ein Arbeitgeber damit umgeht, dass Teile der Belegschaft ihre Einwilligung erteilt haben, andere jedoch nicht. Außerdem kann die Einwilligung jederzeit widerrufen werden (Art. 7 Abs. 3 S. 1 DSGVO). Dies würde wiederum dazu führen, dass sich die Zulässigkeit hinsichtlich mancher Teile der Belegschaft jederzeit ändern kann. Der Abschluss einer KI-Betriebsvereinbarung kann in solchen Fällen individuellen Einwilligungen vorzuziehen sein und die datenschutzrechtlich notwendige Rechtsgrundlage für die Nutzung bieten. Dies setzt freilich voraus, dass ein Betriebsrat vorhanden ist.

Losgelöst von den gesetzlich vorgesehen Beteiligungsrechten bietet die Betriebsvereinbarung, d.h. die formal mit dem Betriebsrat abgeschlossene Vereinbarung, eine sehr geeignete Rechtsgrundlage, um auch den datenschutzrechtlichen Anforderungen zu genügen. Denn nach der Öffnungsvorschrift des Art. 88 DSGVO können die Mitgliedstaaten durch Rechtsvorschriften oder durch Kollektivvereinbarungen spezifischere Vorschriften zur Gewährleistung des Schutzes der Rechte und Freiheiten hinsichtlich der Verarbeitung personenbezogener Beschäftigtendaten im Beschäftigungskontext vorsehen.³⁰ Auch wenn Art. 88 DSGVO keine Unterschreitung des Mindestdatenschutzniveaus zulässt, können die Betriebsparteien durch eine Betriebsvereinbarung präzisere Regelungen treffen, als dies bei einem Rückgriff auf die gesetzlichen Erlaubnistatbestände möglich ist.³¹

Eine KI-Betriebsvereinbarung umfasst typischerweise eine ausführliche Beschreibung des KI-Systems sowie seiner Anwendungen im Betrieb. In der Vereinbarung wird erläutert, wie das System funktioniert und in welchen Bereichen es eingesetzt wird, um die Unternehmensziele zu unterstützen. Ein weiterer Schwerpunkt liegt auf den Verarbeitungszwecken der KI: Welche Daten werden von der KI verarbeitet und zu welchem Zweck? Die Bedeutung dieser Datenverarbeitung für die Geschäftsprozesse sowie die Einhaltung datenschutzrechtlicher Bestimmungen stehen dabei im Mittelpunkt.³²

Soll eine Leistungs- oder Verhaltenskontrolle durch das KI-System ermöglicht werden, ist im Detail zu regeln wie, in welchem Umfang und unter welchen Voraussetzungen die KI eingesetzt wird, wobei auch ethische und rechtliche Aspekte dieser Überwachung berücksichtigt werden.³³

Insoweit beschreibt das Rollen- und Berechtigungskonzept, wie Zugriffsrechte auf das KI-System verwaltet und verteilt werden. Vor dem Hintergrund der Bedeutung von Sicherheit und Datenschutz muss die Betriebsvereinbarung erläutern, wie das Unternehmen sicherstellt, dass nur autorisierte Personen Zugang zu personenbezogenen Informationen haben.³⁴ Das Löschkonzept behandelt die Strategie für das Löschen von Daten innerhalb des KI-Systems,³⁵ und das Schulungskonzept schließlich beschreibt, wie Mitarbeiter im Umgang mit dem KI-System geschult werden.³⁶ Letzteres regelt teilweise auch den Umfang der Hinzuziehung eines KI-Sachverständigen. Dabei wird erläutert, wie oft und wie lange der Betriebsrat einen externen Experten hinzuzuziehen kann und welche Kosten dabei akzeptabel sind.

Für Aufsehen hat ein in den USA geführter Rechtsstreit gesorgt. Gegenstand war, dass Unternehmen bei Facebook über die Rubrik "Facebook Job Ads" Stellenanzeigen schalteten. Die Besonderheit lag jedoch darin, dass die Stellenanzeigen mittels des sogenannten "Microtargetings" lediglich bestimmten Facebook-Nutzern angezeigt wurden. Die Einstellungsmöglichkeit basiert auf detaillierten, algorithmenbasierten Auswertungen der Daten über die Facebooknutzer. Folge war, dass lediglich Nutzer unter 40 Jahren die Anzeige sehen konnten und ferner eine Differenzierung nach dem Geschlecht erfolgte. Hiergegen wurde Klage mit der Begründung erhoben, dass das Vorgehen sowohl eine Alters- als auch eine Geschlechterdiskriminierung darstelle.³⁷ Zu einer gerichtlichen Entscheidung kam es jedoch nicht, da zwischen den Parteien eine gütliche Einigung erzielt werden konnte.

Auch nach deutscher Rechtslage zeigt sich, dass die Anwendung von KI-Systemen zu einem Verstoß gegen das Allgemeine Gleichbehandlungsgesetz ("AGG") führen kann. So wollte Amazon eine Recruiting-KI einsetzen, um das Einstellungsverfahren zu vereinfachen. Allerdings gab der Konzern die Programmierung der KI auf, nachdem sich gezeigt hatte, dass die KI systematisch Männer bevorzugte. Die KI war nämlich mit den Bewerbungsunterlagen der bisher erfolgreichen Bewerbungen trainiert worden. Später stellte sich heraus, dass der größte Teil der Belegschaft aus Männern bestand. Hieraus schloss die KI, dass Männer zu bevorzugen und Frauen eher abzulehnen sind ("feedback loop").³⁸

Während die KI also auf Grundlage der ihr zur Verfügung gestellten Daten zwar zu einem "richtigen" Ergebnis kam, stellte dies jedoch richtigerweise eine verbotene mittelbare Benachteiligung von Frauen dar.³⁹ Hier zeigt sich das generelle Problem, dass ein datenbasiertes Lernen nicht zwischen korrelierenden Daten und einem kausalen Zusammenhang unterscheiden kann. Ob eine Eigenschaft ursächlich für den gewünschten Erfolg oder eine zufällige Nebenerscheinung ist, lässt sich auf dieser Ebene nicht erkennen.

Amazon versuchte deshalb in einem nächsten Anlauf der KI zu verbieten, an das Geschlecht oder geschlechtlich geprägte Begriffe anzuknüpfen. Dennoch empfahl die KI für die Einstellung ausschließlich Männer.⁴⁰ Die KI hatte sich nämlich an typischen Lebensläufen der Beschäftigten (meist Männer) orientiert, die beispielsweise deutlich weniger teilzeitbeschäftigt waren oder weniger Elternzeit nahmen als Frauen. Zwar konnte hierdurch eine unmittelbare Diskriminierung vermieden werden. Jedoch stellte das Vorgehen aber weiterhin einen klassischen Fall der mittelbaren Diskriminierung von Frauen dar.

KI-Systeme bieten großes Potenzial, Arbeitsabläufe und Prozesse effizienter zu gestalten. Um KI sinnvoll nutzbar zu machen, bedarf es nicht nur der Kenntnis der relevanten rechtlichen Rahmenbedingungen. Es empfiehlt sich vielmehr auch, die Prozesse transparent zu gestalten und Mitarbeitende in die Gestaltung einzubeziehen. Nur so wird das nötige Vertrauen geschaffen, die Vorteile der KI auch nutzbar zu machen. Daher sind die mit der KI-Nutzung verbundenen Risiken durch kluge Gestaltung der Rahmenregelungen in KI-Policies und / oder KI-Betriebsvereinbarungen zu lokalisieren und einzugrenzen.