Die Entwicklungsausnahme: Interne Mobilitätsplattformen und die Grenzen der KI-Governance im Beschäftigungsbereich

Die Grenze, die kein Gesetz zieht

Institutionelle KI-Governance im Beschäftigungsbereich hat sich mit bemerkenswerter Einheitlichkeit auf eine Grenze eingependelt, die im geltenden Recht nirgends zu finden ist. Diese Grenze trennt Einstellung von Entwicklung. Systeme, die externe Bewerber bewerten, werden als Entscheidungstechnologie behandelt und erhalten den entsprechenden Apparat: Bias-Audits, Benachrichtigung der Kandidaten, Lieferantendokumentation und juristische Prüfung. Systeme, die bestehende Mitarbeiter für interne Möglichkeiten bewerten, werden als Entwicklungstechnologie behandelt und nach Prüfstandards beschafft, die eher für eine Lernmanagement-Plattform angemessen wären.

Die Unterscheidung ist administrativ naheliegend. Externe Kandidaten sind der Organisation fremd, und die Organisation schuldet ihnen ein Verfahren. Interne Kandidaten sind bereits beschäftigt, bereits bekannt und bereits Teil der Beziehung. Ihnen eine Chance zu eröffnen, erscheint als gewährte Vergünstigung und nicht als getroffene Entscheidung. Diese Unterscheidung wird zudem organisatorisch verstärkt, da interne Mobilitätsplattformen typischerweise von Talententwicklungsfunktionen gesponsert, gegen Engagement- und Bindungsziele budgetiert und anhand von Adoptionskennzahlen statt Entscheidungsqualität bewertet werden.

Weder die Technologie noch der Gesetzeswortlaut stützen diese Unterscheidung. Eine interne Mobilitätsplattform, die aus Lebensläufen, Projekthistorien, Lernaufzeichnungen, Leistungsdaten und Verhaltenssignalen auf die Fähigkeit von Mitarbeitern schließt und diese dann gegenüber internen Stellenausschreibungen einstuft, erzeugt eine Bewertung, die Beförderung, Vergütung und Einsatz maßgeblich beeinflusst. Das ist eine folgenreiche Entscheidung über eine Person. Der Umstand, dass die Person sich freiwillig für die Plattform gemeldet hat und die Organisation das Ergebnis als Empfehlung bezeichnet, ändert nichts am Charakter der getroffenen Feststellung.

Was der Geltungsbereich tatsächlich umfasst

New York Citys Local Law 144 ist seit Juli 2023 durchsetzbar und erfasst automatisierte Beschäftigungsentscheidungswerkzeuge, die bei Beschäftigungsentscheidungen eine Ermessensentscheidung wesentlich unterstützen oder ersetzen. Das Gesetz stellt ausdrücklich klar, dass es Einstellung und Beförderung umfasst. Seine Pflichten sind verfahrensrechtlicher, nicht materieller Natur: ein innerhalb des vorangegangenen Jahres durchgeführtes unabhängiges Bias-Audit, öffentliche Veröffentlichung der Audit-Zusammenfassung und vorherige Benachrichtigung der betroffenen Personen. Strafen fallen pro Verstoß an, und fortgesetzte Nutzung wird als fortlaufender Verstoß behandelt.

Eine Organisation, die für ihr externes Bewerber-Screening Bias-Audits in Auftrag gegeben hat, während sie ihren internen Talentmarktplatz als nicht erfasst betrachtet, hat eine Grenze gezogen, die die Verordnung nicht anerkennt. Wo das interne System Mitarbeiter für Ausschreibungen bewertet oder einstuft, die eine Beförderung darstellen, greift die Audit-Pflicht. Öffentliche Belege zeigen noch nicht, wie konsequent Durchsetzungsbehörden interne Mobilitätseinsätze bisher erfasst haben, doch das Fehlen bisheriger Durchsetzung ist eine schwache Grundlage für eine Compliance-Position, zumal sich das Risiko täglich erhöht.

Das Muster reicht über New York hinaus. Illinois HB 3773, erlassen im August 2024 und mit Wirkung zum 1. Januar 2026 geplant, ändert den Illinois Human Rights Act dahingehend, dass der Einsatz künstlicher Intelligenz verboten wird, die diskriminierende Wirkungen auf geschützte Gruppen erzeugt, die Verwendung von Postleitzahlen als Stellvertreter für geschützte Merkmale untersagt wird und eine Benachrichtigungspflicht eingeführt wird, sobald künstliche Intelligenz bei Entscheidungen zu Rekrutierung, Einstellung, Beförderung, Disziplinarmaßnahmen oder Entlassung eingesetzt wird. Die Benachrichtigungspflicht knüpft an die Nutzung an, nicht an das Ergebnis. Die Diskriminierungsbestimmung ist über den Human Rights Act durchsetzbar, der einen privaten Rechtsweg vorsieht.

Colorados SB 24-205, erlassen im Mai 2024 und mit Wirkung zum 1. Februar 2026 geplant, stuft Beschäftigungsentscheidungen als folgenreiche Entscheidungen ein und erlegt Einsatzorganisationen eine Sorgfaltspflicht gegen algorithmische Diskriminierung auf, zusammen mit Risikomanagementprogrammen, Folgenabschätzungen und Offenlegungspflichten. Das Gesetz wurde mit einem begleitenden Schreiben des Gouverneurs unterzeichnet, der vor der Umsetzung eine gesetzgeberische Überarbeitung anmahnte, und es ist anhaltendem Änderungsdruck ausgesetzt. Seine endgültige Form ist ungewiss. Diese Ungewissheit ist selbst eine Governance-Erwägung und kein Grund zum Zuwarten, denn eine Organisation, die ihre internen Kontrollen an dem jeweils schwächsten Regime ausrichtet, wird sie bei jeder Legislaturperiode neu justieren müssen.

Der kalifornische Civil Rights Council hat Vorschriften zu automatisierten Entscheidungssystemen im Beschäftigungsbereich entwickelt, und die Richtung dieses Regelsetzungsprozesses fügt sich in das oben beschriebene Muster ein. In der Europäischen Union ist die Verordnung (EU) 2024/1689 im August 2024 in Kraft getreten und stuft KI-Systeme, die für den Einsatz in Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit bestimmt sind, gemäß Anhang III als Hochrisiko ein, einschließlich ausdrücklich der Systeme, die zur Entscheidung über Beförderung, Aufgabenzuweisung und Bewertung der Arbeitsleistung eingesetzt werden. Die Pflichten für diese Systeme sollen ab August 2026 gelten. Der Wortlaut von Anhang III richtet sich nach der ausgeübten Funktion und nicht nach der vermarkteten Produktkategorie, und interne Mobilitäts-Engines erfüllen die aufgezählten Funktionen.

Das Beweisproblem

Das Geschäftsargument für KI-gestützte interne Mobilität kursiert in einer Form, die einer Beschaffungsprüfung nicht standhält. Zahlen, die behaupten, diese Plattformen senkten die Fluktuation um ein Drittel, oder dass Engagement-Tools die Bindung innerhalb eines bestimmten Jahres um ein Viertel steigern würden, verbreiten sich durch Aggregationen von Anbieterinhalten, in denen jede Behauptung eine Quellenangabe trägt, die auf eine weitere Aggregation verweist. Die zugrunde liegende Studie existiert, sofern man ihr nachgeht, in der Regel nicht.

Eine zweite und folgenreichere Verzerrung betrifft die Fehlzuschreibung echter Forschung. Der Workplace Learning Report von LinkedIn und der zugehörige Career Development Index zeigen, dass Organisationen, die im obersten Quintil der Reife bei der Karriereentwicklung liegen, gemessen an erklärten Verpflichtungen, Sprache in Stellenausschreibungen, Verbreitung von Führungskompetenzen und internem Mobilitätsniveau, deutlich höhere Beförderungsraten in Führungspositionen, längere Betriebszugehörigkeit und stärkeres Engagement der Lernenden aufweisen als Organisationen im untersten Quintil. Das ist ein Befund über organisatorische Investition in Karriereentwicklung. Er wird in Anbietermaterialien routinemäßig als Befund über die Wirkung von KI-Werkzeugen umformuliert, was weder gemessen wurde noch das ist, worin sich die Vergleichsgruppen unterscheiden.

Was die glaubwürdige Faktenlage stützt, ist enger gefasst. Mehrere große Unternehmen, darunter Unilever, HSBC und Schneider Electric, haben öffentlich bedeutsame Rückgänge der freiwilligen Fluktuation auf den Einsatz interner Talentmarktplätze zurückgeführt. Analystenprognosen haben eine erhebliche Verbreitung unter großen Unternehmen vorausgesagt. Fallbeispiele deuten auf schnellere interne Stellenbesetzung und reduzierte Ausgaben für Fremdpersonal hin. Dies sind selbstberichtete operative Ergebnisse und Prognoseschätzungen, keine kontrollierten Auswertungen, und sie sollten in jedem Geschäftsfall, der von einem Prüfer, einer Aufsichtsbehörde oder gegnerischem Rechtsbeistand gelesen wird, entsprechend gekennzeichnet werden. Die Unterscheidung zwischen einem Ergebnis, das eine Organisation nach der Einführung beobachtet hat, und einer dem System zurechenbaren Wirkung ist genau die Unterscheidung, die Governance zu bewahren hat.

Der Bias-Anspruch verlangt Beweise, keine Zusicherung

Die häufigste vorgebrachte Rechtfertigung für algorithmische interne Mobilität ist, dass sie Bias reduziere. Das Argument hat eine vertretbare Prämisse. Ermessensbasierte, managergesteuerte Beförderung weist gut dokumentierte Ungleichheiten auf, Talent-Hortung unterdrückt die Sichtbarkeit von Mitarbeitern, und Intransparenz über interne offene Stellen verteilt Chancen ungleich. Transparenz darüber, welche Rollen existieren und wer sich bewerben darf, hat einen eigenständigen Wert.

Konsistenz ist nicht Gerechtigkeit.

Die Schlussfolgerung ergibt sich nicht aus der Prämisse. Ein internes Mobilitätssystem, das auf der eigenen Aufstiegshistorie einer Organisation trainiert wurde, wird die Muster dieser Historie mit größerer Konsistenz, breiterer Anwendung und geringerer Nachvollziehbarkeit reproduzieren als die Manager, deren Urteil es ergänzt. Konsistenz ist nicht Gerechtigkeit. Die Einstellung von Amazons experimentellem Rekrutierungswerkzeug, nachdem sich herausgestellt hatte, dass es Frauen benachteiligte, bleibt der stehende Beweis dafür, dass historische Trainingsdaten historische Ergebnisse kodieren, und dieser Fall betraf externe Einstellungen, bei denen das Trainingssignal vergleichsweise spärlich ist. Interne Mobilitätssysteme arbeiten mit dem angesammelten Datensatz des Beschäftigungsverhältnisses selbst, einschließlich Leistungsbeurteilungen, Projektzuweisungen und Manager-Einschätzungen, von denen jede ihre eigene Verteilungsgeschichte trägt.

Die Governance-Konsequenz ist, dass eine Behauptung der Bias-Reduzierung eine faktische Aussage darstellt, die Beweise erfordert, und keine Gestaltungsabsicht, die man nur anführen kann. Unter einem Standard disparater Wirkung, wie ihn Illinois eingeführt hat, ist der gutgläubige Glaube eines Arbeitgebers, ein Werkzeug verbessere die Fairness, keine Antwort auf die Frage, ob sich die Ergebnisse zwischen geschützten Gruppen unterscheiden. Nur eine Ergebnisprüfung beantwortet diese Frage.

Governance-Implikationen

Die operative Empfehlung lautet, interne Mobilitätssysteme bereits bei der Beschaffung und nicht erst bei einem Vorfall in den Geltungsbereich der Beschäftigungs-KI-Governance einzubeziehen.

Die Beschaffungsdokumentation sollte vom Anbieter verlangen, vertraglich festzuhalten, ob Systemausgaben verwendet werden, um Entscheidungen über Beförderung, Vergütung, Einsatz oder Fortsetzung des Beschäftigungsverhältnisses zu treffen, zu steuern oder maßgeblich zu beeinflussen. Diese Formulierung, nicht die Produktkategorie, unter der das System vermarktet wird, bestimmt die regulatorische Erfassung in allen oben untersuchten Regelwerken. Ein Anbieter, der nicht bereit ist, seine eigenen Ausgaben in diesen Begriffen zu charakterisieren, hat damit etwas Aufschlussreiches mitgeteilt.

Die Dokumentation des Bias-Audits sollte als Zuschlagsvoraussetzung verlangt werden und nicht erst nach der Einführung angefordert werden; sie sollte die Audit-Methodik, die untersuchten Kategorien geschützter Gruppen, die Durchführung einer intersektionalen Analyse, die dem Audit zugrunde liegende Population und das Datum benennen. Ein Audit, das an der aggregierten Kundenpopulation eines Anbieters durchgeführt wurde, ist kein Audit der Ergebnisse der einsetzenden Organisation, und diese Unterscheidung sollte festgehalten und nicht stillschweigend übergangen werden.

Die Modelldokumentation sollte die Herkunft der Trainingsdaten und die Merkmale benennen, auf deren Grundlage Schlussfolgerungen gezogen werden, mit ausdrücklicher Bestätigung, dass keine geografische, bildungsbezogene oder betriebszugehörigkeitsabgeleitete Variable als Stellvertreter für ein geschütztes Merkmal fungiert. Benachrichtigungs- und Abhilfeverfahren bei nachteiligen Entscheidungen sollten vertraglich festgelegt und nicht der Umsetzung überlassen werden, da die Benachrichtigungspflichten der untersuchten Gesetze unabhängig davon an den einsetzenden Arbeitgeber anknüpfen, was der Anbieter entwickelt hat. Haftungsfreistellungsklauseln verdienen besondere Aufmerksamkeit, da das sich abzeichnende Muster in der bundesstaatlichen Gesetzgebung die Übertragung von Diskriminierungshaftung auf Anbieter einschränkt.

Nichts davon stellt ein Argument gegen KI-gestützte interne Mobilität dar. Die Talent-Begründung ist substanziell, und die Alternative einer undurchsichtigen Ermessens-Torwächterfunktion ist nicht erkennbar überlegen. Das Argument lautet, dass eine Kategorie von System, die als Mitarbeitererfahrungs-Initiative vermarktet wird, funktional folgenreiche Entscheidungsinfrastruktur darstellt, dass der gesetzliche Geltungsbereich sie bereits erfasst und dass Organisationen, die dies erst nach der Einführung bemerken, Governance nachträglich auf Werkzeuge aufsetzen, die seit mehreren Zyklen den beruflichen Aufstieg prägen. Der kostengünstigste Zeitpunkt, ein solches System zu regeln, liegt vor seiner Beschaffung.

Quellen

• Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Anhang III(4).
• New York City Administrative Code § 20-870 ff. (Local Law 144 von 2021); endgültige Vorschriften des Department of Consumer and Worker Protection, in Kraft seit 5. Juli 2023.
• Illinois House Bill 3773, 103. General Assembly (2024), zur Änderung des Illinois Human Rights Act, in Kraft ab 1. Januar 2026.
• Colorado Senate Bill 24-205, Concerning Consumer Protections in Interactions with Artificial Intelligence Systems (2024), in Kraft ab 1. Februar 2026.
• LinkedIn Learning, Workplace Learning Report 2025, und die zugehörige Methodik des Career Development Index.
• Dastin, J. „Amazon scraps secret AI recruiting tool that showed bias against women.“ Reuters, 10. Oktober 2018.
• McKinsey & Company, „Stave off attrition with an internal talent marketplace“, McKinsey Talks Talent.