Unbepreistes Risiko ist keine Rendite: Warum die meisten Business Cases für künstliche Intelligenz im Personalwesen als Business Cases scheitern

Die Behauptungen und die Messung, die zu ihrer Stützung erforderlich wäre

Der Standard-Business-Case für künstliche Intelligenz im Personalwesen hat sich um fünf Behauptungen herum stabilisiert: schnellere und bessere Einstellungen, geringere Verwaltungskosten, vorausschauende Personalplanung, verbesserte Mitarbeiterbindung und automatisierte Compliance. Diese Behauptungen werden in Anbietermaterialien, Konferenzprogrammen und Fachkommentaren mit solcher Konsistenz wiederholt, dass sie inzwischen eher als Hintergrundannahme denn als beweisbedürftige Aussagen fungieren.

Sie erfordern Beweise, und das Hindernis, diese zu erbringen, ist nicht die Technologie. Das Personalwesen ist mit der schwächsten Messinfrastruktur aller großen Unternehmensfunktionen in diese Phase eingetreten. Das Finanzwesen hat geprüfte Abschlüsse. Der Betrieb hat Durchsatz- und Fehlerquoten. Das Personalwesen verfügt über eine Reihe von Kennzahlen, die unterschiedlich definiert, selten validiert, kaum vor einer Intervention als Basiswert erfasst und häufig von genau dem Anbieter erstellt werden, dessen Produkt bewertet wird. Eine Organisation, die die Leistung ihres Einstellungsprozesses vor der Einführung eines automatisierten Tools nicht messen konnte, kann die Verbesserung danach nicht messen, und was sie als Rendite ausweist, ist in der Regel die Differenz zwischen zwei Zahlen, die niemals vergleichbar waren.

Die Position der Novara Consulting Group ist, dass das zentrale Problem der Business Cases für künstliche Intelligenz im Personalwesen nicht darin besteht, dass die Erträge fehlen. Einige sind real und werden im Folgenden beschrieben. Das Problem ist, dass Erträge mit einer Präzision behauptet werden, die die zugrunde liegende Messung nicht stützen kann, während die Kosten, die sie ausgleichen würden, vollständig aus dem Modell ausgeschlossen werden. Eine so konstruierte Berechnung ist keine Investitionsanalyse. Sie ist ein Plädoyer mit einem Währungssymbol darin.

Sie ist ein Plädoyer mit einem Währungssymbol darin.

Was tatsächlich messbar ist, und was es wert ist

Die fünf Standardbehauptungen lassen sich klar in zwei Klassen unterteilen, und diese Trennung ist aufschlussreicher als die Behauptungen selbst.

Die erste Klasse umfasst Effekte, die tatsächlich messbar und vergleichsweise bescheiden sind. Die Durchlaufzeit bei der Personalbeschaffung ist messbar, hat in den meisten Bewerbermanagementsystemen einen etablierten Basiswert und reagiert tatsächlich auf die Automatisierung von Terminplanung, Vorauswahl und Korrespondenz. Die Verwaltungskosten pro Transaktion in der Gehalts- und Sozialleistungsabrechnung sind messbar, ebenso die Fehlerquoten in diesen Prozessen. Organisationen, die diese Funktionen automatisieren, erzielen in der Regel tatsächlich Einsparungen, und diese Einsparungen lassen sich belegen.

Zwei Einschränkungen sind wichtig. Die erste ist, dass die meisten dokumentierten Einsparungen in der Gehalts- und Sozialleistungsabrechnung aus Workflow-Automatisierung und regelbasierter Verarbeitung stammen – Technologien, die der aktuellen Generation künstlicher Intelligenz um Jahrzehnte vorausgehen und in der Anbieterpositionierung sowie in den darauf aufbauenden Business Cases häufig als KI umetikettiert werden. Die Zuschreibung längst etablierter Einsparungen durch Prozessautomatisierung zu einer kürzlich getätigten KI-Anschaffung bläht die gemessene Rendite dieser Anschaffung auf und führt, folgenreicher noch, zu einer Fehlzuordnung des kausalen Mechanismus, was bedeutet, dass die Organisation die falsche Lehre darüber zieht, was den Nutzen tatsächlich erzeugt hat. Die zweite Einschränkung ist, dass diese Einsparungen in absoluten Zahlen wenig spektakulär sind. Sie rechtfertigen allein nicht die unternehmensweiten Verpflichtungen, die derzeit eingegangen werden.

Die zweite Klasse umfasst Effekte, die erheblich wären, wenn sie real wären, und die gegenwärtig nicht gemessen werden können: verbesserte Einstellungsqualität, verbesserte Mitarbeiterbindung und bessere Personalplanung. Dies sind die Behauptungen, die den Business Case tragen, und sie tragen ihn gerade deshalb, weil ihr Umfang durch keine Messung begrenzt wird.

Einstellungsqualität ist keine Kennzahl

Die Einstellungsqualität ist die tragende Behauptung in nahezu jedem Business Case für Rekrutierungstechnologie, und es gibt keine validierte gemeinsame Definition dafür. Je nach Organisation wird sie als Leistungsbeurteilung im ersten Jahr, als Verbleib nach neunzig Tagen, als Verbleib nach zwölf Monaten, als Zufriedenheit der einstellenden Führungskraft, als Zeit bis zur Produktivität oder als Zusammensetzung mehrerer dieser Größen operationalisiert, jeweils mit unterschiedlichen Messeigenschaften und ohne etablierte Konstruktvalidität als Maß für die Wirksamkeit der Einstellung.

Die Konsequenz ist, dass jede behauptete Verbesserung der Einstellungsqualität im Wesentlichen ein Artefakt der Definitionswahl ist. Eine Organisation, die Einstellungsqualität als Verbleib nach neunzig Tagen definiert und ein Tool einsetzt, das Kandidaten herausfiltert, die früheren, langjährigen Mitarbeitern ähneln, wird eine Verbesserung beobachten. Sie hat nicht gelernt, dass sich die Einstellung verbessert hat. Sie hat gelernt, dass ein auf einen Stellvertreterwert optimiertes System diesen Stellvertreterwert verschoben hat. Wo der Anbieter sowohl das Tool als auch den Messrahmen liefert, was häufig vorkommt, ähnelt der Befund eher einer Tautologie als einem Beweis.

Dies ist von weit mehr als nur methodischer Bedeutung. Nach den Uniform Guidelines on Employee Selection Procedures gemäß 29 C.F.R. Part 1607 wird von einem Arbeitgeber, dessen Auswahlverfahren eine nachteilige Wirkung zeigt, erwartet, Nachweise zu erbringen, dass das Verfahren für die Stelle valide ist. Eine kriteriumsbezogene Validierung erfordert ein verteidigungsfähiges Maß für die Arbeitsleistung. Eine Organisation, die nicht genau angeben kann, was Einstellungsqualität für ihre eigenen Stellen bedeutet, und die nicht zeigen kann, dass ihr Kriteriumsmaß selbst unvoreingenommen ist, verfügt nicht über die Nachweise, die der Rahmen vorsieht. Die Messschwäche, die den Business Case aufbläht, ist dieselbe Schwäche, die die rechtliche Verteidigung untergräbt – ein ungewöhnlicher Fall, in dem ein methodisches Problem und ein Haftungsproblem ein und dasselbe sind.

Vorhergesagte Fluktuation und die Genauigkeitslücke

Die vorausschauende Personalplanung verdient eine gesonderte Betrachtung, denn hier ist der Abstand zwischen veröffentlichter und tatsächlich erzielter Leistung am größten, und das rechtliche Risiko ist am wenigsten verstanden.

Die akademische Literatur zur Vorhersage von Mitarbeiterfluktuation berichtet routinemäßig Genauigkeitswerte im hohen neunziger Prozentbereich. Diese Werte werden überwiegend anhand einer kleinen Zahl von Benchmark-Datensätzen erzeugt, hauptsächlich dem IBM-HR-Analytics-Datensatz mit rund 1.470 Datensätzen und einem weit verbreiteten Kaggle-Personaldatensatz mit rund 15.000 Datensätzen, und typischerweise nach künstlichem Klassenausgleich durch Oversampling-Verfahren wie SMOTE (Synthetic Minority Over-sampling Technique). Dies sind legitime methodische Entscheidungen zum Vergleich von Algorithmen untereinander. Sie sind keine Schätzungen der Feldleistung auf der eigenen Belegschaft eines Arbeitgebers, und sie sollten niemals so in einem Business Case erscheinen, als wären sie es. Praktikerbewertungen realistischer Feldgenauigkeit für Abwanderungsrisiko-Modelle liegen erheblich niedriger, im Bereich von siebzig bis achtzig Prozent, und Analysten in diesem Bereich haben anhaltende Skepsis gegenüber Anbieterbehauptungen über neunzig Prozent geäußert.

Die Lücke zwischen achtzig Prozent und dem hohen Neunzigerbereich ist in dieser Anwendung kein Rundungsunterschied, weil die Basisrate niedrig ist. Die freiwillige Fluktuation liegt in den meisten Organisationen deutlich unter zwanzig Prozent jährlich, was bedeutet, dass ein Modell mit starker Gesamtgenauigkeit dennoch deutlich mehr falsch-positive als echt-positive Ergebnisse produzieren kann. In einem Fluktuationsmodell ist ein falsch-positives Ergebnis ein Mitarbeiter, der fälschlicherweise als wahrscheinlich kündigend identifiziert wird.

Die Governance-Frage folgt unmittelbar, und die Rahmung als Kapitalrendite verschleiert sie. Was tut die Organisation mit diesem Namen? Lautet die Antwort „nichts“, hat das Modell keine Rendite erbracht. Lautet die Antwort irgendetwas – sei es ein differenziertes Bindungsangebot, veränderte Entwicklungsinvestitionen, der Ausschluss von langfristigen Einsätzen oder eine veränderte Nachfolgeplanung –, dann hat die Organisation eine differenzierende arbeitsrechtliche Entscheidung über eine Person auf Grundlage einer Vorhersage getroffen. Das ist eine arbeitsrechtliche Maßnahme, und ihre Rechtmäßigkeit hängt davon ab, was den Score verursacht hat. Anleitungen zum Aufbau solcher Modelle empfehlen routinemäßig die Einbeziehung von Mitarbeiterdemografie, wobei Alter und Betriebszugehörigkeit als Eingabefaktoren genannt werden, die dem Modell Kontext verleihen. Ein Arbeitgeber, der Alter in ein Modell einspeist, das Ergebnis zur Zuteilung von Entwicklungsinvestitionen nutzt und nicht rekonstruieren kann, warum ein bestimmter Mitarbeiter so bewertet wurde, hat ein Risiko nach dem Age Discrimination in Employment Act geschaffen und es als Nutzen in der Bilanz verbucht.

Automatisierte Compliance entbindet nicht von der Compliance-Pflicht

Die Behauptung, künstliche Intelligenz gewährleiste die Einhaltung von Arbeitsrecht und interner Richtlinien, sollte vollständig aus Business Cases gestrichen werden – und nicht, weil die Tools nutzlos wären. Überwachungssysteme, die versäumte Pausen, Überstundengrenzen, Klassifizierungsanomalien oder Fehler in der Urlaubsverwaltung kennzeichnen, können tatsächlich wertvoll sein, und der operative Nutzen dafür ist vernünftig.

Das Wort, das versagt, ist „gewährleistet“. Ein Überwachungssystem entbindet nicht von einer rechtlichen Verpflichtung; es erzeugt Ergebnisse, für die der Arbeitgeber anschließend die Verantwortung trägt. Kennzeichnet das System einen möglichen Verstoß und handelt niemand, hat die Organisation eine datierte interne Aufzeichnung geschaffen, die Kenntnis belegt – was erheblich schlechter ist, als gar nicht überwacht zu haben. Erkennt das System einen tatsächlich aufgetretenen Verstoß nicht, hat der Arbeitgeber keine Verteidigung erlangt, denn das Vertrauen auf ein Anbieter-Tool ist nach dem Fair Labor Standards Act oder den von der Equal Employment Opportunity Commission (EEOC) durchgesetzten Gesetzen keine anerkannte Entschuldigung für Nichteinhaltung. Sind die Feststellungen des Systems systematisch falsch, hat der Arbeitgeber den Fehler automatisiert und skaliert.

Die Ereignisse vom Januar 2025 machen dies eher schlimmer als besser. Als die EEOC ihre Leitlinien zu künstlicher Intelligenz von ihrer Website entfernte, einschließlich der technischen Hinweise vom Mai 2022 zum Americans with Disabilities Act und der technischen Hinweise vom Mai 2023 zu Title VII, verloren Arbeitgeber das Auslegungsmaterial, das ihnen mitteilte, welche Praktiken die Behörde als problematisch ansah. Die Gesetze selbst änderten sich nicht. Ein Compliance-Tool, das gegen inzwischen zurückgezogene Leitlinien konfiguriert wurde, arbeitet nun ohne festgelegten Referenzstandard, und diese Lücke trägt der Arbeitgeber, nicht der Anbieter.

Compliance-Automatisierung fügt daher eine Dokumentations- und Reaktionspflicht hinzu, anstatt eine zu beseitigen. Diese Pflicht verursacht Kosten, diese Kosten sind real, und sie gehören auf die Kostenseite des Modells.

Die Kosten, die das Modell auslässt

Die meisten KI-Business-Cases im Personalwesen enthalten eine Kostenseite, die aus Lizenzgebühren, Implementierungsleistungen und einer gewissen Schulungszulage besteht. Das sind die Anschaffungskosten der Software. Es sind nicht die Betriebskosten eines automatisierten arbeitsrechtlichen Entscheidungssystems, die zusätzlich mindestens Folgendes umfassen.

Validierungsarbeit, das heißt die Analyse, die belegt, dass das, was jedes System bewertet, einer dokumentierten Anforderung der Stelle entspricht, zusammen mit der erforderlichen Revalidierung bei Änderungen des Systems oder der Rolle. Betrieb eines Anpassungswegs, das heißt die ständige Fähigkeit, auf Anfrage eine alternative Bewertung bereitzustellen, mit benannten Entscheidungsträgern, festgelegter Bearbeitungszeit und einem funktionierenden interaktiven Prozess statt eines bloßen Formulars. Fähigkeit zur Aufbewahrung und Reproduktion von Aufzeichnungen, das heißt die Fähigkeit, den Score, die Eingabedaten und die zum Zeitpunkt jeder Einzelentscheidung geltende Systemkonfiguration während des von 29 C.F.R. Part 1602 vorgesehenen Aufbewahrungszeitraums bereitzustellen. Überwachung, das heißt regelmäßige Ergebnisprüfung anstelle des Vertrauens auf eine Anbieterzusammenfassung. Die Mitwirkung des Anbieters bei Beweisaufnahme und behördlicher Untersuchung, die kostspielig ist, in Standard-Geschäftsbedingungen fehlt, sofern nicht gesondert vereinbart, und bei Bedarf dem Arbeitgeber in Rechnung gestellt wird. Und die interne Governance-Funktion selbst, das heißt die benannte Person, die für das Obige verantwortlich ist, die in den meisten Organisationen gegenwärtig nicht existiert und geschaffen oder beauftragt werden muss.

Neben diesen Betriebskosten steht eine Eventualverbindlichkeit, die praktisch kein Business Case beziffert, und sie ist nicht mehr hypothetisch. Im August 2023 einigte sich die EEOC mit iTutorGroup auf 365.000 US-Dollar wegen einer Software, die so konfiguriert war, dass sie Bewerber oberhalb bestimmter Altersgrenzen ablehnte – eine konkrete Zahl für eine einfache Konfigurationsentscheidung. Im Juli 2024 ließ der Northern District of California Klagen gegen einen Anbieter von Screening-Software mit der Begründung zu, der Anbieter habe als Vertreter der Arbeitgeber gehandelt, die seine Tools nutzten – was die verbreitete Annahme erschüttert, Haftung liege vollständig entweder beim Arbeitgeber oder beim Anbieter und könne vertraglich klar zugeordnet werden. Im März 2025 reichten die American Civil Liberties Union (ACLU), die ACLU of Colorado, Public Justice und Eisenberg and Baum im Namen eines gehörlosen und indigenen Mitarbeiters eine Beschwerde bei der Colorado Civil Rights Division und der EEOC ein, die ein automatisiertes Videointerview und eine abgelehnte Untertitelungs-Anpassung betraf – ein Sachverhalt, den beide Unternehmen bestreiten. Diese Klage ist individuell, erfordert keine vergleichenden Statistiken und ist kostengünstig zu erheben.

Die richtige Vorgehensweise besteht nicht darin, eine Vergleichssumme zu schätzen. Sie besteht darin, das Risiko ausdrücklich zu benennen, darauf hinzuweisen, dass Klagen wegen systemischer Praktiken häufig außerhalb der Deckung üblicher Employment-Practices-Liability-Policen liegen, und zu verlangen, dass die risikomindernden Governance-Kontrollen als Teil der Einführung finanziert werden, anstatt sie aufzuschieben.

Eine Organisation, die diese Posten hinzufügt, wird häufig feststellen, dass die Investition weiterhin sinnvoll ist. Das ist ein gutes Ergebnis, und darum geht es nicht. Es geht darum, dass die resultierende Zahl vor einem Vorstand, einem Prüfer und schließlich einem Gericht verteidigt werden kann, was die derzeitige Zahl nicht kann.

Eine verteidigungsfähige Struktur

Das Folgende erzeugt einen Business Case, der einer Überprüfung standhält und von einer bestehenden Personal- und Finanzfunktion erstellt werden kann.

1. Legen Sie den Basiswert vor der Einführung fest, nicht danach: Durchlaufzeit, Kosten pro Einstellung, Verwaltungskosten pro Transaktion, Fehlerquoten und Fluktuation nach Segment, jeweils über mindestens vier vorangehende Quartale gemessen.
2. Trennen Sie Automatisierungseinsparungen von KI-Einsparungen. Geben Sie an, welche behaupteten Vorteile aus regelbasierter Workflow-Verarbeitung stammen, die auch ohne die KI-Anschaffung verfügbar wäre, und bewerten Sie diese gesondert.
3. Definieren Sie Einstellungsqualität ausdrücklich für Ihre eigenen Stellen, bevor Sie eine Veränderung darin messen, geben Sie das Kriteriumsmaß an und benennen Sie dessen Grenzen. Wenn es nicht definiert werden kann, behaupten Sie keine Verbesserung darin.
4. Lehnen Sie von Benchmarks abgeleitete Genauigkeitswerte für jedes Vorhersagemodell ab. Verlangen Sie Feldleistung anhand der eigenen Daten der Organisation, mit angegebener Basisrate und falsch-positivem Volumen ausgedrückt in Kopfzahlen statt in Prozent.
5. Dokumentieren Sie bei jedem Modell, das Einzelscores erzeugt, vor der Einführung, welche Maßnahme aus dem Score folgt, und lassen Sie diese Maßnahme als arbeitsrechtliche Entscheidung überprüfen, nicht als Analyseergebnis.
6. Bewerten Sie die oben genannten Betriebspflichten als wiederkehrende Kosten, nicht als einmalige Implementierungskosten.
7. Nennen Sie die Eventualverbindlichkeit als ausgewiesenen Posten samt der Kontrollen, die sie mindern, unabhängig davon, ob ihr ein Geldbetrag zugewiesen wird.
8. Verlangen Sie Validierungsnachweise, Felddaten zur Leistung und Reproduzierbarkeit als Vertragsbedingungen beim Erwerb. Bewahren Sie jede Weigerung auf, denn diese ist selbst eine Information darüber, was die Organisation weiß.

Fazit

Es gibt einen echten Business Case für künstliche Intelligenz im Personalwesen, und er ist bescheidener und besser zu verteidigen als der derzeit kursierende. Er beruht auf Durchlaufzeit, Transaktionskosten und Fehlerreduzierung in administrativen Prozessen, allesamt Dinge, die sich belegen lassen. Er beruht nicht auf Einstellungsqualität, Mitarbeiterbindung oder Prognosegenauigkeit – Behauptungen, die die Messpraxis der Funktion nicht stützen kann und die eine Haftung mit sich bringen, die das Modell nicht einpreist.

Die Organisationen, die einen dauerhaften Nutzen aus diesen Systemen berichten werden, sind nicht diejenigen, die am frühesten eingeführt oder am meisten gekauft haben. Es sind diejenigen, die vor dem Einsatz gemessen haben, die sagen können, was jedes System bewertet und warum das für die Stelle von Bedeutung ist, und die den Governance-Apparat als Teil der Gesamtbetriebskosten behandelt haben statt als Ausgabe, die es zu vermeiden gilt. Ertrag, der von ungemessenem Nutzen und unbepreistem Risiko abhängt, ist kein Ertrag. Es ist eine Prognose, und der Unterschied wird genau dann offensichtlich, wenn jemand nach den Berechnungsgrundlagen fragt.

Quellen

• American Civil Liberties Union, ACLU of Colorado, Public Justice und Eisenberg & Baum LLP. Beschwerde eingereicht bei der Colorado Civil Rights Division und der U.S. Equal Employment Opportunity Commission, 19. März 2025.
• EEOC v. iTutorGroup, Inc., No. 1:22-cv-02565 (E.D.N.Y.), Vergleichsbeschluss (Consent Decree) August 2023.
• Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), Beschluss zum Antrag auf Abweisung, Juli 2024.
• Society for Human Resource Management. „The Dangers of Using Predictive Analytics to Gauge Employee Flight Risk.“ 2023.
• U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12. Mai 2022, und Select Issues: Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII, 18. Mai 2023. Beide am 27. Januar 2025 von der Website der Behörde entfernt.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; Aufbewahrungspflichten, 29 C.F.R. Part 1602.