Unternehmens-HR-Technologie steht nun Organisationen zur Verfügung, die sie sich zuvor niemals hätten leisten können. Die Governance-Frage ist, was dabei nicht mitgeliefert wurde.
Was das Demokratisierungsargument richtig erfasst
Unternehmens-HR-Technologie steht nun Organisationen zur Verfügung, die sie sich zuvor niemals hätten leisten können. Eine zwanzigköpfige gemeinnützige Organisation kann heute Bewerberranking, strukturierte Beurteilungen, Engagement-Analysen, Kompetenzableitung und personalisierte Lernvermittlung über ein Monatsabonnement betreiben – mit denselben Produkten, die auch Arbeitgeber mit tausendfacher Größe einsetzen. Das ist ein realer Wandel, und die Begeisterung darüber ist nicht unberechtigt. Fähigkeiten, die früher auf große Konzerne konzentriert waren, sind nun breit verteilt.
Das Argument, das üblicherweise neben dieser Beobachtung vorgebracht wird, lautet, dass nicht nur die Fähigkeit, sondern auch der Vorteil verteilt wird, und dass kleinere, missionsgetriebene Organisationen tatsächlich besser positioniert sein könnten als Konzerne, um diese Systeme gut zu nutzen, weil sie schlanker, agiler und frei vom bürokratischen Ballast einer großen Personalabteilung sind. Die Position der Novara Consulting Group lautet, dass diese letzte Behauptung das tatsächliche Risiko auf den Kopf stellt, und dass diese Umkehrung das zentrale Governance-Problem für den Sektor darstellt.
Der Ballast ist die Rechenschaftspflicht.
Der Ballast ist die Rechenschaftspflicht. Was die Personalfunktion eines großen Arbeitgebers unter den Schichten enthält, die wie Ineffizienz aussehen, ist eine Reihe von Kontrollen: juristische Prüfung vor dem Einsatz eines Tools, ein Vendor-Management-Prozess, Aufbewahrung von Aufzeichnungen, ein Compliance-Beauftragter, der fragt, was ein System misst, und ein Business Partner, dessen Aufgabe es unter anderem ist zu bemerken, wenn eine Entscheidung falsch aussieht. Große Konzerne haben diese Tools in ein Umfeld eingeführt, in dem diese Ebene bereits existierte. Missionsgetriebene Organisationen übernehmen dieselben Tools ohne diese Ebene – und ihnen wird gesagt, dass genau deren Fehlen der Vorteil sei.
Was nicht in der Box enthalten war
Die Software ist dieselbe. Alles um die Software herum ist anders – in vier Punkten, die sich gegenseitig verstärken.
Niemand hat es konfiguriert. Eine kleine Organisation nutzt die Standardeinstellungen des Anbieters. Sie hat die Auswahlkriterien nicht selbst festgelegt, keine Schwellenwerte gesetzt und weiß oft nicht, welche Merkmale zur Bewertung der Kandidaten herangezogen werden, weil mehrere bei der Implementierung aktiviert und nie überprüft wurden. Auf die irgendwann aufkommende Frage, wer die Kriterien auf welcher Grundlage festgelegt hat, gibt es keine Antwort.
Niemand hat es überprüft. Es gibt keine Rechtsabteilung, die fragt, ob eine Bewertung des Kommunikationsstils mit der Stelle zusammenhängt, keine Datenschutzfunktion, die fragt, wo Ableitungsergebnisse gespeichert werden, und kein Beschaffungsbüro, das Validierungsnachweise verlangt. Der Kauf wurde von einer Geschäftsführerin oder einem Geschäftsführer auf Empfehlung einer Partnerorganisation getätigt.
Niemand kann es verhandeln. Die Kontrollen, die einen Arbeitgeber tatsächlich schützen, sind vertraglicher Natur: Aufbewahrung von Bewertungen, Versionskennung, die Möglichkeit, eine historische Entscheidung zu reproduzieren, Zugang zu Validierungsnachweisen, Mitwirkung bei Untersuchungen. Diese werden beim Erwerb festgelegt. Eine zwanzigköpfige Organisation, die ein Standard-Bestellformular unterschreibt, hat keinerlei Verhandlungsmacht, um diese zu erhalten – was bedeutet, dass der wirksamste Schutz ausgerechnet auf dieser Ebene am wenigsten verfügbar ist.
Und die rechtliche Untergrenze verschiebt sich nicht. Title VII und der Americans with Disabilities Act gelten ab fünfzehn Beschäftigten, der Age Discrimination in Employment Act ab zwanzig. Es gibt keine Ausnahme aufgrund mangelnder Expertise, keinen Schutzraum für kleine Arbeitgeber bei automatisierten Tools und keine Reduzierung der Pflichten, nur weil das System gekauft statt selbst entwickelt wurde. Die sich entwickelnde Rechtsprechung deutet darauf hin, dass der Anbieter eher zusätzlich als Beklagter hinzugezogen wird, anstatt einen Beklagten zu ersetzen; im Juli 2024 ließ das Northern District of California Klagen gegen einen Anbieter von Screening-Software mit der Begründung zu, dass dieser als Vertreter der ihn nutzenden Arbeitgeber gehandelt habe. Dass das Tool fertig verpackt kam und niemand in der Organisation es verstand, ist keine Verteidigung. Es ist ein Eingeständnis.
Die Behauptung, die gestrichen gehört
Von den Aussagen, die häufig über künstliche Intelligenz im missionsgetriebenen Personalwesen vorgebracht werden, sollte eine gestrichen und nicht nur relativiert werden: dass diese Systeme gegen Voreingenommenheit resistent seien oder unbewusste Vorurteile verringern und zu fairerer Einstellung führen.
Es gibt keine öffentliche Evidenzbasis, die dies stützt, und die verfügbaren Belege deuten in die entgegengesetzte Richtung. Systeme, die anhand früherer erfolgreicher Kandidaten trainiert wurden, bewerten die Übereinstimmung mit einer Verteilung, und die Dimensionen, nach denen sie am häufigsten bewerten – Kommunikation, Sprachgewandtheit, Affekt und Antwortzeiten – sind genau jene Dimensionen, in denen Behinderung, akzentuierte Sprache und unvertraute Hintergründe als Abweichung registriert werden. Eine im März 2025 bei der Colorado Civil Rights Division und der EEOC (Equal Employment Opportunity Commission) eingereichte Beschwerde im Namen eines Deaf und indigenen Beschäftigten behauptet genau dieses Muster bei einem automatisierten Videointerview; beide Unternehmen bestreiten die Vorwürfe, und der Fall ist umstritten, aber die Schadenstheorie liegt nun öffentlich mit namentlich genannten Parteien vor.
The audit apparatus offered as reassurance does not repair the claim. Research presented at the 2024 ACM Conference on Fairness, Accountability, and Transparency examined compliance with New York City’s bias audit requirement across nearly four hundred employers and found affirmative posting rates in the low single digits, with nearly all published audits reporting impact ratios above the four-fifths threshold, a distribution that says more about who commissions audits than about the systems audited. And these instruments measure race and sex. They cannot measure disability, because employers do not know and may not lawfully ask before a conditional offer which applicants are disabled.
Für eine missionsgetriebene Organisation ist dies nicht nur ein Genauigkeitsproblem. Eine Organisation, die sich öffentlich zu gerechter Einstellung bekennt und sich privat auf die Fairness-Behauptung eines Anbieters verlässt, hat eine Aussage übernommen, die sie nicht belegen kann – ausgerechnet in dem Bereich, der ihr wichtigstes Kapital, ihre Glaubwürdigkeit, darstellt. Die richtige Haltung ist, dass diese Systeme in Bezug auf Voreingenommenheit unbewiesen sind, dass die Organisation die Ergebnisse selbst überwacht und die Frage nicht delegiert hat.
Analysen in kleinen Teams deanonymisieren systembedingt
Die Behauptung, dass Echtzeit-Analysen zu Engagement und Leistung kleinen Teams helfen, unterstützende Umgebungen zu fördern, verdient eine gesonderte Betrachtung, denn auf dieser Ebene bewirkt sie etwas anderes als auf Unternehmensebene.
Engagement-Analysen werden mit dem Versprechen aggregierter Erkenntnisse verkauft: Die Organisation sieht Muster, keine Personen. Dieses Versprechen setzt Zellengrößen voraus, die groß genug sind, um Einzelpersonen zu verbergen. In einer Organisation mit fünfundzwanzig Mitarbeitenden und drei Teams berichtet ein Dashboard, das Stimmung oder Engagement nach Team aufschlüsselt, über sechs bis neun identifizierbare Personen, und jede Führungskraft, die es liest, weiß, wer wer ist. Wird nach Betriebszugehörigkeit, Rolle oder Standort segmentiert, ist die Berichterstattung individuell. Die Anonymität ist nur dem Namen nach vorhanden, und die Personen, über die berichtet wird, verstehen dies in der Regel früher als die Führung.
Daraus ergeben sich zwei Konsequenzen. Die erste ist, dass die Daten unzuverlässig werden, weil Beschäftigte, die zutreffend ableiten, dass Antworten zuordenbar sind, entsprechend antworten – so entstehen Dashboards mit hohem ausgewiesenem Engagement und einer Kündigung, die niemand vorhergesehen hat. Die zweite ist rechtlicher Natur. Wenn die Analysen Wohlbefinden, Stress, Burnout oder Disengagement ableiten, erzeugt die Organisation möglicherweise gesundheitsnahe Informationen über identifizierbare Beschäftigte. Der ADA verlangt, dass medizinische Informationen über Beschäftigte getrennt und vertraulich aufbewahrt werden, und eine Ableitung, die in einem allgemeinen Analyseprodukt auf Anbieter-Infrastruktur liegt und für jeden sichtbar ist, der die Plattform administriert, dürfte diesem Standard kaum genügen. Niemand hat diese Frage bedacht, weil das System als Kultur-Tool beschafft wurde.
Dieselbe Logik gilt für Kompetenzableitung und personalisiertes Lernen. Ein System, das Kompetenzlücken identifiziert und Entwicklung gezielt steuert, erzeugt ein Profil, das darüber entscheidet, wer Investitionen erhält. Die Zuteilung von Entwicklungsmaßnahmen auf Grundlage eines abgeleiteten Profils ist eine Beschäftigungsentscheidung und als solche überprüfbar. Stützt sich die Ableitung auf Betriebszugehörigkeit, Rollenverlauf oder Engagement-Signale, die mit Alter oder Behinderung korrelieren, hat die Organisation ein Risiko geschaffen und es als Vorteil verbucht.
Was eine schlanke Organisation tatsächlich vorhalten sollte
Die Empfehlung ist kein Compliance-Programm, das eine Organisation dieser Größe weder betreiben kann noch versuchen sollte. Es handelt sich um eine kleine Gruppe von Kontrollen, die auch funktionieren, wenn sie von einer Person mit anderen Zuständigkeiten betrieben werden. Sie sind auf dieser Ebene kostengünstig und genau der Teil des Unternehmens-Ballasts, der sich zu übernehmen lohnt.
Wissen, was läuft. Jeden Punkt auflisten, an dem Software eine Person bewertet, einstuft, filtert, benotet oder profiliert, einschließlich standardmäßig bei der Implementierung aktivierter Funktionen. Die meisten Organisationen, die dies zum ersten Mal tun, finden mindestens ein System, von dem niemand wusste, dass es bewertet.
Abschalten, was sich nicht erklären lässt. Wenn niemand angeben kann, was eine Funktion misst und warum sie für die Stelle relevant ist, sollte sie deaktiviert statt dokumentiert werden. Diese Option steht kleinen Organisationen tatsächlich offen und ist für große weitgehend unzugänglich – es ist die wirksamste Maßnahme auf dieser Liste.
Den Anbieter schriftlich befragen und die Antwort aufbewahren. Was bewertet diese Funktion. Was leitet sie ab, aus welchen Signalen, und wo wird die Ableitung gespeichert. Werden Bewertungen und Konfigurationen aufbewahrt, wie lange, und kann eine Entscheidung von vor achtzehn Monaten reproduziert werden. Welche Validierungsnachweise existieren. Welchen Weg für Vorkehrungen unterstützt das Produkt. Eine Verweigerung ist ebenfalls eine Antwort und es lohnt sich, sie festzuhalten.
Den Weg für Vorkehrungen einrichten, bevor er gebraucht wird. Festlegen, wer entscheidet, eine Bearbeitungsfrist setzen, sicherstellen, dass eine alternative Beurteilung existiert, die niemanden benachteiligt, der sie nutzt, und ihre Verfügbarkeit direkt auf der Beurteilung selbst angeben, nicht nur auf einer Karriereseite. Die Akte mit Anfragen und Ergebnissen führen. Dies ist die kostengünstigste verfügbare Kontrolle, und sie adressiert den Vorwurf, der am wahrscheinlichsten erhoben wird.
Eine Untergrenze für jegliche People-Analytics festlegen. Keine Berichterstattung über Gruppen unterhalb einer festgelegten Mindestgröße, keine individuelle Zuordnung und keine in einem allgemeinen System gespeicherte Ableitung über Wohlbefinden oder Gesundheit.
Bei der Vertragsverlängerung nach Aufbewahrungs- und Reproduktionsbedingungen fragen. Die Anfrage kann abgelehnt werden. Zu fragen und abgelehnt zu werden, ist als Nachweis institutioneller Sorgfalt deutlich besser als ein Vermerk, der erst nach Einreichung einer Beschwerde verfasst wird.
Fazit
Die Verteilung von Unternehmensfähigkeiten an Organisationen, die sie sich zuvor nicht leisten konnten, ist ein echter Gewinn, und der Sektor sollte ihn nutzen. Was nicht mitverteilt wurde, ist der Apparat, der diese Systeme innerhalb der Organisationen, für die sie entwickelt wurden, steuerbar machte – und die derzeit verwendete Sprache, die sein Fehlen als Agilität, Schlankheit und Freiheit von Ballast beschreibt, verschleiert, was fehlt.
Eine zwanzigköpfige Organisation, die automatisiertes Screening einsetzt, trägt dieselben Pflichten wie eine mit zwanzigtausend Beschäftigten – mit weniger Ressourcen, um ihnen gerecht zu werden, und, wenn sie missionsgetrieben ist, erheblich mehr zu verlieren, wenn ihr dies nicht gelingt. Die Kontrollen, die diese Lücke schließen, sind auf dieser Ebene nicht teuer. Sie bestehen aus einer Liste, einer Reihe von Fragen, einer schriftlichen Akte und einer Entscheidung darüber, was abzuschalten ist. Organisationen, die sie einführen, werden nicht nur sicherer sein. Sie werden wissen, was ihre Systeme tun – etwas, das alle anderen in dieser Debatte voraussetzen und das fast niemand überprüft hat.
Quellen
- American Civil Liberties Union, ACLU of Colorado, Public Justice und Eisenberg & Baum LLP. Beschwerde eingereicht bei der Colorado Civil Rights Division und der U.S. Equal Employment Opportunity Commission, 19. März 2025.
- Americans with Disabilities Act von 1990, 42 U.S.C. § 12112, einschließlich § 12112(d) zu medizinischen Untersuchungen, behinderungsbezogenen Nachfragen und Vertraulichkeit; Title VII des Civil Rights Act von 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
- Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), Beschluss zum Antrag auf Abweisung, Juli 2024.
- New York City Local Law 144 von 2021, Automated Employment Decision Tools.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Teil 1607; Aufzeichnungspflichten der EEOC, 29 C.F.R. Teil 1602.
- Wright, Lucas, et al. „Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability.“ Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency.