Wo die Risikoexposition tatsächlich liegt
Die meisten Aufmerksamkeit für künstliche Intelligenz im Personalwesen hat sich auf die Auswahl konzentriert: wer gescreent, eingestuft und befördert wird, und auf welcher Grundlage. Dieser Fokus ist gerechtfertigt, und diese Kanzlei hat ausführlich darüber geschrieben. Dabei ist die am schnellsten wachsende Anwendung nahezu vollständig unbeachtet geblieben.
Generative Systeme werden mittlerweile eingesetzt, um die Dokumente zu entwerfen, zu aktualisieren und zu lokalisieren, die die rechtliche Position eines Arbeitgebers ausmachen. Mitarbeiterhandbücher. Verfahren zur Gewährung von Vorkehrungen. Urlaubsrichtlinien. Stellenbeschreibungen. Disziplinarstandards. Vorlagen für Untersuchungen. Bundesstaatenübergreifende Compliance-Anhänge. Das Versprechen lautet, dass diese Arbeit, historisch langsam und teuer, nun sofort erstellt und bei sich ändernden Vorschriften fortlaufend aktuell gehalten werden kann.
Die Position der Novara Consulting Group lautet, dass diese Anwendung ein größeres und unmittelbareres Risiko birgt als automatisiertes Screening, und zwar aus einem Grund, der spezifisch für das Artefakt selbst ist: Eine Richtlinie ist kein operatives Dokument. Sie ist ein Beweismittel. Sie wird in Rechtsstreitigkeiten vorgelegt, in Behördenuntersuchungen zitiert, von Mitarbeitern als verlässlich zugrunde gelegt und von Personen gegen den Arbeitgeber gelesen, deren Aufgabe es ist, die Lücke zwischen dem Geschriebenen und dem tatsächlich Geschehenen zu finden. Eine Organisation, die ihre Rechtsposition ohne Herkunftsnachweis generiert hat, hat eine große Menge an zulässigem Beweismaterial über sich selbst geschaffen, für das niemand in der Organisation Rechenschaft ablegen kann.
Die Richtlinie ist das Beweisstück
In einem arbeitsrechtlichen Streitfall erfüllt die schriftliche Richtlinie des Arbeitgebers mehrere Funktionen gleichzeitig, und jede davon kann sich nachteilig auswirken.
Sie legt fest, was der Arbeitgeber den Mitarbeitern mitgeteilt hat, was für das Vertrauen und, je nach Bundesstaat und abhängig von Formulierung und Haftungsausschlüssen, für die Vertragsbildung relevant ist. Sie legt den Standard fest, den der Arbeitgeber für sich selbst gesetzt hat, an dem sein Verhalten im konkreten Fall gemessen wird; ein Arbeitgeber, der sein eigenes festgelegtes Verfahren nicht befolgt hat, befindet sich in einer wesentlich schlechteren Position als einer, dessen Verfahren dazu geschwiegen hat. Sie legt fest, was der Arbeitgeber wusste, da eine Richtlinie, die eine rechtliche Anforderung behandelt, das Bewusstsein dafür belegt. Und sie legt Konsistenz oder deren Fehlen fest, denn eine Richtlinie, die bei verschiedenen Mitarbeitern unterschiedlich angewendet wird, ist der übliche Beweisweg zu einer Diskriminierungsfeststellung.
Nichts davon ist neu. Neu ist, dass das Dokument nun möglicherweise von einem System erstellt wurde, das auf Plausibilität optimiert, von einer Person, die keine Juristin ist, in einem Prozess, der keine Aufzeichnung darüber hinterlässt, welche Autorität konsultiert oder welches Urteilsvermögen ausgeübt wurde.
Sie legt fest, dass der Arbeitgeber eine Rechtsposition übernommen hat, ohne zu prüfen, ob diese korrekt war.
Wenn die Gegenseite fragt, wer das Verfahren zur Gewährung von Vorkehrungen entworfen hat, auf welcher Grundlage eine bestimmte Bestimmung aufgenommen wurde und welche rechtliche Autorität sie stützt, ist die Antwort, dass ein generatives System es erstellt hat und jemand es auf den Ton hin überprüft hat, keine gute Antwort. Sie ist nicht nur wenig hilfreich; sie belegt, dass der Arbeitgeber eine Rechtsposition übernommen hat, ohne zu prüfen, ob diese korrekt war.
Halluzinierte Autorität und warum das Personalwesen schlechter aufgestellt ist als die Rechtsabteilung
Die Neigung generativer Systeme, selbstbewusste und vollständig erfundene Rechtszitate zu produzieren, ist dokumentiert und folgenreich. 2023 verhängte ein Bundesgericht im Südlichen Bezirk von New York Sanktionen gegen Anwälte, die einen Schriftsatz eingereicht hatten, der nicht existierende Gerichtsentscheidungen enthielt, die von einem Chatbot generiert und nicht überprüft worden waren. Vergleichbare Vorfälle folgten in zahlreichen Rechtsordnungen, und das Muster ist mittlerweile jedem vertraut, der in der Praxis tätig ist.
Die wichtige Beobachtung für diese Diskussion ist, dass es sich dabei um Anwälte handelte. Sie hatten die Ausbildung, um zu erkennen, dass ein Zitat überprüft werden muss, Zugang zu den für die Überprüfung erforderlichen Datenbanken und berufliche Pflichten, die ein Versagen sanktionierbar machten. Der Fehler trat dennoch wiederholt auf.
Eine Personalsachbearbeiterin, die eine bundesstaatenübergreifende Urlaubsrichtlinie entwirft, hat keinen dieser Vorteile. Sie kann häufig nicht feststellen, ob eine zitierte Bestimmung tatsächlich existiert, verfügt nicht über die Recherchewerkzeuge, um dies zu bestätigen, und hat keine berufliche Verifizierungspflicht, die an ihre Arbeit geknüpft ist. Das Ergebnis wirkt flüssig, strukturiert, angemessen abgesichert und so formatiert wie jede kompetente Richtlinie, die sie je gelesen hat. Flüssigkeit ist genau das, was diese Systeme am besten produzieren, und genau das, was eine fachfremde Leserin als Ersatzmaßstab für Genauigkeit heranzieht.
Die Fehler, die am meisten zählen, sind auch die am wenigsten sichtbaren. Ein erfundenes Zitat ist zumindest überprüfbar, sobald jemand daran denkt, es zu überprüfen. Ein subtil falsch dargestellter Standard ist es nicht: Eine Richtlinie, die den interaktiven Prozess als beginnend beschreibt, wenn ein Mitarbeiter Unterlagen einreicht, statt wenn der Arbeitgeber von der Notwendigkeit Kenntnis erlangt, liest sich einwandfrei und ist auf eine Weise falsch, die zwei Jahre später zu einer Feststellung des Versäumnisses angemessener Vorkehrungen führen wird.
Kontinuierliche Anpassung ist nicht die Art, wie die Technologie funktioniert
Die Behauptung, ein generatives System passe sich an sich ändernde Vorschriften über Bundesstaaten und Länder hinweg an und gewährleiste eine kontinuierliche Übereinstimmung, sollte als falsch behandelt werden, sofern der Anbieter nicht einen konkreten Mechanismus beschreiben kann.
Ein Sprachmodell hat einen Trainingsstichtag. Ohne Abfrage gegen eine maßgebliche und gepflegte Rechtsquelle gibt es das Recht so wieder, wie es in den Trainingsdaten erschien, ohne jedes Signal an den Nutzer, dass die Antwort veraltet ist. Das Arbeitsrecht gehört zu den denkbar schlechtesten Bereichen für diese Einschränkung: Anforderungen an die Gehaltstransparenz, Ansprüche auf bezahlten Urlaub, Wettbewerbsverbote, Verbote der Gehaltshistorie-Abfrage und Dienstplanregeln haben sich über Rechtsordnungen hinweg in einem Tempo vermehrt und verändert, das jeden statischen Datenbestand überholt. Eine heute generierte Richtlinie kann eine Anforderung beschreiben, die vor achtzehn Monaten geändert wurde, und sie wird dies selbstbewusst tun.
Der mehrjurisdiktionelle Fall ist der schlechteste und nicht der beste, entgegen der Art und Weise, wie er vermarktet wird. Lokalisierung erfordert zu wissen, welches von über fünfzig Regelwerken gilt, wie sie zusammenwirken und wo die lokale Anforderung über die bundesweite Mindestgrenze hinausgeht. Es ist die Aufgabe, die am stärksten von aktuellem Fachwissen abhängt, und diejenige, bei der ein Fehler von der Person, die die Ausgabe anfordert, am wenigsten wahrscheinlich bemerkt wird, weil sie genau deshalb um die Lokalisierung gebeten hat, weil sie es nicht wusste.
Eine Organisation sollte auch das Muster der Behauptung erkennen. Im Januar 2025 verpflichtete die Federal Trade Commission einen Anbieter von Barrierefreiheitssoftware zur Zahlung von einer Million Dollar wegen Behauptungen, sein automatisiertes Produkt könne jede Website den Barrierefreiheitsstandards anpassen und diese Konformität auch bei sich ändernden Inhalten aufrechterhalten. Kontinuierliche automatisierte Einhaltung eines technischen Standards ist dieselbe Behauptung, nur auf einen anderen Standard bezogen, und sie hat den Kontakt mit einer Regulierungsbehörde nicht überstanden.
Die Prüfungsbereitschaft ist umgekehrt
Die These besagt, dass generierte Dokumentation Prüfungsbereitschaft herstellt. Sie bewirkt das Gegenteil, und das Verständnis dafür verdeutlicht, was diese Prüfungen tatsächlich untersuchen.
Ein Prüfer, ein Behördenermittler oder ein gegnerischer Sachverständiger fragt nicht in erster Linie, ob eine Richtlinie existiert. Die Existenz ist trivial nachweisbar. Die Fragen lauten, wie die Organisation festgestellt hat, dass diese Richtlinie die geltende Anforderung erfüllt, wer diese Feststellung getroffen hat, auf welche Autorität man sich dabei gestützt hat, wann sie zuletzt gegen geltendes Recht überprüft wurde und was bei der letzten Überarbeitung geändert wurde und warum.
Generierte Dokumentation beantwortet nichts davon. Sie erzeugt das Artefakt, während sie die Aufzeichnung zerstört, die dem Artefakt Gewicht verleiht. Eine Organisation mit einer dünnen, veralteten, schlicht verfassten Richtlinie und einer dokumentierten jährlichen Überprüfung durch namentlich benannte Rechtsberater ist wesentlich besser aufgestellt als eine mit einem umfassenden, aktuell wirkenden Richtliniensatz für alle fünfzig Bundesstaaten, dessen Ursprung niemand beschreiben kann.
Die Stellenbeschreibung ist ein Rechtsinstrument
Ein Punkt der Standardliste verdient gesonderte Behandlung, weil er routinemäßig als Marketingtext behandelt wird, tatsächlich aber eines der folgenreichsten Dokumente ist, die die Personalfunktion hervorbringt.
Nach dem ADA (Americans with Disabilities Act) ist eine qualifizierte Person jemand, der die wesentlichen Funktionen der Stelle ausüben kann, und die Durchführungsvorschriften bezeichnen schriftliche Stellenbeschreibungen, die vor Ausschreibung oder Vorstellungsgesprächen erstellt wurden, als Beweis dafür, worin diese wesentlichen Funktionen bestehen. Eine generierte Stellenbeschreibung, die Aufgaben auflistet, die niemand tatsächlich ausführt, oder die körperliche oder sensorische Anforderungen enthält, die aus einer generischen Vorlage kopiert wurden, bewirkt zweierlei gleichzeitig: Sie schließt Bewerber aus, die die Stelle ausüben könnten, und sie liefert dem Kläger das eigene Dokument des Arbeitgebers als Beweis dafür, dass die genannte Anforderung nie wesentlich war.
Dasselbe Dokument trägt Gewicht bei der Analyse der Freistellungsklassifizierung nach dem Fair Labor Standards Act, wo sich die Prüfung nach den tatsächlichen Aufgaben richtet, die schriftliche Beschreibung aber als Beweis dafür dient, was der Arbeitgeber als diese Aufgaben dargestellt hat. Es ist auch die Quelle, an der die Arbeitsplatzbezogenheit jedes Auswahlverfahrens nach den Uniform Guidelines gemessen wird.
Generierte Stellenbeschreibungen sind attraktiv, weil ihr Verfassen mühsam ist und weil generierte Versionen sich gut lesen. Sie sind auch der Punkt, an dem aus einer kleinen Erleichterung beim Verfassen ein Beweisproblem wird, und der Abschnitt über körperliche Anforderungen ist der Ort, an dem dies am häufigsten geschieht.
Der Chatbot erteilt Ratschläge, an die der Arbeitgeber gebunden ist
Die letzte Anwendung, ein KI-Assistent, der Mitarbeiterfragen zu Richtlinien auf Abruf beantwortet, überträgt ein spezifisches und unterschätztes Risiko.
Eine Mitarbeiterin, die nach Urlaubsberechtigung, Verfahren zur Gewährung von Vorkehrungen oder Beschwerdewegen fragt und eine Antwort erhält, hat diese von ihrem Arbeitgeber erhalten. Wenn das System ihr mitteilt, sie habe keinen Anspruch auf einen Urlaub, der ihr zusteht, und sie diesen nicht in Anspruch nimmt, hat der Arbeitgeber in ein gesetzliches Recht eingegriffen, und eine Beeinträchtigung nach dem Family and Medical Leave Act erfordert keine Absicht. Wenn es ihr mitteilt, der Vorkehrungsprozess erfordere medizinische Unterlagen, zu deren Vorlage sie nicht verpflichtet ist, und sie den Antrag daraufhin zurückzieht, hat der Arbeitgeber ein Problem mit dem Versäumnis angemessener Vorkehrungen, mit einer schriftlichen Aufzeichnung der abschreckenden Wirkung. Wenn es eine Belästigungsbeschwerde in einen Kanal lenkt, der nie eine entscheidungsbefugte Person erreicht, wird die Kenntnisverteidigung des Arbeitgebers durch dessen eigenes System untergraben.
Daraus ergeben sich unmittelbar drei Kontrollmaßnahmen. Gespräche sollten protokolliert und aufbewahrt werden, da es sich um Äußerungen des Arbeitgebers handelt, die angefordert werden. Jede Anfrage, die Urlaub, Vorkehrungen, Beschwerden oder Untersuchungen betrifft, sollte an eine namentlich benannte Person weitergeleitet werden, anstatt beantwortet zu werden, da dies die Kategorien sind, in denen eine falsche Antwort klagbar ist und der Wert einer sofortigen Antwort am geringsten ist. Und die Benutzeroberfläche sollte klar angeben, dass sie allgemeine Informationen liefert und keine Berechtigung oder Anspruch feststellt.
Was festzulegen ist
Sechs Punkte, bevor ein generatives System etwas erstellt, auf das sich die Organisation verlassen oder das ein Mitarbeiter lesen wird.
- Führen Sie für jedes generierte Dokument einen Herkunftsnachweis: was erstellt wurde, welche Quelle geprüft wurde, von wem, zu welchem Datum, und was bei der Überprüfung geändert wurde. Undatierte und nicht zugeordnete Richtlinien sind der Fehlermodus.
- Verlangen Sie eine rechtliche Überprüfung für alles, was einen rechtlichen Standard, einen Anspruch oder ein Verfahren festlegt, und behandeln Sie Name und Datum des Prüfers als Teil des Dokuments, nicht als internen Vermerk.
- Bitten Sie jeden Anbieter, der behauptet, auf dem aktuellen Rechtsstand zu sein, den Mechanismus zu beschreiben: welche maßgebliche Quelle abgefragt wird, wie oft, und wie der Nutzer benachrichtigt wird, wenn sich eine Bestimmung geändert hat. Lautet die Antwort, dass das Modell mit Rechtsmaterial trainiert wurde, leistet das Produkt nicht das, was behauptet wird.
- Behandeln Sie Stellenbeschreibungen als Rechtsinstrumente. Überprüfen Sie die wesentlichen Funktionen sowie etwaige physische, sensorische oder kommunikative Anforderungen im Abgleich mit dem, was Stelleninhaber tatsächlich tun, und datieren Sie die Überprüfung.
- Protokollieren und speichern Sie Konversationen von Assistenten mit Mitarbeiterkontakt, und leiten Sie Anfragen zu Urlaub, Vorkehrungen, Beschwerden und Untersuchungen an eine Person weiter.
- Stellen Sie generierte Dokumentation weder intern noch extern als Prüfbereitschaft dar. Prüfbereitschaft ist der Überprüfungsnachweis, nicht das Dokument.
Fazit
Das Argument für generative Unterstützung bei der Personaldokumentation ist real. Das Verfassen von Texten ist tatsächlich langsam, die Funktion ist tatsächlich unterbesetzt, und ein gut überwachter erster Entwurf ist ein legitimer Einsatz der Technologie.
Was diese Anwendung von den anderen unterscheidet, ist, dass ihre Ausgabe ein Beweismittel ist. Screening-Systeme erzeugen Entscheidungen, die der Arbeitgeber möglicherweise nur schwer rekonstruieren kann. Dokumentationssysteme erzeugen Aussagen, an denen sich der Arbeitgeber messen lassen muss, in seiner eigenen Stimme, schriftlich, in großem Umfang und mit hoher Geschwindigkeit. Die Organisation, die ihr Handbuch generiert, hat damit keine lästige Aufgabe automatisiert. Sie hat ihre Seite eines künftigen Rechtsstreits verfasst, ohne zu lesen, was sie gesagt hat, und sie wird diesem Dokument unter Bedingungen wieder begegnen, die sie nicht kontrolliert.
Die erforderliche Disziplin ist überschaubar: verifizieren, zuordnen, datieren und festhalten, wer entschieden hat. Diese Disziplin macht den gesamten Unterschied aus zwischen der Nutzung des Werkzeugs und der Bloßstellung durch dasselbe.
Quellen
Americans with Disabilities Act of 1990, 42 U.S.C. § 12111(8); 29 C.F.R. § 1630.2(n)(3), Nachweis wesentlicher Funktionen einschließlich schriftlicher Stellenbeschreibungen, die vor der Ausschreibung oder den Vorstellungsgesprächen erstellt wurden.
Family and Medical Leave Act, 29 U.S.C. § 2615(a)(1), Verbot der Beeinträchtigung geschützter Rechte.
Fair Labor Standards Act, 29 U.S.C. § 201 ff., Freistellungsanalyse auf Grundlage der tatsächlichen Aufgaben.
Federal Trade Commission, In the Matter of accessiBe, Inc., Aktenzeichen 2223156, Beschwerde und vorgeschlagene Anordnung bekannt gegeben am 3. Januar 2025.
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023), Sanktionen wegen Einreichung erfundener, von einem Werkzeug der künstlichen Intelligenz generierter gerichtlicher Zitate.
Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607.