Der Gegenstand der Zusicherung

Was der neue KI-Assurance-Markt misst – und was er dem Käufer weiterhin überlässt

Heather M. Grizzle Novara Consulting Group September 2026

Künstliche-Intelligenz-Assurance wird zu einer eigenen Branche. Dieser Satz wäre vor zwei Jahren noch spekulativ gewesen und ist heute schlicht beschreibend. Das britische Department for Science, Innovation and Technology zählte für 2024 über fünfhundert Unternehmen und eine Bruttowertschöpfung von rund einer Milliarde Pfund im heimischen Assurance-Markt, prognostizierte einen Markt von fast neunzehn Milliarden Pfund bis 2035 und veröffentlichte im September 2025 einen Trusted Third-Party AI Assurance Roadmap, der darlegt, wie der Staat die Reifung dieses Marktes unterstützen will. Im Juni 2026 brachte die Roadmap eine Institution hervor: ein Konsortium unter dem Vorsitz von BCS, dessen Industrie-Beirat von techUK einberufen wird und das im ersten Jahr den Auftrag hat, einen freiwilligen Ethikkodex für Assurance-Praktiker zu entwerfen, ein Kompetenz- und Fähigkeitenrahmenwerk aufzubauen und festzulegen, welche Informationen Entwickler gegenüber ihren Prüfern offenlegen müssen. Parallel dazu hat sich der Zertifizierungsweg konsolidiert. ISO/IEC 42001 liefert einen Managementsystemstandard für künstliche Intelligenz, ISO/IEC 42006:2025 legt die Anforderungen an die Stellen fest, die gegen diesen Standard prüfen, und nationale Akkreditierungsstellen wie UKAS im Vereinigten Königreich und ANAB in den Vereinigten Staaten haben 2025 und 2026 Zertifizierungsstellen akkreditiert.

So sieht der Beginn eines Berufsstands aus. Es gibt Standards, Akkreditierung, ein beginnendes Kompetenzrahmenwerk, einen entstehenden Ethikkodex und einen vertretbaren Anspruch auf öffentliches Vertrauen. Institutionen, die auf eine anerkannte Antwort auf die Frage gewartet haben, wie man feststellt, ob einem System künstlicher Intelligenz vertraut werden kann, haben nun etwas, worauf sie verweisen können.

Sie sollten genau hinsehen, worauf das eigentlich verweist.

Das Managementsystem ist nicht das System

ISO/IEC 42001 ist strukturell parallel zu ISO/IEC 27001 aufgebaut. Es handelt sich um einen Managementsystemstandard, das heißt, er bescheinigt, dass eine Organisation eine Reihe von Prozessen zur Steuerung künstlicher Intelligenz eingerichtet, dokumentiert und aufrechterhalten hat und dass diese Prozesse einer internen Prüfung und kontinuierlichen Verbesserung unterliegen. Er bescheinigt nicht, dass ein bestimmtes, innerhalb dieses Managementsystems entwickeltes System ein angemessenes Ergebnis liefert. Das ist kein Mangel des Standards. Genau das ist ein Managementsystemstandard. Die Verwechslung entsteht nachgelagert, in der Beschaffung, wo ein Zertifikat als Aussage über das Produkt gelesen wird statt als Aussage über den Hersteller.

Diese Unterscheidung ist dort am wichtigsten, wo das Ergebnis der eigentliche Zweck der Anschaffung ist. Ein Anbieter automatisierter Gebärdensprachübersetzung kann ein ordnungsgemäß akkreditiertes Zertifikat besitzen, das ein gut geführtes Managementsystem für künstliche Intelligenz bescheinigt, und dabei ein Ergebnis ausliefern, dem eine gebärdensprachgewandte gehörlose Person nicht folgen kann. Nichts an diesem Zertifikat ist falsch. Nichts darin beantwortet die Frage, die die beschaffende Institution tatsächlich beantwortet haben muss, nämlich ob die Person am Schalter, im Prüfungsraum oder vor dem Disziplinarausschuss Informationen erhält, die sie verstehen kann.

Der Umfang bestätigt diesen Punkt, statt ihm zu widersprechen. Branchenzusammenstellungen beziffern die weltweite Zertifizierung nach ISO/IEC 42001 Mitte 2026 auf rund dreihundertfünfzig Organisationen. Zum Vergleich: ISO 9001 wird von mehr als einer Million Organisationen gehalten. Der Standard ist jung und die Verbreitung befindet sich in einer frühen Phase, was wenig überraschend ist. Bemerkenswert ist, wie viel Deutungsgewicht einer kleinen Zahl von Zertifikaten in Beschaffungsgesprächen bereits aufgebürdet wird, und wie selten ein Käufer fragt, wofür das Zertifikat eigentlich ein Zertifikat ist.

Der Aufschub verschob die Frist, nicht die Schwierigkeit

Der Zeitplan der Europäischen Union hat sich inzwischen so verändert, dass er das institutionelle Verhalten der kommenden achtzehn Monate prägen wird. Der Digital Omnibus zur künstlichen Intelligenz wurde als Verordnung (EU) 2026/1744 angenommen, am 24. Juli 2026 veröffentlicht und trat am 27. Juli in Kraft. Er verschiebt die Hochrisikopflichten des AI Act für eigenständige Annex-III-Systeme auf den 2. Dezember 2027 und für künstliche Intelligenz, die in regulierte Produkte nach Annex I eingebettet ist, auf den 2. August 2028. Die Transparenzpflichten nach Artikel 50 wurden nicht aufgeschoben und galten ab dem 2. August 2026, mit einer kurzen Übergangsfrist bis zum 2. Dezember 2026 für generative Systeme, die bereits vor dem früheren Datum auf dem Markt waren.

Der Grund für den Aufschub ist der eigentlich bedeutsame Teil. Der ursprüngliche Zeitplan setzte ein funktionierendes Ökosystem harmonisierter technischer Normen von CEN-CENELEC, benannte und mit Ressourcen ausgestattete nationale Marktüberwachungsbehörden sowie notifizierte Stellen voraus, die zur Konformitätsbewertung in der Lage sind. Ende 2025 existierte dieses Ökosystem erkennbar nicht. Die Gesetzgeber entschieden sich für feste neue Termine statt für einen bedingten Mechanismus, der an die Verfügbarkeit von Normen gekoppelt ist, mit der Begründung, dass Vorhersehbarkeit der Compliance besser dient als ein schwebender Auslöser.

Nüchtern gelesen ist dies ein Eingeständnis, dass der Apparat zur Erzeugung von Nachweisen über Hochrisikosysteme noch nicht aufgebaut ist. Die regulatorische Uhr wurde verschoben, weil die Nachweisinfrastruktur zu spät kam. Das ist eine ganz andere Situation als eine, in der die Nachweise bereits existieren und die Frist lediglich unbequem war.

Die Beschaffung hingegen wartet nicht. Institutionen kaufen nach Haushaltszyklen, nach Zeitplänen von Förderungen, nach dem Zeitplan, den eine Versorgungslücke vorgibt, die jemand noch in diesem Haushaltsjahr schließen muss. Zwischen jetzt und Dezember 2027 wird einer öffentlichen Stelle, die ein KI-System für Barrierefreiheit beschafft, dreierlei angeboten: ein Managementsystem-Zertifikat, sofern der Anbieter eines besitzt, eine Konformitätsselbsterklärung und ein Accessibility Conformance Report. Das erste spricht über den Hersteller. Das zweite spricht für sich selbst, und genau darin liegt das Problem. Das dritte ist, in der Form, in der der Markt es normalisiert hat, ein vom Anbieter verfasstes Dokument, das ein Produkt gegen eine Checkliste technischer Kriterien abbildet, die nicht mit Blick auf generierte Gebärdensprache geschrieben wurden. Keines der drei Dokumente ist ein Nachweis dafür, dass das Ergebnis tatsächlich funktioniert.

Was der horizontale Markt nicht sehen kann

Die eigene Diagnose der Roadmap ist hier aufschlussreich. Sie benennt vier Einschränkungen für einen vertrauenswürdigen Markt unabhängiger Prüfstellen: die Qualität der Prüftätigkeit selbst, einschließlich der Feststellung, dass ein erheblicher Anteil der verfügbaren Governance-Instrumente für künstliche Intelligenz auf Metriken beruht, die aktiv irreführend sein können; einen Mangel an Fachkräften, die technische, rechtliche, ethische und branchenspezifische Kompetenz vereinen; einen unzureichenden Zugang von Prüfstellen zu den Trainingsdaten, Modelldetails und internen Dokumentationen, die sie benötigen; sowie schwache Anreize für die gemeinsame Entwicklung neuer Prüfmethoden.

Drei dieser vier Punkte wirken auf Domänenebene am stärksten. Ein horizontales Prüfrahmenwerk kann einer Institution sagen, ob ein Anbieter ein Risikoregister führt. Es kann der Institution nicht sagen, ob das System die nicht-manuellen grammatikalischen Merkmale wiedergibt, die in einer Gebärdensprache Verneinung, Fragebildung, Topikalisierung und Konditionalmarkierung tragen, denn horizontale Prüfung verfügt über kein Vokabular für diese Frage und keinen dafür zuständigen kompetenten Gutachter. Es kann nicht beurteilen, ob ein Trainingskorpus mit der Zustimmung der darin vorkommenden Gebärdensprachnutzer zusammengestellt wurde, unter einer Lizenz, die eine kommerzielle Nutzung erlaubt, von Gebärdensprachnutzern, deren Sprachkompetenz überprüft wurde. Es kann eine kuratierte Demonstration nicht von einem tatsächlichen Einsatz unterscheiden. Es kann nicht sagen, ob die automatisierte Metrik, die ein Anbieter als Beleg für die Gebärdenqualität anführt, überhaupt etwas Relevantes misst, und für generierte Gebärdensprache gibt es derzeit überhaupt keine validierte automatisierte Qualitätsmetrik, was übersetzungsnahe Bewertungen, die als Nachweis für Verständlichkeit angeboten werden, zu einem Kategorienfehler statt zu einem schwachen Beleg macht.

Das derzeit im Aufbau befindliche Kompetenzrahmenwerk mag einiges davon irgendwann erfassen. Bisher tut es das nicht, und der eigene Zeitplan der Roadmap lässt die Zertifizierung von Fachkräften undatiert. In der Zwischenzeit liegt die Lücke genau dort, wo die Konsequenzen am größten sind. Die Systeme, die in die Aufnahme im Gesundheitswesen, die Notfallbenachrichtigung, die Verkehrsansage und Beschäftigungsprozesse eingeführt werden, sind diejenigen, deren Versagen am wenigsten rückgängig zu machen ist, und sie sind diejenigen, die der allgemeine Prüfmarkt am wenigsten zu untersuchen in der Lage ist.

Die Position, die Novara Consulting Group vertritt

Prüfung braucht einen Gegenstand. Die Frage ist nicht, ob ein Anbieter abstrakt gut geführt ist, sondern ob ein bestimmtes System, in einer bestimmten Version, eine für einen bestimmten Verwendungszweck angemessene Ausgabe liefert, beurteilt von den Menschen, die sich darauf verlassen müssen. Alles andere ist ein Hilfsmaßstab, und Hilfsmaßstäbe sammeln sich still an, bis eine Institution glaubt, Beleg gekauft zu haben, obwohl sie nur Papierkram gekauft hat.

Hilfsmaßstäbe sammeln sich still an, bis eine Institution glaubt, Beleg gekauft zu haben, obwohl sie nur Papierkram gekauft hat.

Heather M. Grizzle

Der Sign Language Access Trust Index baut auf dieser Prämisse auf. Es handelt sich um ein kriterienbasiertes Bewertungsinstrument, das um fünf Vertrauensdomänen und vierzig bewertete Indikatoren organisiert ist und getrennte Skalen für die Angemessenheit der Evidenz und für das Systemvertrauen anwendet, sodass ein gut dokumentiertes schwaches System und ein schlecht dokumentiertes unbekanntes System nicht zur gleichen Bewertung verschmelzen. Seine Einsatzrisiko-Klassifizierung bezieht sich auf Einsätze und nicht auf Systeme, mit der Begründung, dass dieselbe Übersetzungsengine in einer Museumsbeschriftung ein völlig anderes Risiko birgt als in einer Entlassungsanweisung. Der Evaluation Standard ist veröffentlicht und zitierfähig, mit einem digitalen Objektbezeichner unter einer Creative-Commons-Namensnennungslizenz hinterlegt, sodass ein Käufer, ein Anbieter oder ein Kritiker die Methode lesen und mit ihr argumentieren kann.

Drei Selbstverpflichtungen unterscheiden das Instrument von einer bloßen Konformitätsübung. Befunde werden nicht ohne die Zustimmung einer gehörlosen Prüferin oder eines gehörlosen Prüfers veröffentlicht, ausgehend von der Position, dass die Gemeinschaft, die die Folgen eines unzulänglichen Systems trägt, über die Kompetenz verfügt, dessen Angemessenheit zu beurteilen, und dass eine Konsultation, die nach einer Designentscheidung angeboten wird, keine Mitbestimmung ist. Das Unternehmen hält keinerlei finanzielle Beteiligung an einem Anbieter künstlicher Intelligenz für Gebärdensprache, nimmt keine erfolgsabhängige Zahlung, Vermittlungsprovision oder Beteiligung von einer bewerteten Partei an und passt sein Honorar nicht auf Grundlage eines negativen Befunds an, was unmittelbar das Interessenkonfliktproblem adressiert, das Prüfungsmärkte in jeder bisherigen Branche, die einen solchen aufgebaut hat, verfolgt hat. Und die Methode benennt ihre eigenen Grenzen: Eine Überprüfung öffentlich zugänglicher Nachweise berichtet, was gefunden wurde und was nicht, dokumentiert die durchsuchten Quellen unabhängig davon, ob dort Material gefunden wurde, und benennt die Indikatoren, die aller Wahrscheinlichkeit nach überhaupt nicht öffentlich belegt sind, sodass eine Leserin oder ein Leser ein Versagen des Anbieters von einer Grenze der Methode unterscheiden kann.

Zwei Dinge zur gegenwärtigen Position sollten ausgesprochen statt nur angedeutet werden. Novara Consulting Group ist keine akkreditierte Zertifizierungsstelle, und der Index ist kein Zertifizierungssystem; derzeit existiert kein Akkreditierungssystem für die domänenspezifische Bewertung künstlicher Intelligenz für Gebärdensprache, und es wäre irreführend, etwas anderes zu suggerieren. Was der Index liefert, ist eine dokumentierte, reproduzierbare Nachweisgrundlage, auf die sich eine beschaffende Institution stützen, die sie in einem Ausschreibungsverfahren verteidigen und an Rechtsberater weitergeben kann. Zweitens hat die Anwendung des Instruments auf die bisher bewerteten Anbieter zu einem einheitlichen Befund geführt: Keiner hat die höchste Vertrauensstufe erreicht, und der Grund dafür ist einheitlich, nicht zufällig. Eine unabhängige Validierung der Ergebnisse, durchgeführt von Parteien ohne kommerzielles Interesse am Ergebnis, fehlt auf dem gesamten Markt. Das ist ein Befund über das Feld, nicht über ein einzelnes Unternehmen darin.

Was ein Käufer zwischen jetzt und Dezember 2027 verlangen sollte

Die Verschiebung hat ein Zeitfenster geschaffen, und Zeitfenster werden gut oder schlecht genutzt. Schlecht genutzt, werden daraus achtzehn Monate der Beschaffung auf Grundlage ungeprüfter Anbieterbehauptungen, mit einer Compliance-Abrechnung, die eintrifft, nachdem die Systeme bereits tragende Funktionen übernommen haben. Gut genutzt, ist es die Zeitspanne, in der Institutionen die Nachweisgewohnheiten aufbauen, die die späteren Verpflichtungen als bereits vorhanden voraussetzen werden.

Die praktische Anforderung ist eng genug gefasst, um sie in eine Ausschreibung aufzunehmen. Fragen Sie, was das Zertifikat bescheinigt, und verlangen Sie vom Anbieter eine schriftliche Erklärung, ob es das Managementsystem oder die Leistung des verkauften Systems abdeckt. Verlangen Sie Nachweise, die im vorgesehenen Einsatzumfeld und nicht in einer Demonstrationsumgebung erzeugt wurden, mit benannten Betriebsbedingungen. Verlangen Sie die Herkunft des Trainingskorpus, die Lizenz, unter der er gehalten wird, und die Grundlage, auf der die darin erfassten Personen dieser Nutzung zugestimmt haben. Verlangen Sie Verständlichkeitsnachweise von fließend sprechenden Nutzerinnen und Nutzern der jeweiligen Sprache, mit angegebener Methode, und behandeln Sie einen an deren Stelle angebotenen automatisierten Qualitätswert als unbeantwortete Frage, nicht als Antwort. Verlangen Sie vom Anbieter die Benennung der verantwortlichen Rolle für ein fehlerhaftes Ergebnis. Wo der Einsatz rechtliches Gewicht oder irreversible Folgen trägt, verlangen Sie, dass eine qualifizierte Person im Prozess verbleibt, denn nach aktuellem Erkenntnisstand ist kein System dieser Kategorie bereit, die letzte Instanz zu sein.

Nichts davon muss auf einen harmonisierten Standard, eine benannte Stelle oder ein berufliches Zertifizierungssystem warten, das es noch nicht gibt. Es wartet lediglich darauf, dass die Institution entscheidet, dass es bei der Absicherung um die Sache gehen sollte, die sie kauft.

Quellen

Department for Science, Innovation and Technology, Trusted Third-Party AI Assurance Roadmap (September 2025).

BCS und techUK, Startmaterialien des AI Assurance Consortium (Juni 2026).

Verordnung (EU) 2026/1744 (Digital Omnibus zur Künstlichen Intelligenz), veröffentlicht am 24. Juli 2026, in Kraft seit 27. Juli 2026, zur Änderung der Verordnung (EU) 2024/1689.

ISO/IEC 42001:2023, Informationstechnik, Künstliche Intelligenz, Managementsystem.

ISO/IEC 42006:2025, Anforderungen an Stellen, die Audits und Zertifizierungen von Managementsystemen für künstliche Intelligenz durchführen.

Grizzle, H. M., SLAT Index Evaluation Standard, Version 2.0, Novara Press, 24. Juli 2026. DOI 10.5281/zenodo.21537271.