Insights

Blindflug Hochrisiko-KI-Systeme – aktueller Stand der technischen Normung

Veröffentlicht
Insight Künstliche Intelligenz

Der EU AI Act nennt abstrakte Anforderungen an Hochrisiko-KI-Systeme: Risikomanagementsystem, technische Dokumentation, Transparenz, menschliche Aufsicht etc. Das provoziert die Folgefrage: Wie genau soll das ganz konkret alles umgesetzt werden? Die Antwort darauf liefern – in der Logik des europäischen Produktsicherheitsrechts – harmonisierte Normen, also technische Normen, deren Fundstellen die Kommission im Amtsblatt der EU veröffentlicht hat. Doch genau hier klafft derzeit eine gefährliche Lücke. Wer heute ein Hochrisiko-KI-System konform gestalten will, navigiert weitgehend ohne gesicherte normative Orientierung.

Die Rolle harmonisierter Normen im AI Act

Das europäische Produktsicherheitsrecht funktioniert nach dem Prinzip des sogenannten New Legislative Framework (NLF): Der Gesetzgeber definiert die Schutzziele und harmonisierte Normen konkretisieren sodann, wie diese Ziele in der Praxis erreicht werden. Wer eine harmonisierte Norm erfüllt, darf die Konformitätsvermutung in Anspruch nehmen – er gilt also als regelkonform, ohne jeden einzelnen Gesetzesartikel separat nachweisen zu müssen. Die Anwendung harmonisierter Normen bleibt dabei stets freiwillig; Hersteller können die wesentlichen Anforderungen auch auf anderem Weg nachweisen – tragen dann aber die volle Begründungslast. Wie dieses Wechselspiel im Detail funktioniert, beschreibt der „Blue Guide“ der Kommission als zentrales, rechtlich nicht verbindliches Auslegungsdokument zum NLF.

Für den AI Act hat die Europäische Kommission einen Normungsauftrag an CEN und CENELEC erteilt. Diese haben die Arbeiten aufgenommen – doch der Zeitplan ist ehrgeizig, und harmonisierte Normen liegen bislang nicht vor und angekündigte Lieferfristen wurden schon mehrmals verschoben. Erst die Veröffentlichung der Fundstellen im Amtsblatt der EU löst die Konformitätsvermutung aus.

Was bisher vorliegt – und was fehlt

CEN-CENELEC hat eine gemeinsame technische Arbeitsgruppe eingerichtet (JTC 21), die sich mit KI-Normung befasst. Erste Entwürfe liegen vor – darunter prEN 18284 (Daten-Governance), prEN 18286 (Qualitätsmanagementsystem) und prEN 18228 (Risikomanagement). Diese sind jedoch noch nicht final: Ob sie tatsächlich als harmonisierte Normen gelistet werden, entscheidet erst die Kommission. Parallel dazu gibt es internationale Normungsaktivitäten:

  • ISO/IEC 42001 (KI-Managementsystem): Diese internationale Norm ist seit Ende 2023 veröffentlicht und bietet einen Rahmen für das Management von KI-Systemen in Organisationen. Sie ist jedoch keine harmonisierte Norm im Sinne des AI Act.
  • ISO/IEC 23894 (Risikomanagement für KI): Gibt Leitlinien für das Risikomanagement von KI-Systemen, ist aber ebenfalls nicht AI-Act-harmonisiert.
  • NIST AI RMF: Der US-amerikanische AI Risk Management Framework ist kein europäisches Instrument, wird aber von vielen international aufgestellten Unternehmen als Orientierung genutzt.

Das Kernproblem: Keine dieser Normen begründet aktuell eine Konformitätsvermutung nach dem AI Act. Wer sich auf sie beruft, handelt nach aktuellem Stand auf eigenes Risiko – ohne die Sicherheit, dass die Aufsichtsbehörden die Anforderungen gleichwertig interpretieren.

Fallback: Gemeinsame Spezifikationen

Der AI Act sieht für genau diese Konstellation einen Auffangmechanismus vor: Liegen harmonisierte Normen nicht, nicht rechtzeitig oder nicht ausreichend vor, kann die Kommission im Wege von Durchführungsrechtsakten gemeinsame Spezifikationen erlassen (Art. 41 AI Act). Auch deren Erfüllung löst die Konformitätsvermutung aus. Bislang sind solche Spezifikationen jedoch nicht verabschiedet, sodass dieser Pfad derzeit theoretisch bleibt.

Die Konsequenz: Interpretationsspielraum als Risiko

Ohne harmonisierte Normen bzw. gemeinsame Spezifikationen müssen Unternehmen die abstrakten gesetzlichen Anforderungen des AI Act selbst in konkrete Maßnahmen übersetzen. Was bedeutet „angemessenes Risikomanagement“ für ein KI-System in der Personalauswahl? Wie müssen Trainingsdaten dokumentiert sein? Wie ist „menschliche Aufsicht“ technisch zu implementieren?

Der Auslegungsspielraum hat zwei Seiten: Einerseits ermöglicht er flexible, systemspezifische Lösungen. Andererseits erhöht er das Risiko, dass nationale Behörden die gleichen Anforderungen unterschiedlich auslegen – mit entsprechend unvorhersehbaren Folgen für Unternehmen, die europäische Märkte einheitlich bedienen wollen.

Was Unternehmen jetzt pragmatisch tun können

Abwarten ist oftmals keine Option, insb. mit Blick auf die ablaufenden Umsetzungsfristen. Unternehmen, die Hochrisiko-KI-Systeme entwickeln oder einsetzen, sollten jetzt eine dokumentierte Eigeninterpretation aufbauen: Welche Anforderungen des AI Act gelten, wie werden sie intern verstanden, und welche Maßnahmen wurden konkret umgesetzt? ISO/IEC 42001 und die NIST-Ansätze eignen sich als hilfreiche Strukturrahmen, auch wenn sie keine Konformitätsvermutung begründen.

Empfehlenswert ist auch, die Normungsarbeit aktiv zu beobachten oder gar mitzugestalten und sich bei Verbands- oder Industrieinitiativen einzubringen. Wer die Normen von morgen kennt, kann seine Systeme heute schon in die richtige Richtung entwickeln – wobei zu berücksichtigen ist, dass Normentwürfe bis zur Veröffentlichung im Amtsblatt noch Änderungen erfahren können. Der Blindflug hat ein Ablaufdatum – aber bis harmonisierte Normen vorliegen, braucht es eine bewusste Navigationsstrategie.

Häufig gestellte Fragen (FAQ)

Nach dem Beschleunigungspaket von CEN und CENELEC vom Oktober 2025 sollen zentrale Normentwürfe bis Q4 2026 verfügbar sein. Die Veröffentlichung der Fundstellen im Amtsblatt der EU – erst sie löst die Konformitätsvermutung aus – erfolgt erfahrungsgemäß einige Monate später. Realistisch ist daher, dass zum aktuell rechtlich verbindlichen Geltungsbeginn für Anhang-III-Hochrisikosysteme (2. August 2026) noch keine harmonisierten Normen im Amtsblatt gelistet sein werden. Sollte der „Digital Omnibus on AI“ wie politisch im Mai 2026 vereinbart förmlich angenommen werden, würden die Anhang-III-Pflichten auf den 2. Dezember 2027 verschoben – damit gewänne der Normungsprozess zusätzliche Zeit.

Eine Zertifizierung nach ISO/IEC 42001 ist ein nützliches Signal für gelebte KI-Governance, begründet jedoch keine Konformitätsvermutung nach dem AI Act. Sie kann als Teil eines Compliance-Nachweises hilfreich sein, ersetzt aber nicht die spezifischen AI-Act-Anforderungen – insb. für Hochrisiko-KI-Systeme.

Das Unternehmen muss die Anforderungen auf Basis einer eigenen fundierten Interpretation umsetzen und diese sorgfältig dokumentieren. Rechtlich ist das zulässig: Die Anwendung harmonisierter Normen ist auch im AI Act freiwillig. Im Streitfall müssen die Maßnahmen gegenüber Behörden begründet werden können. Genau deshalb ist eine nachvollziehbare, schriftliche Compliance-Argumentation heute schon wichtig.

Ja, auch für GPAI-Modelle – also Basismodelle wie große Sprachmodelle – fehlen spezifische harmonisierte Normen. Hier ist die Situation noch komplexer, da GPAI-Modelle vielfältig eingesetzt werden können und der AI Act insb. bei systemischen Risiken besondere Bewertungsverfahren verlangt. Als zwischenzeitliches Compliance-Instrument hat die Kommission den Code of Practice for General-Purpose AI geschaffen; die Beteiligung am Code of Practice begründet keine Konformitätsvermutung, gilt aber bis zum Vorliegen harmonisierter Normen als das zentrale Orientierungsdokument für GPAI-Anbieter.

Die relevanten Gremien sind CEN-CENELEC JTC 21 auf europäischer und ISO/IEC JTC 1/SC 42 auf internationaler Ebene. Über nationale Normungsinstitute wie bspw. DIN oder Austrian Standards (ÖNORM) können Unternehmen an der Normungsarbeit mitwirken oder zumindest Entwurfsdokumente frühzeitig einsehen.