Wer mit einem KI-System mehr macht, als es nur innerhalb seiner Zweckbestimmung zu nutzen, kann zum Anbieter werden – mit allen Pflichten, die der AI Act mit sich bringt. Der auf den ersten Blick schlichte Art. 25 AI Act hat in der Praxis erhebliche Sprengkraft. Viele Unternehmen, die sich als reine Nutzer von künstlicher Intelligenz verstehen, müssen bei näherer Betrachtung nämlich feststellen, dass sie längst in die Rolle eines sogenannten Quasi-Anbieters geschlüpft sind – ohne es zu wissen.
Anbieter, Betreiber – und was dazwischen liegt
Der AI Act unterscheidet grundsätzlich zwischen dem Anbieter (Provider) und dem Betreiber (Deployer). Anbieter ist, wer ein KI-System erstens entwickelt oder entwickeln lässt und zweitens unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, wobei auch der bloße Eigenbetrieb genügen kann.
Betreiber ist, wer ein fertiges KI-System in eigener Verantwortung nutzt. Das ist typischerweise derjenige, der das KI-System mit Befehlen promptet oder in seine Prozesse einbindet. Diese Trennung klingt zunächst klar – ist sie in der Realität aber häufig nicht.
Drei Szenarien, die in der Praxis zur Falle werden
Hinzu kommt Art. 25 AI Act. Diese Vorschrift regelt drei weitere Fälle, in denen man zum Anbieter wird – und damit unter die deutlich umfangreicheren Anbieter-Pflichten fällt:
- wenn man ein bestehendes Hochrisiko-KI-System mit seinem eigenen Namen oder seiner Marke versieht. Dies kommt bspw. bei White-Label-KI vor: Ein Softwareanbieter lizenziert eine KI-Lösung eines Drittanbieters und vertreibt sie unter eigener Brand an seine Kunden. Hier ist der Rollenwechsel offensichtlich – wird aber in Verträgen oft nicht ausreichend berücksichtigt.
- wenn man eine wesentliche Veränderung an dem Hochrisiko-KI-System vornimmt. Dies kommt bspw. beim Fine-Tuning auf eigenen Daten in Betracht: Ein Unternehmen nimmt ein Basismodell, trainiert es auf internen Dokumenten nach und integriert es in einen Kundendienst-Workflow. Das klingt nach Konfiguration – kann aber rechtlich eine wesentliche Veränderung darstellen.
- wenn man die Zweckbestimmung eines KI-Systems so verändert, dass es zu einem Hochrisiko-KI-System im Sinne des AI Acts wird. Beispiel Zweckentfremdung: Ein generisches Analyse-Tool wird von HR für Recruiting-Entscheidungen genutzt – also für einen Hochrisiko-Anwendungsfall, der vom ursprünglichen Anbieter gar nicht vorgesehen war.
Achtung: Derzeit erscheint möglich, dass Gerichte Art. 25 AI Act über den Wortlaut hinaus auch auf Nicht-Hochrisiko-KI anwenden könnten. Der Norm liegt nämlich ein universelles produktrechtliches Prinzip zugrunde.
Was die Anbieter-Pflichten konkret bedeuten
Wer als Quasi-Anbieter einer Hochrisiko-KI eingestuft wird, hat erheblich mehr zu leisten als ein Betreiber. Ausgewählte Pflichten im Überblick:
- Datenqualität: Nachweis, dass repräsentative Trainingsdaten verwendet wurden
- Technische Dokumentation: Vollständige Unterlagen über Architektur, Leistungsgrenzen und Testverfahren.
- Menschliche Aufsicht: Die KI muss so entwickelt werden, dass sie von Menschen wirksam beaufsichtigt und gestoppt werden kann.
- Risikomanagementsystem: Einrichtung und Pflege eines kontinuierlichen, über den gesamten Lebenszyklus laufenden Prozesses zur Identifikation, Analyse und Minderung vorhersehbarer Risiken
- Konformitätsbewertung: Die KI muss vor Inverkehrbringen bzw. Inbetriebnahme systematisch auf Risiken geprüft werden. Nach erfolgreicher Konformitätsbewertung ist eine CE-Kennzeichnung sichtbar, leserlich und dauerhaft anzubringen
- Registrierung: Vor Inverkehrbringen bzw. Inbetriebnahme ist das Hochrisiko-KI-System in einer EU-Datenbank zu registrieren
- Post-Market-Monitoring: Laufende Überwachung der KI und kurzfristige Meldungen von Incidents
Diese Anforderungen sind nicht trivial und insb. für Quasi-Anbieter mangels technischer Einblicke oft unmöglich umsetzbar. Die Umsetzung erfordert interne Prozesse, spezialisiertes Know-how und nicht zuletzt personelle, zeitliche und finanzielle Ressourcen – Dinge, die viele Unternehmen, die sich selbst als Nutzer und nicht als Hersteller von KI verstehen, schlicht nicht eingeplant haben.
Präventive Maßnahmen für Unternehmen
Der erste Schritt zur Vermeidung von solchen Risiken ist eine ehrliche Bestandsaufnahme: Welche KI-Systeme werden wie und für welche Zwecke eingesetzt? In welchem Umfang werden sie angepasst oder an Dritte weitergereicht? Verträge mit KI-Herstellern sollten explizit regeln, wer welches Risiko trägt und welche Unterstützung zu leisten ist. Besonders wichtig ist auch die interne Dokumentation – im Streitfall kann es bspw. entscheidend auf den Nachweis ankommen, ob eine Modifikation „wesentlich“ ist oder nicht.
Art. 25 AI Act ist kein theoretisches Konstrukt, sondern bringt relevante Compliance-Risiken für alle, die künstliche Intelligenz innovativ nutzen wollen. Wer die Grenzen kennt, kann sie bewusst gestalten und damit einen rechtskonformen KI-Einsatz ermöglichen.
Häufig gestellte Fragen (FAQ)
Der AI Act nennt keine exakten technischen Schwellenwerte. Als Orientierung gilt: Eine Änderung ist wesentlich, wenn sie die Leistung, den Verwendungszweck oder das Risikoprofil des Systems erheblich beeinflusst. Die EU-Kommission wird hierzu voraussichtlich konkretisierende Leitlinien veröffentlichen.
Grundsätzlich ja, insb. wenn das Unternehmen die API in eine eigene Hochrisiko-Anwendung einbettet und die fertige Lösung dann unter eigenem Namen am Markt anbietet. Der API-Anbieter bleibt Anbieter des Basismodells – das weiterentwickelte Produkt kann jedoch separate Anbieter-Pflichten bei dem betroffenen Unternehmen auslösen.
Teilweise. Verträge können regeln, wer welche Informationen bereitstellt oder welche Maßnahmen der andere übernimmt. Die gesetzliche Verantwortung gegenüber Behörden und Dritten lässt sich teilweise durch technische und organisatorische Maßnahmen gestalten, jedoch nicht vollständig wegverhandeln – sie folgt dem tatsächlichen Rollenverhältnis.
Bei einem Verstoß gegen den AI Act können Behörden u.a. den Betrieb untersagen und Bußgelder von theoretisch bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes verhängen. Zudem drohen zivilrechtliche Gewährleistungspflichten. Gutgläubigkeit schützt nicht – die objektive Rolleneinordnung ist entscheidend.
Empfehlenswert ist eine strukturierte Inventarisierung: alle eingesetzten Systeme erfassen, deren Anpassungstiefe dokumentieren, den Verwendungszweck mit den Hochrisiko-Kategorien des AI Acts abgleichen und vieles mehr. Im Zweifel sollte rechtlicher und technischer Rat eingeholt werden, denn die eigene Einstufung im Kontext des AI Acts hat oft weitreichende Folgen.