Wer heute ein Custom GPT konfiguriert oder einen KI-Agenten auf Basis eines Large Language Model aufbaut, stellt sich früher oder später eine zentrale Frage: Werde ich durch das Erstellen von GPTs (OpenAI), Gems (Google) oder Copilot Agents (Microsoft) zum Anbieter eines KI-Systems im Sinne des AI Act? Die Antwort bestimmt, welche Pflichten gelten – und sie ist komplizierter als die meisten Plattformanbieter vermitteln.
Custom GPTs und vergleichbare Konfigurationswerkzeuge senken die Einstiegshürde für KI-Anwendungen erheblich: Wer ein Custom GPT baut, schreibt keinen Code, entwickelt kein Interface und trainiert kein Modell – er konfiguriert ein bestehendes KI-System. Wer einen Agenten zusammenstellt, verbindet dieses Modell mit Werkzeugen, Speicher und Handlungslogik. Der AI Act unterscheidet diese Konstellationen aber nicht immer trennscharf, was zu erheblicher Rechtsunsicherheit führt.
Anbieter und Betreiber – kein Entweder-oder, aber ein entscheidender Unterschied
Der AI Act kennt zwei zentrale Rollen: den Anbieter und den Betreiber. Anbieter (Art. 3 Nr. 3 AI Act) ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt – unabhängig davon, ob dies entgeltlich oder unentgeltlich erfolgt. Betreiber (Art. 3 Nr. 4 AI Act) ist, wer ein KI-System in eigener Verantwortung für eigene Zwecke nutzt, ohne es selbst in Verkehr zu bringen.
Der Unterschied ist gravierend: Anbieter von Hochrisiko-KI-Systemen müssen ein vollständiges Risikomanagementsystem aufbauen, technische Dokumentation bereitstellen, Konformitätsbewertungen durchführen und ihr System in der EU-KI-Datenbank registrieren. Darüber hinaus gelten für viele KI-Systeme unabhängig von der Risikoeinstufung Transparenzpflichten, deren technische Umsetzung aufwendig sein kann. Betreiber unterliegen zwar ebenfalls Pflichten, diese sind aber deutlich weniger weitreichend. Anbieter- und Betreiberpflichten schließen sich nicht gegenseitig aus: Wer ein fremdes KI-System nutzt und gleichzeitig ein eigenes betreibt, kann beide Rollen innehaben.
Custom GPTs: Konfiguration oder eigenes KI-System?
ChatGPT Custom GPTs und vergleichbare Plattformprodukte folgen einem gemeinsamen Muster: Der Nutzer konfiguriert das Systemverhalten durch Anweisungen, wählt verfügbare Werkzeuge aus und definiert den Einsatzbereich – das zugrundeliegende KI-Modell sowie viele Plattformfunktionen (z. B. Sicherheitsmechanismen, Benutzeroberfläche) bleiben unverändert. Damit scheidet die Eigenschaft als Anbieter eines KI-Modells mit allgemeinem Verwendungszweck regelmäßig aus.
Das schließt aber nicht aus, dass der Ersteller eines Custom GPTs zum Anbieter eines KI-Systems wird. Der AI Act sieht ausdrücklich vor: Wer ein bestehendes KI-System verändert, kann in die Anbieterrolle rutschen. Bei KI-Agenten, die selbstständig externe Systeme ansprechen, Daten verarbeiten und über mehrere Schritte hinweg agieren, ist die Abgrenzung besonders heikel – denn sie sind mehr als eine bloße Konfiguration.
KI-Agenten: Branding, wesentliche Änderung und Änderung der Zweckbestimmung als Kipppunkt
Der AI Act sieht drei Konstellationen vor, in denen der Ersteller eines Custom GPTs oder KI-Agenten zum Anbieter wird:
- Branding: Wer ein KI-System unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, tritt in die Anbieterrolle ein – unabhängig davon, wer das System entwickelt hat.
- Wesentliche Änderung: Wer ein bestehendes KI-System nach seiner Inbetriebnahme so verändert, dass die ursprüngliche Konformitätsbewertung des Anbieters nicht mehr greift oder sich die Zweckbestimmung ändert, übernimmt die Anbieterpflichten für das geänderte System.
- Änderung der Zweckbestimmung: Wer ein nicht-hochriskantes KI-System für einen Zweck einsetzt, der es zum Hochrisiko-System macht, tritt ebenfalls in die Anbieterrolle ein und muss die entsprechenden Pflichten erfüllen.
In der Folge müssen alle Folgen des Anbieters erfüllt werden – egal ob Hochrisiko-KI-System oder nicht.
Praktische Konsequenzen: Was Unternehmen bei Custom GPTs beachten müssen
Unternehmen sollten für Custom GPTs mit Blick auf den AI Act mindestens folgende Maßnahmen ergreifen:
- Für jedes Custom GPT sollte eine konkrete und möglichst enge Zweckbestimmung und ein Verantwortlicher definiert werden.
- Diese Zweckbestimmung muss außerhalb der verbotenen KI-Praktiken liegen und sollte möglichst auch den Hochrisiko-Bereich (z. B. Lebenslaufprüfung, bestimmte Medizinprodukte, Kreditwürdigkeitsbewertung) vermeiden, um umfangreiche Compliance-Pflichten zu verhindern, die ohne spezialisierte Unterstützung kaum umsetzbar sind. Das muss organisatorisch sichergestellt werden.
- Das Custom GPT sollte klare Nutzungshinweise enthalten – insbesondere, wofür es (nicht) eingesetzt werden darf.
Häufig gestellte Fragen (FAQ)
Nicht zwingend. Die Rechtslage ist noch nicht abschließend geklärt, weshalb Mindestmaßnahmen (s. oben) in jedem Fall empfehlenswert sind. Wer ein Custom GPT im Hochrisiko-Bereich (z. B. Lebenslaufprüfung, bestimmte Medizinprodukte, Kreditvergabe) einsetzt, wird aber häufig zum Anbieter eines Hochrisiko-KI-Systems – mit weitreichenden Compliance-Pflichten.
„In Verkehr bringen“ erfasst jede Bereitstellung gegenüber Dritten – ob entgeltlich oder kostenlos, im Konzern, als Dienstleistungskomponente oder öffentlich zugänglich. „In Betrieb nehmen“ geht weiter: Es erfasst auch die erstmalige Nutzung für eigene Zwecke. Das bedeutet: Wer ein Custom GPT intern einsetzt, kommt als Anbieter in Betracht, wenn er es als eigenes System in Betrieb nimmt – auch ohne externe Weitergabe.
Eine abschließende Definition gibt es nicht. Als Anhaltspunkte gelten: Änderungen der Zweckbestimmung, die Integration neuer risikorelevanter Aktionen (z. B. Zugriff auf externe Systeme, autonome Kommunikation) sowie ein erheblich verändertes Risikoprofil gegenüber dem Ausgangssystem. Nicht jede Anpassung ist eine wesentliche Änderung – entscheidend ist, ob die ursprüngliche Konformitätsbewertung des Systemanbieters noch greift.
Nur bedingt. Modellanbieter wie OpenAI, Anthropic oder Google sind für das Basismodell verantwortlich und stellen in der Regel entsprechende Compliance-Unterlagen (z. B. technische Dokumentation) bereit. Für das darauf aufbauende, eigens konfigurierte oder entwickelte KI-System tragen Unternehmen aber – je nach Einordnung als Anbieter oder Betreiber – eigene Pflichten, die sich nicht auf die Compliance des Modellanbieters stützen lassen.