Verantwortungsvolle KI ist kein Projekt, sondern ein Betriebsmodell
Die meisten Organisationen behandeln verantwortungsvolle KI wie ein Vorhaben mit Anfang, Ende und Abnahme. Am Ende steht ein Audit, ein Zertifikat, ein Ordner. Das ist nicht falsch — es ist unvollständig. Ein Zertifikat belegt einen Stichtag. Ein KI-System aber arbeitet in stetiger Zeit.
Der Projektreflex — und woher er kommt
Der Reflex ist nachvollziehbar. Organisationen können Projekte. Es gibt ein Budget, einen Meilensteinplan, eine Abnahme und danach eine Zeile im Statusbericht, die auf Grün steht. Regulierung erzeugt Termine, und Termine erzeugen Projekte: Gap-Analyse, Maßnahmenplan, Umsetzung, Abschlussdokumentation. Die Governance-Funktion hakt ab, das Vorhaben schließt, die Ressourcen wandern weiter.
Das Problem ist nicht die Projektform. Ein KI-Governance-Rahmen muss einmal aufgesetzt werden, und dafür ist Projektdisziplin genau richtig. Das Problem ist die Annahme, die in der Abnahme steckt: dass danach etwas fertig sei.
Denn ein Projekt liefert einen Zustand. Ein KI-System erzeugt einen Verlauf. Zwischen diesen beiden Größen liegt die gesamte Governance-Frage — und sie lässt sich nicht durch mehr Sorgfalt im Projekt schließen, sondern nur durch etwas, das nach dem Projekt weiterläuft.
Der Unterschied wird an einem unspektakulären Punkt sichtbar. Ein Modell, das im Abnahmetest über alle geprüften Gruppen hinweg stabile Ergebnisse liefert, ist damit nicht fair. Es war fair — auf den Daten, in der Population, unter den Annahmen und zu dem Zeitpunkt, an dem gemessen wurde. Verschiebt sich die Population, ändert sich ein vorgelagerter Datenlieferant, wird das Modell in einem neuen Segment eingesetzt, oder verändert das Fachteam eine Entscheidungsschwelle, dann gilt der Befund nicht mehr. Er ist nicht widerlegt. Er ist nur abgelaufen.
Der Stichtag verschiebt sich — der Betrieb nicht
Wie wenig tragfähig die Projektlogik ist, hat sich in diesem Jahr auf unerwartete Weise gezeigt. Mit dem Digital Omnibus verschieben sich die zentralen Anwendungstermine des EU AI Act: Die Pflichten für Hochrisikosysteme nach Anhang III greifen nun ab dem 2. Dezember 2027, jene nach Anhang I ab dem 2. August 2028.
Für Häuser, die ihr Programm an einem Datum aufgehängt hatten, ist damit die Begründung weggefallen. Vorhaben wurden vertagt, Budgets in das nächste Planungsjahr geschoben, Arbeitsgruppen ruhend gestellt. Häuser, die stattdessen einen Betriebsrhythmus aufgebaut hatten, arbeiten unverändert weiter — ihr Rhythmus hing nie am Termin, sondern an den Systemen, die ohnehin laufen.
Das ist die eigentliche Nachricht der Fristverschiebung. Sie nimmt dem Thema den Druck und legt dafür die bessere Frage frei: Nicht sind Sie rechtzeitig fertig?, sondern was haben Sie in der Hand, wenn der Termin kommt? Wer bis dahin zwei Jahre Betriebshistorie vorlegen kann — Messreihen, dokumentierte Abweichungen, nachvollziehbare Entscheidungen —, führt ein anderes Gespräch als jemand, der eine frisch erstellte Konformitätserklärung vorlegt.
Die Verordnung ist als Betrieb geschrieben, nicht als Projekt
Bemerkenswert ist, dass diese Lesart keine Interpretation ist. Der Regulierungstext selbst nimmt sie vorweg.
Artikel 9 des AI Act beschreibt das Risikomanagement ausdrücklich als kontinuierlichen, iterativen Prozess über den gesamten Lebenszyklus eines Hochrisikosystems, der regelmäßig zu überprüfen und zu aktualisieren ist. Artikel 17 verlangt vom Anbieter ein Qualitätsmanagementsystem — ein System, kein Dokument. Artikel 26 verpflichtet den Betreiber, den Betrieb des Systems zu überwachen. Artikel 27 macht die Grundrechte-Folgenabschätzung aktualisierungspflichtig, sobald eines ihrer zugrunde liegenden Elemente nicht mehr aktuell ist. Und Artikel 72 verlangt eine Beobachtung nach dem Inverkehrbringen, die planmäßig und systematisch über die Lebensdauer des Systems läuft.
ISO/IEC 42001:2023 trifft dieselbe Annahme, nur in der Sprache der Managementsysteme: Leistungsbewertung und Verbesserung sind dort keine Projektphasen, sondern Dauerpflichten.
Keine dieser Vorschriften kennt einen Zustand fertig. Alle kennen den Zustand aktuell — und aktuell ist ein Zustand, der sich ausschließlich durch Wiederholung halten lässt.
Woraus ein Betriebsmodell tatsächlich besteht
Ein Betriebsmodell für verantwortungsvolle KI ist weniger anspruchsvoll, als der Begriff vermuten lässt. Es besteht im Kern aus fünf Elementen, und keines davon erfordert eine neue Parallelorganisation.
Eine benannte Verantwortung in der bestehenden Aufbauorganisation. Nicht ein weiteres Gremium, sondern eine Person mit Namen, die für ein konkretes System zuständig ist und deren Zuständigkeit auch dann fortbesteht, wenn das Einführungsprojekt geschlossen wurde. Gremien beraten; verantwortlich ist immer eine Rolle.
Ein Takt — regelmäßig und anlassbezogen. Der regelmäßige Teil ist der einfachere: quartalsweise, halbjährlich, jährlich, je nach Kritikalität. Der anlassbezogene Teil ist der wirksamere. Er definiert vorab, welche Ereignisse eine Überprüfung auslösen: eine Modelländerung, ein neuer oder veränderter Datenlieferant, die Ausweitung auf ein neues Segment, eine verschobene Entscheidungsschwelle, eine Häufung von Beschwerden.
Reproduzierbare Evidenz. Ein Befund, der sich nicht wiederholen lässt, ist eine Meinung mit Diagramm. Reproduzierbarkeit heißt: versionierte Daten, versionierter Auswertungscode, dokumentierte Schwellenwerte und ein Ergebnis, das ein Dritter in sechs Monaten mit demselben Stand nachrechnen kann. Das ist der Punkt, an dem interne Revision und Aufsicht unterscheiden, ob sie es mit einer Prüfung oder mit einer Präsentation zu tun haben.
Vorab gesetzte Schwellen und ein Eskalationsweg. Wer erst im Ereignisfall entscheidet, was als Abweichung gilt, entscheidet unter Druck — und in der Regel zugunsten der Weiterführung. Die Frage ab wann ist eine Kennzahlveränderung berichtspflichtig, an wen, und mit welcher Frist gehört in den ruhigen Betrieb, nicht in den Vorfall.
Eine geschlossene Schleife. Der Befund muss etwas verändern können: eine Nachschulung, eine Datenkorrektur, eine engere Freigaberegel, im Grenzfall die Abschaltung. Ohne diese Rückkopplung ist Monitoring eine Beobachtung, keine Kontrolle — und dieser Unterschied fällt jeder qualifizierten Prüfung auf.
Was ein Betriebsmodell nicht ist
Drei Missverständnisse lohnen die ausdrückliche Klarstellung, weil sie das Konzept sonst teurer wirken lassen, als es ist.
Es bedeutet nicht, alles kontinuierlich zu tun. Kadenz ist eine Entscheidung mit Kosten, und sie ist bewusst zu treffen. Ein System, das täglich Kreditentscheidungen trifft, braucht eine andere Frequenz als eines, das eine jährliche Segmentierung unterstützt. Die Aufgabe besteht nicht darin, überall die höchste Frequenz zu fahren, sondern jeder Anwendung ihre begründete zuzuweisen.
Es entwertet auch Audits und Zertifikate nicht. Diese behalten ihre Funktion — als Messpunkte eines laufenden Betriebs, nicht als dessen Ersatz. Eine B-Corp-Rezertifizierung, ein ISO-42001-Zertifikat, ein Prüfungsbericht sind genau in dem Maß aussagekräftig, in dem hinter ihnen ein Rhythmus steht, den sie stichprobenhaft bestätigen.
Und es ist keine Werkzeugfrage. Werkzeuge senken die Kosten der Wiederholung erheblich, und ohne sie wird ein Betriebsmodell in der Praxis meist zu teuer, um durchgehalten zu werden. Aber sie erzeugen keine Verantwortlichkeit, keine Schwelle und keine Eskalation. Diese drei Dinge sind organisatorische Entscheidungen.
Drei Wege, ein Rhythmus
Der Gedanke ist übergreifend, seine konkrete Gestalt jedoch nicht. In den kommenden Wochen wird dieses Leitthema in drei parallelen Strängen ausbuchstabiert, weil sich die Ausgangslage in drei Adressatenkreisen deutlich unterscheidet.
Regulierte Finanzinstitute haben den Rhythmus bereits. Modellvalidierung, jährliche Überprüfung, Drift-Überwachung, Use Test, die Anforderungen aus MaRisk und DORA, für signifikante Institute zusätzlich der Leitfaden der EZB zu internen Modellen: Der Takt existiert, er ist dokumentiert und geprüft. Die Pflichten des AI Act sind überwiegend Erweiterungen dieses Takts, keine zweite Struktur daneben. Die bemerkenswerte Ausnahme ist die Grundrechte-Folgenabschätzung nach Artikel 27 — das eine Artefakt, das sich aus prudenzieller Validierung nicht ableiten lässt. Sie ist Gegenstand des nächsten Beitrags.
Werteorientierter Mittelstand: Werte, die nur im Leitbild stehen, überleben den ersten Zielkonflikt nicht. Seit der Anhebung der CSRD-Schwellen durch die Richtlinie (EU) 2026/470 entfällt für die meisten Häuser dieser Größe die Berichtspflicht — und damit der Fremdzwang. Was bleibt, sind freiwillige Zyklen: B-Corp-Rezertifizierung, Gemeinwohl-Bilanz, DNK, künftig VSME. Freiwillige Zyklen sind trotzdem Zyklen. Sie haben einen Takt, und dieser Takt ist der natürliche Anknüpfungspunkt für KI-Governance.
Nicht-europäische Anbieter mit EU-Marktzugang: Konformität ist kein Stempel, den man erwirbt, sondern ein Zustand, den man hält. Marktzugang, der auf einem einmaligen Nachweis beruht, ist geliehen — er endet mit der ersten Produktänderung, die niemand regulatorisch nachgeführt hat. Belastbarer Marktzugang ist deshalb selbst ein Betriebsmodell.
Der Einstieg ist kleiner als der Anspruch
Wer aus dieser Diagnose ein Programm ableitet, hat den Punkt verfehlt — dann entsteht wieder ein Projekt, nur ein größeres. Der belastbare Einstieg ist erheblich schmaler: ein einziges System, das ohnehin Bedeutung hat, und vier Fragen dazu.
Wer bemerkt es, wenn sich das Verhalten dieses Systems verändert? Woran genau bemerkt diese Person es? Ab welchem Punkt ist eine Veränderung eine Abweichung? Und wer erfährt davon, in welcher Frist, mit welcher Folge?
Wer diese vier Fragen für ein System beantworten kann, hat ein Betriebsmodell — im Kleinen, aber echt. Wer sie für kein System beantworten kann, hat ein Projekt. Der Unterschied fällt nicht am Tag der Abnahme auf, sondern zwei Jahre später, wenn jemand fragt, wie das System sich in der Zwischenzeit verhalten hat.
Deshalb die ehrliche Frage an Sie: Wenn sich morgen das Verhalten Ihres wichtigsten KI-gestützten Entscheidungssystems verschöbe — durch wen und nach wie vielen Wochen würden Sie davon erfahren?
