Entscheidungsverantwortung
Für jede relevante Entscheidung wird eine verantwortliche Rolle benannt — nicht nur ein technischer Systemverantwortlicher.
KI-Systemarchitektur · Wien & DACH
Der KI-Pilot funktioniert. Der Betriebsablauf dahinter noch nicht.
Die Demo liefert eine gute Antwort. Im Jour fixe bleibt dennoch eine einfache Frage offen: Wer darf danach entscheiden, wer prüft den Ausnahmefall und wer stoppt den Ablauf, wenn die Evidenz nicht reicht?
Ein KI-System-Review macht aus dieser Lücke eine prüfbare Betriebsarchitektur. Es ist keine ERP-/CRM-Integrationsberatung und kein pauschales Automatisierungsversprechen.
Entscheidungssignale
Befugnisgrenze
Das System darf vorschlagen, vorbereiten oder ausführen; Freigabe, Übersteuerung und Stopp bleiben explizit geregelt.
Prüfbarer Nachweis
Eingaben, Version, Freigabegrund, Ausnahme und Ergebnis bilden eine nachvollziehbare Evidenzkette.
Das operative Problem
Zwischen überzeugender Demo und belastbarem Betrieb liegt eine Führungsaufgabe
Ein Pilot kann fachlich plausibel wirken und trotzdem operativ unklar bleiben. Sobald ein Sonderfall auftritt, verteilt sich die Verantwortung auf Fachbereich, IT, Management und Anbieter — und niemand besitzt die Entscheidung vollständig.
Das KI-System-Review beginnt deshalb nicht beim Modell und auch nicht bei einer langen Tool-Liste. Wir rekonstruieren einen konkreten Arbeitsablauf: Welche Entscheidung soll besser werden? Welche Daten gelten als ausreichend? Wer darf eine Empfehlung akzeptieren, zurückweisen oder eskalieren? Was passiert, wenn Informationen fehlen, widersprüchlich sind oder das System außerhalb seines vorgesehenen Kontexts arbeitet?
Danach wird der Ablauf als Betriebssystem lesbar gemacht: mit Verantwortungsmatrix, Befugnisgrenzen, menschlichen Prüfpunkten, Ausnahmeweg, Protokollierung und einer Ausgangsmessung. Der EU AI Act ist dabei risikobasiert; nicht jeder KI-Einsatz ist Hochrisiko-KI. Wo eine entsprechende Einstufung tatsächlich vorliegt, sind unter anderem die besonderen Anforderungen an Risikomanagement, Aufzeichnung und menschliche Aufsicht relevant. Die Einordnung muss für System, Zweck und Unternehmensrolle gesondert geprüft werden.
Systemmethode
Vom KI-Piloten zum belastbaren Betrieb
NIST AI RMF und TEVV dienen als freiwillige Arbeitsgrundlage, nicht als Zertifikat. Sie verbinden Steuerung, Kontext, Messung und Risikobehandlung und richten die Prüfung auf den realen Arbeitsablauf, Fehlersituationen und Entscheidungsrahmen — nicht nur auf Modellgenauigkeit. Die vier Arbeitsschritte führen zu einer belastbaren Entscheidungsgrundlage statt zu einem unverbindlichen Zielbild.
-
01
Entscheidung und Ausgangslage erfassen
Wir verfolgen einen realen Fall vom Eingang bis zum Ergebnis, markieren Wartezeiten, Medienbrüche und manuelle Korrekturen und definieren eine messbare Ausgangsbasis.
-
02
Verantwortung und Befugnis festlegen
Eine kompakte Matrix klärt, wer den Ablauf besitzt, wer fachlich prüft, welche Handlung das KI-System ausführen darf und wer bei Konsequenzen entscheidet.
-
03
Ausnahmen und Nachweise entwerfen
Für fehlende Daten, geringe Sicherheit, Konflikte und sensible Fälle entstehen ein menschlicher Prüfpfad, Eskalationsregeln sowie ein zweckmäßiger Evidenz- und Protokollierungsplan.
-
04
Im Arbeitskontext prüfen
Ein begrenzter Durchlauf testet normale Fälle und Fehlersituationen. Die Beobachtungen werden anhand der Ausgangsbasis bewertet und führen zu einer klaren Entscheidung: weiterführen, überarbeiten oder stoppen.
Was die Zusammenarbeit liefert
Vier Arbeitsartefakte, mit denen ein Team weiterarbeiten kann
Jedes Artefakt beantwortet eine Betriebsfrage. Gemeinsam schaffen sie die Grundlage für eine kontrollierte Umsetzung oder eine begründete Entscheidung dagegen.
KI-System- und Entscheidungslandkarte
Workflow, Entscheidungspunkte, Datenquellen, Abhängigkeiten, Systemgrenzen und betroffene Rollen in einer gemeinsamen Ansicht.
Verantwortungs- und Befugnismatrix
Verantwortliche Rolle, fachliche Prüfung, Freigabebefugnis, Übersteuerung, Stopp-Recht und Eskalationsziel je kritischem Schritt.
Kontroll- und Evidenzplan
Menschliche Prüfpunkte, Ausnahmeweg, benötigte Protokolle, Aufbewahrungslogik und Hinweise zur KI-Kompetenz der beteiligten Rollen.
Ausgangsbasis und Entscheidungsunterlage
Ausgangszustand, Beobachtungskriterien, offene Risiken, Abhängigkeiten und eine begründete Empfehlung: weiterführen, überarbeiten oder stoppen.
Illustratives Betriebsszenario
Illustratives Szenario — keine KundenreferenzEine gute Empfehlung ohne klaren Entscheider
Illustratives Szenario — keine Kundenreferenz
Ein Wiener B2B-Team testet einen KI-Assistenten zur Vorbereitung komplexer Angebotsfreigaben. Die Vorschläge wirken im Termin überzeugend. Beim ersten Sonderfall fehlen jedoch aktuelle Vertragsdaten. Der Vertrieb nimmt an, die Rechtsabteilung prüfe; die Rechtsabteilung erwartet eine Eskalation aus dem System; die IT kann nur den technischen Lauf bestätigen. Beim KI-System-Review wird nicht einfach ein weiterer Freigabeschritt ergänzt. Zuerst werden Entscheidungsverantwortliche, erlaubte Systemhandlungen, Mindestnachweise und der Ausnahmeweg festgelegt. Danach wird mit normalen und widersprüchlichen Fällen geprüft, ob der Ablauf für Menschen verständlich und steuerbar bleibt.
Zweck: die Methode erklären. Es wird kein Betriebsergebnis behauptet. Das Beispiel beschreibt eine mögliche Anwendung der Methode. Es behauptet kein Kundenprojekt und kein erzieltes Ergebnis.
Umsetzungsfahrplan
Ein 30/60/90-Tage-Pfad mit echten Entscheidungstoren
-
Tag 1–30
Ist-Ablauf, Verantwortung und Ausgangsbasis
Einen relevanten Workflow auswählen, reale Fälle nachvollziehen, Entscheidung und Datenbedarf definieren sowie Verantwortungs- und Risikolücken sichtbar machen.
-
Tag 31–60
Kontrolliertes Systemdesign und begrenzter Test
Befugnismatrix, menschliche Prüfpunkte, Ausnahmeweg und Evidenzplan ausarbeiten; den Ablauf mit normalen Fällen und definierten Fehlersituationen prüfen.
-
Tag 61–90
Weiterführen, überarbeiten oder stoppen
Beobachtungen anhand der Ausgangsbasis bewerten, offene Risiken und Betriebsaufwand dokumentieren und die nächste Investitionsentscheidung mit Bedingungen versehen.
Fragen, die vorab geklärt werden sollten
Fragen, die vorab geklärt werden sollten
Was prüft ein KI-System-Review konkret?
Einen realen Workflow mit seiner Entscheidung, den beteiligten Rollen, Datenquellen, Befugnissen, menschlichen Prüfpunkten, Ausnahmen und Nachweisen. Daraus entstehen eine Systemkarte, eine Befugnismatrix, ein Kontrollplan und eine Entscheidungsunterlage.
Ist das ERP- oder CRM-Integrationsberatung?
Nein. Bestehende Systeme können als Datenquelle oder Abhängigkeit in der Landkarte erscheinen. Gegenstand ist jedoch die KI-gestützte Entscheidungs- und Betriebsarchitektur, nicht die technische Einführung oder laufende Integration eines ERP- oder CRM-Produkts.
Ist jeder KI-Workflow nach dem EU AI Act ein Hochrisiko-System?
Nein. Der EU AI Act arbeitet risikobasiert. Pflichten hängen unter anderem von System, Einsatzzweck und Unternehmensrolle ab. Die Hinweise zu Artikel 9, 12 und 14 gelten auf dieser Seite ausdrücklich für als hochriskant eingestufte KI-Systeme.
Was bedeutet menschliche Aufsicht im Betrieb?
Mehr als ein Freigabe-Button: Eine autorisierte Person braucht rechtzeitig den nötigen Kontext, muss Grenzen erkennen, Ergebnisse hinterfragen oder übersteuern und bei Bedarf einen klaren Stopp- oder Eskalationsweg nutzen können.
Wann ist das KI-System-Review abgeschlossen?
Wenn das Team den Ausgangszustand kennt, Verantwortlichkeiten und Befugnisse benannt sind, Ausnahmen und Evidenzanforderungen feststehen und eine begründete Entscheidung über Weiterführung, Überarbeitung oder Stopp möglich ist.
Primärquellen
Die Quellen beschreiben den Kontext und stellen keine Empfehlung dar.
- Europäische Kommission — Risikobasierter Rahmen des EU AI Act
- EU AI Act, Article 4 — AI literacy
- EU AI Act, Article 9 — risk management for high-risk AI
- EU AI Act, Article 12 — record-keeping for high-risk AI
- EU AI Act, Article 14 — human oversight for high-risk AI
- NIST AI Risk Management Framework 1.0
- NIST AI Test, Evaluation, Validation and Verification
KI-System-Review anfragen
Bringen Sie einen KI-Piloten mit, bei dem die Betriebsfrage noch offen ist.
Beim ersten KI-System-Review klären wir Workflow, Entscheidungsverantwortung, Befugnisgrenze und fehlende Evidenz. Sie erhalten eine ehrliche Einschätzung, ob Architekturarbeit sinnvoll ist und welcher nächste Schritt verantwortbar wäre.