Wer ist verantwortlich, wenn KI im ERP Fehler macht?

Verantwortung für KI im ERP liegt immer bei Menschen, nie beim Agenten: fachlich bei einem benannten Prozessverantwortlichen, der Ergebnisse stichprobenhaft prüft und Grenzfälle entscheidet, technisch bei einer Rolle, die Berechtigungen und Freigabestufen pflegt, und unternehmerisch bei der Geschäftsführung, die den Einsatzrahmen festlegt. Ein KI-Agent ist rechtlich ein Werkzeug. Wer ihn ohne benannte Verantwortung buchen lässt, hat keine Automatisierung eingeführt, sondern eine Zuständigkeitslücke.

Warum die Frage vor dem ersten Agenten beantwortet gehört

Solange Copilot Texte vorschlägt, ist die Frage akademisch: Ein Mensch übernimmt den Vorschlag oder nicht. Sie wird real, sobald ein Agent selbst handelt, etwa Bestellungen aus E-Mails anlegt oder Eingangsrechnungen vorkontiert. Ab diesem Punkt entstehen Belege, und jeder Beleg braucht jemanden, der für ihn geradesteht: gegenüber dem Wirtschaftsprüfer, dem Finanzamt und dem eigenen Kunden.

Die gute Nachricht: Business Central ist dafür gebaut. Agenten arbeiten unter einem eigenen Benutzerkontext mit eigenen Berechtigungen, ihre Aktionen sind im Protokoll von menschlichen unterscheidbar, und Freigabeworkflows gelten für Agenten genauso wie für Kollegen. Die Werkzeuge sind da. Was Unternehmen selbst mitbringen müssen, ist die Entscheidung, wer sie bedient.

Die drei Rollen, die genügen

1. Der Prozessverantwortliche: prüft die Agent-Ergebnisse seines Prozesses stichprobenhaft, entscheidet Grenzfälle und meldet Muster. Das ist keine neue Stelle, sondern eine benannte Zuständigkeit des heutigen Prozess-Owners.
2. Der Berechtigungs-Verantwortliche: pflegt, was jeder Agent sehen und tun darf, und zwar so knapp wie möglich. Ein Bestell-Agent braucht keine Finanzbuchhaltung. Diese Rolle liegt meist bei der Person, die heute Benutzerrechte verwaltet.
3. Die Geschäftsführung: legt den Rahmen fest: welche Prozesse automatisiert werden dürfen, bis zu welchen Wertgrenzen ein Agent ohne menschliche Freigabe arbeitet und wann eskaliert wird. Eine Seite Papier, einmal im Jahr geprüft.

Mehr braucht der Mittelstand nicht, und jedes zusätzliche Gremium verlangsamt genau die Entscheidungen, für die die Automatisierung gebaut wurde. Wichtig ist nur, dass alle drei Rollen vor dem ersten produktiven Agenten besetzt sind, nicht nach dem ersten Vorfall.

Freigabegrenzen: der praktische Kern

Das wirksamste Steuerungsinstrument ist unspektakulär: Wertgrenzen. Der Agent legt Bestellungen bis zu einem definierten Betrag selbst an, darüber wandert der Vorgang in eine menschliche Freigabe. Dieselbe Logik gilt für neue Geschäftspartner, abweichende Preise oder unvollständige Belege: alles Ungewöhnliche geht an einen Menschen, alles Gleichförmige läuft durch.

So bleibt die Entlastung erhalten, ohne dass Kontrolle verloren geht. Und die Grenzen sind kein Dogma: Nach einem Quartal mit sauberen Stichproben darf die Wertgrenze steigen. Verantwortung heißt nicht Misstrauen auf Dauer, sondern Vertrauen mit Beleg.

Was Verantwortung mit der Datenbasis zu tun hat

Die meisten Agent-Fehler sind keine KI-Fehler, sondern Datenfehler mit neuem Tempo: Der Agent bucht auf den doppelt angelegten Kunden oder wählt den veralteten Artikel, weil beide im System stehen. Ohne saubere Datenbasis vervielfacht ein Agent das Chaos, und keine Freigabegrenze fängt das dauerhaft ab.

Deshalb gehört zur Verantwortungsordnung ein Eigentümer je Datenobjekt: Wer im Unternehmen für ERP-Datenqualität verantwortlich ist, entscheidet indirekt auch, wie sicher jeder Agent arbeitet. Genau diese Ordnung bauen wir senior-geführt mit auf: Governance und Delivery Management, mit der Steuerung auf Ihrer Seite.