KI-Erwartung trifft Realität: Warum autonome Automatisierung an Menschen scheitert

Ein Geschäftsführer liest einen Branchenbericht über generative KI und gibt am nächsten Tag die Anweisung aus: Ein Sprachmodell soll ab sofort in den Einkauf eingebunden werden und Lieferantenverhandlungen und Bestellungen „vollständig automatisieren". Die Erwartung ist klar, die Vorstellung von der Technik ist es nicht. Genau an dieser Lücke entstehen die teuersten KI-Projekte.

Das Muster

Wir nennen es die verzerrte KI-Wahrnehmung: die Vorstellung, KI sei eine allgemeine, selbstständig handelnde Entscheider-Instanz und nicht das, was sie tatsächlich ist — eine fortgeschrittene Maschine zur Erkennung statistischer Muster. Wird KI von oben ohne strukturelle Grenzen ins Unternehmen gedrückt, läuft sie unweigerlich gegen die Wand der operativen Realität.

Der Einkauf ist dafür ein gutes Beispiel. Er besteht nicht aus Textverarbeitung. Er lebt von über viele Jahre gewachsenen Beziehungen, von ungeschriebener Verlässlichkeit zwischen Partnern und von feinen Nuancen in Verträgen, die niemand jemals dokumentiert hat. Zwingt ihr ein statistisches Modell dazu, diese losen menschlichen Variablen eigenständig zu behandeln, entstehen zwei Dinge sofort: rechtliche Haftungsrisiken und massiver Widerstand aus dem eigenen Team. Beides zusammen bringt jedes Vorhaben zum Stillstand.

Das eigentliche Problem ist nicht die Technik, sondern die Rollenzuschreibung. Wer KI zur Führungskraft macht, überfordert sie und enttäuscht am Ende alle Beteiligten. Wer sie als Werkzeug versteht, das dem Menschen zuarbeitet, bekommt einen völlig anderen und deutlich robusteren Hebel.

Aus unserer Praxis

Wenn wir auf ein solches Top-down-Mandat treffen, sehen wir unsere Aufgabe als kleines Team darin, ein stabilisierendes Gegengewicht zu sein. Wir reden die Idee nicht klein — wir lenken das Gespräch von der abstrakten „Automatisierung" hin zur konkreten Frage: An welcher Stelle würde ein Mensch mit besseren Informationen schneller und sicherer entscheiden?

In einem Einkaufsprojekt haben wir uns genau deshalb geweigert, den Bestellvorgang zu automatisieren. Stattdessen haben wir im Hintergrund eine KI-gestützte Analyse gebaut, die Preisauffälligkeiten markiert und den menschlichen Einkäufern vorformulierte Entwürfe für Verhandlungs-E-Mails liefert. Die Entscheidung, das Absenden, die Verantwortung — all das bleibt beim Menschen. Die KI arbeitet unsichtbar zu.

Die Wirkung war spürbar, aber nicht dort, wo der ursprüngliche Auftrag sie erwartet hatte. Die Einkäufer wurden nicht ersetzt, sie wurden schneller und aufmerksamer. Und genau darin liegt die Lektion, die wir seither in jedes KI-Vorhaben mitnehmen: KI gewinnt Vertrauen, wenn sie als unsichtbarer Rechercheassistent auftritt — und verliert es, sobald sie versucht, die Führung zu spielen.

Was das für ein KI-Vorhaben bedeutet

Bevor ihr ein Modell auf einen Prozess loslasst, lohnen sich drei nüchterne Fragen:

1. Wo genau trifft hier ein Mensch die Entscheidung? Diese Stellen bleiben menschlich. Die KI liefert Zuarbeit davor.
2. Welche Information fehlt der entscheidenden Person heute? Genau die soll die KI im Hintergrund aufbereiten — Auffälligkeiten, Vergleiche, Entwürfe.
3. Wer haftet, wenn das Modell danebenliegt? Solange die Antwort nicht eindeutig „ein Mensch, der vorher prüft" lautet, ist der Prozess nicht reif für autonome Automatisierung.

So wird aus einer überzogenen Erwartung ein Vorhaben mit klaren Grenzen — und mit einem Nutzen, den das Team tatsächlich annimmt, statt ihn zu umgehen.

Fazit

Die Erwartung an KI ist oft größer als das, was der operative Alltag hergibt. Das ist kein Grund, das Thema zu meiden, sondern die eigentliche Beratungsaufgabe: die Idee ernst nehmen, sie aber dorthin lenken, wo sie trägt. KI als zuarbeitender Assistent bringt Ruhe ins Vorhaben, senkt Risiken und gewinnt das Team. Wenn bei euch ein solches Mandat auf dem Tisch liegt, schauen wir gern gemeinsam darauf, was davon heute realistisch trägt — und was besser in der Hand eines Menschen bleibt.