Warum „Human in the Loop“ zur Führungsaufgabe wird
Vor Kurzem habe ich eine geschäftliche Gelegenheit ausgeschlagen, die auf dem Papier durchaus attraktiv war. Sie versprach Umsatz und interessante Perspektiven. Trotzdem habe ich mich dagegen entschieden.
Nicht, weil die Zahlen grundsätzlich dagegen gesprochen hätten. Sondern weil die Rahmenbedingungen für mich nicht stimmten und die Entscheidung nicht zu den Werten passte, nach denen ich unternehmerisch handeln möchte.
Solche Situationen kennen viele Geschäftsführer. Nicht jede Entscheidung lässt sich allein aus Daten, Kennzahlen oder Wahrscheinlichkeiten ableiten. Erfahrung, Kontext, Verantwortung, Werte und die möglichen Folgen für Kunden, Mitarbeitende oder das Unternehmen spielen ebenfalls eine Rolle.
Genau deshalb beschäftigt mich im Zusammenhang mit Künstlicher Intelligenz eine Frage besonders:
Was passiert, wenn wir immer mehr Entscheidungen durch KI vorbereiten oder automatisieren?
Welche Aufgaben kann KI sinnvoll übernehmen? Wo reicht eine stichprobenartige Kontrolle? Und an welchen Stellen muss ein Mensch bewusst prüfen, eingreifen oder die endgültige Entscheidung treffen?
Damit sind wir beim Prinzip Human in the Loop.
Was bedeutet „Human in the Loop“ eigentlich?
Vereinfacht gesagt beschreibt Human in the Loop – kurz HITL – eine Arbeitsweise, bei der ein Mensch an definierten Stellen in einen KI-gestützten Prozess eingebunden bleibt.
Dabei bedeutet Human in the Loop nicht, dass künftig jedes Ergebnis einer KI manuell freigegeben werden muss. Das würde viele Effizienzvorteile der Technologie wieder zunichtemachen.
Entscheidend ist vielmehr:
Welche Form menschlicher Kontrolle braucht dieser konkrete Anwendungsfall?
Eine KI kann große Datenmengen analysieren, Muster erkennen, Texte erstellen, Optionen vergleichen und Empfehlungen vorbereiten. Sie kann aber keine unternehmerische Verantwortung für die Folgen einer Entscheidung übernehmen.
Diese Verantwortung bleibt beim Unternehmen – und damit letztlich bei den Menschen, die den Einsatz der Technologie gestalten und verantworten.
Gerade deshalb sollte die Frage nach der menschlichen Kontrolle nicht erst gestellt werden, wenn ein KI-System bereits im Einsatz ist.
Sie gehört bereits in die Konzeption des Anwendungsfalls.
Human in the Loop ist keine technische Detailfrage
Viele Unternehmen beschäftigen sich derzeit intensiv mit Tools, Modellen und möglichen KI-Anwendungen. Das ist verständlich.
Doch aus Sicht eines Geschäftsführers sollte mindestens eine weitere Frage genauso wichtig sein:
Wie gestalten wir die Zusammenarbeit zwischen Mensch und KI?
Denn die Qualität eines KI-Prozesses hängt nicht allein davon ab, welches Modell verwendet wird.
Mindestens ebenso entscheidend ist,
- welche Aufgabe die KI übernimmt,
- auf welchen Daten sie arbeitet,
- wie ihre Ergebnisse überprüft werden,
- wer bei Auffälligkeiten eingreift,
- wer Entscheidungen freigeben darf
- und wer am Ende Verantwortung trägt.
Damit wird Human in the Loop zu einer Management- und Governance-Frage.
Auch etablierte Risikomanagement-Ansätze wie das AI Risk Management Framework des US-amerikanischen NIST betonen die Bedeutung klar definierter Rollen, Verantwortlichkeiten und Prozesse beim Einsatz von KI. (NIST)
Nicht jeder KI-Einsatz braucht dieselbe Kontrolle
Ein Fehler ist nicht in jedem Prozess gleich kritisch. Wenn eine KI einen ersten Entwurf für eine interne Präsentation erstellt, ist das etwas anderes als eine KI, die einen Personalprozess beeinflusst, einen wichtigen Kunden bewertet oder eine geschäftskritische Entscheidung vorbereitet.
Deshalb halte ich einen risikoorientierten Ansatz für wesentlich sinnvoller als die pauschale Forderung:
„Am Ende muss immer ein Mensch auf den Knopf drücken.“
Die entscheidenden Fragen lauten vielmehr:
1. Welche Folgen hätte ein Fehler?
Je gravierender die möglichen Auswirkungen auf Menschen, Kunden, Finanzen, Reputation oder rechtliche Verpflichtungen sind, desto stärker sollte die menschliche Kontrolle sein.
Ein fehlerhaft formulierter interner Text lässt sich vergleichsweise leicht korrigieren.
Eine falsche Empfehlung in einem wichtigen Personal-, Vertrags- oder Kundenprozess kann dagegen erhebliche Konsequenzen haben.
2. Wie leicht lässt sich ein Fehler erkennen?
KI-Ergebnisse können sehr überzeugend wirken – auch dann, wenn sie falsch oder unvollständig sind.
Gerade deshalb ist es wichtig zu klären:
Hat die Person, die das Ergebnis kontrollieren soll, überhaupt die notwendige Fachkenntnis und den Kontext, um einen Fehler zu erkennen?
Ein menschlicher Kontrollschritt allein schafft noch keine Sicherheit.
Wer lediglich routinemäßig auf „Freigeben“ klickt, ohne das Ergebnis wirklich beurteilen zu können, ist zwar formal beteiligt – aber nicht wirksam.
3. Wie leicht lässt sich eine Entscheidung rückgängig machen?
Auch das beeinflusst die notwendige Kontrolle.
Ein automatisch erzeugter Entwurf kann problemlos verändert werden.
Eine bereits versendete Kundenkommunikation, eine Personalentscheidung oder eine irreversible geschäftliche Maßnahme lässt sich möglicherweise nur schwer korrigieren.
Je schwieriger die Folgen rückgängig zu machen sind, desto früher sollte eine qualifizierte menschliche Prüfung stattfinden.
4. Wer ist verantwortlich?
Diese Frage klingt selbstverständlich – wird in der Praxis aber schnell unscharf.
Ist es der Mitarbeiter, der die KI benutzt?
Die Fachabteilung?
Die IT?
Der Anbieter des Systems?
Oder die Geschäftsführung?
Unternehmen sollten deshalb bereits vor dem produktiven Einsatz festlegen:
Wer darf was entscheiden – und wer greift wann ein?
Drei unterschiedliche Formen menschlicher Kontrolle
Für die Praxis hilft es, nicht nur in „Mensch drin“ oder „Mensch draußen“ zu denken.
Je nach Risiko kann die Zusammenarbeit unterschiedlich gestaltet werden.
1. Mensch entscheidet vor der Aktion
Die KI analysiert, strukturiert oder empfiehlt – aber eine qualifizierte Person prüft das Ergebnis und gibt die Handlung anschließend frei.
Das eignet sich besonders für sensible oder weitreichende Entscheidungen.
2. KI arbeitet selbstständig – der Mensch überwacht
Bei weniger kritischen, standardisierten Prozessen kann die KI weitgehend autonom arbeiten.
Ein Mensch überwacht beispielsweise Kennzahlen, Stichproben oder definierte Warnsignale und kann bei Bedarf eingreifen.
3. KI unterstützt – der Mensch nutzt das Ergebnis als Informationsquelle
Bei vielen Büro- und Wissensprozessen erstellt KI beispielsweise Analysen, Zusammenfassungen, Entwürfe oder Szenarien.
Der Mensch entscheidet anschließend selbst, wie stark er diese Ergebnisse in seine Arbeit einbezieht.
Die Herausforderung besteht also nicht darin, überall möglichst viel menschliche Kontrolle einzubauen.
Es geht darum, die richtige Kontrolle an der richtigen Stelle vorzusehen.
Beispiel 1: KI im Marketing
Eine KI erstellt einen ersten Entwurf für einen Newsletter.
Das Risiko ist vergleichsweise überschaubar.
Ein sinnvoller Prozess könnte sein:
KI erstellt → Mitarbeiter prüft Inhalt und Fakten → Veröffentlichung
Hier braucht es wahrscheinlich keine Geschäftsführung und kein komplexes Freigabegremium.
Trotzdem sollte klar sein, wer die inhaltliche Verantwortung trägt und beispielsweise falsche Behauptungen, vertrauliche Informationen oder problematische Formulierungen erkennt.
Beispiel 2: KI im Vertrieb
Komplexer wird es, wenn KI beispielsweise Kundendaten analysiert und daraus Empfehlungen ableitet:
Welche Kunden zeigen Abwanderungsrisiken?
Wo besteht Cross-Selling-Potenzial?
Welche Leads sollten bevorzugt bearbeitet werden?
Solche Modelle können wertvolle Orientierung liefern.
Doch sie können auch Muster reproduzieren, relevante Kontextinformationen übersehen oder auf Daten basieren, deren Qualität nicht ausreichend ist.
Deshalb könnte der Prozess hier lauten:
KI analysiert → Vertriebsverantwortlicher plausibilisiert → Entscheidung wird im Geschäftskontext getroffen
Die KI unterstützt die Entscheidung.
Sie ersetzt aber nicht automatisch die Erfahrung desjenigen, der Kunden, Markt und strategische Prioritäten kennt.
Beispiel 3: KI in der Personalauswahl
Besonders sensibel wird es bei Personalentscheidungen.
Eine KI kann Bewerbungen strukturieren, Qualifikationen vergleichen oder Informationen aufbereiten.
Die entscheidende Frage lautet aber:
Welche Rolle darf sie bei der tatsächlichen Auswahl spielen?
Gerade hier geht es nicht um das viel zitierte „Bauchgefühl“, sondern um einen transparenten, nachvollziehbaren und fair gestalteten Entscheidungsprozess.
KI-Anwendungen in bestimmten Beschäftigungs- und Recruiting-Kontexten können unter die Hochrisikoregeln des EU AI Act fallen. Für Hochrisiko-KI sieht Artikel 14 ausdrücklich wirksame menschliche Aufsicht vor. Die zuständigen Personen müssen unter anderem die Grenzen des Systems verstehen, Ergebnisse angemessen interpretieren und sie bei Bedarf ignorieren, übersteuern oder das System stoppen können. (EU AI Act)
Human Oversight ist damit bei bestimmten KI-Anwendungen längst nicht nur eine Frage guter Unternehmenskultur.
Sie kann auch Teil regulatorischer Anforderungen sein.
Eine wichtige Gefahr: Automation Bias
Ein Punkt wird bei Human in the Loop häufig unterschätzt. Menschen neigen dazu, Empfehlungen automatisierter Systeme stärker zu vertrauen, insbesondere wenn die Ergebnisse professionell, präzise oder mathematisch wirken.
Der EU AI Act spricht bei Hochrisiko-Systemen ausdrücklich die Gefahr des Automation Bias an – also die Tendenz, sich übermäßig auf automatisch erzeugte Ergebnisse oder Empfehlungen zu verlassen. (EU AI Act)
Das ist für Unternehmen enorm relevant.
Denn ein Mitarbeiter kann offiziell die Entscheidungshoheit behalten – und trotzdem faktisch fast immer der KI folgen.
Die entscheidende Frage lautet deshalb nicht nur:
„Ist ein Mensch beteiligt?“
Sondern:
„Kann und darf dieser Mensch die KI tatsächlich infrage stellen?“
Dafür braucht er Fachkompetenz, ausreichende Informationen, Zeit und die notwendige Entscheidungsbefugnis.
Human in the Loop beginnt deshalb mit Führung
Aus meiner Sicht sollten Geschäftsführer beim KI-Einsatz mindestens fünf Punkte klären.
1. Welche Entscheidungen darf KI beeinflussen?
Erstellen Sie nicht nur eine Liste der verwendeten Tools.
Betrachten Sie die tatsächlichen Entscheidungen und Prozesse dahinter.
Wo unterstützt KI lediglich?
Wo empfiehlt sie?
Und wo löst ihr Ergebnis möglicherweise direkt eine Handlung aus?
2. Welche Folgen kann ein falsches Ergebnis haben?
Unterscheiden Sie einfache Produktivitätsanwendungen von geschäftskritischen oder sensiblen Anwendungen.
Je höher das Risiko, desto klarer sollten Prüfung, Freigabe und Eskalation geregelt sein.
3. Wer besitzt die notwendige Fachkompetenz?
Human Oversight funktioniert nur dann, wenn die verantwortliche Person beurteilen kann, ob ein Ergebnis plausibel ist.
KI-Kompetenz bedeutet deshalb nicht nur zu wissen, wie man gute Prompts schreibt.
Es bedeutet auch, Grenzen, Fehlerquellen und Risiken der Technologie einschätzen zu können.
4. Wann muss ein Mensch eingreifen?
Definieren Sie konkrete Auslöser.
Zum Beispiel:
- ungewöhnliche Ergebnisse,
- hohe finanzielle Auswirkungen,
- sensible personenbezogene Entscheidungen,
- unzureichende Datenqualität,
- Konflikte mit Unternehmensrichtlinien
- oder Entscheidungen außerhalb definierter Schwellenwerte.
Dann wird aus „Der Mensch schaut noch einmal drauf“ ein klarer Prozess.
5. Wer trägt am Ende Verantwortung?
Diese Frage sollte bei jedem relevanten KI-Anwendungsfall eindeutig beantwortet werden.
Denn Verantwortung lässt sich nicht an einen Algorithmus delegieren.
Und was haben Werte damit zu tun?
Damit komme ich zurück zu meiner eigenen geschäftlichen Entscheidung. Unternehmen werden künftig immer häufiger feststellen, dass KI technisch mehr ermöglicht, als sie organisatorisch, rechtlich oder vielleicht auch kulturell tatsächlich nutzen wollen.
Dann reicht die Frage „Können wir das automatisieren?“ nicht mehr aus.
Es braucht zusätzlich Fragen wie:
„Wollen wir das automatisieren?“
„Passt diese Art der Entscheidung zu unserem Unternehmen?“
„Welche Verantwortung möchten wir bewusst beim Menschen belassen?“
Gerade im Mittelstand spielen Unternehmenswerte häufig eine größere Rolle, als es in Strategiepapiere passt.
Langjährige Kundenbeziehungen, unternehmerische Verantwortung, Verlässlichkeit und eine gewachsene Unternehmenskultur beeinflussen Entscheidungen.
KI sollte diese Werte nicht ersetzen.
Sie sollte so eingesetzt werden, dass sie die wirtschaftlichen Ziele des Unternehmens unterstützt, ohne zentrale Grundsätze unbeabsichtigt auszuhebeln.
Der EU AI Act macht Human Oversight zusätzlich relevant
Unternehmen sollten Human in the Loop nicht ausschließlich unter ethischen Gesichtspunkten betrachten.
Der europäische AI Act verlangt bei Hochrisiko-KI wirksame menschliche Aufsicht. Diese Aufsicht soll dem Risiko, dem Autonomiegrad und dem Einsatzkontext angemessen sein. Menschen müssen unter anderem die Fähigkeiten und Grenzen des Systems verstehen, Ergebnisse hinterfragen und in bestimmten Situationen eingreifen können. (EU AI Act)
Nicht jede KI-Anwendung in Ihrem Unternehmen ist deshalb automatisch ein Hochrisiko-System.
Aber das Grundprinzip ist auch darüber hinaus sinnvoll:
Je größer die mögliche Auswirkung einer KI-gestützten Entscheidung, desto bewusster sollte die menschliche Verantwortung gestaltet werden.
Das ist keine Rechtsberatung, sondern aus meiner Sicht ein solides Prinzip für verantwortungsvolle Unternehmensführung.
Ein einfacher Human-in-the-Loop-Check für Geschäftsführer
Wenn Sie aktuell KI-Anwendungen planen oder bereits einsetzen, können Sie für jeden relevanten Anwendungsfall diese fünf Fragen stellen:
- Welche konkrete Entscheidung oder Handlung beeinflusst die KI?
- Was wäre die Konsequenz eines falschen oder ungeeigneten Ergebnisses?
- Wer kann das Ergebnis fachlich beurteilen?
- Wann muss diese Person eingreifen, stoppen oder übersteuern?
- Wer trägt die Verantwortung für die endgültige Entscheidung?
Wenn eine dieser Fragen nicht klar beantwortet werden kann, lohnt es sich, den Prozess noch einmal genauer anzusehen.
Fazit: Es geht nicht um Mensch oder KI
Die spannendsten KI-Projekte entstehen aus meiner Sicht nicht dort, wo Unternehmen versuchen, möglichst viele Menschen aus Prozessen zu entfernen.
Sie entstehen dort, wo klar entschieden wird, was Maschinen besser können – und was Menschen besser verantworten sollten.
KI kann Geschwindigkeit erhöhen, große Informationsmengen verarbeiten, Muster erkennen und Entscheidungsgrundlagen verbessern.
Menschen bringen Kontext, Erfahrung, Urteilskraft und Verantwortung ein.
Die entscheidende Managementaufgabe lautet deshalb:
Welche Aufgaben kann KI zuverlässig übernehmen – und an welchen Stellen braucht Ihr Unternehmen bewusst menschliches Urteil, Kontrolle und Verantwortung?
Unternehmen, die diese Frage früh beantworten, nutzen KI nicht weniger ambitioniert.
Sie nutzen sie gezielter, kontrollierter und langfristig belastbarer.
Wie sieht das in Ihrem Unternehmen aus?
Vielleicht nutzen Ihre Mitarbeitenden bereits verschiedene KI-Werkzeuge.
Vielleicht diskutieren Sie erste Pilotprojekte.
Oder Sie stehen gerade vor der Frage, welche KI-Anwendungsfälle für Ihr Unternehmen überhaupt wirtschaftlich sinnvoll sind und wie diese verantwortungsvoll gestaltet werden sollten.
Als IHK-zertifizierter KI-Berater unterstütze ich mittelständische Unternehmen dabei, genau diese Fragen strukturiert zu beantworten: von der Identifikation sinnvoller Anwendungsfälle über Daten- und Prozessanforderungen bis zur Gestaltung geeigneter Pilotprojekte und klarer Entscheidungs- und Kontrollmechanismen.
Entscheidend ist für mich dabei nicht, möglichst viel KI einzusetzen.
Sondern die richtige KI an der richtigen Stelle – mit einem klaren wirtschaftlichen Nutzen und einem ebenso klaren Verantwortungsrahmen.
Wenn Sie prüfen möchten, welche KI-Anwendungsfälle in Ihrem Unternehmen sinnvoll sind, finden Sie weitere Informationen auf der Seite zur KI-Beratung. Oder sprechen Sie mich direkt an.
