Erklärung
Was ist Human-in-the-Loop AI? Prüfung und Freigabe erklärt
Human-in-the-Loop AI (HITL) bezeichnet eine Gestaltung KI-gestützter Arbeit, bei der ein Mensch an festgelegten Punkten urteilt oder autorisiert, bevor der Prozess weiterläuft. Ein sinnvoller Review-Gate hält eine konkrete Aktion an, zeigt Belege und erwartete Wirkung, gibt einer berechtigten Person echte Optionen und hält fest, wie die Aufgabe nach Freigabe, Überarbeitung, Ablehnung oder Eskalation fortgesetzt wird.
Es geht nicht darum, nach jedem Schritt auf Freigeben zu klicken. Menschliche Autorität soll dort bleiben, wo Kontext, Folgen und Verantwortung zählen.
Recherche und Transparenz: Ottermind veröffentlicht diesen Artikel. Am 26. August 2026 prüften wir Primärquellen von NIST, Anthropic und Microsoft. Der Review-Vertrag und das Kampagnenbeispiel sind eigene redaktionelle Modelle, kein Ottermind-Benchmark.
Was bedeutet Human-in-the-Loop AI?
Bei HITL erledigt KI einen Teil der Aufgabe, während ein Mensch an einem oder mehreren Entscheidungspunkten eingreift. Er kann Kontext ergänzen, Optionen wählen, eine Interpretation korrigieren, eine Aktion freigeben, einen Vorschlag ablehnen oder übernehmen.
Die bloße Anwesenheit eines Nutzers reicht nicht. Es muss einen ausdrücklichen Weg geben, auf dem menschliches Urteil den weiteren Ablauf verändert. Ein Hinweis nach einer automatisch versandten Nachricht ist keine menschliche Entscheidungsschleife.
Trainingsfeedback und Review während der Ausführung
| Schleife | Zeitpunkt | Was sich ändert | Beispiel |
|---|---|---|---|
| Modellentwicklung | Kennzeichnung, Training oder Evaluation | Künftiges Modellverhalten | Prüfer vergleichen Antworten |
| Aufgabenausführung | Während realer Arbeit | Aktuelle Entscheidung, Aktion oder Ergebnis | Eine Leitung genehmigt das Briefing vor der Produktion |
Dieser Artikel behandelt die zweite Form. HITL ist eine Ausführungskontrolle und ersetzt weder Modellevaluation, automatische Prüfungen, Berechtigungen noch organisatorische Verantwortung.
In, on oder out of the loop
| Modus | Ablauf | Rolle des Menschen | Geeignet für |
|---|---|---|---|
| Menschgeführt | Mensch steuert jeden wesentlichen Schritt | Operator | Neue oder mehrdeutige Arbeit |
| Human-in-the-loop | Stopp an definierten Gates | Prüfer oder Entscheider | Wichtiges Urteil und externe Aktionen |
| Human-on-the-loop | System arbeitet überwacht weiter | Aufsicht | Begrenzte, sichtbare und reversible Vorgänge |
| Human-out-of-the-loop | Keine routinemäßige Beteiligung | Richtlinienverantwortung außerhalb der Ausführung | Enge, getestete Niedrigrisiko-Automation |
Eine Aufgabe kann mehrere Modi verbinden. Das vollständige Modell aus Planung, Werkzeugen, Gedächtnis und Review erklärt Was ist ein agentischer Workflow?.
Die allgemeinere Kategoriedefinition finden Sie unter Was ist agentische KI?.
Wann sollte KI anhalten?
- Ungeklärte Absicht: Mehrere Auslegungen führen zu wesentlich anderen Ergebnissen.
- Schwache oder widersprüchliche Belege: Eine wichtige Aussage hat keine Quelle oder aktuelle Dokumente widersprechen sich.
- Externe Repräsentation: Ein Inhalt spricht für eine Person oder Organisation.
- Folgenreiche Aktion: Senden, Veröffentlichen, Kaufen, Löschen, Zahlen, Zugriff gewähren oder offizielle Daten ändern.
- Formale Autorität: Gesetz, Vertrag oder Richtlinie verlangt eine benannte menschliche Entscheidung.
Bewerten Sie Auswirkung, Reversibilität, Erkennbarkeit und Autorität. Modellkonfidenz allein genügt nicht.
| Risiko | Kontrolle | Beispiel |
|---|---|---|
| Gering und leicht prüfbar | Automatisch mit Protokoll | Doppelte Notizen ordnen |
| Mittel oder unklare Auslegung | Zwischenartefakt prüfen | Positionierung wählen |
| Hoch, aber reversibel | Exakte Aktion freigeben | Geprüfte Kundenmail planen |
| Hoch und schwer umkehrbar | Menschliche Ausführung oder Verbot | Zahlung oder Datensatzlöschung |
Der Review-Vertrag mit fünf Feldern
| Feld | Frage | Erforderliche Informationen |
|---|---|---|
| Aktion | Was wartet? | Änderung, Ziel, Zeitpunkt und Umfang |
| Belege | Woran wird entschieden? | Quellen, Annahmen, Diff, Vorschau, Checks und Risiken |
| Prüfer | Wer darf entscheiden? | Verantwortliche Rolle, Vertretung und Frist |
| Entscheidung | Welche Optionen gibt es? | Freigeben, überarbeiten, ablehnen, übernehmen, eskalieren |
| Fortsetzung | Was folgt danach? | Gespeicherter Zustand, nächster Schritt, Ablauf und Protokoll |
Der Vertrag Aktion–Belege–Prüfer–Entscheidung–Fortsetzung macht Review umsetzbar und testbar. Fehlt ein Feld, kann die Person die Anfrage möglicherweise nicht verstehen, Autorität ausüben oder die Aufgabe sinnvoll fortsetzen.
Beispiel: Kampagnenpaket prüfen
Ein Team stellt Produktnotizen, Interviews, genehmigte Aussagen und Markenregeln bereit. Die KI erstellt Briefing, Landingpage, E-Mails und Präsentation.
| Gate | Aktion | Belege | Verantwortlich | Fortsetzung |
|---|---|---|---|---|
| Wahrheitsquelle | Zwischen widersprüchlichen Beschreibungen wählen | Dokumente, Daten und betroffene Aussagen | Produktleitung | Wählen, klären oder Aussage entfernen; ab Belegkarte fortsetzen |
| Strategie | Eine Positionierung in alle Assets übernehmen | Zielgruppenbelege, Optionen, Abwägungen, Annahmen | Marketingleitung | Freigeben oder ändern; ab genehmigtem Briefing fortsetzen |
| Veröffentlichung | Senden oder veröffentlichen | Vorschau, Claim-Check, Links, Empfänger und Rollback | Kanalverantwortung | Autorisieren, zurückgeben oder abbrechen; Entwürfe bewahren |
Das Beispiel ist illustrativ, kein Produktionstest. Ändert sich die Wahrheitsquelle, werden abhängige Ergebnisse veraltet. Wird die Positionierung abgelehnt, geht die Arbeit zum Briefing zurück. Siehe KI-Marketing-Workflow.
Mehr als Freigeben oder Ablehnen
- Freigeben: Aus dem geprüften Zustand fortfahren.
- Überarbeiten: Strukturiertes Feedback zum frühesten betroffenen Artefakt geben.
- Ablehnen: Den Pfad stoppen und Belege sowie Grund bewahren.
- Übernehmen: Der Mensch führt die Aktion aus und gibt den neuen Zustand zurück.
- Eskalieren: An eine Rolle mit Autorität oder Fachwissen weitergeben.
- Ablaufen: Sicher stoppen, wenn die Entscheidung nicht mehr aktuell ist.
Sinnvoller Review benötigt Kontext, Kompetenz, Zeit, echte Autorität und Nachvollziehbarkeit. Auch Menschen haben Verzerrungen; ihre Anwesenheit beweist keine Richtigkeit.
Häufige Fehler
- Erst am Ende prüfen, nachdem sich ein Fehler verbreitet hat.
- Für jede harmlose Lese- oder Sortieraktion eine Freigabe verlangen.
- Nur eine Zusammenfassung statt der konkreten Aktion und Wirkung zeigen.
- Ablehnung, Ablauf und Fortsetzung nicht definieren.
- Verfügbarkeit mit Entscheidungskompetenz verwechseln.
- Korrekturen sammeln, ohne Quellen, Kriterien oder Rechte zu verbessern.
Eine HITL-Aufgabe gestalten
- Ergebnis und verantwortliche Person benennen.
- Entscheidungen, Entwürfe, Checks und externe Aktionen trennen.
- Auswirkung, Reversibilität, Erkennbarkeit und Autorität bewerten.
- Niedrigrisiko-Vorbereitung automatisieren.
- Mehrdeutige Urteile und repräsentative Ausgaben prüfen.
- Folgenreiche Aktionen exakt autorisieren lassen.
- Für jedes Gate fünf Felder ausfüllen.
- Überarbeitung, Ablehnung, Übernahme, Eskalation und Ablauf definieren.
- Nachgelagerte Arbeit bei geänderter Vorentscheidung ungültig machen.
- Akzeptierte Ergebnisse, Korrekturen und Vorfälle messen.
Quellen, Grenzen und Akzeptanzkriterien lassen sich mit Aufgaben mit KI automatisieren vorbereiten.
Wie Ottermind dazu passt
Ottermind ist ein KI-Agent-Workspace für Aufgaben, die mit Ziel, Dateien, Links und Kontext beginnen und in Briefing, Bericht oder Präsentation münden. Quellen, Entscheidungen und Artefakte bleiben verbunden. Ein Team kann Belegkarte oder Plan prüfen, die Richtung ändern und fortfahren, ohne neu zu beginnen.
Ottermind ersetzt keine verantwortlichen Personen oder Fachprüfung. Beginnen Sie mit einem begrenzten, prüfbaren Ergebnis. Senden, Veröffentlichen, Kaufen, Löschen und offizielle Änderungen bleiben ohne ausdrückliche Kontrollen außerhalb der Agentenbefugnis.
Häufige Fragen
Muss jede KI-Ausgabe freigegeben werden?
Nein. Die Kontrolle richtet sich nach Auswirkung, Reversibilität, Erkennbarkeit und Autorität. Ein privater Entwurf kann später geprüft werden; Zahlung oder Veröffentlichung kann Freigabe verlangen.
Garantiert menschlicher Review Richtigkeit?
Nein. Prüfer können Kontext, Kompetenz, Zeit oder Unabhängigkeit vermissen. Review stärkt Kontrolle nur bei guten Belegen, Entscheidungsrechten und Fortsetzungspfaden.
Wie viele Gates sind sinnvoll?
So wenige wie möglich und so viele wie nötig: insbesondere für Absicht, Belege, externe Repräsentation, folgenreiche Aktionen und formale Autorität.
Was folgt auf eine Ablehnung?
Belege und Entscheidung bewahren, Aktion stoppen und einem definierten Pfad folgen: überarbeiten, recherchieren, übernehmen, eskalieren oder sicher beenden.
Fazit
Human-in-the-Loop AI ist nicht das vage Versprechen, dass „jemand prüft“. Es ist konkrete Kontrolle: Die richtige Aktion stoppt, die richtigen Belege sind sichtbar, die richtige Person hat echte Optionen und die Aufgabe kann sicher fortgesetzt oder beendet werden.
