Human in the Loop

Beim HITL-Prinzip erledigt die KI die Fleißarbeit — Daten extrahieren, Entwürfe schreiben, Fälle vorsortieren — und ein Mensch übernimmt die Kontrollpunkte: Er prüft das Ergebnis, gibt es frei oder korrigiert es. Die Korrekturen können wiederum genutzt werden, um das System zu verbessern. Typische Kontrollpunkte sind Freigaben vor dem Versand, Prüfung bei niedriger Konfidenz der KI oder Stichproben bei Routinefällen.

Gut gestaltete HITL-Prozesse sind abgestuft: Eindeutige Routinefälle laufen automatisch durch, Grenzfälle landen beim Menschen. So bleibt der Effizienzgewinn hoch, ohne dass die Qualität leidet. Mit wachsendem Vertrauen in das System kann der Automatisierungsgrad schrittweise erhöht werden.

Rechtlich ist menschliche Aufsicht an mehreren Stellen verankert: Art. 22 DSGVO gibt Betroffenen das Recht, nicht einer ausschließlich automatisierten Entscheidung mit rechtlicher Wirkung unterworfen zu werden. Der EU AI Act schreibt für Hochrisiko-Systeme menschliche Aufsicht ausdrücklich vor. Für den Mittelstand heißt das: Bei Entscheidungen mit erheblicher Wirkung auf Personen — Bewerbungen, Kredite, Kündigungen — muss ein Mensch das letzte Wort haben.

Auch jenseits der Pflicht ist HITL der pragmatische Weg, KI einzuführen: Teams gewinnen Vertrauen, Fehler werden früh erkannt, und der Übergang von 'KI schlägt vor' zu 'KI erledigt, Mensch prüft Stichproben' erfolgt kontrolliert statt riskant.

Der häufigste Fehler ist das Durchwink-Muster: Wenn ein Mensch täglich dutzende KI-Ergebnisse freigeben soll, die fast immer stimmen, wird die Prüfung nach wenigen Wochen zur Formalie — geklickt wird, ohne zu lesen. Dieses Phänomen ist als Automatisierungs-Bias bekannt: Menschen vertrauen maschinellen Vorschlägen umso mehr, je seltener sie Fehler erleben. Die Gegenmittel sind strukturell: Prüfmengen klein halten (nur Grenzfälle und Stichproben statt alles), die Konfidenz der KI sichtbar machen, damit der Prüfer weiß, wo genaues Hinsehen lohnt, und gelegentlich bewusst prüfen lassen, ob auffällige Fälle erkannt werden.

Der zweite Fehler ist unklare Verantwortung: Wenn 'irgendwer im Team' freigibt, fühlt sich niemand zuständig, und Fehler wandern durch. Gute HITL-Prozesse benennen pro Prozessschritt eine verantwortliche Rolle und protokollieren, wer wann was freigegeben hat — nicht zur Überwachung, sondern damit im Fehlerfall nachvollziehbar ist, wo die Kette gerissen ist. Der dritte Fehler ist ein fehlender Rückkanal: Korrekturen, die nicht ins Regelwerk zurückfließen, müssen ewig wiederholt werden. Jede menschliche Korrektur sollte das System dauerhaft besser machen — sonst prüft man in fünf Jahren noch dieselben Fälle.

"Mensch im Prozess" ist kein Alles-oder-nichts, sondern kennt Abstufungen, die man bewusst wählen sollte. Beim engsten Muster prüft und bestätigt ein Mensch jede einzelne KI-Ausgabe, bevor sie wirksam wird — die KI schlägt vor, der Mensch entscheidet. Eine mittlere Variante lässt die KI eigenständig handeln, verlangt aber einen erreichbaren Menschen, der eingreifen und stoppen kann, und der Grenzfälle sowie Stichproben prüft. Beim lockersten Muster arbeitet die KI weitgehend autonom, während der Mensch nur noch überwacht und im Ausnahmefall korrigiert. Welche Stufe angemessen ist, hängt vom Risiko ab: Je erheblicher die möglichen Folgen für Personen, desto enger die Kontrolle.

Diese Unterscheidung ist mehr als akademisch, denn der EU AI Act verlangt für Hochrisiko-Systeme wirksame menschliche Aufsicht — und wirksam heißt: Der Mensch muss die KI-Ausgabe tatsächlich verstehen, ihr widersprechen und sie außer Kraft setzen können. Ein bloßes Bestätigungshäkchen, das aus Gewohnheit gesetzt wird, erfüllt das nicht; genau hier trifft die rechtliche Anforderung auf das zuvor beschriebene Durchwink-Problem. Für die Praxis folgt daraus, die Kontrollstufe je Prozessschritt festzulegen und ehrlich zu prüfen, ob die vorgesehene Aufsicht im Alltag wirklich ausgeübt wird oder nur auf dem Papier steht. Menschliche Kontrolle, die niemand ernsthaft wahrnimmt, ist weder rechtlich tragfähig noch praktisch nützlich.

Automatisierungs-Bias beschreibt die Tendenz, maschinellen Empfehlungen zu vertrauen, selbst wenn Hinweise auf Fehler vorliegen. Er entsteht durch Erfahrung: Wer viele Male erlebt hat, dass die KI korrekte Ergebnisse liefert, prüft beim nächsten Fall weniger aufmerksam. Das macht ihn tückisch — er wächst genau dann, wenn das System gut funktioniert, und ist in Freigabeprozessen mit hohem Volumen besonders verbreitet.

Gegenmaßnahmen müssen strukturell ansetzen. Erstens: Prüfmengen bewusst klein halten — nur Grenzfälle und gezielte Stichproben statt jede Ausgabe. Zweitens: die Konfidenz der KI sichtbar machen, damit Prüfende wissen, wo genaueres Hinsehen lohnt. Drittens: gelegentlich bekannte Fehler oder Grenzfälle absichtlich in den Prüfstrom einspeisen und beobachten, ob sie erkannt werden. Wer merkt, dass sein Team einen Fehlerfall durchgewinkt hat, hat ein klares Signal: Der Prozess braucht mehr Struktur, nicht mehr Appelle an die Sorgfalt einzelner Personen.