Seit dem WordCamp Europe in Kraków beschäftigt mich ein Thema besonders – nämlich die echte Bedeutung von «Human in the loop». Ich sass im Talk von Tammie Lister und dachte: Das kenne ich. Das erlebe ich gerade selbst, mit Kunden, in Projekten, in der Agentur.
Ich habe in letzter Zeit oft gehört: «Bei uns ist immer ein Mensch im Loop.» Der Satz klingt eigentlich sehr beruhigend und kontrolliert. Aber was bedeutet das wirklich? Das ist ja per se noch kein Gütesiegel.
Was heisst «Human in the loop» eigentlich?
«Human in the loop» meint, dass ein Mensch in KI-gestützte Prozesse eingebunden ist – dass er mitentscheidet, kontrolliert, korrigiert. Der Begriff kommt ursprünglich aus der Softwareentwicklung und dem militärischen Bereich, hat sich aber inzwischen als allgemeines Qualitätsmerkmal etabliert: KI ja, aber mit menschlicher Aufsicht.
Das Problem: Der Begriff sagt nichts darüber aus, wie dieser Mensch eingebunden ist. Und dabei gibt es mehr Spielraum oder Folgeprobleme als man vielleicht so denkt.
Ein Loop ist keine Freigabe, sondern eben eine Schleife
Ein echter Loop ist kein Kontrollpunkt am Ende, kein kurzes Drüberschauen, kein Häkchen auf einer Checkliste. Es ist eine fortlaufende Arbeitsbeziehung zwischen Mensch und KI – mit echter Transparenz auf beiden Seiten. Ohne diese Transparenz ist «Human in the loop» bloss ein Alibi.
Tammie hat in ihrem Talk verschiedene Problemfälle erklärt, diese beiden sind mir besonders geblieben:
Der Gummistempel
Die KI produziert, der Mensch nickt ab. Und zwar alles, ohne wirklich genau zu lesen, zu prüfen, zu hinterfragen. Nicht weil er oder sie es nicht besser wüsste, sondern weil das Volumen schlicht zu gross ist, um jeden Output wirklich zu prüfen. Das passiert bei Code, bei Berichten, bei allen möglichen Arbeitsbereichen. Technisch ist der Mensch im Loop. Praktisch passiert keine echte Kontrolle mehr.
Das ist kein Vorwurf an die Person – es ist ein Design-Problem. Wer Systeme so aufbaut, schafft sich ein Alibi, aber keine Qualitätssicherung.
Die Ironie der Automatisierung: der Mensch erledigt nur noch harte und komplizierte Arbeit
Das ist die Falle, die am wenigsten offensichtlich ist – und die mich am meisten beschäftigt.
Wenn man die einfachen, repetitiven Aufgaben automatisiert, bleiben dem Menschen nur die schwierigsten Entscheidungen übrig. Das ist einerseits sehr anstrengend, aber auch gar nicht mal so schlau oder effizient, wie es vielleicht klingen mag. Denn die Routine einer Arbeit ist es, die Urteilsvermögen aufbaut.
Beispiel: Wenn KI-Tools immer mehr Formulierungsarbeit übernehmen, wird auch das Redigieren schwieriger, weil man seltener übt, selbst zu schreiben. Wer nie mehr einfache Texte redigiert (oder schreibt), verliert mit der Zeit das Gespür dafür, was einen guten Text ausmacht – und trifft dann die schwierigen Entscheidungen mit weniger Erfahrung. Der «Loop» macht uns nicht automatisch besser – er kann uns, bei schlechtem Design, abhängiger machen.
Auch bei kleinen Aufgaben
Ich bin sicher: Es geht bei «Human in the Loop» nicht darum, KI weniger zu nutzen. Sondern darum, das Prinzip auch wirklich ernst zu nehmen – auch bei kleinen Tasks.
Nicht nur bei der grossen strategischen Entscheidung, sondern beim einzelnen Artikel, beim einzelnen Social-Media-Post. Nicht als Gummistempel, sondern mit echtem Kontext: Was hat die KI gemacht? Kann ich es anpassen, stoppen, umleiten?
Das ist mehr Aufwand beim System-Design und beim Implementieren der KI-Systeme. Aber es ist der Unterschied zwischen KI als Werkzeug und KI als Autopilot. Und ich denke schlussendlich auch eine wichtige Weichenstellung, wenn wir über die Qualität des Outputs nachdenken.
Was das für Verlage und Agenturen bedeutet
Ich arbeite mit Verlagen, die den digitalen Wandel gerade erst angehen. Viele denken, KI erleichtert diesen Wandel. Manchmal stimmt das. Aber wenn Strukturen fehlen – wenn nicht klar ist, wer für welchen Inhalt verantwortlich ist, wie Inhalte entstehen sollen, was Qualität bedeutet –, dann erleichtert KI es nicht. Dann beschleunigt KI das Chaos.
«Human in the loop» ist kein Feature, das man einfach einschaltet. Es ist eine Frage, wie man Systeme baut, wie man Verantwortlichkeiten klärt, und wie viel Transparenz man wirklich will.
Das lohnt sich zu durchdenken – bevor man ein KI-System einführt, nicht danach. Wie siehst du das?
Inspiration für diesen Artikel: der Talk «Human in the loop means something» von Tammie Lister am WordCamp Europe 2026 in Kraków. Hier siehst du den ganzen Talk:
Über mich
