Human-in-the-loop

Human-in-the-loop (HITL) ist ein Konzept, das die Kombination von maschineller Intelligenz und menschlichem Urteilsvermögen beschreibt. Es bedeutet, dass ein Mensch an kritischen Punkten in den KI-Prozess eingebunden ist. Dies kann beim Training sein (Menschen labeln Daten für Active Learning), beim Tuning (RLHF - Menschen bewerten Chatbot-Antworten) oder in der Anwendung (eine KI schlägt eine Diagnose oder einen militärischen Schlag vor, aber ein Mensch muss den Knopf drücken).

HITL ist entscheidend für Sicherheit und Ethik: Es verhindert, dass KI in unbekannten Situationen unkontrolliert handelt, und sorgt dafür, dass menschliche Verantwortung gewahrt bleibt, besonders in Hochrisikobereichen.