Простыми словами
Представьте автоматическую систему, которая простые случаи решает сама, а сомнительные передаёт специалисту. Human-in-the-loop сохраняет человеческое решение там, где цена ошибки или неопределённость высоки, поэтому автоматизация не обязана быть безусловной.
Механизм действия
Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на условия, ограничения, взаимодействия и наблюдаемые последствия. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.
Пример в работе
Применять локальное решение без проверки контекста, ограничений и вторичных последствий.
Сначала определить механизм, затем выбрать минимальное изменение и измерить результат.
Ограничения
«Human-in-the-Loop» объясняет только часть происходящего в области «AI и машинное обучение». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.
Источник
Saleema Amershi et al., “Power to the People: The Role of Humans in Interactive Machine Learning”, 2014.