SYSTEM ATLASЗагрузка материала

Upper Confidence Bound

Upper Confidence Bound

Выбор учитывает среднюю награду и неопределенность оценки.

Простыми словами

Например, команда подбирает параметры системы и обнаруживает, что улучшение одного показателя одновременно ухудшает другой. Поэтому результат сравнивают не только с ближайшим улучшением, но и с ограничениями всей задачи - иначе можно быстро прийти к хорошему на вид, но далёкому от лучшего решению.

Механизм действия

Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на внимание, ожидания, ограничения выбора и обратную связь. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.

Пример в работе

Нерабочий подход

Решение принимают без учета механизма «Upper Confidence Bound», оценивая только ближайший эффект.

Системный подход

Перед изменением проверяют, как «Upper Confidence Bound» влияет на ограничения, стимулы, зависимости и вторичные последствия.

Ограничения

«Upper Confidence Bound» объясняет только часть происходящего в области «Оптимизация и решения». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.

Источник

Peter Auer; Nicolò Cesa-Bianchi; Paul Fischer, “Finite-Time Analysis of the Multiarmed Bandit Problem”, 2002.

Первоисточник