SYSTEM ATLASЗагрузка материала

Задача многорукого бандита

Multi-Armed Bandit

Ресурс распределяется между вариантами при неопределенной отдаче.

Простыми словами

Например, алгоритм быстро нашёл хорошее решение рядом со стартовой точкой, но это ещё не означает, что лучшего решения нет в другой области поиска. Поэтому результат сравнивают не только с ближайшим улучшением, но и с ограничениями всей задачи - иначе можно быстро прийти к хорошему на вид, но далёкому от лучшего решению.

Механизм действия

Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на внимание, ожидания, ограничения выбора и обратную связь. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.

Пример в работе

Нерабочий подход

Решение принимают без учета механизма «Задача многорукого бандита», оценивая только ближайший эффект.

Системный подход

Перед изменением проверяют, как «Задача многорукого бандита» влияет на ограничения, стимулы, зависимости и вторичные последствия.

Ограничения

Классическая модель предполагает определённую структуру наград и наблюдений; задержки, зависимые действия и нестационарность меняют оптимальную стратегию.

Источник

Herbert Robbins, “Some Aspects of the Sequential Design of Experiments”, 1952.

Первоисточник