КАТЕГОРИЯ
Оптимизация и решения
18 материалов
Парето-фронтНабор недоминируемых решений представляет возможные компромиссы.Задача многорукого бандитаРесурс распределяется между вариантами при неопределенной отдаче.Upper Confidence BoundВыбор учитывает среднюю награду и неопределенность оценки.Thompson SamplingДействия выбираются пропорционально вероятности их оптимальности.Локальный оптимумУлучшение соседних решений может застрять вдали от глобального максимума.Имитация отжигаКонтролируемые ухудшения помогают покидать локальные оптимумы.Градиентный спускПараметры изменяются в направлении уменьшения функции потерь.Стохастический градиентный спускШумные оценки градиента ускоряют обучение на больших данных.Метод НьютонаКривизна функции используется для быстрых локальных шагов.Условия Каруша-Куна-ТаккераУсловия стационарности, допустимости и дополняющей нежёсткости характеризуют кандидатов на оптимум в задачах с ограничениями.Двойственность ЛагранжаИсходная задача связана с нижними или верхними оценками двойственной задачи.Выпуклая оптимизацияЛокальный оптимум выпуклой задачи является глобальным.Проклятие размерностиОбъем пространства растет экспоненциально с числом измерений.РегуляризацияШтраф за сложность улучшает обобщение модели.Early StoppingОбучение останавливается до переобучения.Оптимизация второго порядкаКривизна ускоряет сходимость ценой вычислительной сложности.Good Enough PrincipleОграниченно рациональный агент выбирает достаточное, а не идеальное решение.Пять фокусирующих шаговУлучшение системы начинается с выявления ограничения, его эффективного использования и подчинения ему остальных решений.