Простыми словами
Например, оптимизатор учитывает не только направление роста ошибки, но и кривизну поверхности. Шаги могут быть точнее, однако расчёт матрицы второго порядка дорог для большой модели. Поэтому результат сравнивают не только с ближайшим улучшением, но и с ограничениями всей задачи - иначе можно быстро прийти к хорошему на вид, но далёкому от лучшего решению.
Пример при разработке
Оптимизатор учитывает не только направление роста ошибки, но и кривизну поверхности. Шаги могут быть точнее, однако расчёт матрицы второго порядка дорог для большой модели.
Это редакционный пример применения, а не часть определения или доказательство концепции.Механизм действия
Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на внимание, ожидания, ограничения выбора и обратную связь. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.
Пример в работе
Решение принимают без учета механизма «Оптимизация второго порядка», оценивая только ближайший эффект.
Перед изменением проверяют, как «Оптимизация второго порядка» влияет на ограничения, стимулы, зависимости и вторичные последствия.
Ограничения
«Оптимизация второго порядка» объясняет только часть происходящего в области «Оптимизация и решения». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.
Источник
Jorge Nocedal; Stephen J. Wright, “Numerical Optimization”, 2006.