Простыми словами
Например, gateway замечает рост минимальной задержки базы и временно сокращает число одновременных запросов вместо таймаутов всей очереди. Поэтому заранее определяют границы ожидания и поведение при отказе - иначе один медленный компонент начинает удерживать ресурсы и распространять проблему дальше.
Пример при разработке
Gateway замечает рост минимальной задержки базы и временно сокращает число одновременных запросов вместо таймаутов всей очереди.
Это редакционный пример применения, а не часть определения или доказательство концепции.Формальное определение
Адаптивный лимит меняет допустимое число одновременных запросов по наблюдаемой задержке и признакам насыщения.
Механизм действия
Контроллер измеряет baseline latency, периодически пробует нагрузку и повышает или снижает concurrency limit.
Пример в работе
Внедрить «Адаптивный предел параллелизма» как формальную настройку, не проверив сценарий отказа и ограничение: Ошибочная метрика или резкие изменения трафика вызывают колебания; фильтр должен контролировать весь поток.
Применять «Адаптивный предел параллелизма» только для заявленной цели, проверять поведение на реальном контуре и сохранять наблюдаемый критерий результата.
Ограничения
Ошибочная метрика или резкие изменения трафика вызывают колебания; фильтр должен контролировать весь поток.
Источник
Envoy Project, “Adaptive Concurrency Filter”, 2026.