SYSTEM ATLASЗагрузка материала

Теория очередей

Queueing Theory

Задержки растут нелинейно, когда загрузка ресурса приближается к его предельной мощности.

Простыми словами

Например, обработка большого набора данных упирается не в один расчёт, а в ожидание памяти, диска или соседнего этапа. Поэтому практический вывод такой: оставлять запас мощности и применять backpressure.

Механизм действия

Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на структуру компонентов, потоки данных, ограничения и действия участников. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.

Пример в работе

Нерабочий подход

Планировать постоянную работу ресурса на 100% загрузки.

Системный подход

Оставлять запас мощности и применять backpressure.

Ограничения

Модели очередей чувствительны к распределениям прибытия и обслуживания, числу каналов и дисциплине; средние значения не заменяют анализ хвостов.

Источник

Agner Krarup Erlang, “The Theory of Probabilities and Telephone Conversations”, 1909.

Первоисточник