Пиковая нагрузка

Средняя нагрузка редко бывает самой опасной

Пользователи не распределяют активность идеально равномерно по суткам. У сервиса могут быть вечерние часы пик, всплески после уведомлений, распродажи, начало трансляции или другой момент, когда запросов становится заметно больше среднего.

Если проектировать систему только по среднему RPS, она может прекрасно работать большую часть дня и регулярно ломаться именно тогда, когда нужна больше всего.

Пиковый коэффициент

Для быстрой оценки удобно использовать коэффициент пика: во сколько раз наиболее нагруженный период сильнее среднего. Если средняя нагрузка — 1 000 RPS, а разумное допущение для пика — в четыре раза больше, то проектировать путь запроса нужно уже примерно под 4 000 RPS.

average_RPS = 1,000
peak_factor = 4
peak_RPS = 1,000 × 4 = 4,000

Сам коэффициент не является универсальной константой. Для одного продукта пик может быть небольшим, а для другого кратковременный всплеск превышает среднее в десятки раз. Если есть исторические метрики, лучше опираться на них. Если данных нет — явно назвать допущение.

Пик и запас — не одно и то же

Пиковая нагрузка описывает ожидаемый максимум по модели. Запас мощности нужен на случай ошибки в прогнозе, роста продукта, деградации отдельных узлов или ситуации, когда система временно работает не в идеальном режиме.

estimated_peak = 4,000 RPS
headroom = 25%
target_capacity ≈ 5,000 RPS

Важно не превращать запас в магическое число. Слишком маленький запас делает систему хрупкой, а слишком большой может означать постоянную оплату ресурсов, которые почти никогда не используются. Это всё тот же архитектурный компромисс.

Короткий всплеск и длительный пик — разные задачи

Две системы с одинаковым максимальным RPS могут испытывать очень разную нагрузку. Если 10 000 RPS держатся пять секунд, это один сценарий. Если тот же уровень сохраняется два часа, требования к устойчивой производительности намного выше.

Поэтому кроме величины пика полезно понимать его длительность и частоту. Так становится ясно, является ли всплеск редкой аномалией или обычной частью рабочего дня.