Garbage collection под нагрузкой: как GC влияет на latency (Java, Go, Node.js)

Garbage collection (GC) — это механизм автоматического управления памятью. Он освобождает объекты, которые больше не используются, чтобы разработчику не приходилось делать это вручную.

Звучит удобно, но у GC есть цена — он может влиять на latency. В высоконагруженных системах это особенно критично.

Почему GC влияет на latency

Во время работы GC происходит:

• поиск неиспользуемых объектов
• освобождение памяти
• иногда остановка приложения (Stop-The-World, STW)

Даже короткие паузы могут приводить к:

• задержкам ответов API
• скачкам p99 latency
• деградации пользовательского опыта

Особенно это заметно при высокой нагрузке и большом объёме аллокаций.

Основные типы GC

1. Stop-the-World
   • полностью останавливает выполнение программы
   • простой, но даёт большие задержки
2. Incremental GC
   • выполняется частями
   • снижает длительность пауз
3. Concurrent GC
   • работает параллельно с приложением
   • минимизирует stop-the-world

Современные рантаймы используют комбинации этих подходов.

Java

В Java существует несколько GC, но чаще всего используются:

• G1 GC
• ZGC
• Shenandoah

Особенности

• G1 делит память на регионы и собирает их выборочно
• ZGC и Shenandoah делают акцент на минимальные паузы (миллисекунды)

Под нагрузкой

Проблемы:

• частые аллокации → частый GC
• большие heap → долгие паузы

Решения:

• выбирать современный GC (ZGC/Shenandoah)
• настраивать heap (-Xms, -Xmx)
• уменьшать количество короткоживущих объектов

Go

Go использует concurrent GC, ориентированный на low latency.

Особенности:

• GC работает параллельно с приложением
• паузы обычно очень короткие (микросекунды/миллисекунды)
• управление через параметр GOGC

Под нагрузкой

Проблемы:

• большое количество аллокаций увеличивает частоту GC
• рост heap увеличивает нагрузку на GC

Решения:

• снижать аллокации (использовать pool, reuse объектов)
• тюнить GOGC
• профилировать (pprof)

Node.js (V8)

Node.js использует GC из движка V8.

Особенности:

• generational GC (young + old generation)
• быстрые сборки для short-lived объектов

Под нагрузкой

Проблемы:

• single-threaded модель усиливает влияние GC
• паузы блокируют event loop

Решения:

• избегать лишних аллокаций
• следить за размером heap (--max-old-space-size)
• использовать стримы вместо буферизации больших данных

Как GC влияет на p99

Среднее время ответа может выглядеть нормально, но GC создаёт редкие, но заметные пики.

Пример:

• avg latency: 20 ms
• p99 latency: 300 ms

Причина — редкие GC-паузы.

Это особенно критично для:

• API
• real-time систем
• финансовых сервисов

Практические советы

1. Снижайте аллокации
   • переиспользуйте объекты
   • избегайте лишних копирований
2. Следите за heap
   • слишком маленький → частый GC
   • слишком большой → долгие паузы
3. Используйте профилирование
   • Java: JFR, VisualVM
   • Go: pprof
   • Node.js: clinic.js, heap snapshots
4. Мониторинг
   • GC pause time
   • allocation rate
   • heap size

Итог

GC — это компромисс между удобством и производительностью.

• Java даёт гибкость и выбор алгоритмов
• Go делает упор на low latency
• Node.js требует аккуратности из-за single-threaded модели

Под нагрузкой GC становится важным фактором latency, особенно для p99. Поэтому его нужно не просто включить, а понимать и тюнить под конкретную систему.