Кратко и по делу — что профилировать (CPU, память, I/O), какие инструменты для Java / Python / C++, какие метрики собирать и как по ним принимать решения об оптимизации.
1) Общая методика (коротко)
- Сначала воспроизведите нагрузку (стейдж/прод) и снимите базовую метрику (латентности, пропускная способность, ресурсное потребление).
- Сначала sampling‑профайлер (малый оверхед) → если нужно — инструментированный профилинг для точных измерений.
- Сравните «до/после» любых изменений и измеряйте реальные SLO/метрики, а не только локальные ускорения.
2) Инструменты по языкам
- Java:
- CPU: Java Flight Recorder (JFR), async‑profiler, VisualVM (sampling), YourKit / JProfiler.
- Memory: jmap / jcmd / jmap -heap, JFR allocations, VisualVM heap dump, Eclipse MAT (анализ дампов), GC‑логирование (‑Xlog:gc*).
- I/O / sys: async‑profiler (native I/O stacks), perf / bpftrace / eBPF, strace (debug).
- Debug helpers: jstack (стэки), jstat (GC), jcmd GC.heap_info.
- Python:
- CPU: py-spy (sampling, production), pyinstrument, cProfile (instrument), yappi.
- Memory: tracemalloc (allocations в Python), memory_profiler (строковый профайл), objgraph/guppy, heapy, pympler.
- I/O / sys: strace, iostat, scapy/netstat, perf / eBPF, py-spy can show call stacks including native waits.
- Для C‑расширений: valgrind (callgrind/memcheck) или sampling с perf.
- C++:
- CPU: perf (Linux), gprof (старый), Intel VTune, async profiling (perf+FlameGraph), Google pprof (gperftools), perfetto.
- Memory: valgrind massif (память), Heaptrack, AddressSanitizer/LeakSanitizer (локальные утечки), gperftools tcmalloc heap profiler.
- I/O / sys: strace, iostat/blktrace, bpftrace/eBPF, fio для тестов.
- Интеграция: сбор flamegraphs (perf + stackcollapse + flamegraph.pl).
3) Какие метрики собирать (и почему)
- CPU:
- общий % загрузки CPU, по ядрам; user vs system vs iowait.
- CPU time по функциям (samples): горячие функции/горячие трассы.
- частота контекстных переключений, syscall rate.
- формула загрузки: CPU utilization = $\frac{\text{busy time}}{\text{wall time}}\times 100\%$.
- Память:
- RSS (resident set), VMS (virtual size), heap size, peak RSS.
- allocation rate (байт/сек, число алокаций/сек).
- live objects / retained size, количество экземпляров по типам.
- частота и длительность GC (GC pause, частота коллекций).
- page faults (major/minor), swap usage, fragmentation.
- I/O (дисковое/сеть/синхронные вызовы):
- throughput = $\frac{\text{bytes transferred}}{\text{time}}$ (MB/s).
- IOPS (ops/sec), latency distribution (p50, p95, p99), syscall latency (read/write/fsync).
- queue depth, disk utilization %, kernel iowait.
- Конкурентность/блокировки:
- количество потоков, состояние (runnable/blocked), время ожидания mutex/locks.
- contention time, lock hold time, false sharing (для C++).
- Латентности приложения:
- p50/p95/p99 ответа сервиса, tail latencies — критичны для решений.
4) Как интерпретировать и какие решения принимать
- Сценарий: CPU‑bound
- Признаки: %CPU близок к максимуму (всех доступных ядер), высокая доля user CPU, профайлер показывает горячие функции.
- Действия: оптимизировать алгоритм (сложность), устранить лишние аллокации в горячем пути, в Java — уменьшить boxing, у Python — вынести горячий код в C/NumPy или использовать PyPy, у C++ — оптимизировать hotspot, ввести параллелизм/пул потоков, использовать JIT/JFR‑гайды.
- Memory‑bound / утечки
- Признаки: растущая RSS/heap без возврата, высокие allocation rates, GC часто и медленно, дампы показывают удерживаемые объекты.
- Действия: найти и устранить удерживающие ссылки, уменьшить retention (использовать weak refs, явное закрытие), уменьшить частоту аллокаций (пулы), оптимизировать структуры данных (например, заменить объектные графы на массивы), настроить GC/heap size, в C++ — исправить утечки и использовать эффективные аллокаторы.
- I/O‑bound
- Признаки: высокий iowait, низкий CPU при низкой загрузке, высокая дисковая/сетевая латентность, профайлер показывает блокировки в syscall read/write/fsync.
- Действия: кеширование, батчинг операций, асинхронный I/O, уменьшение fsync/частых синхронных записей, сжатие/объединение запросов, масштабирование по вводу/выводу (SSD, NVMe), изменение конфигурации ОС (I/O scheduler), параллелизация.
- Контенция/блокировки
- Признаки: много blocked threads, профайлер показывает time in lock/blocked, высокие tail latencies.
- Действия: уменьшить критические секции, использовать lock‑free структуры, шардирование/разделение данных, уменьшение времени в критических секциях.
- Когда оптимизировать код vs масштабировать:
- Если проблема в алгоритмической сложности или горячая функция — кодовая оптимизация дает выигрыш.
- Если узким местом является ресурс (диск/сеть) и оптимизация мала — масштабирование (горизонтальное) или апгрейд HW оправданы.
- Оцените трудозатраты: изменение алгоритма даёт долговременный выигрыш; patching config / caching — быстрый выигрыш.
5) Практический чеклист при профилировании
- Снять baseline метрик (CPU, RSS, p95 latency).
- Запустить sampling профайлер (async‑profiler, py-spy, perf) → найти топ‑10 функций по CPU/alloc.
- Для памяти: сделать heap dump + анализ retained size (Eclipse MAT / tracemalloc).
- Для I/O: собрать latency histogram (p50/p95/p99), iostat/blktrace, strace для подозрительных процессов.
- Уточнить причину (алгоритм, аллокации, syscalls) → предложить 1–2 целевых изменений.
- Внедрить изменение, прогнать нагрузку, сравнить метрики и SLO.
6) Быстрые команды‑пример (очень кратко)
- Java sampling: async‑profiler → produces flamegraph.
- Python sampling: py-spy top / record --flamegraph.
- C++ sampling: perf record -F 99 -g ./app && perf script | stackcollapse-perf.pl | flamegraph.pl.
7) Ключевые пороги и формулы для принятия решений
- CPU saturation: если средняя загрузка ≈ $100\%\times$число ядер → CPU‑bound.
- Throughput: throughput = $\frac{\text{bytes}}{\text{sec}}$.
- Latency SLO: если $p99>\text{SLO}$ — фокус на tail‑latency (снятие contention, GC tweaks, уменьшение sync).
- Основание для оптимизации: видимый горячий путь, значительный вклад в общее время или в p99, и реалистичный план улучшения.
Если нужно — могу дать конкретные команды и пример анализа профиля для вашего кода (Java/Python/C++) — пришлите язык и простое описание поведения/метрик.