- Главная
- Разное
- Дизайн
- Бизнес и предпринимательство
- Аналитика
- Образование
- Развлечения
- Красота и здоровье
- Финансы
- Государство
- Путешествия
- Спорт
- Недвижимость
- Армия
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Массовая оптимизация запросов PostgreSQL – explain.sbis.ru презентация
Содержание
- 1. Массовая оптимизация запросов PostgreSQL – explain.sbis.ru
- 2. 100+ проектов 10 центров разработки более 1000
- 3. СБИС – data-centric application Активно используем PostgreSQL
- 4. СБИС – data-centric application SQL – декларативный
- 5. СБИС – data-centric application SQL – декларативный
- 6. СБИС – data-centric application Классика: «А почему
- 7. СБИС – data-centric application Классика: «А почему
- 8. Получение плана
- 9. Получение плана План запроса – дерево в
- 10. Получение плана EXPLAIN (ANALYZE, BUFFERS) SELECT … https://postgrespro.ru/docs/postgrespro/9.6/using-explain подходит только для локальной отладки
- 11. Получение плана Модуль auto_explain https://postgrespro.ru/docs/postgresql/9.6/auto-explain анализирует все
- 12. Получение плана Модуль auto_explain
- 13. Получение плана Модуль auto_explain
- 14. Получение плана Логи и план текстом –
- 15. Получение плана Логи и план текстом –
- 16. Получение плана Логи и план текстом –
- 17. Визуализация плана
- 18. Визуализация плана explain.depesz.com
- 19. Визуализация плана explain.depesz.com – pro «собственное» время
- 20. Визуализация плана explain.depesz.com – contra требует copy&paste
- 21. Визуализация плана explain.depesz.com – ошибки анализа CTE Scan
- 22. Визуализация плана explain.sbis.ru ура! мы пишем свое!
- 23. Визуализация плана explain.sbis.ru собственный парсер плана корректный
- 24. Визуализация плана explain.sbis.ru – полный план
- 25. Визуализация плана explain.sbis.ru – сокращенный план (шаблон)
- 26. Визуализация плана explain.sbis.ru – распределение затрат времени
- 27. Визуализация плана explain.sbis.ru – распределение затрат времени
- 28. Визуализация плана explain.sbis.ru – «грабли» проблемы округления
- 29. Визуализация плана explain.sbis.ru – «грабли» WITH
- 30. Визуализация плана explain.sbis.ru – «грабли»
- 31. Визуализация плана explain.sbis.ru – дерево выполнения
- 32. Визуализация плана explain.sbis.ru – дерево выполнения
- 33. Визуализация плана explain.sbis.ru – дерево выполнения
- 34. Визуализация плана explain.sbis.ru «Теперь, Нео, ты знаешь кунг-фу»
- 35. Консолидация логов
- 36. Консолидация логов «Копипаста» – плохо 100+ серверов 1000+ разработчиков
- 37. коллектор SSH port forward + psql SSH
- 38. tail -F Консолидация логов COPY … FROM STDIN
- 39. Консолидация логов 100+ серверов, 50Kqps, 100-150GB/день секционирование
- 40. Консолидация логов Отказались от триггеров нет ссылочной
- 41. коллектор COPY plan FROM STDIN COPY
- 42. Консолидация логов «Потоковый» COPY всегда открыт COPY-канал/пул
- 43. Консолидация логов «Потоковый» COPY таблицы-словари триггер BEFORE INSERT 9.5+: INSERT … ON CONFLICT DO NOTHING
- 44. Консолидация логов «Потоковый» COPY тогда: 4K write
- 45. Понимаем проблемы
- 46. Понимаем проблемы 100+ серверов, 50Kqps, 100-150GB/день миллионы планов за сутки
- 47. Понимаем проблемы 100+ серверов, 50Kqps, 100-150GB/день миллионы планов за сутки
- 48. Понимаем проблемы 100+ серверов, 50Kqps, 100-150GB/день миллионы планов за сутки
- 49. Понимаем проблемы 100+ серверов, 50Kqps, 100-150GB/день кто?
- 50. Понимаем проблемы «Хозяин» у каждого запроса SET
- 51. Понимаем проблемы «Хозяин» у каждого запроса log_line_prefix = ' %m [%p:%v] [%d] %r %a' https://postgrespro.ru/docs/postgrespro/9.6/runtime-config-logging
- 52. Понимаем проблемы «Хозяин» у каждого запроса
- 53. Понимаем проблемы Модель анализа экземпляр PostgreSQL (хост:порт), день шаблон, приложение/метод, узел плана
- 54. Понимаем проблемы От планов – к шаблонам уменьшение количества анализируемых объектов вычленение общих паттернов поведения
- 55. Понимаем проблемы Разрезы анализа планов количество фактов
- 56. Понимаем проблемы
- 57. Понимаем проблемы
- 58. Понимаем проблемы Разрезы анализа узлов Seq Scan,
- 59. Понимаем проблемы
- 60. … и устраняем причины
- 61. Спасибо за внимание! Боровиков Кирилл тел.: (4852) 262-000 вн. 2500, e-mail: kilor@tensor.ru sbis.ru
100+ проектов 10 центров разработки более 1000 сотрудников в них «Тензор» – это СБИС миллион клиентов
Слайд 1Массовая оптимизация запросов PostgreSQL – explain.sbis.ru
Кирилл Боровиков / Технический директор
Слайд 2100+ проектов
10 центров разработки
более 1000 сотрудников в них
«Тензор» – это СБИС
миллион
клиентов
Слайд 3СБИС – data-centric application
Активно используем PostgreSQL
~400TB «рабочих» данных
«в продакшене» с 2008
года
уже более 250 серверов
уже более 250 серверов
Слайд 4СБИС – data-centric application
SQL – декларативный язык
вы описываете, что хотите получить
СУБД
лучше «знает», как это сделать:
какие индексы использовать, в каком порядке соединять таблицы, как накладывать условия…
какие индексы использовать, в каком порядке соединять таблицы, как накладывать условия…
Слайд 5СБИС – data-centric application
SQL – декларативный язык
некоторые СУБД принимают «подсказки»
PostgreSQL –
нет, но…
всегда готов рассказать, как конкретно он выполняет ваш запрос
всегда готов рассказать, как конкретно он выполняет ваш запрос
Слайд 6СБИС – data-centric application
Классика: «А почему у нас тут выполнялось долго?»
алгоритмически
неэффективный запрос/план
неактуальная статистика
«затык» по ресурсам (процессор, диск, память)
блокировки – для DML-запросов
неактуальная статистика
«затык» по ресурсам (процессор, диск, память)
блокировки – для DML-запросов
Слайд 7СБИС – data-centric application
Классика: «А почему у нас тут выполнялось долго?»
алгоритмически
неэффективный запрос/план
неактуальная статистика
«затык» по ресурсам (процессор, диск, память)
«Нам нужен план!»
неактуальная статистика
«затык» по ресурсам (процессор, диск, память)
«Нам нужен план!»
Слайд 9Получение плана
План запроса – дерево в текстовом представлении
каждый элемент – одна
из выполняемых операций
получение данных, построение битовых карт, обработка данных, операция над множествами, соединение, вложенный запрос
выполнение плана – обход дерева
получение данных, построение битовых карт, обработка данных, операция над множествами, соединение, вложенный запрос
выполнение плана – обход дерева
Слайд 10Получение плана
EXPLAIN (ANALYZE, BUFFERS) SELECT …
https://postgrespro.ru/docs/postgrespro/9.6/using-explain
подходит только для локальной отладки
Слайд 11Получение плана
Модуль auto_explain
https://postgrespro.ru/docs/postgresql/9.6/auto-explain
анализирует все запросы подряд дольше XXXms
фиксирует для них планы
выполнения
пишет все это в лог сервера
пишет все это в лог сервера
Слайд 14Получение плана
Логи и план текстом – ненаглядно:
узел содержит сумму по ресурсам
поддерева
время необходимо умножать на loops
… так кто же «самое слабое звено»?
время необходимо умножать на loops
… так кто же «самое слабое звено»?
Слайд 15Получение плана
Логи и план текстом – ненаглядно:
узел содержит сумму по ресурсам
поддерева
время необходимо умножать на loops
… так кто же «самое слабое звено»?
«Понимание плана – это искусство, и чтобы овладеть им, нужен определённый опыт…»
время необходимо умножать на loops
… так кто же «самое слабое звено»?
«Понимание плана – это искусство, и чтобы овладеть им, нужен определённый опыт…»
Слайд 16Получение плана
Логи и план текстом – ненаглядно:
узел содержит сумму по ресурсам
поддерева
время необходимо умножать на loops
… так кто же «самое слабое звено»?
Нужна хорошая визуализация!
время необходимо умножать на loops
… так кто же «самое слабое звено»?
Нужна хорошая визуализация!
Слайд 19Визуализация плана
explain.depesz.com – pro
«собственное» время каждого узла
отклонение от статистически-плановых rows
количество повторов
каждого узла
архив планов (можно обмениваться ссылками)
архив планов (можно обмениваться ссылками)
Слайд 20Визуализация плана
explain.depesz.com – contra
требует copy&paste планов из лога
нет анализа ресурсов (buffers)
код
на Perl, нет развития
ошибки анализа CTE/InitPlan :(
ошибки анализа CTE/InitPlan :(
Слайд 22Визуализация плана
explain.sbis.ru
ура! мы пишем свое!
Node.JS + Express + Twitter Bootstrap +
D3.js
прототип за 2 недели
прототип за 2 недели
Слайд 23Визуализация плана
explain.sbis.ru
собственный парсер плана
корректный анализ CTE Scan
анализ распределения ресурсов (buffers)
наглядность, подсветка
синтаксиса
Слайд 28Визуализация плана
explain.sbis.ru – «грабли»
проблемы округления
0.001ms × (loops=1000) = 0.95ms .. 1.05ms
распределение
ресурсов CTE/InitPlan/SubPlan
+4 недели отладки :(
+4 недели отладки :(
Слайд 29Визуализация плана
explain.sbis.ru – «грабли»
WITH cl AS (
TABLE pg_class
)
(TABLE cl LIMIT 1)
UNION
ALL
(TABLE cl LIMIT 1 OFFSET 100);
(TABLE cl LIMIT 1 OFFSET 100);
Слайд 37коллектор
SSH port forward + psql
SSH connection (ключ)
tail -F
SELECT * FROM
pg_stat_activity;
Консолидация логов
SELECT * FROM pg_locks;
Слайд 39Консолидация логов
100+ серверов, 50Kqps, 100-150GB/день
секционирование по дням (ждем 10.0!)
очень-очень быстрый «потоковый»
COPY
отказались от триггеров (почти)
отказались от триггеров (почти)
Слайд 40Консолидация логов
Отказались от триггеров
нет ссылочной целостности (нет FK и их проверки)
агрегация
и хэширование на стороне коллектора
каждая таблица наполняется «своим» потоком
каждая таблица наполняется «своим» потоком
Слайд 41коллектор
COPY plan FROM STDIN
COPY query FROM STDIN
COPY error FROM STDIN
COPY planagg
FROM STDIN
Консолидация логов
Слайд 42Консолидация логов
«Потоковый» COPY
всегда открыт COPY-канал/пул на таблицу
«переоткрывается» раз в XXXms для
закрытия TX
отправляем запись в канал сразу при получении
никакой дополнительной буферизации, да-да
отправляем запись в канал сразу при получении
никакой дополнительной буферизации, да-да
Слайд 43Консолидация логов
«Потоковый» COPY
таблицы-словари
триггер BEFORE INSERT
9.5+: INSERT … ON CONFLICT DO NOTHING
Слайд 44Консолидация логов
«Потоковый» COPY
тогда: 4K write ops -> 1K write ops (в
4 раза!)
сейчас: 6K write ops ~100MB/s, 10TB/3мес
сейчас: 6K write ops ~100MB/s, 10TB/3мес
Слайд 49Понимаем проблемы
100+ серверов, 50Kqps, 100-150GB/день
кто? откуда этот запрос
где? что за сервер,
база
как? в чем проблема в плане
как? в чем проблема в плане
Слайд 50Понимаем проблемы
«Хозяин» у каждого запроса
SET application_name = ':'
страдаем от ограничения в
63 байта (тип name)
Слайд 51Понимаем проблемы
«Хозяин» у каждого запроса
log_line_prefix = ' %m [%p:%v] [%d] %r
%a'
https://postgrespro.ru/docs/postgrespro/9.6/runtime-config-logging
https://postgrespro.ru/docs/postgrespro/9.6/runtime-config-logging
Слайд 53Понимаем проблемы
Модель анализа
экземпляр PostgreSQL (хост:порт), день
шаблон, приложение/метод, узел плана
Слайд 54Понимаем проблемы
От планов – к шаблонам
уменьшение количества анализируемых объектов
вычленение общих паттернов
поведения
Слайд 55Понимаем проблемы
Разрезы анализа планов
количество фактов по шаблону/методу
суммарное и среднее время
количество ресурсов
(buffers hit/read)
таймлайны
таймлайны
Слайд 58Понимаем проблемы
Разрезы анализа узлов
Seq Scan, Index [Only] Scan, Bitmap (Index|Heap) Scan
количество
фактов/шаблонов по узлу
loops, rows, RRbF (суммарно и в среднем)
loops, rows, RRbF (суммарно и в среднем)
Слайд 61Спасибо за внимание!
Боровиков Кирилл
тел.: (4852) 262-000 вн. 2500, e-mail: kilor@tensor.ru
sbis.ru
