184 похожих чатов

Добрый день! такая беда 0. ставлю max_insert_threads = 6 1. делаю select-insert большой

таблицы (на самом деле партиции: я переношу огромную таблицу по партициям)
2. оно показывает какое-то фантастическое rows/s
3. и через пару минут падает с Too many parts
4. но зато если не падает (например, если поставить max_insert_threads поменьше, или просто если повезёт), то со временем rows/s становится совсем маленький, и всё очень долго

есть какой-то механизм (само)регуляции, чтобы КХ не пытался отправлять больше, чем он может обработать?
например, какой-нибудь многоступенчатый parts_to_delay_insert
то есть я понимаю, что в общем случае надо, наверное, подбирать параметры parts_to_throw_insert и parts_to_delay_insert под нагрузку
но как быть, когда эту нагрузку генерирует сам КХ?

может, для инсерт-селектов есть какое-то специальное решение?

1 ответов

3 просмотра

Вчера переливал таблицу с 800 миллионами строк из одного КХ в другой - без проблем за 15 минут залилось. too many parts обычно возникают, если ключ партиционирования неудачно подобран. Обычно хватает вот такого: PARTITION BY toYYYYMM(Date)

Похожие вопросы

Обсуждают сегодня

Типа вызывать GetParent и проверять на соответствие GetModuleHandle?
The Bird of Hermes
67
Всем привет! Кто нибудь парсил в ручную JSON без библиотек и фреймворков? Есть может ссылки на оптимальный алгоритмы работы с текстом и примеры таких парсеров?
Lem
27
Do any of you guys have interesting projects one could join? I'm a Middle Full-Stack developer (JS/TS, React & Node)
Lev Shapiro
40
Есть сайт. Там была древняя версия эво. Стоял плагин, который каждый коммент в Jot делал отдельной страницей. После обновления все слетело, теперь старница открывается отдельн...
Artem
1
$res = json_decode($наша строка из респонса); $res1 = array_map(fn($o) => $o->name, $res->breadcrumbs[0]->entities); Как такое будет на Хаскеле?.. В начале весь джейсон, в ко...
Хаскель Моисеевич Гопник
27
Добрый день. А shovel'ы можно как-то сконфигурировать в definitions.json? Пробовал что-то вроде: { "users": [ { "name": "agent", "password_hash": "RBCbTzQd...
Aleksey
1
Вопрос по диагностике ошибок (я знаю в чем, в данном конкретном примере, я знаю, как исправить, пример модельный, понятно, что в реальности бывает намного запутаннее). module...
ⰄⰎⰋⰐⰐⰑⰛⰤⰧⰧⰩⰄ ⰊⰑⰁⰓⰡⰛⰦⰕⰫ
11
А чем вам питонисты не угодили?😂
.
79
В чем сила брат, в NASM или FASM?
Isaac Kleiner
18
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
52
Карта сайта