184 похожих чатов

Подскажите как правильно чанками по 30к перебрать таблицу размером 39kk

с наименьшей нагрузкой на проц?

Пробовал разные движки MergeTree, SummingMergeTree, Log
Но везде втыкаюсь в проблемы, например:
1. SummingMergeTree
При limit 7620000, 100
0.93 sec.| 39,318,115 rows.| 4 GB
Но при этом нагрузка на 64 ядра по 30-40% на каждое

если добавить сюда еще и order by из-за того что кх не упорядоченно отдает данные, то тогда
21.26 sec.| 39,318,115 rows.| 4 GB
нагрузка до 50% на ядро

2 ответов

9 просмотров

https://clickhouse.tech/docs/ru/operations/settings/settings/#settings-max_threads но это чисто ограничение самого запроса, для него не будет юзаться больше потоков чем указано в этой настройке.

ну а как вы думаете лимит, оффсет работают? они скроллируют сквозь себя записи, невозможно спустится сразу в 7620000 запоминать макс id (PK), и спользовать его в where ? решения зависит от того зачем вам это нужно

Похожие вопросы

Обсуждают сегодня

Вопрос по диагностике ошибок (я знаю в чем, в данном конкретном примере, я знаю, как исправить, пример модельный, понятно, что в реальности бывает намного запутаннее). module...
ⰄⰎⰋⰐⰐⰑⰛⰤⰧⰧⰩⰄ ⰊⰑⰁⰓⰡⰛⰦⰕⰫ
10
Тут кста кто-нибудь NeoVim использует?
Simple Sorcerer
13
А чем вам питонисты не угодили?😂
.
79
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
52
А дальше что?.. Записать в файл, потом в Код?.. И потом разбирать как-то?..
Хаскель Моисеевич Гопник
14
доброго времени. db, dw и прочие исполняются при трансляции или при выполнении программы?
lutayyy
10
Почему никто не подсказал, что можно объявить свои типы данных, в которых меньше полей, чем в отданном джейсоне, и добавлять их по необходимости?
Strange Rabbit
10
Хтось використовував Vapor на Windows?
Jaroshevskii
15
type TObj = object procedure Init; virtual; end; TObj1 = object(TObj) procedure Init; override; end; procedure TObj1.Init; begin inherited; end; procedur...
Alexander 👋
29
Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
86
Карта сайта