184 похожих чатов

Всех приветствую! Есть таблица ReplacingMergeTree, в которой парты доросли до

ограничения по max_bytes_to_merge_at_max_space_in_pool и перестали сливаться. В таблицу ведется непрерывная запись с большим количеством дублей. Есть какой-то best practice что в таких случаях делать? OPTIMIZE FINAL как-то не очень хочется, так как получу парт ~1.5тб. Есть идея детачить парт и вручную проверять на наличие дублей переливая уникальные данные назад. Может есть более элегантное решение?

6 ответов

13 просмотров

а зачем? кликхаус сам в фоне это сделает максимально эффективно. или у вас в новом непрерывном потоке идут уже только уникальные строки, которые никак не пересекаются со старыми данными и вам хочется и старые данные привести в консистентное состояние? иначе если новые данные продолжают пересекаться со старыми, то в консистентном состоянии после оптимайза оно у вас проживёт максимум минуту.

Alexander- Автор вопроса
Vladimir Goncharov
а зачем? кликхаус сам в фоне это сделает максималь...

фоновые мержи прекращаются если суммарный размер кусков для слияния больше чем max_bytes_to_merge_at_max_space_in_pool получается со временем на старых партах мержи прекращаются совсем и к ним добавляются всё новые и новые

Alexander
фоновые мержи прекращаются если суммарный размер к...

На мой взгляд, надеяться на ReplacingMT в таких больших таблицах - архитектурная ошибка. Все время придется перемерживать те 1.5 терабайта, мало кто этого хочет. Побейте на партиции может?

Alexander- Автор вопроса
Tatiana [Altinity]
На мой взгляд, надеяться на ReplacingMT в таких бо...

Спасибо, Татьяна. Не бьется к сожалению разумно ( Буду костылить.

Alexander
Спасибо, Татьяна. Не бьется к сожалению разумно ( ...

так взять хеш % 20 от какого нибудь ключа из ORDER BY

Alexander- Автор вопроса
Dmitry [Altinity] Titov
так взять хеш % 20 от какого нибудь ключа из ORDER...

неплохой совет 👍, проблема что чтение по всей таблице, но попробую...

Похожие вопросы

Обсуждают сегодня

Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
32
А чем вам питонисты не угодили?😂
.
79
Язык Си можно выучить за день? По книжке ANSI C на 230 страниц
Vincent Vegan
29
Привет, запускаю werf в dind в k8s, получаю ошибку на этапе build/beforeSetup: /.werf/stapel/embedded/bin/bash: /.werf/scripts/5898bdfe5214357d3706b879cc8d3d78460fb379607cbd...
florius0
7
Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
75
Дорогие любители Прекрасной Джулии! Есть кто-то имеющий практический опыт построения ML для Систем Управления? Нам нужно сделать нейросеть для автоматической подстройки пара...
Roman Timo
4
С той же поддержкой Android в тулчейне, если кому интересно. На Swift Forums шло убогое обсуждение всякой херни годами, но ничего годного так и не появлялось. Пришел vgorloff ...
iMike
1
Dim Dim, [02.07.2024 11:07] DB 0x62 Dim Dim, [02.07.2024 11:07] DB 0x66 Dim Dim, [02.07.2024 11:07] кто пояснит что это?
Dim Dim
14
Приветствую ребята,у меня база есть,прорешал много задач с литкода,там деревья,списки, бэктрэкинг и все остальное,что мне сейчас делать?есть может куда устроиться поработать,е...
Aקuст Lеתסuд Aקuст Lеתסuд
5
Всех приветствую. Направьте меня в нужное русло. Постепенно переписываю проект с delphi на lazarus. Приложение - обычный windows/linux клиент для бд firebird. Тут все хорошо. ...
Mishutka
6
Карта сайта