184 похожих чатов

Привет, подскажите пожалуйста, хочу настроить вытесненение старых данных их КХ

в S3. Но у меня таблички replicated. Можно конечно на каждой ноде указать свой путь хранения в S3, но тогда данные по сути будут дублироваться. Можно ли 2ум нодам в 1ом шарде указать один и тот же путь для хранения данных? Или нужно разные и тогда, по идее дедупликация должна пройти на уровне S3?

25 ответов

28 просмотров

Есть для этого вроде волшебный параметр, одну минуту...

да, уже по дефолту так SELECT * FROM system.merge_tree_settings WHERE name = 'allow_remote_fs_zero_copy_replication' Query id: 6e44fcf6-9883-4771-a1be-b9e4868d3f20 Row 1: ────── name: allow_remote_fs_zero_copy_replication value: 1 changed: 0 description: Allow Zero-copy replication over remote fs. type: Bool

Mike-Minaev Автор вопроса
Denny [Altinity]
да, уже по дефолту так SELECT * FROM system.merg...

Те можно их нацелить в 1 папку и все будет работать?

Mike-Minaev Автор вопроса
【D】【J】
не знаете, для NFS не планируется?

https://github.com/ClickHouse/ClickHouse/discussions/33998#discussioncomment-2048485

Denny [Altinity]
да https://clickhouse.com/docs/en/operations/stor...

сказано что not ready for production при этом включено подефолту и похоже что не работает , копии файлов в s3 остаются и не ужадяются

R-omk
сказано что not ready for production при этом вк...

это для s3 работает, а s3 путь одинаковый ? т.е. копии не могут оставаться, они просто не могут появиться

Denny [Altinity]
это для s3 работает, а s3 путь одинаковый ? т.е. к...

все одинаковое, на скрине видно что одинаковые файлы в одну кучу свалило, сценарий был такой, я заливаю сразу данные котыре под ttl move попадают, все льюется прямо в s3 и в моменте 6G все занимало, но через какотое время партиции вроде схлопнулись, может сами а может потому что я OPTIMIZE запускал и вот все остановилось в таком виде как на скринах

Denny [Altinity]
это для s3 работает, а s3 путь одинаковый ? т.е. к...

вот что в zk , что бы это ни значило оно так сейчас выглядит

R-omk
все одинаковое, на скрине видно что одинаковые ф...

запускал запрос на вставку дважды, примерно такое INSERT INTO FUNCTION remote('x4-clickhouse:9000' ... SELECT * FROM ... SETTINGS insert_distributed_sync=1, insert_quorum=2

R-omk
вот что в zk , что бы это ни значило оно так сей...

есть system.remote_data_paths там смотрите это файл с одной реплики или двух, может у вас optimize файлов наделал

Denny [Altinity]
есть system.remote_data_paths там смотрите это фай...

нет такой таблицы , без optimize тоже по двараза все сохранятся, и даже если изменить alter ttl то те данные которые сами переезжают то же дублируются

R-omk
если такой таблицы нет?

Если файлы два раза. Таблица появилась в последних версиях

Denny [Altinity]
Если файлы два раза. Таблица появилась в последних...

дейтсвительно фигня какаято , у мнея нету и табилцы system.part_log а я помню что видел ее раньше в дрпугих инсталяциях

Denny [Altinity]
есть system.remote_data_paths там смотрите это фай...

снес (truncate) даныне и обновил версию, после того как партиции устаканились вот такое образовалось, я смотрел по конкретным партам, и вот некоторые дедуплицировались, но их меньшинство как видишь, при этом все файлы парта либо дедуплицируются либо весь парт по два раза записывается в разные remote_path

R-omk
снес (truncate) даныне и обновил версию, после т...

ну создайте issue с конфигами и примерами как создать таблицы, инсертами ...

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта