184 похожих чатов

Здравствуйте коллеги! у меня вопрос есть два сервера с кликами и

одно s3 облако
данные с двух сервером перегнали на облако на один bucket и разделами 1 и 2 для каждого сервера
как получить данные второго сервера (bucket/2) из облака на первом сервере? без использования csv файлов в облаке и табличной функции s3
может что-то в файлах конфигурации нужно сделать или это нет способа кроме как держать csv файлы в облаке?
Примечание:
подключение к s3 идёт через файл конфигурации config.d/storage_configuration.xml

15 ответов

21 просмотр

вопрос странный. Типа у меня был один шард, затем мы сделали 2 шарда, как от двух шардов добится поведения как будто это один шард. Зачем вы сделали два шарда? В чем был замысел?

Aleksey-Dovgan Автор вопроса

на s3 в облаке будут исторические данные и логи. вот было два сервера с разными данными - потом пролили всё на облако (bucket/1 и bucket/2) и теперь из облака уже хотим получить все данные через клик из bucket/1 и bucket/2 - такое можно сделать?

Aleksey Dovgan
на s3 в облаке будут исторические данные и логи. в...

ну так у вас 2 шарда, ну сделайте distributed таблицу

Aleksey-Dovgan Автор вопроса
Denny [Altinity]
ну так у вас 2 шарда, ну сделайте distributed табл...

два сервера не связаны, а нужно разобраться с облаком)

Aleksey Dovgan
два сервера не связаны, а нужно разобраться с обла...

не связаны в смысле сети вообще между ними нет, или что?

Aleksey-Dovgan Автор вопроса
Denny [Altinity]
не связаны в смысле сети вообще между ними нет, ил...

ну да, zookeeper нет - два не зависимых сервера с историческими данными - загрузили на облако и теперь нужно оттуда получить =)

Aleksey Dovgan
ну да, zookeeper нет - два не зависимых сервера с ...

это все не имеет значения для КХ. просто сделайте distributed таблицу или remote таблицу

Aleksey-Dovgan Автор вопроса
Denny [Altinity]
это все не имеет значения для КХ. просто сделайте...

можно сделать distributed с ссылкой на облако?

Aleksey Dovgan
можно сделать distributed с ссылкой на облако?

нет. можно сделать так что второй сервер будет запрашивать данные у первого, а первый будет ходить в s3 то что вы хотите, сделать нельзя. Для этого нужны данные которые хранятся на локальном диске и В ПАМЯТИ первого сервера

Aleksey-Dovgan Автор вопроса
Denny [Altinity]
нет. можно сделать так что второй сервер будет за...

понятно спасибо ха помощь тогда есть другая тема можно ли как-то изменить название файлов на s3 ? например чтобы было название партиции? вставка не через табличную функцию s3

Aleksey-Dovgan Автор вопроса

благодарю - можно ли где-то подробнее узнать об этом дизайне интересно почитать?

Aleksey Dovgan
благодарю - можно ли где-то подробнее узнать об эт...

В исходниках кх. И в описании AWS как S3 шардирует обьекты

Aleksey Dovgan
ещё раз спасибо

И вы пока не понимаете что на самом деле нельзя без метаинформации прочитать файлы, даже если у вас есть нормальные имена файлов.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта