184 похожих чатов

К сожалению это не вариант) вариант с кворумом не подойдёт,

если я готов жертвовать скоростью записи в обмен на надёжность?

24 ответов

44 просмотра

Тогда хз.

Очевидно надо тогда писать хоть в файлы. А оттуда в кх.

Denis-Ryabov Автор вопроса

тогда вы будете писать в несколько разных мест

Denis Ryabov
Т.е. схема такая Источник -> s3 file -> kx?

Поверьте очень рабочая схема. Я вот сейчас из бэкапа поднимаю кластер.... Так один день туда покинуть минут 5 и норм.

нет! если вам нужна полная достоверность, то вы пишете в три точки минимум и в четвертую еще и контрольную сумму а иначе вы притворяетесь что вам нужна достоверность

Sergey Platonov
нет! если вам нужна полная достоверность, то вы пи...

Нуу это прям Когда совсем-совсем надо сохранность. Просто в s3 чему падать?

Владислав Lazycat
Нуу это прям Когда совсем-совсем надо сохранность....

ну простите. я просто не понимаю всех этих слов о недопустимости потери одной транзакции от тех, кто пишет только в один источник, без проверки записи и контроля целостности. либо миримся что плюс минус копейка не проблема, либо все серьезно. а, да, и деньги в float :))))

Denis-Ryabov Автор вопроса
Sergey Platonov
ну простите. я просто не понимаю всех этих слов о ...

Так поэтому и была идея использовать кворум для записи на неск реплик, а запись в одну партицию на кх вроде и так надёжна (если верить документации).

Sergey Platonov
ну простите. я просто не понимаю всех этих слов о ...

Ну согласен. Так или иначе клик не транзакционная бд. И умеючи кластер положить как вот оказалось там "на раз". Зато как конечная витрина прям песня

Denis Ryabov
Так поэтому и была идея использовать кворум для за...

У кворума есть очень большие проблемы. Если не хочется буквально рвать волосы из попы потому что из головы все уже вырвали лучше кворум не использовать.

Владислав Lazycat
Ну согласен. Так или иначе клик не транзакционная ...

а тут я согласен поэтому совершенно не парюсь возможными потерями. всегда есть источники из которых за приемлемое время все подниму а если потери в милионных долях, то и вот та рука вверх.. КХ для аналитики

Denis-Ryabov Автор вопроса
Denny [Altinity]
У кворума есть очень большие проблемы. Если не хоч...

А можно в кратце рассказать о проблемах или скинуть ссылки, где почитать?

Denis-Ryabov Автор вопроса
Sergey Platonov
а тут я согласен поэтому совершенно не парюсь возм...

Данные за неделю точно сможем восстановить, будет сверка целевой системы и кх, и только если данные совпали, то удаляем данные из целевой

Denis Ryabov
Данные за неделю точно сможем восстановить, будет ...

ну и не парьтесь делайте копию на S3 и достаточно

Sergey Platonov
ну и не парьтесь делайте копию на S3 и достаточно

Если в Parquet zstd файлы дампить скорость восстановления не сильно страдает?

Viktor Kovalev
Если в Parquet zstd файлы дампить скорость восстан...

тут я не копенгаген но если процес параллельный, то не должно

Viktor Kovalev
Если в Parquet zstd файлы дампить скорость восстан...

Паркет zstd ? Причем тут восстановление?

Denny [Altinity]
Паркет zstd ? Причем тут восстановление?

Из него в клик mergetree переливать с s3. Если учесть что s3 не ограничен в скорости сети до клика.

В этом смысле zstd ускоряет, потому что меньше данных записывается из за сжатия

Denny [Altinity]
В этом смысле zstd ускоряет, потому что меньше дан...

То-е не будет 2ой работы на клике?: расжатие из parquet zstd и сжатие в клик zstd

Viktor Kovalev
То-е не будет 2ой работы на клике?: расжатие из p...

Ниче не понял. Мы покупаем или продаем?

Denny [Altinity]
Ниче не понял. Мы покупаем или продаем?

Ладн, пофиг, цпу не жалко для сжатия+расжатия)

Viktor Kovalev
Ладн, пофиг, цпу не жалко для сжатия+расжатия)

Zstd на разжатие супер быстрый, если жать zstd1 то оно тоже быстро. Cpu обычно не узкое место, узкое место сеть, диск, s3

Похожие вопросы

Обсуждают сегодня

а зачем этот вопрос для удаления из чата?
Mёdkinson Medvezhkin
63
Эх кто-то пришел и весь праздник испортил :( You need complex FBX scene importing setup to change things on import? good luck with that. You need navigation and pathfinding? g...
Serg Gini
5
Какого хера? /Sources/App/Modules/User/Models/UserLinkApple.swift:21:20: warning: stored property '_id' of 'Sendable'-conforming class 'UserLinkApple' is mutable @ID(...
Alexander Sherbakov
14
Всем привет! Подскажите. Я написал приложение на Delphi 10.2 Tokyo под Windows 10. И передо мной стал вопрос о том чтобы сделать это приложение кроссплатформенным (под Linux и...
Дмитрий Завгородний
24
Привет всем. Подскажите где можно посмотреть, какая версия электрон, поддерживает версии windows? Некий changelog. Мне бы желательно, поддержку 7,8,10... latest, как понимаю и...
Anonym Squad
21
Почему стало ломаться на D11? "739002.86400000' is not a valid timestamp" function IncDateTime(aStamp:TTimeStamp;aKind:TTriggerKind;aInterval:Integer):TDateTime; //aStamp = 2...
Катерина Свиридова
8
У тебя в конфиге нигде нет deny all; или вообще любого deny?
Alexander Sherbakov
10
Портфолио: Зовут меня Александр, мне 36 лет. Город Пушкино. Общий рабочий стаж: ~14 лет Уровень квалификации: Senior Full-stack developer Где прочесть мой код? https://github....
Magic
10
Есть Pipeline для GitLab Runner (executor = "shell") В нём есть: default: before_script: - set -eo pipefail - source "$(~/bin/trdl use werf 2 stable)" - source...
Aleksandr Karabanov
1
Ребят, чет я уже не догоняю... Крч в коде на асм там происходит нечто вроде a+число (a+1, a+2 и т.д.). Но почему строка lea ecx, [edx+1] работает как a+1?? В edx берется адрес...
Alan 🔝 Бэброу
4
Карта сайта