горячие данные хранить на ссд. До сего момента было все в дефолте на шпинделях.
- Добавил диск, создал политику, где первым томом указал новую ссд, чтоб все там хранилось, а вторым - дефолт.
- +правило на перемещение партов больше 200mb и move-factor 30% чтоб не насиловать ссд
yandex:
storage_configuration:
disks:
default:
keep_free_space_bytes: '1073741824'
hot_storage:
path: /opt/clickhouse-hot-storage/
policies:
default:
volumes:
default:
disk: default
hot_storage_policy:
volumes:
hot_storage_volume:
disk: hot_storage
max_data_part_size_bytes: '200000000' # 200mb
default:
disk: default
move_factor: '0.3'
Правильно ли сделал, что hot_storage первым томом идет?
похоже, что этот код генерируется по шаблону, поэтому он такой. Его не человек пишет
это видимо не мне?)
почему такой маленький размер парта? этож почти сразу всё будет на HDD переноситься. Ваша задача по максимуму на SSD данные помержить чтобы HDD не насиловать. Ну и да, если hot первым, то вставка на него, это ок
Не уверен, что в первой секции должен быть default, но точно не буду утверждать.
А как иначе может быть? Если горячими считать не самые свежие данные, а использовать какой-то другой принцип, то и на уровне конфига (и TTL) это зарулить уже не получится. Придётся с помощью внешнего сервиса писать циклическую процедуру, которая будет заниматься перемещением
спасибо! выставил в 1гб. Меня смутило, что самые свежие парты совсем крохотные
лучше посмотрите какой размер в среднем становится через неделю например, маленькие файлы по многу раз между собой мержатся чем вызывают большую нагрузку на диск
Обсуждают сегодня