сохраняются новые данные, затем, есть скрипт, который должен подключаться к таблице по расписанию и определять, есть ли новые данные, обрабатывать их и записывать далее.
Подскажите, какой подход использовать для определения наличия новых данных? Например, смотреть в system.parts, отслеживать новые парты, вести свой лог новых и обработанных - это рабочая идея?
У вас в фоне старые парты могут смержиться. Или вообще парты с новыми и старыми данными смержаться. Простое решение - храните столбец с техническим временем как то так create_datetime DEFAULT now(), а в скрипте из крона помните последнее максимальное обработанное create_datetime
Благодарю! Интересно, в случае с ZooKeeper, какими партами оперируют реплики, либо они успевают скачать парты до смерживания.
Обсуждают сегодня