184 похожих чатов

Народ, скажите пожалуйста как лучше организовать схему заливки данных в

КликХауз в следующем случае.

1 раз в неделю питоновским скриптом я собираю данные с некоего сайта в пандасовский датафрейм.

Данные собираются нарастающим итогом.

То есть, после каждого еженедельного запуска скрипта в Датафрейм попадают все данные с сайта с начала года по текущий день.

При этом, Датафрейм полученный неделю назад , может вовсе не отличаться от Датафрейма полученного сегодня, так как данные на сайте обновляются иногда раз в неделю , а иногда и раз в две недели...

Задача, научиться класть этот еженедельный Датафрейм в котором данные с начала года до сегодня в Кликхауз.

Самый простой способ, насколько я понимаю - это в Кликхаузе удалять старую Таблицу в которую был залит Датафрейм на прошлой неделе и на её месте создавать новую Таблицу с таким же названием и класть в неё новый свежий Датафрейм?

2 ответов

7 просмотров

А вам точно кликхаус нужен ? Вы прям рассказываете про апсерт в сцилле/касандре. В кликхаусе, возможно подойдёт collapsingmergetree

Rus- Автор вопроса
Brаl Brаl Bral 🏳️‍🌈👠
А вам точно кликхаус нужен ? Вы прям рассказываете...

Нужен. Туда просто не только эти датафреймы валиться будут , но и из других источников всякие данные. Кликхауз как DWH вместо MS SQL server планируется юзать. Collapsingmergertee погуглю спасибо

Похожие вопросы

Обсуждают сегодня

type TObj = object procedure Init; virtual; end; TObj1 = object(TObj) procedure Init; override; end; procedure TObj1.Init; begin inherited; end; procedur...
Alexander 👋
29
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
45
А чем вам питонисты не угодили?😂
.
79
Можно ли загрузить скрипт py в бота чтобы он работал по нему? как это сделать?
huskadam #RCC Фанат? @hitlerpvp
13
Всем здравствуйте! Я хотел узнать сколько стоит средняя месячная зарплата у Electron js разработчиков? Мне очень это важно и нужно, плиз помогите узнать эту инфу! Для Джунио...
U.K.
10
А дин типизация это хорошо или плохо?
Alexey
12
Исходники плюс документация? Вы гоните)) демок хватит всем
zamtmn
11
Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
76
Язык Си можно выучить за день? По книжке ANSI C на 230 страниц
Vincent Vegan
29
Hello. Could you please help me with finding all coordinates within a radius using a spatial index, given that I have a table with coordinates? SET @lng = 37.57925; SET @lat ...
Rinchin G
7
Карта сайта