184 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
nginx_ru nginx_ru
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Ассемблер Ассемблер
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
PostgreSQL + 1C + Linux PostgreSQL + 1C + Linux
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
DevsHelper DevsHelper
SwiftBook SwiftBook
Solidity Development Solidity Development
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
Delphi & Lazarus Delphi & Lazarus
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Dart / Flutter Dart / Flutter
Evolution CMS развитие и ... Evolution CMS развитие и ...
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
IDE и редакторы — русског... IDE и редакторы — русског...
Frontend_ru Frontend_ru
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
Lame C Lame C
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
dlang.ru dlang.ru
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
Server Side Swift Develop... Server Side Swift Develop...
DevOps DevOps
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
Odoo talks & fun Odoo talks & fun
dbGeeks dbGeeks
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
ru.nim.talks ru.nim.talks
Java/Kotlin and more Java/Kotlin and more
Modern::Perl Modern::Perl
pro.buildsystems pro.buildsystems
React: русскоязычное сооб... React: русскоязычное сооб...
Powershell Rus Powershell Rus
Python для анализа данных Python для анализа данных
Haskell Start Haskell Start
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
werf (чат) werf (чат)
WebGL ru WebGL ru
opencv_ru opencv_ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
ErlangRus ErlangRus
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
QA juniors QA juniors
GameDev for Web GameDev for Web
Electron.js Electron.js
MySQL (EN) MySQL (EN)
Это RabbitMQ Это RabbitMQ
Go Get A Job Go Get A Job
Lame C++ Lame C++
pro.osdev - os developmen... pro.osdev - os developmen...
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
catboost_ru catboost_ru
Ember_js Ember_js
PostgreSQL (English) PostgreSQL (English)
FreePascal & Lazarus FreePascal & Lazarus
Django Django
Tilda Developers Tilda Developers
WordPress – русскоговорящ... WordPress – русскоговорящ...
Kaggle Kaggle
Язык программирования Jul... Язык программирования Jul...
ReasonML и OCaml ReasonML и OCaml
sentry_ru sentry_ru
ansible — русскоговорящее... ansible — русскоговорящее...
WebAssembly — русскоговор... WebAssembly — русскоговор...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
CatBoost CatBoost
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
ScyllaDB ScyllaDB
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
ClickHouse не тормозит ClickHouse не тормозит
Владислав-Lazycat

Сама идея не ясна. Теоретически ReplacingMergeTree это что-то вроде медленного

UPDATE (причем ну очень медленного). А если не нужен update?

#backend #clickhouse #database #devops #programming #russian
0

12 ответов

9 просмотров
Zhukov Dm-

Какие еще есть варинаты? Задача такая: млрд записей. Каждый день добавляется по 10млн. Вот из этих 10млн могут быть дубли. Нужно добавить 10млн без этих дублей.

0
18.09.2022
Boris-
Zhukov Dm
Какие еще есть варинаты? Задача такая: млрд записе...

А что плохого в том, чтобы проверить раз в день 10М строк на дубликаты? 10M ids легко помещаются в хеш таблицу для IN. И это явно лучше, чем последующие развлечения с ReplacingMT & final. Если бы у вас было 10M в секунду, то можно было бы подумать над вариантами, но в день?

0
18.09.2022
ivan-
Boris
А что плохого в том, чтобы проверить раз в день 10...

тогда уж проще сделать ReplacingMergeTree с партициями по дням / неделям и запускать optimize table ... partition ...

0
18.09.2022
Boris-
ivan
тогда уж проще сделать ReplacingMergeTree с партиц...

проще - тут не самый хороший ориентир. Если есть возможность обойтись без ReplacingMT - стоит это сделать. Несмотря на все последние оптимизации типа do_not_merge_across_partitions_select_final. Вот захочется вам потом добавить индексов или проекций - а у вас ReplacingMT. И уж совершенно точно партиции по дням и optimize по крону - это самое последнее, когда иначе уже никак.

0
18.09.2022
ivan-
Boris
проще - тут не самый хороший ориентир. Если ест...

а чем вариант "раз в день проверять на дубликаты" (и что делать с обнаруженными, удалять мутациями?) поверх обычного MergeTree удобнее для проекций?

0
18.09.2022
Boris-
ivan
а чем вариант "раз в день проверять на дубликаты" ...

"раз в день проверять на дубликаты и удалять мутациями" - это конечно полная чушь. Изначально человек спросил как ему вставлять раз в день 10М строк в ярдную табличку. Так вот эту проверку можно делать непосредственно в момент вставки. И не вставлять. И не писать на диск. И не оптимизировать потом.

0
18.09.2022
Nikolai-K
Boris
"раз в день проверять на дубликаты и удалять мутац...

Я начало пропустил, а insert_deduplicate=1 не пойдет ?

0
18.09.2022
Ivan-Kalinin
Nikolai K
Я начало пропустил, а insert_deduplicate=1 не пой...

это про дедупликацию целиком инсертов, а не отдельных строк

0
18.09.2022
Nikolai-K
Ivan Kalinin
это про дедупликацию целиком инсертов, а не отдель...

Так в конце инсерта пишется надстройка и понеслась

0
18.09.2022
ivan-
Boris
"раз в день проверять на дубликаты и удалять мутац...

а, вы об этом это можно, только тут не надо забывать, что в системе нет никаких локов, тем более exclusive locks, зато есть фантомы, так что с таким подходом возможны неприятные сюрпризы, если "писателей" в базу будет больше одного или если параллельно вставке какая-нибудь мутация будет в процессе

0
18.09.2022

Похожие вопросы

ClickHouse не тормозит ClickHouse не тормозит / unhingedlunatic
Подписаться

Исходя из ваших комментариев, получается, что чтобы получить марты в CH из данных в PG, неправильно тянуть сырые данные в CH и там их обрабатывать, лепить справочники и джойни...

#backend #clickhouse #database #devops #programming #russian
12.11.2023
0
42 ответов
ClickHouse не тормозит ClickHouse не тормозит / 为什么要翻译 .
Подписаться

Всем привет, обновил clickhouse на локальном компьютере, теперь он не поднимается, валится с ошибкой: 2023.11.15 10:53:11.735595 [ 8069 ] {} <Error> Application: Code: 48. DB...

#backend #clickhouse #database #devops #programming #russian
15.11.2023
0
17 ответов
ClickHouse не тормозит ClickHouse не тормозит / Maria Besedina
Подписаться

Доброе утро, коллеги! Может вы что-то подскажите по следующей ситуации. Загружаем словари в витрины в CH по следующему алгоритму: - создали 2 таблицы с одинаковой структурой: ...

#backend #clickhouse #database #devops #programming #russian
27.10.2023
0
27 ответов
ClickHouse не тормозит ClickHouse не тормозит / Clir
Подписаться

Добрый день. Много раз уже обсуждали проблему No active replica has part и зависшие парты в replication_queue. Всегда предлагаете решение detach+attach+system restart replica ...

#backend #clickhouse #database #devops #programming #russian
06.11.2023
0
28 ответов
ClickHouse не тормозит ClickHouse не тормозит / Sergey Fedyanov
Подписаться

Добрый днь! Конфигурация: - k8s - ClickHouse Operator 0.12.0 provided by Altinity - ClickHouse server version 22.11.6 revision 54460. В манифесте: kind: "ClickHouseInstallati...

#backend #clickhouse #database #devops #programming #russian
06.09.2023
0
3 ответов
ClickHouse не тормозит ClickHouse не тормозит / Алексей Чернов
Подписаться

Всем привет. В настоящее время в Клике происходит рассинхрон данных между таблицей и её проекцией, из-за чего запрос может вернуть одну и ту же строку с разными данными в зави...

#backend #clickhouse #database #devops #programming #russian
05.09.2023
0
2 ответов
ClickHouse не тормозит ClickHouse не тормозит / unhingedlunatic
Подписаться

Друзья, доброго времени суток! Такой вопрос: Мы используем BI продукт FineBI, внутри которой есть какая-то своя китайская колоночная БД. Грузим в FineBi датасет относительно н...

#backend #clickhouse #database #devops #programming #russian
11.11.2023
0
7 ответов
ClickHouse не тормозит ClickHouse не тормозит / Stas Dombrovskyi
Подписаться

Всем привет. Кто-то использует вот такой бутстрап схем/таблиц в кликхаус в кубере? https://github.com/Altinity/clickhouse-operator/blob/master/docs/chi-examples/02-templates-0...

#backend #clickhouse #database #devops #programming #russian
03.11.2023
0
22 ответов
ClickHouse не тормозит ClickHouse не тормозит / Асель Магжанова
Подписаться

Всем привет! помогите, пожалуйста, разобраться с проблемой: внеапно в логах появились ошибки вида: 0. DB::Exception::Exception(DB::Exception::MessageMasked&&, int, bool) @ 0xd...

#backend #clickhouse #database #devops #programming #russian
04.10.2023
0
7 ответов
ClickHouse не тормозит ClickHouse не тормозит / Igor Gorbenko
Подписаться

Всем привет! Столкнулись с такой проблемой, связанной с чтением данных из S3. Мы читаем данные из parquet файлов, используя табличный движок S3 и вставляем в целевую таблицу д...

#backend #clickhouse #database #devops #programming #russian
22.08.2023
0
1 ответов
Смотреть еще
ClickHouse не тормозит ClickHouse не тормозит
Подписаться
Вопросов 34756
Ответов 72457
Участников 8768
Telegram @clickhouse_ru

Обсуждают сегодня

Сообщение* в закодированном виде. То есть, просто сделать sendMessage?text=Привет бла-бла! не получится, надо в HEX переводить, и добавлять процент, типа такого: sendMessage?t...
КТ315
21
А случайно нет ли в паскале штатной возможности передать указатель и количество туда где array of в качестве аргумента?
zamtmn
25
Anyone here suffers from unexplained aural migraines, who would be up for talking for a bit? Doesn't *have* to be aural, but I am not asking about headaches, I mean actual mi...
Martin Rys
58
всем трям! Кто-нибудь работал со связкой werf + harbor + trivy ? Во время сборки образа выходит ошибка "PROJECTPOLICYVIOLATION: current image with "Pending" status of vulnerab...
Авессалом
11
Всем привет. Испытываю проблемы в работе БД, а именно огромного роста логов, такого характера: 024-05-16 18:39:07 +05 sentry sentry [unknown] 1050169 7-1 app-sentry01.corp.ru>...
Alexey
2
Если подытожить: По мнению Розыча и Хемуля и др. - предпочтительно по возможности объявлять в секции имплементации потому-что: 1) Выше скорость компиляции 2) Не замусоривается...
notme
7
Ну раз я пока тут, задам пару глупых вопросов. Зачем писать на ассемблере если компилятор довольно умный, а ассемблер много времени занимает? В каких прикладных задачах сейчас...
Максим Рябцев
20
Хм. А телеграм апи работают через HTTP?
The Bird of Hermes
14
Почему Telegram пишет, что объект media не найден, хотя на самом деле я его передаю? Делаю на urllib, без зависимостей, так надо. Вызываю метод sendMediaGroup с таким JSON: ...
Alexey S
1
при переезде на werf v2 (2.0.4) столкнулся с тем что оно теперь пытается пропатчить namespace в который деплоит релиз хотя в шаблонах kind: namespace отсутствует. ┌ Update Na...
Sergey Sokolov
1
Карта сайта