184 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
nginx_ru nginx_ru
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Ассемблер Ассемблер
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
PostgreSQL + 1C + Linux PostgreSQL + 1C + Linux
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
DevsHelper DevsHelper
SwiftBook SwiftBook
Solidity Development Solidity Development
pro.net (former COM+) pro.net (former COM+)
Delphi & Lazarus Delphi & Lazarus
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Evolution CMS развитие и ... Evolution CMS развитие и ...
Dart / Flutter Dart / Flutter
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
IDE и редакторы — русског... IDE и редакторы — русског...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
Lame C Lame C
AI / Искусственный Интелл... AI / Искусственный Интелл...
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
dlang.ru dlang.ru
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
Server Side Swift Develop... Server Side Swift Develop...
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
DevOps DevOps
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
Modern::Perl Modern::Perl
Odoo talks & fun Odoo talks & fun
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
ru.nim.talks ru.nim.talks
dbGeeks dbGeeks
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
React: русскоязычное сооб... React: русскоязычное сооб...
Powershell Rus Powershell Rus
werf (чат) werf (чат)
Haskell Start Haskell Start
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
opencv_ru opencv_ru
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
ErlangRus ErlangRus
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
Electron.js Electron.js
Это RabbitMQ Это RabbitMQ
MySQL (EN) MySQL (EN)
QA juniors QA juniors
GameDev for Web GameDev for Web
Go Get A Job Go Get A Job
Lame C++ Lame C++
pro.osdev - os developmen... pro.osdev - os developmen...
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
PostgreSQL (English) PostgreSQL (English)
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
Ember_js Ember_js
catboost_ru catboost_ru
FreePascal & Lazarus FreePascal & Lazarus
Tilda Developers Tilda Developers
Django Django
WordPress – русскоговорящ... WordPress – русскоговорящ...
Kaggle Kaggle
Язык программирования Jul... Язык программирования Jul...
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
WebAssembly — русскоговор... WebAssembly — русскоговор...
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
ScyllaDB ScyllaDB
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
ClickHouse не тормозит ClickHouse не тормозит
Sergey-Bubnov

Всем привет. Делал тут инсерт 10к записей раз пару секунд

и словил такую ошибку
"Too many partitions for single INSERT block". Партиция у меня на дату по дням стоит и очевидно что в пачке из 10к будет куча одинаковых дат, так как пишу события по дням.
Нормально ли будет увеличить max_partitions_per_insert_block до 10к или это как-то скажется на скорости/ресурсах и так вообще неользя делать?

#backend #clickhouse #database #devops #programming #russian
0

16 ответов

8 просмотров
Anton-Khokhrin

Ошибка про то, что ваш инсерт вставляет во много партиции разом, а не про много записей в одну

0
05.02.2021
Sergey-Bubnov Автор вопроса
Anton Khokhrin
Ошибка про то, что ваш инсерт вставляет во много п...

а, хм. Тость наоборот там разные даты?

0
05.02.2021
Mishanya-

Скорость инсерта снизится, тк ваш батч затрагиваетт слишком много партиций -> больше файлов. Так же в будущем будут замедлятся селекты, которые имеют(в вашем примере) выборку больше дня, тк читать много файликов приходится. Так же это генерит невероятное количество партов. Сам сталкивался с такой проблемой - пришлоись репартиционировать таблицу.

0
05.02.2021
Mishanya-
Sergey Bubnov
А как? По месяцам?

Да, я пришел к выводу что это самое оптимальное значение. Ну я переодически чатик читаю, многие приходят к такому выводу. Так же туторах для кх тоже советуют использовать именно так. Конечно же, все депендс от вашей специфики и конкретных кейсов.

0
05.02.2021
Sergey-Bubnov Автор вопроса
Mishanya
Да, я пришел к выводу что это самое оптимальное зн...

А если у меня таблица с примерно 300кк записями, как-то запросом можно определить, каких данных уникальных больше, чтобы например сделать репартицию например по какому-то типу. Например у меня есть тип события, там их всего штук 5 на все записи, а месцов очевидно больше и каждый раз будет больше. Имеет такое смысл? Или так же надо смотреть систему, какие вообще запросы и какие фильтры используются?

0
05.02.2021
Mishanya-
Sergey Bubnov
А если у меня таблица с примерно 300кк записями, к...

Посчитайте количество уникальных значений, что бы найти коррелирующее значение, которое будет оптимально балансировать паратиции в рамках вашей специфики.

0
05.02.2021
Sergey-Bubnov Автор вопроса
Ivan Kalinin
count() и group by. Можно ещё uniq()

Да, точно. Но у меня например в системе поумолчанию фильтр по датам стоит с большим промежутком, однако фильтр на тип стоит всегда поумолчанию 1. Тоесть мы можем смотреть данные одного типа по разным датам. Однако можно поставить фильтр на дргой тип и надо будет делать join. Мб имеет смысл репартицию сделать на тип все же?

0
05.02.2021
Ivan-Kalinin
Sergey Bubnov
Да, точно. Но у меня например в системе поумолчани...

Партиции больше для удобства, так что оставьте по дате. А в индекс на первое место поставьте тип.

0
05.02.2021
Mishanya-
Sergey Bubnov
Да, точно. Но у меня например в системе поумолчани...

Так сделайте партиции по месяцу и в ключ оред бай поставьте колонку в начало с наибольшей кардинальностью - тип, в вашем примере.

0
05.02.2021
Dmitry-Kumaris
Sergey Bubnov
А как? По месяцам?

Я по неделям делал, тоже неплохо. А по дням это жесть, извините

0
05.02.2021
Sergey-Bubnov Автор вопроса
Dmitry Kumaris
Я по неделям делал, тоже неплохо. А по дням это же...

Понял, я просто только начинаю осваивать КХ и пока только разбираюсь в партициях, ключах сортировки и тд

0
05.02.2021
【D】【J】-
Sergey Bubnov
А как? По месяцам?

у нас и по часам есть. зависит от того: - сколько времени храянятся все данные - сколько времени в одном запросе запрашивается (минимальные-максимальный разброс) - сколько данных итого в ГБ в один день

0
05.02.2021
Sergei-
Sergey Bubnov
А как? По месяцам?

Мы выбрали промежуточный вариант - по неделям. PARTITION BY toYYYYMMDD(toMonday(clock))

0
05.02.2021

Похожие вопросы

ClickHouse не тормозит ClickHouse не тормозит / unhingedlunatic
Подписаться

Исходя из ваших комментариев, получается, что чтобы получить марты в CH из данных в PG, неправильно тянуть сырые данные в CH и там их обрабатывать, лепить справочники и джойни...

#backend #clickhouse #database #devops #programming #russian
12.11.2023
0
42 ответов
ClickHouse не тормозит ClickHouse не тормозит / 为什么要翻译 .
Подписаться

Всем привет, обновил clickhouse на локальном компьютере, теперь он не поднимается, валится с ошибкой: 2023.11.15 10:53:11.735595 [ 8069 ] {} <Error> Application: Code: 48. DB...

#backend #clickhouse #database #devops #programming #russian
15.11.2023
0
17 ответов
ClickHouse не тормозит ClickHouse не тормозит / Maria Besedina
Подписаться

Доброе утро, коллеги! Может вы что-то подскажите по следующей ситуации. Загружаем словари в витрины в CH по следующему алгоритму: - создали 2 таблицы с одинаковой структурой: ...

#backend #clickhouse #database #devops #programming #russian
27.10.2023
0
27 ответов
ClickHouse не тормозит ClickHouse не тормозит / Clir
Подписаться

Добрый день. Много раз уже обсуждали проблему No active replica has part и зависшие парты в replication_queue. Всегда предлагаете решение detach+attach+system restart replica ...

#backend #clickhouse #database #devops #programming #russian
06.11.2023
0
28 ответов
ClickHouse не тормозит ClickHouse не тормозит / Sergey Fedyanov
Подписаться

Добрый днь! Конфигурация: - k8s - ClickHouse Operator 0.12.0 provided by Altinity - ClickHouse server version 22.11.6 revision 54460. В манифесте: kind: "ClickHouseInstallati...

#backend #clickhouse #database #devops #programming #russian
06.09.2023
0
3 ответов
ClickHouse не тормозит ClickHouse не тормозит / Алексей Чернов
Подписаться

Всем привет. В настоящее время в Клике происходит рассинхрон данных между таблицей и её проекцией, из-за чего запрос может вернуть одну и ту же строку с разными данными в зави...

#backend #clickhouse #database #devops #programming #russian
05.09.2023
0
2 ответов
ClickHouse не тормозит ClickHouse не тормозит / Асель Магжанова
Подписаться

Всем привет! помогите, пожалуйста, разобраться с проблемой: внеапно в логах появились ошибки вида: 0. DB::Exception::Exception(DB::Exception::MessageMasked&&, int, bool) @ 0xd...

#backend #clickhouse #database #devops #programming #russian
04.10.2023
0
7 ответов
ClickHouse не тормозит ClickHouse не тормозит / Igor Gorbenko
Подписаться

Всем привет! Столкнулись с такой проблемой, связанной с чтением данных из S3. Мы читаем данные из parquet файлов, используя табличный движок S3 и вставляем в целевую таблицу д...

#backend #clickhouse #database #devops #programming #russian
22.08.2023
0
1 ответов
ClickHouse не тормозит ClickHouse не тормозит / Stas Dombrovskyi
Подписаться

Всем привет. Кто-то использует вот такой бутстрап схем/таблиц в кликхаус в кубере? https://github.com/Altinity/clickhouse-operator/blob/master/docs/chi-examples/02-templates-0...

#backend #clickhouse #database #devops #programming #russian
03.11.2023
0
22 ответов
ClickHouse не тормозит ClickHouse не тормозит / unhingedlunatic
Подписаться

Друзья, доброго времени суток! Такой вопрос: Мы используем BI продукт FineBI, внутри которой есть какая-то своя китайская колоночная БД. Грузим в FineBi датасет относительно н...

#backend #clickhouse #database #devops #programming #russian
11.11.2023
0
7 ответов
Смотреть еще
ClickHouse не тормозит ClickHouse не тормозит
Подписаться
Вопросов 34756
Ответов 72457
Участников 8768
Telegram @clickhouse_ru

Обсуждают сегодня

А чем вам питонисты не угодили?😂
.
79
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
32
Hello. Could you please help me with finding all coordinates within a radius using a spatial index, given that I have a table with coordinates? SET @lng = 37.57925; SET @lat ...
Rinchin G
7
Язык Си можно выучить за день? По книжке ANSI C на 230 страниц
Vincent Vegan
29
Привет, запускаю werf в dind в k8s, получаю ошибку на этапе build/beforeSetup: /.werf/stapel/embedded/bin/bash: /.werf/scripts/5898bdfe5214357d3706b879cc8d3d78460fb379607cbd...
florius0
7
Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
75
Всех приветствую. Направьте меня в нужное русло. Постепенно переписываю проект с delphi на lazarus. Приложение - обычный windows/linux клиент для бд firebird. Тут все хорошо. ...
Mishutka
8
Привет всем, подскажите, есть сайт на ево 1.4, надо сделать его мультиязычным, структура документов одинаковой останется, чисто тексты разные, свои тв для каждого языка, поддо...
Oleg
7
@rouse_79 https://github.com/AlexanderBagel/FWZip/blob/8c6882a31ffaa9a23e66e22eaa5b1f7ebfcad43c/zlib_external.pas#L393 Почему Си-шная функция memset, параметр отвечающий за з...
notme
8
{"fieldValue":[ {"title":"Alkmaar","coords":"52.62689992095562, 4.771862510168792","address":"Edisonweg 1","zip":"1821 BN","city":"Alkmaar","description":"ma-vr: 07:00-17:00"...
Marc Hoogstrate
4
Карта сайта