184 похожих чатов

Всем привет! Есть тут эксперты по odbc-драйверу? Нормальная ли производительность,

фулскан с винды через odbc-драйвер таблицы 1 млн строк и 472 столбца, занимает 1 минуту в формате RowBinaryWithNamesAndTypes? При этом пробовали через нативный clickhouse-client, там скорость в таком же формате около 12 сек. Упора в сетку/цп/озу нигде нет, ни на сервере ни на клиенте. Пробовали как с одной ноды дергать, так и с кластера в 2 и 5 нод, используя distributed таблицу, результаты примерно одинаковые +- 1-2сек, что наверное погрешность. Как-то ещё можно ускорить или всё-таки упор уже в драйвер ? В таблице в основном числовые значения

18 ответов

17 просмотров

а curl через http с RowBinaryWithNamesAndTypes сколько дает?

Sergey-Sesyunin Автор вопроса
Denny [Altinity]
а curl через http с RowBinaryWithNamesAndTypes ско...

16 сек) и с него сетка до 2гбит нагружается. А когда odbc драйвер, то 1 минута и сетка примерно до 500мбит нагружается

odbc драйвер как измеряли? на каком то языке? или time isql ?

Sergey-Sesyunin Автор вопроса
Slach [altinity]
odbc драйвер как измеряли? на каком то языке? или ...

У нас есть bi, который умеет через odbc подключаться. Смотрел по логам время которое тратится на сам запрос, без учёта отрисовки данных. А что, через curl производительность должна быть такая же как и через odbc драйвер?

Sergey Sesyunin
У нас есть bi, который умеет через odbc подключать...

нет, производительность BI может быть не той что вы ожидаете и узким местом может быть не драйвер, а то, как BI его использует time isql ... что говорит?

Sergey-Sesyunin Автор вопроса
Slach [altinity]
нет, производительность BI может быть не той что в...

Это не смотрели. У нас все клиенты виндовые. Я так понимаю isql надо с линуха ?

Год назад были похожие проблемы с производительностью при выборе большого кол-ва строк из ClickHouse при помощи виндового odbc драйвера. Дамп трафика показал что используются очень маленькие пакеты для пересылки данных. В итоге просто написали кастомный коннектор для своего BI, обращающийся к ClickHouse по http. Это позволило значительно ускорить процесс получения данных.

Симптомы были похожие. Ни где затыка вроде нет, а запрос выполняется оочень медленно при большом кол-ве строк в результатах запроса.

Sergey-Sesyunin Автор вопроса
Alexander Petrov
Год назад были похожие проблемы с производительнос...

А что у вас за bi, если не секрет? Я ещё хочу покопаться и выяснить, может действительно наш bi не очень хорошо работает с драйвером и из за него проблемы

Sergey Sesyunin
Это не смотрели. У нас все клиенты виндовые. Я так...

ой точно под винду компилируется вот это https://crates.io/crates/odbc-tools могу собранные .exe положить куда нибудь

Sergey Sesyunin
Буду благодарен)

https://mega.nz/file/LUw0DZAB#1H7raEbeDno7jZjIMaV6zGQU9Z4-fNNTzzCh1BXXtRE драйвер ставил последнюю версию с github советую поставить какой нибудь cygwin или git-bash и в нем запускать как time odbc-query.exe "DSN=clickhouse_dsn" vertical "SELECT number FROM numbers(1000000)" > /dev/null

Sergey Sesyunin
Буду благодарен)

драйвер 64bit ставил clickhouse у меня поднят в docker + wsl2 с пробросом портов поэтому localhost

Sergey Sesyunin
Буду благодарен)

получилось что нибудь замерять?

Sergey-Sesyunin Автор вопроса
Slach [altinity]
получилось что нибудь замерять?

Да, я сразу на своей таблице пытаюсь проверить, но результат вообще не радует уже пару минут крутится, сетка всего на 30 мбит грузится, без vertical можно ? Как сделать вид «как есть»? Просто у меня куча столбцов и при вертикале он каждый столбик в строку записывает видимо

Sergey Sesyunin
Да, я сразу на своей таблице пытаюсь проверить, но...

никак... значит rust еще тупее чем остальное =) извините что не в ту стороне отправил есть еще https://github.com/microsoft/ODBCTest он вроде в комплекте MDAC поставлялся но я что-то не могу найти MDAC на мракософт

Sergey-Sesyunin Автор вопроса
Slach [altinity]
никак... значит rust еще тупее чем остальное =) из...

Печаль) попробовал ещё json-array, сетку уже получше до 150-170 мбит грузит, но все равно слабовато выходит, нужен формат как есть )

Похожие вопросы

Обсуждают сегодня

Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Ну вот просто даже давайте вот как. Какой нибудь конкретный кейс, можете в пример привести, где бч работает и приносит прикладную пользу, а не просто что бы было? Не крипту.
Alexander Andreev
22
объясните пожалуйста, почему функция не работает должным образом? вроде должно брать активное окно сравнивать его размер с размером экрана, и если есть совпадение = true прове...
JF
9
> Копаем глубже > Следующий момент был, когда я спросил его, знает ли он JavaScript. Он ответил, что его учили работать с C#. Я тоже в университете писал на C#, но даже там мн...
Oleg Volkov
4
лучше скажите, причём тут паскаль?
Alexey Kulakov
36
И никого не интересует какие пакеты кто использует. ((% Заходишь на сайт симфони и видишь поддержку Украины - по законам РФ это ж экстремизм. Только никто не отказывается от с...
Am Ambrion
11
Чтобы перехватить все нажимания буков на форме, надо хук ставить? Пробовал на форме ОнКейДаун, оно ловит клаву если фокус не на компоненте с вводом текста
Serjone
15
Народ! Впервые клиенту пришло письмо от РКН, у вас, дескать, есть яндекс метрика, а нигде не написано, что вы ее юзаете. Никто не сталкивался?
Sasha Beep
14
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
7
Вопрос на перед, на следующую пятницу. Сколько строк кода можно вешать на одного программиста, понятно что если проект хорошо написан то можно и миллион. Но есть же где то пре...
AlekseyK Kluchnikov
31
Карта сайта