Привет, я разбираюсь с dictionary в КХ. У меня есть словарь

Question

Привет, я разбираюсь с dictionary в КХ. У меня есть словарь

такого вида:

CREATE DICTIONARY IF NOT EXISTS dict_test (
A String,
B String,
C String
)
PRIMARY KEY A, B
SOURCE(CLICKHOUSE(table 'some_view'))
LAYOUT(COMPLEX_KEY_HASHED())
LIFETIME(1);

Что происходит когда я делаю селект вроде такого?
SELECT * FROM dict_test WHERE A = 'SOME_VALUE_A' AND B = 'SOME_VALUE_B';
Запрос будет идти в память словаря как tuple('SOME_VALUE_A', 'SOME_VALUE_B') по ключу?

А так фуллскан?
SELECT * FROM dict_test WHERE A = 'SOME_VALUE';

Или чтение будет из some_view?

#backend #clickhouse #database #devops #programming #russian

0

12.04.2021

9 ответов

17 просмотров

L Автор вопроса

Ivan Kalinin
селекты из словаря работают медленно, они больше д...

Ок, спасибо

0

12.04.2021

Slach [altinity]

lifetime очень маленький каждую секуду будет SELECT A,B,C FROM some_view происходить в отдельную область памяти, а потом атомарный replace SELECT * FROM dict_test это кажется всегда фуллскан по представлению dict_test памяти есть отдельно dictGet для словарей, там никакого fullscan конечно нет... проверять надо через SET send_logs_level='trace'; SELECT * FROM dict_test WHERE A = 'SOME_VALUE_A' AND B = 'SOME_VALUE_B'

0

13.04.2021

L Автор вопроса

Slach [altinity]
lifetime очень маленький каждую секуду будет SELEC...

Да я понимаю. Я хотел результат аггрегации + несклько джоинов складывать в такой как бы кэш и использовать его при выборках. Спасибо, посмотрю что в трейсах происходит

0

13.04.2021

L Автор вопроса

Slach [altinity]
lifetime очень маленький каждую секуду будет SELEC...

just fyi на запросы вида SELECT * FROM dict_test WHERE A = 'SOME_VALUE_A' AND B = 'SOME_VALUE_B' идет фуллскан.

0

13.04.2021

Slach [altinity]

L
just fyi на запросы вида SELECT * FROM dict_test ...

ну как бы тут такой момент что это фуллскан по памяти, так что оно достаточно быстро должно быть

0

13.04.2021

L Автор вопроса

Slach [altinity]
ну как бы тут такой момент что это фуллскан по пам...

да это понятно, но почему-то ожидал немного другого поведения. Пока сойдет, но позже буду думать как такие кэши сделать, что бы за единицу ходить.

0

13.04.2021

Slach [altinity]

L
да это понятно, но почему-то ожидал немного другог...

ну погодите, у вас есть по факту хешмап в памяти чтобы отфильтровать его надо как минимум пройтись по всем ключам получить атрибуты и сравнить их PRIMARY KEY для словаря, это выражение, которое используется как ключ хешпапа... PRIMARY KEYи т.п. для MergrTree это все остается внутри SOURCE() и словарь про это ничего не знает

0

13.04.2021

Denny [Altinity]

Slach [altinity]
ну как бы тут такой момент что это фуллскан по пам...

Это очень медленный фулскан, потому что там каждая колонка в своей хеш-таблице, и эти хеш-таблицы не предназначены для прохода последовательно, у меня есть тест где в 300 раз запрос медленее к словарю чем к мержтри таблице

0

13.04.2021

Ivan Kalinin · Accepted Answer

Ivan Kalinin

селекты из словаря работают медленно, они больше для дебага. лучше ограничиться dictGet*

0

12.04.2021

184 похожих чатов

Привет, я разбираюсь с dictionary в КХ. У меня есть словарь

9 ответов

Похожие вопросы