Всем привет! Вчера в определенный момент на час база начала

Question

Всем привет! Вчера в определенный момент на час база начала

реджектить инсерты, а в логах пошло следующее:

2023.08.21 17:46:47.583351 [ 250867 ] {3df8ef81-0ea1-45fd-bdc5-7029a3b346b3} <Error> executeQuery: Code: 252. DB::Exception: Too many parts (302 with average size of 25.37 MiB). Merges are processing significantly slower than inserts. (TOO_MANY_PARTS) (version 23.2.3.17 (official build)):
0. DB::Exception::Exception(DB::Exception::MessageMasked&&, int, bool) @ 0xe0c67d5 in /usr/bin/clickhouse
1. ? @ 0x14282800 in /usr/bin/clickhouse
2. DB::MergeTreeData::delayInsertOrThrowIfNeeded(Poco::Event*, std::__1::shared_ptr<DB::Context const> const&) const @ 0x14282620 in /usr/>
3. ? @ 0x1493bf99 in /usr/bin/clickhouse
4. DB::ExceptionKeepingTransform::work() @ 0x1493b774 in /usr/bin/clickhouse
5. DB::ExecutionThreadContext::executeTask() @ 0x14760d0c in /usr/bin/clickhouse
6. DB::PipelineExecutor::executeStepImpl(unsigned long, std::__1::atomic<bool>*) @ 0x14755f1b in /usr/bin/clickhouse
7. DB::PipelineExecutor::executeStep(std::__1::atomic<bool>*) @ 0x14755308 in /usr/bin/clickhouse
8. DB::PushingPipelineExecutor::start() @ 0x14769ae0 in /usr/bin/clickhouse
9. DB::TCPHandler::processInsertQuery() @ 0x1470741a in /usr/bin/clickhouse
10. DB::TCPHandler::runImpl() @ 0x146ff43c in /usr/bin/clickhouse
11. DB::TCPHandler::run() @ 0x14713979 in /usr/bin/clickhouse
12. Poco::Net::TCPServerConnection::start() @ 0x17614454 in /usr/bin/clickhouse
13. Poco::Net::TCPServerDispatcher::run() @ 0x1761567b in /usr/bin/clickhouse
14. Poco::PooledThread::run() @ 0x1779ca07 in /usr/bin/clickhouse
15. Poco::ThreadImpl::runnableEntry(void*) @ 0x1779a43d in /usr/bin/clickhouse
16. ? @ 0x7fe0f8ddd609 in ?
17. clone @ 0x7fe0f8d02133 in ?

Поток данных с источника не изменялся. Предположительно грешу на то, что незадолго до этого отключал политику переноса данных между дисками (делал следуюющим путем: сделал новую политику, которая перенесла все данные на дефолт диск, после окончания переноса просто удалил в конфигах везде упоминание второго диска, но при этом такую же процедуру проводил на десятке баз, нигде ничего схожего не проявлялась за неделю). На что можно обратить внимание?

#backend #clickhouse #database #devops #programming #russian

0

22.08.2023

1 ответов

11 просмотров

Ilya Golshtein · Accepted Answer

Почитайте про too many parts. Можно увеличить их разрешенное количество. Можно постараться сделать вставки более "крупными". Можно попробовать понять, что случилось с мерджами. Как влияет политика на мерджи я не знаю, но весьма вероятно, что как-то влияет.

184 похожих чатов

Всем привет! Вчера в определенный момент на час база начала

1 ответов

Похожие вопросы