184 похожих чатов

Добрый день коллеги! Есть небольшая проблемка при загрузке файла csv

в базу.Файл 300 колонок размер файла 1.5 гигабайта. При попытке загрузить на сервер падает ошибка что не хватает памяти, если убрать ограничение по памяти то потребляет 15 гигабайт памяти. Можно как то ограничить у запроса объем памяти на загрузку файла до 10 гигабайт?
Если грузить файл таким же объемом но скажем 15 колонок такого потребления памяти нет и потребляем всего 3 гигабайта.


ClickHouse exception, code: 241, host: localhost, port: 8123; Code: 241, e.displayText() = DB::Exception: Memory limit (for query) exceeded: would use 9.33 GiB (attempt to allocate chunk of 16777280 bytes), maximum: 9.31 GiB (version 19.15.2.2 (official build))

2 ответов

24 просмотра

Разбейте файл на части и грузите по частям

--max_insert_block_size=100000 --min_insert_block_size_rows=100000 --max_compress_block_size=268435456 --min_compress_block_size=268435456

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта