184 похожих чатов

Доброго времени суток! Есть у кого работающие примеры с AWS S3? Я

без проблем достаю файлы используя aws-cli/1.19.1 Python/3.9.2 Linux/5.10.0-22-cloud-amd64 botocore/1.20.0 имея окружении
export AWS_SECRET_ACCESS_KEY=secret123
export AWS_ACCESS=access123
export AWS_SESSION_TOKEN=token123

Создаю таблицу как:
CREATE TABLE s3 (
`Name1` Nullable(String),
`Name2` Nullable(String),
`Name3` Nullable(String)
) ENGINE = S3('https://s3.amazonaws.com/my_bucket/..../*parquet', 'access123', 'secret123', 'Parquet');

На запрос выходит ошибка:
S3 exception: `InvalidAccessKeyId`, message: 'The AWS Access Key Id you provided does not exist in our records.'. (S3_ERROR)

Не могу сообразить где ошибся...

5 ответов

24 просмотра

use_environment_credentials https://clickhouse.com/docs/en/integrations/s3#managing-credentials <clickhouse> <s3> <use_environment_credentials>true</use_environment_credentials> </s3> </clickhouse>

Valeriy-Filatov Автор вопроса
Denny [Altinity]
use_environment_credentials https://clickhouse.co...

Через переменные окружения удалось "достучаться" до хранилища. select * from s3_table limit 2; — работает select count() from s3_table; — DB::Exception: Attempt to read after eof: While executing ParquetBlockInputFormat: While executing S3. (ATTEMPT_TO_READ_AFTER_EOF) Грешил на то, что файлы еще пишутся, но это не так. Где можно покопать?

Valeriy Filatov
Через переменные окружения удалось "достучаться" д...

а если: select count() from s3_table settings remote_filesystem_read_method='read' и select version();

Valeriy-Filatov Автор вопроса
Denny [Altinity]
а если: select count() from s3_table settings rem...

Спасибо, в понедельник попробую... 👍

Valeriy-Filatov Автор вопроса
Denny [Altinity]
а если: select count() from s3_table settings rem...

Так работает! Еще раз спасибо. ┌─version()─┐ │ 23.4.2.11 │ └───────────┘

Похожие вопросы

Обсуждают сегодня

а через ESC-код ?
Alexey Kulakov
29
30500 за редактор? )
Владимир
47
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
program test; {$mode delphi} procedure proc(v: int32); overload; begin end; procedure proc(v: int64); overload; begin end; var x: uint64; begin proc(x); end. Уж не знаю...
notme
6
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
5
вы делали что-то подобное и как? может есть либы готовые? увидел картинку нокода, где всё линиями соединено и стало интересно попробовать то же в ddl на lua сделать. решил с ч...
Victor
8
Ребят в СИ можно реализовать ООП?
Николай
33
Подскажите пожалуйста, как в CustomDrawCell(Sender: TcxCustomGridTableView; ACanvas: TcxCanvas; AViewInfo: TcxGridTableDataCellViewInfo; var ADone: Boolean); получить наз...
A Z
7
Карта сайта