без проблем достаю файлы используя aws-cli/1.19.1 Python/3.9.2 Linux/5.10.0-22-cloud-amd64 botocore/1.20.0 имея окружении
export AWS_SECRET_ACCESS_KEY=secret123
export AWS_ACCESS=access123
export AWS_SESSION_TOKEN=token123
Создаю таблицу как:
CREATE TABLE s3 (
`Name1` Nullable(String),
`Name2` Nullable(String),
`Name3` Nullable(String)
) ENGINE = S3('https://s3.amazonaws.com/my_bucket/..../*parquet', 'access123', 'secret123', 'Parquet');
На запрос выходит ошибка:
S3 exception: `InvalidAccessKeyId`, message: 'The AWS Access Key Id you provided does not exist in our records.'. (S3_ERROR)
Не могу сообразить где ошибся...
use_environment_credentials https://clickhouse.com/docs/en/integrations/s3#managing-credentials <clickhouse> <s3> <use_environment_credentials>true</use_environment_credentials> </s3> </clickhouse>
Через переменные окружения удалось "достучаться" до хранилища. select * from s3_table limit 2; — работает select count() from s3_table; — DB::Exception: Attempt to read after eof: While executing ParquetBlockInputFormat: While executing S3. (ATTEMPT_TO_READ_AFTER_EOF) Грешил на то, что файлы еще пишутся, но это не так. Где можно покопать?
а если: select count() from s3_table settings remote_filesystem_read_method='read' и select version();
Спасибо, в понедельник попробую... 👍
Так работает! Еще раз спасибо. ┌─version()─┐ │ 23.4.2.11 │ └───────────┘
Обсуждают сегодня