Не могу понять, почему athena/glue видят мои таймстемпы вот таким

образом "+52522-12-12..." +52522 это год если что. Конвертнул с помощью пандас из csv в parquet. Пандас показывает, что колонка имеет тип datetime64.
Crawler тоже распознал как timestamp, но в афине вот такое
сталкивался кто-нибудь с подобным или это лучше к датасатанистам?

2 ответов

8 просмотров

Show create table покажете?

Danil- Автор вопроса
Al T
Show create table покажете?

CREATE EXTERNAL TABLE `webprd_iis`( `s_ip` string, `cs_method` string, `cs_uri_stem` string, `cs_uri_query` string, `s_port` bigint, `cs_username` string, `c_ip` string, `cs_user_agent` string, `cs_referer` string, `cs_host` string, `sc_status` bigint, `sc_substatus` bigint, `sc_win32_status` bigint, `time_taken` bigint, `datetime` string) PARTITIONED BY ( `hostname` string, `svc` string) ROW FORMAT SERDE 'org.apache.hadoop.hive.ql.io.parquet.serde.ParquetHiveSerDe' STORED AS INPUTFORMAT 'org.apache.hadoop.hive.ql.io.parquet.MapredParquetInputFormat' OUTPUTFORMAT 'org.apache.hadoop.hive.ql.io.parquet.MapredParquetOutputFormat' LOCATION 's3://***WEBPRD/IIS/' TBLPROPERTIES ( 'CrawlerSchemaDeserializerVersion'='1.0', 'CrawlerSchemaSerializerVersion'='1.0', 'UPDATED_BY_CRAWLER'='iis-logs-parquet', 'averageRecordSize'='6', 'classification'='parquet', 'compressionType'='none', 'objectCount'='196', 'recordCount'='13488318', 'sizeKey'='171943168', 'typeOfData'='file')

Похожие вопросы

Обсуждают сегодня

Ребят, а за скок можно впарить анон чат с апишкой и веб админкой ?
Eugene Неелов
15
Ты просто гитлеровскую эстетику плохо понимаешь. Он же всё под Цезаря делал. А это как бы запрещённый приём в политике. Пиджаки они зачем все носят? Чтобы показать что они тип...
Ivan Kropotkin
4
Добрый день, подскажите как правильно сделать filter в backend-e. Есть модель (товар) у который связь belongsToMany (компания), компаний > 4k, поэтому выборку типа ->all(); н...
Max Dubovsky
7
Hello, I want to ask. I trained EfficientNet V2 Small and achieved 98% accuracy and F1 score on test data. I did the same with a simple CNN and achieved 97% accuracy and F1 sc...
~
2
А цены чем оправданы?
Lencore
7
'frakturBold' => ['𝖆', '𝖇', '𝖈', '𝖉', '𝖊', '𝖋', '𝖌', '𝖍', '𝖎', '𝖏', '𝖐', '𝖑', '𝖒', '𝖓', '𝖔', '𝖕', '𝖖', '𝖗', '𝖘', '𝖙', '𝖚', '𝖛', '𝖜', '𝖝', '𝖞', '𝖟', '𝕬', '𝕭', '𝕮', '𝕯'...
Roma
4
Добрый день, не подскажите, если в OC-V3 поменять страндартную директорию /storage/ на /storage2/ - не будет сильно много проблем ?
Max Dubovsky
32
напомните, как заменить placeholder , а не добавить содержимое ?
Artem N
4
Каким то образом можно определить ширину экрана пользователя перед загрузкой partial-а? Надо рассчитать ширину кадров слайдера для ресайза картинок для container-fluid.
Point 111
22
Всем привет. Нужна платная консультация от тех, кто сталкивался с октябрём в кластере или шарит оч хорошо в цмс. Проблема следующая: после переноса в кластер октябрь начал ...
wl
8
Карта сайта