Всем привет , а есть тут кто нибудь , кто

переносит данные из Яндекс Appmetrica в бд какую либо ?
Есть пара вопросов

4 ответов

19 просмотров

Мы переносим. Какой вопрос?

Алексей-Осипов Автор вопроса
Artem Kulizhnikov
Мы переносим. Какой вопрос?

Вопрос чисто по концепции. Как это происходит реквестсом дергаёте допустим за какой то период , это всё дело в csv , и csv в бд ? У меня просто самая проблема это то что 10 минутный чанк данных весит порядка 500 мб , и я такое никогда не клал в БД. В контейнере лимит оперативки 200 мб и cpu тоже 200. А ещё прикол что 10 минутный чанк данных выгружается порядка 8 минут)

Алексей Осипов
Вопрос чисто по концепции. Как это происходит ре...

Мы выбрали упрощенную концепцию. В аппметрике есть фича - экспорт в кликхаус. В интерфейсе аппметрики указывается, какие данные в какую таблицу экспортировать и аппметрика сама несколько раз за сутки кусочками инсертит данные в БД. А из кликхауса уже обычным sql с помощью питона инкрементно забираем в dwh. Но у этого способа есть 3 недостатка: 1. Платить за облачный кликхаус 2.Не все данные можно забрать тиким образом 3. Расписание обновления данных нам неподвластно - каждый день аппметрика сама решает, когда экспортировать

Похожие вопросы

Обсуждают сегодня

Ребята, всем привет. Подскажите, пожалуйста, можно ли как-то через бота понять, что этого бота добавили в группу\канал и выдали ему права администратора?
Artem Stormageddon
9
Это переведённый текст с английского. Я не говорю на русском, но могу использовать переводчик Телеграм. Приветствую! Я начинающий веб-разработчик и все еще учусь. В настояще...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
3
А не хотим ли мы развлечься? 😉 Но так чтобы с пользой для наших профессиональных навыков?? 👨‍🎓👩‍🎓 Предлагаю на октябрь запланировать тестовый запуск новой командной игры "Игр...
Andrii Kurdiumov
2
Привет всем! Почему этот код не срабатывает при добавлении или удалении пользователя из чата? bot.on('chat_member', async (ctx) => { console.log(ctx); }) bot.launch({allo...
Alexander
5
у кого сколько оперативы на базе данных ?
АДИЛЬБЕК
4
Через бот апи возможно получить ID стикерпака? Не ссылку.
Vexylon [АФК до 09.09]
5
Привет Хочу сделать аналог iCloud’а для своих проектов, чтобы пользовательская информация хранилась в облаке, была доступна во всех сервисах, её можно было подсасывать везде)...
Виталий
9
В тг можно спарсить всех кто пишет в группе? Если список участников скрыт
S
3
код Event::listen('cms.page.display', function (&$content, $slug, $page, $html) { if (is_object($content)) { dump($content); } else { dump($s...
Point 111
3
Всем привет. Не понимаю, в чём тут шутка юмора. Убирается только разрешение на send_messages. А send_media_messages остаётся. Как сделать, чтобы оба убирались? await b...
Alexander
2
Карта сайта