52 похожих чатов

Битрикс для разработчиков Битрикс для разработчиков
Чат экстремального погром... Чат экстремального погром...
Qt Qt
symfony symfony
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
Боты на Telegraf Боты на Telegraf
Data Science Chat Data Science Chat
Android Architecture Android Architecture
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
DevsHelper DevsHelper
1C 1C
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
freebsd_ru freebsd_ru
Atlassian Community - Rus... Atlassian Community - Rus...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
ru_gitlab ru_gitlab
OctoberCMS OctoberCMS
Godot Engine (Russian) Godot Engine (Russian)
MySQL MySQL
Yii Framework 2 Yii Framework 2
Data Engineers Data Engineers
Чат Tableau Чат Tableau
Cinema 4D Cinema 4D
Software Design/Architect... Software Design/Architect...
Evolution CMS Evolution CMS
Odoo talks & fun Odoo talks & fun
pro.buildsystems pro.buildsystems
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
QA juniors QA juniors
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
ru_hashicorp ru_hashicorp
Grafana Loki Grafana Loki
VictoriaMetrics_ru VictoriaMetrics_ru
Google Cloud Platform_ru Google Cloud Platform_ru
.NET Group .NET Group
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
Netbeans [RU] Netbeans [RU]
pro.kafka pro.kafka
Alexander-Lisachenko

Всем доброго дня! Подскажите, если есть ответы под рукой на

несколько вопросов:
1) существует ли удобный способ положить поток сообщений из protobuf (реестра нет, но есть сама proto-структура) в топике Kafka в S3 через Sink-коннектор в формате JSON+gzip, чтобы можно было потом устроить бесконечное хранение с использованием Intelligent Tiering в S3 и пользоваться S3 Select или Presto для выгрузки данных за известный небольшой промежуток времени.
2) можно ли как-то использовать какое-либо внутреннее значение из пейлоада сообщения или же ключ для формирования имени объекта в S3 бакете? (наливать не 1:1 топик-партиции, а еще раскладывать дополнительно данные по-полочкам с префиксом). Текущая модель коннектора - класть файл с ключами или хидерами отдельно от пейлоада не позволяет удобно работать с данными - нужен некоторый JOIN или сканирование всех записей в объекте для фильтрации по одному из полей в пейлоаде.
3) можно ли соединять FieldPartitioner как-то с TimeBasedPartitioner чисто конфигурацией? /region=abc-1/field1=value/year=1234/month=12/day=23/hour=01.bin ?

#kafka #russian #software
0

1 ответов

13 просмотров
Alexander-Lisachenko Автор вопроса

Нашелся https://github.com/canelmas/kafka-connect-field-and-time-partitioner, который решает 2 и 3. Остается решить 1, либо быстро поставить Registry…

0
14.05.2023

Похожие вопросы

pro.kafka pro.kafka / Aliaksei
Подписаться

Привет, у меня вопрос к экспертам :) Кафка старая 2.0.0 при добавлении нового сервера не меняли настройки для репликации __consumer_offsets топика (системного) но при апдейт...

#kafka #russian #software
16.11.2023
0
16 ответов
pro.kafka pro.kafka / Сергей
Подписаться

Всем привет Есть у кого опыт использования MirrorMaker2 с переливом оффетов? Я делаю сейчас на своих кластерах и он чушь какую-то переливает.

#kafka #russian #software
21.07.2023
0
40 ответов
pro.kafka pro.kafka / Nikolay Didenko
Подписаться

А при unclean.leader.election.enable=true если лидер пропал, то оставшиеся реплики (которые не insync) никак не смогут проголосовать и выбрать нового лидера самостоятельно? На...

#kafka #russian #software
20.11.2023
0
22 ответов
pro.kafka pro.kafka / alexander rainchik
Подписаться

Ребята, я тут уже обгуглился) может кто решал подобную задачу (кажется типичной) и сможет подсказать. Дано - aws msk, уже вовсю пару лет в продакшене, нет ни авторизации, ни ...

#kafka #russian #software
03.08.2023
0
21 ответов
pro.kafka pro.kafka / Marek Kotovsky
Подписаться

А можно подробнее о платных фичах?

#kafka #russian #software
05.08.2023
0
33 ответов
pro.kafka pro.kafka / David Smyr
Подписаться

ребят, можно сделать чтобы в кафке при получении данных она их валидировала?

#kafka #russian #software
22.08.2023
0
29 ответов
pro.kafka pro.kafka / S P
Подписаться

получается, что если у меня в кластере будет два брокера, то это можно считать отказоустойчивостью? (на верхнем уровне) И если у меня первый брокер выходит из строя, то остав...

#kafka #russian #software
17.11.2023
0
16 ответов
pro.kafka pro.kafka / Chnbvcb
Подписаться

Приветствую. Пускаю 3 KRaft брокера на localhost. config/kraft/server0.properties: node.id=1 controller.quorum.voters=1@localhost:9093,2@localhost:9095,3@localhost:9097 liste...

#kafka #russian #software
17.10.2023
0
5 ответов
pro.kafka pro.kafka / Sergey V
Подписаться

Коллеги, приветствую. В кафке новичок, поэтому заранее прошу прощения за возможно глупые вопросы. Есть интеграционные тесты на питоне, при их запуске поднимается kafka(3.2.3-d...

#kafka #russian #software
03.11.2023
0
2 ответов
pro.kafka pro.kafka / Damian Stas
Подписаться

кто нибудь имел такую ошибку [2023-07-21 09:37:56,442] WARN [SocketServer listenerType=ZK_BROKER, nodeId=3] Unexpected error from /172.18.0.1; closing connection (org.apache.k...

#kafka #russian #software
21.07.2023
0
6 ответов
Смотреть еще
pro.kafka pro.kafka
Подписаться
Вопросов 5405
Ответов 10778
Участников 3493
Telegram @proKafka

Обсуждают сегодня

if (user?.choseType === 'oneDay') { await ctx.reply( 'Добро пожаловать в команду «Магнита»! Правда, на один день ☺️ ', ); await ctx.s...
Kokni
1
Читаю сейчас [нет, уже больше не читаю!] курсовую о Булгакове, написанную, похоже, с помощью ChatGPT. Это удивительный психоделический опыт. Текст в основном написан в стиле б...
✨ Uni [🌊 В отпуске]
1
Это фейк @cruppto_newbot?
Antskup
13
всем салют сегодня утро заметил что бот не может отправлять фотки по url. ручками в браузере ссылка норм открывает фотки. падает ошибка 'Bad Request: failed to send message ...
Vasya Ivanov
9
ребят, привет. за какое время бот полученную заявку на вступление в группу может принять \отклонить? Помню речь была про 5 минут, сейчас как?
Роман Ромашин :)
10
Доброго времени суток. Правильно ли я понимаю, что с введением новой платежной единицы stars, я просто могу оставить текущую платёжку от Юкассы, которая выполняется на сайте с...
Prokhor Chulkov
7
вопрос: кто как решает вопрос с динамической подгрузкой скриптов для отдельных страниц с включенным turbo router?
Sergei Toroptsev
25
Добрый день! Не подскажете как к модели Категории Шопоголика добавить отношение Тейлора. Пробовал по документации, но не получается. Мб уже кто-то делал?
Николай Афанасенко
6
@veranikaEU получилось? Можно увидеть рабочий код?
Alex Kom
8
Сonst magicTgHTML = (text, entities) => { let processedText = text; let offsetShift = 0; entities.forEach(entity => { const { offset, length, type, url, ...
Андрей
1
Карта сайта