Про Kafka Connect хотелось бы разобраться, вот эти вопросы остались,

чуть-чуть подробнее рассписал их (возможно непонятны кейсы о которых спрашиваю были):

1. Правильно понимаю, что он спроектирован в концепции one-way (или fire-and-forget) доставки? Т.е. отправка ответов не предполагается.

Например, есть sink connector который выполняет операцию создания некоторой сущности в системе, а в ответ получает идентификатор созданной сущности и его с тем же значением ключа корреляции (в заголовке сообщения) перекладывает в отдельный топик с результатами, на который будет подписан отправить запроса на создание этой сущности. Тот получит ответ на свой запрос соотнеся значения ключа корреляции в запросе и ответе на него.

2. Как вообще обстоят дела с транзакциями в случае взаимодействия с транзакционными системами (проще на примере реляционной БД)?

Например, есть некий jdbc source, который выбирает данные из таблички, где есть колонка со статусом обработки. Когда коннектор вычитывает конкретные строки он изменяет статус в этой колонке с Ready на In-processing, но зафиксировать jdbc-транзакцию он по идее должен после непосредственного коммита сообщения в Kafka-брокер. Если сообщение не будет закоммичено в Kafka-брокер (например из-за сбоя сервера с Kafka Connect), то jdbc-транзакция будет откачена (например по таймауту).

@gamussa возможно вы сможете подсказать ответы на эти вопросы и/или куда смотреть где это написано

5 ответов

20 просмотров

Смотрите чего подвезли https://developer.confluent.io/learn-kafka/kafka-connect/

Alex-Kravchenko Автор вопроса
Vik Gamov
Смотрите чего подвезли https://developer.confluent...

спасибо посмотрю, но обычно в подобных курсах (те что 101) не углубляются до подобных деталей

Alex Kravchenko
спасибо посмотрю, но обычно в подобных курсах (те ...

Сюда по твоему вопросу у тебя немного непонимание есть что такое connect и как оно работает on high level

Alex-Kravchenko Автор вопроса
Vik Gamov
Сюда по твоему вопросу у тебя немного непонимание ...

да, возможно так и есть. Насколько разобрался, Kafka Connect - это достаточно простая технология предназначенная для копирования данных в Kafka и обратно с простейшими возможностями преобразования данных. Задавал вопросы чтобы подтвердить (или опровергнуть, если ошибаюсь), что семантика request/reply не поддерживаются by design (это в части первого вопроса), а в части второго вопроса реализовать подобное поведение как я описал на Kafka Connect нельзя by desing тоже.

Alex Kravchenko
да, возможно так и есть. Насколько разобрался, Kaf...

> достаточно примитивная технология Обидно...

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Объясните, пожалуйста, почему компилятор ругается на использование в условии неинициализированной переменной: int x; Task.Run(async () => { x = await somefunc(); }).Wait...
Александр
5
Ребят, подскажите, пожалуйста, почему в префиксе к ассетам, которые генерируются через фильтр | theme в шаблоне, стал вдруг появляться index.php? Вот так выглядит ссылка на а...
Виталий
1
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
4
Блин, ребята, сори за тупые вопросы. А можно ли как-то открыть вебапку по нажатию на кнопку в меню(которое появляется слева, команды)?
Artem Stormageddon
3
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
Коллеги, может знает кто, можно ли цвет бейджа счётчика в BackendMenu менять без бубнов?
Alex Blaze
3
Карта сайта