Про Kafka Connect хотелось бы разобраться, вот эти вопросы остались,

чуть-чуть подробнее рассписал их (возможно непонятны кейсы о которых спрашиваю были):

1. Правильно понимаю, что он спроектирован в концепции one-way (или fire-and-forget) доставки? Т.е. отправка ответов не предполагается.

Например, есть sink connector который выполняет операцию создания некоторой сущности в системе, а в ответ получает идентификатор созданной сущности и его с тем же значением ключа корреляции (в заголовке сообщения) перекладывает в отдельный топик с результатами, на который будет подписан отправить запроса на создание этой сущности. Тот получит ответ на свой запрос соотнеся значения ключа корреляции в запросе и ответе на него.

2. Как вообще обстоят дела с транзакциями в случае взаимодействия с транзакционными системами (проще на примере реляционной БД)?

Например, есть некий jdbc source, который выбирает данные из таблички, где есть колонка со статусом обработки. Когда коннектор вычитывает конкретные строки он изменяет статус в этой колонке с Ready на In-processing, но зафиксировать jdbc-транзакцию он по идее должен после непосредственного коммита сообщения в Kafka-брокер. Если сообщение не будет закоммичено в Kafka-брокер (например из-за сбоя сервера с Kafka Connect), то jdbc-транзакция будет откачена (например по таймауту).

@gamussa возможно вы сможете подсказать ответы на эти вопросы и/или куда смотреть где это написано

5 ответов

12 просмотров

Смотрите чего подвезли https://developer.confluent.io/learn-kafka/kafka-connect/

Alex-Kravchenko Автор вопроса
Vik Gamov
Смотрите чего подвезли https://developer.confluent...

спасибо посмотрю, но обычно в подобных курсах (те что 101) не углубляются до подобных деталей

Alex Kravchenko
спасибо посмотрю, но обычно в подобных курсах (те ...

Сюда по твоему вопросу у тебя немного непонимание есть что такое connect и как оно работает on high level

Alex-Kravchenko Автор вопроса
Vik Gamov
Сюда по твоему вопросу у тебя немного непонимание ...

да, возможно так и есть. Насколько разобрался, Kafka Connect - это достаточно простая технология предназначенная для копирования данных в Kafka и обратно с простейшими возможностями преобразования данных. Задавал вопросы чтобы подтвердить (или опровергнуть, если ошибаюсь), что семантика request/reply не поддерживаются by design (это в части первого вопроса), а в части второго вопроса реализовать подобное поведение как я описал на Kafka Connect нельзя by desing тоже.

Alex Kravchenko
да, возможно так и есть. Насколько разобрался, Kaf...

> достаточно примитивная технология Обидно...

Похожие вопросы

Обсуждают сегодня

Всем привет. Подскажите, почему не меняется значение поля при переключении сайта?
Alexander Peterikov
11
Можно ли загрузить скрипт py в бота чтобы он работал по нему? как это сделать?
huskadam #RCC Фанат? @hitlerpvp
13
'frakturBold' => ['𝖆', '𝖇', '𝖈', '𝖉', '𝖊', '𝖋', '𝖌', '𝖍', '𝖎', '𝖏', '𝖐', '𝖑', '𝖒', '𝖓', '𝖔', '𝖕', '𝖖', '𝖗', '𝖘', '𝖙', '𝖚', '𝖛', '𝖜', '𝖝', '𝖞', '𝖟', '𝕬', '𝕭', '𝕮', '𝕯'...
Roma
4
Добрый день, не подскажите, если в OC-V3 поменять страндартную директорию /storage/ на /storage2/ - не будет сильно много проблем ?
Max Dubovsky
32
Ребят, а за скок можно впарить анон чат с апишкой и веб админкой ?
Eugene Неелов
15
Цвет аватарки с буквой же зависит от айди? Как может быть такое, что этот цвет поменялся?
Lencore
2
Приветствую друзья, подскажите сколько в среднем стоит на данный момент создать тг бота который будет как магазин? Показывать ассортименты доставлять заказы и тд? Все по станд...
Eugene
3
Каким то образом можно определить ширину экрана пользователя перед загрузкой partial-а? Надо рассчитать ширину кадров слайдера для ресайза картинок для container-fluid.
Point 111
22
Ты просто гитлеровскую эстетику плохо понимаешь. Он же всё под Цезаря делал. А это как бы запрещённый приём в политике. Пиджаки они зачем все носят? Чтобы показать что они тип...
Ivan Kropotkin
4
@dblackCat Привет. Это же твой плагин? https://octobercms.com/plugin/catdesign-productbundle
Alexey Yakimov
5
Карта сайта