Есть другая проблема, ранее я здесь писал что у нас

проблемы были на python в реализации транзакционной модели. Если точнее, консамер видил сообщения, даже после abort_transaction. Предположили что это библиотека confluent для питона не совершенна. Быстро перенесли алгоритм на Java, проблема осталась.(( Как только запускается продюсер 100.000 сообщений в одним топик. Консольный потребитель подключенный к топику со свойством isolation.level=read_commited сразу видит сообщения которые заливаются, хотя по логике из документации не должен. Вопрос, может здесь какой метод продюсера играет роль на отправку сообщений в топик?
Делаем так:
init.transaction
begin.transaction
Producer.Send(Messages) -цикл 100.000 сообщений.
Если все ок, commit.transaction
Иначе abort.transaction.

6 ответов

19 просмотров

вот в доке пример описан всё должно работать https://kafka.apache.org/10/javadoc/org/apache/kafka/clients/producer/KafkaProducer.html

Vladimir-Alifirov Автор вопроса
Чёрный Плащ
вот в доке пример описан всё должно работать https...

Благодарю. Проверим, напишу по итогу, помогло или нет..

Vladimir-Alifirov Автор вопроса
Vladimir Alifirov
Благодарю. Проверим, напишу по итогу, помогло или ...

Приветствую всех. Проверили пример из документации у себя. Есть такая особенность. Если сообщений не много и они менее 1 Кб, то все работает как надо. Но если сообщения 1Кб и Более, то ситуация не меняется: За основу взяли пример из документации. Заменили только алгоритм добавления сообщения: producer.beginTransaction(); String MessageData = GetDataBySize(1024); for (int i = 0; i < 10000; i++) producer.send(new ProducerRecord<>("topic03", Integer.toString(i), String.format("Message %s %s", i+1, MessageData))); и вместо commit.transaction поставили сразу abort.transaction. При таких условиях, консамер не должен был увидеть вообще ни одного сообщения. Но увы все равно были видны((. Может какие то еще настройки не учитываем?

Vladimir-Alifirov Автор вопроса
Vladimir Alifirov
Приветствую всех. Проверили пример из документации...

Здесь может сама архитектура выстроенная влияет? Кластер из 3-х Брокеров и 1 зукипер?

Vladimir Alifirov
Здесь может сама архитектура выстроенная влияет? ...

да вроде от количества брокеров это вообще никак не должно зависеть transactional.id установлен? я единственное что по себе вспомнил - у нас ключ всех сообщений в транзакции - один, соответственно, всё они в одной партиции (не знаю, влияет ли это) может, бага в самом брокере конкретной версии? если смотреть онлайн по смещениям, то коммит выглядит как ещё одно сообщение, которое не видно на консьюмере. так можно понять, прилетает ли вообще коммит как вариант - попробуйте тестовый стенд собрать с дефолтными настройками, на него натравить простейший тест - там посмотреть, вдруг какое хитрое влияние инфраструктуры

Vladimir-Alifirov Автор вопроса
Чёрный Плащ
да вроде от количества брокеров это вообще никак н...

transactional.id установлен? При каждом запуске новое значение. В принципе по этой части проверяли. И одно значение так же ставили. Не влияет. Пока будем тогда рассматривать 2 версии, либо это версия броекров Кафки. Либо это наша архитектура. Так как проверили уже и на java и на python результат один, транзакции не работают корректно. Благодарю за направления. Будем дальше думать и искать решение. Найдем, отпишусь в чем было дело.

Похожие вопросы

Обсуждают сегодня

Подскажите, а есть vault lite или ченить такое?) А то нужен вольт для похода в вольт, но весит он ~500 мб) как-то многовато для парочки запросов ))
Alexandr Orloff
17
Всем привет, есть небольшая проблема Есть такой скрипт document.addEventListener('DOMContentLoaded', function () { const sliderTabs = document.querySelectorAll('.s...
A da
8
@go1337 @dblackCat Привет. Все ещё дрочусь с fastpanel. Добавил второй домен который должен смотреть в рут того же сайта, но так как это просто домен, а не сайт, я не могу ему...
Ross 🦴
9
До речі, в ево нема можливості чи якого розширення щоб з адмінки з телефона зайти і терміново щось в верстці поправити?
Женя
7
кто-нибудь пользуется тайм-трекерами во время работы? так много разных нагуглил, может есть что-то популярное
Lencore
8
Пацаны. Я разрабатываю софт для инвайтинга на телетон, и столкнулся с такой проблемой, в один из чатов не могу приглашать никого, не дает добавлять, в то же время через официа...
Kernel Panic
11
Скажите, а кому нужен Currency как отдельный плагин вместо полноценного ecommerce в OctoberCMS? Кто-то использует его уже или планирует в будущем? Может я что-то не понимаю?
Igor
13
Розмовами про Рево мені нагадали часи, коли шаблони правилися прямо в адмінці. Хто в курсі, чому відійшли від цієї практики, так блейд не працює? Доволі зручно ж було (інколи)
Женя
3
Всем добрый вечер, Рад оказаться в кругу единомышленников. Начинаю погружаться в мир .net веба. Зовут Ерасыл 🖖 У меня назрел вопрос: Какой процент проектов, прошедшие через в...
Ерасыл
6
Чому? Да тому що без GiT не уявляю нормального проекта а коли код в базі то то так собі
Dmytro Lukianenko
3
Карта сайта