170 похожих чатов

У меня такая тупиковая ситуация возникла... с рекурсией и каналами,

неожиданно.

У меня была функция которая рекурсивно нарезала картинку, в один поток. Рекурсия здесь была удобна потому что ну нарезка одинаковая, в зависимости только от уровня могли чуть параметры меняться, но не суть, тут рекурсия логично подходит вроде как.....
Потому что картинка режется допустим на 4 ровных куска, каждый из которых решится допустим на 5 и каждый из которых и тд, ну суть понятна

Так вот я решил пока без масштабируемости (rabbitmq, redis и тд) распаралелить задачу на каналах и воркерах на уровне одного инстанса

И столкнулся с такой проблемой что всё встаёт ;D
Я создаю буф канал с тасками на кол-во воркеров, допустим 4.

Когда пользователь грузит картинку, тут же создаётся 4 таски и отправляются в канал, воркер подхватывает, режит свою картинку и в этот же канал получается кидает следующие таски на разрезания уже каждый своей части.
И вот тут как я понимаю возникает проблема (без паник и прочего, что возможно ещё страшнее) когда задача зависает на уровне воркера (но в итоге может зависнуть и когда пользователь грузит картинку, потому что таска попытается отправиться в тот же канал), потому что он не может запушить задачу в канал (в тот же самый канал), потому что все воркеры заняты тем что пытаются запушить в канал и свободных нет ;DD

И я понимаю что проще всего использовать нормальный брокер и тд, это масштабируется и замечательно, но для примера я хотел сначала распаралелить задачу на уровне одного инстанса, а потом подрубить брокер ;)

Так вот, кто-нибудь знает как в таком случае рекурсивного записывания в канал быть? Мб статьи хорошие есть на эту тему? Мб семафоры всякие подрубать надо, а то я пока теоритечски пытаюсь разрулить, но всё что не приходит в голову вызывает мысль что это ТОЖЕ вызовёт в итоге блокировку ;D

11 ответов

30 просмотров

а базовый случай какой? Когда рекурсия завершится?

Rostislav Teryaev
а базовый случай какой? Когда рекурсия завершится?

На данный когда дойдёт до 4 уровня разрезания картинки ;D

Ярослав Коробейников
На данный когда дойдёт до 4 уровня разрезания кар...

- Нарeзается сначала 2x2 - Каждый из полученных фрагментов нарезается 5x5 - Каждый из полученных фрагментов нарезается 2x2 - Каждый из полученных фрагментов нарезается 10x10 - Времени нарезается: `Time took: 13m3.580406721s` - Всего блоков (map_blocks) получается: `40504` - Zoom level 1: 4 блока - Zoom level 2: 100 блоков - Zoom level 3: 400 блоков - Zoom level 4: 40000 блоков

Ярослав Коробейников
- Нарeзается сначала 2x2 - Каждый из получе...

@Snawoot ПРикинь сколько горутин может запуститься?

Rostislav Teryaev
Ну это срабатывает? Может в этом дело

Я так понимаю он не успевает до туда дойти даже, блокируется ДО того как дойдёт то базовго случая

Ярослав Коробейников
- Нарeзается сначала 2x2 - Каждый из получе...

И это одна картинка, один пользователь загружает, а если их 2, 3, 10, сколько горутин создастся, и вы @Snawoot предлагаете слепо их генерировать на каждую задачу?

Alex DekaDancer
А нельзя сразу резать на 40к частей?)

нЭт) хочу рекурсивную нарезку)

Alex DekaDancer
А всегда 2,5,2,10?

Ну сейчас да, но просто для локального тестирования) В теории планируется это конфигурировать)

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта