170 похожих чатов

У меня такая тупиковая ситуация возникла... с рекурсией и каналами,

неожиданно.

У меня была функция которая рекурсивно нарезала картинку, в один поток. Рекурсия здесь была удобна потому что ну нарезка одинаковая, в зависимости только от уровня могли чуть параметры меняться, но не суть, тут рекурсия логично подходит вроде как.....
Потому что картинка режется допустим на 4 ровных куска, каждый из которых решится допустим на 5 и каждый из которых и тд, ну суть понятна

Так вот я решил пока без масштабируемости (rabbitmq, redis и тд) распаралелить задачу на каналах и воркерах на уровне одного инстанса

И столкнулся с такой проблемой что всё встаёт ;D
Я создаю буф канал с тасками на кол-во воркеров, допустим 4.

Когда пользователь грузит картинку, тут же создаётся 4 таски и отправляются в канал, воркер подхватывает, режит свою картинку и в этот же канал получается кидает следующие таски на разрезания уже каждый своей части.
И вот тут как я понимаю возникает проблема (без паник и прочего, что возможно ещё страшнее) когда задача зависает на уровне воркера (но в итоге может зависнуть и когда пользователь грузит картинку, потому что таска попытается отправиться в тот же канал), потому что он не может запушить задачу в канал (в тот же самый канал), потому что все воркеры заняты тем что пытаются запушить в канал и свободных нет ;DD

И я понимаю что проще всего использовать нормальный брокер и тд, это масштабируется и замечательно, но для примера я хотел сначала распаралелить задачу на уровне одного инстанса, а потом подрубить брокер ;)

Так вот, кто-нибудь знает как в таком случае рекурсивного записывания в канал быть? Мб статьи хорошие есть на эту тему? Мб семафоры всякие подрубать надо, а то я пока теоритечски пытаюсь разрулить, но всё что не приходит в голову вызывает мысль что это ТОЖЕ вызовёт в итоге блокировку ;D

11 ответов

15 просмотров

а базовый случай какой? Когда рекурсия завершится?

Rostislav Teryaev
а базовый случай какой? Когда рекурсия завершится?

На данный когда дойдёт до 4 уровня разрезания картинки ;D

Ярослав Коробейников
На данный когда дойдёт до 4 уровня разрезания кар...

- Нарeзается сначала 2x2 - Каждый из полученных фрагментов нарезается 5x5 - Каждый из полученных фрагментов нарезается 2x2 - Каждый из полученных фрагментов нарезается 10x10 - Времени нарезается: `Time took: 13m3.580406721s` - Всего блоков (map_blocks) получается: `40504` - Zoom level 1: 4 блока - Zoom level 2: 100 блоков - Zoom level 3: 400 блоков - Zoom level 4: 40000 блоков

Ярослав Коробейников
- Нарeзается сначала 2x2 - Каждый из получе...

@Snawoot ПРикинь сколько горутин может запуститься?

Rostislav Teryaev
Ну это срабатывает? Может в этом дело

Я так понимаю он не успевает до туда дойти даже, блокируется ДО того как дойдёт то базовго случая

Ярослав Коробейников
- Нарeзается сначала 2x2 - Каждый из получе...

И это одна картинка, один пользователь загружает, а если их 2, 3, 10, сколько горутин создастся, и вы @Snawoot предлагаете слепо их генерировать на каждую задачу?

Alex DekaDancer
А нельзя сразу резать на 40к частей?)

нЭт) хочу рекурсивную нарезку)

Alex DekaDancer
А всегда 2,5,2,10?

Ну сейчас да, но просто для локального тестирования) В теории планируется это конфигурировать)

Похожие вопросы

Обсуждают сегодня

а через ESC-код ?
Alexey Kulakov
29
30500 за редактор? )
Владимир
47
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
program test; {$mode delphi} procedure proc(v: int32); overload; begin end; procedure proc(v: int64); overload; begin end; var x: uint64; begin proc(x); end. Уж не знаю...
notme
6
Ребят в СИ можно реализовать ООП?
Николай
33
у вас два процесса. один посылает другому сигнал. у вас есть код обоих процессов? если всё не так - расскажите как оно на самом деле. а именно кто кому чего, есть-ли консоли,...
Karagy
6
вы делали что-то подобное и как? может есть либы готовые? увидел картинку нокода, где всё линиями соединено и стало интересно попробовать то же в ddl на lua сделать. решил с ч...
Victor
8
Карта сайта