172 похожих чатов

Добрый день. Я тут пытаюсь разобраться в поведении подов в связке

с ceph rdb. Создала pvc, приклерила к нему под, под заработал.

Со стороны сефа глянула, нашла командой
rados -p k8s ls | grep ^rbd_data.5f2c6aff16e660
что он там создает и что cepdh osd map ошибок не выдает (веоятно, все смонтировано нормально)?

Потом тушу одну ноду кластера и я рассчитывала, что под склеится на одной ноде и переползет на другую.

Но под зависает на первой ноде в статусе terminating, в логах выдавая, что "Node is not ready" - что как бы так и есть, ноду я прибила.
Но на второй ноде под не разворачивается, ругаясь на Unable to attach or mount volumes: unmounted volumes= и unattached volumes= :timed out waiting for the condition

Из этого состояния под вылазить не хочет. Должен ли под в таких условиях сам переползать на здоровую ноду?
что я могу глянуть со стороны сефа?

16 ответов

30 просмотров

Как настроен ceph в кубере?

27662-Loa Автор вопроса

storageclass и rbd provisioner, если я правильно поняла вопрос. Линукс ядро у сефа? Linux 3.10.0-1160.41.1.el7.x86_64 x86_64

27662 Loa
storageclass и rbd provisioner, если я правильно п...

Нет. Ядра на нодах кубера какое. Ceph-csi используется или тупо на нодах клиенты ceph?

Лучше используй csi ceph. Он сам следит что и куда примонтировано и создаёт pv при необходимости

27662-Loa Автор вопроса
Fire Fighter
Нет. Ядра на нодах кубера какое. Ceph-csi использу...

Linux 3.10.0-1160.41.1.el7.x86_64 x86_64 Просто ceph. csi тоже есть но для данного конретного случая нужен ceph

27662 Loa
Linux 3.10.0-1160.41.1.el7.x86_64 x86_64 Просто ...

А рубанула году каким образом?

27662-Loa Автор вопроса
Fire Fighter
А рубанула году каким образом?

шатдаун в проксмоксе. Пробовала просто pause через него же, но эффект тот же

27662 Loa
Linux 3.10.0-1160.41.1.el7.x86_64 x86_64 Просто ...

Csi это контроллер, который следит за pv и создает их, в данном случае он может и ceph управлять.

27662 Loa
шатдаун в проксмоксе. Пробовала просто pause через...

Скорее всего в цефе залипает инфа, что rbd уже примаунчен куда-то. Тут только страдать.

Посмотри на второй ноде, там вообще в mount этот диск есть ?

Ему же пофиг, он rwm.

Alexander
Ему же пофиг, он rwm.

Ну или куб думает, что rbd примаунчен)

27662-Loa Автор вопроса
Alexander
Посмотри на второй ноде, там вообще в mount этот д...

ого. Не-а. нетути. Сколько нам открытий чудных.

27662 Loa
ого. Не-а. нетути. Сколько нам открытий чудных.

Так в том то и дело, либо руками все надо делать, а лучше использовать csi драйвер ceph в кубе. (И использовать модуль ядра, а не fuse)

Там уже кучу советов дали, но еще важный нюанс: Если у тебя под в statefulset, то такое поведение нормально. Так и должно быть (я про зависание в статусе Terminating и то что pod не может уехать на другую ноду)

27662-Loa Автор вопроса
Dmitry Sergeev 🇺🇦
Там уже кучу советов дали, но еще важный нюанс: Ес...

Не, у меня деплоймент. Спасибо. Интересно, что при перевозе через всякие тейнты и толерейшены все нормально размонтируется и монтируется обратно. Наверное, так и должно быть.

Похожие вопросы

Обсуждают сегодня

Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Всем привет! Подскажи, пожалуйста, как передать в TComboBox сразу значение и id записи. На Delphi я делал так: ComboBox1.Items.AddObject('Какое-то значение', Pointer(id запис...
Евгений
13
Мдя, прикол, боевая сборка запускается (именно под отладчиком) после F9 примерно полторы минуты (97 секунд если быть точным). Начал копать - проблема детектится сразу - зависа...
Александр (Rouse_) Багель
38
Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
50
Товарищи, кто работа с iphelper? Или может я в самой логике ошибки фигачу, не пойму.... var ifTable : PMIB_IFTABLE; size, corSize: DWORD; Buffer ...
Warfarellen
4
я так понимаю, я так подозреваю, что создание такого плагина для человека, кто умеет писать плагины для делфи потребует минут 5-10 времени. но это мое подозрение. хотелось бы ...
Kraszx
7
Коллеги, добрый вечер. Создаю коллекцию от TFPGMap, ключ - перечисление, значение - целое. Нужно отсортировать коллекцию по значению. Как это можно сделать?
Kirill Filippenok
11
Скажи а ты когда этот канал создавал ты уже дельфи не любил, или это со временем пришло?
Роман Лях (rgreat)
18
Привет, такой вопросик появился кажется ли вам что Rust слишком сложный/строгий для высокоуровневого программирования и слишком "безопасный"/строгий для низкоуровневого?
Крокант
10
Всем привет! Использую кастомное модальное диалоговое окошко, все по классике - mrOK, mrCancel как ModalResult. Однако есть нюанс - в главной форме есть универсальный обработч...
Олег Гранишевский
20
Карта сайта