Добрый день! Коллеги, подскажите пожалуйста, насколько целесообразно использовать CEPH, в

качестве SDS для системы фото видео фиксации в проекте "Безопасный город"?
Планируемый полезный объём фото dидео архива 9,7 Пбайт в месяц.
Данный запрос, как альтернатива классической инфраструктуре Сервер+СХД.
Перечитал множество статей, нигде нет опыта эксплуатации CEPH в продакте.

23 ответов

23 просмотра

М-м-м... На таких объёмах (что там с глубиной хранения, кстати?), SDS и «классика», как мне кажется, будут требовать совершенно разный набор железа.

как это нет, церн выпустил несколько статей.

Victor- Автор вопроса
Sergey Dryomov
М-м-м... На таких объёмах (что там с глубиной хран...

Глубина, в зависимости от требований Заказчика. В данном случае (не могу назвать город), это 31 день, потом идет перезапись. Конечно, SDS и классика потребуют отличные друг от друга конфигурации. До сегодняшнего дня, мы использовали классических схемы. Серверы и схд. Сейчас, в рамках оптимизации инвестиций, рассматриваем решения на основе свободно распространяемого ПО, По этому поводу и вопрос в данном канале.

Victor- Автор вопроса
Roman
как это нет, церн выпустил несколько статей.

Могли бы Вы приложить ссылки на эти публикации? Именно бесплатные решения. SDS на платной основе множество.

Victor
Могли бы Вы приложить ссылки на эти публикации? Им...

Немного не понимаю проблематику. Вы не верите, что Ceph используют в продуктивах или вам нужен юзкейс с описанием параметров под большую нагрузку?

Roman
как это нет, церн выпустил несколько статей.

У церна там супер-бомжатские кластера насколько помню их пейпкеры, типа 100 мег памяти на осд

Victor- Автор вопроса
Владимир Храмов
Немного не понимаю проблематику. Вы не верите, что...

Проблематики нет. Вопрос в целесообразности использования ЦЕФ, в подобных проектах. т.к. запись 27/7 с камер на перекрестках, в публичных местах, вокзалы, аэропорты и т.д. Видоаналитика и в случае инцидентов, запрос видое для судебных разбирательств, поиска преступников и т.д.

Victor
Могли бы Вы приложить ссылки на эти публикации? Им...

нет, так не храню. Но там было про настройки для производительности, тесты, страдания с с3 (индексом) при хранении миллипрдов объектов и всё в таком духе. Все живы и, насколько известно, пользуются до сих пор. Сверху добавлю публичную дашборду от цефа , где есть кластера аналогичного размера https://telemetry-public.ceph.com/d/ZFYuv1qWz/telemetry?orgId=1

Victor
Проблематики нет. Вопрос в целесообразности исполь...

Целесообразность есть (но конечно экономику надо считать в зависимости от конфигурации и костов на класику и сервра). Ищите инженеров которые готовы вам сварить правильный коастер. Не пытайтесь экономить. 🤗

Alexey T
У церна там супер-бомжатские кластера насколько по...

не похоже, хотя тут данных толком нет по железу https://indico.gsi.de/event/14500/attachments/39136/52951/2022.03.23%20-%20Ceph%20%26%20HPC%20GSI%20Talk.pdf

Roman
не похоже, хотя тут данных толком нет по железу ht...

Я более древние смотрел несколько лет назад

Victor- Автор вопроса
Alexander mamahtehok
Целесообразность есть (но конечно экономику надо с...

Если не пытаться экономить, то можно продолжить реализовывать на классических СХД или например^ на Dell PowerScale

Victor
Если не пытаться экономить, то можно продолжить ре...

Нельзя, бр кии и требует имортозамещения :)

если только rados сам

Да ладно уж «нигде». История CEPH'а «в продакте» ещё со времён cloudmouse (или как их там)…

А вы архитектор этого проекта?

Victor- Автор вопроса
Михаил SinTeZoiD
А вы архитектор этого проекта?

Я архитектор проекта на классических решениях. Серверы + СХД. Повторюсь, в рамках оптимизации бюджета инвестиций, поставлена задача рассмотреть возможность реализации, с использованием свободно распространяемого ПО. Например: СЕРН

Victor
Я архитектор проекта на классических решениях. Се...

Ну так прекрасная идея. Оптимизирует бюджет. Изучайте сами.

Victor- Автор вопроса

Для изучения, потребуются серьёзные инвестиции в организацию стенда. От сюда и вопрос в данном сообществе. Возможно. у кого-то есть опыт реализации систем видеонаблюдения на 5-10 Пбайт с использованием СЕРН.

Victor
Для изучения, потребуются серьёзные инвестиции в о...

есть, на 14ПБ кластер, и под видео и под не особо горячие данные да, там только s3

Не совсем про SDS, СХД от Pure у вас доступны? Они выпустили свежую линейку Pure FlashBlade E. Стоимость за терабайт практически равна HDD. Во всяком случае в нашем предложении. Попробуйте пообщаться, посмотреть.

Похожие вопросы

Обсуждают сегодня

Не совсем в тему возможно, но может кто то пробовал поднять цеф на нодах вмвари и с последующим подключением через айскази в саму вмварю?
Alexander Zaitsev
34
Привет. Изучаю возможности iscsi gateway и у меня проблема. Я сделал по ману из оф. доки, но спустя какое-то время кластер начал ругаться след.ошибкой: user@ceph-node1:~$ sudo...
Vladimir Ivanov
3
Всем здарова. После нештатного отключения электричества не запускаются два из трех OSD кластера Ceph, резвернутого через rook в кубере. Логи expand-bluefs 2023-10-09T09:15:23...
Vlad Trefilov
4
Подскажите пожалуйста, а вот много вижу что фактор репликации надо ставить 3 и выше, мониторов по больше. Неужели цеф настолько нестабильный? Или просто используется в мощных ...
Тау Фокс
28
Всем добра. продолжаю знакомится с ceph, возник вопрос на который я с ходу найти ответ не могу. Мысль следующая. Возможен ли кластер цеф, когда основная часть нод в одном дат...
mendisobal
28
Всем привет, подскажите, пожалуйста, куда копать? *Warning по Ceph* Версия Ceph: ceph -v ceph version 15.2.17 (8a82819d84cf884bd39c17e3236e0632ac146dc4) octopus (stable) На...
Nesterov Ivan
7
Есть ли какой-то штатный или известный механизм ограничения количества одновременного запуска осд при старте ноды в container-based кластере с cephadm? Или вариант с кастомиза...
Qntm
17
#Вопрос Доброе утро. Есть 3 ноды Proxmox на каждой ноде LAN 10g 8Nmve u2 ssd на текущий момент zfs, СХД нет есть жирный NAS на 180tb. На сколько велика вероятность катастрофы...
f1gar0 tyt
14
Вот запихали диски в полки. Дальше что? Интерконнект сетевой между серверами какой нужен? Ну чтобы и публичка и бэк CEPH-а за ресурсы сетевые не передрались. А еще по публичк...
Andrey Nemysskiy
7
есть идеи почему так много места занято метадатой? ceph tell osd compact не помог, пересоздание osd.12 не помогло (хотя почему-то теперь он говорит 49G omap, а не метадата). Н...
Ivan
4
Карта сайта