172 похожих чатов

Ребят, есть задача из смежной области, по ресурсоёмкости сравнимой с

прогоном билдов и тестов.

Конкретно: математические эксперименты, которые выполняются от часа до 3, а серия заданий может выполняться 12+ часов.

Что я хочу: написать небольшой конфиг по типу вот такого:

servers.json
{[['name': 'DevOps.amazon1',
'ip': '128.128.256.256',
'ssh-key': 'asdsadiados8d'],
['name': 'DevOps.amazon2',
'ip': '128.128.256.255',
'ssh-key': 'aisu9s2i222i'], ....
]
}

tasks.json
{[
['command': 'python xgboost_train.py', 'num':1],
['command': 'python collect_results.py', 'num':2]
]}

experiments.json
{[[ 'num': 1,
'description': 'Тестирую, насколько быстро обучается Иксджибуст с obvioustrees',
'params': { 'tree': 'obvious', 'max_iter': 10000, 'min_split_val': 0.8, 'output': 'results_1.txt'}],
[ 'num': 2,
'description': 'Тестирую, насколько быстро обучается Иксджибуст с obvioustrees и немного другой функцией потерь',
'params': { 'tree': 'obvious', 'max_iter': 10000, 'min_split_val': 0.8, 'loss_function': 'quadratic_mean', 'output': 'results_1.txt'}],
], ........
]}

потом запустить его на ноутбуке, а он уже сам зайдёт на серваки, запустит задания считаться в параллельных потоках (например, 4 потока на сервак, по числу GPU), а потом сам соберёт результаты и вернёт на ноутбук или сложит на 1 сервер.

В чудесном OpenDataScience уже подсказали

* Mesos
* Yarn
* Luigi
* Sacred


Что вы можете ещё подсказать? какие ещё есть инструменты для решения этой задачи?

3 ответов

15 просмотров
Kirill-Malev Автор вопроса

Ещё FGLab подкинули

возьми луиджи, а таски отправляй руками. мне кажется если это не многоразовая задача, будет удобнее всего.

Kirill-Malev Автор вопроса

Ещё варианты?

Похожие вопросы

Обсуждают сегодня

Мужики и девушки, привет) в Вelphi xe7 в настройках во вкладке "Editor Options" далее " Color" есть список: "Elements", открыв который мы можем настраивать отображение разных...
Kraszx
14
Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Я вот подумал. SSE выполняет операции максимум с 64-битной точностью. А FPU - всегда с 80-битной. Разве не должно быть FPU точнее тогда?
The Bird of Hermes
13
как быть с принтером? такой подход прокатит?
zamtmn
12
Мдя, прикол, боевая сборка запускается (именно под отладчиком) после F9 примерно полторы минуты (97 секунд если быть точным). Начал копать - проблема детектится сразу - зависа...
Александр (Rouse_) Багель
38
Всем привет! Подскажи, пожалуйста, как передать в TComboBox сразу значение и id записи. На Delphi я делал так: ComboBox1.Items.AddObject('Какое-то значение', Pointer(id запис...
Евгений
13
Я не понимаю, это троллинг или что? Швабрика поддерживают, который буквально пишет на ассемблере взаимодействия с винапи. Я это ещё написал загрузчик и хоть что-то изучаю в о...
Shadow Akira
6
Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
50
А вот это что за конструкция? Вернее, она тут нафига?
Serjone
10
Привет. Подскажите, как правильно сматчить лист фиксированного размера, чтобы компилятор не говорил мне о неполном паттерне? Допустим что-то такое [x', y'] = sort [x, y]?
Arseny
8
Карта сайта