serving?
Нашёл только это незакрытое issue https://github.com/catboost/catboost/issues/1364
Привет! Onnx? (только там кат фичи у нас не поддержаны) https://catboost.ai/en/docs/concepts/apply-onnx-ml
Поделишься потом фидбеком?
Да, поделюсь. Пока, в качестве более прямолинейного подхода используем градиентный бустинг из TF, но если можно будет catboost конвертировать так, чтобы его можно было в TF-serving использовать - попробуем
а часто встречается такая необходимость? применять бустинг на инфре нейронок
Тут дело вот в чём: У нас есть in-house платформа для тренировки и инференса моделей. Сейчас в ней поддерживается два варианта инференса: TF Serving для всего, что можно в него запихнуть, и Mlflow для всего остального. Catboost вполне можно инференсить через mlflow (что я в некоторых моделях и делаю), но в текущем проекте жесткие требования по latency, поэтому хотим использовать TF Serving, ибо он обычно шустрее.
Обсуждают сегодня