215 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
Qt Qt
aiogram aiogram
symfony symfony
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
nginx_ru nginx_ru
Боты на Telegraf Боты на Telegraf
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Ассемблер Ассемблер
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
PostgreSQL + 1C + Linux PostgreSQL + 1C + Linux
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
DevsHelper DevsHelper
1C 1C
SwiftBook SwiftBook
Solidity Development Solidity Development
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
freebsd_ru freebsd_ru
Atlassian Community - Rus... Atlassian Community - Rus...
Delphi & Lazarus Delphi & Lazarus
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
Dart / Flutter Dart / Flutter
Evolution CMS развитие и ... Evolution CMS развитие и ...
ru_gitlab ru_gitlab
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
IDE и редакторы — русског... IDE и редакторы — русског...
Frontend_ru Frontend_ru
OctoberCMS OctoberCMS
Flutter Developers — русс... Flutter Developers — русс...
Godot Engine (Russian) Godot Engine (Russian)
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
Lame C Lame C
MySQL MySQL
Yii Framework 2 Yii Framework 2
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
dlang.ru dlang.ru
Data Engineers Data Engineers
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
Чат Tableau Чат Tableau
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
Delphi Community Delphi Community
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
DevOps DevOps
Server Side Swift Develop... Server Side Swift Develop...
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
Evolution CMS Evolution CMS
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
dbGeeks dbGeeks
Odoo talks & fun Odoo talks & fun
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
Modern::Perl Modern::Perl
ru.nim.talks ru.nim.talks
React: русскоязычное сооб... React: русскоязычное сооб...
Powershell Rus Powershell Rus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
Haskell Start Haskell Start
WebGL ru WebGL ru
Compiler Development Compiler Development
opencv_ru opencv_ru
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
ErlangRus ErlangRus
QA juniors QA juniors
GameDev for Web GameDev for Web
Electron.js Electron.js
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
Go Get A Job Go Get A Job
MySQL (EN) MySQL (EN)
Lame C++ Lame C++
ru_hashicorp ru_hashicorp
pro.osdev - os developmen... pro.osdev - os developmen...
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
catboost_ru catboost_ru
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Django Django
FreePascal & Lazarus FreePascal & Lazarus
Tilda Developers Tilda Developers
WordPress – русскоговорящ... WordPress – русскоговорящ...
Grafana Loki Grafana Loki
Kaggle Kaggle
VictoriaMetrics_ru VictoriaMetrics_ru
Язык программирования Jul... Язык программирования Jul...
ReasonML и OCaml ReasonML и OCaml
ansible — русскоговорящее... ansible — русскоговорящее...
sentry_ru sentry_ru
WebAssembly — русскоговор... WebAssembly — русскоговор...
Google Cloud Platform_ru Google Cloud Platform_ru
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
.NET Group .NET Group
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
CatBoost CatBoost
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
ScyllaDB ScyllaDB
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
Netbeans [RU] Netbeans [RU]
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps
[:]-

Всем привет! Подскажите, что можно использовать для масштабирования больших языковых модлей

(LLM) в продакшене для цели рапараллеливания запросов?

Описание ситуации:
Пытаемся масштабировать LLama2 70B Q4, необходимо обсепечить параллельность работы 30 клиентов при использовании чат-бота.
Аппаратное оснащение: 4 RTX 4090 на каждый из трёх инстансов (физических машин).
Для распараллеливания использовали uvicorn+fastapi, но не взлетело. При запуске каждого воркера требуется 11 Гб с каждой карты дополнительно (столько весит вся модель + эмэддинги для векторного хранилища). Соответственно, 30 воркеров запустить невозможно при таком подходе.

#database #programming #russian #software
0

8 ответов

23 просмотра
Dan-船長

я б думал в сторону взять кафку и rabbitMQ для управления запросами и распределения между инстансами чат-бота, далее - квантизация модели, чтоб уменьшить объём в памяти, ну и смотреть в сторону микросервисной архитектуры в целом. использовать асинхронные запросы, можно пофайнтюнить модель. Так-то поводов для оптимизации найти можно много

0
5 месяцев назад
Dmitry-
Dan 船長
я б думал в сторону взять кафку и rabbitMQ для упр...

А вы не знаете на NPU есть ли оптимизации любые?

0
5 месяцев назад
Dan-船長

Для начала, TensorFlow и PyTorch уже оптимизирован для NPU. А так, в целом, оптимизация всегда плюс/минус одинаковая: профилирование и рефакторинг кода (особенно узких мест), перевод на асинхронность, квантизация, масштабирование батча для более лучшего параллелилзма и улучшения производительности.

0
5 месяцев назад
Dmitry-
Dan 船長
Для начала, TensorFlow и PyTorch уже оптимизирован...

Спасибо, можно уточнить тогда. 1. Pytorch gpu устанавливать, там вроде только gpu и only cpu 2. Готовая LLM 4 бит, меньше некуда вроде. Chunk size 1024. Асинхронность нельзя сделать насколько мне известно в этом случае. Всякие cuBLAS не поставить. В итоге 2 минуты выполняется ответ на запрос.

0
5 месяцев назад
Dan-船長
Dmitry
Спасибо, можно уточнить тогда. 1. Pytorch gpu уста...

А какое железо? Есть ещё один не сильно популярный способ оптимизации: больше хорошего и нового железа :3

0
5 месяцев назад
Dmitry-
Dan 船長
А какое железо? Есть ещё один не сильно популярный...

Вот я тут не подскажу сильно, но куча CPU с низкой частотой. Как по мне все что связано с LLM делают только на GPU, NPU вроде для другого, т.е. как туже GPT в несколько потоков запускать непонятно

0
5 месяцев назад
Дмитрий-Люткин
Dmitry
Вот я тут не подскажу сильно, но куча CPU с низкой...

А в чем проблема инпут батчем подать?

0
5 месяцев назад
Dmitry-
Дмитрий Люткин
А в чем проблема инпут батчем подать?

Проблема в том, что на NPU только CPU много и все

0
5 месяцев назад

Похожие вопросы

Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Юлия
Подписаться

Всем привет! Я работаю в IT-компании Neoflex. Мы запустили набор на бесплатные курсы повышения квалификации Neoskills lab с возможностью трудоустройства. Надеюсь, кому-то буде...

#database #programming #russian #software
20.11.2023
0
1 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Rahim
Подписаться

Добрый день, мне не понятен такой момент в алгоритм knn. Если разделить данные на train и test. То knn просто запомнит train данные, и на их основе будет вычислять test. Тольк...

#database #programming #russian #software
20.08.2023
0
15 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Kirill Павлов
Подписаться

Всем привет! Начинаю изучать ML. Решаю задачу бинарной классификации, тем не менее не набирается нужный скор. На вход дают непререрывные и категориальные фичи. Категориальны...

#database #programming #russian #software
19.11.2023
0
4 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / 👨‍💻Богдан Сумароков
Подписаться

Подскажите нужно ли учить с++ для работы в ML?

#database #programming #russian #software
15.09.2023
0
11 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Rustam
Подписаться

Привет! хочу реализовать для себя такую штуку (пет проект можно сказать). АИ модель которая будет по теме входящего письма и автора сама генерировать текст официального о...

#database #programming #russian #software
22.11.2023
0
2 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Dmitry
Подписаться

смотря что подразумевается под "загрузить и почистить", но для начала сами облачные платформы типа Azure такие возможности тоже предоставляют. опять же дьявол в деталях. это E...

#database #programming #russian #software
22.09.2023
0
6 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Aleksey Marakhin
Подписаться

Всем привет! Подскажите, плиз, для каких нейросетевых задач критически важна скорость инференса? Где инференс сейчас лимитирующим фактором результативности является?

#database #programming #russian #software
06.09.2023
0
8 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Женис
Подписаться

sps ograomnoe eto ispravil, kak eto ispravit? --------------------------------------------------------------------------- ValueError Traceback ...

#database #programming #russian #software
02.06.2022
0
1 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Dmitry
Подписаться

Всем привет, подскажите, пожалуйста, если в датасете есть колонка timestamp в задаче бинарной классификации, кроме нее ещё 100+ фичей, то что с ней лучше делать, энкодить, не ...

#database #programming #russian #software
17.10.2023
0
5 ответов
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps / Morleys Jerkei
Подписаться

Какие есть способы поиска гиперпараметров ? прогнал через HalvingRandomSearchCV по ее логу точность должна быть score=(train=0.992, test=0.927) перепроверяю через реальное об...

#database #programming #russian #software
11.05.2023
0
9 ответов
Смотреть еще
Big Data Science :: AI / Big Data / Machine Learning / MLOps Big Data Science :: AI / Big Data / Machine Learning / MLOps
Подписаться
Вопросов 5436
Ответов 9337
Участников 5089
Telegram @bigdata_ru

Обсуждают сегодня

я не магистр хаскеля, но разве не может лейзи тип конвертнуться в не-лейзи запросив вычисление содержимого прям при инициализации?
deadgnom32 λ madao
49
читать файл максимально быстро? странный вопрос))
zamtmn
53
How to create an OS in C? what to study?
Linus
18
Привет, кто может сделать юзербота с апи? Задачи: - создавать группы - создавать каналы - задавать для созданных каналов аватарку или эмоджи, имя группы - добавлять в группы...
Lencore
11
тоесть, указав return eax, сгенерируется никому ненужная инструкция mov eax,eax ?
Aiwan \ (•◡•) / _bot
24
Компания Elif ищет менеджера проектов, который будет заниматься поиском и ведением новых проектов. Прежде чем приступить к работе, вам нужно пройти наш недельный курс, где вы ...
Elif
5
@HemulGM Параметры у AddStream поменялись? Несостыковка какая-то
Катерина Свиридова
12
Подскажите, есть какие-то события создания/уничтожения у TFrame по типу TForm (OnCreate и OnClose/OnDestroy) ? Как отловить создание TFrame и "перед" уничтожением. На Tframe р...
Денис
8
Добрый день. Созданию отношения таблиц для учёта кораблей, их движения между точками (портами) согласно расписания. Терзают сомнения в правильном ли направлении двигаюсь 😅 1...
Aleksey
1
а чем хуже?
Alexey Kulakov
10
Карта сайта