170 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Ассемблер Ассемблер
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
DevsHelper DevsHelper
SwiftBook SwiftBook
Solidity Development Solidity Development
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
Delphi & Lazarus Delphi & Lazarus
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Dart / Flutter Dart / Flutter
Evolution CMS развитие и ... Evolution CMS развитие и ...
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
IDE и редакторы — русског... IDE и редакторы — русског...
Frontend_ru Frontend_ru
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
Lame C Lame C
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
dlang.ru dlang.ru
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
DevOps DevOps
Server Side Swift Develop... Server Side Swift Develop...
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
Odoo talks & fun Odoo talks & fun
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
Modern::Perl Modern::Perl
pro.buildsystems pro.buildsystems
ru.nim.talks ru.nim.talks
Powershell Rus Powershell Rus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
Haskell Start Haskell Start
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
ErlangRus ErlangRus
QA juniors QA juniors
GameDev for Web GameDev for Web
Electron.js Electron.js
MySQL (EN) MySQL (EN)
Go Get A Job Go Get A Job
Lame C++ Lame C++
pro.osdev - os developmen... pro.osdev - os developmen...
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Django Django
FreePascal & Lazarus FreePascal & Lazarus
Tilda Developers Tilda Developers
WordPress – русскоговорящ... WordPress – русскоговорящ...
Язык программирования Jul... Язык программирования Jul...
ReasonML и OCaml ReasonML и OCaml
sentry_ru sentry_ru
ansible — русскоговорящее... ansible — русскоговорящее...
WebAssembly — русскоговор... WebAssembly — русскоговор...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
DL in NLP discussion grou... DL in NLP discussion grou...
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Natural Language Processing Natural Language Processing
Vadim-

Какой самый простой способ деплоя модели для инференса? Fastapi?

#nlp #programming #russian
0

19 ответов

31 просмотр
miteigi-nemoto

Он простой, но однопоточный, насколько понял. Не подходит для параллельных запросов от разных скриптов

0
5 месяцев назад
Vadim- Автор вопроса
miteigi nemoto
Он простой, но однопоточный, насколько понял. Не п...

Можете что-то посоветовать?

0
5 месяцев назад
miteigi-nemoto
Vadim
Можете что-то посоветовать?

Тут советуют https://github.com/huggingface/text-generation-inference но я не пробовал

0
5 месяцев назад
Vadim- Автор вопроса
miteigi nemoto
Тут советуют https://github.com/huggingface/text-g...

Мб ещё знаете что-то для инференса распознавания картинок?

0
5 месяцев назад
Rinat-Abdullin

LLM моделей? FastAPI - если сделать попроще и побыстрее vLLM, если нужно эффективно использовать имеющееся железо (он умеет Ray, и dynamic batching)

0
5 месяцев назад
Ruslan-Ishtuganov
Rinat Abdullin
LLM моделей? FastAPI - если сделать попроще и поб...

в фаст апи я также могу прикрутить и рей и все что мне надо. Так как это мной написанный сервер, то кастомизация \ оптимизация ничем не ограничены.

0
5 месяцев назад
Andrew-Grigorev
Ruslan Ishtuganov
в фаст апи я также могу прикрутить и рей и все что...

> fastapi > мной написанный сервер Ладно бы про tornado, он реально заставляет прямо сетевое приложение писать, а у fastapi многовато всего под капотом, чтобы говорить про свободную кастомизацию/оптимизацию. Вот во сколько процессов/потоков он будет работать? Сколько экземпляров модели будет загружено в память? Будут ли страдать асинхронные обработчики от запуска compute-intensive blocking обработчиков по соседству?

0
5 месяцев назад
Aleksandr-

text generation inference

0
5 месяцев назад
Aleksandr-
Andrew Grigorev
> fastapi > мной написанный сервер Ладно бы про t...

а кто будет очередь писать обрабатывать для модели? батчи кто собирать будет? суцкевер? 2023 на улице, сейчас свой сервер это сильно больше чем тупо /get /post

0
5 месяцев назад
Andrew-Grigorev
Aleksandr
а кто будет очередь писать обрабатывать для модели...

изначальный вопрос такого не подразумевал 😊 > Какой самый простой способ деплоя модели для инференса? Fastapi?

0
5 месяцев назад
Aleksandr-
Andrew Grigorev
изначальный вопрос такого не подразумевал 😊 > Как...

если вас спросить на чем писать модель вы с++ предложите?

0
5 месяцев назад
Andrew-Grigorev
Aleksandr
если вас спросить на чем писать модель вы с++ пред...

отвечу что вопрос задал какой-то некомпетентный чувак и на него не надо отвечать 😊 а вообще много хороших примеров что С++ для инференса это хорошо - llama.cpp, triton

0
5 месяцев назад
Aleksandr-
Andrew Grigorev
отвечу что вопрос задал какой-то некомпетентный чу...

для этого и есть группы чтобы новички не собирали грабли лбом

0
5 месяцев назад
Andrew-Grigorev
Aleksandr
для этого и есть группы чтобы новички не собирали ...

вот я и стараюсь чтобы в такой группе новичкам не советовали на fastapi инференс делать

0
5 месяцев назад
Aleksandr-
Andrew Grigorev
вот я и стараюсь чтобы в такой группе новичкам не ...

вы буквально советуете tornado для моделей на торче, зачем?)

0
5 месяцев назад
Andrew-Grigorev
Aleksandr
вы буквально советуете tornado для моделей на торч...

у вас есть связь с реальностью? где я такое советую?) я только говорю что "fastapi - свой сервер" это не верное утверждение, что оно может иметь место только для более низкоуровневого фреймворка

0
5 месяцев назад

Похожие вопросы

Natural Language Processing Natural Language Processing / Dmitriy
Подписаться

всем привет! 📗Есть задача генерации вопросов к тексту Посоветуйте что почитать ? Что использовать? дообучить, формат датасета

#nlp #programming #russian
06.09.2023
0
57 ответов
Natural Language Processing Natural Language Processing / Igor Chesnokov
Подписаться

Всем привет: после курса Andrew Ng Machine Learning Specialization играю с llama-2-7b-chat.ggmlv3.q8_0 и датасетом в форме текстов Сенеки. Ответы начинаются нормально, но под ...

#nlp #programming #russian
27.09.2023
0
10 ответов
Natural Language Processing Natural Language Processing / miteigi nemoto
Подписаться

Помогите интерпретировать результаты тестов. Почему большинство моделей имеют плохую релевантность? Даже те, что якобы на русский язык ориентированы. Сравнение разных моделей...

#nlp #programming #russian
06.08.2023
0
2 ответов
Natural Language Processing Natural Language Processing / Serg Sk
Подписаться

Добрый день. Хочу взять RTX 4090. Или есть смысл заморачиваться и искать с жидкостным охлождением, когда модуль охлаждения отдельно. Может у кого есть какой-то полезный опыт в...

#nlp #programming #russian
16.11.2023
0
22 ответов
Natural Language Processing Natural Language Processing / datascience xc
Подписаться

Я пригласил девушку на свидание, мы договорились встретиться в 9. Я купил цветы и стал ждать ее, сидя на скамейке. Была прекрасная погода и у меня было хорошее настроение. В 1...

#nlp #programming #russian
15.09.2023
0
19 ответов
Natural Language Processing Natural Language Processing / Ростислав Корст
Подписаться

Всем привет! Подскажите, пожалуйста, для поиска использую e5 с векторами 1024 float32 Качество поиска фича similarity между запросом и документом супер растит, но соответстве...

#nlp #programming #russian
05.10.2023
0
21 ответов
Natural Language Processing Natural Language Processing / vvv
Подписаться

Кейс с ChatGPT про 10.000 € в месяц 🤑 Интересно? Рассказываю. Есть компания, которая уже пару декад делает аналитику для торговых сетей. Они хороши в своем деле, что клиент...

#nlp #programming #russian
14.09.2023
0
5 ответов
Natural Language Processing Natural Language Processing / Oleg
Подписаться

Господа и дамы, ИИ эксперты, подскажите не знающему (кто чем сможет в любом виде: подходы, названия, ссылки, метрики) как получить ранжирующую модель, если есть пара тысяч отд...

#nlp #programming #russian
23.10.2023
0
2 ответов
Natural Language Processing Natural Language Processing / Gleb Maksimov
Подписаться

Всем привет,объясните, пожалуйста, есть ли смысл стоить embedding-ги при помощи: - TF-IDF - Word2Vec CBOW - GloVe если есть берты которые не только слова по отдельности пр...

#nlp #programming #russian
22.11.2023
0
10 ответов
Natural Language Processing Natural Language Processing / Владимир Кузовкин
Подписаться

коллеги,добрый вечер. У меня текст был разбит на несколько токенов. Все прекрасно, да вот беда: в нем очень часто идут повторения слов. Например первые три строки можно отнест...

#nlp #programming #russian
28.09.2023
0
23 ответов
Смотреть еще
Natural Language Processing Natural Language Processing
Подписаться
Вопросов 1570
Ответов 5203
Участников 5348
Telegram @natural_language_processing

Обсуждают сегодня

А еще в перле можно уже @arr1 + @arr2?
Sergei Zhmylove
49
Привет всем. появился вопрос. Разрабатываю сайт, в данный момент он запущен. Хостинг beget. Добавляю на сайт яндекс метрику с помощью полей client-settings (взято отсюда http...
Andrew
2
;.686 ;Система команд процессора 686 ;.MODEL FLAT,stdcall ;Модель памяти плоская, стандартный ;вызов процедуры ;option casemap:no...
Егор Анелькин
1
я не магистр хаскеля, но разве не может лейзи тип конвертнуться в не-лейзи запросив вычисление содержимого прям при инициализации?
deadgnom32 λ madao
100
а как ловят такое ghci> res <- getPos2 urlt 0 (alist !! 0) 200 ghci> res SearchAtom (Search "www.google.com" "/search?q=" "Haskell") "haskell.org" (SearchTS [(2024-05-06 07:...
Fedor
14
Ребята, а из API геокодеров (по адресам в РФ) что сейчас актуального и есть ли среди актуального бесплатное/с нормаотным лимитом запросов? ситуация простая - на сайте периоди...
Dreamer_0x01 VeseloV
8
короче сгенерила мне эта штука код на ассемблере: struc string val { common local .value dq .value .value: if ~val eq db val end if db 0 } fo...
Vi Chapmann Chapmann
12
Всем привет! Массив вводится с клавиатуры, кол-во элементов неизвестно, поэтому я указал arr db 100 dup(?) С нахождением максимума проблем нет, а вот минимум почему-то всегд...
En Vind Av Sorg
11
Есть тут те у кого дети есть + 2 работы + в зал ходят + в семейной жизни все хорошо?
Abdul-Aziz M.
13
кто шарит: mattermost отслеживает что ты на пк запускаешь?
Valentin
13
Карта сайта