215 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
Qt Qt
aiogram aiogram
symfony symfony
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
nginx_ru nginx_ru
Боты на Telegraf Боты на Telegraf
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Ассемблер Ассемблер
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
PostgreSQL + 1C + Linux PostgreSQL + 1C + Linux
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
DevsHelper DevsHelper
1C 1C
SwiftBook SwiftBook
Solidity Development Solidity Development
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
freebsd_ru freebsd_ru
Delphi & Lazarus Delphi & Lazarus
Atlassian Community - Rus... Atlassian Community - Rus...
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
Dart / Flutter Dart / Flutter
Evolution CMS развитие и ... Evolution CMS развитие и ...
ru_gitlab ru_gitlab
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
IDE и редакторы — русског... IDE и редакторы — русског...
Frontend_ru Frontend_ru
OctoberCMS OctoberCMS
Flutter Developers — русс... Flutter Developers — русс...
Godot Engine (Russian) Godot Engine (Russian)
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
Lame C Lame C
MySQL MySQL
Yii Framework 2 Yii Framework 2
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
dlang.ru dlang.ru
Data Engineers Data Engineers
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
Чат Tableau Чат Tableau
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Server Side Swift Develop... Server Side Swift Develop...
Oracle RU Oracle RU
DevOps DevOps
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
Evolution CMS Evolution CMS
Odoo talks & fun Odoo talks & fun
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
dbGeeks dbGeeks
Modern::Perl Modern::Perl
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
ru.nim.talks ru.nim.talks
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
React: русскоязычное сооб... React: русскоязычное сооб...
Powershell Rus Powershell Rus
Haskell Start Haskell Start
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
opencv_ru opencv_ru
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
ErlangRus ErlangRus
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
Electron.js Electron.js
QA juniors QA juniors
GameDev for Web GameDev for Web
MySQL (EN) MySQL (EN)
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
Go Get A Job Go Get A Job
Lame C++ Lame C++
pro.osdev - os developmen... pro.osdev - os developmen...
ru_hashicorp ru_hashicorp
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
catboost_ru catboost_ru
FreePascal & Lazarus FreePascal & Lazarus
Django Django
Tilda Developers Tilda Developers
WordPress – русскоговорящ... WordPress – русскоговорящ...
Grafana Loki Grafana Loki
Kaggle Kaggle
VictoriaMetrics_ru VictoriaMetrics_ru
Язык программирования Jul... Язык программирования Jul...
ReasonML и OCaml ReasonML и OCaml
sentry_ru sentry_ru
ansible — русскоговорящее... ansible — русскоговорящее...
WebAssembly — русскоговор... WebAssembly — русскоговор...
Google Cloud Platform_ru Google Cloud Platform_ru
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
.NET Group .NET Group
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
CatBoost CatBoost
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
ScyllaDB ScyllaDB
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
Netbeans [RU] Netbeans [RU]
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Data Science Chat Data Science Chat
Призрачный-Человек

Здравствуйте, подскажите пожалуйста, наверняка в PyTorch/тензерфлоу есть какие то стандартные

инструменты, с помощью которых можно батчи для трейна выгружать в опперативку/в карту только в момент непосредственного использования батча, не держа всё время его в памяти. Как это правильно гуглить? И какие классы в пайторчи позволяют реализовать это?

#database #programming #russian #software
0

15 ответов

13 просмотров
Максим-Синяев

Dataloader позволяет выполнять подобные манипуляции Доки: https://pytorch.org/docs/stable/data.html Туториал: https://pytorch.org/tutorials/beginner/basics/data_tutorial.html

0
23.03.2022
Призрачный-Человек Автор вопроса
Максим Синяев
Dataloader позволяет выполнять подобные манипуляци...

спасибо, но в туториале, насколько я понял, ничего не сказано про побатчивое чтение данных. Я так понял, надо смотреть в сторону Iterable-style datasets, да?

0
23.03.2022
aur-
Призрачный Человек
спасибо, но в туториале, насколько я понял, ничего...

Там же указывается размер батча при создании экземпляра даталоадера. Потом при каждой итерации он будет возвращать один батч. Если ничего не путаю

0
23.03.2022
Призрачный-Человек Автор вопроса
aur
Там же указывается размер батча при создании экзем...

ну насколько я понял он будет возвращать один батч нейронки, но при этом держать все данные в оперативки. А я о том, что бы данные считывались в оперативку только когда их нужно отдавать нейронки

0
23.03.2022
Oleg-Shapovalov
Призрачный Человек
ну насколько я понял он будет возвращать один батч...

как напишешь Dataset так и будет. Обычно там происходит чтение только в момент подготовки очередного сэмпла (в функции getitem)

0
23.03.2022
Призрачный-Человек Автор вопроса
Oleg Shapovalov
как напишешь Dataset так и будет. Обычно там проис...

так а как надо написать? можно гайд какой то? или хотя бы ключевые слова, по которым можно найти примеры/гайды

0
23.03.2022
Призрачный-Человек Автор вопроса
Oleg Shapovalov
https://pytorch.org/tutorials/beginner/basics/data...

в этом примере весь датасет изображений не будет хранится целиком в памяти?

0
23.03.2022
Oleg-Shapovalov
Призрачный Человек
в этом примере весь датасет изображений не будет х...

Там несколько примеров, про какой вопрос? Вообще чтоб не было вопросов - просто читайте все туториала на pytorch.org, их должно быть достаточно

0
23.03.2022
Призрачный-Человек Автор вопроса
Oleg Shapovalov
screenshot посередине у мыши есть скролл

ну так, это и есть пример с mnist'ом. Я и спрашиваю, как здесь будет работать? Картинки будут загружаться в память, только в рамках батча, что бы отдать в нейронку, или весь датасет целиком будет в памяти всегда?

0
23.03.2022
Призрачный-Человек Автор вопроса
Oleg Shapovalov
только в рамках батча

окей, тогда попробую

0
23.03.2022
Алексей-Крапивницкий

Завтра могу на tf решение глянуть, если напомнишь. Сегодня выключился уже.

0
23.03.2022

Похожие вопросы

Data Science Chat Data Science Chat / Inkosta
Подписаться

Господа, у меня вопрос. Что вообще такое этот ваш data science и data scientists? А то гуглю, а мне какую-то расплывчатую фигню говорят.

#database #programming #russian #software
15.11.2023
0
44 ответов
Data Science Chat Data Science Chat / Vladimir F
Подписаться
screenshot

Господа датасатанисты , вопрос : есть у меня небольшой датасет (73 сэмпла), и тренерую я на нём что-то типа семантической сегментации. Ежели делаю 8-fold кросс-валидацию ( ко...

#database #programming #russian #software
15.11.2023
0
32 ответов
Data Science Chat Data Science Chat / Дмитрий Неледва
Подписаться

делаю модель для мультиклассовой классификации датасет: 20к строк, признак sentence - предложения с отзывами (о книгах, фильмах и тд), целевой признак label - оценка...

#database #programming #russian #software
22.11.2023
0
22 ответов
Data Science Chat Data Science Chat / mm
Подписаться

всем привет, я пишу торгового бота, мне нужно постоянно обращаться к бирже и смотреть на заполнение ордеров, чтоб при заполнении выставлять стоп ордера, так же мне нужно монит...

#database #programming #russian #software
17.11.2023
0
20 ответов
Data Science Chat Data Science Chat / Walentina
Подписаться

Почему лохотрон? Обучение разве лохотрон?) Тогда можно и самостоятельное обучение назвать глупостью))

#database #programming #russian #software
08.05.2023
0
49 ответов
Data Science Chat Data Science Chat / 🌱 chia investor
Подписаться

Ребята, я новенький в разработке приложений, до этого занимался только data science без какого либо стартап опыта, где нужно не просто в пайтоне что-то печатать, а понимать ка...

#database #programming #russian #software
16.11.2023
0
15 ответов
Data Science Chat Data Science Chat / Василий Волшанинов
Подписаться

Доброго времени суток. Как дать нейронке прочитать 60+ книг (этимологических словарей и статей в журналах), а потом ею написать свой этимологический словарь?

#database #programming #russian #software
13.11.2023
0
24 ответов
Data Science Chat Data Science Chat / Kek Navek
Подписаться

Всем привет! Для дипломной работы разрабатываю приложение, читающее текст в играх. Можете дать совет насчёт детектора текста для последующего OCR? Изображения - скриншоты из и...

#database #programming #russian #software
22.10.2023
0
5 ответов
Data Science Chat Data Science Chat / Vladimir F
Подписаться

Господа, мне тут для одного проектика надо систему сделать для глубокого обучения, на двух RTX4090, вот такую конфигурацию наконфигурировал: Motherboard: Supermicro MBD-M12SW...

#database #programming #russian #software
20.10.2023
0
20 ответов
Data Science Chat Data Science Chat / Roman 🙂
Подписаться

Ребята. Скажите реально. Стоит ли с 0 изучать data science чтобы найти себя в этой нише и достоин ли доход потом? Математика - перфект 😉

#database #programming #russian #software
09.11.2023
0
23 ответов
Смотреть еще
Data Science Chat Data Science Chat
Подписаться
Вопросов 12427
Ответов 25318
Участников 6142
Telegram @datasciencechat

Обсуждают сегодня

А как старый хаскел с новым стыковать ? потому как тут работает https://play.haskell.org/saved/C3xpMzcd, а вот тут https://stepik.org/lesson/7602/step/9?unit=1473 нет ошибка C...
Fedor
131
Вопрос я правильно понимаю что в коде newtype ArrowMap k v = ArrowMap { getArrowMap :: k -> Maybe v } getArrowMap есть функция типа k -> Maybe v, если да, то не понимаю задач...
Fedor
64
Народ всем привет Подскажите, как включить самописные dll библиотеки в итоговую сборку Сейчас при запуске dev сервера локально формируется папка build, из которой запускается...
Андрей
4
Как Вы считаете нормально ли в двадцатых годах 21 века в ВУЗах Российской Федерации обучать студентов работе с TASM? Не слишком ли это "архаично"? (Если оффтоп или флейм для э...
Spiker01
52
Доброе утро! Не совсем понятно как установить счетчик яндекс метрики на сайт. И потом ещё цели проставить?
Евгения
18
Продолжая диалог про свифт в проде – сейчас возник вопрос в активном наборе бекендеров. В основном в нашей компании мы фанаты Java Spring и полностью ей довольны. Однако найм ...
Guseyn
27
Комрады, хотел уточнить. Проперть в OnDestroy юнита-хозяина по-прежнему доступна? И еще уточнение: finalization юнита наступает раньше или позже OnDestroy?
Ed Doc
48
Может кто подсказать какие требования к изображениям для обучения Yolo v8? Как то разрешение, размер выделяемого обьекта в пикселях, оптимальное кол-во изображений. А то я пыт...
Владислав😎
16
Hello dear devs I have a problem with Flutter web and iframe element consider I have a scrollable widget in flutter web with different widgets inside of it. I want to freely ...
M
4
Кто-нибудь знает, как считается нагрузка на цпу? И что такое вообще "нагрузка на цпу"? вот, например, есть у цпу какой-то clock, настроенный на 3 ГГц --- Что значит "нагрузка...
Toideng
15
Карта сайта