170 похожих чатов

Что значит "эмбеддинги не посчитаны"? Я же говорю, в начале

матрица заполнена случайными числами

4 ответов

8 просмотров

ну да, вот заполнили мы пространство ембедингов случайными числами... я понял все так... можно я пошагово как то свое понимание буду говорить? вы уж извините мою тупость, я просто хочу нижнеуровнево схватить суть, а то терминов и абстракций много а под капотом обычно простые вещи на первом шаге, мы читаем слово из текста, получаем его номер в словаре, точнее читаем несколько слов из текста? дальше для центрального слова, мы читаем строку из пространства embedding размером 1000 на миллион и подаем эти 1000 рандомных чисел из пространства embedding на вход первому слою нейронки у которого размер 300 на размер словаря - то есть 300 миллионов ? и он тоже этот слой заполнен изначально рандомными весами? дальше что мы делаем? эти 1000 рандомных чисел умножаем ... на что? каждую цифру на каждый вес или как? результат сохраняем в первом слое? поскольку у нас два линейный (полносвязный) слоя... то дальше что... ? мы получившиеся 300 миллионов рандомных чисел перемножаем со вторым слоем?

Slach [altinity]
ну да, вот заполнили мы пространство ембедингов сл...

Чтобы резобраться в деталях рекомендую погуглить код word2vec, типа "word2vec minimal python implementation" например https://jaketae.github.io/study/word2vec/ Кодом такое объяснить проще чем словами

Alexander Kukushkin
Чтобы резобраться в деталях рекомендую погуглить к...

спасибо за ссылку, можно если что вам вопросики задавать?

Slach [altinity]
спасибо за ссылку, можно если что вам вопросики за...

https://youtu.be/viZrOnJclY0 советую посмотреть это видео

Похожие вопросы

Обсуждают сегодня

А как старый хаскел с новым стыковать ? потому как тут работает https://play.haskell.org/saved/C3xpMzcd, а вот тут https://stepik.org/lesson/7602/step/9?unit=1473 нет ошибка C...
Fedor
131
Вопрос я правильно понимаю что в коде newtype ArrowMap k v = ArrowMap { getArrowMap :: k -> Maybe v } getArrowMap есть функция типа k -> Maybe v, если да, то не понимаю задач...
Fedor
64
Как Вы считаете нормально ли в двадцатых годах 21 века в ВУЗах Российской Федерации обучать студентов работе с TASM? Не слишком ли это "архаично"? (Если оффтоп или флейм для э...
Spiker01
52
Продолжая диалог про свифт в проде – сейчас возник вопрос в активном наборе бекендеров. В основном в нашей компании мы фанаты Java Spring и полностью ей довольны. Однако найм ...
Guseyn
27
{!! $modx->runSnippet( 'multiTV',[ 'tvName'=>'slider-main1', 'docid'=>'[*id*]', 'tplConfig'=>'', 'display'=>'4', 'offset'=>'0', 'rows'=>'all', 'ra...
Роман С
4
Комрады, хотел уточнить. Проперть в OnDestroy юнита-хозяина по-прежнему доступна? И еще уточнение: finalization юнита наступает раньше или позже OnDestroy?
Ed Doc
48
PopOs or Linux Mint for a noob starter? Also do you have any articles on how to safely dual boot Windows 10 alongside it? I've heard there are a bunch problems that can occur...
Senator
14
Читаю сейчас [нет, уже больше не читаю!] курсовую о Булгакове, написанную, похоже, с помощью ChatGPT. Это удивительный психоделический опыт. Текст в основном написан в стиле б...
✨ Uni [🌊 В отпуске]
1
Из рассылки The Lazarus team is glad to announce the release of Lazarus 3.4. This is a bugfix release and was built with FPC 3.2.2. Here is the list of changes for Lazarus...
Ed Doc
4
Всем привет! поделитесь, пож-та, как кто дебажил / решал проблему с 504 Time out ошибкой от nginx, когда стучишься на свой vapor сервер? в логах /var/log/nginx/error.log е...
Paul
24
Карта сайта