>Мы инферим все токены декодера при каждом шаге имеется в виду

что к текущему токену аттендятся все предыдущие? ведь на самом деле эмбеды предшествующих токенов не пересчитываются

2 ответов

27 просмотров

Вообще я сейчас задумался, может быть фигню сказал

See-All Автор вопроса
Vlad Lialin
Вообще я сейчас задумался, может быть фигню сказал

не, это правда, что для i-го токена мы считаем i-1 связь с предыдущими (+1 на себя), но мы же не пересчитываем прям те эмбеддинги, давно делают кеширование, это ваще гениальная вещь

Похожие вопросы

Обсуждают сегодня

Он в одиночку это дело запилил или была какая-то команда?
Aquinary
12
Вообще кстати бывают такие тулкиты чтобы вот разработал под ОС X, всё оттестировал работает А потом собрал под ОС Y - и там просто без вообще любых изменений заработало?
Serg Gini
14
всем привет, кто знает нормальный гайд как настроить отладчик в Intelij на Windows?
QUAD69
6
А, вообще, знает кто-нить альтернативы D в области безопасных, читабельных ОО-языков?
Nik Lan
14
Работа над эдишенами там какая-то ведется? Или пока что тишина?
Serg Gini
1
приветствую. хочу сделать себе D Playground вопрос: можете подсказать с чего мне следует начать и в какую сторону двигаться? P.S.: я не являюсь программистом... но в небольш...
dd
5
а как в dub выключить дебажный билд?
Maxim Filimonov
12
Что кто фри селф хостинг там практикует? Через tunnel?
Serg Gini
8
А что непонятного? В чем сложность взять слайс от вектора? И работать как обычно. Какие-то выдумки опять на ровной почве. Да и RAII в ди прекрасно работает с самого начала.
Aleksandr Druzhinin
14
а почему, кстати, геймдевы обращают такое внимание на "новые" языки типа того же D (а также Zig)?
Maxim Filimonov
9
Карта сайта