что к текущему токену аттендятся все предыдущие? ведь на самом деле эмбеды предшествующих токенов не пересчитываются
Вообще я сейчас задумался, может быть фигню сказал
не, это правда, что для i-го токена мы считаем i-1 связь с предыдущими (+1 на себя), но мы же не пересчитываем прям те эмбеддинги, давно делают кеширование, это ваще гениальная вещь
Обсуждают сегодня