понимаю, о чём речь)0
Обычно инпут к трансформеру - это матрица, где строки (условно) - векторы эмбеддингов. Я думал насчет повышения размерности инпута, чтобы инпут был 3д, две параллельных последовательности эмбеддингов разной природы (и разной длины соответственно)
Обсуждают сегодня