ксеоном (8 ядер). На нем питорч 1.13 для ЦПУ, питон 3.8, и свежая версия трансформерс. Всякие Берты, и другие энкодеры работают нормально. Но генеративные модели вроде Т5 зависают на этапе decode, уже после генерации. Тот же скрипт на локальном компе с i3 10100 работает без проблем. В чем может быть дело. Это может быть связано с тем что процессор ксеон 2012 года устарел и не подходит для трансформерс?
Навряд ли, ксеон то какой? Оперативки сколько?
Intel Xeon E5-2680 v3
Он вроде поддерживает все инструкции
Да вроде норм. Попробуй посмотреть, хватает ли оперативки при запуске, не уходит ли в своп. Вероятно либы питона какие-то могли устареть.
Обсуждают сегодня