не трогай, с дровами смерть
но зато там такие ТФлопсы обещают и память до 192ГБ
перспективно для LLM, ибо там TFLOPs И памяти, но много гемора с бубном
это так, я пробовал заводить торч - вышло печально. ну и сейчас все такие хочется deepspeed и вот это все иметь, а оно привязано к nccl
Читал, что проблема в том, что ТФфлопсы сильно теряются при конвертации моделей под AMD. И что собственно не в тфлопсах счастье. Но соотношение цена память дает надежды. AMD планирует жарить в этом направлении
Обсуждают сегодня