мне интересно
почему бы не объединить все модели чтобы получить что то по типу 500B ?
Есть bloom но оно не то слишком тупая,
также слышал что большие модели можно запустить технологией bittorrent ? почему бы не сделать большую модель и не использовать торрент ?
https://github.com/bigscience-workshop/petals
если проблема в железе почему бы не объединиться и не начать обучать модель вместе
потому что за железо надо платить? без четкой цели и организации ничем хорошим это не закончится
Обсуждают сегодня