Коллеги, подскажите пожалуйста, модель дообученная через lora с адаптером способна

Question

переучиться ещё раз с помощью lora на своем датасете? можно ли сохранить модель с lora в формат gguf?

#nlp #programming #russian

0

26.10.2023

21 просмотр

Адаптер можно сливать с исходной моделью PeftModel.from_pretrained, а дальше что хошь снова делаешь с ней.

0

26.10.2023

Pavel Borisovich · Accepted Answer

LoRA же как я понял просто подцепляется к модели, но сама модель неизменна. Ты можешь выбирать разные LoRa под разные цели.

0

26.10.2023