LINUX.ORG.RU

Кто нибудь подкинет хороших гайдов как обучать lora для LLM модели? С квантизацией уже желаиельно.

 


0

1

Кто нибудь подкинет хороших гайдов как обучать lora для LLM модели? С квантизацией уже желательно.

Основное на своих данных! Не на готовом наборе обучения. Желательно на просто массиве данные, а не на наборе - вопрос ответ.

Хочу попробовать дофайтюнить тиньковскую t lite, но это не мое профильное ремесло. (если кто не знает пару дней назад тиньков выложил опен сорс практически SOTA русскоязычную модель).

Видео гайды тоже крайне приветсвуются. Может кто по чему делал сам.

Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)