Сообщение Re: Оффлайн LLM для домашнего обучения от 03.04.2026 20:10
Изменено 03.04.2026 20:13 _ilya_
Re: Оффлайн LLM для домашнего обучения
Здравствуйте, merge, Вы писали:
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уж обученными, просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уж обученными, просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.
Re: Оффлайн LLM для домашнего обучения
Здравствуйте, merge, Вы писали:
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уже обученными (скармливать картинку и промпт, если по цвету заправленная кровать отличается от не заправленной то даже самая слабая нейронка такое поймет и ответит), просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уже обученными (скармливать картинку и промпт, если по цвету заправленная кровать отличается от не заправленной то даже самая слабая нейронка такое поймет и ответит), просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.