Сообщение Re: Оффлайн LLM для домашнего обучения от 03.04.2026 20:10
Изменено 03.04.2026 20:15 _ilya_
Re: Оффлайн LLM для домашнего обучения
Здравствуйте, merge, Вы писали:
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уже обученными (скармливать картинку и промпт, если по цвету заправленная кровать отличается от не заправленной то даже самая слабая нейронка такое поймет и ответит), просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уже обученными (скармливать картинку и промпт, если по цвету заправленная кровать отличается от не заправленной то даже самая слабая нейронка такое поймет и ответит), просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.
Re: Оффлайн LLM для домашнего обучения
Здравствуйте, merge, Вы писали:
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уже обученными (скармливать картинку и промпт, если по цвету заправленная кровать отличается от не заправленной то даже самая слабая нейронка такое поймет и ответит). Для решения в общем (не вдаваясь в описание что заправленная это такого цвета, в не заправленная-такого, что упрощает на порядки решение распознавания) — просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
M>а по самой LLM подскажите, что взять посоветуете?
Обучать свою модель — забудь. Лучше пользоваться существующими и уже обученными (скармливать картинку и промпт, если по цвету заправленная кровать отличается от не заправленной то даже самая слабая нейронка такое поймет и ответит). Для решения в общем (не вдаваясь в описание что заправленная это такого цвета, в не заправленная-такого, что упрощает на порядки решение распознавания) — просто абстрактного ноута наверно мало (если он не для AI, то точно мало), но хватит видюхи уровня 3090 с 24GB видеопамяти, на таких средне мелкие модели достаточно эффективно работают.