M>Тут недавно заводил тему и вот хочу что-то из проверенного и неустаревшего взять для того, что у себя на домашнем компе развернуть и попробовать обучить бытовым вещям
ты хочешь поиграться, или всерьез?
если поигаться — любая видяха на 24 гига, или твоё тормозное грызаное яблоко
если всерьез — гугли tesla v100 sxm2. тебе нужны 4 таких карты и объединительная плата с nvlink. далее, если ты не "вайтишник", разберешься. там всё просто

M>в общем самому обучиться и погрузиться.
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
оперативы хватит. но генерить твоё грызаное яблоко будет раз в 10 медленнее, чем видяхи, про которые я сказал выше.
если ты хочешь обучать, а не инференсить, это принципиальный момент. тратить неделю или 2.5 месяца на обучение — выбор за тобой


M>а по самой LLM подскажите, что взять посоветуете?
нет универсальных моделей. вернее как.. есть, но они требуют 1+ tb видеопамяти.
изучай тему, далее сам подберешь
из того, что я выбрал как более-менее "унивесальное":

Saiga Gemma3 — лучший русский язык и вообще, пожалуй одна из лучших моделей, не требующих специфического железа.
google/gemma-3-27b — официальная llm от гугла. гемини не догоняет, но в спину дышит. если есть 24+ гб видеопамяти — пробуй.
zai-org/glm-4.7-flash — неплохая аналитика для 30b

если решишься на покупку теслы в100 х2-х4, то на этих студентов забей. твои варианты:
openai/gpt-oss-120b
MiniMax-M2.5 или 2.7
еще знаю, что хвалят квен 3.5. но мне не зашел.

буду вопросы по существу — задавай, постараюсь разжевать

ДОПОЛНЕНИЕ:
у всех моделей для работы, а не "поиграться", бери сжатие не хуже Q5. нет смысла ради 10-15% экономии

M>Тут недавно заводил тему и вот хочу что-то из проверенного и неустаревшего взять для того, что у себя на домашнем компе развернуть и попробовать обучить бытовым вещям
ты хочешь поиграться, или всерьез?
если поигаться — любая видяха на 24 гига, или твоё тормозное грызаное яблоко
если всерьез — гугли tesla v100 sxm2. тебе нужны 4 таких карты и объединительная плата с nvlink. далее, если ты не "вайтишник", разберешься. там всё просто

M>в общем самому обучиться и погрузиться.
M>по железу я так понял для моих целей ноута Apple среднего хватит для того чтобы крутить LLM такого типа?
оперативы хватит. но генерить твоё грызаное яблоко будет раз в 10 медленнее, чем видяхи, про которые я сказал выше.
если ты хочешь обучать, а не инференсить, это принципиальный момент. тратить неделю или 2.5 месяца на обучение — выбор за тобой


M>а по самой LLM подскажите, что взять посоветуете?
нет универсальных моделей. вернее как.. есть, но они требуют 1+ tb видеопамяти.
изучай тему, далее сам подберешь
из того, что я выбрал как более-менее "унивесальное":

Saiga Gemma3 — лучший русский язык и вообще, пожалуй одна из лучших моделей, не требующих специфического железа.
google/gemma-3-27b — официальная llm от гугла. гемини не догоняет, но в спину дышит. если есть 24+ гб видеопамяти — пробуй.
zai-org/glm-4.7-flash — неплохая аналитика для 30b

если решишься на покупку теслы в100 х2-х4, то на этих студентов забей. твои варианты:
openai/gpt-oss-120b
MiniMax-M2.5 или 2.7
еще знаю, что хвалят квен 3.5. но мне не зашел.

буду вопросы по существу — задавай, постараюсь разжевать

ДОПОЛНЕНИЕ:
у всех моделей для работы, а не "поиграться", бери сжатие не хуже Q5. нет смысла брать Q4 ради 10-15% экономии