Здравствуйте, Артём, Вы писали:
Аё>Здесь утверждалосьАвтор: Nuzhny
Дата: 18.10.24
"конец текстовых заданий на дом, LLM всё порешала".
Аё>Llama ожидаемо укакалась, на банальной, тупой задачке на разворот строки. Какие-то есть предложения, что вопрос задан некорректно, чи что?
Возьмите
https://huggingface.co/bartowski/DeepSeek-V2.5-GGUF/tree/main/DeepSeek-V2.5-Q8_0 и запустите его на 4 H100 на runpod.
Ну и — обычно люди не на тупой локальной LLM пытаются работать, а на каком-нибудь Claude Sonnet.