Модели для Ollama в 2026: Qwen3-Coder, Kimi, DeepSeek и какую выбрать под своё железо

Короткий ответ: под 8 ГБ видеопамяти берите Qwen2.5-Coder 7B, под 24 ГБ — Qwen3-Coder-30B-A3B, а Kimi K2.6 и Hermes на домашнем компьютере не запустить физически, они живут только в облаке Ollama. Дальше разберем, почему именно так и что делать, если у вас 16 или 48 ГБ.

В статье: таблица VRAM для восьми моделей Ollama, отдельно про Qwen3-Coder для кода, про Kimi K2.6 и Hermes для чата и агентов, и что реально тянет Llama 3.3 70B. Данные на сентябрь 2026, каталог моделей меняется каждую неделю.

Какую модель Ollama выбрать в 2026 году под свое железо?

Выбор зависит от одной цифры — объема видеопамяти. Дальше уже смотрите на задачу: код, чат или мультимодальные вещи вроде описания картинок.

Параметры модели — это не база знаний внутри нее, а количество числовых коэффициентов, которые определяют, как модель обрабатывает запрос и строит ответ. Чем их больше, тем точнее рассуждения, но тем больше памяти нужно железу. У MoE-моделей вроде Qwen3-Coder часть параметров вообще не участвует в конкретном проходе, поэтому 30-миллиардная модель по скорости ведет себя как 3-миллиардная.

Дальше все упирается в квантизацию. Полная точность FP16 — золотой стандарт, но она съедает вдвое больше памяти, чем компактный формат Q4_K_M. На практике 90% локальных установок в Ollama работают именно на Q4, и разница в качестве ответов почти не заметна на глаз.

Сколько видеопамяти нужно для разных моделей Ollama?

8 ГБ хватает на 7B модели в Q4, 24 ГБ открывает Qwen3-Coder-30B, а от 48 ГБ и выше уже можно говорить про Llama 3.3 70B. Все, что тяжелее, живет только в облаке.

Реальная нагрузка на память — это вес модели плюс KV-кеш под контекст плюс runtime-надбавка. Формула грубая, но рабочая: гигабайты FP16 примерно равны миллиардам параметров, умноженным на два, а Q4_K_M — это уже коэффициент 0,6. Отсюда и берется таблица ниже.

Максим: «GoBanana мы собрали за 3 часа после выхода новой модели, шесть-восемь часов суммарно на продукт, который потом принес 12 миллионов рублей. Так же и с моделями в Ollama: вышла новая версия — сразу пробуем на своем железе, а не ждем месяц обзоров.»

Qwen3-Coder или лестница Qwen2.5-Coder что выбрать для кода?

Qwen3-Coder-30B-A3B — лучший локальный вариант для агентного кодинга на 24 ГБ VRAM. Для более слабого железа берите Qwen2.5-Coder нужного размера: 7B, 14B или 32B.

Qwen3-Coder-30B-A3B — это MoE-модель на 30,5 млрд параметров, из которых на каждый токен активны только 3,3 млрд. В Q4_K_M ей нужно около 22 ГБ видеопамяти, а с запасом на контекст комфортно чувствует себя на карте от 24 ГБ. Контекст у модели нативно 256K токенов, с расширением через YaRN — до 1M, чего достаточно для работы с целым репозиторием, а не с одним файлом.

Для железа послабее работает лестница Qwen2.5-Coder: версия 7B умещается в 8 ГБ и по автодополнению в редакторе обгоняет CodeLlama и DeepSeek-Coder похожего размера, 14B требует 16 ГБ, а 32B на топовой потребительской карте показывает результат близкий к GPT-4o на бенчмарке Aider. Мы уже разбирали эту лестницу подробно в статье про локальную нейросеть для программирования, здесь не повторяем детали.

Отдельно стоит Qwen3-Coder-Next — облегченная агентная версия, которая при активных 3 млрд параметров держится на уровне моделей на порядок крупнее. Она хорошо ведет себя в CLI-агентах вроде Qwen Code и открыто дает 1000 бесплатных запросов в день, что закрывает основную часть рабочих задач без подписки.

Зачем нужны Kimi K2.6 и Hermes если это не про код?

Kimi K2.6 и модели семейства Hermes закрывают роль персонального ассистента и чата без ограничений. Локально их не запустить, но через облако Ollama они доступны бесплатно по квоте или по подписке Ollama Pro.

Kimi K2.6 от Moonshot AI вышла в апреле 2026 и держит гибридную архитектуру на 1 триллион параметров с активными 32 млрд на токен. Контекст — 256K токенов, модель принимает и текст, и изображения. Полная версия занимает около 610 ГБ диска, а компактный динамический 2-бит вариант — от 350 ГБ. Дома такое не поднять, зато через ollama run kimi-k2.6:cloud модель отвечает за секунды, используя серверы Ollama, а не вашу видеокарту.

Hermes от Nous Research — семейство диалоговых моделей на базе Llama 3.1, версии 70B и 405B с контекстом 128K токенов. Их ценят за минимум отказов и хорошую управляемость через системный промпт, поэтому они часто становятся ядром для персональных Telegram-ассистентов. По цене через провайдеров вроде Nous Portal 405B-версия стоит от $0,09 за миллион входных токенов, что заметно дешевле подписки на закрытые модели уровня Claude или GPT.

Стоит ли брать Llama 3.3 70B на мощном железе?

Да, если у вас 48 ГБ видеопамяти или объединенной памяти на Mac. Llama 3.3 70B в Q4_K_M занимает около 42-43 ГБ и дает заметно более качественные рассуждения, чем модели 30-32B.

На картах вроде RTX 4090 24 ГБ модель просто не влезает и уходит в тяжелый оффлоад, что резко режет скорость. А вот на Mac Studio с 128 ГБ объединенной памяти или на паре видеокарт по 24 ГБ Llama 3.3 70B выдает 10-15 токенов в секунду, чего хватает для комфортного диалога и ревью кода. Для агентных сценариев с длинными цепочками вызовов это уже приемлемый темп, хотя и заметно медленнее облачных Opus или Sonnet.

Здесь есть нюанс: если у вас нет 48 ГБ, гнаться за 70B не стоит вообще. Лучше взять Qwen3 32B или Qwen3-Coder-30B, они дадут больше токенов в секунду на том же бюджете и почти не проиграют в качестве на бытовых задачах. Подробный разбор, какая видеокарта и конфигурация нужна под конкретные модели, мы собрали в статье какой компьютер и видеокарта нужны для локальной нейросети.

Как посмотреть какие модели уже стоят на компьютере?

Команда ollama list показывает все локально скачанные модели с их размером на диске. Одновременно активна может быть только одна модель, вторая просто выгрузит первую из памяти.

Если модель не найдена, ollama pull <название> скачивает ее с официального каталога, а ollama run <название> запускает диалог. Каталог на ollama.com обновляется постоянно, и версии в видеогайдах на YouTube устаревают за пару месяцев. Прежде чем качать модель по старому туториалу, стоит свериться с актуальным списком на сайте, там же указаны точные размеры под каждый квант.

Для облачных моделей вроде Kimi логика другая: сначала авторизуетесь через ollama signin, дальше запускаете с суффиксом :cloud, и вся нагрузка уходит на сервера Ollama. Разницу между локальным и облачным режимом, а также когда каждый вариант выгоднее, мы разбирали в статье про Ollama Cloud и облачные модели без своей видеокарты.

Цены и доступность моделей на сентябрь 2026

Локальные модели в Ollama сами по себе бесплатны, платите только за железо или аренду сервера. Облачные модели считаются иначе: Kimi K2.6 через Ollama Cloud идет в рамках бесплатной дневной квоты, а после нее по тарифу Ollama Pro. Hermes 405B через Nous Portal обойдется примерно в $0,09 за миллион входных токенов и $0,37 за выходные, что для персонального ассистента почти незаметная сумма.

Актуальные цифры лучше проверять прямо на ollama.com/library и nousresearch.com, каталог обновляется быстрее любого гайда.

Таблица сравнения моделей по задачам

Глоссарий

• VRAM — видеопамять на графической карте, главный ресурс для запуска локальных моделей.
• Квантизация — сжатие весов модели до меньшей точности (Q4, Q8) ради экономии памяти.
• MoE (Mixture of Experts) — архитектура, где на каждый токен активна только часть параметров модели.
• KV-кеш — память под хранение контекста диалога во время генерации ответа.
• Контекстное окно — сколько токенов модель одновременно держит в поле зрения, измеряется в токенах, а не в словах.

Частые вопросы про модели Ollama

Можно ли запустить Kimi K2.6 на домашнем компьютере?
Нет, модель весит от 350 ГБ даже в сжатом виде. Используйте облачный режим через ollama run kimi-k2.6:cloud, вычисления идут на серверах Ollama.

Что лучше для кода: Qwen3-Coder-30B или Qwen2.5-Coder 32B?
Qwen3-Coder-30B-A3B быстрее за счет MoE-архитектуры и держит контекст до 1M токенов, это лучший выбор при 24 ГБ VRAM. Qwen2.5-Coder 32B чуть точнее на сложных задачах, но требует больше памяти на тот же результат.

Сколько видеопамяти нужно для Llama 3.3 70B?
В Q4_K_M весит около 42-43 ГБ, для комфортной работы с контекстом нужно от 48 ГБ видеопамяти или объединенной памяти на Mac.

Можно ли запускать несколько моделей Ollama одновременно?
Технически да, но активной в моменте будет только одна: при переключении Ollama выгружает предыдущую модель из памяти и загружает новую.

Что значит суффикс MLX у модели?
Модель подготовлена под фреймворк MLX от Apple и оптимизирована под чипы M1-M4, на Mac она работает быстрее обычной GGUF-версии.

Заменяет ли локальная модель подписку на Claude или GPT?
Для рутинного кодинга и чата на своем железе — во многом да, особенно Qwen3-Coder на агентных задачах. Для самых сложных архитектурных решений облачные модели пока точнее.

Где смотреть самые свежие версии моделей?
На ollama.com/library, каталог обновляется чаще, чем выходят новые видеогайды на YouTube.

Разобраться, какая связка модели и агента подойдет именно под ваши задачи, можно на бесплатной консультации у Максима: t.me/maxnagovitsyn. А если ищете готовый инструмент вместо локальной настройки, загляните в каталог AI-инструментов на VibeCoderz.

Обновлено: сентябрь 2026.