MoreSEOОб авторе

Локальные LLM: как запустить нейросеть на своём компьютере через Ollama и LM Studio

Ollama, LM Studio и AnythingLLM: сколько памяти нужно моделям на 8, 14 и 32 млрд параметров, какие открытые модели знают русский и что разрешают лицензии.

Обновлено 15 ноября 2026
11 мин. чтения
Обложка: нейросеть на своём компьютереМонитор с окном чата и модулями памяти рядом, кабель интернета отсоединён

Языковую модель можно запустить на обычном компьютере: скачиваете бесплатную программу (Ollama или LM Studio), выбираете открытую модель подходящего размера и общаетесь с ней без интернета. Тексты не уходят на чужие серверы, лимитов и подписки нет. Главное ограничение в памяти: модель на 8–9 млрд параметров в сжатом виде занимает 5–7 ГБ и комфортно работает при 16 ГБ оперативной или видеопамяти, модели на 27–32 млрд просят уже около 20 ГБ только на файл.

Ниже: какие программы выбрать, сколько памяти нужно, какие открытые модели понимают русский и что разрешают их лицензии. Данные на 15.11.2026.

Коротко

  • LM Studio бесплатна и для работы, и для дома с 8 июля 2025 года; на Mac нужен чип Apple Silicon и macOS 14 или новее, рекомендовано от 16 ГБ памяти.
  • Ollama распространяется под лицензией MIT, работает на macOS, Windows и Linux и поднимает API на localhost:11434, совместимый с частью API OpenAI.
  • По библиотеке Ollama модель Qwen3 8B весит 5,2 ГБ, 14B 9,3 ГБ, 32B 20 ГБ: около 0,6 ГБ на миллиард параметров.
  • Qwen 3.5, Gemma 4, gpt-oss и T-pro 2.0 выпущены под Apache 2.0, GigaChat 3.1 Lightning под MIT.
  • YandexGPT 5 Lite можно использовать коммерчески, но после 10 млн выходных токенов в месяц нужно договориться с Яндексом.

Зачем запускать модель у себя, если есть облачные чаты

Ради приватности, предсказуемой цены и работы без интернета. Модель на вашем компьютере не отправляет тексты наружу, не упирается в дневные лимиты и не зависит от доступности сервиса из России. Платите вы железом и качеством: открытые модели среднего размера уступают крупным облачным.

Где это реально полезно для сайта и контента:

  • Конфиденциальные тексты. Договоры, данные клиентов, неопубликованные материалы. В FAQ Ollama прямо сказано, что при локальном запуске компания не видит ваших запросов и данных.
  • Массовые однотипные задачи. Разметка тысяч запросов по интенту, черновые описания, классификация отзывов. Стоимость не растёт с объёмом.
  • Работа с документами. Чат с вашими PDF и регламентами через AnythingLLM, без загрузки файлов в облако. Как устроен такой поиск по документам, объясняет статья про RAG.
  • Эксперименты и разработка. Прототип бота или скрипта, который потом можно переключить на платный API. О подключении облачных моделей через API рассказано в статье API нейросетей.

Чем модель отличается от чат-сервиса и что такое параметры, разобрано в статье что такое LLM.

Ollama, LM Studio или AnythingLLM

LM Studio проще всего для старта: окно чата, каталог моделей и подсказка, влезет ли модель в память. Ollama удобнее для разработчиков: одна команда в терминале и API для скриптов. AnythingLLM не запускает модели сам по себе, а добавляет поверх них чат с документами и агентов.
ЧтоКогда подходитЧем платитеПочему важно
LM StudioПервый запуск, нужен привычный чат и выбор модели мышкойБесплатно для дома и работы; на Mac только Apple Silicon, на Windows нужен процессор с AVX2Видно размер и квантизацию каждой модели, есть локальный сервер
OllamaСкрипты, интеграции, сервер в офисе, связка с другими программамиБесплатно, MIT; основное управление из терминалаAPI на порту 11434, часть методов совместима с OpenAI: готовый код переключается сменой адреса
AnythingLLMЧат с документами (PDF, TXT, DOCX), агенты, общий доступ для команды через DockerБесплатно, MIT; нужна модель через Ollama, LM Studio или встроенный движокДаёт RAG «из коробки» без программирования

Запрос «llm studio» в Wordstat почти всегда означает LM Studio: так программу называют по ошибке.

Как выглядит запуск в Ollama

После установки с сайта ollama.com в терминале:

ollama run qwen3.5
ollama ps

Первая команда скачивает модель и открывает чат. Вторая показывает, где модель загружена: «100% GPU» означает видеокарту целиком, «100% CPU» оперативную память, а смешанное значение вроде «48%/52% CPU/GPU» говорит, что модель не влезла в видеопамять и будет работать медленнее. Модели хранятся в ~/.ollama/models на macOS и в C:\Users\%username%\.ollama\models на Windows.

Для скриптов используйте адрес http://localhost:11434/v1/: Ollama поддерживает подмножество API OpenAI, включая /v1/chat/completions и /v1/embeddings. Ключ API при этом может быть любым, Ollama его не проверяет.

Сколько памяти нужно модели

Для моделей в стандартном сжатии Ollama считайте около 0,6 ГБ на миллиард параметров плюс запас под контекст и систему. Модель на 8–9 млрд параметров занимает 5–7 ГБ и работает на компьютере с 16 ГБ. Модели на 27–32 млрд весят около 20 ГБ, им нужно 32 ГБ общей памяти на Mac или видеокарта с 24 ГБ.

Размеры ниже взяты со страниц моделей в библиотеке Ollama 15.11.2026 (теги по умолчанию, квантизованные версии):

МодельПараметровРазмер файлаОриентир по памятиЛицензия
Qwen3 8B8 млрд5,2 ГБ16 ГБApache 2.0
Qwen 3.5 9B9 млрд6,6–7,6 ГБ16 ГБApache 2.0
Gemma 4 12B12 млрд7,7–8,0 ГБ16 ГБ, впритыкApache 2.0
Qwen3 14B14 млрд9,3 ГБ16–24 ГБApache 2.0
gpt-oss 20B20 млрд14 ГБ24 ГБApache 2.0
Gemma 4 31B31 млрд19–20 ГБ32 ГБApache 2.0
Qwen3 32B32 млрд20 ГБ32 ГБApache 2.0
Llama 3.1 70B70 млрд43 ГБ64 ГБLlama 3.1 Community License

Колонку «ориентир» мы рассчитали сами: файл модели должен занимать не больше двух третей памяти, остальное уходит на контекст, систему и браузер. Это правило практики, а не требование разработчиков.

Что важно знать про память:

  • Mac с Apple Silicon использует общую память для процессора и графики, поэтому MacBook с 32 ГБ запускает модели, которым на ПК нужна дорогая видеокарта. LM Studio рекомендует для Mac от 16 ГБ, на 8 ГБ советует только маленькие модели и короткий контекст.
  • ПК с Windows. LM Studio рекомендует от 16 ГБ оперативной памяти и от 4 ГБ видеопамяти. Если модель больше видеопамяти, она частично ляжет в оперативную и будет отвечать заметно медленнее.
  • Контекст тоже ест память. По FAQ Ollama окно контекста по умолчанию 4096 токенов. Увеличить его можно переменной OLLAMA_CONTEXT_LENGTH, но длинный контекст требует дополнительной памяти. Что такое контекстное окно, объяснено в статье что такое LLM.
Как подобрать модель под свой компьютерТри шага: сколько памяти доступно, какой размер модели в неё помещается, какую программу выбрать под задачу. 8 ГБ: модели 2–4 млрд; 16 ГБ: 8–12 млрд; 32 ГБ: до 32 млрд; 64 ГБ: до 70 млрд. Чат: LM Studio; скрипты и API: Ollama; документы: AnythingLLM. Память → размер модели → программа 1. Сколько памяти 2. Какая модель влезет 3. Чем запускать 8 ГБ 16 ГБ 32 ГБ 64 ГБ и больше 2–4 млрд параметровпростые задачи 8–12 млрд, файл 5–8 ГБQwen 3.5 9B, GigaChat 3.1 до 32 млрд, файл ~20 ГБGemma 4 31B, Qwen3 32B до 70 млрд, файл ~43 ГБLlama 3.1 70B ЧатLM Studio Скрипты, APIOllama :11434 ДокументыAnythingLLM Правило: файл модели не больше двух третей памяти, остальное контекст и система
Как подобрать модель под свой компьютер: сколько памяти, какой размер модели помещается, какой инструмент выбрать для задачи

Схема 1. Сначала память, потом размер модели, потом программа под задачу.

Какие открытые модели работают с русским

Из российских разработок в открытом доступе есть GigaChat 3.1 Lightning от Сбера (MIT) и YandexGPT 5 Lite 8B (своя лицензия Яндекса). Из зарубежных многоязычность с русским заявлена у Qwen 3.5 (201 язык и диалект) и Gemma 4 (более 140 языков), есть русскоязычная доработка Qwen3 от Т-Технологий: T-pro 2.0. Качество русского проверяйте на своих задачах: общего рейтинга, которому можно верить, нет.

Коротко по моделям:

  • GigaChat 3.1 Lightning (10B-A1.8B). Модель-«смесь экспертов» от Сбера: 10 млрд параметров всего, 1,8 млрд активных при генерации, поэтому работает быстро. На Hugging Face отмечены русский и английский языки, есть версия в формате GGUF, который понимают Ollama и LM Studio. Лицензия MIT. Флагман GigaChat 3.5 Ultra тоже открыт, но ему нужен кластер серверов; подробнее в статье про GigaChat.
  • YandexGPT 5 Lite 8B Instruct. Контекст 32 тыс. токенов, есть GGUF-версия, в карточке прямо сказано, что её можно запускать в llama.cpp и Ollama. Чем модели Яндекса отличаются от Алисы AI в облаке, разобрано в статье про YandexGPT и Алису AI.
  • Qwen 3.5 и Qwen3. Семейство Alibaba от 0,8 до 122 млрд параметров в Ollama. Qwen 3.5 мультимодальная (понимает изображения), окно до 262 144 токенов.
  • Gemma 4 от Google. Размеры от E2B до 31B, в карточке заявлена поддержка более 140 языков, все версии в Ollama принимают текст и изображения.
  • gpt-oss 20B от OpenAI. Открытая модель с рассуждением, 14 ГБ в Ollama. Русский в карточке отдельно не заявлен, проверяйте на своих текстах.
  • T-pro 2.0 от Т-Технологий. Доработка Qwen3 32B для русского языка с гибридным рассуждением, около 33 млрд параметров, Apache 2.0. Квантизованные версии для Ollama и LM Studio есть на Hugging Face, но по памяти это уровень 32B. Llama 3.1 русский в списке официально поддерживаемых языков не указывает.

Если нужна модель для рассуждений и программирования, посмотрите также статью про DeepSeek: её младшие версии тоже есть в библиотеке Ollama.

Что разрешают лицензии

Apache 2.0 и MIT разрешают коммерческое использование и доработку без отчислений. У Llama 3.1 и YandexGPT 5 Lite свои лицензии с условиями: у Llama требование подписи «Built with Llama» и порог 700 млн пользователей, у YandexGPT порог 10 млн выходных токенов в месяц.
МодельЛицензияГлавное условие для бизнеса
Qwen 3.5, Qwen3, Gemma 4, gpt-oss, T-pro 2.0, Mistral Small 3.2Apache 2.0Коммерческое использование разрешено, нужно сохранить текст лицензии и уведомления
GigaChat 3.1 Lightning, GigaChat 3.5MITКоммерческое использование разрешено, нужно сохранить уведомление об авторских правах
Llama 3.1Llama 3.1 Community LicenseПодпись «Built with Llama» в продукте; модель, обученная на Llama, должна начинаться с «Llama»; при более 700 млн активных пользователей в месяц нужна отдельная лицензия Meta
YandexGPT 5 Lite 8BЛицензия ЯндексаКоммерческое использование разрешено до 10 млн выходных токенов в месяц; после порога в течение 30 дней нужно связаться с Яндексом, иначе лицензия прекращается

Для одного сайта или агентства порог Llama недостижим, а порог YandexGPT вполне реален при массовой генерации: 10 млн токенов это тысячи описаний товаров. Перед коммерческим проектом откройте файл LICENSE в репозитории модели: условия могут меняться от версии к версии.

Наши данные: что спрашивают о моделях на своём компьютере

Методика. Яндекс Wordstat, Россия, 30 дней, срез 14.11.2026. Спрос темы равен сумме точных частот 14 запросов группы.

ПоказательЗначение
Широкая частотность главного запроса4 605
Точная частотность главного запроса217
Спрос темы (сумма точных по 14 запросам)1 856
Доля главной формулировки в спросе темы11,7%
Запросов про железо из 144 (видеокарта, сервер, компьютер, ПК)
Запросов про программы из 143 (llm studio, anything llm, «что такое llm студия»)

Что из этого следует:

  • Точная формулировка собирает меньше 5% широкой частотности (217 из 4 605). Основной спрос в хвостах, и люди ищут не определение, а конкретику: что поставить и на каком железе.
  • Треть запросов про оборудование. Поэтому таблица размеров и памяти стоит в статье раньше, чем обзор моделей.
  • Ищут программы по названию, часто с ошибкой. «llm studio» вместо LM Studio и «anything llm» вместо AnythingLLM. Это сигнал: пользователь уже выбрал инструмент и хочет понять, как его запустить.

Для SEO-задач, где пригодится модель на своём компьютере (разметка запросов, черновики, классификация), есть отдельный разбор нейросетей для SEO.

Кому это не подходит

Если у вас 8 ГБ памяти и нет видеокарты, если нужно качество уровня лучших облачных моделей или если доступ нужен многим сотрудникам сразу, запуск на своём компьютере не лучший выбор. В этих случаях честнее взять облачный сервис или API.
  • Слабый ноутбук. На 8 ГБ поместятся только модели на 2–4 млрд параметров. Для редактуры и фактов их качества обычно мало.
  • Нужен максимум качества. Модели на 8–14 млрд проигрывают флагманам. Сравнение облачных сервисов есть в статье ChatGPT, Claude, Gemini или DeepSeek.
  • Командная работа. Десять человек на одном ноутбуке не поработают. Нужен сервер с видеокартами или облачный API, и это уже другая смета.
  • Нужны свежие данные. Модель знает только то, что было в обучении, и не ищет в интернете. Для ответов по свежим фактам нужен поиск или ваши документы через RAG.

Если задача только исправить ошибки в тексте без отправки в облако, посмотрите статью об исправлении ошибок в тексте: часть проверок можно сделать вообще без модели.

Частые вопросы

Какую видеокарту выбрать для языковой модели?

Главный параметр видеопамять, а не модель карты. По нашему расчёту из размеров файлов, с 8 ГБ комфортно работают модели до 8 млрд параметров в сжатом виде, с 16 ГБ до 14 млрд, с 24 ГБ до 20–32 млрд с коротким контекстом. Если модель больше видеопамяти, она частично уйдёт в оперативную и будет медленнее.

Что такое LM Studio?

Бесплатная программа для Windows, macOS и Linux, которая скачивает открытые языковые модели и запускает их на вашем компьютере с интерфейсом чата. С июля 2025 года бесплатна и для коммерческого использования.

Какие модели лучше всего понимают русский?

Из российских открыты GigaChat 3.1 Lightning и YandexGPT 5 Lite 8B. Из зарубежных многоязычность заявлена у Qwen 3.5 и Gemma 4, а T-pro 2.0 это доработка Qwen3 под русский. Проверьте две-три модели на своих текстах: разница между ними зависит от задачи.

Можно ли запустить модель без видеокарты?

Да, на процессоре и оперативной памяти, но ответ будет печататься медленнее. На Mac с Apple Silicon видеокарта не нужна: общая память работает и для графики, поэтому Mac с 16–32 ГБ подходит хорошо.

Можно ли использовать открытую модель в коммерческом проекте?

Модели под Apache 2.0 и MIT (Qwen, Gemma 4, gpt-oss, GigaChat) можно. У Llama 3.1 нужна подпись «Built with Llama», у YandexGPT 5 Lite порог 10 млн выходных токенов в месяц. Перед запуском прочитайте LICENSE в репозитории модели.

Источники

Частный SEO-специалист. Пишу про поиск и нейропоиск, а цифры беру из Wordstat и первоисточников.

Читайте также

© MoreSEO, Алексей Демкин · все статьи