--- title: 'Ollama — локальный запуск LLM | Zomro' description: 'Установите Ollama для локального запуска и управления большими языковыми моделями на собственном сервере. Платформа обеспечивает загрузку, хранение и запуск LLM через удо' image: 'https://zomro.com/static/site/images/logo/logo-white.png?v=1790339723' --- ![opened image]() * [Zomro](https://zomro.com/rus/) * [Marketplace](https://zomro.com/rus/marketplace) * Ollama ![Ollama icon](https://cdn.zomro.com/uploads/marketplace/instruction/rCjCIwiC_400x400.jpg) # Ollama Версия 0.31.2 OS ubuntu [ развернуть Ollama ](https://cp.zomro.com/cart?name=Essential%20Intel&location=17&datacenter=17&dc=netherlands-3&period=1&category=shared_cpu&type=premium&isMarketplaceOrder=true&imageId=248a07e9-0d96-4936-ac81-71ac025d7ab9&id=7752&service=instances) Ollama - платформа для локального запуска больших языковых моделей. Она берёт на себя загрузку, хранение и запуск моделей через единый интерфейс командной строки, а также открывает REST API, к которому подключаются внешние приложения. В маркетплейсном образе Ollama идёт в связке с Open WebUI - веб-интерфейсом для работы с моделями через браузер. Зачем держать LLM на собственном сервере? Данные не уходят за пределы инфраструктуры. Нет ограничений по токенам и запросам. Можно запускать специализированные и дообученные модели, которые недоступны в облачных сервисах. Маркетплейсный образ разворачивает всё окружение за 1–2 минуты: Ollama, Open WebUI, базовую защиту паролем. Дальше нужно только загрузить нужную модель и начать работать. ## Что потребуется * Аккаунт у VPS-провайдера с маркетплейсом образов * VPS минимум 2 vCPU и 4 ГБ RAM * Для работы с моделями на 7B параметров: 8 ГБ RAM (минимум) * Для моделей на 13B параметров: 16 ГБ RAM ## Разворачиваем сервер из маркетплейса В маркетплейсе провайдера находим образ Ollama и нажимаем Deploy. Выбираем конфигурацию сервера: * CPU: 2–4 vCPU * RAM: 8 ГБ (под модели 7B) или 16 ГБ (под модели 13B) * Диск: 40–80 ГБ SSD - каждая модель занимает 4–10 ГБ Задаём пароль или прикрепляем SSH-ключ, нажимаем создать. Сервер готов через 1–2 минуты. ## Подключаемся по SSH **Linux / macOS:** ssh root@IP_СЕРВЕРА **Windows - PowerShell или PuTTY:** ssh root@IP_СЕРВЕРА Вводим пароль, заданный при создании VPS, или используем SSH-ключ. ## Получаем учётные данные Образ поставляется с HTTP Basic Auth на входе в Open WebUI. Логин и пароль для этого уровня защиты хранятся в файле `/root/.password_credentials`. Просматриваем командой: cat /root/.password_credentials ![](https://cdn.zomro.com/uploads/blog/a48%40server-panel.net/2026/07/13/image_q50.jpg) Файл содержит два значения: * **имя пользователя** HTTP Basic Auth * **пароль** HTTP Basic Auth Запишите их - они нужны для первого входа в браузере. ## Открываем веб-интерфейс В браузере переходим по IP-адресу сервера: http://IP_СЕРВЕРА ![](https://cdn.zomro.com/uploads/blog/a48%40server-panel.net/2026/07/13/image_eUp3nti_q50.jpg) Браузер покажет диалог HTTP Basic Authentication. Вводим логин и пароль из файла `/root/.password_credentials`. Если браузер показывает предупреждение об SSL-сертификате, его можно проигнорировать и продолжить - это нормально для HTTP-доступа по IP. ![](https://cdn.zomro.com/uploads/blog/a48%40server-panel.net/2026/07/13/image_Bkjj3cB_q50.jpg) После успешной авторизации открывается страница создания аккаунта администратора Open WebUI. Заполняем имя, email и пароль. Первый созданный аккаунт автоматически получает права администратора. ![](https://cdn.zomro.com/uploads/blog/a48%40server-panel.net/2026/07/13/image_vnPTao2_q50.jpg) ## ## ## Отключаем HTTP Basic Auth HTTP Basic Auth нужен только при первом развёртывании, пока Open WebUI не защищён собственной авторизацией. После создания аккаунта администратора его можно отключить. Возвращаемся в SSH и выполняем: /root/disable_basic_auth.sh После этого для входа в Open WebUI используем email и пароль, заданные при создании аккаунта администратора. HTTP Basic Auth больше не запрашивается. ## ## ## Загружаем первую модель Образ поставляется без предустановленных моделей - их нужно скачать отдельно. Загрузка выполняется через командную строку Ollama. Подключаемся по SSH и запускаем модель: ollama run llama3 ![](https://cdn.zomro.com/uploads/blog/a48%40server-panel.net/2026/07/13/image_sMyhrDE_q50.jpg) При первом запуске Ollama автоматически скачает модель с официального реестра. Для `llama3` это около 4.7 ГБ. Прогресс скачивания виден прямо в терминале. После завершения загрузки модель автоматически появится в списке моделей Open WebUI - выбирайте её в выпадающем меню и начинайте диалог. ![](https://cdn.zomro.com/uploads/blog/a48%40server-panel.net/2026/07/13/image_dQLJBha_q50.jpg) ## ## ## Какие модели загружать Выбор модели зависит от ресурсов сервера и задачи. Несколько популярных вариантов: Модель | Размер | RAM | Что умеет ---|---|---|--- llama3.2:3b | ~2 ГБ | 4 ГБ | Быстрые ответы, базовые задачи llama3.1:8b | ~4.7 ГБ | 8 ГБ | Хорошее качество текста mistral:7b | ~4.1 ГБ | 8 ГБ | Генерация кода, анализ qwen2.5:14b | ~8.9 ГБ | 16 ГБ | Сложные рассуждения deepseek-r1:7b | ~4.7 ГБ | 8 ГБ | Логика и математика Полный каталог моделей: [ollama.com/library](https://ollama.com/library) Загрузить дополнительную модель без выхода из интерфейса можно через Settings → Models в Open WebUI: введите название модели и нажмите Pull. ## ## ## Управление моделями через CLI Ollama работает и без Open WebUI - через терминал напрямую: # Список загруженных моделей ollama list # Запустить модель в режиме диалога ollama run mistral:7b # Скачать модель без запуска ollama pull qwen2.5:14b # Удалить модель ollama rm llama3 # Посмотреть детали модели ollama show mistral:7b REST API Ollama доступен по адресу `http://localhost:11434`. Через него модели подключаются к сторонним инструментам: Continue.dev, LangChain, литии, собственным скриптам. Пример запроса к API: curl http://localhost:11434/api/generate -d '{ "model": "llama3.1:8b", "prompt": "Что такое Docker?", "stream": false }' ## ## ## Что настроить следующим После базовой установки стоит сделать: * Поставить Nginx с Let's Encrypt - чтобы работать по HTTPS через домен, а не по HTTP на IP. Пример конфигурации описан в отдельной статье про Nginx Proxy Manager. * Настроить управление пользователями - в Admin Panel → Users можно создать аккаунты для команды, ограничить доступ к конкретным моделям, установить роли. * Настроить автоматическое обновление Ollama - новые версии выходят регулярно и добавляют поддержку новых моделей. Проверить текущую версию: ollama --version Обновление: curl -fsSL https://ollama.com/install.sh | sh Маркетплейсный образ даёт готовое AI-окружение без ручной настройки: Ollama + Open WebUI + базовая защита паролем. Первую модель запускаете одной командой. Дальше выбор моделей, тонкая настройка интерфейса и подключение к собственным приложениям через API.