К содержимому
Подключить

Ollama на VPS

Локальный запуск LLM

Установить на VPSGitHub
Категория
AI / Автоматизация
Хостинг
AI-сервисы
Автор
Ollama
Лицензия
MIT
Версия
0.35.0

Скрипт бесплатный · VPS от $13.30 в месяц · установка около 2 минут

Установка по SSH

root@vps:~# curl -fsSL https://ollama.com/install.sh | sh

  • SystemUbuntu 24.04 · x86_64ok
  • Sourcegithub.com/ollama/ollamaok
  • Version0.35.0ok
  • Port11434/tcplisten

✓ Ollama 0.35.0 установлен · около 2 минут

root@vps:~#

Команда установки из библиотеки. Вывод сокращён: на вашем сервере он может отличаться.

Что это

  • LLM
  • AI
  • API
  • Self-hosted

Ollama запускает открытые языковые модели (Llama, Qwen, Gemma, Mistral и другие) на вашем сервере одной командой и даёт к ним API, совместимый с OpenAI.

Своя модель на VPS — это ИИ для ботов и автоматизаций без оплаты за токены и без передачи данных внешним сервисам. На сервере без видеокарты модели работают на CPU, поэтому выбирайте небольшие модели на 1–8 млрд параметров.

Официальный скрипт ставит Ollama как сервис systemd.

  • Сотни моделей из библиотеки ollama.com
  • API, совместимый с OpenAI
  • Работа на CPU без видеокарты
  • Квантованные модели для экономии памяти
  • Интеграция с Open WebUI, n8n и Flowise

Рекомендуемый тариф

Для Ollama — не меньше 4 vCPU, 8 ГБ RAM и 150 ГБ NVMe.

Минимум для запуска
2 vCPU · 4 ГБ RAM · 20 ГБ диска
Системы
Ubuntu 22.04 · Ubuntu 24.04 · Debian 11 · Debian 12 · AlmaLinux 9

Как установить

Три шага в боте или одна команда по SSH, установка займёт около 2 минут.

  1. 01

    Выберите тариф в боте

    Откройте @ExpressHost_bot и оплатите VPS. Сервер будет готов примерно через 60 секунд.

  2. 02

    Добавьте Ollama

    На шаге «Дополнения» выберите скрипт из библиотеки или запустите его позже: Настройки сервера → Скрипты.

  3. 03

    Скачайте и запустите модель

    ollama run llama3.2:3b

Вручную по SSH

Подключитесь к серверу под root и выполните команду. Поддерживаемые системы: Ubuntu 22.04, Ubuntu 24.04, Debian 11, Debian 12, AlmaLinux 9.

Команда установки
curl -fsSL https://ollama.com/install.sh | sh

Порты

Порты Ollama
ПортПротоколНазначение
11434tcpAPI (по умолчанию только 127.0.0.1)

После установки

  1. 1.Скачайте и запустите модель: ollama run llama3.2:3b
  2. 2.Список моделей: ollama list, API: curl http://127.0.0.1:11434/api/tags
  3. 3.Чтобы к API обращались контейнеры (Open WebUI, n8n), задайте OLLAMA_HOST=0.0.0.0 в override сервиса (systemctl edit ollama) и закройте порт 11434 файрволом снаружи

Вопросы об Ollama

Не нашли ответ? Пишите @ExpressHost_SupportBot.

Какую модель потянет тариф?

Модели на 3–4 млрд параметров работают на 4 ГБ RAM, на 7–8 млрд нужно около 8 ГБ. Без видеокарты ответы медленнее, чем в облачных сервисах.

Как обновить Ollama?

Повторно запустите установочный скрипт.

Где лежат модели?

В /usr/share/ollama/.ollama/models. Модели весят гигабайты, следите за местом на диске.

Ollama ставится при заказе — в боте.

Заказать VPS под OllamaКупить в Telegram