Self hosted Ollama для Continue Code Assistant позволяет разработчикам запускать AI-модели на сервере, который они контролируют, и подключаться из VS Code. SSH-туннель держит API Ollama вне публичного интернета, пока Continue отправляет запросы к удалённой модели.
Ollama VPS хостинг от AccuWeb Hosting работает на VPS-планах, которые начинаются от $4.95 в месяц и включают предустановленный Docker, полный root-доступ и REST API. Это руководство охватывает приватное подключение, настройку модели, тестирование и командные операции.
Ключевые выводы
- Запустите Ollama на VPS и подключите Continue через SSH-туннель.
- Держите опубликованный порт Ollama привязанным к 127.0.0.1:11434 на сервере.
- Используйте роль autocomplete в Continue для встроенных подсказок.
- VPS-планы для Ollama начинаются от $4.95 в месяц с 4 ГБ оперативной памяти и 30 ГБ дискового пространства.
- Каждый план включает Docker, root-доступ и поддержку 24/7/365.
- Отключите облачные функции Ollama и отдельно проверьте другие инструменты перед работой с конфиденциальным кодом.
Как работает Self Hosted Ollama для Continue Code Assistant
Continue — это расширение VS Code, которое отправляет запросы к настроенному провайдеру моделей. Ollama запускает модель и предоставляет API. Модель может работать на удалённом VPS, пока разработчики трудятся на своих компьютерах.
В этой схеме Continue подключается к локальному адресу на компьютере разработчика. SSH перенаправляет это соединение на локальный порт Ollama сервера. Код и запросы передаются через зашифрованную SSH-сессию вместо публичной конечной точки Ollama.
VPS по-прежнему остаётся удалённой системой. Его администратор управляет сервером, но хостинг-провайдер обслуживает базовую инфраструктуру. Ознакомьтесь с политиками вашей организации перед отправкой конфиденциальных материалов в любую хостинговую среду.
Ollama также предоставляет OpenAI-совместимую конечную точку по адресу /v1/chat/completions, поэтому такие клиенты, как Continue, переключаются на ваш собственный экземпляр путём изменения базового URL. Ваш сервис хостинга Ollama поддерживает развёртывание с официальным Docker-образом Ollama.
Почему разработчики выбирают приватный сервер моделей
Собственный сервер даёт команде контроль над выбором моделей, правилами доступа и процессом развёртывания. Кроме того, администраторы получают единое место для управления обновлениями моделей и анализа производительности.
Конфиденциальность важна, поскольку ассистенты для программирования обрабатывают не только изолированные вопросы. Запрос может содержать исходные файлы, соседний код, сообщения об ошибках и инструкции разработчика. Считайте такие данные чувствительными, если этого требует сам проект.
В опросе Stack Overflow среди разработчиков 2026 года, проводившемся с 23 июня по 5 августа 2026 года, 66% респондентов использовали ИИ-ассистенты или ИИ-агентов для программирования. Среди этих пользователей 73% обращались к ним ежедневно. В опросе Stack Overflow 2025 года 81% респондентов согласились, что у них есть опасения по поводу безопасности и конфиденциальности данных при работе с ИИ-агентами.
Самостоятельный хостинг снижает зависимость от публичного API модели для инференса. Но он не отключает автоматически все расширения, настройки телеметрии, интеграции с репозиториями или внешние сетевые подключения. Проверьте каждый компонент и примените правила обработки данных вашей организации.
Создайте свою приватную среду для моделей
Ознакомьтесь с хостингом Ollama VPS — сервером, который можно настроить под ваш рабочий процесс.
Изучить хостинг Ollama
Выберите сервер и модель
Начинайте с модели и рабочей нагрузки, а не с типового размера сервера. Более крупная модель требует больше памяти и дискового пространства. Одновременная работа нескольких разработчиков, длинные запросы и требования к быстрому отклику также повышают потребление ресурсов.
| Размер модели | Рекомендуемое оборудование |
| 7B параметров или меньше | VPS только с CPU и 4–8 ГБ оперативной памяти, например VPS Edge или VPS Peak |
| От 13B до 70B параметров | VPS с GPU для более быстрых ответов |
| Небольшие квантованные модели | Всего от 2 ГБ оперативной памяти для тестирования |
Выберите модель для программирования, которая поддерживает нужный вам язык и рабочий процесс. Небольшая модель — полезная отправная точка для проверки подключения. Оцените её предложения на собственных репозиториях, прежде чем делать её командным стандартом.
Инференс на CPU подходит для первоначальных тестов, но время отклика зависит от модели и доступного оборудования. Если вам нужен GPU, выберите тариф с его поддержкой и настройте контейнер соответствующим образом.
Основным ограничением для сервера моделей является память, поэтому начинать следует с объёма ОЗУ. Все представленные ниже тарифы VPS предусматривают полный root-доступ, что позволяет устанавливать контейнеры Docker и подключать тома для моделей.
| Тариф | ОЗУ | vCPU | Диск | Трафик | Цена в месяц |
| VPS Edge | 4 ГБ | 1 vCPU | 30 ГБ | 250 ГБ | $4.95 |
| VPS Peak | 8 ГБ | 2 vCPU | 50 ГБ | 450 ГБ | $6.95 |
| VPS Power | 16 ГБ | 3 vCPU | 70 ГБ | 650 ГБ | $9.95 |
| VPS Supreme | 32 ГБ | 4 vCPU | 100 ГБ | 1,000 ГБ | $19.95 |
Тарифы VPS Edge, VPS Peak, VPS Power и VPS Supreme доступны в Денвере, Нью-Йорке и Хайдарабаде. В локациях Великобритании, Германии и Сингапура используются глобальные тарифы VPS Earth +, VPS Saturn +, VPS Sun + и VPS Galaxy +. Для модели программирования на 1.5B параметров подойдёт VPS Edge, а более крупные тарифы обеспечивают запас для больших моделей и увеличения числа разработчиков.
Глобальная сеть дата-центров AccuWeb Hosting насчитывает более 16 площадок, включая США, Великобританию, Германию, Индию и Сингапур. Выбирайте локацию, наиболее близкую к вашей команде.
Подготовка сервера и рабочей станции
В данном примере используется VPS с установленным Docker и настроенным доступом по SSH. На рабочей станции разработчика установите VS Code и расширение Continue. Также потребуется разрешение на загрузку выбранной модели.
Для каждого разработчика используйте отдельную учётную запись SSH и отдельный ключ. Защищайте закрытые ключи парольными фразами и применяйте стандартные процедуры выдачи и отзыва учётных записей, принятые в вашей организации. Ограничьте доступ по SSH с помощью правил межсетевого экрана и политик аутентификации.
В примере используются адрес сервера YOUR_SERVER и учётная запись YOUR_USER. Замените оба значения на собственные. Команды предполагают наличие оболочки с доступом к Docker на сервере и SSH-клиента на рабочей станции.
Регулярно обновляйте системные пакеты и Docker. Определите, где будут храниться постоянные данные моделей, кто получит права администратора сервера и как команда восстановит конфигурацию после сбоя. В рамках этого плана изучите варианты резервного копирования VPS или рассмотрите другие тарифы хостинга Linux VPS, если на том же сервере планируется запускать дополнительные сервисы.
Настройка Ollama и Continue
Приведённые шаги открывают порт контейнера только на loopback-интерфейсе сервера. Затем SSH-туннель делает этот приватный порт доступным для Continue на рабочей станции.
- Подключитесь к VPS. Откройте SSH-сессию командой
ssh YOUR_USER@YOUR_SERVER. - Запустите Ollama. Выполните Docker-команду ниже на сервере.
- Загрузите модель для программирования. Выполните
docker exec ollama ollama pull qwen2.5-coder:1.5bна сервере. - Проверьте работу сервера локально. Выполните
curl http://127.0.0.1:11434/api/tagsна сервере и убедитесь, что модель отображается в списке. - Откройте туннель. Запустите команду SSH-проброса ниже на рабочей станции и оставьте её работать.
- Настройте Continue. Добавьте конфигурацию модели, показанную ниже, в локальную конфигурацию Continue.
- Проверьте в VS Code. Задайте вопрос в чате Continue и проверьте встроенное автодополнение в тестовом файле.
Выполните эту команду на сервере. Именованный том хранит файлы моделей вне записываемого слоя контейнера.
docker run -d --name ollama --restart unless-stopped -p 127.0.0.1:11434:11434 -e OLLAMA_HOST=0.0.0.0:11434 -e OLLAMA_NO_CLOUD=1 -v ollama-data:/root/.ollama ollama/ollama Ollama прослушивает интерфейс контейнера, чтобы Docker мог к нему обращаться. Docker публикует этот порт только на loopback-интерфейсе сервера. Параметр OLLAMA_NO_CLOUD=1 отключает облачные модели Ollama и веб-поиск. Он не управляет другим программным обеспечением.
Выполните эту команду на своей рабочей станции, а не внутри сеанса VPS:
ssh -N -L 11434:127.0.0.1:11434 YOUR_USER@YOUR_SERVER Терминал должен оставаться открытым на протяжении всей работы с Continue. На рабочей станции проверьте туннель с помощью команды curl http://127.0.0.1:11434/api/tags. В ответе должен присутствовать загруженный модель.
Развертывание сервера моделей
Воспользуйтесь хостингом Ollama VPS от AccuWeb Hosting, чтобы создать среду на базе Docker для ваших разработчиков.
Посмотреть хостинг Ollama
Настройка Continue для удаленного сервера
Локальный файл конфигурации Continue расположен по пути ~/.continue/config.yaml в macOS и Linux. В Windows он находится по адресу %USERPROFILE%.continueconfig.yaml. Откройте соответствующий файл и добавьте запись модели.
В приведенном ниже примере одна и та же модель назначается для чата и автодополнения. Если в вашем файле уже присутствуют строки name, version и schema, а также список models, просто добавьте запись модели в этот список, не создавая дублирующий ключ.
name: Private Ollama version: 1.0.0 schema: v1 models: - name: Private Ollama Coder provider: ollama model: qwen2.5-coder:1.5b apiBase: http://127.0.0.1:11434 roles: - chat - autocomplete Идентификатор модели должен соответствовать модели, установленной на сервере. Параметр apiBase указывает на локальный конец SSH-туннеля, а не на публичный адрес VPS напрямую. Небольшая модель подходит для автодополнения, а более крупная модель для кода — для чата, если позволяет оборудование.
Перезагрузите VS Code или выберите обновлённую конфигурацию в Continue, если изменения не отображаются сразу. Выберите настроенную модель для чата и убедитесь, что автодополнение использует нужную роль модели.
Если другой программе уже занят порт на рабочей станции, выберите другой локальный порт. Например, перенаправьте 11435 локально на 11434 на сервере, затем обновите apiBase соответствующим образом.
Настройте сервер вашего помощника по кодированию
Начните с Ollama VPS, на котором готовы Docker и доступ с правами root.
Начать
Защитите подключение к Ollama
Локальный API Ollama не требует аутентификации. Никогда не полагайтесь на то, что публичный IP-адрес и неочевидный порт обеспечивают защиту. Широкое открытие API может предоставить доступ к инференсу и данным, которые ему передаются.
Подход с туннелем исключает публично доступный порт Ollama. Держите межсетевой экран сервера ограничительным, проверяйте учётные записи SSH и оперативно отзывайте доступ, когда разработчик покидает команду. Ограничьте административный доступ доверенными операторами.
Для более крупного развёртывания частная сеть или аутентифицированный обратный прокси могут заменить отдельные туннели. Настройте шифрование, аутентификацию, авторизацию и журналирование осознанно, а также используйте HTTPS с сертификатом из SSL-сертификатов там, где прокси обращён к пользователям. Проверьте эти механизмы перед подключением реальных данных проекта.
Просматривайте журналы и диагностические инструменты на предмет конфиденциального содержимого. Избегайте записи полных запросов или сгенерированного кода, если этого не требует ваша политика. Установите правила хранения и контролируйте доступ к любым операционным записям.
Сохраняйте контроль над развёртыванием
Настройте управление доступом на базе Ollama VPS с root-доступом.
Изучите варианты
Проверьте конфиденциальность и доступ
Перед использованием рабочего кода проверьте весь путь запроса. Приватный сервер инференса сам по себе не гарантирует, что каждое расширение VS Code или интеграция остаются локальными. Составьте перечень инструментов, имеющих доступ к рабочему пространству, и изучите их сетевое поведение.
- Для первичной проверки используйте тестовый репозиторий без конфиденциальных материалов.
- Убедитесь, что порт Ollama недоступен из публичного интернета.
- Проверьте, что Continue указывает на адрес локального туннеля.
- Просмотрите настройки телеметрии Continue, VS Code и расширений.
- Ограничьте доступ к серверу одобренными учётными записями разработчиков.
- Задокументируйте загрузки моделей и любой внешний сетевой доступ.
- Установите правила логирования запросов и доступа к журналам.
- Проверьте удаление учётных записей и отзыв SSH-ключей.
Зафиксируйте, какую модель и конфигурацию использует каждая команда. Повторяйте проверки после смены модели, сетевой топологии, конфигурации расширений или способа развёртывания.
Эксплуатация общего командного сервера
Общий сервер моделей Ollama упрощает управление моделями, но создаёт общую нагрузку. Назначьте ответственного за обновления, запросы доступа, оценку производительности и реагирование на инциденты.
Задайте базовые показатели на репрезентативных задачах. Измеряйте время отклика для чата и встроенного автодополнения отдельно, затем протестируйте одновременные запросы. Модель, которая кажется отзывчивой одному разработчику, может вести себя иначе в часы активной командной работы.
Используйте промежуточную среду для тестирования обновлений моделей и контейнеров. Ведите запись предыдущей конфигурации и версии модели, чтобы команда могла откатить проблемное изменение. Создавайте резервные копии конфигурационных файлов и других данных, необходимых для плана восстановления.
AccuWeb Hosting предлагает поддержку 24/7/365 со временем первого ответа на тикет менее 11 минут. Вашей команде также следует задокументировать собственные обязанности по настройке моделей, SSH-доступу и устранению неполадок на уровне приложений.
Поддержите рабочий процесс разработчика
Рассмотрите хостинг Ollama для централизованной среды моделей.
Посмотреть хостинг Ollama
Устранение типичных проблем с подключением
API не отвечает
Проверьте на сервере команды docker ps и docker logs ollama. Прежде чем тестировать туннель с рабочей станции, проверьте loopback-API сервера. Это поможет отделить проблемы контейнера от проблем SSH.
Туннель не может занять локальный порт
Порт может быть занят другим локальным экземпляром Ollama или иным приложением. Остановите это приложение или выберите другой порт на рабочей станции. Обновите apiBase в Continue, чтобы использовать тот же локальный порт.
Continue не находит модель
Выполните на сервере docker exec ollama ollama list. Сравните идентификатор модели с конфигурацией, включая её тег. Затем убедитесь, что ответ API проходит через туннель.
Подсказки работают медленно или отсутствуют
Проверьте использование ресурсов сервера и протестируйте с более компактной моделью для кодирования. Убедитесь, что модель имеет роль autocomplete и что автодополнение включено в Continue. Отдельно протестируйте чат, чтобы сузить круг проблемы.
При ежедневном использовании надёжность имеет ключевое значение. В своём опросе разработчиков 2026 года Stack Overflow сообщил, что 73% респондентов, использовавших помощников или агентов для кодирования, применяли их ежедневно.
Часто задаваемые вопросы
Может ли Continue подключаться к удалённому серверу Ollama?
Да. Настройте провайдер Ollama в Continue, указав идентификатор модели и apiBase. SSH-туннель позволяет этому адресу оставаться локальным для рабочей станции, перенаправляя запросы на удалённый сервер.
Отправляет ли эта конфигурация код в публичный AI API?
Запросы, отправленные через показанную здесь конфигурацию, поступают на ваш сервер Ollama. Другие расширения, интеграции и настройки могут использовать внешние сервисы, поэтому проверяйте их отдельно.
Сколько стоит VPS для Ollama?
Тарифы VPS для Ollama начинаются от $4.95 в месяц с VPS Edge, который имеет 4 ГБ оперативной памяти и 1 vCPU. VPS Peak стоит $6.95, VPS Power — $9.95, а VPS Supreme — $19.95.
Требует ли Ollama API-ключ?
Локальный API Ollama не требует аутентификации. Защищайте доступ с помощью приватного подключения и соответствующих средств контроля учётных записей, а не путём прямого раскрытия API.
Можно ли использовать Continue для встроенного автодополнения кода?
Да. Добавьте роль autocomplete подходящей записи модели и включите соответствующую функцию Continue в VS Code.
Могут ли разные разработчики использовать один сервер?
Да. Предоставьте каждому разработчику отдельное авторизованное подключение и контролируйте нагрузку. Последовательно применяйте политики доступа, журналирования и обработки данных, принятые в вашей команде.
Нужна ли видеокарта для работы Ollama?
Нет. VPS только с процессором и 4–8 ГБ оперативной памяти справляется с моделями до 7B параметров. Модели от 13B до 70B параметров отвечают быстрее на тарифе с ускорением на GPU.
Где Continue хранит свою конфигурацию?
Используется файл ~/.continue/config.yaml в macOS и Linux, а в Windows — %USERPROFILE%.continueconfig.yaml.
Как сохранить файлы моделей при пересоздании контейнера?
Задействуйте постоянный том Docker для каталога моделей Ollama, как показано в команде установки. Включайте эти данные в план восстановления, где это уместно.
Как отключить облачные функции Ollama?
Задайте OLLAMA_NO_CLOUD=1 в окружении Ollama, затем перезапустите Ollama. Это отключает облачные модели и веб-поиск Ollama. На поведение других приложений и интеграций это не влияет.
Спланируйте своего приватного помощника для программирования
Самостоятельно размещённый Ollama для Continue Code Assistant даёт вашим разработчикам практичный способ использовать сервер моделей, который они контролируют, прямо из VS Code. Начните с приватного SSH-туннеля, протестируйте модель для программирования и проверьте каждый этап пути данных.
При развёртывании для команды документируйте доступ, измеряйте производительность и регулярно проверяйте настройки расширения.
Начните развёртывание Ollama
Изучите хостинг Ollama VPS от AccuWeb Hosting от $4.95 в месяц для рабочего процесса с приватным помощником для программирования.
Посмотреть хостинг Ollama
Комментарии
Категории
Случайное

Kinsta или Bluehost: какой хостинг

Как развернуть Ollama на VPS: пошаговое

Как остановить DDoS-атаку: эффективные

Создаем успешную маркетинговую кампанию
