Облачный Ollama в 1 клик
Запускайте большие языковые модели — Llama, Qwen, DeepSeek, Mistral — на своём GPU-сервере. Чат в браузере через Open WebUI и OpenAI-совместимый API, без настройки и без оплаты за токены.
Мгновенный старт
Без установки Python, CUDA и драйверов. Нажмите «Запустить», подождите пару минут и общайтесь с моделью прямо в браузере.
Чат и API из коробки
Open WebUI — чат как у ChatGPT — и Ollama с OpenAI-совместимым API. Llama, Qwen, DeepSeek и Mistral ставятся в один клик.
Поминутная оплата
Платите за час GPU, а не за токены. Закончили работу — удалили сервер, и списания остановились.
Свой ИИ вместо чужого облака
Большие модели не помещаются в память обычного ПК, а облачные API берут плату за каждый токен и видят ваши данные. Свой GPU-сервер закрывает обе проблемы.
Сторонние ИИ-сервисы
- ✕ Оплата за каждый токен — счёт растёт вместе с нагрузкой
- ✕ Промпты и документы уходят стороннему провайдеру
- ✕ Лимиты, очереди и цензура ответов модели
- ✕ Нельзя поставить свою модель или дообучить
Приложение YouGPU
- ✓ Фиксированная плата за час GPU, без счёта за токены
- ✓ Данные остаются на вашем сервере, не уходят третьим лицам
- ✓ Любые open-source модели: Llama, Qwen, DeepSeek, Mistral
- ✓ Полный доступ: чат, API, инструменты и root по SSH
Чат в браузере или API в вашем коде
Один сервер — два сценария: знакомый чат для людей и привычный API для разработчиков.
Open WebUI — чат в браузере
Знакомый интерфейс как у ChatGPT: диалоги и история, выбор модели, загрузка документов для ответов по ним (RAG) и установка моделей в один клик. Для тех, кому нужен просто чат.
OpenAI-совместимый API
Подключите модель к своему коду и инструментам — формат тот же, что у OpenAI. Достаточно
указать адрес сервера как base_url.
from openai import OpenAI
client = OpenAI(
base_url="https://<ваш-сервер>/v1",
api_key="ollama",
)
r = client.chat.completions.create(
model="qwen2.5",
messages=[{"role": "user", "content": "Привет!"}],
)
print(r.choices[0].message.content)От сервера до первого ответа — 3 шага
1. Выберите GPU
От 16 ГБ видеопамяти для моделей 7–8B до 180 ГБ для 70B и больше. Подберите карту под размер модели и бюджет.
2. Запустите приложение Ollama
Выберите приложение Ollama при создании сервера — окружение развернётся и запустится само.
3. Общайтесь и подключайте
Откройте Open WebUI в браузере, скачайте модель в один клик и начинайте. Или подключите API к своему приложению.
Что внутри приложения
Ollama
Движок инференса на базе llama.cpp. Запускает open-source модели на GPU: Llama, Qwen, DeepSeek, Mistral, Gemma и сотни других.
Open WebUI
Веб-чат как у ChatGPT: диалоги, ответы по вашим документам (RAG), управление моделями и API-ключи на пользователя.
OpenAI-совместимый API
Эндпоинт в формате OpenAI. Переключите свои приложения с облачного API на свой сервер, не переписывая код.
Приватность и доступ
Данные остаются на вашем сервере и не уходят третьим лицам. Полный root-доступ по SSH, том /workspace переживает остановку.
Частые вопросы
Какие модели можно запускать?
Любые open-source модели из библиотеки Ollama: Llama, Qwen, DeepSeek, Mistral, Gemma и сотни других. Размер модели ограничен только объёмом видеопамяти выбранного GPU — от 16 до 180 ГБ.
Мои данные уходят третьим лицам?
Нет. В отличие от облачных ИИ-сервисов, модель работает на вашем арендованном сервере. Промпты, документы и история чатов не отправляются стороннему провайдеру и остаются на вашем инстансе.
Можно ли обращаться к модели из своего кода?
Да. Ollama предоставляет OpenAI-совместимый API — укажите адрес сервера как base_url, и ваши приложения (или OpenAI SDK, LangChain
и подобные) будут работать с моделью напрямую.
Сохранятся ли модели и история после остановки?
Да. Скачанные модели и диалоги хранятся на томе /workspace и переживают остановку и запуск сервера. Они удаляются только при полном уничтожении сервера.
Готовы запустить свой ИИ?
Возьмите RTX A4000 или V100 для моделей 7–8B и тестов, либо переходите на A100, H100 и B200 для 70B и тяжёлых нагрузок.