Продажа вычислительных мощностей

Как это работает

1 Запускаете модель

Ollama, LM Studio, llama.cpp, vLLM — что вам привычнее. Модель качается одной командой.

2 Ставите ant-node

Одна программа без зависимостей. Сама находит запущенные движки и модели, даёт единый API и панель.

3 Указываете адрес на бирже

Вставляете адрес и ключ, выбираете что продаёте и по какой цене. Всё.

4 Получаете деньги

Покупатель платит сразу; ваша доля удерживается в расчёте до конца оплаченного периода и начисляется пропорционально фактической доступности вашего сервиса. За время недоступности доля возвращается покупателю.

Сколько можно заработать

Честно: это не обещание дохода, а иллюстрация арифметики. Вы сами ставите цену — ниже показано, что получается при типичных тарифах биржи и разной загрузке.

Ваше железо	Что тянет	Тариф-пример	При 30 % загрузки	При 70 % загрузке
RTX 3060 12 ГБ б/у ~25 000 ₽	7–9B в 4-бит Qwen3 8B, Llama 3.1 8B	1 500 ₽/мес безлимит или 8 ₽ / 1M токенов	~4 500 ₽/мес	~10 000 ₽/мес
RTX 4060 Ti 16 ГБ ~45 000 ₽	12–14B в 4-бит Qwen3 14B, Mistral Small	2 500 ₽/мес безлимит	~7 500 ₽/мес	~17 000 ₽/мес
RTX 3090 24 ГБ б/у ~60 000 ₽	27–32B в 4-бит Qwen3 32B, Gemma 3 27B	5 000 ₽/мес безлимит	~15 000 ₽/мес	~35 000 ₽/мес
2× RTX 3090 48 ГБ ~130 000 ₽	70B в 4-бит Llama 3.3 70B	12 000 ₽/мес безлимит	~36 000 ₽/мес	~84 000 ₽/мес

Что влияет на доход: цена, которую вы поставили × сколько покупателей × ваш аптайм. Биржа постоянно измеряет доступность и скорость вашего узла и показывает их в карточке — стабильный сервер продаётся лучше дешёвого. За время недоступности деньги покупателю не идут вам, а продлевают ему срок.

Про электричество. Считайте его сразу: RTX 3090 под нагрузкой — это ~350 Вт, круглосуточно ≈ 250 кВт·ч в месяц. По 6 ₽/кВт·ч это ~1 500 ₽. Прибыль — это доход минус электричество и амортизация карты.

Что нужно для старта

Минимум · попробовать

Без видеокарты

CPU: 6+ ядер
RAM: 16 ГБ
Диск: SSD 50 ГБ
Модели: до 8B в 4-бит

Работать будет, но медленно — 5–15 токенов/с. Годится, чтобы пройти весь путь и понять механику. Продавать всерьёз на этом не стоит.

Одна видеокарта

GPU: RTX 3060 12 ГБ / 4060 Ti 16 ГБ
CPU: 8 ядер (Ryzen 5, i5)
RAM: 32 ГБ
Диск: NVMe 500 ГБ
Сеть: от 50 Мбит, желательно прямой IP

Главное — объём видеопамяти, а не скорость чипа. Модель должна целиком помещаться в VRAM, иначе скорость падает в разы.

Серьёзно

Ферма

GPU: 2–4× RTX 3090/4090 24 ГБ
CPU: 16 ядер
RAM: 64–128 ГБ
Диск: NVMe 2 ТБ
Питание: БП с запасом 30 %

Держит 70B-модели и несколько параллельных покупателей. Здесь уже нужен vLLM вместо Ollama — он лучше держит одновременные запросы.

Правило VRAM: модель в 4-битном кванте занимает примерно размер в миллиардах параметров ÷ 2 гигабайт видеопамяти, плюс 2–4 ГБ на контекст. То есть 8B ≈ 6 ГБ, 14B ≈ 9 ГБ, 32B ≈ 20 ГБ, 70B ≈ 40 ГБ.

Какие модели ставить

Всё это открытые модели — качаются бесплатно и легально. Команда для Ollama, требования к видеопамяти и на что годится.

Модель	VRAM (4-бит)	Команда	Для чего
Qwen3 8B карточка	~6 ГБ	`ollama pull qwen3:8b`	Универсальный чат, хорошо знает русский. Лучший старт.
Llama 3.1 8B карточка	~6 ГБ	`ollama pull llama3.1:8b`	Чат общего назначения, много готовых интеграций.
Qwen2.5-Coder 7B карточка	~6 ГБ	`ollama pull qwen2.5-coder:7b`	Код. Спрос стабильный, покупатели ценят.
Mistral Small 24B карточка	~14 ГБ	`ollama pull mistral-small`	Сильнее 8B, влезает в 16 ГБ. Хорошее соотношение цена/качество.
Gemma 3 27B карточка	~17 ГБ	`ollama pull gemma3:27b`	Умная и аккуратная, понимает картинки.
Qwen3 32B карточка	~20 ГБ	`ollama pull qwen3:32b`	Топ для одной 3090/4090. Рассуждает, пишет код.
Llama 3.3 70B карточка	~40 ГБ	`ollama pull llama3.3:70b`	Нужны 2 карты. Самый дорогой тариф из доступных.
nomic-embed-text карточка	~1 ГБ	`ollama pull nomic-embed-text`	Эмбеддинги. Дёшево держать, ровный спрос, почти не грузит карту.

Ещё модели: библиотека Ollama, Hugging Face. Проверьте лицензию модели — за соблюдение её условий отвечает продавец.

Софт: ant-node

Одна программа. Сама сканирует сервер, находит запущенные движки и модели, даёт единый OpenAI-совместимый API и панель со статистикой. Зависимостей нет — нужен только Python 3.8+.

Установка одной командой

🐧 Linux / macOS

curl -fsSL https://ant.arambolsu-ai.ru/downloads/install.sh | bash

Проверит Python и видеокарту, предложит поставить Ollama и скачать модель, настроит автозапуск через systemd, откроет порт в ufw и запустит пошаговую настройку.

Установка одной командой

🪟 Windows

irm https://ant.arambolsu-ai.ru/downloads/install.ps1 | iex

В PowerShell. Проверит Python и видеокарту, поставит Ollama через winget, добавит правило брандмауэра и автозапуск при входе, затем запустит пошаговую настройку.

Или вручную, если так спокойнее

🐧 Linux

curl -fsSL https://ollama.com/install.sh | sh
ollama pull qwen3:8b

curl -fsSLO https://ant.arambolsu-ai.ru/downloads/ant_node.py
python3 ant_node.py --setup

🪟 Windows

# Ollama: ollama.com/download
# Python: python.org (галочка "Add to PATH")
ollama pull qwen3:8b

curl.exe -fsSLO https://ant.arambolsu-ai.ru/downloads/ant_node.py
py ant_node.py --setup

Контрольные суммы SHA-256 (проверка до запуска)

ant_node.py
89c92a4973ff957048962e1ee5cc5e04d62e603e1112862edeb50455efc4f235

install.sh
c035ab8b34ab212e84dd5ec12bf2c8226aee7b62ad0c9789d80d9dada65b554a

install.ps1
0f53ad3158883adaa3b08e73f458e990544d178244c426b7058b893f50803ad3

ant_compute_node.py
9a8a7580e2099a1d017e1a3fe7fe601adc0070dab486ce03622732e32aea0f2e

ant_compute_coordinator.py
bf1f958fced1735a88106428495af49f74fb9a73e361ad121384c59b28cf0d38

install-compute.sh
e53ba26825cf2936285f75438d34ed31ff947524e5acff7d3470c7876a671f34

install-compute.ps1
fc09b2b5fb81584cf99f1ad001336d8ce1607f8b33ea34af859d57ca6128d845

Пошаговая настройка

Ключ --setup запускает мастер: он показывает ваше железо, подсказывает что именно ставить и какие модели влезут в вашу видеопамять, находит все адреса сервера и сам определяет, видны ли вы из интернета или сидите за NAT (тогда посоветует туннель), проверяет порт и в конце выдаёт готовые адрес и ключ для биржи.

  ШАГ 1 из 5. Ваше железо
     Видеокарта:  NVIDIA GeForce RTX 3090 — 24.0 ГБ
     Бюджет видеопамяти под модель: ~24.0 ГБ

  ШАГ 3 из 5. Какие модели потянет ваше железо
     Влезают (команда для Ollama):
       ollama pull qwen3:32b            ~20 ГБ — топ для одной 24 ГБ карты
       ollama pull gemma3:27b           ~17 ГБ — умная, понимает картинки
     Не влезут — нужна карта побольше:
       llama3.3:70b             нужно ~40 ГБ

  ШАГ 4 из 5. Адреса вашего сервера
     🌍 203.0.113.17    [eth0]     — виден из интернета
     🏠 192.168.1.50    [eth0]     — локальная сеть
     🔒 127.0.0.1                  — только этот компьютер
     ✅ Прямой IP: 203.0.113.17 — адрес для биржи http://203.0.113.17:8770/v1

Отдельно посмотреть все адреса: python3 ant_node.py --ips

Что вы увидите в консоли

🐜 ant-node 1.0.0 — узел биржи ant

   Железо: Linux 6.8.0, 16 ядер, 64.0 ГБ RAM
   Видеокарты: NVIDIA GeForce RTX 3090 (24.0 ГБ)

   Ищу движки моделей на сервере…
     ✓ Ollama на http://127.0.0.1:11434 — моделей: 3
         · qwen3:8b
         · qwen2.5-coder:7b
         · nomic-embed-text:latest

   ✅ Готово. Откройте панель в браузере:
        http://127.0.0.1:8770
        http://192.168.1.50:8770   (из локальной сети)
        http://203.0.113.17:8770   (из интернета, если порт открыт)

   Адрес для биржи ant:  http://203.0.113.17:8770/v1
   Ключ доступа:         antnode_9f2c…

Откройте показанный адрес в браузере — там панель: найденные модели с переключателем «продаётся / выключена», статистика запросов и токенов, аптайм и параметры железа. Адрес с внешним IP — это то, что вы указываете на бирже, если у сервера прямой IP. Если прямого IP нет — смотрите ниже.

Автозапуск на Linux (systemd)

sudo tee /etc/systemd/system/ant-node.service >/dev/null <<'EOF'
[Unit]
Description=ant-node
After=network-online.target

[Service]
User=%i
ExecStart=/usr/bin/python3 /opt/ant-node/ant_node.py --port 8770
Restart=on-failure

[Install]
WantedBy=multi-user.target
EOF
sudo systemctl enable --now ant-node

Автозапуск на Windows

schtasks /create /tn "ant-node" /sc onstart /ru SYSTEM ^
  /tr "py C:\ant-node\ant_node.py --port 8770"

Если прямого IP нет

Вариантов три, по возрастанию сложности: проброс порта на роутере (если IP «серый» — не сработает), туннель (Cloudflare Tunnel или ngrok — дают публичный адрес без белого IP), либо VPS за 200 ₽/мес как точка входа. Туннель — самый быстрый путь: получаете адрес вида https://ваш-узел.trycloudflare.com и указываете его на бирже.

Требования к API

Если ставите ant-node — всё это он берёт на себя, читать не нужно. Раздел для тех, кто хочет подключить свой сервер напрямую.

Что должен уметь ваш адрес

Биржа работает с двумя стандартами на выбор. Достаточно одного.

Стандарт	Список моделей	Запрос	Авторизация
OpenAI-совместимый	`GET {base}/models`	`POST {base}/chat/completions`	`Authorization: Bearer КЛЮЧ`
Anthropic-совместимый	`GET {base}/v1/models`	`POST {base}/v1/messages`	`x-api-key: КЛЮЧ`

Ключ можно не задавать — тогда доступ открыт всем, кто знает адрес. Мы это разрешаем, но не советуем.

Проверьте себя одной командой

curl https://ваш-адрес/v1/chat/completions \
  -H "Authorization: Bearer ВАШ_КЛЮЧ" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen3:8b","messages":[{"role":"user","content":"привет"}]}'

Если пришёл ответ с полем choices[0].message.content — биржа с вашим сервером работать сможет.

Что мы делаем с вашим сервером

Проверяем доступность — регулярные лёгкие запросы списка моделей (интервал настраивается платформой, сейчас — порядка 5 минут). Это бесплатно для вас и записано в соглашении.
Меряем скорость — время ответа показывается покупателям в карточке.
Считаем токены — берём из поля usage вашего ответа. Если его нет, оцениваем сами по длине текста.
Соблюдаем ваши лимиты — вы задаёте, сколько запросов в минуту/час/день пропускать, и биржа не пустит больше.

Частые вопросы

Модель уходит к вам на сервер?

Нет. Модель остаётся у вас, мы её не копируем и не имеем к ней доступа. Биржа только передаёт запрос покупателя на ваш адрес и возвращает ответ.

Когда и как приходят деньги?

Покупатель оплачивает доступ сразу при покупке. Ваша доля за вычетом комиссии платформы удерживается в расчёте до конца оплаченного периода: по его окончании она начисляется «к выплате» пропорционально времени, когда ваш сервис был доступен и отвечал на запросы. За время недоступности соответствующая доля возвращается покупателю — поэтому стабильность выгоднее низкой цены. Начисленное можно вывести по заявке.

Что если сервер выключится?

Мониторинг это заметит, запросы к вам перестанут идти, а покупателю продлится срок на время простоя. Если доступность за период упадёт ниже 80 %, покупатель вправе отказаться и вернуть остаток, а при расчёте по периоду недоступная доля не начисляется вам — поэтому стабильность выгоднее низкой цены.

Сколько продавцов на одну модель?

По открытым моделям ограничений нет — конкурируете ценой, скоростью и аптаймом. Перепродажа CLI-подписок сейчас выключена до приёмки изолированного исполнителя; если её включат в принятом релизе, ограничение составит 4 продавца на тип подписки.

Нужно ли ИП или самозанятость?

Налоги с дохода — ваша ответственность, это зафиксировано в соглашении. Для физлица обычно достаточно самозанятости (НПД).

А если у меня уже не Ollama, а что-то другое?

ant-node сам находит LM Studio, llama.cpp, vLLM, Jan, KoboldCpp, LocalAI и text-generation-webui. Если у вас свой OpenAI-совместимый сервер на нестандартном порту — запустите с ключом --extra-port 9000.

У вас есть сервер с видеокартой?
Пусть он зарабатывает.

Как это работает

Сколько можно заработать

Что нужно для старта

Без видеокарты

Одна видеокарта

Ферма

Какие модели ставить

Софт: ant-node

🐧 Linux / macOS

🪟 Windows

Или вручную, если так спокойнее

🐧 Linux

🪟 Windows

Пошаговая настройка

Что вы увидите в консоли

Автозапуск на Linux (systemd)

Автозапуск на Windows

Если прямого IP нет

Требования к API

Что должен уметь ваш адрес

Проверьте себя одной командой

Что мы делаем с вашим сервером

Частые вопросы

Свободная видеокарта — это простаивающий актив

У вас есть сервер с видеокартой?Пусть он зарабатывает.

Как это работает

Сколько можно заработать

Что нужно для старта

Без видеокарты

Одна видеокарта

Ферма

Какие модели ставить

Софт: ant-node

🐧 Linux / macOS

🪟 Windows

Или вручную, если так спокойнее

🐧 Linux

🪟 Windows

Пошаговая настройка

Что вы увидите в консоли

Автозапуск на Linux (systemd)

Автозапуск на Windows

Если прямого IP нет

Требования к API

Что должен уметь ваш адрес

Проверьте себя одной командой

Что мы делаем с вашим сервером

Частые вопросы

Свободная видеокарта — это простаивающий актив

У вас есть сервер с видеокартой?
Пусть он зарабатывает.