Карты RTX дают максимум скорости инференса на каждый доллар: 24 ГБ у 4090, 32 ГБ GDDR7 у 5090 и 48 ГБ у
01Тарифы и цены
Каждая карта выделена только вам. У каждого сервера — NVMe-хранилище и порт 1 Гбит/с с безлимитным трафиком.
| GPU | VRAM | Процессор | ОЗУ (RAM) | Диск | Локации | Цена | Заказ |
|---|---|---|---|---|---|---|---|
   |
16 ГБ | 64 ГБ | 1 ТБ NVMe | |
$61.99/мес.
Самый дешёвый конкурент |
Развернуть |
|
 |
24 ГБ | 64 ГБ | 1 ТБ NVMe | |
$84.99/мес.
Самый дешёвый конкурент |
Развернуть |
|
|
|
32 ГБ | 96 ГБ | 2 ТБ NVMe | |
$134.99/мес.
Самый дешёвый конкурент |
Развернуть |
|
|
|
48 ГБ | 128 ГБ | |
$306.99/мес.
Самый дешёвый конкурент |
Развернуть |
||
|
|
64 ГБ | 256 ГБ | |
$558.99/мес.
Самый дешёвый конкурент |
Развернуть |
В этой юрисдикции пока нет GPU-серверов: или сравнить их.
Нужны память HBM или NVLink? Смотрите A100, L40S и H100.
02Выбор
4090 — выгодный выбор. У 5090 на 8 ГБ больше памяти и примерно на 78% выше пропускная способность памяти, что заметно по числу токенов в секунду.
24 ГБ GDDR6X
32 ГБ GDDR7
03Подбор
Объём памяти, который нужен плотной модели с контекстом 8K токенов и запасом 10%. Для более длинного контекста памяти нужно больше.
| Размер модели | 4 бит | 8 бит | 16 бит |
|---|---|---|---|
| 7–8B | ~7 ГБ | ~11 ГБ | ~19 ГБ |
| 13–14B | ~11 ГБ | ~18 ГБ | ~32 ГБ |
| 32B | ~24 ГБ | ~40 ГБ | ~73 ГБ A100 или H100 |
| 70B | ~50 ГБ A100, H100 или | ~85 ГБ | ~157 ГБ |
Модели 70B в 4-битной точности нужно около 50 ГБ:
04Сценарии использования
Потребительские карты и карты для рабочих станций лучше всего проявляют себя, когда модель помещается в 24–64 ГБ видеопамяти.
Модели от 8B до 32B с интерфейсом Open WebUI — для вас или вашей команды.
Рабочие процессы Stable Diffusion и Flux в ComfyUI.
Видеомодели и рендеринг в Blender Cycles на карте, которую вы ни с кем не делите.
Модели для кода на собственном сервере, которые отвечают с опорой на ваши репозитории.
05Юрисдикции
У каждой карты свой список юрисдикций; где именно — показано в тарифах выше.
МолдоваКишинёвОптимальный выбор
Вне ЕС НидерландыАмстердамСетевой хаб
Член ЕС ИсландияРейкьявикОплот свободы слова
ЕЭЗ РумынияБухарестБюджетный вариант в ЕС
Член ЕС Значения задержки — оценка по расстоянию, а не результаты измерений. Цены во всех юрисдикциях одинаковы. Как мы оцениваем задержку
06Офшор — чёрным по белому
Всё, что мы обещаем, закреплено в наших политиках, а не только в рекламе.
Американские уведомления DMCAНе исполняются
Мы отвечаем на них со ссылкой на нашу политику, но никогда их не исполняем. Потребовать действий может только решение местного суда или, в локациях в ЕС, действительное уведомление по праву ЕС.
Политика по DMCAЛичные данныеТолько email
Ни имени, ни адреса, ни телефона, ни документов — никогда. Подойдёт приватный или одноразовый email.
Политика конфиденциальностиОплата5 криптовалют
Bitcoin, Ethereum, Monero, USDT и Solana: оплата в блокчейне с любого кошелька на ваш баланс. Без карточного эквайринга и без чарджбэков.
Оплата криптовалютойПрозрачностьПодписанная «канарейка»
Ежеквартальная «канарейка» (warrant canary) с PGP-подписью и публичный подсчёт всех полученных запросов.
«Канарейка» (warrant canary)07Вопросы и ответы
Остались вопросы? В полном разделе вопросов и ответов — всё, о чём спрашивают перед заказом: оплата, конфиденциальность, жалобы и поддержка.
Все вопросы и ответыДля инференса моделей, которые помещаются в 24–48 ГБ, карты RTX дают больше токенов на доллар. GPU для дата-центров оправданы, когда нужны 80 ГБ на одной карте, пропускная способность HBM для обучения или NVLink между GPU.
Да. vLLM и llama.cpp распределяют модель между обеими картами (тензорный параллелизм или параллелизм по слоям), и вы получаете 64 ГБ для модели 70B в 4-битной точности. Карты обмениваются данными через PCIe, а не через NVLink, поэтому для инференса масштабирование хорошее, а для обучения — более ограниченное.
Да, если вам нужны 48 ГБ памяти с ECC на одной карте: на ней работают модели 32B в 8-битной точности и модели 14B в полной точности без разделения между GPU. Модели 70B в 4-битной точности нужно около 50 ГБ, так что рассчитывайте на две карты или 80 ГБ. Для моделей поменьше
Да, в образе
После выдачи возврат средств за GPU-серверы невозможен, поскольку оборудование резервируется специально для вас. Перед заказом ознакомьтесь с характеристиками и руководством по образам для GPU.
