GPU-серверы с почасовой оплатой
Серверы с видеокартами NVIDIA за криптовалюту и без проверки личности. Размеры показаны вживую и открываются для заказа, когда у провайдера появляется ёмкость.
Коротко
В Neckrez перечислены GPU-серверы на NVIDIA L40S с 48, 96 и 192 ГБ видеопамяти. Оплата почасовая, с криптобаланса, без проверки личности. Размеры в таблице ниже берутся прямо из живого каталога, вместе с отметкой, можно ли заказать каждый из них сейчас. Сейчас провайдер не выделяет GPU-ёмкость нашему аккаунту, поэтому эти размеры пока нельзя заказать. Они откроются для заказа сами, когда ёмкость вернётся, а статус всегда можно посмотреть на этой странице или на странице Deploy.
Всё остальное работает как на всей платформе: регистрация по email, пополнение криптой, выбор размера, оплата только за часы, пока сервер существует.
Кому нужен GPU-сервер
Видеокарту стоит арендовать, когда работа большая и параллельная: матричные вычисления для машинного обучения, кодирование видео, 3D-рендеринг, научные расчёты. Для сайта, бота, VPN или базы данных она только добавляет стоимость, и честный ответ там обычный VPS.
- Запуск модели. Инференс языковых, графических и речевых моделей, где видеопамять решает, поместится ли модель вообще.
- Дообучение и эксперименты. Короткие запуски, где держать карту месяц нет смысла, а арендовать на вечер есть.
- Рендеринг и перекодирование. Пакетные задачи, которые заканчиваются и освобождают машину.
- Разработка под CUDA. Проверка кода на настоящем железе, прежде чем что-то покупать.
Что в списке
В списке карты NVIDIA L40S, дата-центровая видеокарта с 48 ГБ видеопамяти. Размеры на 96 и 192 ГБ — то же семейство, с большим объёмом видеопамяти, а также с большим числом vCPU, оперативной памяти и NVMe-диска; точные цифры в таблице. Цены — живые цены из каталога в долларах США, они меняются вместе с каталогом.
Наличие, без прикрас
Видеокарта появляется в прайс-листе провайдера задолго до того, как появляется на его складе. Vultr публикует эти размеры для своих локаций, но выделяет физические карты по регионам и по аккаунтам, и сегодня нам не выделено ни одной. Таблица показывает именно это: размер, цену и понятную отметку, что заказать его нельзя.
Мы не принимаем оплату за размер, который нельзя создать. Страница Deploy отклоняет размер с отметкой «недоступно», а когда провайдер выделит ёмкость, отметка исчезнет без каких-либо действий с вашей стороны.
Как выбрать размер: сначала видеопамять
Для машинного обучения первый вопрос — помещается ли модель в видеопамять. Грубо говоря, веса занимают около двух байт на параметр в 16-битной точности и около полубайта на параметр при 4-битном квантовании, плюс место под кэш контекста и активации. Модель на 7 миллиардов параметров поэтому требует около 14 ГБ в 16 битах и примерно 4 ГБ в квантованном виде, модель на 13 миллиардов — около 26 ГБ в 16 битах, а модель на 70 миллиардов помещается в 48 ГБ только при сильном квантовании и спокойно идёт на больших размерах.
Практическое правило: берите наименьший размер, у которого после весов остаётся примерно пятая часть видеопамяти свободной, и потом проверьте оперативную память и диск под данные. Объём памяти важнее частоты.
Оплата
GPU-серверы тарифицируются по часам с того же предоплаченного криптобаланса, что и все остальные серверы, без резервирования и минимального срока. Удалите сервер, и списания прекращаются. Поскольку цена часа у GPU выше, чем у небольшого VPS, следите за страницей баланса: на ней видно, на сколько хватит баланса при текущем расходе.
Как начать с криптой
- 1. Зарегистрируйтесь по email. Без KYC, без документов, телефона и карты.
- 2. Пополните баланс криптой. Bitcoin, USDT, ETH или любая из 300+ монет. Минимальное пополнение $15, страница оплаты покажет точную сумму для вашей монеты и сети.
- 3. Выберите GPU-размер. На странице Deploy откройте линейку GPU. Размеры, которые можно заказать, доступны, у остальных указана причина.
- 4. Подключитесь и работайте. Root-доступ по SSH с выделенным IPv4, затем настройте свой фреймворк: версии драйвера и CUDA зависят от выбранного образа.
- 5. Удалите сервер, когда задача закончена. Списания остановятся.
FAQ: частые вопросы
Сколько стоит GPU-сервер в час? В таблице выше живая цена за час и за месяц для каждого размера. Оплата почасовая, без минимального срока.
Можно ли заказать сегодня? Сейчас нет: провайдер не выделяет GPU-ёмкость нашему аккаунту. Размеры остаются в списке с живым статусом и откроются для заказа сами, когда ёмкость вернётся.
Нужно ли подтверждать личность? Нет. Для регистрации достаточно email, а оплата идёт криптой, поэтому нет ни проверки карты, ни документов.
Можно ли платить Bitcoin или Monero? Да. Принимаются Bitcoin, Ethereum, USDT в нескольких сетях, Monero и сотни других монет через NOWPayments. Страница оплаты покажет точную сумму и минимум для выбранной монеты.
Что будет, если баланс закончится? Действуют те же правила баланса, что и для остальных серверов, они описаны в политике возвратов и оплаты. Держите на балансе достаточно средств на весь запуск и копируйте результаты с машины по ходу работы.
Когда вместо этого хватит сервера с выделенным CPU? Если задаче не нужна видеокарта, Dedicated CPU даёт зарезервированные ядра без цены GPU, а для лёгких задач обычный VPS ещё дешевле.