Server GPU in arrivo presto

Server Cloud GPU, in arrivo presto

I server GPU non sono ancora ordinabili. Stiamo preparando i server con una NVIDIA Tesla P40 (VRAM 24 GB) passata attraverso ciascuno. Contattaci e ti diremo quando potrai distribuire uno.

✓ Progettato: tutta la GPU passa attraverso PCIe
✓ hardware pianificato: Tesla P40 con VRAM da 24 GB
✓ Accesso totale root & SSH
✓ Non ancora ordinabile: contattaci per essere avvisato

Hardware GPU pianificato

Ogni GPU sarà passata a un singolo server su PCIe.

Non ordinabile ancora

NVIDIA Tesla P40

VRAM 24 GB GDDR5
Core CUDA 3,840
Prestazioni del PQ32 12 TFLOPS
Prestazioni INT8 47 TOPS
Larghezza di banda della memoria 346 GB/s
Architettura Pascal (GP102)

Meglio per

Inferenza AI Modello Fine-tuning Trascodifica video Rendering 3D
Chiedere circa la disponibilità

Costruito per carichi di lavoro intensivi GPU

Caricamento di lavoro di una singola GPU da 24 GB, una volta che l'ordine si apre

Formazione AI/ML

Modelli di treni e di fine-tune con PyTorch, TensorFlow o JAX. Un singolo Tesla P40 da 24 GB si adatta a modelli piccoli e a lora di fine-tuning piuttosto che ad allenamenti su larga scala.

Chiedere circa la disponibilità →

Inferenza del modello

Servire LLMs, generazione di immagini, riconoscimento vocale e modelli di visione computerizzata da una GPU.

Chiedere circa la disponibilità →

& Rendering video

Trascodifica video con codifica hardware NVENC e rendering di scene 3D con Blender Cycles.

Chiedere circa la disponibilità →

Computing scientifico

Eseguire dinamiche molecolari, simulazioni e altri carichi di lavoro CUDA o OpenCL che funzionano in una sola precisione.

Chiedere circa la disponibilità →

Trattamento dei dati

Accelera la matematica degli array e il gradiente aumentando con CuPy, XGBoost e PyTorch sulla GPU.

Chiedere circa la disponibilità →

Sviluppo dell'IA

Costruire e testare applicazioni AI con notebook Jupyter, VS Code remote e il proprio ambiente di sviluppo CUDA.

Chiedere circa la disponibilità →

Come funzioneranno i server GPU

1

GPU intera, non condivisa

PCIe passthrough dà al server l'intera GPU, con prestazioni vicine alle native.

2

Chiedi prima

I server GPU non possono ancora essere ordinati dal pannello. Contattaci con il tuo carico di lavoro e ti risponderemo quando la capacità sarà pronta.

3

Nessun contratto

VPS.org piani sono fatturati ogni ora, limitata a 672 ore al mese, senza contratto. GPU prezzo sarà pubblicato quando l'ordine si apre.

4

Accesso totale alla radice

Installare qualsiasi framework, versione driver o toolkit CUDA. Accesso SSH dal primo giorno.

Esegui qualsiasi carico di lavoro GPU

Guide per quadri AI/ML, strumenti creativi e applicazioni GPU accelerate

Domande frequenti

Tutto quello che devi sapere sull'hosting GPU VPS

Che cos'è una GPU VPS?

+

Una GPU VPS è un server virtuale con una GPU fisica passata attraverso di esso, per lavori come l'AI inference, la fine-tuning del modello, la transcodifica video e il rendering. VPS.org I server GPU non sono ancora ordinabili.

Quali modelli GPU sono disponibili?

+

I primi server GPU che stiamo preparando utilizzano schede NVIDIA Tesla P40 con 24 GB di VRAM. Contattateci per essere avvisati quando si aprono.

Che cos'è il passthrough della GPU?

+

Con PCIe passthrough, un'intera GPU fisica viene assegnata a un server virtuale. Il software utilizza la scheda direttamente attraverso il driver NVIDIA standard, con prestazioni vicine al nativo, e la GPU non è condivisa con altri clienti.

I driver NVIDIA sono preinstallati?

+

No. Installa il driver NVIDIA e la versione CUDA toolkit di cui hai bisogno, con accesso root completo. Il Tesla P40 è una GPU Pascal (capacità di calcolo 6.1), quindi controlla che la tua versione framework lo supporti ancora.

Posso usare più GPU su un singolo VPS?

+

Non al momento. Un server GPU avrà una GPU. Contattaci se il tuo carico di lavoro ha bisogno di più.

Quali sono i carichi di lavoro migliori per GPU VPS?

+

Inferenza di modelli, messa a punto di modelli piccoli e quantizzati, visione computerizzata, riconoscimento vocale, transcodifica video, rendering 3D e calcolo scientifico che funziona in una sola precisione.

Come funziona la fatturazione per GPU VPS?

+

I server GPU non sono ancora ordinabili, quindi non c'è niente da pagare oggi. I piani standard VPS sono fatturati ogni ora, con un limite di 672 ore al mese; i prezzi GPU saranno pubblicati al momento dell'ordine si apre.

Posso passare da un VPS standard a un VPS GPU?

+

Non in posizione. I server GPU funzionano su nodi GPU separati, quindi spostarsi in uno significa distribuire un nuovo server e copiare i dati attraverso.

È inclusa la mitigazione degli attacchi?

+

No. VPS.org non include la mitigazione del rifiuto del servizio su qualsiasi piano. Se ne avete bisogno, mettete i servizi pubblici dietro un servizio di delega o di mitigazione.

Quali sistemi operativi supportano la GPU VPS?

+

I sistemi operativi supportati saranno confermati quando si apre l'ordine. Le release di Ubuntu LTS hanno i pacchetti di driver NVIDIA più maturi.

Esiste un periodo minimo di impegno?

+

Non c'è alcun contratto sui piani VPS.org: puoi distruggere un server in qualsiasi momento e la fatturazione si ferma. I termini della GPU saranno pubblicati quando l'ordine si apre.

Come posso iniziare con la GPU VPS?

+

Contattaci attraverso la pagina contatti con il tuo carico di lavoro e la memoria GPU di cui hai bisogno, e ti faremo sapere quando i server GPU possono essere ordinati.

Vuoi un server GPU quando si aprono?

La capacità della GPU è limitata. Raccontaci il tuo carico di lavoro e ti risponderemo con disponibilità e prezzi.