Els models de tren, executen inferència, mostren el vídeo, i accelera el càlcul científic sobre demanda.
+-------------------------+
| NVIDIA-SMI 550.54.15 |
| Driver: 550.54.15 |
| CUDA Version: 12.4 |
+-------------------------+
| GPU Name | Mem |
| 0 Tesla P40 | 24GB |
+-------------------------+
| GPU Util: 0% |
| Memory: 0MiB / 24576MiB|
+-------------------------+
$ python train.py --model llama
Loading model... _
NVIDIA GPUs amb PCIethrough total per al rendiment màxim
Estem expandint activament la nostra flota de la GPU. Els models addicionals de la GPU NVIDIA amb grans arquitectures VRAM i noves estaran disponibles aviat.
Necessiteu les GPU d' empresa (A100, H100) o les configuracions multi-GPU? Contacteu amb nosaltres per discutir els vostres requeriments.
Des de les xarxes neuronals d'entrenament per renderitzar les escenes en 3D, el director de la GPU ho fa tot
Models d'aprenentatge profund amb PyToch, TensorFlow, o JAX. Models d' idioma detallats com ara LLaMA, l' instral, i el diffable en el maquinari de la GPU dedicat.
Començar →Models de la IA en producció amb inferència de la GPU de baixa potència. Serve LLLLM, generació d' imatges, reconeixement de parla i API de visió d'ordinador a escala.
Començar →Un vídeo recoduït amb NVENC, representa escenes 3D amb Flacker o Maya, i processa canonades de mitjans d'alta resolució amb codificació de la GPU-accelerada.
Començar →Executeu dinàmiques moleculars, simulacions del clima, dinàmiques del fluid computacionals, i altres carregadores HPC a l'hora d'intentar la GPU.
Començar →Sucrementeu canonades de dades amb ARPIDS, cuDF i cuML. Procés grans conjunts de dades, executant l'anàlisi de la GPU, i construeix fluxs de treball en temps real.
Començar →Construïu iteratiu en aplicacions AI amb llibretes Jupyter, Codi VS remot, i complets entorns de desenvolupament de CUDA. Prototype més ràpid amb recursos de la GPU dedicats.
Començar →PCIe passathrough significa que el sistema virtualització és zero. El vostre codi parla directament al maquinari GPU.
No hi ha reserves o vendes complexes. Seleccioneu la vostra GPU, escolliu un SO i desplegueu- lo en minuts.
El pagament mensual sense contractes de bloqueig. Escala quan necessiteu GPUs, escala avall quan no ho feu.
Instal· la qualsevol marc de treball, versió del controlador, o joc d' eines de CUDA. El vostre servidor, les vostres regles. SSH accés des del dia 1.
Guies preconfigurades per a entorns d'AI/ML, eines creatives, i aplicacions de la GPU-accelerades
Tot el que heu de saber sobre el desenvolupament del director de la GPU
Un director de la GPU és un servidor privat virtual equipat amb el maquinari de la GPU dedicat a NVIDIA. Dóna la mateixa flexibilitat que els directors estàndard, però amb capacitats de processament paral· leles per a l' entrenament IA/ML, inferència, renderització i carregadors científics de computació.
Actualment oferim a NVIDIA Tesla P40 GPUs amb 24GB de VRAM cadascun. Aquestes GPUs han destacat a IA/ML inference, modeleu bé, videocoding, i informàtica científiques. S' afegiran models de GPU addicionals mentre expandim la nostra infraestructura.
La GPU ha donat als vostres directors directes, accés al maquinari de la GPU física. A diferència de ser compartit o virtualitzat la GPU, obtens el rendiment complet de la GPU sense top. Les vostres aplicacions interactuen amb la GPU tal com podrien estar en una màquina dedicada.
Les instàncies de la GPU són amb Ubuntu i l' opció de tenir controladors NVIDIA i eines d' eines preinstal· lades. També podeu instal· lar la vostra versió preferida del controlador manualment. Us proporcionem documentació per establir camps de ML populars com PyToch i TenorFlow.
Sí, pots adjuntar múltiples GPUs a un únic director de treball que beneficia de l' entrenament multi-GPU o el processament paral·lel. Contacteu amb el nostre equip de vendes per a configuracions multi-GPU i fixació de preus.
El director de la GPU és ideal per a l'entrenament del model AI/ML i la inferència, un model de gran idioma fi de l'elaboració, visió d'ordinadors, vídeo transcoding i representació, simulacions científiques, i qualsevol carregador de feina que beneficii del procés paral·lel massiu.
El director de la GPU s' ha carregat per una base mensual, igual que els plans de directors de la GPU. Només pagueu per a que el vostre servidor sigui provisional. Contacteu amb nosaltres per a la fixació de preus actual mentre finalitzem les nostres ofrenes de la GPU.
Els controladors de la GPU s' executen en el maquinari de la GPU dedicat, així que l' actualització d' un vice-SE estàndard requereix provisional un nou servidor. De tota manera, podeu migrar fàcilment les vostres dades i configuracions. El nostre equip de suport pot ajudar amb el procés de migració.
Sí, tots els plans de directors de la GPU, incloent-hi els directors de la xarxa DDoS, amb accés a root, connexió IPv4 i IPv6, i les mateixes característiques de seguretat que els nostres directors de núvol estàndard ofereixen.
Els directors de la GPU estan disponibles amb Ubuntu 22.04 LTS i Ubuntu 24.04 LTS, que tenen el millor funcionament del controlador NVIDIA. Debian 12 també està acceptat. Us recomanem que Ubuntu 24.04 LTS per a l' última compatibilitat d' eines de l' Ubuntu CUDA.
No, no hi ha un compromís mínim.
Simplement creeu un compte, seleccioneu la configuració d' un director de la GPU, escolliu el vostre sistema operatiu i desplegueu- lo. El vostre servidor de la GPU estarà llest en minuts amb accés complet de root i la vostra GPU disponible mitjançant l'Identi-smi.
Entreu al poder de la GPU de la NVIDIA en minuts. No hi ha reserves, no hi ha trucades de venda.