ਜਲਦੀ ਹੀ: NVIDIA Tesla P40, 24 GB VRAM

AI/ML ਟਰੇਨਿੰਗ GPU ਸਰਵਰName

NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) ਉੱਤੇ ਮਾਡਲ ਨੂੰ ਟੂਲ ਕਰੋ ਅਤੇ ਟਰੈਕ ਕਰੋ। LoRA fine-tuning ਅਤੇ ਛੋਟੇ ਮਾਡਲ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ। GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਆਰਡਰ ਨਹੀਂ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ; ਜਦੋਂ ਉਹ ਆਰਡਰ ਕੀਤੇ ਜਾਣ ਤਾਂ ਸਾਨੂੰ ਸੂਚਿਤ ਕਰਨ ਲਈ ਸੰਪਰਕ ਕਰੋ।

$ pip install torch transformers datasets accelerate && python train.py
# ਉਦਾਹਰਨ ਇੰਸਟਾਲ ਕਮਾਂਡ

GPU VPS ਉੱਤੇ AI Training ਕੀ ਹੈ?

AI ਟਰੇਨਿੰਗ ਮਾਡਲ ਨੂੰ GPUs ਵਲੋਂ ਉਪਲੱਬਧ ਪੈਰਲਲ ਕੰਪਿਊਟਿੰਗ ਦੀ ਲੋੜ ਹੈ । ਇੱਕ GPU ਸਰਵਰ ਤੁਹਾਨੂੰ ਆਪਣੇ ਟਰੇਨਿੰਗ ਜਾਬ ਲਈ ਇੱਕ GPU ਦਿੰਦਾ ਹੈ ।

VPS.org GPU ਸਰਵਰ ਉੱਤੇ AI Training

ਪੂਰਾ GPU

ਇੱਕ ਟੈਸਲਾ P40, 24 GB VRAM ਨਾਲ, ਤੁਹਾਡੇ ਸਰਵਰ ਨੂੰ ਦਿੱਤਾ ਗਿਆ ਅਤੇ ਸਾਂਝਾ ਨਹੀਂ ਕੀਤਾ ਗਿਆ।

ਫਰੇਮਵਰਕ ਚੋਣ

PyTorch, TensorFlow, JAX ਜਾਂ ਕੋਈ ਵੀ ਫਰੇਮਵਰਕ ਜੋ ਕਿ Pascal GPUs ਲਈ ਸਹਾਇਕ ਹੈ।

SSD ਸਟੋਰੇਜ਼

ਸਰਵਰ ਦੇ SSD ਸਟੋਰੇਜ ਉੱਤੇ ਡਾਟਾਸੈੱਟ, ਚੈੱਕਪੁਆਇੰਟ ਅਤੇ ਮਾਡਲ ਫਾਇਲਾਂ ਰੱਖੋ ।

SSH ਪਹੁੰਚ

ਟਰੇਨਿੰਗ ਇੰਵਾਇਰਨਮੈਂਟ ਸੰਰਚਨਾ ਲਈ ਪੂਰਾ ਰੂਟ ਅਧਿਕਾਰ ਹੈ ।

ਪ੍ਰਸਿੱਧ AI Training ਵਰਤੋਂ ਕੇਸ

ਮਾਡਲ ਫਿਨ- ਟੂਨਿੰਗ
ਸਿੱਖਣ ਦਾ ਤਬਦੀਲ
ਕਸਟਮ ਮਾਡਲ ਟਰੇਨਿੰਗ
ਹਾਈਪਰ- ਪੈਰਾਮੀਟਰ ਟੂਨਿੰਗ
ਡਾਟਾਸੈੱਟ ਪ੍ਰੀ- ਪਰੋਸੈਸਿੰਗ
LoRA ਐਡਪਟਰ

ਪਲਾਨ GPU ਵੇਰਵਾ

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA ਰੰਗ3,840
FP3212 TFLOPS
INT847 TOPS
ਮੈਮੋਰੀ BW346 GB/s
ਆਰਕੀਟੈਕਚਰPascal (GP102)
ਪਾਸਥਰੂPCIe ਪਾਸਥਰੂ

ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ

GPU VPS ਉੱਤੇ AI Training ਕੀ ਹੈ?

+

AI Training ਆਪਣੇ ਕੰਮ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਲਈ NVIDIA GPU ਵਰਤ ਸਕਦਾ ਹੈ । VPS.org GPU ਸਰਵਰ ਅਜੇ ਤੱਕ ਆਰਡਰ ਲਈ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ; ਜਦੋਂ ਉਪਲੱਬਧ ਹੋਣ ਤਾਂ ਸਾਨੂੰ ਦੱਸੋ । AI Training ਇੱਕ ਆਮ GPU- ਐਕਸਲੇਰੇਟਡ ਵਰਕਲੋਡ ਹੈ । ਇਹ ਯਕੀਨੀ ਬਣਾਓ ਕਿ ਤੁਹਾਡੇ ਸਾਫਟਵੇਅਰ ਵਿੱਚ CUDA ਸਹਿਯੋਗ ਹੈ ਅਤੇ ਤੁਹਾਡਾ ਡਰਾਇਵਰ / ਰਨਟਾਈਮ ਵਰਜਨ AI Training ਲਈ ਵਰਕਲੋਡ ਲੋੜਾਂ ਨਾਲ ਮਿਲਦਾ ਹੈ ।

ਮੈਂ GPU VPS ਉੱਤੇ AI Training ਕਿਵੇਂ ਸੈੱਟਅੱਪ ਕਰਾਂ?

+

GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਆਰਡਰ ਕਰਨ ਲਈ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ । ਅੱਜ ਤੁਸੀਂ AI Training ਨੂੰ ਇੱਕ ਨਿਯਮਤ CPU ਪਲਾਨ ਉੱਤੇ ਚਲਾ ਸਕਦੇ ਹੋ, ਜਿੱਥੇ ਕਿ ਇਹ GPU ਨਾਲੋਂ ਬਹੁਤ ਹੌਲੀ ਕੰਮ ਕਰਦਾ ਹੈ: SSH ਵਿੱਚ ਅਤੇ pip install torch transformers datasets accelerate && python train.py ਚਲਾਓ ।

ਕਿੰਨੀ VRAM AI Training ਲਈ ਲੋੜੀਦੀ ਹੈ?

+

AI Training ਲਈ VRAM ਲੋੜ ਮਾਡਲ ਅਤੇ ਬੈਚ ਸਾਈਜ਼ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ; ਮੌਜੂਦਾ ਅੰਕੜਿਆਂ ਲਈ ਪਰੋਜੈਕਟ ਡੌਕੂਮੈਂਟੇਸ਼ਨ ਦੀ ਜਾਂਚ ਕਰੋ।

AI Training ਲਈ GPU ਸਰਵਰ ਦੀ ਕੀਮਤ ਕਿੰਨੀ ਹੋਵੇਗੀ?

+

GPU ਕੀਮਤਾਂ ਤਾਂ ਹੀ ਜਾਰੀ ਕੀਤੀਆਂ ਜਾਣਗੀਆਂ, ਜਦੋਂ GPU ਸਰਵਰਾਂ ਦੀ ਆਰਡਰ ਕੀਤੀ ਜਾ ਸਕੇ। ਜੇਕਰ ਤੁਸੀਂ ਜਾਣਨਾ ਚਾਹੁੰਦੇ ਹੋ ਕਿ ਕੀ ਇਹ ਕਦੋਂ ਹੋਵੇਗਾ ਤਾਂ ਸਾਡੇ ਨਾਲ ਸੰਪਰਕ ਕਰੋ।

ਕੀ ਮੈਂ AI Training ਦੇ ਨਾਲ ਹੋਰ ਟੂਲ ਚਲਾ ਸਕਦਾ ਹਾਂ?

+

ਹਾਂ। ਹਰ VPS.org ਸਰਵਰ ਪੂਰੀ root ਅਧਿਕਾਰ ਨਾਲ ਆਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ ਸਰਵਰ ਦੀ RAM ਅਤੇ ਸਟੋਰੇਜ਼ ਵਿੱਚ AI Training ਦੇ ਨਾਲ ਹੋਰ ਟੂਲ ਚਲਾ ਸਕਦੇ ਹੋ।

ਕੀ ਮੈਨੂੰ AI Training GPU VPS ਉੱਤੇ ਪੂਰਾ ਰੂਟ ਮਿਲਦਾ ਹੈ?

+

ਹਰ VPS.org ਸਰਵਰ ਪੂਰੀ root SSH ਪਹੁੰਚ ਨਾਲ ਆਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ ਡਰਾਇਵਰ, ਲਾਇਬਰੇਰੀਆਂ ਅਤੇ AI Training ਇੰਸਟਾਲ ਕਰ ਸਕਦੇ ਹੋ, ਜਿਵੇਂ ਕਿ ਤੁਹਾਨੂੰ ਲੋੜ ਹੈ ।

ਕੀ VPS.org AI Training ਲਈ CUDA ਪਹਿਲਾਂ- ਇੰਸਟਾਲ ਕਰਦਾ ਹੈ?

+

ਨਹੀਂ, ਕੋਈ ਸਰਵਰ CUDA ਰਨਟਾਈਮ ਜਾਂ NVIDIA ਡਰਾਇਵਰ ਨਾਲ ਪਹਿਲਾਂ ਇੰਸਟਾਲ ਨਹੀਂ ਹੈ, ਅਤੇ GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਆਰਡਰ ਲਈ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ । ਤੁਸੀਂ AI Training ਲੋੜੀਦੇ ਵਰਜਨ ਆਪਣੇ ਆਪ ਇੰਸਟਾਲ ਕਰੋ ।

ਕੀ ਮੇਰਾ AI Training GPU VPS ਸ਼ੈਸ਼ਨਾਂ ਵਿੱਚ ਸਥਿਰ ਹੈ?

+

ਹਾਂ । VPS.org ਸਰਵਰ ਸਥਿਰ ਵੁਰਚੁਅਲ ਮਸ਼ੀਨਾਂ ਹਨ, ਨਾ ਕਿ ਥੋੜ੍ਹੇ ਸਮੇਂ ਲਈ ਮੌਜੂਦ: AI Training ਮਾਡਲ, ਸੰਰਚਨਾ ਅਤੇ ਡਾਟਾ ਸਰਵਰ ਦੇ SSD ਸਟੋਰੇਜ ਉੱਤੇ ਰਹਿਣਗੇ, ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਹਟਾ ਨਹੀਂ ਦਿੰਦੇ ।

ਮੈਂ ਆਪਣੇ AI Training ਵਰਕਲੋਡ ਲਈ ਡਾਟਾ ਕਿੱਥੇ ਸਟੋਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?

+

AI Training ਚਲਾਉਣ ਦੌਰਾਨ ਤੇਜ਼ ਪਹੁੰਚ ਲਈ ਸਰਵਰ ਦੇ SSD ਉੱਤੇ ਕੰਮ ਡਾਟਾ ਰੱਖੋ ਅਤੇ VPS.org ਤੋਂ ਬਾਹਰ ਸਟੋਰੇਜ਼ ਲਈ ਮੁਕੰਮਲ ਆਰਟੀਫਿਕਟ (ਵਜ਼ਨ, ਜਨਰੇਸ਼ਨ, ਇੰਬੈੱਡਿੰਗ) ਦੀ ਕਾਪੀ ਕਰੋ; ਸੈਂਪਲ ਅਤੇ ਬੈਕਅੱਪ ਇੱਕੋ ਸਟੋਰੇਜ਼ ਕਲਾਸਟਰ ਉੱਤੇ ਰਹਿਣਗੇ।

ਕੀ ਮੈਂ ਆਪਣੇ AI Training GPU VPS ਨੂੰ ਬਾਅਦ ਵਿੱਚ ਸਕੇਲ ਕਰ ਸਕਦਾ ਹਾਂ?

+

ਤੁਸੀਂ ਕੰਟਰੋਲ ਪੈਨਲ ਤੋਂ ਕਿਸੇ ਵੀ VPS.org ਸਰਵਰ ਨੂੰ ਵੱਡੇ ਪਲਾਨ ਲਈ ਅੱਪਗਰੇਡ ਕਰ ਸਕਦੇ ਹੋ; ਮੁੜ- ਸਾਈਜ਼ ਕਰਨ ਨਾਲ ਇਹ ਮੁੜ- ਚਾਲੂ ਹੋ ਜਾਵੇਗਾ ਅਤੇ ਤੁਹਾਡੀ AI Training ਇੰਸਟਾਲੇਸ਼ਨ ਨੂੰ ਲਿਜਾਏਗਾ । GPU ਸਰਵਰ ਹੁਣ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ ।

ਕੀ ਮੇਰੇ GPU VPS ਲਈ ਬੈਕਅੱਪ ਉਪਲੱਬਧ ਹੈ?

+

ਹਾਂ। ਬੈਕਅੱਪ ਇੱਕ ਭੁਗਤਾਨਯੋਗ ਐਡ- ਆਨ ਹੈ (ਦਿਨ ਪ੍ਰਤੀ +30% ਪਲਾਨ ਕੀਮਤ,7ਦਿਨ ਰੱਖੀ; ਹਫ਼ਤਾਵਾਰੀ +20%, 28 ਦਿਨ ਰੱਖੀ) ਅਤੇ ਸਨੈਪਸ਼ਾਟ ਮੁਫ਼ਤ ਹਨ, ਜੋ ਕਿ ਲੰਬੇ AI Training ਚਲਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਲਾਭਦਾਇਕ ਹਨ। ਦੋਵੇਂ ਸਰਵਰ ਵਾਂਗ ਇੱਕੋ ਸਟੋਰੇਜ਼ ਕਲਾਸਟਰ ਉੱਤੇ ਰਹਿਣਗੇ।

ਕੀ ਮੈਨੂੰ ਮੁਆਵਜ਼ਾ ਮਿਲ ਸਕਦਾ ਹੈ?

+

ਤੁਹਾਡੀ ਪਹਿਲੀ ਖਰੀਦ ਤੋਂ 30 ਦਿਨਾਂ ਦੇ ਅੰਦਰ-ਅੰਦਰ ਮੁੜ-ਭੁਗਤਾਨ ਲਈ ਸਹਿਯੋਗ ਨਾਲ ਸੰਪਰਕ ਕਰੋ। GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਵੇਚੇ ਨਹੀਂ ਗਏ ਹਨ, ਇਸ ਲਈ ਕੋਈ GPU ਆਰਡਰਾਂ ਸ਼ਾਮਲ ਨਹੀਂ ਹਨ।

ਕੀ ਤੁਸੀਂ GPU ਸਰਵਰ ਉੱਤੇ AI Training ਚਲਾਉਣਾ ਚਾਹੁੰਦੇ ਹੋ?

GPU ਸਮਰੱਥਾ ਸੀਮਿਤ ਹੈ । ਸਾਨੂੰ ਆਪਣੇ ਵਰਕਲੋਡ ਬਾਰੇ ਦੱਸੋ ਅਤੇ ਅਸੀਂ ਉਪਲੱਬਧਤਾ ਅਤੇ ਕੀਮਤ ਨਾਲ ਜਵਾਬ ਦੇਵਾਂਗੇ ।