NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) ਉੱਤੇ TensorFlow ਅਤੇ Keras ਟਰੇਨਿੰਗ ਅਤੇ ਅੰਦਾਜ਼ਾ ਚਲਾਓ। GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਆਰਡਰ ਨਹੀਂ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ; ਜਦੋਂ ਉਹ ਆਰਡਰ ਕੀਤੇ ਜਾਣ ਤਾਂ ਸਾਨੂੰ ਸੂਚਿਤ ਕਰਨ ਲਈ ਸੰਪਰਕ ਕਰੋ।
$ pip install tensorflow[and-cuda]
# ਉਦਾਹਰਨ ਇੰਸਟਾਲ ਕਮਾਂਡ
ਟੇਨਸਰਫਲੋ Google ਦਾ ਓਪਨ-ਸੋਰਸ ਮਸ਼ੀਨ-ਲਰਨਿੰਗ ਫਰੇਮਵਰਕ ਹੈ। GPU ਸਰਵਰ ਉੱਤੇ ਟੇਨਸਰਫਲੋ CUDA ਰਾਹੀਂ GPU ਉੱਤੇ ਆਪਣਾ ਕਾਰਜ ਚਲਾਉਦਾ ਹੈ।
ਟੇਨਸਰਫਲੋ CUDA ਰਾਹੀਂ GPU ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਜਦੋਂ ਤੁਸੀਂ ਇੱਕ ਮੇਲ ਖਾਂਦਾ ਡਰਾਇਵਰ ਅਤੇ CUDA ਵਰਜਨ ਇੰਸਟਾਲ ਕਰਦੇ ਹੋ।
GPU ਬੈਕਐਂਡ ਉੱਤੇ ਕੇਰਾਸ API ਨਾਲ ਮਾਡਲ ਬਣਾਓ ।
ਆਪਣੇ ਸਰਵਰ ਉੱਤੇ TensorBoard ਨਾਲ ਟਰੇਨਿੰਗ ਨਿਗਰਾਨੀ ਕਰੋ।
TensorFlow ਸਰਵਿਸਿੰਗ ਨਾਲ ਸਿਖਲਾਈ ਮਾਡਲ ਸਰਵਿਸ ਕਰੋ ।
TensorFlow ਆਪਣੇ ਕੰਮ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਲਈ NVIDIA GPU ਵਰਤ ਸਕਦਾ ਹੈ । VPS.org GPU ਸਰਵਰ ਅਜੇ ਤੱਕ ਆਰਡਰ ਲਈ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ; ਜਦੋਂ ਉਹ ਹੋਣ ਤਾਂ ਸਾਨੂੰ ਪਤਾ ਲਗਾਉਣ ਲਈ ਸੰਪਰਕ ਕਰੋ । TensorFlow ਇੱਕ ਟਰੇਨਿੰਗ / ਫਾਈਨ- ਟੂਨਿੰਗ ਵਰਕਲੋਡ ਹੈ । ਲੰਬੇ ਸਮੇਂ ਲਈ ਚੱਲਣ ਵਾਲੇ ਕੰਮਾਂ ਲਈ ਯੋਜਨਾ ਬਣਾਓ: ਆਪਣੇ VPS ਨੂੰ ਨਿਯਮਤ ਤੌਰ ਉੱਤੇ ਸਕੈਨ ਕਰੋ ਅਤੇ VPS.org ਤੋਂ ਬਾਹਰ ਟਰੇਨ ਕੀਤੇ ਭਾਰ ਦੀ ਇੱਕ ਕਾਪੀ ਰੱਖੋ ।
GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਆਰਡਰ ਕਰਨ ਲਈ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ । ਅੱਜ ਤੁਸੀਂ TensorFlow ਨੂੰ ਇੱਕ ਨਿਯਮਤ CPU ਪਲਾਨ ਉੱਤੇ ਚਲਾ ਸਕਦੇ ਹੋ, ਜਿੱਥੇ ਕਿ ਇਹ GPU ਨਾਲੋਂ ਬਹੁਤ ਹੌਲੀ ਕੰਮ ਕਰਦਾ ਹੈ: SSH ਵਿੱਚ ਅਤੇ pip install tensorflow[and-cuda] ਚਲਾਓ ।
ਟਰੇਨਿੰਗ VRAM ਨੂੰ optimer state plus activation ਦੁਆਰਾ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ । 7B LLM ਦੀ ਪੂਰੀ fine- tuning ਲਈ ਲਗਭਗ 24 ਤੋਂ 48 GB ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ; LoRA / QLoRA 8 ਤੋਂ 16 GB ਵਿੱਚ ਫਿੱਟ ਹੁੰਦਾ ਹੈ ।
GPU ਕੀਮਤਾਂ ਤਾਂ ਹੀ ਜਾਰੀ ਕੀਤੀਆਂ ਜਾਣਗੀਆਂ, ਜਦੋਂ GPU ਸਰਵਰਾਂ ਦੀ ਆਰਡਰ ਕੀਤੀ ਜਾ ਸਕੇ। ਜੇਕਰ ਤੁਸੀਂ ਜਾਣਨਾ ਚਾਹੁੰਦੇ ਹੋ ਕਿ ਕੀ ਇਹ ਕਦੋਂ ਹੋਵੇਗਾ ਤਾਂ ਸਾਡੇ ਨਾਲ ਸੰਪਰਕ ਕਰੋ।
ਹਾਂ। ਹਰ VPS.org ਸਰਵਰ ਪੂਰੀ root ਅਧਿਕਾਰ ਨਾਲ ਆਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ ਸਰਵਰ ਦੀ RAM ਅਤੇ ਸਟੋਰੇਜ਼ ਵਿੱਚ TensorFlow ਦੇ ਨਾਲ ਹੋਰ ਟੂਲ ਚਲਾ ਸਕਦੇ ਹੋ।
ਹਰ VPS.org ਸਰਵਰ ਪੂਰੀ root SSH ਪਹੁੰਚ ਨਾਲ ਆਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ ਡਰਾਇਵਰ, ਲਾਇਬਰੇਰੀਆਂ ਅਤੇ TensorFlow ਇੰਸਟਾਲ ਕਰ ਸਕਦੇ ਹੋ, ਜਿਵੇਂ ਕਿ ਤੁਹਾਨੂੰ ਲੋੜ ਹੈ ।
ਨਹੀਂ, ਕੋਈ ਸਰਵਰ CUDA ਰਨਟਾਈਮ ਜਾਂ NVIDIA ਡਰਾਇਵਰ ਨਾਲ ਪਹਿਲਾਂ ਇੰਸਟਾਲ ਨਹੀਂ ਹੈ, ਅਤੇ GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਆਰਡਰ ਲਈ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ । ਤੁਸੀਂ TensorFlow ਲੋੜੀਦੇ ਵਰਜਨ ਆਪਣੇ ਆਪ ਇੰਸਟਾਲ ਕਰੋ ।
ਹਾਂ । VPS.org ਸਰਵਰ ਸਥਿਰ ਵੁਰਚੁਅਲ ਮਸ਼ੀਨਾਂ ਹਨ, ਨਾ ਕਿ ਥੋੜ੍ਹੇ ਸਮੇਂ ਲਈ ਮੌਜੂਦ: TensorFlow ਮਾਡਲ, ਸੰਰਚਨਾ ਅਤੇ ਡਾਟਾ ਸਰਵਰ ਦੇ SSD ਸਟੋਰੇਜ ਉੱਤੇ ਰਹਿਣਗੇ, ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਹਟਾ ਨਹੀਂ ਦਿੰਦੇ ।
TensorFlow ਚਲਾਉਣ ਦੌਰਾਨ ਤੇਜ਼ ਪਹੁੰਚ ਲਈ ਸਰਵਰ ਦੇ SSD ਉੱਤੇ ਕੰਮ ਡਾਟਾ ਰੱਖੋ ਅਤੇ VPS.org ਤੋਂ ਬਾਹਰ ਸਟੋਰੇਜ਼ ਲਈ ਮੁਕੰਮਲ ਆਰਟੀਫਿਕਟ (ਵਜ਼ਨ, ਜਨਰੇਸ਼ਨ, ਇੰਬੈੱਡਿੰਗ) ਦੀ ਕਾਪੀ ਕਰੋ; ਸੈਂਪਲ ਅਤੇ ਬੈਕਅੱਪ ਇੱਕੋ ਸਟੋਰੇਜ਼ ਕਲਾਸਟਰ ਉੱਤੇ ਰਹਿਣਗੇ।
ਤੁਸੀਂ ਕੰਟਰੋਲ ਪੈਨਲ ਤੋਂ ਕਿਸੇ ਵੀ VPS.org ਸਰਵਰ ਨੂੰ ਵੱਡੇ ਪਲਾਨ ਲਈ ਅੱਪਗਰੇਡ ਕਰ ਸਕਦੇ ਹੋ; ਮੁੜ- ਸਾਈਜ਼ ਕਰਨ ਨਾਲ ਇਹ ਮੁੜ- ਚਾਲੂ ਹੋ ਜਾਵੇਗਾ ਅਤੇ ਤੁਹਾਡੀ TensorFlow ਇੰਸਟਾਲੇਸ਼ਨ ਨੂੰ ਲਿਜਾਏਗਾ । GPU ਸਰਵਰ ਹੁਣ ਉਪਲੱਬਧ ਨਹੀਂ ਹਨ ।
ਹਾਂ। ਬੈਕਅੱਪ ਇੱਕ ਭੁਗਤਾਨਯੋਗ ਐਡ- ਆਨ ਹੈ (ਦਿਨ ਪ੍ਰਤੀ +30% ਪਲਾਨ ਕੀਮਤ,7ਦਿਨ ਰੱਖੀ; ਹਫ਼ਤਾਵਾਰੀ +20%, 28 ਦਿਨ ਰੱਖੀ) ਅਤੇ ਸਨੈਪਸ਼ਾਟ ਮੁਫ਼ਤ ਹਨ, ਜੋ ਕਿ ਲੰਬੇ TensorFlow ਚਲਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਲਾਭਦਾਇਕ ਹਨ। ਦੋਵੇਂ ਸਰਵਰ ਵਾਂਗ ਇੱਕੋ ਸਟੋਰੇਜ਼ ਕਲਾਸਟਰ ਉੱਤੇ ਰਹਿਣਗੇ।
ਤੁਹਾਡੀ ਪਹਿਲੀ ਖਰੀਦ ਤੋਂ 30 ਦਿਨਾਂ ਦੇ ਅੰਦਰ-ਅੰਦਰ ਮੁੜ-ਭੁਗਤਾਨ ਲਈ ਸਹਿਯੋਗ ਨਾਲ ਸੰਪਰਕ ਕਰੋ। GPU ਸਰਵਰ ਹੁਣ ਤੱਕ ਵੇਚੇ ਨਹੀਂ ਗਏ ਹਨ, ਇਸ ਲਈ ਕੋਈ GPU ਆਰਡਰਾਂ ਸ਼ਾਮਲ ਨਹੀਂ ਹਨ।
GPU ਸਮਰੱਥਾ ਸੀਮਿਤ ਹੈ । ਸਾਨੂੰ ਆਪਣੇ ਵਰਕਲੋਡ ਬਾਰੇ ਦੱਸੋ ਅਤੇ ਅਸੀਂ ਉਪਲੱਬਧਤਾ ਅਤੇ ਕੀਮਤ ਨਾਲ ਜਵਾਬ ਦੇਵਾਂਗੇ ।