NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) මත PyTorch ආකෘති පුහුණු කිරීම සහ ක් රියාත්මක කිරීම, සම්පූර්ණ රූට් ප්රවේශය සමඟ. GPU සේවාදායක තවමත් ඇණවුම් කළ නොහැකි ය; ඔවුන් සිටින විට දැනුම් දීමට අප අමතන්න.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# උදාහරණ ස්ථාපක විධානයක්
PyTorch යනු පුළුල් ලෙස භාවිතා වන ගැඹුරු ඉගෙනුම් රාමුවකි. GPU සේවාදායකයක් GPU මත PyTorch පුහුණුව සහ නිගමනය ධාවනය කරයි, බොහෝ ආකෘති සඳහා CPU මත වඩා වේගවත් වේ.
ඔබ NVIDIA රියදුරු ස්ථාපනය, CUDA හා ඔබ අවශ්ය PyTorch ගොඩනැගිල්ල. ඔබේ PyTorch ගොඩනැගිල්ල තවමත් පාස්කල් GPUs සහාය බව තහවුරු (ගණනය හැකියාව 6.1).
කුඩා හා මධ්යම ප්රමාණයේ ආකෘති සඳහා කාමරය, LoRA හොඳින් ගැලපෙන සහ මධ්යම කණ්ඩායම් ප්රමාණ.
GPU මත අන්තර්ක්‍රියාකාරී වැඩ සඳහා සේවාදායකය මත Jupyter සටහන් ධාවනය කරන්න.
ඔබේ ව්යාපෘතිය අවශ්යතා ලෙස පරිසරය සකස් කරන්න.
PyTorch එහි වැඩ වේගවත් කිරීමට NVIDIA GPU භාවිතා කළ හැකිය. VPS.org GPU සේවාදායක තවමත් ඇණවුම් කිරීමට නොමැත; ඔවුන් සිටින විට අසන්නට අප අමතන්න. PyTorch පුහුණු / හොඳින් සකස් කරන ලද වැඩ බර වේ. දිගු ක්රියාත්මක රැකියා සඳහා සැලසුම්: නිතිපතා ඔබේ VPS ස්නායු සහ VPS.org පිටත පුහුණු බර පිටපතක් තබා ගන්න.
GPU සේවාදායක තවමත් ඇණවුම් කිරීමට ලබා ගත නොහැකි. අද ඔබ නිතිපතා CPU සැලැස්ම මත PyTorch ධාවනය කළ හැකිය, එය GPU මත වඩා බොහෝ සෙමින් වැඩ කරන තැන: SSH හා pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 ධාවනය.
පුහුණු VRAM ප් රශස්තකරණ රාජ්යය සහ ක් රියාත්මක කිරීම් විසින් පාලනය කරනු ලැබේ. 7B LLM හි සම්පූර්ණ සකස් කිරීම සඳහා 24 සිට 48 GB දක්වා අවශ් ය වේ; LoRA / QLoRA 8 සිට 16 GB දක්වා ගැලපේ.
GPU සේවාදායක ඇණවුම් කළ හැකි විට GPU මිලදී ගැනීම ප්රකාශයට පත් කරනු ඇත. ඔබ එය සිදු වන විට ඇසීමට අවශ්ය නම් අප අමතන්න.
ඔව්. සෑම VPS.org සේවාදායකය සම්පූර්ණ මූල ප්රවේශය සමග පැමිණේ, ඔබ සේවාදායකය RAM හා ගබඩා තුළ PyTorch සමග අනෙකුත් මෙවලම් ධාවනය කළ හැකි නිසා.
සෑම VPS.org සේවාදායකය සම්පූර්ණ මූල SSH ප්රවේශය සමග පැමිණේ, ඔබ රියදුරු ස්ථාපනය කළ හැකි නිසා, පුස්තකාල හා PyTorch කෙසේ වෙතත් ඔබ අවශ්ය.
නැහැ. කිසිදු සේවාදායකයක් CUDA runtime හෝ NVIDIA රියදුරු පෙර ස්ථාපනය සමග පැමිණෙන අතර, GPU සේවාදායක තවමත් නියෝග ලබා ගත නොහැකි. ඔබ සංස්කරණ PyTorch ඔබ අවශ්යතා ස්ථාපනය.
ඔව්. VPS.org සේවාදායක ස්ථාවර අතථ්ය යන්ත, ක්ෂණික නොවන අවස්ථා වේ: PyTorch ආකෘති, configs සහ දත්ත ඔබ ඔවුන් මකා දමන තෙක් සේවාදායකයේ SSD ගබඩාව මත රැඳී.
PyTorch ධාවනය වන අතර වේගවත් ප්රවේශ සඳහා සේවාදායකය SSD මත වැඩ දත්ත තබා, හා අවසන් කලාකෘති පිටපත් (බර, පරම්පරා, embeddings) VPS.org පිටත ගබඩා කිරීමට; ඡායාරූප සහ පිටපත් එම ගබඩා කඳවුර මත රැඳී.
ඔබ පාලක පුවරුව සිට විශාල සැලැස්මක් ඕනෑම VPS.org සේවාදායකය උසස් කළ හැකි; resize එය නැවත ආරම්භ සහ ඔබේ PyTorch ස්ථාපනය මත රැගෙන. GPU සේවාදායක තවමත් ලබා ගත නොහැකි.
ඔව්. පිටපත් රක්ෂිත ගෙවීම් add-on වේ (දිනකට +30% සැලැස්ම මිල, තබා7දින; සතිපතා +20%, තබා 28 දින) සහ ඡායාරූප නිදහස් වේ, දිගු PyTorch ධාවනය පෙර ප්රයෝජනවත් වන. දෙකම සේවාදායකය ලෙස එම ගබඩා කට්ටලයේ රැඳී.
ආපසු ගෙවීමක් ඉල්ලා සිටීමට ඔබේ පළමු මිලදී ගැනීමෙන් දින 30 ක් ඇතුළත සහාය සම්බන්ධ කර ගන්න. GPU සේවාදායක තවමත් අලෙවි කර නැත, එබැවින් GPU ඇණවුම සම්බන්ධ නොවේ.
GPU ධාරිතාව සීමා සහිත වේ. ඔබේ වැඩ බර ගැන අපට කියන්න අපි ලබා ගත හැකි සහ මිලදී ගැනීම පිළිතුරු දෙනු ඇත.