Պատրաստել և ընթացակարգել PyTorch մոդելները NVIDIA Tesla P40-ի վրա (24 ԳԲ VRAM, Pascal ճարտարապետություն), ամբողջական root մուտք ունենալով։ GPU սերվերները դեռևս չեն կարող պատվիրվել։ Հաղորդակցվեք մեզ հետ, որպեսզի տեղեկացնենք, երբ դրանք կհայտնվեն։
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Տեղադրման հրամանի օրինակ
PyTorch-ը լայնորեն օգտագործվող խորը ուսուցման կառուցվածք է։ GPU սերվերը ընթանում է PyTorch-ի ուսուցումը և եզրակացությունը GPU-ի վրա, որը շատ ավելի արագ է, քան CPU-ն շատ մոդելների համար։
Տեղադրել NVIDIA դյուրագրգիռը, CUDA-ն և PyTorch-ի անհրաժեշտ կառուցվածքը։ Ստուգեք, որ PyTorch-ի կառուցվածքը դեռ աջակցում է Pascal GPU-ներին (համակարգչային ունակություն 6.1)։
1990-ական թվականներին Էլ-Մաֆուիի և Էլ-Մաֆուիի աշակերտների հետ ստեղծել է «Լիբանան» ռադիոկայանը։
Օգտագործեք Jupyter գրառումները սերվերի վրա GPU-ի վրա ինտերակտիվ աշխատանքի համար։
Կապել միջավայրը, ինչպես դա անհրաժեշտ է ձեր նախագծին։
PyTorch- ը կարող է օգտագործել NVIDIA GPU- ն իր աշխատանքը արագացնելու համար։ VPS.org GPU սերվերները դեռևս չեն հասանելի պատվիրելու համար։ Հետևեք մեզ՝ իմանալու համար, երբ դրանք հասանելի կլինեն։ PyTorch- ը վարժեցման / ճշգրտման աշխատանքային բեռ է։ Պլանավորեք երկարատև աշխատանքներ՝ նկարեք ձեր VPS- ը պարբերաբար և պահեք վարժեցված քաշերի պատճենը VPS.org- ից դուրս։
Գրաֆիկական պրոցեսորի սերվերները դեռևս չեն կարող պատվիրվել։ Այսօր դուք կարող եք PyTorch-ը գործարկել սովորական պրոցեսորի պլանի վրա, որտեղ այն ավելի դանդաղ է աշխատում, քան գրաֆիկական պրոցեսորի վրա։ Սեղմեք SSH և գործարկեք pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124-ը։
Վիրամիշը սովորեցնելու համար գերակշռում է օպտիմիզացնողի վիճակը և ակտիվացումները։ 7B LLM-ի ամբողջական ճշգրտման համար անհրաժեշտ է մոտավորապես 24-ից 48 ԳԲ, LoRA / QLoRA-ն տեղավորվում է 8-ից 16 ԳԲ-ում։
GPU-ի գինը կհայտարարվի, երբ GPU սերվերները կարողանան պատվիրվել։ Հեռացեք մեզանից, եթե ցանկանում եք իմանալ, թե երբ է դա տեղի ունենալու։
Այո։ Յուրաքանչյուր VPS.org սերվեր ունի root-ի լիակատար իրավունքներ, այնպես որ դուք կարող եք PyTorch-ի հետ միասին նաև այլ գործիքներ երթևեկել սերվերի RAM-ում և պահեստում։
Յուրաքանչյուր VPS.org սերվեր ունի root SSH մուտք, այնպես որ դուք կարող եք տեղադրել դիզայներներ, գրադարաններ և PyTorch, ինչպես ձեզ հարկավոր է։
Ոչ։ Ոչ մի սերվեր չի ապահովված CUDA-ի կամ NVIDIA-ի դյուրակիրներով, և GPU սերվերները դեռևս չեն կարող պատվիրվել։ Դուք ինքներդ եք տեղադրում PyTorch-ի պահանջվող տարբերակները։
Այո։ VPS.org սերվերները մշտական վիրտուալ մեքենաներ են, ոչ թե ժամանակավոր օրինակներ։ PyTorch մոդելները, կառույցները և տվյալները մնում են սերվերի SSD պահեստում մինչև դրանք ոչնչացնելը։
Պահել տվյալները սերվերի SSD-ում PyTorch-ի աշխատանքի ժամանակ արագ հասանելիության համար, և պատճենել ավարտվելիք արվեստագործությունները (կշիռներ, սերունդներ, ներդրումներ) VPS.org-ից դուրս պահպանման համար։ Սկզբնական նկարները և պահեստային սկավառակները մնում են նույն պահպանման խմբում։
Դուք կարող եք վերանորոգել ցանկացած VPS.org սերվեր ավելի մեծ պլանի համար կառավարման վահանակից, վերանորոգման ժամանակ այն կվերսկսվի և PyTorch-ի տեղադրումը կկատարվի։ GPU սերվերները դեռևս հասանելի չեն։
Այո։ Առաջնահաշիվները վճարովի հավելված են (օրական +30% պլանի արժեքից, պահպանվում է 7 օր; շաբաթական +20%, պահպանվում է 28 օր) և նկարները անվճար են, ինչը օգտակար է PyTorch-ի երկարատև գործարկման համար։ Դրանք երկուսն էլ մնացել են սերվերի հետ նույն պահպանման խմբում։
Հաղորդակցվել աջակցության հետ առաջին գնումից հետո 30 օրվա ընթացքում՝ գումարը վերադարձնելու համար։ GPU սերվերները դեռևս չեն վաճառվել, հետևաբար GPU-ի պատվեր չի կատարվել։
Գրաֆիկական պրոցեսորի ունակությունը սահմանափակ է։ Պատմեք մեզ ձեր աշխատանքի ծավալի մասին, և մենք կպատասխանենք՝ նշելով հասանելիությունը և գինը։