ຝຶກອົບຮົມ ແລະ ແລ່ນແບບ PyTorch ເທິງ NVIDIA Tesla P40 (24 GB VRAM, ສະຖາປັດຕະຍະກໍາ Pascal), ດ້ວຍການເຂົ້າເຖິງ root ເຕັມ. ເຊີເວີ GPU ຍັງບໍ່ທັນສາມາດສັ່ງຊື້ໄດ້; ຕິດຕໍ່ພວກເຮົາເພື່ອແຈ້ງໃຫ້ຊາບເມື່ອພວກເຂົາມີ.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# ຄໍາສັ່ງຕິດຕັ້ງຕົວຢ່າງ
PyTorch ແມ່ນກົນໄກການຮຽນຮູ້ທີ່ກວ້າງຂວາງທີ່ໃຊ້ກັນຢ່າງກວ້າງຂວາງ. ເຊີເວີ GPU ແລ່ນການຝຶກອົບຮົມ PyTorch ແລະການຄິດໄລ່ໃນ GPU, ເຊິ່ງໄວກວ່າ CPU ສຳລັບແບບຫຼາຍຢ່າງ.
ທ່ານໄດ້ຕິດຕັ້ງຕົວຂັບລົດ NVIDIA, CUDA ແລະ PyTorch ທີ່ທ່ານຕ້ອງການສ້າງຂຶ້ນມາແລ້ວ. ກວດເບິ່ງວ່າການສ້າງ PyTorch ຂອງທ່ານຍັງສະໜັບສະໜູນ Pascal GPUs (ຄວາມສາມາດໃນການຄິດໄລ່ 6.1) ອີກບໍ່ດົນນີ້.
ຫ້ອງສໍາລັບແບບຈໍາລອງຂະຫນາດນ້ອຍແລະກາງ, LoRA ປັບແຕ່ງແລະຂະຫນາດການແຈກຢາຍຂະຫນາດກາງ.
ແລ່ນບັນທຶກ Jupyter ເທິງເຊີບເວີ ເພື່ອເຮັດວຽກແບບໂຕ້ຕອບກັບ GPU.
ຕັ້ງຄ່າສະພາບແວດລ້ອມທີ່ເໝາະສົມກັບໂຄງການຂອງທ່ານ
PyTorch ສາມາດໃຊ້ NVIDIA GPU ເພື່ອເພີ່ມຄວາມໄວຂອງການເຮັດວຽກຂອງມັນ. VPS.org ບໍລິການ GPU ບໍ່ສາມາດສັ່ງໄດ້; ຕິດຕໍ່ພວກເຮົາເພື່ອຟັງເມື່ອພວກເຂົາແມ່ນ. PyTorch ແມ່ນການຝຶກອົບຮົມ / ປັບແຕ່ງຄວາມກົດດັນຂອງວຽກ. ວາງແຜນສໍາລັບວຽກທີ່ດໍາເນີນໄປດົນ: snapshot VPS ຂອງທ່ານເປັນປົກກະຕິແລະຮັກສາສໍາເນົາຂອງນ້ໍາຫນັກຝຶກອົບຮົມນອກ VPS.org.
ບໍລິການ GPU ຍັງບໍ່ທັນມີໃຫ້ສັ່ງຊື້ເທື່ອ. ມື້ນີ້ທ່ານສາມາດແລ່ນ PyTorch ຢູ່ໃນແຜນ CPU ປົກກະຕິ, ບ່ອນທີ່ມັນເຮັດວຽກຊ້າກວ່າ GPU: SSH ໃນແລະແລ່ນ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
ການປັບແຕ່ງຢ່າງເຕັມທີ່ຂອງ 7B LLM ຕ້ອງການປະມານ 24 ເຖິງ 48 GB; LoRA / QLoRA ເຂົ້າກັນໄດ້ໃນ 8 ເຖິງ 16 GB.
ລາຄາ GPU ຈະຖືກເຜີຍແຜ່ເມື່ອເຊີບເວີ GPU ສາມາດສັ່ງຊື້ໄດ້. ຕິດຕໍ່ພວກເຮົາຖ້າທ່ານຕ້ອງການຮູ້ເມື່ອມັນເກີດຂື້ນ.
ແມ່ນແລ້ວ. ທຸກໆ ເຊີເວີ VPS.org ຈະມີການເຂົ້າເຖິງ root ເຕັມ, ສະນັ້ນທ່ານສາມາດແລ່ນເຄື່ອງມືອື່ນໆພ້ອມກັບ PyTorch ໃນ RAM ແລະບ່ອນເກັບຂໍ້ມູນຂອງເຊີເວີ.
ທຸກໆ VPS.org ເຊີເວີມາພ້ອມກັບ root SSH ເຂົ້າເຖິງເຕັມ, ດັ່ງນັ້ນທ່ານສາມາດຕິດຕັ້ງ drivers, library ແລະ PyTorch ຕາມທີ່ທ່ານຕ້ອງການ.
ບໍ່. ບໍ່ມີເຄື່ອງເຊີຟເວີມາພ້ອມກັບເວລາແລ່ນຂອງ CUDA ຫຼືເຄື່ອງຂັບລົດ NVIDIA ທີ່ໄດ້ຕິດຕັ້ງກ່ອນແລ້ວ, ແລະເຄື່ອງເຊີຟເວີ GPU ຍັງບໍ່ມີໃຫ້ສັ່ງຊື້ເທື່ອ. ທ່ານໄດ້ຕິດຕັ້ງເວີຊັນ PyTorch ຕ້ອງການຕົວທ່ານເອງ.
ຍິນດີ. ເຊີເວີ VPS.org ແມ່ນເຄື່ອງ virtual ທີ່ມີຢູ່, ບໍ່ແມ່ນຕົວຢ່າງທີ່ບໍ່ມີເວລາ: ແບບ PyTorch, ຕັ້ງຄ່າແລະຂໍ້ມູນຢູ່ເທິງ SSD ຂອງເຊີເວີຈົນກວ່າທ່ານຈະລຶບພວກມັນ.
ຮັກສາຂໍ້ມູນເຮັດວຽກຢູ່ໃນ SSD ຂອງເຊີບເວີສໍາລັບການເຂົ້າເຖິງໄວໃນໄລຍະ PyTorch ແລ່ນ, ແລະຄັດລອກ artifacts ສໍາເລັດ (ນໍ້າໜັກ, ເຊື້ອຊາດ, embeddings) ໄປເກັບຮັກສານອກ VPS.org; snapshots ແລະ backups ຢູ່ໃນ cluster ເກັບຮັກສາດຽວກັນ.
ທ່ານສາມາດອັບເດດເຊີບເວີ VPS.org ໃດໆໄປເປັນແຜນທີ່ໃຫຍ່ກວ່າຈາກແຜງຄວບຄຸມ; ການປ່ຽນຂະໜາດຈະເລີ່ມຕົ້ນມັນຄືນໃໝ່ ແລະ ການຕິດຕັ້ງ PyTorch ຂອງທ່ານຈະນຳໄປໃຊ້ຕໍ່ໄປ. ເຊີບເວີ GPU ຍັງບໍ່ມີຢູ່ເທື່ອ.
ຍິນດີຕ້ອນຮັບ. バックອັບແມ່ນຈ່າຍ add-on (ທຸກໆມື້ +30% ຂອງລາຄາແຜນ, ຮັກສາ7ມື້; ອາທິດ +20%, ຮັກສາ 28 ວັນ) ແລະ snapshots ແມ່ນຟຣີ, ເຊິ່ງແມ່ນມີປະໂຫຍດກ່ອນທີ່ຈະ PyTorch ຍາວແລ່ນ. ທັງສອງຢູ່ທີ່ cluster ເກັບຮັກສາດຽວກັນກັບເຄື່ອງແມ່ຂ່າຍ.
ຕິດຕໍ່ສະຫນັບສະຫນູນພາຍໃນ 30 ມື້ຂອງການຊື້ຄັ້ງທໍາອິດຂອງທ່ານເພື່ອຂໍໃຫ້ມີການຊໍາລະຄືນ. ເຊີເວີ GPU ຍັງບໍ່ທັນໄດ້ຂາຍ, ສະນັ້ນບໍ່ມີຄໍາສັ່ງ GPU ກ່ຽວຂ້ອງ.
ຄວາມສາມາດຂອງ GPU ແມ່ນມີຈໍາກັດ. ບອກພວກເຮົາກ່ຽວກັບຄວາມກົດດັນຂອງວຽກຂອງທ່ານແລະພວກເຮົາຈະຕອບກັບຄວາມສາມາດແລະລາຄາ.