ແລ່ນ TensorFlow ແລະ Keras ຝຶກອົບຮົມແລະ inferencing ເທິງ NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture). GPU ເຊີເວີແມ່ນຍັງບໍ່ໄດ້ສັ່ງຊື້; ຕິດຕໍ່ພວກເຮົາເພື່ອໄດ້ຮັບການແຈ້ງເຕືອນເມື່ອພວກເຂົາແມ່ນ.
$ pip install tensorflow[and-cuda]
# ຄໍາສັ່ງຕິດຕັ້ງຕົວຢ່າງ
TensorFlow ແມ່ນກອບການຮຽນຮູ້ຂອງເຄື່ອງຈັກ Open Source ຂອງ Google ສຳ ລັບການສ້າງແລະ ນຳ ໃຊ້ແບບ ຈຳ ລອງ ML. ດ້ວຍ GPU VPS, ທ່ານໄດ້ຮັບຮາດແວທີ່ອຸທິດຕົນເພື່ອເພີ່ມຄວາມໄວໃນການຝຶກອົບຮົມແລະຜົນໄດ້ຮັບໂດຍບໍ່ຕ້ອງແບ່ງປັນຊັບພະຍາກອນ.
TensorFlow ໃຊ້ GPU ຜ່ານ CUDA ເມື່ອທ່ານຕິດຕັ້ງຕົວຂັບເຄື່ອນທີ່ເໝາະສົມ ແລະ ສະບັບ CUDA.
ສ້າງແບບແບບດ້ວຍ API Keras ຢູ່ເທິງ GPU backend.
ຕິດຕາມການຝຶກຊ້ອມດ້ວຍ TensorBoard ເທິງເຊີເວີຂອງທ່ານເອງ.
ບໍລິການແບບຈໍາລອງທີ່ຮຽນຮູ້ດ້ວຍ TensorFlow Serving.
TensorFlow ສາມາດໃຊ້ NVIDIA GPU ເພື່ອເພີ່ມຄວາມໄວຂອງການເຮັດວຽກຂອງມັນ. VPS.org ບໍລິການ GPU ບໍ່ສາມາດສັ່ງໄດ້; ຕິດຕໍ່ພວກເຮົາເພື່ອຟັງເມື່ອພວກເຂົາແມ່ນ. TensorFlow ແມ່ນການຝຶກອົບຮົມ / ປັບແຕ່ງຄວາມກົດດັນຂອງວຽກ. ວາງແຜນສໍາລັບວຽກທີ່ດໍາເນີນໄປດົນ: snapshot VPS ຂອງທ່ານເປັນປົກກະຕິແລະຮັກສາສໍາເນົາຂອງນ້ໍາຫນັກຝຶກອົບຮົມນອກ VPS.org.
ບໍລິການ GPU ຍັງບໍ່ທັນມີໃຫ້ສັ່ງຊື້ເທື່ອ. ມື້ນີ້ທ່ານສາມາດແລ່ນ TensorFlow ຢູ່ໃນແຜນ CPU ປົກກະຕິ, ບ່ອນທີ່ມັນເຮັດວຽກຊ້າກວ່າ GPU: SSH ໃນແລະແລ່ນ pip install tensorflow[and-cuda].
ການປັບແຕ່ງຢ່າງເຕັມທີ່ຂອງ 7B LLM ຕ້ອງການປະມານ 24 ເຖິງ 48 GB; LoRA / QLoRA ເຂົ້າກັນໄດ້ໃນ 8 ເຖິງ 16 GB.
ລາຄາ GPU ຈະຖືກເຜີຍແຜ່ເມື່ອເຊີບເວີ GPU ສາມາດສັ່ງຊື້ໄດ້. ຕິດຕໍ່ພວກເຮົາຖ້າທ່ານຕ້ອງການຮູ້ເມື່ອມັນເກີດຂື້ນ.
ແມ່ນແລ້ວ. ທຸກໆ ເຊີເວີ VPS.org ຈະມີການເຂົ້າເຖິງ root ເຕັມ, ສະນັ້ນທ່ານສາມາດແລ່ນເຄື່ອງມືອື່ນໆພ້ອມກັບ TensorFlow ໃນ RAM ແລະບ່ອນເກັບຂໍ້ມູນຂອງເຊີເວີ.
ທຸກໆ VPS.org ເຊີເວີມາພ້ອມກັບ root SSH ເຂົ້າເຖິງເຕັມ, ດັ່ງນັ້ນທ່ານສາມາດຕິດຕັ້ງ drivers, library ແລະ TensorFlow ຕາມທີ່ທ່ານຕ້ອງການ.
ບໍ່. ບໍ່ມີເຄື່ອງເຊີຟເວີມາພ້ອມກັບເວລາແລ່ນຂອງ CUDA ຫຼືເຄື່ອງຂັບລົດ NVIDIA ທີ່ໄດ້ຕິດຕັ້ງກ່ອນແລ້ວ, ແລະເຄື່ອງເຊີຟເວີ GPU ຍັງບໍ່ມີໃຫ້ສັ່ງຊື້ເທື່ອ. ທ່ານໄດ້ຕິດຕັ້ງເວີຊັນ TensorFlow ຕ້ອງການຕົວທ່ານເອງ.
ຍິນດີ. ເຊີເວີ VPS.org ແມ່ນເຄື່ອງ virtual ທີ່ມີຢູ່, ບໍ່ແມ່ນຕົວຢ່າງທີ່ບໍ່ມີເວລາ: ແບບ TensorFlow, ຕັ້ງຄ່າແລະຂໍ້ມູນຢູ່ເທິງ SSD ຂອງເຊີເວີຈົນກວ່າທ່ານຈະລຶບພວກມັນ.
ຮັກສາຂໍ້ມູນເຮັດວຽກຢູ່ໃນ SSD ຂອງເຊີບເວີສໍາລັບການເຂົ້າເຖິງໄວໃນໄລຍະ TensorFlow ແລ່ນ, ແລະຄັດລອກ artifacts ສໍາເລັດ (ນໍ້າໜັກ, ເຊື້ອຊາດ, embeddings) ໄປເກັບຮັກສານອກ VPS.org; snapshots ແລະ backups ຢູ່ໃນ cluster ເກັບຮັກສາດຽວກັນ.
ທ່ານສາມາດອັບເດດເຊີບເວີ VPS.org ໃດໆໄປເປັນແຜນທີ່ໃຫຍ່ກວ່າຈາກແຜງຄວບຄຸມ; ການປ່ຽນຂະໜາດຈະເລີ່ມຕົ້ນມັນຄືນໃໝ່ ແລະ ການຕິດຕັ້ງ TensorFlow ຂອງທ່ານຈະນຳໄປໃຊ້ຕໍ່ໄປ. ເຊີບເວີ GPU ຍັງບໍ່ມີຢູ່ເທື່ອ.
ຍິນດີຕ້ອນຮັບ. バックອັບແມ່ນຈ່າຍ add-on (ທຸກໆມື້ +30% ຂອງລາຄາແຜນ, ຮັກສາ7ມື້; ອາທິດ +20%, ຮັກສາ 28 ວັນ) ແລະ snapshots ແມ່ນຟຣີ, ເຊິ່ງແມ່ນມີປະໂຫຍດກ່ອນທີ່ຈະ TensorFlow ຍາວແລ່ນ. ທັງສອງຢູ່ທີ່ cluster ເກັບຮັກສາດຽວກັນກັບເຄື່ອງແມ່ຂ່າຍ.
ຕິດຕໍ່ສະຫນັບສະຫນູນພາຍໃນ 30 ມື້ຂອງການຊື້ຄັ້ງທໍາອິດຂອງທ່ານເພື່ອຂໍໃຫ້ມີການຊໍາລະຄືນ. ເຊີເວີ GPU ຍັງບໍ່ທັນໄດ້ຂາຍ, ສະນັ້ນບໍ່ມີຄໍາສັ່ງ GPU ກ່ຽວຂ້ອງ.
ຄວາມສາມາດຂອງ GPU ແມ່ນມີຈໍາກັດ. ບອກພວກເຮົາກ່ຽວກັບຄວາມກົດດັນຂອງວຽກຂອງທ່ານແລະພວກເຮົາຈະຕອບກັບຄວາມສາມາດແລະລາຄາ.