Ea li-notebooks tsa Jupyter ka NVIDIA Tesla P40 (24 GB VRAM, moralo oa Pascal) bakeng sa litsebi tsa data tse ikhethileng le mosebetsi oa ML. Liserver tsa GPU ha li ka oela; ikopanye le rona ho tsebisoa ha li le teng.
$ pip install jupyterlab torch && jupyter lab --ip=0.0.0.0 --allow-root
# Mohlala oa molaoli oa ho kenya
Libuka tsa Jupyter tse nang le setsi sa GPU li u fa tikoloho e ikhethileng moo li-cells tsa libuka li ka sebelisang GPU. E molemo bakeng sa liteko le ho etsa litokomane tsa mohlala.
Senya GPU ho tloha li-cells tsa notebook ha CUDA le framework ea hau e kenngoa.
JupyterLab le terminal, mohlophisi oa lifaele le li-extensions.
U kenya PyTorch, TensorFlow, scikit-learn, pandas le seo u se hlokang.
Fumana libuka tsa hau tsa mehopolo ho tloha ho sebatli; li sireletsehe ka token, password kapa SSH tunnel.
Jupyter e ka sebelisa NVIDIA GPU ho potlakisa mosebetsi oa eona. VPS.org GPU servers ha li fumanehe ho rekisoa; ikopanya le rona ho tseba ha li le teng. Jupyter ke mosebetsi o potlakileng oa GPU. Qetellong, etsa bonnete ba hore software ea hau e na le CUDA e tšehelitsoeng le hore driver / runtime e lumellana le litlhoko tsa mosebetsi oa Jupyter.
Li-server tsa GPU ha li fumanehe ho rekisoa. Kajeno u ka kenya Jupyter ka qeto ea CPU e tloaelehileng, moo e sebetsang ka potlako ho feta GPU: SSH kahare'me u kenya pip install jupyterlab torch && jupyter lab --ip=0.0.0.0 --allow-root.
Litakatso tsa VRAM tsa Jupyter li itšetlehile ka mofuta le boholo ba batch; bona litokomane tsa projeke bakeng sa lipalo tsa hona joale.
The GPU priceing e tla phatlalatsoa ha li-server tsa GPU li ka rekisoa. Ikopanye le rona haeba u batla ho tseba ha e etsahala.
Ha ho joalo. Motsamaisi VPS.org o mong le o mong o na le ho kena ka ho feletseng ho root, ka hona o ka kenya lisebelisoa tse ling hammoho le Jupyter ka RAM ea motsamaisi le polokelo.
Motsamaisi oa VPS.org o ka fumana ho kena ka SSH root, ka hona o ka kenya drivers, libs le Jupyter leha o hloka.
Ha ho server e nang le CUDA runtime kapa NVIDIA driver e kentsoeng pele, le servers tsa GPU ha li fumanehe ho rekisoa. U kenya li-versions Jupyter li hloka ho u sebeletsa.
Ha ho joalo. Li-server tsa VPS.org ke li-virtual machines tse tsoelang pele, eseng li-instantane tse sa feleng: li-models tsa Jupyter, li-configurations le data li lula ho SSD storage ea server ho fihlela u li tlosa.
E boloka data e sebetsang ka SSD ea mosebeletsi bakeng sa ho kena ka potlako nakong ea Jupyter e tsamaeang, le ho kopitsa artifacts e felile (mafura, li-generations, embeddings) ho boloka ka ntle ho VPS.org; snapshots le backups ba lula ka ho boloka cluster e tšoanang.
U ka ntlafatsa mosebedisi leha e le ofe oa VPS.org ho ea ka qeto e kholo ho tloha paneleng ea taolo; ho fetola boholo ho e qala hape'me ho kenya Jupyter ho e nka. Mosebedisi oa GPU ha o fumanehe.
Ee. Backups ke ho lefa add-on (ka letsatsi + 30% ea theko ea qeto, e bolokiloe 7 letsatsi; beke le beke + 20%, e bolokiloe 28 letsatsi) le snapshots ke mahala, e leng molemo pele Jupyter e telele e tsamaea. Bothata ba lula ka ho tšoanang ho boloka cluster joaloka server.
Ikopanye le ts'ehetso ka matsatsi a 30 a ho reka ho qala ho kopa ho khutlisa. Liserver tsa GPU ha li romelloe, ka hona ha ho na taelo ea GPU e amanang.
GPU e na le bokhoni bo fokolang. Re bolella ka boima ba mosebetsi oa hau'me re tla u araba ka ho fumaneha le theko.