Ubuntu’s CUDA ja cuDNN versiooni kontroll: Samm-sammult juhend NVIDIA GPU jaoks

1. Sissejuhatus

CUDA (Compute Unified Device Architecture) on NVIDIA poolt välja töötatud paralleelarvutuse platvorm, mis kasutab GPU-d. Seda kasutatakse laialdaselt masinõppes, süvaõppes ja 3D-renderdamisel ning muudes arvutusmahukates protsessides.

Ubuntu keskkonnas on CUDA versiooni kontrollimine oluline järgmistel põhjustel.

Ühilduvus draiveritega

CUDA töötab ainult kindlate NVIDIA draiveri versioonidega; kui ühilduvus puudub, ei pruugi see korralikult töötada.

Teekide ühilduvus

Näiteks TensorFlow ja PyTorch vajavad konkreetseid CUDA ja cuDNN versioone, mistõttu tuleb veenduda, et sul on sobiv versioon paigaldatud.

Keskkonna segaduse vältimine

Kui süsteemis on mitu CUDA versiooni, pead teadma, milline neist on aktiivne, ning vajadusel seda vahetama.

Selles artiklis selgitame arusaadavalt, kuidas kontrollida CUDA versiooni Ubuntu keskkonnas.

2. Kuidas kontrollida CUDA versiooni Ubuntu’s

Ubuntu’s saad CUDA versiooni kontrollida järgmistel viisidel.

Meetod 1: nvidia-smi käsuga kontrollimine (lihtsaim viis)

NVIDIA draiver sisaldab tööriista nvidia-smi (NVIDIA System Management Interface), millega saab kontrollida GPU olekut.

Käsu näide

nvidia-smi

Väljundi näide

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 530.41.03    Driver Version: 530.41.03    CUDA Version: 12.1     |
+-----------------------------------------------------------------------------+

Olulised punktid

• CUDA Version: 12.1 näitab NVIDIA draiveri poolt toetatava suurima CUDA versiooni.
• Tegelikult paigaldatud CUDA toolkit’i versioon võib erineda, seega soovitame kontrollida ka järgmisi meetodeid.

Meetod 2: nvcc -V käsuga kontrollimine (arendajatele)

Kui CUDA on õigesti paigaldatud, saad nvcc (CUDA kompilaator) versiooni kontrollida.

Käsu näide

nvcc -V

Väljundi näide

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Sun_Jul_30_19:09:40_PDT_2023
Cuda compilation tools, release 12.1, V12.1.105

Olulised punktid

• release 12.1, V12.1.105 → Tegelikult paigaldatud CUDA toolkit’i versioon.
• nvidia-smi ja nvcc -V tulemused võivad erineda, seega kontrolli mõlemat.

Meetod 3: version.txt failist kontrollimine (käsitsi)

Kui CUDA on paigaldatud kataloogi /usr/local/cuda, leiad versiooni info failist version.txt.

Käsu näide

cat /usr/local/cuda/version.txt

Väljundi näide

CUDA Version 12.1.105

Olulised punktid

• Võimalik kasutada ka siis, kui nvcc -V pole saadaval.
• Veendu, et /usr/local/cuda on õigesti sümboolselt lingitud.

3. Kuidas kontrollida cuDNN versiooni

cuDNN (CUDA Deep Neural Network) on teek süvaõppeks, mida kasutatakse koos CUDA-ga.
Lisaks CUDA versioonile on oluline kontrollida ka cuDNN versiooni.

Meetod 1: Kontrolli cudnn_version.h faili

cuDNN versioon on kirjas päisefailis cudnn_version.h.

Käsu näide

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

Väljundi näide

#define CUDNN_MAJOR 8
#define CUDNN_MINOR 9
#define CUDNN_PATCHLEVEL 1

Olulised punktid

• Näide: cuDNN 8.9.1 on paigaldatud.
• Kasuta grep käsku, et versioon kiiresti leida.
• cuDNN ja CUDA peavad olema omavahel ühilduvad; kontrolli alati sobivust.

Meetod 2: Kontrolli dpkg käsuga (ainult Debian-põhised Linuxid)

Debianil põhinevates süsteemides nagu Ubuntu saad kontrollida paigaldatud cuDNN versiooni käsuga dpkg.

Käsu näide

dpkg -l | grep libcudnn

Väljundi näide

ii  libcudnn8    8.9.1-1+cuda12.1    amd64    NVIDIA cuDNN Library

Olulised punktid

• Versioon 8.9.1 ja sellele vastav CUDA versioon 12.1 on näha paketis.

Kasuta neid meetodeid, et veenduda oma CUDA keskkonna õiges seadistuses.

4. Mida teha, kui mitu CUDA versiooni on paigaldatud?

Ubuntu’s on võimalik paigaldada mitu CUDA versiooni, kuid sellisel juhul võib tekkida segadus, milline neist on aktiivne.
Siis tuleb vajadusel õige versioon valida või aktiveerida.

Meetod 1: Kasuta update-alternatives utiliiti

Ubuntu võimaldab update-alternatives abil vahetada CUDA versiooni.

Kontrolli praegust seadet

update-alternatives --query cuda

Vaheta versiooni

sudo update-alternatives --config cuda

Väljundi näide

There are 3 choices for the alternative cuda (providing /usr/local/cuda).

  Selection    Path                Priority   Status
------------------------------------------------------------
* 0            /usr/local/cuda-11.8  100       auto mode
  1            /usr/local/cuda-10.2  50        manual mode
  2            /usr/local/cuda-11.8  100       manual mode
  3            /usr/local/cuda-12.1  110       manual mode

Press <enter> to keep the current choice[*], or type selection number:

Olulised punktid

• update-alternatives --config cuda näitab saadaolevaid versioone.
• Vali sobiv number, et muuta aktiivset CUDA versiooni.
• auto mode ja manual mode: käsitsi vahetamisel vali manual.

Meetod 2: Sea sümboolne link käsitsi

Samuti võid muuta sümboolse lingi, et aktiveerida soovitud CUDA versioon.

Kontrolli sümboolset linki

ls -l /usr/local/cuda

Väljundi näide

lrwxrwxrwx 1 root root 20 Feb  1 12:34 /usr/local/cuda -> /usr/local/cuda-11.8

Muuda CUDA versiooni

sudo rm /usr/local/cuda
sudo ln -s /usr/local/cuda-12.1 /usr/local/cuda

Kontrolli üle

ls -l /usr/local/cuda

Olulised punktid

• /usr/local/cuda on vaikimisi CUDA tee – selle muutmisega vahetad aktiivse versiooni.
• Kasuta ln -s, et siduda uus versioon kiiresti.

Nende meetoditega saad lihtsalt valida, millist CUDA versiooni kasutada, kui mitu on paigaldatud.

5. Korduma kippuvad küsimused (KKK)

Siin on vastused sagedamini esitatavatele küsimustele CUDA versiooni kontrollimise kohta.

K1: nvcc -V käsku ei leitud!

Kui nvcc käsk ei tööta, võib CUDA tee olla seadistamata.

Lahendus 1: Kontrolli, kas CUDA on paigaldatud

ls /usr/local/cuda/

Lahendus 2: Lisa nvcc PATH-i

export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

Seejärel käivita nvcc -V ja kontrolli, kas versioon kuvatakse õigesti.

K2: Miks nvidia-smi näitab teist CUDA versiooni kui tegelikult?

nvidia-smi kuvab NVIDIA draiveri poolt toetatava suurima CUDA versiooni.

Kontrolli:

nvidia-smi

Näide:

CUDA Version: 12.1

Aga tegeliku paigaldatud CUDA versiooni nägemiseks kasuta nvcc -V või version.txt.

K3: Kuidas kontrollida CUDA ja cuDNN ühilduvust?

Parim viis on vaadata NVIDIA ametlikku tugimaatriksit.

Ametlik leht:

NVIDIA cuDNN Support Matrix

Lisaks kontrolli paigaldatud versioone järgmiste käskudega:

Kontrolli CUDA versiooni

nvcc -V

Kontrolli cuDNN versiooni

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

Nii saad kindel olla, et keskkond töötab probleemideta.

6. Kokkuvõte

Selles artiklis selgitasime üksikasjalikult, kuidas kontrollida CUDA versiooni Ubuntu’s.
Tuletame meelde olulisemad punktid.

CUDA versiooni kontrolli meetodid

cuDNN versiooni kontrolli meetodid

CUDA versiooni vahetamise meetodid

Kokkuvõtte punktid

• Oluline on teada, milline CUDA versioon on aktiivne
• Kontrolli alati ühilduvust cuDNN-iga ja kasuta õigeid kombinatsioone
• Mitu CUDA versiooni kasutades oska neid õigesti vahetada

Korralikult hallatud keskkond võimaldab sul CUDA võimalusi täielikult ära kasutada.
Loodan, et see artikkel aitab sul Ubuntu keskkonnas CUDA versiooni edukalt kontrollida.

Seotud artiklid

Seotud

Ubuntu’sse CUDA ja cuDNN installimine – Üksikasjalik juhend

1. Sissejuhatus CUDA (Compute Unified Device Architecture) on NVIDIA pakutav paralleelarvutusplatvorm ja API, mis võima[…]

Seotud

Kuidas hõlpsalt installida Nvidia draivereid Ubuntus | Täielik juhend

Kuidas installida Nvidia draivereid Ubuntus 1. Sissejuhatus: Miks kasutada Nvidia draivereid Ubuntus? Ubuntu paku[…]

Seotud

Ubuntu NVIDIA GPU haldamine: nvidia-smi juhend ja jõudluse optimeerimine

1. Sissejuhatus GPU tõhusal kasutamisel Ubuntus on oluline selle olekut täpselt kontrollida. Eriti süvaõppe ja graafika[…]