Ako želite maksimalno iskoristiti svoj GPU na Windowsu, instaliranje CUDA-e je ključni korak za ubrzavanje proračuna i AI radnih procesa i paralelnog računarstva; u ovom vodiču ćete pronaći kompletan i ažuriran pregled zahtjeva, instalacije, verifikacije i rješavanja problema, sa posebnim napomenama za okruženja kao što su Visual Studio, Conda, pip i WSL. Cilj je da možete glatko započeti. i sa najboljim praksama od prvog minuta.
Iako je instalacija jednostavna, postoje važne nijanse: kompatibilne verzije Windowsa i Visual Studija, model drajvera na kojem radi vaš GPU, provjera sa službenim primjerima i činjenica da, počevši od CUDA 13, NVIDIA drajver više nije uključen u instalacijski program Toolkit-a. Objašnjavamo svaki detalj korak po korak., uključujući alternativne opcije kao što su Conda, pip i WSL, te studiju slučaja iz stvarnog svijeta o tipičnoj grešci u laptopima s hibridnim GPU-om.
Šta je CUDA i zašto biste je trebali instalirati?
CUDA je platforma i model za NVIDIA programiranje za paralelno računanje, dizajnirano za ubrzavanje intenzivnih zadataka korištenjem GPU-a. Omogućava pisanje C/C++ koda sa minimalnim ekstenzijama da se fokusirate na paralelizaciju svojih algoritama bez gubitka u implementaciji.
Model podržava heterogeno računarstvo: dijelove serials Oni se izvršavaju na CPU-u, a paralelni dijelovi se šalju na GPU, sa odvojenim memorijskim prostorima i istovremenim izvršavanjem. Ovo olakšava postepeno usvajanje CUDA-e. u postojećim aplikacijama bez radikalnog refaktorisanja.
CUDA-kompatibilni GPU-ovi uključuju stotine jezgara sposobnih za obradu hiljada niti, dijeljenje resursa kao što su registri i dijeljena memorija na čipu. Ova dijeljena memorija smanjuje korištenje sistemske memorijske magistrale.To rezultira značajnim poboljšanjima performansi kada je pristup podacima dobro orkestriran.
Sistemski zahtjevi Windowsa za instaliranje CUDA-e
Za korištenje CUDA-e na Windowsu potreban vam je kompatibilan operativni sistem i grafička kartica koja podržava CUDA-u. Uvijek provjerite kompatibilnost prije instalacije kako biste izbjegli kasnije probleme.
Podržani Windows sistemi (relevantni primjeri): Windows 11 24H2, 23H2 i 22H2-SV2; Windows 10 22H2; Windows Server 2022 i 2025. Ove verzije pokrivaju osnovu kućnih i serverskih instalacija. uobičajenije u današnje vrijeme.
Kompatibilnost kompajlera/IDE-a: Visual Studio 2022 (MSVC 193x) i Visual Studio 2019 (MSVC 192x) sa C++11/14/17/20 dijalektima, ovisno o verziji. VS 2015 je zastario od CUDA 11.1, a VS 2017 od 12.5 (uklonjen u 13.0)Dakle, prilagodite svoje projekte trenutnim verzijama.
Važno u vezi s 32-bitnim sistemima: 32-bitna kompilacija je uklonjena iz CUDA Toolkit-a počevši od verzije 12.0. 32-bitne x86 binarne datoteke aplikacija mogu se pokretati na GeForce GPU-ima do Ada procesora.Hopper više ne podržava 32 bita, a Ada će biti posljednja arhitektura s podrškom za drajvere za 32-bitne aplikacije.
Hardverski zahtjevi za određene radne procese (npr. Model Builder sa klasifikacijom slika): najmanje jedan CUDA-kompatibilan GPU i 6 GB namjenske memorije. U scenarijima dubokog učenja, GPU pravi razliku. u vremenu obuke, iako postoji izvršavanje na CPU-u sa mnogo dužim vremenima.
Preliminarne pripreme za instalaciju CUDA-e i preuzimanja
Potvrdite da imate CUDA-kompatibilnu GPU. U Windows Device Manageru, pod "Display adapters", vidjet ćete model; ako se pojavljuje na službenoj NVIDIA listi, kompatibilan je. Također možete provjeriti svoj GPU iz Postavki ili Upravitelja zadataka prateći jednostavne sistemske rute.
Preuzmite NVIDIA CUDA Toolkit sa službene web stranice. Postoje dva formata: Network Installer (minimalno preuzimanje koje preuzima odabrane pakete tokom instalacije) i Full Installer (uključuje sve komponente, idealan za računare bez pristupa internetu ili za poslovne implementacije). Provjerite preuzimanje upoređivanjem MD5 kontrolne sume kako biste bili sigurni da instalacijski program nije oštećen.
Počevši od CUDA 13, NVIDIA drajver više nije uključen u Toolkit. Morat ćete instalirati ili ažurirati drajver odvojeno sa stranice NVIDIA drajvera ili putem GeForce Experience. Bez odgovarajućeg upravljačkog programa, hardver neće ispravno komunicirati s Toolkitom..
Ako radite sa specifičnim scenarijima kao što je klasifikacija slika pomoću Model Buildera, postoje specifični zahtjevi za verzije: CUDA 10.1 i cuDNN 7.6.4 za CUDA 10.1. Ne možete imati instalirano više verzija cuDNN-a istovremeno; nakon što raspakujete ZIP datoteku cuDNN 7.6.4, kopirajte cudnn64_7.dll u CUDA v10.1 bin mapu. Ovaj slučaj je specifičan za taj alat i verziju.ne iz generičke moderne CUDA instalacije.
Instalirajte CUDA Toolkit na Windowsu
Grafička instalacija: pokrenite instalacijski program i slijedite upute na ekranu. To je najdirektnija i preporučena opcija za većinu korisnika..
Tiha instalacija: Instalacijski program možete pokrenuti s parametrom -s i dodati parametre za instaliranje određenih podpaketa. Koristite -n ako ne želite automatsko ponovno pokretanje nakon instalacije ili deinstalacije. Ovaj pristup je koristan u automatizaciji i korporativnim implementacijama..
Ručno izdvajanje: Ako trebate pregledati ili izdvojiti datoteke (na primjer, za implementaciju u preduzeću), raspakirajte cijeli paket pomoću 7-Zip ili WinZip (korištenjem LZMA). Datoteke Toolkit-a će se nalaziti u CUDAToolkit, a datoteke za integraciju sa Visual Studiom će biti u zasebnoj mapi. Ignorišite .dll i .nvi datoteke iz tih raspakiranih foldera, nisu dio ugradivih elemenata.
Deinstalacija: Sve podpakete možete ukloniti iz Kontrolne ploče > Programi i funkcije. Održavajte sistem čistim ako mijenjate verzije kako bi se izbjegli sukobi s rutama ili starim rekvizitima.
Uobičajene komponente Toolkit-a po podpaketima (najistaknutiji primjeri): cublas_13.0 i cublas_dev_13.0, crt_13.0, ctadvisor_13.0, cuda_profiler_api_13.0, cudart_13.0, cufft_13.0 i cufft_dev_13.0, cuobjdump_13.0, cupti_13.0, curand_13.0 i curand_dev_13.0, cusolver_13.0 i cusolver_dev_13.0, cusparse_13.0 i cusparse_dev_13.0, cuxxfilt_13.0, documentation_13.0, nsight_compute_13.0, nsight_systems_13.0, nsight_vse_13.0, npp_13.0 i npp_dev_13.0, nvcc_13.0, nvdisasm_13.0, nvfatbin_13.0, nvjitlink_13.0, nvjpeg_13.0 i nvjpeg_dev_13.0, nvml_dev_13.0, nvprune_13.0, nvrtc_13.0 i nvrtc_dev_13.0, nvtx_13.0, nvvm_13.0, nvptxcompiler_13.0, occupational_calculator_13.0, opencl_13.0, sanitizer_13.0, thrust_13.0 i visual_studio_integration_13.0. Instalacijski program vam omogućava da odaberete tačno koje pakete želite.
Instalirajte CUDA sa Condom i Pipom (Python)
Conda: NVIDIA objavljuje Toolkit pakete na Anacondi (anaconda.org/nvidia). Pomoću jedne komande možete instalirati sve osnovne Toolkit komponente; također možete deinstalirati pomoću druge komande i instalirati starije verzije navođenjem oznake izdanja (na primjer, 11.3.1). To je praktičan način za izolaciju okruženja i reproducirati postavke.
NVIDIA distribuira wheels za instaliranje CUDA-e preko pip-a, namijenjenog za korištenje tokom izvođenja s Pythonom (alati za razvoj nisu uključeni). Prvo, instalirajte nvidia-pyindex kako bi pip mogao slati upite NVIDIA NGC PyPI repozitoriju; ako koristite requirements.txt, možete dodati odgovarajuću liniju da biste ovo automatizirali. Kod ove metode, morat ćete zasebno konfigurirati okruženje hosta. ako planirate instalirati CUDA izvan pip okruženja.
Uobičajeni pip metapaketi za Windows (instalirajte najnoviju verziju komponente unutar naznačene grane): nvidia-cublas-cu12, nvidia-cuda-cccl-cu12, nvidia-cuda-cupti-cu12, nvidia-cuda-nvcc-cu12, nvidia-cuda-nvrtc-cu12, nvidia-cuda-opencl-cu12, nvidia-cuda-runtime-cu12, nvidia-cuda-sanitizer-api-cu12, nvidia-cufft-cu12, nvidia-curand-cu12, nvidia-cusolver-cu12, nvidia-cusparse-cu12, nvidia-npp-cu12, nvidia-nvfatbin-cu12, nvidia-nvjitlink-cu12, nvidia-nvjpeg-cu12, nvidia-nvml-dev-cu12 i nvidia-nvtx-cu12. Postoje i varijante cu129 kao što su nvidia-cublas-cu129, nvidia-cuda-nvrtc-cu129, itd., koji ukazuju na izdanja označena u toj grani.
Model kontrolera: WDDM i TCC
U Windowsu 10 i novijim verzijama postoje dva modela drajvera: WDDM (za uređaje za prikaz) i TCC (Tesla Compute Cluster, za GPU-ove koji nisu namijenjeni za prikaz, kao što su Tesla ili GeForce GTX Titan). Možete provjeriti i promijeniti način rada pomoću alata nvidia-smi, uključen u instalaciju upravljačkog programa.
Provjerite instalaciju
Provjerite verziju Toolkita pomoću nvcc -V u prozoru komandne linije. Ovo potvrđuje da je CUDA kompajler dostupan putem PATH-a. i da je instalacija ispravno registrovana.
Klonirajte CUDA primjere (https://github.com/nvidia/cuda-samples), kompajlirajte ih i pokrenite slijedeći upute u repozitoriju. Preporučuje se kompajliranje i pokretanje primjera deviceQuery kako biste provjerili je li uređaj detektiran i prolazi li test. Ako je sve ispravno, program će prikazati vašu grafičku karticu i status "Test PASSED" (Test PASSED)..
Također pokrenite bandwidthTest (nalazi se pored deviceQuery) kako biste potvrdili performanse i komunikaciju s GPU-om. Naziv uređaja i brojevi propusnosti će varirati, ali važno je da pronađe GPU i da svi testovi prođu. Ako ne uspiju, provjerite instalaciju upravljačkog programa i uređaja. s Upraviteljem uređaja.
Integracija sa Visual Studiom i projektima
Primjeri projekata pružaju rješenja za Visual Studio 2019 i 2022 s konfiguracijama za izdanje (Release) i otklanjanje grešaka (Debug). Ako odaberete zadanu putanju, rezultirajuća binarna datoteka se obično nalazi u CUDA Samples\v13.0\bin\win64\Release (prilagođeno vašoj verziji). Kompajlirajte i pokrenite izvršne datoteke iz VS-a ili iz komandne linije.
Instalacijski program smješta datoteke za prilagođavanje izgradnje (.props) u VS putanje: na primjer, za VS 2019 u C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations, a za VS 2022 u ekvivalentnu putanju v170. Ovo omogućava CUDA šablone i pravila za izgradnju u vašem IDE-u..
Za nove projekte: Datoteka > Novo > Projekat… odaberite NVIDIA > CUDA i odaberite svoj Toolkit predložak (na primjer, „CUDA 13.0 Runtime“). To je unaprijed konfigurirani C++ projekat (.vcxproj) s NVIDIA prilagođavanjima. Možete odrediti prilagođenu putanju Toolkit-a u CUDA C/C++ > Commonpazeći da se podudara s verzijom prilagodbi.
Za postojeće projekte: dodajte prilagodbu izgradnje iz "Build Dependencies > Build Customizations…", odaberite CUDA verziju koju ćete koristiti ili pokažite na $(CUDA_PATH) da biste uvijek koristili najnoviju instaliranu verziju. Korištenje $(CUDA_PATH) je praktično, ali odabir eksplicitne verzije osigurava da vidite nove opcije konfiguracije. kada promijenite Toolkit.
Provjerite da li $(CUDA_PATH) ukazuje na ispravnu mapu nakon instaliranja ili deinstaliranja Toolkits-a. Otvorite prozor Environment Variables iz menija Start, kartica Advanced. Bilo kakva neskladnost ovdje može poremetiti kompilaciju zbog nepronalaženja ispravnih zaglavlja ili rekvizita.
Datoteke koje sadrže CUDA kod moraju biti označene kao "CUDA C/C++". Prilikom dodavanja nove datoteke, koristite "NVIDIA CUDA 13.0\Code CUDA C/C++ File" kako biste osigurali da usvoji odgovarajuća svojstva. Ovo osigurava da se NVCC i pravila vezivanja primjenjuju automatski..
CUDA na WSL-u (Windows podsistem za Linux)
Windows 11 i najnovija ažuriranja za Windows 10 podržavaju pokretanje ML okvira poput PyTorch i TensorFlow s NVIDIA CUDA ubrzanjem unutar WSL-a, uključujući Docker i NVIDIA Container Toolkit, kao da je u pitanju izvorni Linux. To je odlična alternativa ako preferirate Linux ekosistem bez napuštanja Windowsa..
Preliminarni korak: Instalirajte Windows 11 ili Windows 10 verziju 21H2 (ili noviju) da biste pristupili ovim mogućnostima. Što je kernel noviji, to je bolja podrška za kernel i drajvere..
Instalirajte CUDA-omogućeni GPU drajver u WSL (pogledajte stranicu s NVIDIA drajverima da biste odabrali ispravan). Zatim omogućite WSL i instalirajte distribuciju zasnovanu na glibc-u kao što je Ubuntu ili Debian. Provjerite da li imate verziju kernela 5.10.43.3 ili noviju; to možete provjeriti iz PowerShella pomoću: `wsl cat /proc/version`. Bez tog kernela, nećete imati potrebnu podršku za CUDA stek u WSL-u..
Kada budete spremni, slijedite korisnički vodič za NVIDIA CUDA u WSL-u i koristite NVIDIA Docker ili instalirajte PyTorch/TensorFlow unutar WSL-a za vaše uobičajene Linux tokove. Ako vam je potrebna dodatna pomoć, NVIDIA zajednica ima namjenske CUDA forume na WSL-u..
Rješavanje uobičajenih problema prilikom instaliranja CUDA-e
Nemate lokalni GPU? Scenariji dubokog učenja se izvode mnogo brže s GPU-om. Neki, poput klasifikacije slika, podržavaju obuku na GPU virtualnim mašinama u Azureu. Ako nema lokalnog ili oblačnog GPU-a, možete trenirati na CPU-u.Ali vremena vrtoglavo napreduju.
Kako da vidim koju grafičku karticu imam? Iz Postavki: kliknite desnim tasterom miša na Start > Postavke > Sistem > Ekran > Povezane postavke > Napredni ekran, i tamo ćete videti marku i model pod "Informacije o ekranu". Iz Upravitelja zadataka: Performanse > GPU također prikazuje model i metrike.
Da li se vaša grafička kartica ne prikazuje u Postavkama ili Upravitelju zadataka? Otvorite Upravitelj uređaja, pogledajte pod Grafički adapteri i instalirajte odgovarajući upravljački program ako nije prepoznat. Bez ispravnog upravljačkog programa, Windows može prikazati GPU kao generički. ili ga čak ni ne navesti.
Koju verziju CUDA-e imate? Otvorite PowerShell ili CMD i pokrenite nvcc –version. Ova naredba vraća verziju instaliranog NVCC kompajlera. i vodi vas kroz to koji je Toolkit aktivan u PATH-u.
Da li je CUDA nedostupan ili imate problema sa drajverima? Otvorite GeForce Experience da provjerite ima li ažuriranja. Ako se ne pojave, posjetite stranicu NVIDIA Drivers i preuzmite najnoviju verziju. Instalirajte najnoviji drajver kompatibilan s vašom grafičkom karticom i ponovo pokrenite ako je potrebno.
Tipična studija slučaja kod laptopa sa hibridnim GPU-om
Zamislite laptop poput Lenovo Ideapad-a sa AMD Ryzen CPU-om, NVIDIA GeForce GTX i integrisanom AMD Radeon GPU-om. Kada pokrenete nvidia-smi, možete vidjeti nešto poput "Verzija drajvera: 526.56, CUDA verzija: 12.0" i imati problema sa instaliranjem Toolkits-a kao što su 12.8 ili 11.8. Šta se dešava?
Imajte na umu da, počevši od CUDA 13, drajver više nije uključen u Toolkit i da i drajver i Toolkit moraju biti kompatibilni. Ažurirajte svoj NVIDIA drajver na najnoviju verziju dostupnu za vaš GPU sa službene web stranice ili koristeći GeForce Experience, izvršite čistu instalaciju i ponovo pokrenite računar. Također provjerite da li aplikacije koriste NVIDIA GPU, a ne integrirani. (Profil visokih performansi u postavkama grafike sustava Windows ili kontrolnoj ploči NVIDIA).
Također provjerite da li je Visual Studio kompatibilna verzija, da li $(CUDA_PATH) ukazuje na ispravan Toolkit i da li u vašem PATH-u nema ostataka starih instalacija. Kompajlirajte i pokrenite deviceQuery i bandwidthTest: ako prođu, vaše okruženje je u redu. Ako problemi i dalje postoje, provjerite način rada upravljačkog programa (WDDM/TCC sa nvidia-smi) i testirajte iz VS konzole da biste naslijedili odgovarajuće varijable okruženja.
Dobre prakse za provjeru i održavanje vašeg okruženja
Prije nego što se upustite u složene projekte, uvijek ih provjerite sa službenim uzorcima. Oni su najbrži način za izoliranje problema s instalacijom. suočeni s greškama u našem vlastitom kodu.
Kada mijenjate Toolkit, potvrdite putanje i svojstva u Visual Studiju i varijablu $(CUDA_PATH). Manje neusklađenosti verzija mogu uzrokovati greške pri kompajliranju ili povezivanju teško dijagnosticirati.
Za poslovne implementacije, potpuni instalator i tiha instalacija s -sy -n štede vam vrijeme. Dokumentujte podpakete koji su vam zapravo potrebni kako bi se održale lagane i ponovljive instalacije.
Obavještenja, licence i zaštitni znakovi prilikom instaliranja CUDA-e
NVIDIA dokumentacija i materijali se pružaju u informativne svrhe "kakvi jesu" bez ikakvih izričitih ili implicitnih garancija o prodajnosti, pogodnosti za određenu svrhu ili nekršenju autorskih prava. NVIDIA može izmijeniti sadržaj bez prethodne najave. i ne preuzima nikakvu odgovornost za greške ili za korištenje informacija.
Kupovina NVIDIA proizvoda regulisana je njihovim Uslovima prodaje; samim pristupom dokumentaciji ne nastaju nikakve ugovorne obaveze. Neke primjene (medicinske, vojne, aeronautičke, svemirske, održavanje života) nisu odobrene i njegova upotreba je isključiva odgovornost klijenta.
Za određene navedene upotrebe mogu biti potrebne licence trećih strana. Reprodukcija informacija zahtijeva prethodno pismeno odobrenje kompanije NVIDIA, bez izmjena i u skladu sa zakonima o izvozu. NVIDIA ne garantuje da su proizvodi pogodni za određenu upotrebu.Odgovornost je kupca da procijeni i testira.
OpenCL je zaštitni znak kompanije Apple Inc., koji Khronos Group koristi pod licencom. NVIDIA i njen logotip su zaštitni znakovi registrovani u SAD-u i drugim zemljama; ostali zaštitni znakovi su vlasništvo njihovih vlasnika. Uvijek poštujte smjernice za brend i licenciranje preraspodjelom ili integracijom materijala.
Sada razumijete šta je CUDA, šta je potrebno vašem sistemu, kako ga instalirati pomoću klasičnog instalera, Conde ili pipa, kako ga provjeriti službenim primjerima, kako ga integrirati u Visual Studio, kako ga koristiti unutar WSL-a i kako riješiti tipične probleme s drajverima ili hibridnim GPU-ovima; uz pomoć ovih koraka, Vaše Windows okruženje će biti spremno za ubrzanje vaših GPU projekata. pouzdano. Podijelite informacije i pomozite drugim korisnicima da instaliraju CUDA na Windows.