所謂cuda其實(shí)就是Compute Unified Device Architecture的縮寫,它包含了 CUDA 指令集架構(gòu)(ISA)以及 GPU 內(nèi)部的并行計算引擎。 開發(fā)人員現(xiàn)在可以使用 C 語言來為 CUDA?架構(gòu)編寫程序。主流的深度學(xué)習(xí)框架也都是基于 CUDA 進(jìn)行 GPU 并行加速的,幾乎無一例外。在這個平臺上,可以使用 NV 公司提供給你的各種便捷計算工具來進(jìn)行計算,不需要你自己再來開發(fā)這些工具。
延伸知識:
CUDA存儲器類型:
1、 寄存器Register
寄存器是GPU上的高速緩存器,其基本單元是寄存器文件,每個寄存器文件大小為32bit.
Kernel中的局部(簡單類型)變量第一選擇是被分配到Register中。
特點(diǎn):每個線程私有,速度快。
2、 局部存儲器 local memory
當(dāng)register耗盡時,數(shù)據(jù)將被存儲到local memory。如果每個線程中使用了過多的寄存器,或聲明了大型結(jié)構(gòu)體或數(shù)組,或編譯器無法確定數(shù)組大小,線程的私有數(shù)據(jù)就會被分配到local memory中。
3、 共享存儲器 shared memory
可以被同一block中的所有線程讀寫,特點(diǎn):block中的線程共有;訪問共享存儲器幾乎與register一樣快。
以上就是什么是cuda,有啥用?的內(nèi)容。