GPU和CPU本質上有很大的不同,CPU具有較大的緩存(cache)和較快的計算核心,可以處理較復雜的運算。然而GPU不具備這樣的條件,緩存較小且單核心計算速度也沒有CPU快,只是取而代之的GPU具有大量的計算核心(通稱CUDA Core),故其優勢在于適合進行同時間的大量運算。一顆頂級的CPU核心數量可達64核心(AMD EPYC 7H12),計算線程(Threads)達128,但低階的GPU(如Quadro P600)的核心數就有384(GPU的核心數等于計算線程數量)。 當然這不代表GPU比CPU厲害,而是表示兩者適合的計算類型不同。而GPU核心數量多的特點,也需要配合其平行化