詳解服務(wù)器GPU和CPU技術(shù)差異和聯(lián)系

CPU(CentralProcessingUnit，中央處理器)是機(jī)器“大腦”，完成布局策略、發(fā)號(hào)施令、控制行動(dòng)“總司令官”。CPU運(yùn)算器的結(jié)構(gòu)主要包括(ALU，ArithmeticandLogicUnit)、控制單元(CU，ControlUnit)、寄存器(Register)、高速緩存器(Cache)通信數(shù)據(jù)、控制和狀態(tài)的總線(xiàn)。

GPU(GraphicsProcessingUnit，中文是圖形處理器)，就像它的名字一樣，GPU它最初用于個(gè)人電腦、工作站、游戲機(jī)和一些移動(dòng)設(shè)備（如平板電腦、智能手機(jī)等）的微處理器。

CPU和GPU它們之所以大不相同，是因?yàn)樗鼈兊脑O(shè)計(jì)目標(biāo)不同，分別針對(duì)兩種不同的應(yīng)用場(chǎng)景。

CPU處理各種數(shù)據(jù)類(lèi)型需要很強(qiáng)的通用性，同時(shí)需要邏輯判斷，會(huì)引入大量的分支跳轉(zhuǎn)和中斷處理。這些都使得CPU內(nèi)部結(jié)構(gòu)極其復(fù)雜。

而GPU它面臨著高度統(tǒng)一、相互依賴(lài)的大規(guī)模數(shù)據(jù)和不需要中斷的純計(jì)算環(huán)境。CPU和GPU呈現(xiàn)出非常不同的架構(gòu)(示意圖):

從架構(gòu)圖中，我們可以清楚地看到，GPU其組成相對(duì)簡(jiǎn)單，有大量的計(jì)算單元和超長(zhǎng)的流水線(xiàn)，特別適合處理大量統(tǒng)一的數(shù)據(jù)(如圖像數(shù)據(jù))。

GPU主要工作是3D一般來(lái)說(shuō)，圖像處理和特效處理是圖像呈現(xiàn)的工作。D圖形，CPU它很容易處理，但對(duì)于復(fù)雜的3D圖像，CPU處理它需要大量的資源，這顯然會(huì)降低其他方面的工作效率，所以把這些工作交給GPU去處理。

也給出了一些高幀率的游戲畫(huà)面和高質(zhì)量的特效GPU處理，分擔(dān)CPU工作。GPU服務(wù)器廣泛應(yīng)用于密碼破譯、大數(shù)據(jù)處理、金融分析等領(lǐng)域。

為什么GPU特別擅長(zhǎng)處理圖像數(shù)據(jù)？這是因?yàn)閳D像上的每個(gè)像素點(diǎn)都需要處理，每個(gè)像素點(diǎn)處理的過(guò)程和方法都非常相似，這種場(chǎng)景已經(jīng)成為GPU天然溫床。

但GPU不能單獨(dú)工作，必須由CPU控制調(diào)用才能工作。CPU它可以單獨(dú)處理復(fù)雜的邏輯操作和不同類(lèi)型的數(shù)據(jù)，但當(dāng)需要大量統(tǒng)一類(lèi)型的數(shù)據(jù)時(shí)，可以調(diào)用GPU進(jìn)行并行計(jì)算。

GPU采用了大量的計(jì)算單元和超長(zhǎng)流水線(xiàn)，但只有非常簡(jiǎn)單的控制邏輯，省去了Cache。而CPU不僅被Cache它占據(jù)了大量的空間，有復(fù)雜的控制邏輯和許多優(yōu)化電路，相比之下GPU只有計(jì)算能力CPU一小部分。

CPU基于低延遲設(shè)計(jì)，CPU有強(qiáng)大的ALU(算術(shù)運(yùn)算單元)，它可以在很少的時(shí)鐘周期內(nèi)完成算術(shù)計(jì)算。

相比之下，GPU以大吞吐量為基礎(chǔ)，Cache小，控制單元簡(jiǎn)單，但是GPU適用于并行高吞吐量運(yùn)算。

GPU有許多運(yùn)算器ALU緩存很少Cache，緩存的目的不是保存后面需要訪(fǎng)問(wèn)的數(shù)據(jù)(這點(diǎn)和CPU不同)，而是線(xiàn)程Thread提供服務(wù)。在訪(fǎng)問(wèn)內(nèi)存之前，如果有許多線(xiàn)程需要訪(fǎng)問(wèn)相同的數(shù)據(jù)，緩存將合并這些訪(fǎng)問(wèn)DRAM。

總而言之，CPU和GPU由于最初用于處理的任務(wù)不同，因此在設(shè)計(jì)上存在很大差異。有些任務(wù)和GPU最初用來(lái)解決問(wèn)題的方法相似，所以使用GPU來(lái)計(jì)算。

打個(gè)比方，GPU計(jì)算速度取決于雇傭了多少小學(xué)生，CPU計(jì)算速度取決于你雇傭了多么強(qiáng)大的教授。教授處理復(fù)雜任務(wù)的能力壓垮了小學(xué)生，但他們?nèi)匀粺o(wú)法承受更多不那么復(fù)雜的任務(wù)。當(dāng)然，現(xiàn)在GPU也可以做一些稍微復(fù)雜的工作，相當(dāng)于升級(jí)到初中生和高中生。

GPU它是用許多簡(jiǎn)單的計(jì)算單元來(lái)完成很多計(jì)算任務(wù)，純粹的人海戰(zhàn)術(shù)。這種策略是基于小學(xué)生之間工作沒(méi)有依賴(lài)性，相互獨(dú)立的前提。

這就回答了GPU能做什么？圖形運(yùn)算和機(jī)器學(xué)習(xí)算法等大型矩陣運(yùn)算，GPU你可以展示你的技能。簡(jiǎn)而言之，CPU擅長(zhǎng)統(tǒng)領(lǐng)全局等復(fù)雜操作，GPU擅長(zhǎng)簡(jiǎn)單重復(fù)大數(shù)據(jù)。CPU是從事復(fù)雜腦力勞動(dòng)的教學(xué)援助，GPU是大量并行計(jì)算的體力勞動(dòng)者(小學(xué)生)。

GPU工作的特點(diǎn)是計(jì)算量大，沒(méi)有技術(shù)含量，需要重復(fù)很多次，也需要CPU把數(shù)據(jù)喂到嘴里開(kāi)始工作，最后依靠CPU來(lái)管理的。

為什么在人工智能領(lǐng)域GPU十分盛行？深度學(xué)習(xí)是模擬人腦神經(jīng)系統(tǒng)而建立的數(shù)學(xué)網(wǎng)絡(luò)模型，這個(gè)模型的最大特點(diǎn)是需要大數(shù)據(jù)來(lái)訓(xùn)練。

因此，人工智能領(lǐng)域?qū)τ?jì)算能力的要求是需要大量重復(fù)計(jì)算，GPU正好有這個(gè)專(zhuān)長(zhǎng)，時(shí)勢(shì)造英雄，所以GPU在人工智能領(lǐng)域(深度學(xué)習(xí))，GPU主要特點(diǎn)如下：

1、提供了多核并行計(jì)算的基本結(jié)構(gòu)，有大量的核心數(shù)量，可以支持大量數(shù)據(jù)的并行計(jì)算。并行計(jì)算是一種可執(zhí)行多個(gè)指令的算法，旨在通過(guò)擴(kuò)大問(wèn)題解決規(guī)模來(lái)提高計(jì)算速度，解決大而復(fù)雜的計(jì)算問(wèn)題。

2.訪(fǎng)存帶寬和速度更高。

3.浮點(diǎn)操作能力更高。浮點(diǎn)操作能力是與處理器相關(guān)的多媒體和3D圖形處理的重要指標(biāo)。在目前的計(jì)算機(jī)技術(shù)中，由于大量多媒體技術(shù)的應(yīng)用，浮點(diǎn)數(shù)的計(jì)算大大增加，如3D因此，浮點(diǎn)運(yùn)算的能力是調(diào)查處理器計(jì)算能力的重要指標(biāo)。

需要強(qiáng)調(diào)的是，雖然GPU它是為圖像處理而生的，但我們可以通過(guò)前面的介紹發(fā)現(xiàn)，GPU結(jié)構(gòu)上沒(méi)有專(zhuān)門(mén)為圖像服務(wù)的部件，只是對(duì)的CPU結(jié)構(gòu)的優(yōu)化和調(diào)整，所以現(xiàn)在GPU它不僅可以在圖像處理領(lǐng)域展示自己的技能，還可以用于科學(xué)計(jì)算、密碼破解、數(shù)值分析、海量數(shù)據(jù)處理(排序、Map-Reduce等)，需要大規(guī)模并行計(jì)算的領(lǐng)域，如金融分析。因此，GPU也可以認(rèn)為是比較常見(jiàn)的芯片。

簡(jiǎn)單總結(jié)：CPU和GPU是兩種不同的處理器，CPU它是程序控制、順序執(zhí)行等操作的最先進(jìn)的通用處理器GPU專(zhuān)用處理器用于圖像處理和特定領(lǐng)域分析，GPU受CPU控制。在許多終端設(shè)備中，CPU和GPU它通常集成在芯片中，同時(shí)具有CPU或GPU處理能力。