CPU、GPU、NPU到底差在哪?AI 時代的晶片一次看懂

CPU、GPU、NPU、TPU 各自擅長什麼?一篇看懂 AI 時代的處理器分工。

目錄
CPU、GPU、NPU 到底差在哪?AI 時代的晶片一次看懂

AI近年來非常迅速發展,在新聞看到很多大公司在發展各種AI時代的產品,很常聽到像是GPU、TPU的名詞,甚至是AI PC也有用到NPU,以及最傳統的CPU這些到底是什麼呢?本篇文章帶您了解。


為什麼電腦需要不同種類的處理器?

早期電腦主要依靠 CPU 執行各種運算,包括作業系統、應用程式等等的應用。

隨著應用越來越複雜,CPU 已經無法非常有效率用在各種工作。舉例來說,遊戲要有大量影像處理,以及AI模型需要有大量重複的運算過程,這些都是CPU比較不擅長的範疇。

因此,工程師開始針對不同需求進行專門的處理器開發。

這些處理器不見得會互相取代,而是透過分工合作提升整體電腦系統的運算效率。

CPU:中央處理器(Central Processing Unit)

CPU 是電腦最核心的運算單元之一,主要負責執行程式指令、邏輯判斷及系統控制。

CPU 的特點是可以處理各種不同類型的工作。包含執行 Windows、Linux 等作業系統或是開啟瀏覽器及應用程式。

CPU 通常具有少量到數十個功能強大的核心,可以同時處理多項任務,提升運算效能。

其優勢為通用性高、彈性大,適合複雜的邏輯控制與系統管理。

它的劣勢為當需要執行極大量相似運算時,比較沒有辦法像GPU那樣有效率。

GPU:圖形處理器(Graphics Processing Unit)

GPU 最初主要用於電腦圖形處理,例如 3D 遊戲、影像渲染及動畫。

GPU 與 CPU 最大的差別,在於運算資源的配置方式。GPU可同時平行處理非常大量的運算工作,舉例來說,一張圖片包含一百萬個像素,當我們需要調整整張圖片的亮度、顏色或進行模糊處理時,GPU 可以同時對大量像素進行運算,快速得到處理結果。

這就是為什麼玩遊戲的時候,有獨立的GPU畫面跑出來就很流暢。

GPU 為什麼適合 AI?

現在人工智慧常常牽涉大量矩陣乘法與加法的運算,這樣單調重複的運算,同時計算量又非常多,這種特性與處理圖像像素的運算是相似的,因此,GPU可以加速AI的運算過程。

另外,GPU可以想像是高效能,耗電,因此,對於手機、穿戴裝置或低功耗邊緣設備,GPU 未必是最有效率的選擇。

NPU:神經網路處理器(Neural Processing Unit)

NPU 是針對神經網路運算設計的專用加速器。GPU 是擅長大規模平行運算,而且它是比較通用,可以應用在像素處理,AI運算等等。有別於此,NPU 則是針對 AI 模型常見的數學操作進行硬體最佳化。它的目的是在於可以透過這種專用的設計來讓運算達到更省電的效果。

NPU 與 GPU 的差別

NPU與GPU相比,當然效能上還是不如GPU,但是卻比GPU更省電,甚至還是有一些AI加速計算的功能。所以它的目的不是要跑一個非常複雜的模型,而是要執行簡單的模型計算,可以讓我們在自己電腦,或某些裝置上,可以簡單進行計算。

TPU:張量處理器(Tensor Processing Unit)

TPU 是 Google 專門為 AI 計算設計的晶片。AI 在辨識圖片、理解語音或生成文字時,需要進行大量數學運算,TPU 就是用來加快這些計算的。

TPU 的內部設計就像一條計算產線:許多運算單元接力處理、傳遞資料,減少搬運資料的時間,讓計算更有效率。這種設計稱為「脈動陣列(Systolic Array)」。

Google 在資料中心使用 TPU 來訓練及執行 AI 模型,也推出了用於小型裝置的 Edge TPU,讓裝置能直接執行影像辨識等 AI 功能。

TPU 與 NPU 有什麼差別?

這兩個名稱並不是完全互斥的技術分類。

NPU 通常是神經網路加速器的泛稱,而 TPU 是 Google 對特定 AI 加速器產品與架構使用的名稱。

從用途來看,兩者都屬於 AI 專用運算硬體,但實際架構、軟體工具與適用模型可能不同。

結論

本篇文章介紹了CPU、GPU、NPU、TPU的差別,CPU 強調通用性,GPU 強調大規模平行運算,NPU 強調神經網路加速,而TPU也是類似NPU概念,是Google特有發展的晶片。

在不同的應用場景,這些晶片不是互相取代,而是都有自己的特色,甚至可以分工合作,達到1+1>2的效果。