TPU(Tensor Processing Unit的縮寫簡稱)是一種ASIC(專用積體電路)，是谷歌為機器學習而設計的人工智慧定製晶片，第一代TPU廣泛應用在了AlphaGo、搜尋、翻譯、相簿等背後的機器學習模型中。第二代TPU是在2017年5月18日的Google I/O 大會上推出，也稱為雲TPU。

之前的TPU主要用在谷歌自家的產品上，這次宣佈全面開放，而且價格誘人，每雲TPU每小時6.5美元。是AI領域的一件大事，對英偉達的GPU最具殺傷力。

TPU和GPU的效能上比較類似，都是為AI提供計算力的支援。谷歌雲計算團隊首席科學家、斯坦福大學AI實驗室主管李飛飛曾經介紹稱：“這些TPU可提供驚人的128萬億次浮點運算，它們是專為驅動機器學習技術的晶片。”與之相比，iPhone 6可提供100萬億次浮點運算，英偉達的Volta GPU能提供120萬億次的浮點運算。

但是他們的模式上卻不相同，對於企業來說，使用GPU是購買GPU的晶片，而使用TPU則是租用TPU的服務，類似於雲計算的方式。

共享出行公司Lyft是使用TPU的公司之一，其軟體總監Anantha Kancherla說，“自從使用谷歌Cloud TPU，我們被它的速度驚呆了。以前需要花幾天的事情，現在幾小時就能完成。”

在股市上，英偉達的股價不斷飆升，而谷歌的股票卻不溫不火，當谷歌的TPU對外開放，預計將會對英偉達造成影響。

這兩家晶片的淵源從去年4月份說起了。

谷歌當時公佈第一代TPU細節，引業界一波熱潮，就連英偉達CEO黃仁勳也忍不住親自撰文回“懟”。

TPU（Tensor Processing Unit）即張量處理單元，是一款為機器學習而定製的晶片，經過了專門深度機器學習方面的訓練，它有更高效能（每瓦計算能力）。去年四月份，谷歌公佈TPU相關論文，稱“TPU 處理速度比當前 GPU 和 CPU 要快 15 到 30 倍”。

當時就有人對此種“比較”表示質疑，因其拿來的比較物件並非市場裡效能最好的。當然，依照老黃的性格，當然坐不住了，隨即親自撰文迴應了這一“比較”，文章第一段就以谷歌 TPU 開頭，炮擊意圖十分明顯，隨後更是扔出了 Tesla P40 GPU 與 TPU 的效能對比圖，可謂針尖對麥芒。

當然，能讓皮衣教主“惱怒”，側面也說明了TPU不容忽視之處。還記得李世石與AlphaGo大戰，TPU 也在應用之中，並且谷歌將 TPU 稱之為 AlphaGo 擊敗李世石的“秘密武器”。轉眼一年過去了，TPU2.0（第二代）得到更大升級。

新的 TPU 包括了四個晶片，每秒可處理 180 萬億次浮點運算。Google 還找到一種方法，使用新的計算機網路將 64 個 TPU 組合到一起，升級為所謂的TPU Pods，可提供大約 11500 萬億次浮點運算能力。除了速度，第二代 TPU 最大的特色，是相比初代 TPU 它既可以用於訓練神經網路，又可以用於推理。

儘管如此，TPU2.0仍存在弊端。首先開發出新的晶片並不能保證 Google 成功，要使用 TPU 2.0，開發者要學習一種構建和執行神經網路的新方法。它不僅僅是一個新的晶片，TPU 2.0 也是專門為 TensorFlow 設計。雖然 Tensorflow 是開源軟體，但也有許多研究人員使用 Torch 和 Caffe 等類似的軟體。新硬體需要新的軟體最佳化，這需要不少時間。

相比之下，GPU在市場上已經是研究者十分熟悉的工具了。就像老黃說的，“全球的各行各業都在競相加入人工智慧。幾乎每個網際網路和雲服務提供商都接受了我們的Volta GPU”，也就是英偉達最新一代的GPU。

不過對此，谷歌也採取措施。對喜歡使用傳統圖形卡進行人工智慧專案的客戶，新增一項新功能。谷歌為其Kubernetes Engine服務添加了GPU支援，以允許將機器學習模型打包到軟體容器中。後一種技術提供了一個輕量級抽象層，使開發人員能夠更輕鬆地推出更新並跨環境遷移應用。

不同的是，谷歌不會將TPU直接出售，而是透過其新的雲服務提供，這個新的TPU價格為每小時每單元6.50美元，而透過Kubernetes Engine租賃的GPU將按谷歌現有的每種支援晶片型號收費。

這種晶片對於各種人工智慧任務、特別是對於一些計算機工作負載而言的就緒情況，仍然不明確。Moor Insights＆StrategyQuattroporte兼首席分析師Patrick Moorhead表示：“TPU是一個很好的試水方式，但並一定適合於執行生產工作負載。GPU是進行訓練的最佳方式。鎖定到TPU，意味著被GCP和TensorFlow鎖定。”

哦對了，英偉達GPU之所以牛，還有一個重要潛在市場——加密貨幣的挖掘，也需要像GPU這樣的高效能晶片，這也是過去一年英偉達的一個重要市場。

我來通俗的回答下，少說專業術語。

從應用場景看，GPU中文名稱是圖形渲染處理器，主要應用在影片，圖片，影像等場景處理。

英偉達從大眾層面最知名的就是在DIY攢機時代的GeForce顯示卡，那時候的品牌還有影馳，七彩虹。

所以，GPU是通用型處理器，在大規模圖形計算方面，擁有很大優勢，包括在超級計算機領域也使用量很大。

TPU最初是用在alphago上，因此在內部邏輯設計上，更多是側重圍棋的深度學習能力，因此也可以理解為相對定製化的設計，屬於asic的一種。後來的TPU2更側重在生成式對抗網路和無監督學習，也屬於深度學習一種。