谷歌張量處理單元
谷歌張量處理單元(TPU)是谷歌GoogleGoogle是一家美國科技公司,由Larry Page與Sergey Brin創辦,1998年註冊成立,2015年成為Alphabet旗下企業。其業務涵蓋互聯網搜索、廣告、軟件平臺、雲計算及人工智能。點擊查看完整詞條設計的機器學習加速器系列。其硬件專門處理神經網絡中反覆出現的矩陣運算。早期芯片服務於谷歌數據中心的推理工作,此後產品擴展至訓練、集群互連、公共雲及面向不同負載的專用型號。
本頁目錄8 節
詞條資料
2015年在數據中心部署推理芯片
諾曼·朱庇等人在2017年國際計算機體系結構研討會發表的論文中記載,谷歌從2015年起在數據中心部署第一代 TPU。其核心是一組可執行65,536次八位乘加的矩陣運算單元,適用於大量重複的神經網絡推理。論文使用谷歌數據中心實際運行的神經網絡評估性能,將供電、時延等條件與計算吞吐量一同納入比較。[1]
2017年5月17日第二代加入訓練和多芯片系統
2018年2月12日Cloud TPU 開放測試
2025年第七代 Ironwood
2026年4月分設訓練與推理架構
谷歌在 Cloud Next 公佈第八代 TPU 的兩個設計。8t 面向大規模模型訓練,8i 則面向低延遲推理。這次在同一代產品中分設兩個架構,對應兩種不同的使用需求:一方要提高整個訓練集群的吞吐量,另一方要壓低運行中模型響應請求所需的時間。[7]
2026年11月9日新增 TPU 8i Max 和 8tx
關聯機構、網站與公開賬號
Google Research 的初代 TPU 硬件論文。 https://research.google/pubs/in-datacenter-performance-analysis-of-a-tensor-processing-unit/(在新窗口打開)[1]
谷歌 TPU 產品與雲計算服務入口。 https://cloud.google.com/tpu(在新窗口打開)[4]
來源8 個來源
- In-Datacenter Performance Analysis of a Tensor Processing Unit(在新窗口打開)research.google↑
- Build and train machine learning models on our new Google Cloud TPUs(在新窗口打開)blog.google↑
- Cloud TPU machine learning accelerators now available in beta(在新窗口打開)cloud.google.com↑
- Cloud Tensor Processing Units (TPUs)(在新窗口打開)cloud.google.com↑
- Ironwood: The first Google TPU for the age of inference(在新窗口打開)blog.google↑
- Announcing Ironwood TPUs General Availability and new Axion VMs to power the age of inference(在新窗口打開)cloud.google.com↑
- Our eighth generation TPUs: two chips for the agentic era(在新窗口打開)blog.google↑
- Introducing TPU 8tx and TPU 8i Max(在新窗口打開)cloud.google.com↑