英偉達推出最快的GPU產品，語言推理速度較上代快3.6倍
摘要：
英偉達週四在日本 GTC 大會上推出了採用圖靈架構的新款 GPU Tesla T4。
目前，幾乎所有主流的雲端計算服務提供商都能提供 P4 GPU 。而作為 P4 的升級版，此次推出的 Tesla T4 將用於資料中心內的機器學習和推理。（ T代表圖靈構架，P 代表帕斯卡構架） ...
英偉達週四在日本 GTC 大會上推出了採用圖靈架構的新款 GPU Tesla T4。
目前，幾乎所有主流的雲端計算服務提供商都能提供 P4 GPU 。而作為 P4 的升級版，此次推出的 Tesla T4 將用於資料中心內的機器學習和推理。（ T代表圖靈構架，P 代表帕斯卡構架）
英偉達同時宣佈，谷歌雲將成為首家提供 T4 GPU 的平臺。
從引數上看，Tesla T4 晶片的表現明顯優於基於帕斯卡構架的 P4 晶片。T4 晶片擁有320個圖靈 Tensor 核心和2560個 CUDA 核心。它的4位整數運算（ INT4 ）峰值效能可達260萬億次運算/秒（ TOPS ），浮點運算（ FP16 ）峰值效能可達65萬億次運算/秒。
同時，在速度大幅提升的情況下，功率僅停留在75瓦。對於語言推理應用來說，使用 T4 晶片比使用 CPU 快36倍，比使用 P4 快3.6倍。
圖 | 各應用表現對比（來源：英偉達）
圖 | 各應用表現對比（來源：英偉達）
最重要的是，英偉達 Tesla T4 晶片是專門為了人工智慧推理設計的。“ Tesla T4之所以能如此高效地進行推理任務，圖靈Tensor核心功不可沒，”英偉達 Tesla 資料中心業務副總裁兼總經理 Ian Buck 表示。
對於 Tensor 核心，英偉達 CEO 黃仁勳則表示它不僅可以進行遊戲、渲染和人工智慧任務，還可以進行計算機推理。
除了新晶片之外，英偉達還推出了用於優化深度學習模型的 TensorRT 軟體，包括 TensorRT 推理伺服器。TensorRT 是一個高度整合化的資料中心推理微服務，可以無縫插入現有的 Kubernetes 設施中。
參考：
ofollow,noindex">Nvidia launches the Tesla T4, its fastest data center inferencing platform yet