黃仁勳:搜尋、社交媒體和電商是T4最大終端客戶
T4 GPU
搜尋、社交媒體和線上購物 網站 等網際網路公司是T4的早期使用者,也是最大的終端客戶群。中國首批開始使用T4的企業包括百度、 騰訊 、 京東 以及科大訊飛。計算機制造商也將推出一系列基於T4的 伺服器 ,如浪潮、聯想、 華為 、曙光、浪潮商用機器和新華三等。此外,谷歌雲宣佈谷歌雲平臺客戶可以使用T4。
NVIDIA T4 GPU伺服器
T4基於NVIDIA Turing TM架構,採用多精度Turing Tensor Core和RT Core,與容器化軟體堆疊相結合,效能得到很大提升。可滿足公共雲和企業雲環境的需求,提高吞吐量、利用率和使用者併發性,幫助客戶高效應對使用者及資料爆炸式增長的問題。
T4可支援4種不同精度等級的各類AI工作負載,FP32精度能夠提供8.1 TFLOPS,FP16精度能夠提供65 TFLOPS,INT8精度能夠提供130 TOPS,INT4精度能夠提供260 TOPS。針對AI推理工作負載,配備2個T4 GPU的單個伺服器最多可取代54臺CPU伺服器。針對AI訓練,配備2個T4的單個伺服器可取代9臺雙套接字CPU伺服器。