問：什麼是加速計算例項？

加速計算例項系列是一系列使用硬體加速器或協同處理器來執行浮點數計算和圖形處理等功能的例項，比使用在 CPU 上執行的軟體更高效。Amazon EC2 提供三種類型的加速計算例項 – 用於通用計算的 GPU 計算例項、用於圖形密集型應用程式的 GPU 圖形例項和用於高階科學工作負載的 FPGA 可程式設計硬體計算例項。

問：何時應使用 GPU 圖形和計算例項？

GPU 例項最適合用於並行度極高的應用程式，如使用數千個執行緒的工作負載。例如，圖形處理有大量的計算要求，其中的每個任務都相對較小，執行的一組操作形成了一個管道，而此管道的吞吐量要比單個操作的延遲更為重要。要構建能充分利用這種並行度的應用程式，使用者需要掌握 GPU 裝置的專項知識，瞭解如何針對各種圖形 API (DirectX、OpenGL) 或 GPU 計算程式設計模型 (CUDA、OpenCL) 進行程式設計。

問：P3 例項與 G3 例項有何不同？

P3 例項是新一代 EC2 通用 GPU 計算例項，最多可配備 8 個最新一代 NVIDIA Tesla V100 GPU。這些新例項可顯著提高效能和可擴充套件性，並且增加了多種新功能，包括可實現 Machine Learning (ML)/深度學習 (DL) 效能優化的全新流式多處理器 (SM) 架構、第二代 NVIDIA NVLink 高速 GPU 互連，以及可提高效率的高度優化的 HBM2 記憶體。

G3 例項使用 NVIDIA Tesla M60 GPU，可為使用 DirectX 或 OpenGL 的圖形應用程式提供高效能平臺。NVIDIA Tesla M60 GPU 支援 NVIDIA GRID 虛擬工作站功能，以及 H.265 (HEVC) 硬體編碼。G3 例項中的每個 M60 GPU 支援解析度高達 4096x2160 的 4 臺監控器，且獲准將 NVIDIA GRID 虛擬工作站用於一位並行連線使用者。例如，使用 G3 例項的應用程式包括 3D 視覺化、圖形密集型遠端工作站、3D 渲染、應用程式流式處理、視訊編碼以及其他伺服器端圖形工作負載。

問：使用 NVIDIA Volta GV100 GPU 的優勢有哪些？

新的 NVIDIA Tesla V100 加速器採用了強大的全新 Volta GV100 GPU。GV100 不僅保留了其前任 Pascal GP100 GPU 的優勢，還大大提升了效能和可擴充套件性，並增加了多種提高程式設計效能的新功能。這些優勢將為 HPC、資料中心、超級計算機和深度學習系統及應用程式帶來極大益處。

問：哪些人將通過 P3 例項獲益？

P3 例項具有超高計算效能，可使人工智慧 (AI)、Machine Learning (ML)、深度學習 (DL) 和高效能運算 (HPC) 應用程式的使用者獲得諸多益處。受益的使用者包括資料科學家、資料架構師、資料分析師、科學研究人員、ML 工程師、IT 經理和軟體開發人員。受益的主要行業包括交通運輸、能源/石油和天然氣、金融服務 (銀行、保險)、醫療保健、製藥、科學、IT、零售、製造、高科技、政府機構、學術研究，等等。

問：P3 例項的主要使用案例有哪些？

P3 例項使用 GPU 為多種深度學習系統和應用程式加速，其中包括無人駕駛汽車平臺、語音/影象/文字識別系統、智慧視訊分析、分子模擬、藥物發現、疾病診斷、天氣預測、大資料分析、財務建模、機器人學、工廠自動化、實時語言翻譯、線上搜尋優化和個性化使用者推薦，等等。

問：客戶為何應將採用 GPU 的 Amazon P3 例項用於 AI/ML 和 HPC 應用程式？

基於 GPU 的計算例項可提供更高的吞吐量和效能，因為它們可以使用每個 GPU 數以千計的專用核心進行大量並行處理，而不像採用只有幾個核心的 CPU 的例項只能進行順序處理。此外，開發人員還構建了數百種經過 GPU 優化的科學 HPC 應用程式，例如量子化學、分子動力學、氣象學等。研究表明，最熱門的 HPC 應用程式中有 70% 以上都提供內部 GPU 支援。

問：P3 例項是否會支援 EC2 Classic 聯網和 Amazon VPC？

P3 例項將僅支援 VPC。

問：G3 例項與 P2 例項有何不同？

G3 例項使用 NVIDIA Tesla M60 GPU，可為使用 DirectX 或 OpenGL 的圖形應用程式提供高效能平臺。NVIDIA Tesla M60 GPU 支援 NVIDIA GRID 虛擬工作站功能，以及 H.265 (HEVC) 硬體編碼。G3 例項中的每個 M60 GPU 支援解析度高達 4096x2160 的 4 臺監控器，且獲准將 NVIDIA GRID 虛擬工作站用於一位並行連線使用者。例如，使用 G3 例項的應用程式包括 3D 視覺化、圖形密集型遠端工作站、3D 渲染、應用程式流式處理、視訊編碼以及其他伺服器端圖形工作負載。

P2 例項使用 NVIDIA Tesla K80 GPU，是專門為使用 CUDA 或 OpenCL 程式設計模型進行通用 GPU 計算設計的。P2 例項為客戶提供了 25Gbps 高頻寬聯網、強大的單精度和雙精度浮點運算功能以及糾錯程式碼 (ECC) 記憶體，非常適用於深入學習、高效能資料庫、計算流體動力學、計算金融學、地震分析、分子建模、基因組學、渲染以及其他伺服器端 GPU 計算工作負載。

問：P3 例項與 G2 例項有何不同？

P3 例項是新一代 EC2 通用 GPU 計算例項，最多可配備 8 個最新一代 NVIDIA Volta GV100 GPU。這些新例項可顯著提高效能和可擴充套件性，並且增加了多種新功能，包括可實現 Machine Learning (ML)/深度學習 (DL) 效能優化的全新流式多處理器 (SM) 架構、第二代 NVIDIA NVLink 高速 GPU 互連，以及可提高效率的高度優化的 HBM2 記憶體。

P2 例項使用 NVIDIA Tesla K80 GPU，是專門為使用 CUDA 或 OpenCL 程式設計模型進行通用 GPU 計算設計的。P2 例項可為客戶提供高頻寬 25Gbps 聯網、強大的單精度和雙精度浮點計算能力，以及糾錯程式碼 (ECC) 記憶體。

問：GPU 圖形和計算例項支援哪些 API 和程式設計模型？

P3 例項支援 CUDA 9 和 OpenCL，P2 例項支援 CUDA 8 和 OpenCL 1.2，G3 例項支援 DirectX 12、OpenGL 4.5、CUDA 8 和 OpenCL 1.2。

問：在哪裡可以獲取適用於 P3 和 G3 例項的 NVIDIA 驅動程式？

可通過兩種方式獲取 NVIDIA 驅動程式。AWS Marketplace 上提供的商品列表包括已預裝 NVIDIA 驅動程式的 Amazon Linux AMI 和 Windows Server AMI。您也可以啟動 64 位 HVM AMI，自行安裝這些驅動程式。但您必須訪問 NVIDIA 驅動程式網站，並搜尋 NVIDIA Tesla V100 (用於 P3 例項)、NVIDIA Tesla K80 (用於 P2 例項) 或 NVIDIA Tesla M60 (用於 G3 例項)。

問：哪些 AMI 可以與 P3、P2 和 G3 例項搭配使用？

目前，您可以在 P2 和 G3 例項上使用 Windows Server、SUSE Enterprise Linux、Ubuntu 和 Amazon Linux AMI。P3 例項僅支援 HVM AMI。如果您要使用此處未列出的作業系統啟動 AMI，請聯絡 AWS 客戶支援提出請求或通過 EC2 論壇尋求幫助。

問：使用 G2 和 G3 例項是否需要第三方許可證？

除了 NVIDIA 驅動程式和 GRID SDK 之外，使用 G2 和 G3 例項並不一定需要第三方許可證。但是，您需要確定在 G2 和 G3 例項上使用的內容或技術是否需要任何其他許可。例如，如果對內容進行流式處理，則部分或全部內容可能需要許可證。如果您使用的是第三方技術 (例如 Microsoft、Thomson、Fraunhofer IIS、Sisvel S.p.A.、MPEG-LA 和 Coding Technologies 的作業系統、音訊和/或視訊編碼器和解碼器)，請諮詢這些提供商來確定是否需要許可證。例如，如果您使用 NVIDIA GRID GPU 上的板載 h.264 視訊編碼器，則應聯絡 MPEG-LA 尋求幫助，如果使用 mp3 技術，則應聯絡 Thomson 尋求幫助。

問：為什麼使用 NVIDIA 網站下載的驅動程式不能在 G3 例項上獲得 NVIDIA GRID 功能？

G3 例項中使用的 NVIDIA Tesla M60 GPU 需要使用特殊的 NVIDIA GRID 驅動程式才能啟用所有高階圖形功能，以及解析度高達 4096x2160 的 4 臺監控器。您需要使用已預裝 NVIDIA GRID 驅動程式的 AMI，或根據 AWS 文件下載並安裝 NVIDIA GRID 驅動程式。

問：使用 Microsoft 遠端桌面時，為什麼看不到 GPU？

使用遠端桌面時，使用 WDDM 驅動程式模型的 GPU 將被替換為不加速的遠端桌面顯示驅動程式。要訪問 GPU 硬體，需要使用其他遠端訪問工具，如 VNC。

問：什麼是 Amazon EC2 F1？

Amazon EC2 F1 是一種計算例項，能夠通過可程式設計的硬體實現應用程式加速。新的 F1 例項型別提供較高的效能，可以方便地訪問 FPGA 以便開發和部署自定義硬體加速。

問：什麼是 FPGA，我為什麼需要它？

FPGA 是可程式設計的積體電路，您可以使用軟體進行配置。與只使用 CPU 的伺服器相比，通過使用 FPGA，您可以將應用程式加速 30 倍。此外，FPGA 可重程式設計，因此您可以靈活地更新和優化硬體加速，而無需重新設計硬體。

問：F1 與傳統 FPGA 解決方案相比如何？

F1 是一種 AWS 例項，能夠通過可程式設計的硬體實現應用程式加速。通過 F1，您只需單擊幾下即可訪問 FPGA 硬體，從而節約全 FPGA 開發週期的時間和成本，並將部署時間從數年或數月縮減到數天。儘管 FPGA 技術已出現數十年，但是由於開發基礎設施、硬體設計和大規模部署所需的時間和成本等因素，在加速器的開發和向傳統企業銷售自定義硬體的業務模式方面，導致應用程式加速的採用很難取得成功。通過此服務，客戶可避免在本地資料中心開發 FPGA 的無差別的繁重工作。

問：什麼是 Amazon FPGA 映像 (AFI)？

您建立的用於對 FPGA 進行程式設計的設計稱為 Amazon FPGA 映像 (AFI)。AWS 提供一項用於註冊、管理、複製、查詢和刪除 AFI 的服務。AFI 在建立之後可以載入到正在執行的 F1 例項上。您可以將多個 AFI 載入到同一個 F1 例項上，並可以在執行時在多個 AFI 之間切換，無需重新啟動。這讓您能夠快速地連續測試和執行多個硬體加速。您也可以在 AWS Marketplace 上為其他客戶同時提供 FPGA 加速和帶有自定義軟體或 AFI 驅動程式的 AMI。

問：怎樣在 AWS Marketplace 上釋出硬體加速服務？

您需要先開發自己的 AFI 和使用該 AFI 所需的軟體驅動程式/工具。然後，您需要將這些軟體工具/驅動程式以加密格式打包到一個 Amazon 系統映像 (AMI) 中。AWS 會管理採用您提供的加密格式的所有 AFI，保證您的程式碼的安全性。要在 AWS Marketplace 上銷售產品，您或您的公司必須註冊成為 AWS Marketplace 經銷商，然後再提交準備打包到單個產品中的 AMI ID 和 AFI ID。AWS Marketplace 會克隆該 AMI 與 AFI 以便建立一個產品，並將一個產品程式碼與這些專案關聯，這樣，購買了該產品的所有終端使用者就能夠訪問該 AMI 和 AFI。

問：F1 例項附帶哪些內容？

AWS 為開發人員提供有助於縮短開發週期的硬體開發工具包 (HDK)、用於在雲中開發的 FPGA 開發人員 AMI、執行 F1 例項的 AMI 需要的 SDK 以及用於註冊、管理、複製、查詢和刪除 AFI 的一系列 API。開發人員和客戶都可以訪問 AWS Marketplace 併購買其中釋出的 AFI，用於應用程式加速。

問：我是否需要成為 FPGA 專家才能使用 F1 例項？

從 AWS Marketplace 購買 F1 優化型 AMI 的 AWS 客戶無需瞭解有關 FPGA 的任何內容，即可使用 F1 例項和 AWS Marketplace 提供的加速。只需從 AWS Marketplace 購買加速功能與工作負載匹配的 F1 優化型 AMI 即可。AMI 包含使用 FPGA 加速所需的所有軟體。客戶僅需將軟體寫入針對該加速器的特定 API，並開始使用加速器。

問：我是 FPGA 開發人員，如何開始使用 F1 例項？

開發人員可以通過建立 AWS 帳戶並下載 AWS 硬體開發工具包 (HDK) 開始使用 F1 例項。HDK 包括 F1 相關文件、內部 FPGA 介面以及用於生成 AFI 的編譯器指令碼。開發人員可以開始將 FPGA 程式碼寫入 HDK 中包含的已編檔的介面，以建立加速函式。開發人員可以使用 FPGA 開發人員 AMI 啟動 AWS 例項。該 AMI 包含編譯和模擬 FPGA 程式碼所需的開發工具。開發人員 AMI 在最新的 C5、M5 或 R5 例項上的執行效果最好。開發人員應具備用於建立 FPGA 程式碼（即 Verilog 或 VHDL）的程式語言的經驗，並瞭解要加速的操作。

問：我不是 FPGA 開發人員，如何開始使用 F1 例項？

客戶可以通過從 AWS 市場選擇 AWS 市場賣家提供的加速器並使用該 AMI 啟動 F1 例項，開始使用 F1 例項。AMI 包括適用於該加速器的所有軟體和 API。AWS 管理通過適用於該加速器的 AFI 對 FPGA 進行程式設計。客戶無需任何 FPGA 經驗或瞭解如何使用這些加速器。他們可以完全在適用於該加速器的軟體 API 級別工作。

問：AWS 是否提供開發人員工具包？

是的。硬體開發工具包 (HDK) 包括開發人員可以用來模擬、除錯、構建和註冊加速程式碼的模擬工具和模擬模型。HDK 包括程式碼示例、編譯指令碼、除錯介面和開發適用於 F1 例項的 FPGA 程式碼所需的很多其他工具。您可以在 AWS 提供的 AMI 或本地開發環境中使用 HDK。可以使用 AWS 帳戶公開使用這些模型和指令碼。

問：能否在本地開發環境中使用 HDK？

是的。您可以在 AWS 提供的 AMI 或您的本地開發環境中使用硬體開發工具包 (HDK)。

問：我是否可以向任何 EC2 例項型別中新增 FPGA？

不可以。F1 例項有 f1.2xlarge、f1.4xlarge 和 f1.16 xlarge 三種大小。