受控線上端點 SKU 清單
下表顯示 Azure 機器學習 受控在線端點支援的虛擬機 (VM) 庫存單位 (SKU)。 每個 SKU 都是指派給可購買的特定 VM 的唯一英數位元程序代碼。
數據表中所列的完整 SKU 名稱可用於 Azure CLI 或 Azure Resource Manager 範本 (ARM 範本) 要求,以建立和更新部署。
如需設定詳細數據的詳細資訊,例如 CPU 和 RAM,請參閱 Azure 機器學習 定價和 VM 大小。
相對大小 | 一般用途 | 計算最佳化 | 記憶體最佳化 | GPU |
---|---|---|---|---|
X-Small | Standard_DS1_v2 Standard_DS2_v2 Standard_D2a_v4 Standard_D2as_v4 |
Standard_F2s_v2 | 標準 E2s_v3 | Standard_NC4as_T4_v3 |
Small | Standard_DS3_v2 Standard_D4a_v4 標準 D4as_v4 |
Standard_F4s_v2 Standard_FX4mds |
標準 E4s_v3 | Standard_NC6s_v2 Standard_NC6s_v3 Standard_NC8as_T4_v3 |
中 | Standard_DS4_v2 Standard_D8a_v4 Standard_D8as_v4 |
Standard_F8s_v2 Standard_FX12mds |
標準 E8s_v3 | Standard_NC12s_v2 Standard_NC12s_v3 Standard_NC16as_T4_v3 |
大型 | Standard_DS5_v2 Standard_D16a_v4 Standard_D16as_v4 |
Standard_F16s_v2 | 標準 E16s_v3 | Standard_NC24s_v2 Standard_NC24s_v3 Standard_NC64as_T4_v3 Standard_NC24ads_A100_v4 |
X-Large | Standard_D32a_v4 Standard_D32as_v4 Standard_D48a_v4 Standard_D48as_v4 Standard_D64a_v4 Standard_D64as_v4 Standard_D96a_v4 Standard_D96as_v4 |
Standard_F32s_v2 Standard_F48s_v2 Standard_F64s_v2 Standard_F72s_v2 Standard_FX24mds Standard_FX36mds Standard_FX48mds |
Standard_E32s_v3 Standard_E48s_v3 標準 E64s_v3 |
Standard_NC48ads_A100_v4 Standard_NC96ads_A100_v4 Standard_ND96asr_v4 Standard_ND96amsr_A100_v4 Standard_ND40rs_v2 |
警告
Standard_DS1_v2
和 Standard_F2s_v2
對於較大的模型而言可能太小,而且由於記憶體不足、磁碟空間不足,或探查失敗而導致容器終止,因為起始容器所需的時間太長。 如果您遇到 OutOfQuota 錯誤 或 ReourceNotReady 錯誤,請嘗試較大的 VM SKU。 如果您想要降低使用受控在線端點部署多個模型的成本,請參閱 部署數個本機模型。
注意
我們建議在生產案例中部署超過 3 個實例。 此外,Azure 機器學習 會保留 20% 的計算資源,以在某些 VM SKU 上執行升級,如部署的虛擬機配額配置中所述。 下列列出免除此額外配額保留的 VM SKU:
- Standard_NC24ads_A100_v4
- Standard_NC48ads_A100_v4
- Standard_NC96ads_A100_v4
- Standard_ND96asr_v4
- Standard_ND96amsr_A100_v4
- Standard_ND40rs_v2