Yönetilen çevrimiçi uç noktalar SKU listesi
Aşağıdaki tabloda, Azure Machine Learning tarafından yönetilen çevrimiçi uç noktalar için desteklenen sanal makine (VM) stok tutma birimleri (SKU) gösterilmektedir. Her SKU, satın alınabilecek belirli bir VM'ye atanmış benzersiz bir alfasayısal koddur.
Tabloda listelenen tam SKU adları, dağıtımları oluşturmak ve güncelleştirmek için Azure CLI veya Azure Resource Manager şablonları (ARM şablonları) istekleri için kullanılabilir.
CPU ve RAM gibi yapılandırma ayrıntıları hakkında daha fazla bilgi için bkz . Azure Machine Learning Fiyatlandırması ve VM boyutları.
Aile Adı | VM Boyut Adı | Infiniband'i destekler | Mimari | numberOfGPU'lar | numberOfCores | %20 Rezervasyonu Atla |
---|---|---|---|---|---|---|
standardDASv4Family | STANDARD_D2AS_V4 | - | Cpu | 0 | 2 | - |
standardDASv4Family | STANDARD_D4AS_V4 | - | Cpu | 0 | 4 | - |
standardDASv4Family | STANDARD_D8AS_V4 | - | Cpu | 0 | 8 | - |
standardDASv4Family | STANDARD_D16AS_V4 | - | Cpu | 0 | 16 | - |
standardDASv4Family | STANDARD_D32AS_V4 | - | Cpu | 0 | 32 | - |
standardDASv4Family | STANDARD_D48AS_V4 | - | Cpu | 0 | 48 | - |
standardDASv4Family | STANDARD_D64AS_V4 | - | Cpu | 0 | 64 | - |
standardDASv4Family | STANDARD_D96AS_V4 | - | Cpu | 0 | 96 | - |
standardDAv4Family | STANDARD_D2A_V4 | - | Cpu | 0 | 2 | - |
standardDAv4Family | STANDARD_D4A_V4 | - | Cpu | 0 | 4 | - |
standardDAv4Family | STANDARD_D8A_V4 | - | Cpu | 0 | 8 | - |
standardDAv4Family | STANDARD_D16A_V4 | - | Cpu | 0 | 16 | - |
standardDAv4Family | STANDARD_D32A_V4 | - | Cpu | 0 | 32 | - |
standardDAv4Family | STANDARD_D48A_V4 | - | Cpu | 0 | 48 | - |
standardDAv4Family | STANDARD_D64A_V4 | - | Cpu | 0 | 64 | - |
standardDAv4Family | STANDARD_D96A_V4 | - | Cpu | 0 | 96 | - |
standardDSv2Family | STANDARD_DS1_V2 | - | Cpu | 0 | 1 | - |
standardDSv2Family | STANDARD_DS2_V2 | - | Cpu | 0 | 2 | - |
standardDSv2Family | STANDARD_DS3_V2 | - | Cpu | 0 | 4 | - |
standardDSv2Family | STANDARD_DS4_V2 | - | Cpu | 0 | 8 | - |
standardDSv2Family | STANDARD_DS5_V2 | - | Cpu | 0 | 16 | - |
standardESv3Family | STANDARD_E2S_V3 | - | Cpu | 0 | 2 | - |
standardESv3Family | STANDARD_E4S_V3 | - | Cpu | 0 | 4 | - |
standardESv3Family | STANDARD_E8S_V3 | - | Cpu | 0 | 8 | - |
standardESv3Family | STANDARD_E16S_V3 | - | Cpu | 0 | 16 | - |
standardESv3Family | STANDARD_E32S_V3 | - | Cpu | 0 | 32 | - |
standardESv3Family | STANDARD_E48S_V3 | - | Cpu | 0 | 48 | - |
standardESv3Family | STANDARD_E64S_V3 | - | Cpu | 0 | 64 | - |
standardFSv2Family | STANDARD_F2S_V2 | - | Cpu | 0 | 2 | - |
standardFSv2Family | STANDARD_F4S_V2 | - | Cpu | 0 | 4 | - |
standardFSv2Family | STANDARD_F8S_V2 | - | Cpu | 0 | 8 | - |
standardFSv2Family | STANDARD_F16S_V2 | - | Cpu | 0 | 16 | - |
standardFSv2Family | STANDARD_F32S_V2 | - | Cpu | 0 | 32 | - |
standardFSv2Family | STANDARD_F48S_V2 | - | Cpu | 0 | 48 | - |
standardFSv2Family | STANDARD_F64S_V2 | - | Cpu | 0 | 64 | - |
standardFSv2Family | STANDARD_F72S_V2 | - | Cpu | 0 | 72 | - |
standardFXMDVSFamily | STANDARD_FX4MDS | - | Cpu | 0 | 4 | - |
standardFXMDVSFamily | STANDARD_FX12MDS | - | Cpu | 0 | 12 | - |
standardFXMDVSFamily | STANDARD_FX24MDS | - | Cpu | 0 | 24 | - |
standardFXMDVSFamily | STANDARD_FX36MDS | - | Cpu | 0 | 36 | - |
standardFXMDVSFamily | STANDARD_FX48MDS | - | Cpu | 0 | 48 | - |
standardLASv3Family | STANDARD_L8AS_V3 | - | Cpu | 0 | 8 | - |
standardLASv3Family | STANDARD_L16AS_V3 | - | Cpu | 0 | 16 | - |
standardLASv3Family | STANDARD_L32AS_V3 | - | Cpu | 0 | 32 | - |
standardLASv3Family | STANDARD_L48AS_V3 | - | Cpu | 0 | 48 | - |
standardLASv3Family | STANDARD_L64AS_V3 | - | Cpu | 0 | 64 | - |
standardLASv3Family | STANDARD_L80AS_V3 | - | Cpu | 0 | 80 | - |
standardLSv2Family | STANDARD_L8S_V2 | - | Cpu | 0 | 8 | - |
standardLSv2Family | STANDARD_L16S_V2 | - | Cpu | 0 | 16 | - |
standardLSv2Family | STANDARD_L32S_V2 | - | Cpu | 0 | 32 | - |
standardLSv2Family | STANDARD_L48S_V2 | - | Cpu | 0 | 48 | - |
standardLSv2Family | STANDARD_L64S_V2 | - | Cpu | 0 | 64 | - |
standardLSv2Family | STANDARD_L80S_V2 | - | Cpu | 0 | 80 | - |
standardLSv3Family | STANDARD_L8S_V3 | - | Cpu | 0 | 8 | - |
standardLSv3Family | STANDARD_L16S_V3 | - | Cpu | 0 | 16 | - |
standardLSv3Family | STANDARD_L32S_V3 | - | Cpu | 0 | 32 | - |
standardLSv3Family | STANDARD_L48S_V3 | - | Cpu | 0 | 48 | - |
standardLSv3Family | STANDARD_L64S_V3 | - | Cpu | 0 | 64 | - |
standardLSv3Family | STANDARD_L80S_V3 | - | Cpu | 0 | 80 | - |
standardNCADSA100v4Family | STANDARD_NC24ADS_A100_V4 | - | NvidiaGpu | 1 | 24 | Yes |
standardNCADSA100v4Family | STANDARD_NC48ADS_A100_V4 | - | NvidiaGpu | 2 | 48 | Yes |
standardNCADSA100v4Family | STANDARD_NC96ADS_A100_V4 | - | NvidiaGpu | 4 | 96 | Yes |
Standart NCASv3_T4 Ailesi | STANDARD_NC4AS_T4_V3 | - | NvidiaGpu | 1 | 4 | - |
Standart NCASv3_T4 Ailesi | STANDARD_NC8AS_T4_V3 | - | NvidiaGpu | 1 | 8 | - |
Standart NCASv3_T4 Ailesi | STANDARD_NC16AS_T4_V3 | - | NvidiaGpu | 1 | 16 | - |
Standart NCASv3_T4 Ailesi | STANDARD_NC64AS_T4_V3 | - | NvidiaGpu | 4 | 64 | - |
standardNCSv2Family | STANDARD_NC6S_V2 | - | NvidiaGpu | 1 | 6 | - |
standardNCSv2Family | STANDARD_NC12S_V2 | - | NvidiaGpu | 2 | 12 | - |
standardNCSv2Family | STANDARD_NC24S_V2 | - | NvidiaGpu | 4 | 24 | - |
standardNCSv3Family | STANDARD_NC6S_V3 | - | NvidiaGpu | 1 | 6 | - |
standardNCSv3Family | STANDARD_NC12S_V3 | - | NvidiaGpu | 2 | 12 | - |
standardNCSv3Family | STANDARD_NC24S_V3 | - | NvidiaGpu | 4 | 24 | - |
standardNCADSH100v5Family | STANDARD_NC40ADS_H100_V5 | - | NvidiaGpu | 1 | 40 | Yes |
standardNCADSH100v5Family | STANDARD_NC80ADIS_H100_V5 | - | NvidiaGpu | 2 | 80 | Yes |
standart NDAMSv4_A100Family | STANDARD_ND96AMSR_A100_V4 | Yes | NvidiaGpu | 8 | 96 | Yes |
Standart NDASv4_A100 Ailesi | STANDARD_ND96ASR_V4 | Yes | NvidiaGpu | 8 | 96 | Yes |
standardNDSv2Family | STANDARD_ND40RS_V2 | Yes | NvidiaGpu | 8 | 40 | Yes |
standardNDv5H100Family | STANDARD_ND96IS_H100_v5 | - | NvidiaGpu | 8 | 96 | Yes |
standardNDv5H100Family | STANDARD_ND96ISR_H100_v5 | Yes | NvidiaGpu | 8 | 96 | Yes |
Dikkat
ve Standard_F2s_v2
gibi Standard_DS1_v2
küçük VM SKU'ları büyük modeller için çok küçük olabilir ve yetersiz bellek, diskte yeterli alan olmaması veya kapsayıcının başlatılması çok uzun sürdüğü için yoklama hatası nedeniyle kapsayıcı sonlandırmaya yol açabilir. OutOfQuota hataları veya ReourceNotReady hatalarıyla karşılaşıyorsanız daha büyük VM SKU'larını deneyin. Yönetilen çevrimiçi uç nokta ile birden çok modeli dağıtma maliyetini azaltmak istiyorsanız bkz . Çeşitli yerel modeller için dağıtım.
Not
Üretim senaryolarında dağıtımlar için 3'ten fazla örnek olmasını öneririz. Ayrıca Azure Machine Learning, dağıtım için sanal makine kota ayırma bölümünde açıklandığı gibi bazı VM SKU'larında yükseltme gerçekleştirmek için işlem kaynaklarınızın %20'sini ayırır. Bu ek kota rezervasyonundan muaf tutulan VM SKU'ları "%20 Ayırmayı Atla" sütununda belirtilir.