분할을 사용하여 GPU 관리(미리 보기)

적용 대상: Azure Local, 버전 23H2

이 문서에서는 Azure Local용 Arc VM(가상 머신)을 사용하여 GPU-P를 관리하는 방법을 설명합니다. Azure Arc에서 사용하도록 설정된 AKS에서 GPU-P 관리를 사용하려면 계산 집약적 워크로드에 GPU 사용을 참조 하세요.

GPU-P(GPU 분할)를 사용하면 GPU를 전용 소수 파티션으로 분할하여 여러 워크로드와 GPU(그래픽 처리 장치)를 공유할 수 있습니다.

제한 사항

GPU-P 기능을 사용할 때는 다음과 같은 제한 사항을 고려합니다.

• 구성이 동질적이지 않으면 GPU 분할이 지원되지 않습니다. 다음은 지원되지 않는 구성의 몇 가지 예입니다.

  • 동일한 시스템의 여러 공급업체에서 GPU를 혼합합니다.

  • 동일한 시스템에서 동일한 공급업체의 여러 제품 제품군에서 다른 GPU 모델을 사용합니다.

• 실제 GPU를 DDA(불연속 디바이스 할당) 및 파티션 가능 GPU(GPU-P)로 할당할 수 없습니다. DDA 또는 분할 가능한 GPU로 할당할 수 있지만 둘 다 할당할 수는 없습니다.

• VM에 단일 GPU 파티션만 할당할 수 있습니다.

• 파티션은 VM에 자동으로 할당됩니다. 특정 VM에 대한 특정 파티션을 선택할 수 없습니다.

• 현재 Azure Local의 GPU 분할은 VM의 실시간 마이그레이션을 지원하지 않습니다. 그러나 오류가 발생하면 VM을 자동으로 다시 시작하고 GPU 리소스를 사용할 수 있는 위치에 배치할 수 있습니다.

• CLI(Azure 명령줄 인터페이스)를 사용하여 GPU를 분할할 수 있습니다. Azure CLI를 사용하여 GPU 파티션을 구성하고 할당하는 것이 좋습니다. 시스템의 모든 컴퓨터에서 GPU에 대해 동일한 유형의 구성이 유지 관리되는지 수동으로 확인해야 합니다.

필수 조건

• 요구 사항에 대한 Azure Local에 대한 GPU 준비 및 Azure 로컬 및 Arc VM을 준비하고 GPU가 준비 및 분할되었는지 확인합니다.

Arc VM을 만드는 동안 GPU 연결

Azure Local에서 Arc 가상 머신 만들기에 설명된 단계를 수행하고 추가 하드웨어 프로필 세부 정보를 활용하여 GPU를 만들기 프로세스에 추가합니다. 다음을 실행합니다:

az stack-hci-vm create --name $vmName --resource-group $resource_group --admin-username $userName --admin-password $password --computer-name $computerName --image $imageName --location $location --authentication-type all --nics $nicName --custom-location $customLocationID --hardware-profile memory-mb="8192" processors="4" --storage-path-id $storagePathId --gpus GpuP

자세한 내용은 az stack-hci-vm create를 참조 하세요.

Arc VM을 만든 후 GPU 연결

다음 CLI 명령을 사용하여 GPU를 연결합니다.

az stack-hci-vm stop --name your_VM_name --resource-group your_resource_group

아래와 같이 명령에서 파티션 크기를 지정할 수 있습니다. 파티션 크기는 Hyper-V에서 Get-VMHostPartitionableGpu 찾은 것과 minPartitionVRAM 동일합니다. 위 예제와 같이 파티션 크기를 지정하지 않고 명령을 사용할 수도 있습니다.

az stack-hci-vm gpu attach --resource-group "test-rg" --custom-location "test-location" --vm-name "test-vm" --gpus GpuP

GPU 파티션을 연결한 후 출력에 전체 VM 세부 정보가 표시됩니다. 하드웨어 프로필 virtualMachineGPUs 섹션을 검토하여 GPU가 연결되었는지 확인할 수 있습니다. 출력은 다음과 같습니다.

"properties":{
	"hardwareProfile":{
		"virtualMachineGPUs":[
			{
				"assignmentType": "GpuP",
				"gpuName": null,
				"partitionSizeMb": 3648
			}
         ],

GPU 연결 명령에 대한 자세한 내용은 az stack-hci-vm gpu를 참조하세요.

GPU 분리

다음 CLI 명령을 사용하여 GPU를 분리합니다.

az stack-hci-vm gpu detach --resource-group "test-rg" --custom-location "test-location" --vm-name "test-vm" --gpus GpuP

GPU 파티션을 분리한 후 출력에 전체 VM 세부 정보가 표시됩니다. 하드웨어 프로필을 virtualMachineGPUs검토하여 GPU가 분리되었는지 확인할 수 있습니다. 출력은 다음과 같습니다.

"properties":{
	"hardwareProfile":{
		"virtualMachineGPUs":[],

GPU 연결 명령에 대한 자세한 내용은 az stack-hci-vm gpu를 참조하세요.

다음 단계

• 개별 디바이스 할당을 사용하여 GPU 관리