다음을 통해 공유

CLI(v2) 온라인 엔드포인트 YAML 스키마

  • 아티클

적용 대상: Azure CLI ml 확장 v2(현재)

원본 JSON 스키마는 관리형 온라인 엔드포인트의 경우 https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json에서, Kubernetes 온라인 엔드포인트의 경우 https://azuremlschemas.azureedge.net/latest/kubernetesOnlineEndpoint.schema.json에서 찾을 수 있습니다. 관리형 온라인 엔드포인트와 Kubernetes 온라인 엔드포인트 간의 차이점은 이 문서의 속성 표에 설명되어 있습니다. 이 문서의 샘플은 관리형 온라인 엔드포인트에 중점을 둡니다.

참고 항목

이 문서에 자세히 설명된 YAML 구문은 최신 버전의 ML CLI v2 확장에 대한 JSON 스키마를 기반으로 합니다. 이 구문은 최신 버전의 ML CLI v2 확장에서만 작동하도록 보장됩니다. https://azuremlschemasprod.azureedge.net/에서 이전 확장 버전에 대한 스키마를 찾을 수 있습니다.

참고 항목

관리형 온라인 엔드포인트에 완전히 지정된 샘플 YAML을 참조용으로 사용할 수 있습니다.

YAML 구문

키 형식 설명 허용된 값 기본값
$schema string YAML 스키마입니다. Azure Machine Learning VS Code 확장을 사용하여 YAML 파일을 제작하는 경우 파일 맨 위에 $schema를 포함하여 스키마 및 리소스 완성을 호출할 수 있습니다.
name string 필수입니다. 엔드포인트의 이름입니다. Azure 지역 수준에서 고유해야 합니다.

명명 규칙은 엔드포인트 제한에 따라 정의됩니다.
description string 엔드포인트에 대한 설명입니다.
tags 개체 엔드포인트에 대한 태그 사전입니다.
auth_mode string 엔드포인트를 호출하기 위한 인증 방법입니다(데이터 평면 작업). 키 기반 인증의 경우 key를 사용합니다. Azure Machine Learning 토큰 기반 인증에 대해 aml_token을 사용합니다. Microsoft Entra 토큰 기반 인증에 aad_token을 사용하세요. key
compute string 엔드포인트 배포를 실행할 컴퓨팅 대상의 이름입니다. 이 필드는 Azure Arc 지원 Kubernetes 클러스터에 대한 엔드포인트 배포에만 적용할 수 있습니다(이 필드에 지정된 컴퓨팅 대상에는 type: kubernetes가 있어야 함). 관리 온라인 유추를 수행하는 경우 이 필드를 지정하지 마세요.
identity 개체 엔드포인트 프로비저닝 및 추론에 대해 Azure 리소스에 액세스하기 위한 관리 ID 구성입니다.
identity.type string 관리 ID의 형식입니다. 형식이 user_assigned이면 identity.user_assigned_identities 속성도 지정해야 합니다. system_assigned: user_assigned
identity.user_assigned_identities array 사용자 할당 ID의 정규화된 리소스 ID 목록입니다.
traffic 개체 트래픽은 다른 배포에서 처리할 요청의 비율을 나타냅니다. 이는 키-값 쌍의 사전으로 표시되며, 여기서 키는 배포 이름을 나타내고 값은 해당 배포에 대한 트래픽 비율을 나타냅니다. 예를 들어, blue: 90 green: 10은 90%의 요청이 blue라는 배포로 전송되고 10%가 green 배포로 전송됨을 의미합니다. 총 트래픽은 0이거나 합이 100이어야 합니다. 작동 중인 트래픽 구성을 보려면 온라인 엔드포인트를 위한 안전한 출시를 참조하세요.

참고: 트래픽을 설정하려면 해당 엔드포인트 아래에 배포를 만들어야 하므로 온라인 엔드포인트 만들기 중에는 이 필드를 설정할 수 없습니다. az ml online-endpoint update를 사용하여 배포가 만들어진 후 온라인 엔드포인트에 대한 트래픽을 업데이트할 수 있습니다. 예: az ml online-endpoint update --name <endpoint_name> --traffic "blue=90 green=10"
public_network_access string 이 플래그는 관리형 엔드포인트의 표시 유형을 제어합니다. disabled이면 Azure Machine Learning 작업 영역의 프라이빗 엔드포인트를 사용하여 인바운드 점수 요청을 수신하고 공용 네트워크에서 엔드포인트에 연결할 수 없습니다. 이 플래그는 관리형 엔드포인트에만 적용됩니다. enabled: disabled enabled
mirror_traffic string 배포에 미러링할 라이브 트래픽의 백분율입니다. 미러링 트래픽은 클라이언트에 반환되는 결과를 변경하지 않습니다. 미러링된 트래픽 비율이 복사되어 지정된 배포에 제출되므로 클라이언트에 영향을 주지 않고 메트릭과 로깅을 수집할 수 있습니다. 예를 들어 대기 시간이 허용 가능한 범위 내에 있고 HTTP 오류가 없는지 확인합니다. 키는 배포 이름을 나타내고 값은 배포에 미러링할 트래픽의 비율을 나타내는 단일 키-값 쌍이 있는 사전으로 표시됩니다. 자세한 내용은 미러링된 트래픽을 사용하여 배포 테스트를 참조하세요.

설명

az ml online-endpoint 명령은 Azure Machine Learning 온라인 엔드포인트를 관리하는 데 사용할 수 있습니다.

예제

예제는 예제 GitHub 리포지토리에서 사용할 수 있습니다. 몇 가지는 다음과 같습니다.

YAML: 기본

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

YAML: 시스템 할당 ID

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-sai-endpoint
auth_mode: key

YAML: 사용자 할당 ID

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-uai-endpoint
auth_mode: key
identity:
  type: user_assigned
  user_assigned_identities:
    - resource_id: user_identity_ARM_id_place_holder

다음 단계