Condividi tramite

az ml online-endpoint

  • Riferimento

Nota

Questo riferimento fa parte dell'estensione ml per l'interfaccia della riga di comando di Azure (versione 2.15.0 o successiva). L'estensione installerà automaticamente la prima volta che si esegue un comando az ml online-endpoint . Altre informazioni sulle estensioni.

Gestire gli endpoint online di Azure ML.

Gli endpoint di Azure ML offrono un'interfaccia semplice per la creazione e la gestione delle distribuzioni di modelli. Ogni endpoint può avere una o più distribuzioni, consentendo il traffico da un singolo endpoint di assegnazione dei punteggi a più distribuzioni, se necessario. Ciò è utile per scenari come l'implementazione controllata.

Azure ML supporta due tipi di endpoint: online e batch. Gli endpoint online supportano l'inferenza in tempo reale, mentre gli endpoint batch vengono usati per l'assegnazione dei punteggi batch offline.

Comandi

Nome Descrizione Tipo Status
az ml online-endpoint create

Creare un endpoint.

 Estensione Disponibilità generale
az ml online-endpoint delete

Eliminare un endpoint.

 Estensione Disponibilità generale
az ml online-endpoint get-credentials

Elencare i token/chiavi per un endpoint online.

 Estensione Disponibilità generale
az ml online-endpoint invoke

Richiamare un endpoint.

 Estensione Disponibilità generale
az ml online-endpoint list

Elencare gli endpoint in un'area di lavoro.

 Estensione Disponibilità generale
az ml online-endpoint regenerate-keys

Rigenerare le chiavi per un endpoint online.

 Estensione Disponibilità generale
az ml online-endpoint show

Mostra i dettagli per un endpoint.

 Estensione Disponibilità generale
az ml online-endpoint update

Aggiornare un endpoint.

 Estensione Disponibilità generale

az ml online-endpoint create

Creare un endpoint.

Per creare un endpoint, specificare un file YAML con la configurazione dell'endpoint online. Se l'endpoint esiste già, avrà esito negativo. Se si vuole aggiornare l'endpoint esistente, usare az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Esempio

Creare un endpoint da un file di specifica YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--auth-mode

Metodo di autenticazione per l'endpoint. Valori consentiti: chiave, aml_token. Impostazione predefinita: chiave.

--file -f

Percorso locale del file YAML contenente la specifica dell'endpoint online di Azure ML. La documentazione di riferimento YAML per l'endpoint online è disponibile in: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Creare un endpoint in locale. Nota: il traffico e l'autenticazione non sono supportati in locale. È possibile usare direttamente 'az ml online-deployment create --local'. Verrà creato un endpoint se non ne esiste uno.

Valori accettati: false, true
Valore predefinito: False
--name -n

Nome dell'endpoint online.

--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. L'impostazione predefinita è False.

Valore predefinito: False
--set

Aggiornare un oggetto specificando un percorso di proprietà e un valore da impostare. Esempio: --set property1.property2=.

--web -e

Visualizzare i dettagli dell'endpoint in Azure ML Studio in un Web browser.

Valore predefinito: False
Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint delete

Eliminare un endpoint.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Esempio

Eliminare un endpoint online, incluse tutte le distribuzioni

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--local

Eliminare l'endpoint locale.

Valori accettati: false, true
Valore predefinito: False
--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. L'impostazione predefinita è False.

Valore predefinito: False
--yes -y

Indica che non è richiesta la conferma.

Valore predefinito: False
Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint get-credentials

Elencare i token/chiavi per un endpoint online.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Esempio

Elencare le chiavi per un endpoint online

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint invoke

Richiamare un endpoint.

È possibile richiamare un endpoint online con alcuni dati di richiesta. Si tratta di inferenza in tempo reale e i risultati dell'assegnazione dei punteggi verranno restituiti immediatamente.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Esempio

Richiamare un endpoint online con alcuni dati di richiesta

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Richiamare un endpoint online, destinato a una distribuzione specifica

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--deployment-name -d

Nome della distribuzione di destinazione.

--local

Richiamare l'endpoint locale. Questa operazione funzionerà solo se è stata creata una distribuzione locale per questo endpoint.

Valori accettati: false, true
Valore predefinito: False
--request-file -r

Percorso locale del file JSON contenente i dati della richiesta.

Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint list

Elencare gli endpoint in un'area di lavoro.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Esempio

Elencare tutti gli endpoint online in un'area di lavoro

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Elencare tutti gli endpoint batch in un'area di lavoro

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Elencare tutti gli endpoint online in un'area di lavoro usando l'argomento --query per eseguire una query JMESPath sui risultati dei comandi.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--local

Elencare tutti gli endpoint locali.

Valori accettati: false, true
Valore predefinito: False
Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint regenerate-keys

Rigenerare le chiavi per un endpoint online.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Esempio

Rigenerare le chiavi per un endpoint online

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--key-type

Tipo di chiave da rigenerare. Valori consentiti: primario, secondario.

Valore predefinito: primary
--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. L'impostazione predefinita è False.

Valore predefinito: False
Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint show

Mostra i dettagli per un endpoint.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Esempio

Visualizzare i dettagli per un endpoint batch

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Visualizzare lo stato di provisioning di un endpoint usando l'argomento --query per eseguire una query JMESPath sui risultati dei comandi.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--local

Mostra endpoint locale.

Valori accettati: false, true
Valore predefinito: False
--web -e

Visualizzare i dettagli dell'endpoint in Azure ML Studio in un Web browser.

Valore predefinito: False
Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-endpoint update

Aggiornare un endpoint.

È possibile aggiornare le proprietà 'description', 'tags' e 'traffic' di un endpoint. Inoltre, è possibile aggiungere nuove distribuzioni a un endpoint e aggiornare le distribuzioni esistenti.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Esempio

Aggiornare un endpoint da un file di specifica YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Aggiornare le impostazioni del traffico per un endpoint

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--add

Aggiungere un oggetto a un elenco di oggetti specificando un percorso e coppie chiave-valore. Esempio: --add property.listProperty <key=value, string or JSON string>.

Valore predefinito: []
--file -f

Percorso locale del file YAML contenente la specifica dell'endpoint online di Azure ML. La documentazione di riferimento YAML per l'endpoint online è disponibile in: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Quando si usa 'set' o 'add', mantenere i valori letterali stringa anziché tentare di eseguire la conversione in JSON.

Valore predefinito: False
--local

Aggiornare l'endpoint locale.

Valori accettati: false, true
Valore predefinito: False
--mirror-traffic

Indirizza una percentuale duplicata di traffico attivo a un training di una distribuzione.

--name -n

Nome dell'endpoint online.

--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. L'impostazione predefinita è False.

Valore predefinito: False
--remove

Rimuovere una proprietà o un elemento da un elenco. Esempio: --remove property.list <indexToRemove> OR --remove propertyToRemove.

Valore predefinito: []
--set

Aggiornare un oggetto specificando un percorso di proprietà e un valore da impostare. Esempio: --set property1.property2=<value>.

Valore predefinito: []
--traffic -r

Coppie chiave-valore separate da spazi, tra virgolette, per le impostazioni del traffico per l'endpoint.

--web -e

Visualizzare i dettagli dell'endpoint in Azure ML Studio in un Web browser.

Valore predefinito: False
Parametri globali
--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

Valori accettati: json, jsonc, none, table, tsv, yaml, yamlc
Valore predefinito: json
--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.