Partager via

az ml online-endpoint

  • Référence

Remarque

Cette référence fait partie de l’extension ml pour Azure CLI (version 2.15.0 ou ultérieure). L’extension installe automatiquement la première fois que vous exécutez une commande az ml online-endpoint . En savoir plus sur les extensions.

Gérer les points de terminaison en ligne Azure ML.

Les points de terminaison Azure ML fournissent une interface simple pour créer et gérer des déploiements de modèles. Chaque point de terminaison peut avoir un ou plusieurs déploiements, ce qui permet au trafic d’un point de terminaison de scoring unique d’être servi à plusieurs déploiements si nécessaire. Cela est utile pour les scénarios tels que le déploiement contrôlé.

Azure ML prend en charge deux types de points de terminaison : en ligne et par lots. Les points de terminaison en ligne prennent en charge l’inférence en temps réel, tandis que les points de terminaison batch sont utilisés pour le scoring par lots hors connexion.

Commandes

Nom Description Type Statut
az ml online-endpoint create

Créez un point de terminaison.

 Extension GA
az ml online-endpoint delete

Supprimez un point de terminaison.

 Extension GA
az ml online-endpoint get-credentials

Répertoriez le jeton/les clés d’un point de terminaison en ligne.

 Extension GA
az ml online-endpoint invoke

Appelez un point de terminaison.

 Extension GA
az ml online-endpoint list

Répertorier les points de terminaison dans un espace de travail.

 Extension GA
az ml online-endpoint regenerate-keys

Régénérez les clés d’un point de terminaison en ligne.

 Extension GA
az ml online-endpoint show

Afficher les détails d’un point de terminaison.

 Extension GA
az ml online-endpoint update

Mettez à jour un point de terminaison.

 Extension GA

az ml online-endpoint create

Créez un point de terminaison.

Pour créer un point de terminaison, fournissez un fichier YAML avec une configuration de point de terminaison en ligne. Si le point de terminaison existe déjà, il échoue. Si vous souhaitez mettre à jour un point de terminaison existant, utilisez az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Exemples

Créer un point de terminaison à partir d’un fichier de spécification YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--auth-mode

Méthode d’authentification pour le point de terminaison. Valeurs autorisées : clé, aml_token. Valeur par défaut : clé.

--file -f

Chemin local du fichier YAML contenant la spécification du point de terminaison en ligne Azure ML. Vous trouverez les documents de référence YAML pour le point de terminaison en ligne à l’adresse suivante : https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Créez un point de terminaison localement. Remarque : le trafic et l’authentification ne sont pas pris en charge localement. Vous pouvez utiliser « az ml online-deployment create --local » directement. Il crée un point de terminaison s’il n’existe pas.

valeurs acceptées: false, true
valeur par défaut: False
--name -n

Nom du point de terminaison en ligne.

--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est FALSE.

valeur par défaut: False
--set

Mettez à jour un objet en spécifiant un chemin d’accès et une valeur de propriété à définir. Exemple : --set property1.property2=.

--web -e

Afficher les détails du point de terminaison dans Azure ML Studio dans un navigateur web.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint delete

Supprimez un point de terminaison.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Exemples

Supprimer un point de terminaison en ligne, y compris tous ses déploiements

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--local

Supprimez le point de terminaison local.

valeurs acceptées: false, true
valeur par défaut: False
--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est FALSE.

valeur par défaut: False
--yes -y

Ne pas demander de confirmation.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint get-credentials

Répertoriez le jeton/les clés d’un point de terminaison en ligne.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Exemples

Répertorier les clés d’un point de terminaison en ligne

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint invoke

Appelez un point de terminaison.

Vous pouvez appeler un point de terminaison en ligne avec certaines données de requête. Il s’agit d’une inférence en temps réel, et les résultats de scoring sont retournés immédiatement.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Exemples

Appeler un point de terminaison en ligne avec certaines données de requête

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Appeler un point de terminaison en ligne, ciblant un déploiement spécifique

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--deployment-name -d

Nom du déploiement à cibler.

--local

Appelez le point de terminaison local. Cela fonctionne uniquement si un déploiement local a été créé pour ce point de terminaison.

valeurs acceptées: false, true
valeur par défaut: False
--request-file -r

Chemin d’accès local au fichier JSON contenant les données de requête.

Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint list

Répertorier les points de terminaison dans un espace de travail.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Exemples

Répertorier tous les points de terminaison en ligne dans un espace de travail

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Répertorier tous les points de terminaison de lot dans un espace de travail

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Répertoriez tous les points de terminaison en ligne d’un espace de travail à l’aide de l’argument --query pour exécuter une requête JMESPath sur les résultats des commandes.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--local

Répertorier tous les points de terminaison locaux.

valeurs acceptées: false, true
valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint regenerate-keys

Régénérez les clés d’un point de terminaison en ligne.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Exemples

Régénérer les clés d’un point de terminaison en ligne

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--key-type

Type de clé à régénérer. Valeurs autorisées : primaire, secondaire.

valeur par défaut: primary
--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est FALSE.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint show

Afficher les détails d’un point de terminaison.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Exemples

Afficher les détails d’un point de terminaison batch

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Affichez l’état d’approvisionnement d’un point de terminaison à l’aide de l’argument --query pour exécuter une requête JMESPath sur les résultats des commandes.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--local

Afficher le point de terminaison local.

valeurs acceptées: false, true
valeur par défaut: False
--web -e

Afficher les détails du point de terminaison dans Azure ML Studio dans un navigateur web.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-endpoint update

Mettez à jour un point de terminaison.

Les propriétés « description », « tags » et « traffic » d’un point de terminaison peuvent être mises à jour. De plus, de nouveaux déploiements peuvent être ajoutés à un point de terminaison, et les déploiements existants peuvent être mis à jour.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Exemples

Mettre à jour un point de terminaison à partir d’un fichier de spécification YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Mettre à jour les paramètres de trafic d’un point de terminaison

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--add

Ajoutez un objet à une liste d’objets en spécifiant un chemin d’accès et des paires clé-valeur. Exemple : --add property.listProperty <key=value, string or JSON string>.

valeur par défaut: []
--file -f

Chemin local du fichier YAML contenant la spécification du point de terminaison en ligne Azure ML. Vous trouverez les documents de référence YAML pour le point de terminaison en ligne à l’adresse suivante : https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Lorsque vous utilisez « set » ou « add », conservez les littéraux de chaîne au lieu de tenter de convertir en JSON.

valeur par défaut: False
--local

Mettez à jour le point de terminaison local.

valeurs acceptées: false, true
valeur par défaut: False
--mirror-traffic

Dirige un pourcentage en double du trafic en direct vers un déploiement d’apprentissage.

--name -n

Nom du point de terminaison en ligne.

--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est FALSE.

valeur par défaut: False
--remove

Supprimez une propriété ou un élément d’une liste. Exemple : --remove property.list <indexToRemove> OR --remove propertyToRemove.

valeur par défaut: []
--set

Mettez à jour un objet en spécifiant un chemin d’accès et une valeur de propriété à définir. Exemple : --set property1.property2=<value>.

valeur par défaut: []
--traffic -r

Paires clé-valeur séparées par l’espace, entre guillemets, pour les paramètres de trafic du point de terminaison.

--web -e

Afficher les détails du point de terminaison dans Azure ML Studio dans un navigateur web.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.