Compartilhar via

az ml online-endpoint

  • Referência

Nota

Essa referência faz parte da extensão ml para a CLI do Azure (versão 2.15.0 ou superior). A extensão instalará automaticamente na primeira vez que você executar um comando az ml online-endpoint. Saiba mais sobre extensões.

Gerenciar pontos de extremidade online do Azure ML.

Os pontos de extremidade do Azure ML fornecem uma interface simples para criar e gerenciar implantações de modelo. Cada ponto de extremidade pode ter uma ou mais implantações, permitindo que o tráfego de um único ponto de extremidade de pontuação seja atendido para várias implantações, se necessário. Isso é útil para cenários como distribuição controlada.

O Azure ML dá suporte a dois tipos de pontos de extremidade: online e em lote. Os pontos de extremidade online dão suporte à inferência em tempo real, enquanto os pontos de extremidade em lote são usados para pontuação em lote offline.

Comandos

Nome Description Tipo Status
az ml online-endpoint create

Crie um ponto de extremidade.

 Extensão GA
az ml online-endpoint delete

Excluir um ponto de extremidade.

 Extensão GA
az ml online-endpoint get-credentials

Liste o token/chaves de um ponto de extremidade online.

 Extensão GA
az ml online-endpoint invoke

Invoque um ponto de extremidade.

 Extensão GA
az ml online-endpoint list

Listar pontos de extremidade em um workspace.

 Extensão GA
az ml online-endpoint regenerate-keys

Regenerar as chaves de um ponto de extremidade online.

 Extensão GA
az ml online-endpoint show

Mostrar detalhes de um ponto de extremidade.

 Extensão GA
az ml online-endpoint update

Atualize um ponto de extremidade.

 Extensão GA

az ml online-endpoint create

Crie um ponto de extremidade.

Para criar um ponto de extremidade, forneça um arquivo YAML com a configuração de ponto de extremidade online. Se o ponto de extremidade já existir, ele falhará. Se você quiser atualizar o ponto de extremidade existente, use az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Exemplos

Criar um ponto de extremidade com base em um arquivo de especificação YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--auth-mode

Método de autenticação para o ponto de extremidade. Valores permitidos: chave, aml_token. Padrão: chave.

--file -f

Caminho local para o arquivo YAML que contém a especificação do ponto de extremidade online do Azure ML. Os documentos de referência yaml para ponto de extremidade online podem ser encontrados em: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Crie um ponto de extremidade localmente. Observação: não há suporte local para tráfego e autenticação. Você pode usar "az ml online-deployment create --local" diretamente. Ele criará um ponto de extremidade se um não existir.

Valores aceitos: false, true
Valor padrão: False
--name -n

Nome do ponto de extremidade online.

--no-wait

Não aguarde a conclusão da operação de execução prolongada. O padrão é False.

Valor padrão: False
--set

Atualize um objeto especificando um caminho de propriedade e um valor a ser definido. Exemplo: --set property1.property2=value.

--web -e

Mostrar os detalhes do ponto de extremidade no Azure ML Studio em um navegador da Web.

Valor padrão: False
Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint delete

Excluir um ponto de extremidade.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Exemplos

Excluir um ponto de extremidade online, incluindo todas as suas implantações

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade online.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--local

Excluir ponto de extremidade local.

Valores aceitos: false, true
Valor padrão: False
--no-wait

Não aguarde a conclusão da operação de execução prolongada. O padrão é False.

Valor padrão: False
--yes -y

Não solicite confirmação.

Valor padrão: False
Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint get-credentials

Liste o token/chaves de um ponto de extremidade online.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Exemplos

Listar as chaves de um ponto de extremidade online

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade online.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint invoke

Invoque um ponto de extremidade.

Você pode invocar um ponto de extremidade online com alguns dados de solicitação. Isso será inferência em tempo real e os resultados da pontuação serão retornados imediatamente.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Exemplos

Invocar um ponto de extremidade online com alguns dados de solicitação

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade online, direcionando uma implantação específica

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade online.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--deployment-name -d

Nome da implantação a ser direcionada.

--local

Invoque o ponto de extremidade local. Isso só funcionará se uma implantação local tiver sido criada para esse ponto de extremidade.

Valores aceitos: false, true
Valor padrão: False
--request-file -r

Caminho local para o arquivo JSON que contém os dados da solicitação.

Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint list

Listar pontos de extremidade em um workspace.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Exemplos

Listar todos os pontos de extremidade online em um workspace

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Listar todos os pontos de extremidade do lote em um workspace

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Liste todos os pontos de extremidade online em um workspace usando o argumento --query para executar uma consulta JMESPath nos resultados dos comandos.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--local

Listar todos os pontos de extremidade locais.

Valores aceitos: false, true
Valor padrão: False
Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint regenerate-keys

Regenerar as chaves de um ponto de extremidade online.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Exemplos

Regenerar as chaves de um ponto de extremidade online

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade online.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--key-type

O tipo de chave a ser regenerada. Valores permitidos: primário, secundário.

Valor padrão: primary
--no-wait

Não aguarde a conclusão da operação de execução prolongada. O padrão é False.

Valor padrão: False
Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint show

Mostrar detalhes de um ponto de extremidade.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Exemplos

Mostrar os detalhes de um ponto de extremidade em lote

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Mostrar o estado de provisionamento de um ponto de extremidade usando o argumento --query para executar uma consulta JMESPath nos resultados dos comandos.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade online.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--local

Mostrar ponto de extremidade local.

Valores aceitos: false, true
Valor padrão: False
--web -e

Mostrar os detalhes do ponto de extremidade no Azure ML Studio em um navegador da Web.

Valor padrão: False
Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.

az ml online-endpoint update

Atualize um ponto de extremidade.

As propriedades 'description', 'tags' e 'traffic' de um ponto de extremidade podem ser atualizadas. Além disso, novas implantações podem ser adicionadas a um ponto de extremidade e as implantações existentes podem ser atualizadas.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Exemplos

Atualizar um ponto de extremidade de um arquivo de especificação YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Atualizar as configurações de tráfego para um ponto de extremidade

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do workspace do Azure ML. Você pode configurar o workspace padrão usando az configure --defaults workspace=<name>.

Parâmetros Opcionais

--add

Adicione um objeto a uma lista de objetos especificando um caminho e pares de valor de chave. Exemplo: --add property.listProperty <key=value, string or JSON string>.

Valor padrão: []
--file -f

Caminho local para o arquivo YAML que contém a especificação do ponto de extremidade online do Azure ML. Os documentos de referência yaml para ponto de extremidade online podem ser encontrados em: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Ao usar 'set' ou 'add', preserve literais de cadeia de caracteres em vez de tentar converter em JSON.

Valor padrão: False
--local

Atualize o ponto de extremidade local.

Valores aceitos: false, true
Valor padrão: False
--mirror-traffic

Direciona uma porcentagem duplicada de tráfego ao vivo para um treinamento de uma implantação.

--name -n

Nome do ponto de extremidade online.

--no-wait

Não aguarde a conclusão da operação de execução prolongada. O padrão é False.

Valor padrão: False
--remove

Remova uma propriedade ou um elemento de uma lista. Exemplo: --remove property.list <indexToRemove> OR --remove propertyToRemove.

Valor padrão: []
--set

Atualize um objeto especificando um caminho de propriedade e um valor a ser definido. Exemplo: --set property1.property2=<value>.

Valor padrão: []
--traffic -r

Pares chave-valor separados por espaço, entre aspas, para as configurações de tráfego do ponto de extremidade.

--web -e

Mostrar os detalhes do ponto de extremidade no Azure ML Studio em um navegador da Web.

Valor padrão: False
Parâmetros Globais
--debug

Aumente a verbosidade de log para mostrar todos os logs de depuração.

--help -h

Mostre esta mensagem de ajuda e saia.

--only-show-errors

Apenas mostrar erros, suprimindo avisos.

--output -o

Formato de saída.

Valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
Valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar a verbosidade do registro em log. Use --debug para logs de depuração completos.