Trabalhar com modelos OpenAI do Azure
O Azure OpenAI Service tem a tecnologia diversificada de um conjunto de modelos com diferentes capacidades e níveis de preços. A disponibilidade do modelo varia de acordo com a região.
Você pode obter uma lista de modelos que estão disponíveis para inferência e ajuste fino pelo seu recurso do Azure OpenAI usando a API de Lista de Modelos.
Atualizações de modelo
O Azure OpenAI agora dá suporte a atualizações automáticas para implantações de modelos selecionados. Em modelos onde o suporte a atualizações automáticas está disponível, uma lista suspensa de versão do modelo é visível no Azure OpenAI Studio em Implantações e Editar:
Você pode saber mais sobre as versões do modelo do Azure OpenAI e como elas funcionam no artigo Versões do modelo do Azure OpenAI.
Atualização automática para padrão
Quando você define sua implantação como Atualização automática como padrão, sua implantação de modelo é atualizada automaticamente dentro de duas semanas após uma alteração na versão padrão. Para uma versão de visualização, ele é atualizado automaticamente quando uma nova versão de visualização está disponível a partir de duas semanas após o lançamento da nova versão de visualização.
Se você ainda estiver nas fases iniciais de teste para modelos de inferência, recomendamos implantar modelos com atualização automática para o conjunto padrão sempre que estiver disponível.
Versão específica do modelo
À medida que seu uso do Azure OpenAI evolui e você começa a criar e integrar com aplicativos, talvez queira controlar manualmente as atualizações do modelo. Você pode primeiro testar e validar se o comportamento do aplicativo é consistente para seu caso de uso antes de atualizar.
Quando você seleciona uma versão de modelo específica para uma implantação, essa versão permanece selecionada até que você opte por se atualizar manualmente ou quando atingir a data de desativação do modelo. Quando a data de aposentadoria for atingida, o modelo será automaticamente atualizado para a versão padrão no momento da aposentadoria.
Visualizando datas de aposentadoria
Para modelos atualmente implantados, no Azure OpenAI Studio, selecione Implantações:
Configuração de atualização de implantação de modelo
Você pode verificar quais opções de atualização de modelo estão definidas para modelos implantados anteriormente no Azure OpenAI Studio. Selecione Implantações> Na coluna Nome da implantação, selecione um dos nomes de implantação realçados em azul.
Selecionar um nome de implantação abre as Propriedades para a implantação do modelo. Você pode visualizar quais opções de atualização estão definidas para sua implantação em Política de atualização de versão:
A propriedade correspondente também pode ser acessada via REST, Azure PowerShell e Azure CLI.
| Opção | Ler | Atualizar |
|---|---|---|
| REST | Sim. Se versionUpgradeOption não for devolvido, significa que é null |
Sim |
| Azure PowerShell | Sim.VersionUpgradeOption pode ser verificado para $null |
Sim |
| CLI do Azure | Sim. Mostra null se versionUpgradeOption não está definido. |
N.º No momento, não é possível atualizar a opção de atualização de versão. |
Há três opções distintas de atualização de implantação de modelo:
| Nome | Descrição |
|---|---|
OnceNewDefaultVersionAvailable |
Quando uma nova versão é designada como padrão, a implantação do modelo é atualizada automaticamente para a versão padrão dentro de duas semanas após a alteração de designação ser feita. |
OnceCurrentVersionExpired |
Quando a data de desativação é atingida, a implantação do modelo atualiza automaticamente para a versão padrão atual. |
NoAutoUpgrade |
A implantação do modelo nunca é atualizada automaticamente. Quando a data de aposentadoria é atingida, a implantação do modelo para de funcionar. Você precisa atualizar seu código que faz referência a essa implantação para apontar para uma implantação de modelo não expirado. |
Nota
null é equivalente a OnceCurrentVersionExpired. Se a opção Política de atualização de versão não estiver presente nas propriedades de um modelo que ofereça suporte a atualizações de modelo, isso indica que o valor está no momento null. Depois de modificar explicitamente esse valor, a propriedade fica visível na página de propriedades do estúdio, bem como por meio da API REST.
Exemplos
Consulte o guia de introdução do Azure PowerShell para instalar o Azure PowerShell localmente ou você pode usar o Azure Cloud Shell.
As etapas abaixo demonstram a verificação da propriedade da opção, bem como a VersionUpgradeOption atualização:
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}
// To update to a new model version
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version
// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
Atualizar e implantar modelos por meio da API
PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01
Parâmetros de caminho
| Parâmetro | Type | Necessária? | Description |
|---|---|---|---|
acountname |
string | Obrigatório | O nome do seu Recurso OpenAI do Azure. |
deploymentName |
string | Obrigatório | O nome da implantação que você escolheu quando implantou um modelo existente ou o nome que você gostaria que uma nova implantação de modelo tivesse. |
resourceGroupName |
string | Obrigatório | O nome do grupo de recursos associado para essa implantação de modelo. |
subscriptionId |
string | Obrigatório | ID da subscrição associada. |
api-version |
string | Obrigatório | A versão da API a utilizar para esta operação. Segue o formato AAAA-MM-DD. |
Versões suportadas
2023-05-01Especificações Swagger
Corpo do pedido
Este é apenas um subconjunto dos parâmetros disponíveis do corpo da solicitação. Para obter a lista completa dos parâmetros, consulte a documentação de referência da API REST.
| Parâmetro | Tipo | Description |
|---|---|---|
| versionUpgradeOption | String | Opções de atualização da versão do modelo de implantação:OnceNewDefaultVersionAvailableOnceCurrentVersionExpiredNoAutoUpgrade |
| capacidade | integer | Isso representa a quantidade de cota que você está atribuindo a essa implantação. Um valor de 1 é igual a 1.000 Tokens por Minuto (TPM) |
Pedido de exemplo
curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
-H "Content-Type: application/json" \
-H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
-d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'
Nota
Há várias maneiras de gerar um token de autorização. O método mais fácil para teste inicial é iniciar o Cloud Shell a partir do portal do Azure. Em seguida, execute o az account get-access-token. Você pode usar esse token como seu token de autorização temporária para testes de API.
Resposta de exemplo
{
"id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
"type": "Microsoft.CognitiveServices/accounts/deployments",
"name": "gpt-35-turbo",
"sku": {
"name": "Standard",
"capacity": 120
},
"properties": {
"model": {
"format": "OpenAI",
"name": "gpt-35-turbo",
"version": "0613"
},
"versionUpgradeOption": "OnceCurrentVersionExpired",
"capabilities": {
"chatCompletion": "true"
},
"provisioningState": "Succeeded",
"rateLimits": [
{
"key": "request",
"renewalPeriod": 10,
"count": 120
},
{
"key": "token",
"renewalPeriod": 60,
"count": 120000
}
]
},
"systemData": {
"createdBy": "docs@contoso.com",
"createdByType": "User",
"createdAt": "2023-02-28T02:57:15.8951706Z",
"lastModifiedBy": "docs@contoso.com",
"lastModifiedByType": "User",
"lastModifiedAt": "2023-10-31T15:35:53.082912Z"
},
"etag": "\"GUID\""
}