Создание и развертывание ресурса Службы OpenAI Azure

Необходимые компоненты

• Подписка Azure. Создайте ее бесплатно.
• Разрешения доступа для создания ресурсов Azure OpenAI и развертывания моделей.

Создание ресурса

Ниже показано, как создать ресурс Azure OpenAI в портал Azure.

Определение ресурса

1. Войдите с помощью подписки Azure в портал Azure.

2. Выберите " Создать ресурс " и найдите Azure OpenAI. При поиске службы нажмите кнопку "Создать".

   

3. На странице "Создание Azure OpenAI" укажите следующие сведения для полей на вкладке "Основные сведения".

   Поле	Description
   Подписка	Подписка Azure, используемая в приложении подключения службы OpenAI Azure.
   Группа ресурсов	Группа ресурсов Azure, содержащая ресурс Azure OpenAI. Вы можете создать новую группу или использовать существующую группу.
   Регион	Расположение экземпляра. Различные расположения могут привести к задержке, но они не влияют на доступность ресурса во время выполнения.
   Имя	Описательное имя ресурса службы Azure OpenAI, например MyOpenAIResource.
   Ценовая категория	Ценовая категория ресурса. В настоящее время для службы Azure OpenAI доступен только уровень "Стандартный". Дополнительные сведения о ценах см. на странице цен Azure OpenAI

   

4. Выберите Далее.

Настройка безопасности сети

На вкладке "Сеть" представлены три параметра типа безопасности:

• Вариант 1. Все сети, включая Интернет, могут получить доступ к этому ресурсу.
• Вариант 2. Выбранные сети, настройка сетевой безопасности для ресурса служб искусственного интеллекта Azure.
• Вариант 3. Отключен, сети не могут получить доступ к этому ресурсу. Можно настроить подключения к частной конечной точке, которые будут эксклюзивным способом доступа к этому ресурсу.

В зависимости от выбранного параметра может потребоваться предоставить дополнительные сведения.

Вариант 1. Разрешить все сети

Первый вариант позволяет всем сетям, включая Интернет, получить доступ к ресурсу. Этот параметр является настройкой по умолчанию. Для этого параметра не требуются дополнительные параметры.

Вариант 2. Разрешить только определенные сети

Второй вариант позволяет определить определенные сети, которые могут получить доступ к ресурсу. При выборе этого параметра страницы обновляются следующие обязательные поля:

В разделе брандмауэра представлено необязательное поле диапазона адресов, которое можно использовать для настройки параметров брандмауэра для ресурса.

Вариант 3. Отключение сетевого доступа

Третий вариант позволяет отключить сетевой доступ к ресурсу. При выборе этого параметра страница обновляется, чтобы включить таблицу частной конечной точки .

В качестве параметра можно добавить частную конечную точку для доступа к ресурсу. Выберите " Добавить частную конечную точку" и завершите настройку конечной точки.

Подтверждение конфигурации и создание ресурса

1. Нажмите кнопку "Далее " и настройте все теги для ресурса по мере необходимости.

2. Нажмите кнопку "Далее ", чтобы перейти к последнему этапу процесса: просмотр и отправка.

3. Подтвердите параметры конфигурации и нажмите кнопку "Создать".

4. В портал Azure отображается уведомление о доступности нового ресурса. Выберите Перейти к ресурсу.

   

Развертывание модели

Прежде чем создавать текст или вывод, необходимо развернуть модель. Вы можете выбрать одну из нескольких доступных моделей на портале Azure AI Foundry.

Чтобы развернуть модель, выполните следующие действия.

1. Войдите на портал Azure AI Foundry.

2. Выберите подписку и ресурс Azure OpenAI для работы и выберите команду "Использовать ресурс".

3. В разделе "Управление" выберите "Развертывания".

4. Выберите "Создать новое развертывание " и настройте следующие поля:

   Поле	Description
   Выбор модели	Доступность модели зависит от региона. Список доступных моделей для каждого региона см . в сводной таблице модели и доступности регионов.
   Имя развертывания	Тщательно выбирайте имя. Имя развертывания используется в коде для вызова модели с помощью клиентских библиотек и REST API.
   Тип развертывания	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Дополнительные сведения о параметрах типа развертывания.
   Дополнительные параметры (необязательно)	При необходимости можно задать дополнительные параметры, необходимые для ресурса. — Для фильтра содержимого назначьте фильтр содержимого развертыванию. — Для маркеров в минуту настройте маркеры в минуту (TPM), чтобы задать эффективное ограничение скорости для развертывания. Это значение можно изменить в любое время с помощью меню "Квоты ". Динамическая квота позволяет воспользоваться дополнительными квотами при наличии дополнительной емкости.

5. Выберите модель из раскрывающегося списка.

6. Введите имя развертывания для идентификации модели.

   Внимание

   При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, что является одним из ключевых различий между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В наших документах часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете имена развертываний могут соответствовать любым соглашениям об именовании для вашего варианта использования.

7. Для первого развертывания оставьте параметры "Дополнительные" заданными по умолчанию.

8. Нажмите кнопку создания.

В таблице развертываний показана новая запись, соответствующая созданной модели.

По завершении развертывания состояние развертывания модели изменится на успешное выполнение.

Необходимые компоненты

• Подписка Azure. Создайте ее бесплатно.
• Разрешения доступа для создания ресурсов Azure OpenAI и развертывания моделей.
• Интерфейс командной строки Azure. Дополнительные сведения см. в статье "Установка Azure CLI".

Вход в Azure CLI

Войдите в Azure CLI или выберите Open Cloudshell на следующих шагах.

создание группы ресурсов Azure;

Чтобы создать ресурс Azure OpenAI, вам потребуется группа ресурсов Azure. При создании ресурса с помощью Azure CLI можно также создать новую группу ресурсов или указать Azure использовать существующую группу ресурсов. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды az group create . Группа ресурсов создается в расположении "Восточная часть США".

az group create \
--name OAIResourceGroup \
--location eastus

Создание ресурса

Используйте команду az cognitiveservices account create, чтобы создать ресурс Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать требуемые значения для группы ресурсов и имени ресурса, а также идентификатор <подписки> Azure.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о экземпляре службы OpenAI Azure. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду az cognitiveservices account show, чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды через обработчик jq JSON, чтобы найти .properties.endpoint значение.

При попытке примера обновите код, чтобы использовать значения для группы ресурсов myResourceGroupName> и ресурса< myResourceName>.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду az cognitiveservices account key list . В этом примере мы перенаправляем выходные данные команды через обработчик jq JSON, чтобы найти .key1 значение.

При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Развертывание модели

Чтобы развернуть модель, используйте команду создания учетной записи az cognitiveservices. В следующем примере вы развернете экземпляр text-embedding-ada-002 модели и присвойте ему имя MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса. Вам не нужно изменять model-versionmodel-format значения или sku-capacitysku-name значения.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из ресурса, с помощью команды az cognitiveservices account deployment delete . В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Удаление ресурса

Если вы хотите очистить после этих упражнений, вы можете удалить ресурс Azure OpenAI, удалив ресурс с помощью Azure CLI. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду az cognitiveservices account delete .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Необходимые компоненты

• Подписка Azure. Создайте ее бесплатно.
• Azure PowerShell. Дополнительные сведения см. в статье "Установка Azure PowerShell".
• Разрешения доступа для создания ресурсов Azure OpenAI и развертывания моделей.

Вход в Azure PowerShell

Войдите в Azure PowerShell или выберите Open CloudShell на следующих шагах.

создание группы ресурсов Azure;

Чтобы создать ресурс Azure OpenAI, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure PowerShell можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды New-AzResourceGroup . Группа ресурсов создается в расположении "Восточная часть США".

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Создание ресурса

Используйте команду New-AzCognitiveServicesAccount для создания ресурса Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать требуемые значения для группы ресурсов и имени ресурса, а также идентификатор <подписки> Azure.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о экземпляре службы OpenAI Azure. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду Get-AzCognitiveServicesAccount, чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object , чтобы найти endpoint значение.

При попытке примера обновите код, чтобы использовать значения для группы <myResourceGroupName> ресурсов и ресурса <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду Get-AzCognitiveServicesAccountKey . В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object , чтобы найти Key1 значение.

При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Развертывание модели

Чтобы развернуть модель, используйте команду New-AzCognitiveServicesAccountDeployment . В следующем примере вы развернете экземпляр text-embedding-ada-002 модели и присвойте ему имя MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов и ресурса. Вам не нужно изменять model-versionmodel-format значения или sku-capacitysku-name значения.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Свойство Name переменной $sku принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из ресурса, с помощью команды Remove-AzCognitiveServicesAccountDeployment . В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Удаление ресурса

Если вы хотите очистить после этих упражнений, вы можете удалить ресурс Azure OpenAI, удалив ресурс с помощью Azure PowerShell. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду Remove-AzCognitiveServicesAccount .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup