快速入門:整合 Azure OpenAI
注意
基本、標準和企業方案將從 2025 年 3 月中旬開始淘汰,並停用 3 年。 建議您轉換至 Azure Container Apps。 如需詳細資訊,請參閱 Azure Spring Apps 淘汰公告。
標準 耗用量和專用 方案將從 2024 年 9 月 30 日起淘汰,並在六個月後完成關閉。 建議您轉換至 Azure Container Apps。 如需詳細資訊,請參閱 將 Azure Spring Apps 標準取用和專用方案遷移至 Azure Container Apps。
本文適用於: ❎基本/標準 ✅ 企業
本快速入門說明如何整合 Azure OpenAI 與部署在 Azure Spring Apps 企業版方案上的應用程式。
Azure OpenAI 可讓應用程式利用對語言和程式代碼有深入瞭解的大型、產生式 AI 模型,以啟用新的推理和理解功能。
下列影片顯示 Azure Spring Apps 如何使用 Azure OpenAI 來建置智慧型手機應用程式:
必要條件
- 具有有效訂用帳戶的 Azure 帳戶。 免費建立帳戶。
- 授與 Azure OpenAI 的存取權。 如需詳細資訊,請參閱 要求存取 Azure OpenAI 服務。
- 了解並滿足 Azure Marketplace 中企業方案的需求一節。
- Azure CLI 2.45.0 版或更高版本。
- Git。
- jq
- Azure Spring 應用程式企業方案延伸模組。 使用下列命令來移除舊版並安裝最新的企業方案延伸模組。 如果您先前已安裝
spring-cloud
延伸模組,請將其解除安裝,以避免設定與版本不符。az extension add --upgrade --name spring az extension remove --name spring-cloud
- 使用企業方案,完成建置和部署應用程式至 Azure Spring Apps 中的步驟。
布建 Azure OpenAI
若要將 AI 新增至應用程式,請建立 Azure OpenAI 帳戶並部署語言模型。 下列步驟說明如何使用 Azure CLI 布建 Azure OpenAI 帳戶和部署語言模型:
使用下列命令來建立 Azure OpenAI 帳戶:
az cognitiveservices account create \ --resource-group <resource-group-name> \ --name <open-ai-service-name> \ --location <region> \ --kind OpenAI \ --sku s0 \ --custom-domain <open-ai-service-name>
使用下列命令,在 Azure OpenAI 服務實例中建立
text-embedding-ada-002
和gpt-35-turbo-16k
的模型部署:az cognitiveservices account deployment create \ --resource-group <resource-group-name> \ --name <open-ai-service-name> \ --deployment-name text-embedding-ada-002 \ --model-name text-embedding-ada-002 \ --model-version "2" \ --model-format OpenAI \ --sku-name "Standard" \ --sku-capacity 1 az cognitiveservices account deployment create \ --resource-group <resource-group-name> \ --name <open-ai-service-name> \ --deployment-name gpt-35-turbo-16k \ --model-name gpt-35-turbo-16k \ --model-version "0613" \ --model-format OpenAI \ --sku-name "Standard" \ --sku-capacity 1
將 Assist Service 部署至 Azure Spring Apps
使用下列步驟來建立、設定及部署 Assist Service 應用程式至 Azure Spring Apps。
使用下列命令來建立新的 AI 服務:
assist-service
az spring app create \ --resource-group <resource-group-name> \ --name assist-service \ --service <Azure-Spring-Apps-service-instance-name> \ --instance-count 1 \ --memory 1Gi
使用下列命令設定 Spring Cloud Gateway 與 Assist Service 路由:
az spring gateway route-config create \ --resource-group <resource-group-name> \ --service <Azure-Spring-Apps-service-instance-name> \ --name assist-routes \ --app-name assist-service \ --routes-file azure-spring-apps-enterprise/resources/json/routes/assist-service.json
使用下列命令來擷取 Azure OpenAI 服務的 REST API 端點基底 URL:
export SPRING_AI_AZURE_OPENAI_ENDPOINT=$(az cognitiveservices account show \ --name <open-ai-service-name> \ --resource-group <resource-group-name> \ | jq -r .properties.endpoint)
使用下列命令來擷取主要 API 金鑰:
export SPRING_AI_AZURE_OPENAI_APIKEY=$(az cognitiveservices account keys list \ --name <open-ai-service-name> \ --resource-group <resource-group-name> \ | jq -r .key1)
使用下列命令來部署 Assist Service 應用程式:
az spring app deploy --resource-group <resource-group-name> \ --name assist-service \ --service <Azure-Spring-Apps-service-instance-name> \ --source-path apps/acme-assist \ --build-env BP_JVM_VERSION=17 \ --env \ SPRING_AI_AZURE_OPENAI_ENDPOINT=${SPRING_AI_AZURE_OPENAI_ENDPOINT} \ SPRING_AI_AZURE_OPENAI_APIKEY=${SPRING_AI_AZURE_OPENAI_APIKEY} \ SPRING_AI_AZURE_OPENAI_MODEL=gpt-35-turbo-16k \ SPRING_AI_AZURE_OPENAI_EMBEDDINGMODEL=text-embedding-ada-002
現在,在瀏覽器中測試 Fitness Store 應用程式。 選取 [ASK TO FITASSIST ] 來與 [輔助服務] 應用程式交談。
在 FitAssist 中,輸入 我需要自行車,以便通勤工作 ,並觀察輔助服務應用程式所產生的輸出:
清除資源
如果您打算繼續進行後續的快速入門和教學課程,您可以讓這些資源留在原處。 如果不再需要,請刪除資源群組,這會刪除資源群組中的資源。 若要使用 Azure CLI 刪除資源群組,請使用下列命令:
echo "Enter the Resource Group name:" &&
read resourceGroupName &&
az group delete --name $resourceGroupName &&
echo "Press [ENTER] to continue ..."
下一步
繼續進行下列任一選擇性快速入門: