Azure 上 AI 工作負載的資源選擇建議

本文針對在 Azure 上執行 AI 工作負載的組織提供資源選擇建議。 其著重於 Azure AI 平臺即服務 （PaaS） 解決方案，包括 Azure AI Foundry、Azure OpenAI、Azure Machine Learning 和 Azure AI 服務。 其涵蓋產生式和非產生式 AI 工作負載。

做出明智的 AI 資源選擇，可讓組織在管理 AI 工作負載時達到更佳的效能、延展性和成本效益。 下表提供主要 Azure AI PaaS 解決方案和重要決策準則的概觀。

選取用於產生的 AI 工作負載的資源

產生 AI 需要不同資源的組合，才能根據輸入數據處理和產生有意義的輸出。 適當的選擇可確保產生的 AI 應用程式，例如使用 擷取增強世代 （RAG） 的應用程式，藉由建立 AI 模型來提供精確性。

在典型的RAG工作負載中，工作負載會接收用戶查詢。 （2） 協調器，例如提示流程、語意核心或 LangChain，會管理數據流。 （3） 搜尋和擷取機制會尋找適當的 （4） 基礎數據，以傳送至產生式 AI 端點。 （5） 產生的 AI 模型端點會根據用戶查詢和地面數據產生回應。 使用下列建議作為架構來建置 RAG 工作負載。

• 選擇產生式 AI 平臺。 使用 Azure OpenAI 或 Azure AI Foundry 來部署和管理再生 AI 模型。 Azure OpenAI 服務 可讓您存取 OpenAI 模型 專用網，以及內容篩選。 Azure AI Foundry 提供程式碼優先平台來開發 AI 工作負載。 其內建工具可用於建置和部署應用程式。 它也具有大型模型目錄、提示流程、微調、內容安全篩選等功能。

• 選擇適當的 AI 計算類型。 Azure AI Foundry 需要 計算實例，才能在 Studio 中啟動即時工作流程、建立索引，以及開啟 Visual Studio Code（Web 或桌面）。 根據您的效能和預算需求選擇計算類型。

• 挑選協調器。 適用於產生 AI 的熱門協調器包括 語意核心、 提示流程和 LangChain。 語意核心與 Azure 服務整合。 LangChain 提供Microsoft生態系統以外的擴充性。

• 挑選搜尋和知識擷取機制。 若要建立產生的 AI 模型，請建立索引或向量資料庫以擷取相關數據。 使用 Azure AI 搜尋從各種數據源建置傳統和向量索引、套用數據區塊化，以及使用多個查詢類型。 如果您的數據位於結構化資料庫中，請考慮使用 Azure Cosmos DB、適用於 PostgreSQL 的 Azure 資料庫 和 Azure Cache for Redis。

• 選擇用於地面數據的數據源。 針對影像、音訊、視訊或大型數據集，請將地面數據儲存在 Azure Blob 儲存體 中。 或者，使用 Azure AI 搜尋或向量資料庫支援的資料庫。

• 挑選計算平臺。 使用 Azure 計算判定樹 來挑選適合您工作負載的平臺。

選取非行性 AI 工作負載的資源

非行性 AI 工作負載依賴平臺、計算資源、數據源和數據處理工具來支援機器學習工作。 選取正確的資源可讓您使用預先建置和自定義解決方案來建置 AI 工作負載。

在非產生 AI 工作負載中，工作負載會擷取數據。 （2） 選擇性數據處理機制會擷取或操作傳入數據。 （3） AI 模型端點會分析數據。 （4） 數據支援 AI 模型的定型或微調。 使用下列建議作為架構來建置非行性 AI 工作負載。

• 選擇非行性 AI 平臺。Azure AI 服務提供預先建置的 AI 模型，不需要數據科學技能。 如需選取正確 Azure AI 服務的指引，請參閱 選擇 Azure AI 服務技術。 Azure 機器學習 提供平臺，以您自己的數據建置機器學習模型，並在 AI 工作負載中取用這些模型。

• 選擇適當的 AI 計算。 針對 Azure 機器學習，您需要計算資源來執行作業或裝載端點。 使用符合效能和預算需求的計算類型。 Azure AI 服務不需要計算資源。

• 挑選數據源。 針對 Azure 機器學習，請使用其中一個支援的數據源來裝載定型數據。 對於 Azure AI 服務，許多服務不需要微調數據，有些服務，例如 Azure AI 自訂視覺，提供將本機檔案上傳至受控數據記憶體解決方案的選項。

• 挑選計算平臺。 使用 Azure 計算判定樹 來挑選正確的工作負載平臺。

• 挑選數據處理服務（選擇性）。 Azure Functions 是常見的數據處理選擇，因為它提供無伺服器選項。 Azure 事件方格 也是啟動數據處理管線的常見觸發機制。

後續步驟