共用方式為


智慧型應用程式工作負載的效能最佳化

效能效率是指您的工作負載有效擴展以滿足使用者需求的能力。 監控智慧型應用程式工作負載的效能對於確保其有效、高效運作至關重要。

工作負載團隊需要建立關鍵效能指標,定期審查系統效能並及時診斷任何問題。 有效的監控和診斷程序有助於維持系統可靠性和使用者滿意度。

定義效能目標

確定關鍵效能指標涉及確定追蹤實現工作負載效能目標進度的基本測量指標。 這些指標提供了一種可量化的方法來衡量和提高效能效率。

當您確定要關注的關鍵指標時,請考慮與容量、回應時間、偏轉率、參與度和結果相關的指標:

  • 容量:輸送量和並行性是樣本容量指標。 輸送量是指在指定的時間段內處理特定數量交易的能力。 例如,一個代理程式每月可能處理 200,000 次聊天工作階段。 還應考慮季節變化和預期的並行對話最大峰值。 並行性是衡量同時進行的使用者或操作的標準。 例如,在旺季,代理程式最多可以處理 5,000 個並行聊天。 了解目標體積有助於驗證目標架構和規模。

  • 反應時間:延遲和載入時間是常見的反應時間指標。 延遲是回應請求所需的時間 (200 毫秒)。 載入時間是代理程式變為活動狀態並回應第一條訊息所需的時間。 了解代理程式回答查詢的預期最大延遲,並定義處理長時間執行的操作的方法 (例如,等待外部系統返回資料)。

  • 偏轉率:在對話式 AI 的背景下,偏轉率是一個指標,表示以自助服務方式完成的請求所佔的百分比,而這些請求原本由客戶服務代表處理。 換句話說,它指的是由於自動化而團隊不再需要處理的工作數量。 最佳化代理程式偏轉率是組織實現其業務目標的首要關注領域之一,從投資回報率 (ROI) 和客戶滿意度 (CSAT),到提高代理程式的整體效能。 Microsoft Copilot Studio 概述了您的代理程式的效能,包括解決率、升級率和 CSAT 等關鍵指標。

  • 參與度和結果:追蹤對話參與度和結果是衡量代理程式效能指標和確定改進領域的關鍵。 如需進一步了解,請參閱衡量代理程式參與度衡量代理程式結果

效能規劃

工作負載中的資源具有效能限制。 效能限制適用於每個服務中的功能。 您需要瞭解工作負載中資源的局限性,並將這些限制納入設計決策。 例如,您應該知道資源限制是否要求您更改設計方法或完全更改資源。

  • 了解目標量。 目標磁碟區有助於驗證目標架構和規模、代理程式的授權方面以及對對話記錄的 Dataverse 儲存的潛在影響。
  • 了解平台限制。 將智慧型應用程式工作負載與外部系統整合時 (例如透過 Power Automate 或 HTTP 請求),驗證每個元件是否都能處理負載非常重要。
  • 識別瓶頸。 測量輸送量和回應時間來確定係統中隨著工作負載的增加可能出現問題的元件。 透過使用返工和根本原因分析等程序探勘分析功能來識別端到端流程中的瓶頸。

深入了解:效能規劃建議

效能監控

效能最佳化需要資料來根據其效能目標衡量工作負載或流的當前效能。 收集足夠數量和種類的資料,以根據設定的效能目標準確衡量程式碼和基礎結構的效能。 確保工作負載中的每個元件和流自動生成連續且有意義的指標和記錄。

密切監控智慧型應用程式工作負載的效能,以確保其以最佳效率運作。

Copilot Studio 提供全面的開箱即用分析,讓您了解代理程式的使用情況和關鍵效能指標。

您可以查看與以下內容相關的報告:

  • 效能和使用方式
  • 客戶滿意度
  • 工作階段資訊
  • 主題使用方式
  • 計費工作階段

除了 Copilot Studio 中的原生分析功能之外,您還可以將遙測資料傳送至 Application Insights。 如需進一步了解,請參閱使用 Application Insights 擷取遙測。 使用 Azure Monitor、Log Analytics、Application Insights 和警示等工具持續監視效能並偵測異常。

定義您想要監控的關鍵效能指標 (KPI),以衡量智慧型應用程式工作負載的成功,例如參與率、解決率和偏轉率。 首先,請查看本機儀表板以了解可用資料。 然後,決定建立自訂報告是否能更好地滿足您的特定需求。

深入了解:

持續效能最佳化

主動最佳化效能涉及在出現任何問題之前實施措施來改善和提高工作負載的效能。 主動措施包括識別潛在瓶頸、監控效能指標和實施最佳化,以確保工作負載高效運作並滿足效能目標。

為了不斷增強您的智慧型應用程式工作負載,請定期安排對代理程式的效能進行審查:

效能指標 定義
結案率 代理程式成功解決而不需要回報給客戶服務代表的使用者請求的百分比。
參與率 總參與工作階段的百分比。 當使用者以有意義的方式與代理程式互動時,工作階段被視為已參與,例如觸發非系統主題、升級工作階段或呼叫後援主題。
放棄率 未達成解決方案或未升級問題的參與工作階段的百分比。 本質上,它衡量使用者在問題解決或回報給代表之前離開或停止與代理程式互動的頻率。
升級率 升級至代表的參與工作階段的百分比。 此指標對於了解代理程式無法自行解決使用者查詢並需要人工幹預的頻率至關重要。
無法辨識的話語 當代理程式的自然語言理解 (NLU) 模型無法將使用者輸入與任何預先定義的意圖或主題配對時發生。 系統無法根據提供的輸入確定使用者的意圖。
CSAT 客戶滿意度。
低解析度主題 指經常無法有效解決使用者疑問的對話主題。 這些主題經常會導致使用者不滿、放棄或向代表上報。

此次審查有助於確定代理程式更新積壓的優先順序。 例如,如果無法識別的言論經常被回報給客戶服務代表,則應抓住機會改善處理方式。 分析觸發後援和無法識別的話語的使用者模式,並訓練現有主題或建立新主題,以使代理程式更能滿足使用者需求。

深入了解: