共用方式為


使用 Microsoft 雲端建立產生 AI 體驗:ISV 指南

歡迎使用 Microsoft Cloud 建立獨特的 Generative AI(GenAI) 體驗指南。 身為 獨立軟體供應商(ISV),您處於利用 GenAI 的強大功能來創新,並為客戶提供引人入手的解決方案。

什麼是 Microsoft 雲端?
Microsoft雲端是一個全方位且整合的平臺,提供各種不同的功能和服務。 它包含 Azure AI、Microsoft 365、Microsoft Fabric 等等,使其處於全球 Generative AI 革命的前沿。

此平臺可讓您將專屬數據和功能呈現到各種領域,包括Microsoft 365,這是數百萬人存取的生產力和共同作業中樞。

本指南可協助您流覽 Microsoft 雲端生態系統中可用的廣泛可能性。

什麼是共生?
我們將 Copilot 稱為 AI 支援的虛擬助理,其可協助人類執行複雜的認知工作、提供內容相關建議,以及推動數據豐富的深入解析,來提升用戶生產力。 這些共同作業可以建立在特定客戶或ISV資料和內容中,為ISV提供機會來建立瞭解商務特定數據的產生 AI 體驗。

案例和方法

此圖顯示Microsoft Copilot 元件、AI 協調流程,以及基礎Microsoft雲端基礎結構。

列出三個 copilot 擴充性 ISV 方法的圖表。 首先,擴充 Copilot 可讓您將數據和服務呈現至Microsoft的 Copilots。 其次,建立 copilot 可讓您使用最少的編碼和選擇性Microsoft數據擷取,在任何地方建立 copilot。 第三,完全控制可讓您建置自己的端對端 AI 體驗。 這三個選項中的每一個選項都有下列文字中概述的詳細數據。

本指南提供案例導向的指引,可協助ISV在 Microsoft Cloud 上流覽 GenAI 的廣泛領域。 我們的目標是協助您針對您獨特的的需求選取最適合的模式和技術,並採用三種高階方法來製作 AI 體驗。

我們的方法會根據案例細分成模式,以協助您流覽最適合您案例和需求的路徑。

重要

請注意,這些方法及其模式 並非互斥。 您可以結合它們來建立量身打造的解決方案,以最符合您獨特的需求和案例。

方法 1:將您的數據和服務呈現至Microsoft的 Copilots:

這種方法專為希望將其數據和服務整合到 Microsoft Copilots 中的 ISV 所設計。 重點是使用外掛程式和 Graph 連接器來增強用戶體驗。

案例:我是 ISV ,我的終端使用者在 Teams、Word、Outlook 等Microsoft應用程式中執行工作,而他們需要...

...使用自然語言介面存取資訊,而且我有想要透過這些Microsoft 365 應用程式提供的現有服務。

...從我們的ISV數據源中繪製見解,結合以使用者為中心的Microsoft Graph資料及其組織的企業營運數據。

方法 2:使用最少編碼和選擇性Microsoft數據整合,在任何地方建立 copilot:

這種方法適用於ISV,目的是使用Microsoft的數據和工具擴充其應用程式,或想要使用 Azure 建立自己的 AI 助理的人員。 它牽涉到使用 Microsoft Graph API、Copilot Studio 外掛程式、Teams AI 連結庫,或讓客戶透過連接器建立自己的數據警覺體驗。

案例:我是一個ISV,我的終端使用者可在任何地方工作...

...而且我想讓他們能夠使用我們的數據和服務建立自己的警戒體驗。

案例:我是ISV ,我的終端使用者在現有的應用程式和UI中工作,想要我們...

...將Microsoft用戶為中心的 Graph 數據併入我的 copilot。

...在現有的應用程式中提供交談體驗,其可回答問題,並將交談轉換成動作。

案例:我是 ISV,其為 Copilot 體驗的目標 Microsoft Teams ,並包含...

...建立智慧型 Teams Bot,以整合至 GenAI、在 Teams 中執行 Bot,並具有內容感知的交談,或使用 Teams 聊天體驗,而我作為 ISV 著重於複雜的商業規則。

方法 3:完全控制:建置您自己的 (BYO) 端對端 AI 體驗:

這種方法適用於尋求使用 Azure AI Studio 和語意核心等工具製作全新的 AI 體驗或共同作業的 ISV。 它提供最大的控制件和自定義,提供無限的可能性。

案例:我是一個ISV,想要開發尖端互通的 AI 體驗...

...需要對複雜的多模式數據進行特製化處理,這可能包括微調 AI 模型以符合特定精確度需求。

...使用ISV的自定義AI模型和服務來量身打造的解決方案。

...提供對話式體驗的完整控制,包括系統提示、溫度、音調和自定義安全需求。

提示

為了深入了解,建議您探索每個模式中提供的入門連結中提供的詳細內容。

Microsoft Copilot 堆疊包含三個不同的層:後端(位於個別存放庫的數據)、中間的 AI 協調流程層,以及前端(您 copilot 的 UI 體驗)。 在每一層中,建置 Copilot 時,建議考慮的圖層。

當ISV從方法1移至方法3時,它們會更深入地與每一層互動,並承擔更大的開發責任。 例如,在方法 1 下建立外掛程式表示Microsoft處理 AI 協調流程,包括數據整合和負責任 AI。 相反地,開發自定義 Copilot 可能需要完全控制用戶體驗、協調流程層、數據管理和負責任 AI。

注意

雖然 「copilot」 是指產生 AI 助理的一般概念,但 「Copilot」 是指特定 Microsoft 產品,例如 ISV 可以整合的 Microsoft 365 Copilot 或 Dynamics 365 Copilot。

每個選項都會因複雜度和精力而異。 採用現有的Microsoft Copilots 很簡單,使用外掛程式加以擴充需要最少的工作,而且製作新的共同作業體驗可能需要設計、科學和工程。

請務必記住,AI 解決方案與您將模型放在一起並做為內容使用的數據一樣好。 現成可用的Microsoft Copilots 已經支援一系列案例,並可透過您的數據、函式和程序來擴充。 不過,無法擴充使用者介面。 因此,請務必仔細考慮您的特定案例、如何套用 GenAI 演算法,以及使用者(「試驗」)如何受益於您的輔助功能。

方法 1:將您的數據和服務呈現至Microsoft的 Copilots

ISV 希望將其現有的服務、數據和程式呈現到Microsoft的 Copilots 或 Microsoft 365 應用程式,可以建置外掛程式和連接器來執行此作業。

這個方法可讓Microsoft 365 Copilot 與其他軟體和服務的 API 互動、呈現最新的資訊、執行動作,以及執行新類型的計算。

模式 A:建立外掛程式以增強現有的 Copilot 功能

外掛程式是擴充現有 Copilot 的功能延伸模組,可讓它與 ISV 應用程式和服務互動。 他們可以透過自然語言對話,啟用與 API 的互動,以擴充使用者的功能。 例如,外掛程式可讓 Copilot 擷取有用的信息、執行新的計算,或代表使用者安全地執行動作。

ISV 可以使用各種工具來建立外掛程式,包括透過 Copilot Studio 的 Teams 訊息延伸模組和 Power Platform 外掛程式。 新的外掛程式可以透過合作夥伴中心發佈至Microsoft的 Copilot 生態系統,IT 系統管理員可以核准這些外掛程式供終端使用者使用。

ISV 案例:

  • 想要在 Microsoft 365 用戶端應用程式上呈現其現有服務的 ISV
  • 使用者可以從 Microsoft 365 用戶端應用程式,例如 Teams、Outlook、Word 等,在 ISV 應用程式或任何外部系統中搜尋、更新及執行動作。
  • Teams 上的使用者可以從客戶使用的外部票證或CRM系統找到相關信息,選擇性地包括代表使用者在系統內執行動作

合作夥伴優勢:

  • 使用 Microsoft 365 個用戶端應用程式為數百萬使用者和公司提供服務,滿足他們目前工作的使用者。
  • 在 Microsoft 365 用戶端應用程式中呈現解決方案服務可見度,以提升您的解決方案服務可見度。
  • 藉由不需要在多個應用程式和畫布之間巡覽,以減少使用者的摩擦。
  • Microsoft 365 個應用程式的一致用戶體驗,Microsoft 365 應用程式之間具有通用整合和持續性。
  • 例如,Contoso 使用者會探索最新客戶帳戶,其中包含來自 Outlook、SharePoint 和 Fabrikam 外部系統的數據,而不需要離開 Teams。

要從何處開始:

關鍵要點

  • 外掛程式是一種在 Microsoft Copilot 上呈現 ISV 服務和應用程式的方式,可讓使用者與來自 Microsoft 365 用戶端應用程式的 ISV 應用程式和服務互動。
  • ISV 可以使用Teams訊息延伸模組和 Copilot Studio 外掛程式等工具來建立外掛程式。
  • 外掛程式可以透過合作夥伴中心增加解決方案的可見度和可探索性

模式 B:使用 Graph Connecters 將數據帶入 Copilot 體驗

圖形連接器 可讓ISV將其數據連線至 Microsoft 365 語意索引。 其數據會直接從 Teams、Outlook 和 Word 等 365 個用戶端應用程式Microsoft可供使用者搜尋且可採取動作。 Microsoft Copilot 會透過 Microsoft Graph,以 ISV 數據為基礎,無論是雲端還是內部部署。 此外,ISV 可以使用 Microsoft Fabric,這是作為 SaaS 產品的統一數據平臺,將其數據帶入Microsoft雲端,並輕鬆地將其連線到Microsoft Graph。

顯示連線到「Microsoft圖形數據」和「ISV 應用程式」的「Copilot」圖表,該應用程式透過「圖形」連接器連結至「ISV 數據源」。

ISV 可以使用 Microsoft Graph 連接器 API 來建置圖形連接器,其支援各種數據源、檔案系統、網頁、企業應用程式等等。

圖形連接器也可以使用 AI 支援的功能來擴充數據,例如自然語言處理、實體擷取和影像分析。 藉由使用 Graph 連接器,ISV 可以使用自己的數據擴充Microsoft Copilot,增強用戶體驗,並啟用更個人化且安全的互動。

已有數百個 Graph 連接器存在。 例如,Jira Cloud Graph 連接器可以將 Jira 物件提升至與 Microsoft 365 Graph 數據相同的層級,以允許完整的推理和通用整合,進而增強且更豐富的深入解析。 連接器可讓使用者使用自然語言介面,從 Microsoft 365 Copilot 搜尋 Jira 物件。

ISV 案例:

  • 客戶在 Microsoft 365 中執行工作的 ISV,並想要讓使用者從 ISV 數據源中擷取見解,並結合以使用者為中心的 Microsoft Graph 數據。
  • 使用者可以從ISV應用程式擷取、摘要和原因,結合其他Microsoft 365 圖形數據,例如電子郵件、文字檔等。
  • 通訊總監需要在 Outlook 中尋找並重新制定 PR 電子郵件,這些電子郵件會以來自 ISV 圖形設計應用程式的內容擴充

合作夥伴優勢:

  • 滿足使用者的工作位置。 龐大的使用者基底使用 Microsoft 365 個用戶端應用程式,現在可以在一個統一的體驗中存取您自己的數據和服務。
  • 結合ISV數據與 Microsoft Graph 數據,以擴充深入解析。
  • 與 Microsoft 365 應用程式,以及具有一個連接器的 Microsoft 搜尋、Context IQ 和 Viva 的通用整合。
  • 擴充的通道來展示ISV數據,可能會增加使用者群。

要從何處開始:

關鍵要點

方法 2:使用最少編碼和選擇性Microsoft數據整合,在任何地方建立共同作業

ISV 可將位於 Microsoft Graph 中的工具和數據的強大功能帶入自己的應用程式中,增強其功能和用戶體驗。

模式 C:開發 Power Platform 連接器,以在 Copilot Studio 中啟用客戶導向的 Copilot

Copilot Studio 可讓客戶建立低程式代碼 AI 應用程式,以回應一般用戶查詢,並使用來自其組織的數據,以及Microsoft和合作夥伴數據源。 Copilot Studio 會使用 Power Platform Connector 從任何來源引進數據,其中目前有超過 500 個連接器。 身為ISV,您可以建立資料與服務的連接器,讓客戶能夠建立自己的內部員警和 AI 應用程式,以 ISV 資料為基礎。

這些 AI 應用程式可以呈現給不同平台的使用者,包括網站、行動應用程式、Microsoft Teams,或 Azure Bot Framework 支援的任何頻道。

範例案例

  • ISV 希望在其現有的應用程式中為客戶提供聊天機器人體驗,以響應問題,並將交談變成動作。
  • 使用者詢問應用程式內的問題,並接收以ISV、Microsoft或客戶數據源為基礎的解答。
  • 使用 Copilot Studio 從現有的 API 建立客戶連接器,並使用 Copilot Studio 將它轉換成外掛程式,以便從具有自然語言介面的聊天機器人呼叫這些 API。
  • 將現有的Power Automate流程轉換成可從Microsoft copilot 聊天呼叫的外掛程式,以執行動作並擷取資訊。
  • 透過Power Platform中的這些連接器,從 Zendesk、GitHub 和 Salesforce 等企業系統存取自然語言介面的數據。

合作夥伴優勢:

  • 利用現有Microsoft和非Microsoft連接器的強大功能,以毫不費力地增強和擴充您的應用程式。
  • 藉由套用Power Platform 自定義連接器方法來加速外掛程式開發,以進行快速且有效率的整合。
  • 透過 Copilot Studio 的低程式代碼功能來增強時間到值。
  • 透過將 AI 功能整合到您的應用程式中,以最少的程式代碼撰寫來獲得競爭優勢。

要從何處開始:

關鍵要點

  • Copilot Studio 提供一個平臺,可用來建立低程式代碼 AI 應用程式,其可透過以 ISV 資料或函式為基礎的聊天機器人功能來增強現有的應用程式。
  • 此平臺同時支持現有的 Power Platform 連接器和自訂連接器,提供整合 ISV 服務和數據源的彈性。
  • AI 功能的整合可大幅改善用戶體驗,並讓您的應用程式具有競爭優勢。

模式 D:在 copilots 中運用 Microsoft Graph API

Microsoft Graph API 提供強大的端點,可從 Microsoft 365 應用程式存取使用者為中心的數據,其中包括 Calendar、Bookings、Outlook、Teams、OneDrive、SharePoint 等等。 透過此 API,您可以使用來自 Microsoft 365 的數據來擴充應用程式,讓用戶能夠衍生更豐富的深入解析和分析。

ISV 案例:

  • 使用現有ISV應用程式的客戶和合作夥伴,想要將Microsoft用戶為中心的 Graph 資料合併在他們的 copilot 中。
  • 具有專案管理應用程式的ISV想要納入Microsoft 365行事曆數據和專案文件數據,以協助使用者追蹤應用程式內的期限和里程碑。
  • 具有CRM應用程式的ISV想要納入 Microsoft 365 聯繫人和電子郵件數據,以增強客戶配置檔和通訊記錄。

請考慮 Fabrikam,一種多功能的人力資源管理 (HCM) 軟體,配備彈性的 HR 套件,能夠順暢地自動化各種工作流程,例如人才取得、員工獎勵管理和意見反應流程。 在不斷追求創新時,Fabrikam 在其 HR 套件上引進了尖端的員警功能。 現在,他們的目標是藉由整合以使用者為中心的圖形數據,進一步提升其應用程式。 這項增強功能牽涉到使用圖形 API 來納入員工的行事曆,包括排定的休息時間等詳細數據,以及意見反應流程的 1:1 等詳細數據。

合作夥伴優勢:

  • 藉由結合您的數據與 Microsoft 365 Graph,找出豐富的深入解析。
  • 無縫整合:標準化存取Microsoft 365 數據,以方便與您的應用程式整合。
  • 改善的用戶體驗:提供更順暢的用戶體驗,讓您能夠存取應用程式中相關的Microsoft 365 數據和功能。
  • 增強功能:使用 Microsoft 365 數據,將新功能新增至您的應用程式。
  • 延展性和效率:在圖形 API 處理數據擷取時,著重於建置和改善您的應用程式。

要從何處開始:

關鍵要點

  • Microsoft Graph API 可讓 ISV 使用以使用者為中心的數據從 Microsoft 365 擴充其應用程式。
  • 透過 Graph API,您可以利用 Microsoft 365 語意索引,這是針對 Copilots 時代所建置的更進階搜尋體驗。
  • 藉由使用圖形 API,ISV 可以使用更豐富的深入解析和分析來增強其應用程式。

模式 E:使用 Azure OpenAI 小幫手將警訊體驗帶入您的應用程式

ISV 可以在 Azure 的 AI 服務中採用這種低程式代碼方法,將類似警覺的體驗帶入自己的應用程式。 它提供快速路徑,以套用 GPT 的 函式呼叫 來呼叫您自己的 API,只要在 JSON 中描述函式的結構,並提供沙箱化 Python 環境來執行 和執行程式代碼 ,以協助制定用戶問題的回應。

這兩項功能都有助於將非語言型挑戰卸除給傳統程式代碼或適合工作的現有系統,例如簡單的數學工作。

雖然您沒有系統提示和溫度的直接存取權,但同樣可以透過自定義指示影響您助理的行為,而這種行為對類似警察體驗的個性有重大影響。

合作夥伴優勢:

  • Azure OpenAI Assistants 提供低程式代碼方法,可讓 ISV 快速將 Generative AI 功能整合到其應用程式中,而不需要大量開發工作。

要從何處開始:

關鍵要點

  • ISV 可以使用 Azure OpenAI Assistants 來建立可增強用戶參與的互動式自然語言介面。 這些小幫手只要透過 JSON 來描述 API 即可呼叫 API。
  • Azure OpenAI 小幫手可以根據使用者的提示,在沙盒中撰寫和執行程式代碼,以解決非 GenAI 問題。

模式 F:使用 Teams AI 連結庫建置您自己的員警

ISV 也可以使用 Teams AI連結庫 ,在其現有的Teams聊天機器人中新增自然語言功能。 此連結庫可讓ISV專注於其商業規則,同時使用Teams Scaffolding來處理交談互動。 ISV 可以在 Teams 中呈現聊天機器人,為使用者提供更自然且直覺的方式與其應用程式互動。

ISV 案例:

  • 終端使用者正在使用Teams,ISV合作夥伴想要在具有類似Bot功能的Teams上呈現其服務或功能。
  • 圖形數據不需要整合,ISV 合作夥伴想要專注於服務和商業規則,而不需與 Teams Copilot 功能整合。
  • 透過預先建置的 Teams 應用程式範本和內建的仲裁安全性功能,ISV 合作夥伴可以輕鬆地將 LLM 功能新增至其現有的聊天機器人。

合作夥伴優勢:

  • 將 ChatGPT 新增為對話式體驗,並控制 Bot 的提示工程,並重複使用內建的安全性功能。
  • 建置在可重複使用的功能之上,例如
    • Teams AI 機制所提供的交談會話歷程記錄。
    • 多語言支援。
    • 除了OpenAI模型之外,多重大型語言模型也支援。
    • 可協助根據使用者意圖對應至動作的動作規劃工具。
    • 準備好使用增強機制來變更模型透過參數或系統提示變更來回應的方式。
    • 額外的推理,可以基於您數據上的模型答案。

要從何處開始:

關鍵要點

  • Team AI 連結庫提供簡單的方法,讓您在 Teams 中使用 LLM 的強大功能來點燃 ISV 開發的 Bot。
  • 它不需要與目前Microsoft Copilot 功能整合,可以提供工作導向的體驗。
  • 從工程的觀點來看,它提供許多可能性,但也準備好使用現成的功能,使整個開發程式更容易。

如果您想要使用 LLM 在 Teams 中為 Bot 提供電源,Teams AI 連結庫就是您前往的方式。

方法 3:完全控制:建置您自己的 (BYO) 端對端 AI 體驗

ISV 可以使用 Microsoft Copilot Stack 來建置全新的 AI 體驗,作為輔助程式或智慧型手機助理。 此堆棧中間部分的ISV建置負責 AI 協調流程,其中Microsoft提供各種選項,這些選項全都適用於Microsoft的基礎模型、AI 工具鏈和 AI 基礎結構。

語意核心 可用來建置在copilots中提供Microsoft Copilots的相同 AI 協調流程模式。 它以 SDK 的形式 提供,您可以直接進行開發。

隨著大部分投資在堆棧中間建立 Copilot 服務,ISV 可以自由地將此 Copilot 服務連線到各種表面,包括 Teams、Microsoft 365 Copilot、Microsoft Copilot、您自己的應用程式介面、網站、聊天 Bot 或全部。 基本上,當涉及到與應用程式介面整合 – 堆棧頂端 – 這裡所述的所有其他模式也是一個選項。

模式 G:使用 Azure AI Studio 建置您自己的員警

Azure AI Studio 是一個全方位平臺,可供ISV建置自定義、智慧型手機助理或輔助程式。 它會結合各種 Azure AI 服務的功能,提供統一的工作區來開發和部署產生式 AI 應用程式。 這是一個共同作業平臺,數據科學家、開發人員和其他項目關係人可以融合並共同合作。

透過 Azure AI Studio,ISV 可以完全掌控其警員的行為、個性和功能。 無論從我們 廣泛的目錄使用現有的預先定型模型、微調數據模型,還是訓練您自己的自定義 AI 模型,Azure AI Studio 都會加速開發處理複雜多模式數據的 AI 體驗。

Azure AI Studio 的突出功能是其各種模型、迎合各種產業和使用案例。 它可讓ISV在單一解決方案中結合不同的模型,以符合其獨特的需求。

Azure AI 搜尋 整合可讓 ISV 針對直接從 Azure AI Studio 的非結構化數據實作擷取擴增世代(RAG)模式,並具有 AI 搜尋整合向量化功能的新增優勢。 這表示您的 copilot 需求的任何數據都可以在向量資料庫中自動保持最新狀態,在使用者提示評估期間促進快速且有效率的擷取,讓您自行實作索引編製、區塊化、內嵌和向量化模式的工作。

提示流程是 Azure AI Studio 的一項功能,提供可視化的圖表,可搭配大型語言模型(LLM)、提示和 Python 工具協調可執行流程。 它可透過小組共同作業,輕鬆地對流程進行偵錯、共用和逐一查看。

對於偏好程式代碼優先方法的ISV小組, Azure AI SDK 提供一套套件來存取 Azure AI 服務,包括設定 Azure AI Studio 專案和相關資源。 這可讓開發人員和數據科學家管理 AI 元件、直接從程式代碼設定 AI 模型、管線和服務,同時仍可讓偏好的開發人員使用圖形化介面。

Azure AI Studio 的原型設計很容易透過其遊樂場。 在 Azure AI Studio 中處理專案的小組一般旅程,可以從個人在遊樂場中驗證想法開始。 產生有吸引力的結果之後,就可以從遊樂場提示它們以版本化和自定義流程的形式提示流程。 現在 AI 專案中的版本化成品,更廣泛的小組可以參與流程可透過 Azure AI Studio UI 和僅限程式代碼存取的位置。 此時可以測試及評估不同 LLM 的多個邏輯分支。

除了開發階段之外,Azure AI Studio 也提供 LLMOps 工具鏈,處理從開發到生產環境及持續維護的端對端提示工程。

Azure AI Studio 支援與 Azure AI 搜尋、Azure Open AI Service 和其他 Azure AI 服務整合,簡化 ISV 的資源管理。 它也提供項目導向的工作區,促進針對共用計算、模型部署和服務的共同作業。

ISV 案例:

  • 一個醫療保健 ISV 建置遠端醫療平臺想要一個員警,瞭解醫療術語,協助醫生診斷患者,並提供相關的治療建議。
  • 金融服務提供者需要一個可分析市場趨勢、回答客戶對投資選項的查詢,以及產生個人化的財務報告。
  • 電子學習平臺想要輔導學生、解釋複雜概念,並根據個人學習喜好調整其教學風格。
  • 保險公司在索賠過程中通過驗證目前的索賠是否可以由合同涵蓋,來加速檔分析。
  • 航空公司的員警可以幫助你規劃旅程,尋找門票和酒店,並預訂他們,一旦你滿意的報價。
  • 連鎖餐廳正在建立一個共同應用程式,以協助新員工通過引導他們完成整個程序來上線。
  • ISV 為客戶提供 VS Code 擴充功能,以協助開發人員建置與其 API 的整合。

合作夥伴優勢:

  • 自定義和控制:建置符合您應用程式需求的定製警戒。
  • 案例彈性:迎合各種案例,從領域特定的警訊到工作自動化和內容產生。
  • 與現有系統整合:連線到資料庫、API 和其他服務,以增強您的 Copilot 功能。
  • 品牌身分識別和用戶體驗:塑造您的警員個性,以配合您的品牌語音並增強用戶體驗。
  • 建置體驗:開放原始碼和高度可延伸的 SDK、Semantic Kernel 可讓您建置可呼叫現有 API 的智慧型手機代理程式。 透過語意核心,您可以使用在自己的應用程式中提供Microsoft之警力的相同 AI 協調流程模式。
  • 延展性和部署:跨多個用戶端或應用程式部署您的 Copilot,同時為數千位使用者提供服務。

要從何處開始:

關鍵要點

  • Azure AI Studio 提供功能強大的平臺,可建立自定義、智慧型助理或輔助程式。
  • ISV 可以塑造其警察的行為、個性和功能,從而建立真正定製的解決方案。
  • Azure AI Studio 支援各種不同的案例,並與現有的基礎結構緊密整合。
  • 使用 Azure AI Studio 建立自定義的 Copilot 可以增強用戶體驗,並為特定使用案例提供量身打造的解決方案。
  • AI Studio 會提供一個共生服務(或後端),以單一縮放端點的形式呈現
  • ISV 接著可以選擇將服務連線到其選擇的應用程式、前端或交談介面,包括上述任何模式。
  • 請記住,根據您的特定需求,此模式可以與其他模式結合。 例如,您可能想要將此模式與模式 A 配對,並將外掛程式與 Microsoft Copilot 或 Pattern F 配對,以在 Teams 中呈現您自己的 Copilot Bot。

模式 H:使用語意核心建置您自己的警訊

語意核心是開放原始碼 SDK,可讓開發人員在其應用程式中建立複雜的輔助程式。 它支援各種程式設計語言,包括 C#、Java 和 Python,讓廣大開發人員社群都能存取。 語意核心可讓您協調 AI 外掛程式,以便與各種 AI 模型整合,包括來自 Azure OpenAI 和 Hugging Face。

語意核心會封裝Microsoft Copilots AI 協調流程模式的本質,為開發人員提供建置代理程式和代理程式的工具。

代理程式是 AI 系統,可回答問題並自動化使用者的流程。 其範圍從簡單的聊天機器人到完全自動化的 AI 助理。 Copilots 是一種特殊的代理程式,與使用者一起工作。 與完全自動化的代理程式不同,Copilot 會提供建議和建議,讓用戶能夠保留控制權。

外掛程式:這些會為您的代理程式提供技能。 您可以建立工作外掛程式,例如傳送電子郵件、從資料庫擷取資訊,或要求協助。

Planners:代理程式會使用規劃工具來產生完成工作的計劃。 例如,協助使用者撰寫電子郵件的 Copilot 會建立方案,其中包含收集收件者詳細數據及撰寫電子郵件等步驟。

SDK 隨附 VS Code 擴充功能、範例 Chat Copilot 應用程式,但也隨附入門版,為您提供 Scaffolding,讓您的想法上線。

您決定開始使用語意核心,建議您先定義幾個功能,再開始撰寫程式代碼:

  • 首先,定義警長的角色和行為。
  • 為共同作業建立外掛程式,您的 Copilot 會協助執行一般工作。
  • 使用規劃工具來產生員警動作的計劃。
  • 規劃徹底測試,以確保精簡的用戶體驗。
  • 請確定您能夠收集使用者的意見反應,並在代理程式或 Copilot 的行為中實作此動作。

ISV 案例:

  • 您正在建置屬於您自己的應用程式(客戶開發工具或 HR 系統的一部分),而且您希望人員留在相同 UI 的領域。
  • 您需要協調流程引擎、RAG 實作、模型選擇和模型參數的完整控制。
  • 透過您的 copilot 服務,您想要讓客戶透過外掛程式在解決方案之上建置擴充功能。
  • 您的解決方案會利用畫布和其他媒體,而不只是文字。

合作夥伴優勢:

  • 透過存取Microsoft用來建置第一方 Copilots 的已意見協調流程引擎,完全控制您的 Copilot 行為。
  • 在您自己的企業數據上順暢地建立模型,並使用 Microsoft Fabric OneLake 整合結構化、非結構化和實時數據。 這可讓開發人員採用複雜的混合式和語意搜尋,以增強擷取世代 (RAG) 應用程式。
  • 使用提示工程和像是提示流程等 LLMOps 工具,存取用於精簡 AI 回應的進階工具。

要從何處開始:

關鍵要點

  • 語意核心是一種有意見的開放原始碼架構,可協助開發人員更輕鬆地將 GenAI 功能建置到其應用程式中
  • 它是由Microsoft維護及開發,並由第一方小組用來建置Microsoft Copilot 解決方案。
  • 透過一組範例,它可協助您在自己的應用程式堆疊內輕鬆啟動 GenAI 旅程。
  • 請記住,根據您的特定需求,此模式可以與其他模式結合。 例如,您可能想要將此模式與模式 A 配對,並將外掛程式與 Microsoft Copilot 或 Pattern F 配對,以在 Teams 中呈現您自己的 Copilot Bot。

結論

我們從案例開始,並將您購買到一或多個感興趣的模式,我們已將它收集到三種方法之一。 雖然每個模式都有一些差異,但每個方法都有一些常見的功能:

方法 1:將您的數據和服務呈現至Microsoft的 Copilots 方法 2:使用最少編碼和選擇性Microsoft數據整合,在任何地方建立共同作業 方法 3:完全控制:建置您自己的 (BYO) 端對端 AI 體驗
開發工作 低 (無/低代碼) 中 (最小程式代碼) 高 (Pro 程式代碼)
資料來源 Microsoft Graph (Microsoft/M365 或透過連接器的非Microsoft) 各種。 Power Platform 連接器,Microsoft Graph,您的 API。 可以跨多個數據源、服務和應用程式在租用戶內部或外部Microsoft租使用者
使用者介面或交談介面 由 Copilot 提供,例如 Teams、Microsoft 365 等。 會因Microsoft所提供的方法而異,以自備方式。 自備。 多個表面可以使用相同的副手
對 copilot 的語氣、行為和模型參數的影響 沒有直接控制件。 模型參數負責擴充 Copilot。 某些影響特別適用於行為和語氣,透過構成中繼程式一部分的自定義指示。 透過 Teams AI 連結庫,您可以控制模型參數。 直接控制模型參數,例如溫度、系統提示、最大令牌等。自訂警戒行為。
支援多模型 No No 是 對相同流程內不同模型的多個呼叫
模型支援 由系統提供 OpenAI 模型的選擇 任何模型 OpenAI 和完整 模型目錄的選擇
負責任 AI 由系統提供 由系統提供,或每個模式中可運用的選項 ISV 負責每個模式中的平台選項。
支援聊天記錄 由系統提供 由系統提供,或每個模式中可運用的選項 ISV 負責每個模式中的平台選項。
範例案例 Microsoft Copilots 中的使用者可以對 ISV 數據和服務執行動作,或取得見解。 在現有的ISV應用程式介面中引進 GenAI 小幫手,以因客戶或ISV數據而造成原因。 在現有的Microsoft介面中展示您自己的 copilot 或 chatbot,例如 Teams,具有 個別的 身分識別和體驗,可Microsoft Copilots。 您的客戶和使用者會與您的 品牌和行為進行完全自定義的互動,這可以透過多個數據集和聯機系統,從多個UI或對話介面選擇產生原因。

這些方法是為了增加自定義的可能性,這也需要ISV透過獲得的控制來承擔更多的責任,並增加整體開發工作。

因此,強烈建議從方法 1 開始,這很可能是您初始需求上市最快的方式。 Microsoft經常發行新的第一方員警。 持續簽入以查看新的 Copilot 是否可藉由將數據和服務延伸至使用者,更有效率地解決您的使用者需求。

移至方法 2,然後逐漸移至 3,因為您的需求會引導您取得更多控件和自定義的需求。

此處的例外狀況可能是ISV已具備現有資產的內部 AI 功能。 例如,已經擁有具有現有 AIOps 程式的 GenAI 小組且已在 Python 或 LangChain 中建立 IP 的 ISV,其自然會更妥善地以方法 3 為導向。

最後的關鍵註標是此模式清單並不詳盡或互斥。 我們在這裡策劃了精選模式,其中我們看到ISV的協同作用,請務必瞭解它們可以透過各種方式結合,以建立完全符合您需求的解決方案。 例如,使用方法 3(Patterns G 或 H)時,您可能需要前端。 在此情況下,您可以使用外掛程式 (Pattern A) 或 Teams AI 連結庫 (Pattern F) 和它。 規劃 AI 策略時,請務必考慮不同模式之間的協同作用。