Freigeben über


Erstellen von generativen KI-Erfahrungen mit der Microsoft Cloud: Ein Leitfaden für ISVs

Willkommen bei Ihrem Leitfaden zum Erstellen einzigartiger generativer KI-Erfahrungen (GenAI) mit der Microsoft Cloud. Als unabhängiger Softwareanbieter (ISV) sind Sie in einer erstklassigen Position, um die Leistungsfähigkeit von GenAI zu nutzen, um Innovationen zu ermöglichen und Ihren Kunden fesselnde Lösungen zu bieten.

Was ist Microsoft Cloud?
Die Microsoft Cloud ist eine umfassende und integrierte Plattform, die eine breite Palette von Funktionen und Diensten bietet. Es umfasst Azure AI, Microsoft 365, Microsoft Fabric und vieles mehr, was sie an die Spitze der globalen generativen KI-Revolution setzt.

Diese Plattform ermöglicht Es Ihnen, Ihre proprietären Daten und Funktionen in verschiedenen Bereichen, einschließlich Microsoft 365, einem Hub für Produktivität und Zusammenarbeit, auf die Millionen zugreifen können, zu nutzen.

Dieser Leitfaden hilft Ihnen, die umfangreichen Möglichkeiten im gesamten Microsoft Cloud-Ökosystem zu navigieren.

Was sind Copiloten?
Wir bezeichnen einen Copilot als KI-gestützten virtuellen Assistenten, der die Benutzerproduktivität verbessert, indem wir Menschen bei komplexen kognitiven Aufgaben unterstützen, Kontextvorschläge bereitstellen und datenreiche Einblicke fördern. Diese Copiloten können in bestimmten Kunden- oder ISV-Daten und -Kontexten geerdet werden, was ISVs die Möglichkeit bietet, generative KI-Erfahrungen zu erstellen, die geschäftsspezifische Daten verstehen.

Szenarien und Ansätze

Diagramm mit Microsoft Copilot-Komponenten, KI-Orchestrierung und der zugrunde liegenden Microsoft Cloud-Infrastruktur.

Ein Diagramm, das die drei Copilot-Erweiterbarkeits-ISV-Ansätze auflistet. Als Erstes können Sie copilot erweitern, um Ihre Daten und Dienste in die Copilots von Microsoft zu integrieren. Zweitens können Sie Copiloten überall mit minimaler Codierung und optionaler Erfassung von Microsoft-Daten erstellen. Drittens können Sie ihre eigenen End-to-End-KI-Erfahrungen erstellen. Jede der drei Optionen enthält weitere Details, die im folgenden Text beschrieben sind.

Dieser Leitfaden enthält szenariogeführte Anleitungen, um ISVs bei der Navigation im umfangreichen Bereich von GenAI in Microsoft Cloud zu unterstützen. Unser Ziel ist es, Ihnen dabei zu helfen, die am besten geeigneten Muster und Technologien für Ihre individuellen Anforderungen auszuwählen, die in drei hochrangigen Ansätzen zur Erstellung von KI-Erfahrungen angeordnet sind.

Unsere Ansätze sind in Muster unterteilt, die auf Szenarien basieren, die Ihnen helfen, den am besten geeigneten Pfad für Ihr Szenario und Ihre Anforderungen zu navigieren.

Wichtig

Bitte beachten Sie, dass diese Ansätze und ihre Muster nicht gegenseitig ausschließen. Sie können kombiniert werden, um eine maßgeschneiderte Lösung zu erstellen, die Ihren individuellen Anforderungen und Szenarien am besten entspricht.

Ansatz 1: Surface your data and services into Microsoft's Copilots:

Dieser Ansatz wurde für ISVs entwickelt, die ihre Daten und Dienste in die Copilots von Microsoft integrieren möchten. Der Fokus liegt auf der Verwendung von Plug-Ins und Graph-Connectors zur Verbesserung der Benutzererfahrung.

Szenario: Ich bin ein ISV, in dem meine Endbenutzer in Microsoft-Apps wie Teams, Word, Outlook arbeiten und sie benötigen...

... Zugriff auf Informationen mithilfe von Schnittstellen für natürliche Sprachen und ich habe einen vorhandenen Dienst, den ich über diese Microsoft 365-Apps zur Verfügung stellen möchte.

... Gewinnen Sie Einblicke aus unseren ISV-Datenquellen in Kombination mit benutzerzentrierten Microsoft Graph-Daten und den Geschäftsdaten ihrer Organisation.

Ansatz 2: Erstellen Sie Copiloten überall, mit minimaler Codierung und optionaler Microsoft-Datenintegration:

Dieser Ansatz richtet sich an ISVs, die ihre Apps mit den Daten und Tools von Microsoft bereichern oder ihre eigenen KI-Assistenten mit Azure erstellen möchten. Es umfasst die Verwendung der Microsoft Graph-API, Copilot Studio-Plug-Ins, Teams AI Library oder die Möglichkeit, dass Kunden ihre eigenen Copilot-Erfahrungen mit Ihren Daten über Connectors erstellen können.

Szenario: Ich bin ein ISV, wo meine Endbenutzer überall arbeiten...

... und ich möchte es ihnen ermöglichen, ihre eigenen Copilot-Erfahrungen mit unseren Daten und Diensten zu erstellen.

Szenario: Ich bin ein ISV, wo meine Endbenutzer in meinen vorhandenen Anwendungen und UI arbeiten, die uns möchten...

... Integrieren von microsoft user-zentrierten Graph-Daten in meinen Copilot.

... Bieten Sie eine Unterhaltungserfahrung in meiner vorhandenen Anwendung, die Fragen beantworten und Unterhaltungen in Aktionen umwandeln kann.

Szenario: Ich bin ein ISV, der die Copilot-Erfahrung auf Microsoft Teams ausgerichtet ist und Anforderungen an...

... Erstellen Sie intelligente Teams-Bots, die in GenAI integriert sind, Bots in Teams ausführen und kontextbezogene Unterhaltungen führen oder Teams-Chaterfahrung verwenden und ich als ISV-Fokus auf komplexe Geschäftslogik legen.

Ansatz 3: Vollzugriff: Erstellen Sie Ihre eigenen (BYO)-End-to-End-KI-Erfahrungen:

Dieser Ansatz richtet sich an ISVs, die völlig neue KI-Erfahrungen oder Copiloten mit Tools wie Azure AI Studio und Semantic Kernel erstellen möchten. Es bietet maximale Kontrolle und Anpassung, die grenzenlose Möglichkeiten bietet.

Szenario: Ich bin ein ISV, der modernste interoperable KI-Erfahrungen entwickeln möchte, die...

... erfordert eine spezielle Handhabung komplexer, multimodaler Daten, die u. U. feinabstimmungen KI-Modelle enthalten können, um bestimmte Genauigkeitsanforderungen zu erfüllen.

... Verwenden Sie die benutzerdefinierten KI-Modelle und -Dienste von ISV für maßgeschneiderte Lösungen.

... bieten vollständige Kontrolle über die Unterhaltungserfahrung, einschließlich Systemaufforderungen, Temperatur, Ton und benutzerdefinierten Sicherheitsanforderungen.

Tipp

Für ein tieferes Verständnis empfehlen wir Ihnen, die detaillierten Inhalte zu erkunden, die in den Links "Erste Schritte " in den einzelnen Mustern zur Verfügung stehen.

Der Microsoft Copilot-Stapel umfasst drei unterschiedliche Ebenen: das Back-End (mit den Daten, die in den jeweiligen Repositorys sitzen), eine KI-Orchestrierungsebene in der Mitte und das Front-End (UI-Erfahrung Ihres Copilot). Innerhalb jeder Ebene gibt es empfohlene Ebenen, die beim Erstellen eines Copilot berücksichtigt werden sollten.

Da ISVs von Ansatz 1 zu Ansatz 3 wechseln, engagieren sie sich tiefer mit den einzelnen Ebenen, wobei sie größere Entwicklungsverantwortung übernehmen. Beispielsweise bedeutet das Erstellen eines Plug-Ins unter Ansatz 1, dass Microsoft die KI-Orchestrierung übernimmt, einschließlich Datenintegration und verantwortlicher KI. Umgekehrt kann die Entwicklung eines benutzerdefinierten Kopiloten die vollständige Kontrolle über die Benutzererfahrung, die Orchestrierungsebene, die Datenverwaltung und die verantwortungsvolle KI erfordern.

Hinweis

Während "Copilot" auf das allgemeine Konzept eines generativen KI-Assistenten verweist, bezieht sich "Copilot" auf bestimmte Microsoft-Produkte, z. B. Microsoft 365 Copilot oder Dynamics 365 Copilot, mit denen ISVs integriert werden können.

Jede Option variiert in Komplexität und Aufwand. Die Einführung vorhandener Microsoft Copilots ist einfach, die Erweiterung mit Plug-Ins erfordert minimalen Aufwand, und das Erstellen einer neuen Copilot-Erfahrung erfordert möglicherweise Design, Wissenschaft und Technik.

Es ist wichtig zu beachten, dass eine KI-Lösung so gut ist wie die Daten, auf denen Sie Ihre Modelle geerdet und als Kontext verwendet haben. Einsatzbereite Microsoft Copilots unterstützen bereits eine Reihe von Szenarien und können mit Ihren Daten, Funktionen und Prozessen erweitert werden. Die Benutzeroberfläche kann jedoch nicht erweitert werden. Daher ist es wichtig, Ihr spezifisches Szenario sorgfältig zu berücksichtigen, wie Sie GenAI-Algorithmen anwenden und wie Ihr Benutzer (das "Pilotprojekt") von Ihrer Copilot-Funktion profitieren kann.

Ansatz 1: Surface your data and services into Microsoft's Copilots

ISVs, die ihre vorhandenen Dienste, Daten und Prozesse in den Copilots oder Microsoft 365-Anwendungen von Microsoft anzeigen möchten, können dies tun, indem Sie Plug-Ins und Connectors erstellen.

Mit diesem Ansatz kann Microsoft 365 Copilot beispielsweise mit APIs aus anderen Software- und Diensten interagieren, aktuelle Informationen anzeigen, Aktionen ausführen und neue Arten von Berechnungen ausführen.

Muster A: Erstellen sie Plug-Ins, um die Funktionalität eines vorhandenen Copilot zu verbessern

Plugins sind Erweiterungen, die die Funktionen eines vorhandenen Copilot erweitern, sodass sie mit ISV-Apps und -Diensten interagieren können. Sie können die Funktionen eines Benutzers erweitern, indem sie die Interaktion mit Ihren APIs über unterhaltung in natürlicher Sprache aktivieren. Ein Plug-In könnte z. B. Copilot das Abrufen nützlicher Informationen, das Ausführen neuer Berechnungen oder die sichere Ausführung von Aktionen im Namen des Benutzers ermöglichen.

ISVs können Plug-Ins mithilfe verschiedener Tools erstellen, einschließlich Teams-Nachrichtenerweiterungen und Power Platform-Plug-Ins über Copilot Studio. Neue Plug-Ins können über das Partner Center im Copilot-Ökosystem von Microsoft veröffentlicht werden, in dem IT-Administratoren sie zur Verwendung durch Endbenutzer genehmigen können.

ISV-Szenarien:

  • ISVs, die ihre vorhandenen Dienste auf Microsoft 365-Client-Apps anzeigen möchten
  • Benutzer können Aktionen in einer ISV-Anwendung oder externen Systemen von Microsoft 365-Client-Apps wie Teams, Outlook, Word usw. durchsuchen, aktualisieren und ausführen.
  • Ein Benutzer in Teams könnte relevante Informationen aus einem externen Ticketing- oder CRM-System finden, das Ihre Kunden verwenden, optional einschließlich der Ausführung von Aktionen im Namen des Benutzers innerhalb des Systems.

Partnervorteil:

  • Nutzen Sie Millionen von Benutzern und Unternehmen, die Microsoft 365-Client-Apps verwenden, und treffen Sie die Benutzer, wo sie gerade arbeiten.
  • Erhöhen Sie die Sichtbarkeit Ihres Lösungsdiensts, indem Sie sie in Microsoft 365-Client-Apps anzeigen.
  • Verringern Sie die Reibung Ihrer Benutzer, indem Sie nicht zwischen mehreren Apps und Canvass navigieren müssen.
  • Eine konsistente Benutzererfahrung in Microsoft 365-Apps mit universeller Integration und Kontinuität in Microsoft 365-Apps.
  • Ein Contoso-Benutzer ermittelt beispielsweise das neueste Kundenkonto, das mit Daten aus Outlook, SharePoint und Fabrikams externem System zusammengefasst wurde, ohne Teams zu verlassen.

Wo beginnen Sie:

Die zentralen Thesen :

  • Plugins sind eine Möglichkeit, ISV-Dienste und -Apps auf Microsoft Copilots anzuzeigen, sodass Endbenutzer mit ISV-Apps und -Diensten von Microsoft 365-Client-Apps interagieren können.
  • ISVs können Plug-Ins mithilfe von Tools wie Microsoft Teams Message Extensions und Copilot Studio-Plug-Ins erstellen.
  • Plug-Ins können die Sichtbarkeit und Auffindbarkeit Ihrer Lösung über das Partner Center erhöhen.

Muster B: Verwenden von Graph Connecters, um Ihre Daten auf Copilot-Erfahrungen zu übertragen

Graph-Connectors ermöglichen ISVs, ihre Daten mit dem Microsoft 365-Semantikindex zu verbinden. Ihre Daten werden für Benutzer durchsuchbar und umsetzbar, direkt aus Microsoft 365-Client-Apps wie Teams, Outlook und Word. Microsoft Copilot wird in ISV-Daten, ob cloud oder lokal, über Microsoft Graph geerdet. Darüber hinaus können ISVs Microsoft Fabric, eine einheitliche Datenplattform, die als SaaS-Produkt bereitgestellt wird, verwenden, um ihre Daten in die Microsoft Cloud zu integrieren und sie problemlos mit Microsoft Graph zu verbinden.

Ein Diagramm mit

ISVs können Graph-Connectors mithilfe der Microsoft Graph Connectors-API erstellen, die eine Reihe von Datenquellen, Dateisystemen, Webseiten, Unternehmensanwendungen und mehr unterstützt.

Graph-Connectors können die Daten auch mit KI-basierten Funktionen erweitern, z. B. verarbeitung natürlicher Sprache, Entitätsextraktion und Bildanalyse. Mithilfe von Graph-Connectors können ISVs Microsoft Copilot mit eigenen Daten erweitern, die Benutzererfahrung verbessern und personalisiertere und sichere Interaktionen ermöglichen.

Hunderte von Graph-Connectors sind bereits vorhanden. Beispielsweise kann der Jira Cloud Graph-Connector Jira-Objekte auf die gleiche Ebene wie Microsoft 365 Graph-Daten erhöhen, sodass umfassende Gründe und universelle Integration ermöglicht werden, was zu erweiterten und umfassenderen Erkenntnissen führt. Der Connector ermöglicht Endbenutzern die Suche nach Jira-Objekten von Microsoft 365 Copilot mit natürlicher Sprachschnittstelle.

ISV-Szenarien:

  • ISVs, deren Kunden in Microsoft 365 arbeiten und Endbenutzern ermöglichen möchten, Einblicke aus ISV-Datenquellen in Kombination mit benutzerorientierten Microsoft Graph-Daten zu gewinnen.
  • Benutzer können Daten aus ISV-Anwendungen abrufen, zusammenfassen und aus gründen, zusammen mit anderen Microsoft 365-Graph-Daten, z. B. E-Mails, Word-Dokumente usw.
  • Kommunikationsdirektor muss PR-E-Mails in Outlook suchen und neu erstellen, die mit Inhalten aus einer ISV-Grafikentwurfsanwendung erweitert werden

Partnervorteil:

  • Treffen Sie Benutzer, wo sie arbeiten. Eine umfangreiche Benutzerbasis verwendet Microsoft 365-Clientanwendungen und kann jetzt auf Ihre eigenen Daten und Dienste in einer einheitlichen Benutzeroberfläche zugreifen.
  • Bereicherte Einblicke durch die Kombination von ISV-Daten mit Microsoft Graph-Daten.
  • Universelle Integration in Microsoft 365-Apps und Microsoft Search, Context IQ und Viva mit einem Connector.
  • Erweiterte Kanäle zur Darstellung von ISV-Daten, die potenziell die Benutzerbasis erhöhen.

Wo beginnen Sie:

Die zentralen Thesen :

  • Graph-Connectors ermöglichen ES ISVs, ihre Daten in das Microsoft Copilot-Ökosystem zu integrieren und die Benutzererfahrung mit personalisierten und sicheren Interaktionen zu verbessern.
  • ISVs können Microsoft Fabric verwenden , um ihre Daten in die Microsoft Cloud zu übertragen und mit Microsoft Graph zu verbinden.
  • Mithilfe von Graph-Connectors können ISVs ihre Daten mit Microsoft 365-Graph-Daten kombinieren, um erweiterte Einblicke zu bieten und eine universelle Integration mit Microsoft 365-Apps zu erzielen.

Ansatz 2: Erstellen von Copiloten überall mit minimaler Codierung und optionaler Microsoft-Datenintegration

ISVs können die Leistungsfähigkeit von Tools und Daten, die in Microsoft Graph sitzen, in ihre eigenen Apps integrieren und ihre Funktionalität und Benutzererfahrung verbessern.

Muster C: Entwickeln von Power Platform Connectors, um kundengesteuerte Copiloten in Copilot Studio zu ermöglichen

Copilot Studio ermöglicht Es Kunden, AI-Apps mit geringem Code zu erstellen, die auf allgemeine Benutzerabfragen reagieren können, indem Daten aus ihrer Organisation und aus Microsoft und Partnerdatenquellen verwendet werden. Copilot Studio verwendet Power Platform Connectors, um Daten aus potenziell jeder Quelle zu übertragen, wo es heute mehr als 500 Connectors gibt. Als ISV können Sie Connectors für Ihre Daten und Dienste erstellen, damit Ihre Kunden ihre eigenen internen Copiloten und KI-Apps erstellen können, die in ISV-Daten verankert sind.

Diese KI-Apps können Endbenutzern auf verschiedenen Plattformen angezeigt werden, einschließlich Websites, mobilen Apps, Microsoft Teams oder einem beliebigen Kanal, der vom Azure Bot Framework unterstützt wird.

Beispielszenarien:

  • ISVs, die ihren Kunden eine Chat-Bot-Erfahrung bieten möchten, innerhalb ihrer vorhandenen Anwendungen, die auf Fragen reagieren und Unterhaltungen in Aktionen umwandeln können.
  • Benutzer, die Fragen in Ihrer Anwendung stellen und Antworten erhalten, die in ISV-, Microsoft- oder Kundendatenquellen basieren.
  • Erstellen Sie Kundenconnector aus Ihren vorhandenen APIs, und konvertieren Sie ihn mithilfe von Copilot Studio in Plug-In, sodass diese APIs von einem Chat-Bot mit natürlicher Sprachschnittstelle aufgerufen werden können.
  • Konvertieren Sie vorhandene Power Automate-Flüsse in Plug-Ins, die vom Microsoft Copilot-Chat aufgerufen werden können, um Aktionen auszuführen und Informationen abzurufen.
  • Greifen Sie über die Schnittstelle für natürliche Sprachen von Unternehmenssystemen wie Zendesk, GitHub und Salesforce über diese Connectors in Power Platform auf Daten zu.

Partnervorteil:

  • Nutzen Sie die Leistungsfähigkeit vorhandener Microsoft- und Nicht-Microsoft-Connectors, um Ihre Anwendung mühelos zu verbessern und zu bereichern.
  • Beschleunigen Sie die Plug-In-Entwicklung, indem Sie den benutzerdefinierten Connectoransatz für Power Platform für schnelle und effiziente Integration anwenden.
  • Verbessern Sie Zeit-zu-Wert durch die Low-Code-Funktionen von Copilot Studio.
  • Gewinnen Sie einen Wettbewerbsvorteil, indem Sie KI-Funktionen mit minimaler Codierung in Ihre App integrieren.

Wo beginnen Sie:

Die zentralen Thesen :

  • Copilot Studio bietet eine Plattform zum Erstellen von AI-Apps mit geringem Code, die vorhandene Anwendungen mit Chatbot-Funktionen verbessern können, die in ISV-Daten oder -Funktionen geerdet sind.
  • Die Plattform unterstützt sowohl vorhandene Power Platform Connectors als auch benutzerdefinierte Connectors und bietet Flexibilität bei der Integration von ISV-Diensten und -Datenquellen.
  • Die Integration von KI-Funktionen kann die Benutzererfahrung erheblich verbessern und Ihrer App einen Wettbewerbsvorteil bieten.

Muster D: Nutzen der Microsoft Graph-API in Ihren Copiloten

Die Microsoft Graph-API bietet einen leistungsstarken Endpunkt für den Zugriff auf benutzerorientierte Daten aus Microsoft 365-Anwendungen, einschließlich Kalender, Bookings, Outlook, Teams, OneDrive, SharePoint und mehr. Mit dieser API können Sie Ihre Apps mit Daten aus Microsoft 365 bereichern, sodass Benutzer umfassendere Einblicke und Analysen ableiten können.

ISV-Szenarien:

  • Kunden und Partner, die vorhandene ISV-Anwendung verwenden, die Microsoft-Benutzerzentrierte Graph-Daten in ihrem Copilot kombinieren möchten.
  • Ein ISV mit einer Projektmanagement-App möchte Microsoft 365-Kalenderdaten und Projektdokumentdaten integrieren, damit Benutzer Stichtage und Meilensteine innerhalb der App nachverfolgen können.
  • Ein ISV mit einer CRM-App möchte Microsoft 365-Kontakt- und E-Mail-Daten integrieren, um Kundenprofile und Kommunikationsprotokolle zu verbessern.

Betrachten Sie Fabrikam, eine vielseitige Human Capital Management (HCM)-Software, die mit einer flexiblen HR-Suite ausgestattet ist, die nahtlose Automatisierung verschiedener Workflows wie Talenterwerb, Mitarbeiterprämienmanagement und Feedbackprozesse ermöglicht. In ihrem kontinuierlichen Streben nach Innovation führt Fabrikam ein hochmodernes Copilot-Feature auf ihre HR-Suite ein. Jetzt wollen sie ihre Anwendung noch weiter erhöhen, indem sie benutzerorientierte Diagrammdaten integrieren. Diese Erweiterung umfasst die Verwendung der Graph-API zum Integrieren von Kalendern von Mitarbeitern, die Details wie geplante Abwesenheiten und 1:1s für Feedbackprozesse usw. umfassen.

Partnervorteil:

  • Entdecken Sie erweiterte Erkenntnisse, indem Sie Ihre Daten mit Microsoft 365 Graph kombinieren.
  • Nahtlose Integration: Standardisierter Zugriff auf Microsoft 365-Daten zur einfacheren Integration in Ihre Apps.
  • Verbesserte Benutzererfahrung: Bieten Sie eine nahtlosere Benutzererfahrung mit Zugriff auf relevante Microsoft 365-Daten und -Features in Ihrer App.
  • Erweiterte Funktionalität: Fügen Sie Ihrer App mit Microsoft 365-Daten neue Features und Funktionen hinzu.
  • Skalierbarkeit und Effizienz: Konzentrieren Sie sich auf das Erstellen und Verbessern Ihrer Apps, während die Graph-API den Datenabruf verarbeitet.

Wo beginnen Sie:

Die zentralen Thesen :

  • Die Microsoft Graph-API ermöglicht ES ISVs, ihre Apps mit benutzerorientierten Daten von Microsoft 365 zu bereichern.
  • Über Graph-APIs können Sie den Microsoft 365-Semantikindex nutzen, eine erweiterte Sucherfahrung, die für die Ära von Copilots entwickelt wurde.
  • Mithilfe der Graph-API können ISVs ihre Apps mit umfassenderen Erkenntnissen und Analysen verbessern.

Muster E: Bringen Sie ihre Apps mit Azure OpenAI-Assistenten in eine Copilot-Erfahrung

ISVs können diesen Low-Code-Ansatz in Den AI Services von Azure einführen, um Copilot-ähnliche Erfahrungen in ihre eigenen Anwendungen zu bringen. Es bietet einen schnellen Pfad zum Anwenden von GPT-Funktionsaufrufen, um Ihre eigenen APIs aufzurufen, indem sie die Struktur Ihrer Funktion in JSON beschreiben und eine Sandkasten-Python-Umgebung zum Ausführen und Ausführen von Code bereitstellen, um Antworten auf Die Fragen des Benutzers zu bilden.

Beide Features können nützlich sein, um nicht sprachbasierte Herausforderungen an herkömmlichen Code oder vorhandene Systeme zu entladen, die besser für den Vorgang geeignet sind, z. B. einfache mathematische Aufgaben.

Sie haben zwar keinen direkten Zugriff auf die Systemaufforderung und -temperatur, sie können sich aber auch auf das Verhalten Ihres Assistenten über benutzerdefinierte Anweisungen auswirken, die einen starken Einfluss auf die Persönlichkeit Ihrer copilot-ähnlichen Erfahrung haben.

Partnervorteil:

  • Azure OpenAI-Assistenten bieten einen Low-Code-Ansatz, sodass ISVs generative KI-Funktionen schnell in ihre Anwendungen integrieren können, ohne umfangreiche Entwicklungsaufwand.

Wo beginnen Sie:

Die zentralen Thesen :

  • ISVs können Azure OpenAI-Assistenten verwenden, um interaktive, natürliche Sprachschnittstellen zu erstellen, die die Benutzerbindung verbessern. Diese Assistenten können APIs einfach durch Beschreibung über JSON aufrufen.
  • Ein Azure OpenAI-Assistent kann Code in einer Sandkastenumgebung schreiben und ausführen, die auf der Aufforderung eines Benutzers basiert, um ein Nicht-GenAI-Problem zu lösen.

Muster F: Verwenden der Teams AI-Bibliothek zum Erstellen Ihres eigenen Copiloten

ISVs können auch die KI-Bibliothek von Teams verwenden, um ihrem vorhandenen Teams-Chatbot Funktionen für natürliche Sprachen hinzuzufügen. Diese Bibliothek ermöglicht es ISVs, sich auf ihre Geschäftslogik zu konzentrieren, während das Teams-Gerüst zum Behandeln von Unterhaltungsinteraktionen verwendet wird. ISVs können ihre Chat-Bots in Teams anzeigen und Benutzern eine natürlichere und intuitivere Möglichkeit bieten, mit ihren Apps zu interagieren.

ISV-Szenario:

  • Endbenutzer verwenden Teams und ISV-Partner, um ihren Dienst oder ihre Funktionen in Teams mit Bot-ähnlichen Funktionen anzuzeigen.
  • Es wird keine Integration mit Graph-Daten und ISV-Partnern benötigt, um sich auf die Dienst- und Geschäftslogik zu konzentrieren, ohne die Integration mit Teams Copilot-Funktionen zu ermöglichen.
  • Mit vordefinierten Teams-App-Vorlagen und integrierten Moderationssicherheitsfeatures kann ISV-Partner ihren vorhandenen Chat-Bot problemlos LLM-Funktionen hinzufügen.

Partnervorteil:

  • Fügen Sie ChatGPT wie Unterhaltungserfahrungen hinzu, mit der Kontrolle über das Eingabeaufforderungs-Engineering zu Ihrem Bot und verwenden Sie integrierte Sicherheitsfeatures wieder.
  • Auf der Grundlage der Bereitschaft zum Wiederverwenden von Funktionen wie
    • Aufgezeichnete Unterhaltungen, die von Teams KI-Mechanismus angeboten werden.
    • Unterstützung für mehrere Sprachen.
    • Multi Large Language Models unterstützen, über OpenAI-Modelle hinaus.
    • Aktionsplaner, der Aktionen basierend auf der Benutzerabsicht zugeordnet werden kann.
    • Bereit, den Erweiterungsmechanismus zu verwenden, um die Art und Weise zu ändern, wie das Modell durch Parameter oder Systemaufforderungsänderungen reagiert.
    • Zusätzliche Gründe, mit denen die Antworten aus dem Modell auf Ihre Daten geerdet werden können.

Wo beginnen Sie:

Die zentralen Thesen :

  • Team AI-Bibliothek bietet eine einfache Möglichkeit, einen isV entwickelten Bot in Teams mit der Leistungsfähigkeit von LLMs zu erhellen.
  • Es ist nicht erforderlich, dass die Integration mit den aktuellen Microsoft Copilot-Funktionen eine aufgabenorientierte Erfahrung bietet.
  • Es bietet viele Möglichkeiten aus technischer Sicht, aber auch bereit, Funktionen out of the Box zu nutzen, wodurch der gesamte Entwicklungsprozess vereinfacht wird.

Wenn Sie Ihren Bot in Teams mit LLMs unterstützen möchten, ist die Ki-Bibliothek von Teams die Möglichkeit, zu gehen.

Ansatz 3: Vollzugriff: Erstellen Ihrer eigenen (BYO)-End-to-End-KI-Erfahrungen

ISVs können den Microsoft Copilot Stack verwenden, um völlig neue KI-Erfahrungen zu erstellen, als Copiloten oder intelligente Assistenten. Ein ISV-Gebäude in diesem mittleren Teil des Stapels übernimmt die Verantwortung für DIE KI-Orchestrierung – wo Microsoft verschiedene Optionen bietet, die alle die grundlegenden Modelle von Microsoft, KI-Toolkette und KI-Infrastruktur anwenden.

Der semantische Kernel kann genutzt werden, um dieselben KI-Orchestrierungsmuster zu erstellen, die Microsoft Copilots in Ihren Copiloten betreibt. Es ist als SDK verfügbar, mit dem Sie direkt entwickeln können.

Mit den meisten Investitionen, die einen Copilot-Dienst in der Mitte des Stapels erstellen, haben ISVs die Freiheit, diesen Copilot-Dienst mit verschiedenen Oberflächen zu verbinden, darunter Teams, Microsoft 365 Copilot, Microsoft Copilot, Ihre eigenen Anwendungsoberflächen, Websites, Chat-Bots – oder alle. Im Wesentlichen ist bei der Integration mit einer Anwendungsoberfläche – dem oberen Rand unseres Stapels – jedes andere hier beschriebene Muster auch eine Option.

Muster G: Erstellen Ihres eigenen Copiloten mit Azure AI Studio

Azure AI Studio ist eine all-in-One-Plattform für ISVs, um benutzerdefinierte, intelligente Assistenten oder Copiloten zu erstellen. Es kombiniert Funktionen aus verschiedenen Azure AI-Diensten, die einen einheitlichen Arbeitsbereich für die Entwicklung und Bereitstellung von generativen KI-Anwendungen bieten. Es ist eine Plattform für die Zusammenarbeit, auf der Datenwissenschaftler, Entwickler und andere Projektbeteiligte zusammenkommen und zusammenarbeiten können.

Mit Azure AI Studio erhalten ISVs volle Kontrolle über das Verhalten, die Persönlichkeit und die Funktionen ihres Kopiloten. Ganz gleich, ob vorhandene vortrainierte Modelle aus unserem umfangreichen Katalog, Feinabstimmungsmodellen auf Ihren Daten oder das Training Ihrer eigenen benutzerdefinierten KI-Modelle, Azure AI Studio beschleunigt die Entwicklung von KI-Erfahrungen, die komplexe multimodale Daten verarbeiten.

Ein herausragendes Feature von Azure AI Studio ist seine vielfältige Palette an Modellen, die für verschiedene Branchen und Anwendungsfälle geeignet sind. Es ermöglicht ISVs, verschiedene Modelle innerhalb einer einzigen Lösung zu kombinieren, um ihre individuellen Anforderungen zu erfüllen.

Die Integration mit Azure AI Search ermöglicht ISVs die Implementierung eines RAG-Musters (Retrieval Augmented Generation) für unstrukturierte Daten direkt aus Azure AI Studio, mit dem zusätzlichen Vorteil der integrierten Vektorisierungsfunktion von AI Search. Dies bedeutet, dass alle Daten, die Ihr Copilot benötigt, automatisch in einer Vektordatenbank auf dem neuesten Stand gehalten werden können, wodurch der schnelle und effiziente Abruf während der Benutzeraufforderungsauswertung erleichtert wird und Sie die Aufgabe der Implementierung einer Indizierung, eines Blockings, eines Einbettungs- und Vektorisierungsmusters selbst speichern.

Prompt Flow, ein Feature von Azure AI Studio, bietet ein visualisiertes Diagramm zum Orchestrieren ausführbarer Flüsse mit LLMs (Large Language Models), Eingabeaufforderungen und Python-Tools. Es erleichtert das Debuggen, Teilen und Durchlaufen Ihrer Flüsse mit Leichtigkeit durch die Teamzusammenarbeit.

Für ISV-Teams, die einen Code-first-Ansatz bevorzugen, bietet das Azure AI SDK eine Reihe von Paketen für den Zugriff auf Azure AI-Dienste, einschließlich des Setups von Azure AI Studio-Projekten und verwandten Ressourcen. Auf diese Weise können Entwickler und Data Scientists KI-Komponenten verwalten, KI-Modelle, Pipelines und Dienste direkt aus Code konfigurieren und gleichzeitig die grafische Oberfläche für diejenigen verfügbar machen, die es bevorzugen.

Die Prototyperstellung ist in Azure AI Studio über seinen Playground einfach. Eine typische Reise für ein Team, das an einem Projekt in Azure AI Studio arbeitet, könnte mit einer Einzelperson beginnen, die eine Idee im Playground überprüft. Sobald attraktive Ergebnisse erzeugt werden, können sie vom Playground zu Prompt Flow als versionsgefertigten und angepassten Fluss aufgefordert werden. Jetzt kann ein versionsgesteuertes Artefakt im KI-Projekt das breitere Team beitragen, wo der Fluss über die Azure AI Studio-Benutzeroberfläche und nur über Code zugänglich ist. An diesem Punkt können mehrere Verzweigungen von Logik zu unterschiedlichen LLMs getestet und ausgewertet werden.

Über die Entwicklungsphase hinaus bietet Azure AI Studio auch eine LLMOps-Toolkette, um Ihr End-to-End-Prompt Engineering von der Entwicklung bis hin zur Produktion und fortlaufenden Wartung zu behandeln.

Azure AI Studio unterstützt die Integration in Azure AI Search, Azure Open AI Service und andere Azure AI-Dienste, was die Ressourcenverwaltung für ISVs vereinfacht. Sie bietet auch einen projektorientierten Arbeitsbereich, fördert die Zusammenarbeit mit gemeinsam genutzten Compute-, Modellbereitstellungen und Diensten.

ISV-Szenarien:

  • Ein Gesundheits-ISV, der eine Telemedizin-Plattform baut, möchte einen Copilot, der medizinisches Jargon versteht, Ärzte bei der Diagnose von Patienten unterstützt und relevante Behandlungsempfehlungen bereitstellt.
  • Ein Finanzdienstleister benötigt einen Copilot, der Markttrends analysieren, Kundenanfragen zu Anlageoptionen beantworten und personalisierte Finanzberichte generieren kann.
  • Eine E-Learning-Plattform möchte einen Copilot, der die Schüler von Tutoren beschreibt, komplexe Konzepte erläutert und ihren Unterrichtsstil basierend auf individuellen Lernpräferenzen anpasst.
  • Ein Versicherungsunternehmen beschleunigt die Dokumentanalyse während des Anspruchsprozesses, indem überprüft wird, ob der aktuelle Anspruch durch den Vertrag abgedeckt werden kann.
  • Airline Copilot kann Ihnen helfen, die Reise zu planen, nach den Tickets und Hotels zu suchen und sie zu buchen, sobald Sie mit dem Angebot zufrieden sind.
  • Eine Kette von Restaurants erstellt eine Copilot-App, mit der neue Mitarbeiter durch den gesamten Prozess eingebunden werden können.
  • Ein ISV bietet ihren Kunden eine VS Code-Erweiterung, mit der Entwickler die Integration mit ihren APIs erstellen können.

Partnervorteil:

  • Anpassung und Kontrolle: Erstellen Sie einen maßgeschneiderten Copilot, der genau an die Anforderungen Ihrer Anwendung ausgerichtet ist.
  • Szenarioflexibilität: Sorgen Sie für eine vielzahl von Szenarien, von domänenspezifischen Copiloten bis hin zur Aufgabenautomatisierung und Inhaltsgenerierung.
  • Integration in vorhandene Systeme: Verbinden Sie sich mit Datenbanken, APIs und anderen Diensten, um die Funktionen Ihres Copilot zu verbessern.
  • Markenidentität und Benutzerfreundlichkeit: Gestalten Sie die Persönlichkeit Ihres Copilots, um ihre Markenstimme anzupassen und die Benutzererfahrung zu verbessern.
  • Builderfahrung: Open-Source und hoch erweiterbares SDK, Semantischer Kernel ermöglichen Ihnen das Erstellen intelligenter Agents, die Ihre vorhandenen APIs aufrufen können. Mit dem semantischen Kernel können Sie dieselben KI-Orchestrierungsmuster verwenden, die microsoft-Copiloten in unseren eigenen Apps nutzen.
  • Skalierbarkeit und Bereitstellung: Stellen Sie Ihren Copilot auf mehreren Clients oder Anwendungen bereit, die Tausende von Benutzern gleichzeitig bedienen.

Wo beginnen Sie:

Die zentralen Thesen :

  • Azure AI Studio bietet eine leistungsstarke Plattform zum Erstellen von benutzerdefinierten, intelligenten Assistenten oder Copiloten.
  • ISVs können das Verhalten, die Persönlichkeit und die Fähigkeiten ihres Kopiloten gestalten und so eine wirklich maßgeschneiderte Lösung schaffen.
  • Azure AI Studio unterstützt eine vielzahl von Szenarien und lässt sich nahtlos in vorhandene Infrastruktur integrieren.
  • Das Erstellen eines benutzerdefinierten Copilots mit Azure AI Studio kann die Benutzererfahrung verbessern und maßgeschneiderte Lösungen für bestimmte Anwendungsfälle bereitstellen.
  • AI Studio liefert Ihnen einen Copilot-Dienst (oder Back-End), der als einzelner skalierter Endpunkt angezeigt wird.
  • Ein ISV verfügt dann über Optionen, um den Dienst mit einer App, einem Front-End oder einer Unterhaltungsoberfläche ihrer Wahl zu verbinden, einschließlich der vorherigen Muster oben.
  • Denken Sie daran, dass dieses Muster basierend auf Ihren spezifischen Anforderungen mit anderen kombiniert werden kann. Sie können dieses Muster beispielsweise mit Pattern A und Plug-In mit einem Microsoft Copilot oder Pattern F koppeln, um Ihren eigenen Copilot-Bot in Teams anzuzeigen.

Pattern H: Erstellen Ihres eigenen Copiloten mit semantischem Kernel

Semantic Kernel ist ein Open-Source-SDK, mit dem Entwickler komplexe Copiloten in ihren Anwendungen erstellen können. Es unterstützt eine Reihe von Programmiersprachen, einschließlich C#, Java und Python, die es für eine breite Entwicklercommunity zugänglich machen. Der semantische Kernel ermöglicht die Orchestrierung von AI-Plug-Ins, was die Integration in verschiedene KI-Modelle ermöglicht, einschließlich von Azure OpenAI und Hugging Face.

Der semantische Kernel kapselt das Wesen der KI-Orchestrierungsmuster von Microsoft Copilots und stellt Entwicklern Tools zum Erstellen von Agents und Copiloten bereit.

Agents sind KI-Systeme, die Fragen beantworten und Prozesse für Benutzer automatisieren können. Sie reichen von einfachen Chatbots bis hin zu vollautomatisierten KI-Assistenten. Copilots, eine spezielle Art von Agent, arbeiten zusammen mit Benutzern. Im Gegensatz zu vollautomatisierten Agents bieten Copiloten Vorschläge und Empfehlungen, sodass Benutzer die Kontrolle behalten können.

Plug-Ins: Diese bieten Ihren Agenten Fähigkeiten. Sie können Plug-Ins für Aufgaben wie das Senden von E-Mails, das Abrufen von Informationen aus Datenbanken oder das Anfordern von Hilfe erstellen.

Planner: Agents verwenden Planner, um Pläne für das Ausführen von Aufgaben zu generieren. Beispielsweise würde ein Copilot, der einem Benutzer hilft, eine E-Mail zu schreiben, einen Plan mit Schritten wie das Sammeln von Empfängerdetails und das Verfassen der E-Mail erstellen.

Das SDK verfügt über die VS Code-Erweiterung, beispiel chat Copilot-App , aber auch mit Startern, um Ihnen ein Gerüst zu bieten, um Ihre Ideen live zu gestalten.

Eine, die Sie beschlossen haben, mit dem semantischen Kernel zu arbeiten, empfehlen wir, einige Funktionen zu definieren, bevor Sie mit dem Code beginnen:

  • Definieren Sie zunächst die Persona und das Verhalten eines Kopiloten.
  • Erstellen Sie Plug-Ins für allgemeine Aufgaben, die Ihr Copilot unterstützt.
  • Verwenden Sie Planner, um Pläne für Copilot-Aktionen zu generieren.
  • Planen Sie eine gründliche Prüfung, um eine eingeschränkte Benutzererfahrung sicherzustellen.
  • Stellen Sie sicher, dass Sie Feedback von Ihren Benutzern sammeln und dies im Verhalten des Agenten oder Copilot implementieren können.

ISV-Szenarien:

  • Sie erstellen einen Copilot, der Teil Ihrer eigenen Anwendung ist (Customer Development Tool oder HR System), und Sie möchten, dass die Benutzer im Bereich derselben Benutzeroberfläche bleiben.
  • Sie benötigen eine vollständige Kontrolle über das Orchestrierungsmodul, die RAG-Implementierung, Modellauswahl und Modellparameter.
  • Mit Ihrem Copilot-Service möchten Sie Es Ihren Kunden ermöglichen, erweiterungen über Plug-Ins auf Ihrer Lösung aufzubauen.
  • Ihre Lösung verwendet Leinwände und andere Medien als nur Text.

Partnervorteil:

  • Vollzugriff auf Ihr Copilot-Verhalten mit Zugriff auf das meinungsverknüpfte Orchestrierungsmodul, das von Microsoft zum Erstellen von Copiloten von Erstanbietern verwendet wird.
  • Modellieren Sie nahtlos ihre eigenen Unternehmensdaten und integrieren Sie strukturierte, unstrukturierte und Echtzeitdaten mithilfe von Microsoft Fabric OneLake. Auf diese Weise können Entwickler anspruchsvolle Hybrid- und Semantiksuche verwenden, um Anwendungen zur erweiterten Erzeugung (Augmented Generation, RAG) zu nutzen.
  • Zugriff auf überlegene Tools zum Verfeinern von KI-Antworten mithilfe von Prompt Engineering- und LLMOps-Tools wie prompt flow.

Wo beginnen Sie:

Die zentralen Thesen :

  • Der semantische Kernel ist ein meinungsorientiertes Open-Source-Framework, das Entwicklern hilft, GenAI-Funktionen in ihre Apps zu integrieren.
  • Es wird von Microsoft gepflegt und entwickelt und von Erstanbieterteams verwendet, um Microsoft Copilot-Lösungen zu erstellen.
  • Mit einer Reihe von Beispielen hilft es Ihnen, ihre GenAI-Reise in Ihrem eigenen Anwendungsstapel ganz einfach zu starten.
  • Denken Sie daran, dass dieses Muster basierend auf Ihren spezifischen Anforderungen mit anderen kombiniert werden kann. Sie können dieses Muster beispielsweise mit Pattern A und Plug-In mit einem Microsoft Copilot oder Pattern F koppeln, um Ihren eigenen Copilot-Bot in Teams anzuzeigen.

Zusammenfassung

Wir haben mit Szenarien begonnen und Sie zu einem oder mehreren Interessenmustern gekauft, die wir in einem von drei Ansätzen gesammelt haben. Obwohl jedes Muster eine Gewisse Varianz aufweist, gibt es einige allgemeine Features für jeden Ansatz:

Ansatz 1: Surface your data and services into Microsoft's Copilots Ansatz 2: Erstellen von Copiloten überall mit minimaler Codierung und optionaler Microsoft-Datenintegration Ansatz 3: Vollzugriff: Erstellen Ihrer eigenen (BYO)-End-to-End-KI-Erfahrungen
Entwicklungsaufwand Niedrig (Kein/niedriger Code) Mittel (Minimaler Code) Hoch (Pro-Code)
Datenquellen Microsoft Graph (Microsoft/M365 oder Nicht-Microsoft über Connectors) Verschiedene. Power Platform-Connectors, Microsoft Graph, Ihre APIs. Kann mehrere Datenquellen, Dienste und Apps innerhalb oder außerhalb des Microsoft-Mandanten umfassen
Benutzeroberfläche oder Unterhaltungsoberfläche Wird von Copilot erweitert, z. B. Teams, Microsoft 365 usw. Variiert je nach Ansatz von Microsoft bereitgestellt, um Ihre eigenen zu bringen. Bringen Sie Ihren eigenen. Mehrere Oberflächen mit demselben Copilot möglich
Einfluss auf die Ton-, Verhaltens- und Modellparameter von Copiloten Kein direktes Steuerelement. Modellparameter sind verantwortlich dafür, dass Copilot erweitert wird. Einige Einfluss insbesondere auf Verhalten und Ton, über benutzerdefinierte Anweisungen, die Teil des Metaprompts bilden. Mit der Teams AI-Bibliothek können Sie Modellparameter steuern. Direkte Steuerung von Modellparametern wie Temperatur, Systemaufforderungen, max. Token usw. Benutzerdefiniertes Copilot-Verhalten.
Multimodellfähig No No Ja Mehrere Aufrufe an verschiedene Modelle innerhalb desselben Flusses
Modellunterstützung Vom System bereitgestellt Auswahl von OpenAI-Modellen Auswahl eines beliebigen Modellkatalogs für OpenAI und vollständiges Modell
Verantwortungsbewusste künstliche Intelligenz Vom System bereitgestellt Entweder vom System bereitgestellt oder hebelbare Optionen in den einzelnen Mustern ISV-Verantwortung mit Plattformoptionen in jedem Muster.
Unterstützung für den Chatverlauf Vom System bereitgestellt Entweder vom System bereitgestellt oder hebelbare Optionen in den einzelnen Mustern ISV-Verantwortung mit Plattformoptionen in jedem Muster.
Beispielszenarien Benutzer in Microsoft Copilots können Aktionen ausführen oder Erkenntnisse aus ISV-Daten und -Diensten gewinnen. Stellen Sie einen GenAI-Assistenten in bestehender ISV-Anwendungsoberfläche vor, um über Kunden- oder ISV-Daten zu verfügen. Präsentieren Sie Ihren eigenen Copilot oder Chatbot in einer vorhandenen Microsoft-Oberfläche, z. B. Teams, mit einer separaten Identität und Erfahrung für Microsoft Copilots. Ihre Kunden und Benutzer interagieren mit einem vollständig angepassten Copilot für Ihre Marke und Ihr Verhalten, was über mehrere Datasets und verbundene Systeme aus einer Mehrfachauswahl von UI- oder Unterhaltungsoberflächen grundieren kann.

Diese Ansätze sind in der Reihenfolge der zunehmenden Anpassungsmöglichkeiten, die auch einen ISV erfordert, mehr Verantwortung über die gewonnene Kontrolle zu übernehmen und den Gesamtentwicklungsaufwand zu erhöhen.

Daher empfehlen wir dringend, ab Ansatz 1 zu beginnen, was für Ihre anfänglichen Anforderungen möglicherweise am schnellsten zu marktfähig ist. Microsoft veröffentlicht häufig neue Copilots von Erstanbietern. Überprüfen Sie kontinuierlich, ob ein neuer Copilot Ihre Benutzer effizienter adressieren könnte, indem Sie Ihre Daten und Dienste darauf erweitern.

Wechseln Sie zu Den Ansätzen 2 und 3 schrittweise, da Ihre Anforderungen dazu führen, dass Sie mehr Kontrolle und Anpassung benötigen.

Eine Ausnahme ist vielleicht, wenn ein ISV bereits über eine vorhandene KI-Fähigkeit im Haus verfügt, mit vorhandenen Ressourcen. Beispielsweise könnte ein ISV, der bereits über ein GenAI-Team mit vorhandenen AIOps-Prozessen verfügt und bereits ip erstellt hat, sagen Python oder LangChain, natürlich besser auf Ansatz 3 ausgerichtet sein.

Eine letzte Wichtige Legende besteht darin, dass diese Liste der Muster nicht vollständig oder gegenseitig ausschließend ist. Wir haben hier ausgewählte Muster zusammengestellt, in denen wir Synergien für ISVs sehen, und es ist wichtig zu verstehen, dass sie auf verschiedene Arten kombiniert werden können, um eine Lösung zu schaffen, die perfekt zu Ihren Anforderungen passt. Beispielsweise benötigen Sie beim Arbeiten mit Approach 3 (Patterns G oder H) möglicherweise ein Frontend. In diesem Fall können Sie Plug-Ins (Pattern A) oder die Teams AI Library (Pattern F) zusammen mit ihr verwenden. Berücksichtigen Sie bei der Planung Ihrer KI-Strategie immer die Synergien zwischen verschiedenen Mustern.