Variantes dans le flux rapide
Avec le flux d’invite Azure Machine Learning, vous pouvez utiliser des variantes pour paramétrer votre invite. Dans cet article, vous allez découvrir le concept de variantes de flux rapide.
Variantes
Une variante fait référence à une version spécifique d’un nœud d’outil qui présente des paramètres distincts. Actuellement, les variantes sont prises en charge uniquement dans l’outil LLM. Par exemple, dans l’outil LLM, une nouvelle variante peut représenter un contenu d’invite différent ou des paramètres de connexion différents.
Supposons que vous souhaitiez générer un résumé d’un article d’actualité. Vous pouvez définir différentes variantes d’invites et de paramètres comme suit :
| Variantes | Prompt | Paramètres de connexion |
|---|---|---|
| Variante 0 | Summary: {{input sentences}} |
Température = 1 |
| Variant 1 | Summary: {{input sentences}} |
Température = 0,7 |
| Variante 2 | What is the main point of this article? {{input sentences}} |
Température = 1 |
| Variant 3 | What is the main point of this article? {{input sentences}} |
Température = 0,7 |
En utilisant différentes variantes d’invites et différents paramètres, vous pouvez explorer la façon dont le modèle répond aux différentes entrées et sorties, ce qui vous permet de découvrir la combinaison la plus adaptée à vos besoins.
Avantages de l’utilisation de variantes
- Améliorez la qualité de votre génération LLM : En créant plusieurs variantes du même nœud LLM avec diverses invites et configurations, vous pouvez identifier la combinaison optimale qui produit un contenu de haute qualité répondant à vos besoins.
- Économisez du temps et des efforts : Même de légères modifications apportées à une invite peuvent produire des résultats sensiblement différents. Il est essentiel de suivre et de comparer les performances de chaque version d’invite. Avec les variantes, vous pouvez facilement gérer les versions historiques de vos nœuds LLM, ce qui facilite les mises à jour basées sur n’importe quelle variante sans risquer d’oublier les itérations précédentes. Cela vous permet d’économiser du temps et des efforts dans la gestion de l’historique de paramétrage des invites.
- Améliorez la productivité : Les variantes simplifient le processus d’optimisation des nœuds LLM, ce qui simplifie la création et la gestion de plusieurs variantes. Vous pouvez obtenir des résultats améliorés en moins de temps, et ainsi augmenter votre productivité globale.
- Facilitez la comparaison : Vous pouvez facilement comparer les résultats obtenus à partir de différentes variantes mises côte à côte. Cela vous permet de prendre des décisions basées sur des données vis-à-vis de la variante qui génère les meilleurs résultats.