Variantes no prompt flow
Com o fluxo de prompt do Azure Machine Learning, você pode usar variantes para ajustar seu prompt. Neste artigo, você aprenderá o conceito de variantes do prompt flow.
Variantes
Uma variante refere-se a uma versão específica de um nó de ferramenta que tem configurações distintas. Atualmente, as variantes têm suporte apenas na ferramenta LLM. Por exemplo, na ferramenta LLM, uma nova variante pode representar um conteúdo de prompt diferente ou diferentes configurações de conexão.
Suponha que você queira gerar um resumo de um artigo de notícias. Você pode definir diferentes variantes de prompts e configurações como esta:
| Variantes | Prompt | Configurações de conexão |
|---|---|---|
| Variante 0 | Summary: {{input sentences}} |
Temperatura = 1 |
| Variant 1 | Summary: {{input sentences}} |
Temperatura = 0,7 |
| Variante 2 | What is the main point of this article? {{input sentences}} |
Temperatura = 1 |
| Variante 3 | What is the main point of this article? {{input sentences}} |
Temperatura = 0,7 |
Ao utilizar as diferentes variantes de prompts e configurações, você pode explorar como o modelo responde a várias entradas e saídas, permitindo que você descubra a combinação mais adequada para suas necessidades.
Benefícios do uso de variantes
- Melhore a qualidade da geração do seu LLM: ao criar várias variantes do mesmo nó de LLM com diversos prompts e configurações, você pode identificar a combinação ideal que produz conteúdos de alta qualidade alinhados às suas necessidades.
- Economize tempo e esforço: mesmo pequenas modificações em um prompt podem gerar resultados significativamente diferentes. É crucial acompanhar e comparar o desempenho de cada versão do prompt. Com as variantes, você pode facilmente gerenciar as versões históricas dos seus nós de LLM, facilitando as atualizações com base em qualquer variante sem o risco de esquecer as iterações anteriores. Isso economiza tempo e esforço no gerenciamento do histórico de ajustes de prompts.
- Aumente a produtividade: as variantes otimizam o processo de otimização dos nós do LLM, simplificando a criação e o gerenciamento de diversas variações. Você pode obter melhores resultados em menos tempo, aumentando assim sua produtividade geral.
- Facilitar a comparação fácil: você pode comparar facilmente os resultados obtidos de diferentes variantes lado a lado, permitindo que você tome decisões baseadas em dados sobre a variante que gera os melhores resultados.