Perguntas frequentes para respostas generativas
Estas perguntas frequentes (FAQ) descrevem o efeito da IA do recurso de respostas generativas em Copilot Studio.
O que são respostas generativas?
Respostas generativas tornam seu agente valioso e pronto para uso e aumentam o número de tópicos em que seu agente conversa, sem exigir nenhuma criação manual de árvore de diálogo.
Quais são os recursos de respostas generativas?
Quando um usuário faz uma pergunta ao agente que não contém um tópico configurado, o agente pode, opcionalmente, pesquisar conteúdo relevante em uma fonte de sua escolha. Esta pesquisa inclui sites públicos, SharePoint ou suas próprias fontes de dados personalizadas, incluindo imagens incorporadas em arquivos PDF. O agente usa IA generativa para resumir essas informações em um resposta retornado ao usuário agente.
Observação
A partir de setembro de 2024, os agentes também poderão raciocinar sobre elementos não textuais em arquivos enviados, como imagens, dados tabulares e diagramas.
Qual é o uso desejado das respostas generativas?
Respostas generativas podem ser usadas como fontes primárias de informação em seu agente, ou como alternativa quando os tópicos criados não conseguem atender à consulta de um usuário.
Como as resposta generativas são avaliadas e quais métricas são usadas para medir o desempenho?
A capacidade é avaliada continuamente em uma coleção de conjuntos de dados de perguntas e respostas selecionados manualmente, abrangendo vários setores. Avaliações adicionais são realizadas em conjuntos de dados personalizados para solicitações e respostas ofensivas e maliciosas, tanto de forma automatizada quanto por meio de sessões manuais dedicadas, projetada para expandir o conjunto de testes.
Quais são as limitações das respostas generativas e como os usuários podem minimizar o impacto das limitações ao usar respostas generativas?
Você deve habilitar a opção respostas generativas para cada agente.
Consulte Idiomas com suporte para obter a lista de idiomas com suporte neste recurso e seus respectivos estágios. Você pode usar outros idiomas, mas as respostas geradas podem ser inconsistentes e o agente pode não responder corretamente ou como você espera.
Esse recurso pode estar sujeito a limites de uso ou limitação de capacidade.
As respostas geradas pelo recurso de respostas generativas nem sempre são perfeitas e podem conter erros.
O sistema foi projetado para consultar o conhecimento do site de sua escolha e agrupar descobertas relevantes em uma resposta facilmente consumível. No entanto, é importante ter em mente algumas características da IA que podem levar a respostas inesperadas:
O corpo de dados no qual o modelo foi treinado não inclui dados criados após 2021.
Existem mitigações para evitar que o modelo use seu corpo de treinamento como fonte de respostas, no entanto, é possível que as respostas incluam conteúdo de sites diferentes daquele que você selecionou.O sistema não realiza uma verificação de precisão, portanto, se o fonte de dados selecionado contiver informações imprecisas, ele poderá ser mostrado aos usuários do seu agente. Implementamos mitigações para filtrar respostas irrelevantes e ofensivas, e o recurso foi projetado para não responder quando linguagem ofensiva for detectada. Esses filtros e mitigações não são à prova de falhas.
Observação
Você deve sempre testar e revisar seus agentes antes de publicá-los e considerar coletar feedback dos usuários do seu agente. Seu administrador pode desativar a capacidade de publicar agentes com respostas generativas para seu locatário no Power Platform centro de administração.
Quais dados a capacidade coleta? Como os dados são usados?
A capacidade coleta prompts do usuário, as respostas retornadas pelo sistema e qualquer comentário que você fornecer.
Usamos esses dados para avaliar e melhorar a qualidade da capacidade. Mais informações sobre quais dados são coletados estão disponíveis nos termos da versão preliminar.
Quais fatores e configurações operacionais possibilitam uso eficaz e responsável das respostas generativas?
As respostas generativas funcionam melhor quando você designa uma origem confiável e válida a partir da qual o conteúdo deve ser consultado. Esta fonte pode ser o site da sua empresa, por exemplo www.microsoft.com. Todas as páginas da Web que pertencem a este domínio seriam pesquisadas em busca de uma correspondência com a pergunta do usuário.
Usamos o feedback que você fornece sobre sua satisfação com as respostas geradas para melhorar a qualidade do sistema. Você pode fornecer feedback selecionando os ícones de polegar para cima ou de polegar para baixo para respostas geradas. Você também pode incluir mais comentários em texto livre.
Quais proteções estão em vigor para a IA responsável? Copilot Studio
As respostas generativas incluem várias proteções para garantir que administradores, criadores e usuários tenham uma experiência segura e em conformidade. Os administradores têm controle total sobre os recursos em seus locatários e sempre podem desativar a capacidade de publicar agentes com respostas generativas em sua organização. Os criadores podem adicionar instruções personalizadas para influenciar os tipos de respostas que seus agentes retornam. Para obter mais informações sobre as melhores práticas para escrever instruções personalizadas, consulte Usar modificação de prompt para fornecer instruções personalizadas ao seu agente.
Os criadores também podem limitar as fontes de conhecimento que os agentes podem usar para responder a perguntas. Para permitir que os agentes respondam a perguntas fora do escopo de suas fontes de conhecimento configuradas, os criadores podem ativar o recurso Conhecimento Geral de IA . Para limitar os agentes a responder apenas perguntas relacionadas ao escopo de suas fontes de conhecimento configuradas, os criadores devem desativar esse recurso.
Copilot Studio também aplica políticas de moderação de conteúdo em todas as solicitações de IA generativa para administradores, criadores e usuários do proteger contra conteúdo ofensivo ou prejudicial. Essas políticas de moderação de conteúdo também se estendem a tentativas maliciosas de jailbreak, injeção imediata, exfiltração imediata e violação de direitos autorais. Todo o conteúdo é verificado duas vezes: primeiro durante a entrada do usuário e novamente quando o agente está prestes a responder. Se o sistema encontrar conteúdo prejudicial, ofensivo ou malicioso, ele impede que seu agente responda.
Por fim, é uma prática recomendada comunicar aos usuários que o agente usa inteligência artificial, portanto, a seguinte mensagem padrão informa os usuários: "Só para você saber, às vezes uso IA para responder às suas perguntas."