생성형 답변 관련 FAQ

자주 묻는 질문(FAQ)에서는 생성 답변 기능이 AI에 미치는 효과를 설명합니다 Copilot Studio.

생성형 답변이란 무엇입니까?

생성적 답변을 사용하면 에이전트가 바로 귀중한 자료가 되고 수동 대화 트리를 작성하지 않고도 에이전트 대화 주제의 수가 늘어납니다.

생성형 답변의 기능은 무엇입니까?

사용자가 에이전트에 구성된 토픽가 포함되지 않은 질문을 하는 경우 에이전트는 선택적으로 사용자가 선택한 소스에서 관련 콘텐츠를 검색할 수 있습니다. 이 검색에는 공개 웹사이트 SharePoint나 PDF 파일에 포함된 이미지를 비롯한 사용자 정의 데이터 소스가 포함됩니다. 에이전트는 생성 AI를 사용하여 해당 정보를 요약하여 응답로 에이전트 사용자에게 반환합니다.

생성형 답변의 용도는 무엇입니까?

생성된 답변은 에이전트에서 기본 정보 소스로 사용할 수도 있고, 작성된 주제가 사용자의 질의를 처리할 수 없는 경우 대체 수단으로 사용할 수도 있습니다.

생성형 답변은 어떻게 평가되었으며 성과를 측정하는 데 어떤 지표가 사용됩니까?

이 기능은 여러 산업을 포괄하는 수동으로 선별된 질문 및 답변 데이터 세트 모음을 통해 지속적으로 평가됩니다. 테스트 제품군을 확장하도록 설계된 자동화 및 전용 수동 세션을 통해 공격적이고 악의적인 프롬프트 및 응답에 대한 사용자 지정 데이터 세트에 대한 추가 평가가 수행됩니다.

생성형 답변의 제한 사항은 무엇이며 사용자가 생성형 답변을 사용할 때 제한 사항의 영향을 최소화할 수 있는 방법은 무엇입니까?

• 각 에이전트에 대해 생성 답변 옵션을 활성화해야 합니다.

• 이 기능과 해당 단계에서 지원되는 언어 목록을 보려면 언어 지원을 참조하세요. 다른 언어를 사용할 수는 있지만 생성된 답변이 일관되지 않을 수 있으며 에이전트가 제대로 응답하지 않거나 예상한 대로 응답하지 않을 수 있습니다.

• 이 기능에는 사용량 제한이나 용량 제한이 적용될 수 있습니다.

• 생성형 답변 기능에 의해 생성된 응답은 항상 완벽하지 않으며 실수를 포함할 수 있습니다.

  이 시스템은 선택한 웹 사이트에서 지식을 쿼리하고 관련 결과를 쉽게 사용할 수 있는 응답으로 패키징하도록 설계되었습니다. 하지만 예상치 못한 반응으로 이어질 수 있는 AI의 몇 가지 특성을 명심하는 것이 중요합니다.

  • 모델이 학습된 자료에는 2021년 이후에 생성된 데이터가 포함되지 않습니다.
    모델이 학습 자료를 답변 소스로 사용하지 못하도록 하는 해결 방법이 있지만 답변에 선택한 웹 사이트가 아닌 다른 웹 사이트의 콘텐츠가 포함될 수도 있습니다.

  • 시스템에서는 정확도 검사를 수행하지 않으므로, 선택된 데이터 원본에 부정확한 정보가 포함되어 있을 경우 에이전트 사용자에게 표시될 수 있습니다. 우리는 무의미하고 공격적인 응답을 걸러내기 위한 완화책을 구현했으며, 해당 기능은 공격적인 언어가 감지되면 응답하지 않도록 설계되었습니다. 이러한 필터와 해결 방법은 완벽하지 않습니다.

  참고

  에이전트를 게시하기 전에 항상 테스트하고 검토해야 하며, 에이전트 사용자로부터 피드백을 수집하는 것도 고려하세요. 관리자는 관리 센터에서 테넌트에 대해 생성 답변을 제공하는 에이전트를 게시하는 기능을 해제할 수 있습니다. Power Platform

기능은 어떤 데이터를 수집합니까? 데이터는 어떻게 사용되나요?

이 기능은 사용자 프롬프트, 시스템에서 반환한 응답 및 사용자가 제공하는 모든 피드백을 수집합니다.

이 데이터를 사용하여 기능의 품질을 평가하고 개선합니다. 수집되는 데이터에 대한 자세한 내용은 프리뷰 약관에서 확인할 수 있습니다.

생성형 답변을 효과적이고 책임감 있게 사용할 수 있도록 하는 운영 요소 및 설정은 무엇입니까?

생성형 답변은 콘텐츠를 쿼리해야 하는 신뢰할 수 있고 유효한 소스를 지정할 때 가장 잘 작동합니다. 이 소스는 예를 들어 회사 웹사이트일 수 있습니다. www.microsoft.com 이 도메인에 속하는 모든 웹페이지는 사용자의 질문과 일치하는 항목을 검색합니다.

생성된 응답에 대한 만족도에 관해 귀하가 제공한 피드백을 활용하여 시스템 품질을 개선합니다. 생성된 응답에 대해 좋아요 또는 싫어요 아이콘을 선택하여 피드백을 제공할 수 있습니다. 자유 텍스트로 더 많은 피드백을 포함할 수도 있습니다.

책임 있는 AI를 위해 어떤 보호 조치가 마련되어 있나요? Copilot Studio

생성 답변에는 관리자, 제작자 및 사용자가 안전하고 규정을 준수하는 환경을 즐길 수 있도록 다양한 보호 기능이 포함되어 있습니다. 관리자는 테넌트의 기능을 완벽하게 제어할 수 있으며, 조직 내에서 생성 답변을 제공하는 에이전트를 게시하는 기능을 언제든지 해제할 수 있습니다. ... 제작자는 상담원이 반환하는 응답 유형에 영향을 미치는 맞춤형 지침을 추가할 수 있습니다. 사용자 지정 지침 작성 모범 사례에 대한 자세한 내용은 프롬프트 수정을 사용하여 에이전트에 사용자 지정 지침 제공을 참조하세요.

제작자는 에이전트가 질문에 답변하는 데 사용할 수 있는 지식 소스 를 제한할 수도 있습니다. 에이전트가 구성된 지식 소스 범위를 벗어난 질문에 답할 수 있도록 하려면 제작자는 AI 일반 지식 기능을 켤 수 있습니다. 에이전트가 구성된 지식 소스 범위 내에서만 질문에 답변하도록 제한하려면 제작자는 이 기능을 꺼야 합니다.

Copilot Studio 또한 보호하다 관리자, 제작자 및 사용자에게 공격적이거나 유해한 콘텐츠에 대한 모든 생성 AI 요청에 콘텐츠 검토 정책을 적용합니다. 이러한 콘텐츠 검토 정책은 악의적인 탈옥 시도, 즉시 주입, 즉시 추출 및 저작권 침해까지 확대됩니다. 모든 콘텐츠는 두 번 확인됩니다. 먼저 사용자 입력 중이고, 에이전트가 응답하려 할 때 다시 한 번 확인됩니다. 시스템에서 유해하거나 불쾌하거나 악의적인 콘텐츠를 발견하면 에이전트가 응답하지 않습니다.

마지막으로, 에이전트가 인공 지능을 사용한다는 사실을 사용자에게 알리는 것이 가장 좋습니다. 따라서 다음과 같은 기본 메시지를 통해 사용자에게 "알려드리자면, 저는 가끔 여러분의 질문에 답변하기 위해 AI를 사용합니다."라고 알립니다.

관련 콘텐츠

• 생성적 답변
• 생성적 답변을 위한 지식 추가 및 관리