Azure AI 콘텐츠 보안의 새로운 기능
서비스의 새로운 기능에 대해 알아봅니다. 이러한 항목은 릴리스 정보, 비디오, 블로그 게시물 및 기타 유형의 정보일 수 있습니다. 이 페이지를 책갈피로 지정하여 새로운 기능, 개선 사항, 수정 사항, 설명서 업데이트를 최신 상태로 유지합니다.
2024년 10월
예정된 사용 중단
콘텐츠 안전 버전 관리 및 수명 주기 관리 정책에 맞게 다음 버전이 사용 중단되도록 예약됩니다.
- 2024년 10월 28일부터: 을
2024-09-15-preview2024-09-30-preview제외한2024-09-01모든 버전은 더 이상 사용되지 않으며 더 이상 지원되지 않습니다. 사용자가 사용 가능한 최신 버전으로 전환하여 전체 지원 및 업데이트를 계속 받는 것이 좋습니다. 이 프로세스에 대한 질문이 있거나 전환에 대한 도움이 필요한 경우 지원 팀에 문의하세요.
2024년 9월
다중 모달 분석(미리 보기)
다중 모달 API는 이미지 콘텐츠와 텍스트 콘텐츠가 모두 포함된 자료를 분석하여 사용자가 생성했거나 AI가 생성한 유해한 콘텐츠로부터 애플리케이션과 서비스를 더 안전하게 보호합니다. 이미지 및 관련 텍스트 콘텐츠를 함께 분석하면 컨텍스트를 유지하고 콘텐츠를 더 포괄적으로 이해할 수 있습니다. 빠른 시작을 따라 시작하세요.
코드에 대한 보호자료감지(미리 보기)
보호자료 코드 API는 대규모 언어 모델에서 출력할 수 있는 보호 코드 콘텐츠(소프트웨어 라이브러리, 소스 코드, 알고리즘, 기타 독점 프로그래밍 콘텐츠를 포함한 알려진 GitHub 리포지토리에서)에 플래그를 지정합니다. 빠른 시작을 따라 시작하세요.
주의
콘텐츠 보안 서비스의 코드 스캐너/인덱서는 2021년 11월 6일까지만 유효합니다. 이 날짜 이후에 GitHub에 추가된 코드는 검색되지 않습니다. 코드용 보호자료를 사용하여 최근 코드 본문을 검색할 때는 사용자 고유의 재량권을 사용합니다.
근거 수정(미리 보기)
근거 감지 API에는 제공된 근거 원본을 기반으로 텍스트에서 감지된 모든 근거 없는 항목을 자동으로 수정하는 수정 기능이 포함되어 있습니다. 수정 기능을 사용하도록 설정하면 응답에 근거 원본에 맞춰 수정된 텍스트를 표시하는 corrected Text 필드가 포함됩니다. 빠른 시작을 따라 시작하세요.
2024년 8월
새로운 기능은 일반 공급입니다.
이제 텍스트 API에 대한 프롬프트 보호 API 및 보호된 재질을 GA(일반 공급)로 사용할 수 있습니다. 빠른 시작에 따라 사용해 보세요.
2024년 7월
사용자 지정 범주(표준) API 공개 미리 보기
사용자 지정 범주(표준) API를 사용하면 사용자 고유의 사용자 지정 콘텐츠 범주를 만들고 학습시키고 일치 항목에 대한 텍스트를 검색할 수 있습니다. 자세히 알아보려면 사용자 지정 범주를 참조하세요.
2024년 5월
사용자 지정 범주(빠른) API 공개 미리 보기
사용자 지정 범주(빠른 채널) API를 사용하면 새로운 유해 콘텐츠 패턴을 신속하게 정의하고 텍스트와 이미지에서 일치 항목을 검사할 수 있습니다. 자세히 알아보려면 사용자 지정 범주를 참조하세요.
2024년 3월
프롬프트 쉴드 공개 미리 보기
이전에 탈옥 위험 검색으로 알려진 이 업데이트된 기능은 사용자가 의도적으로 시스템 취약성을 악용하여 대규모 언어 모델에서 무단 동작을 유도하는 프롬프트 공격을 검색합니다. 프롬프트 쉴즈는 직접 사용자 프롬프트 공격과 입력 문서 또는 이미지에 포함된 간접 공격을 모두 분석합니다. 자세한 내용은 프롬프트 쉴드를 참조하세요.
근거 검색 공개 미리 보기
근거 검색 API는 LLM(대규모 언어 모델)의 텍스트 응답이 사용자가 제공한 원본 자료에 기반을 두고 있는지 여부를 검색합니다. 비경지성은 LLM이 원본 자료에 있는 내용에 따라 사실이 아니거나 부정확한 정보를 생성하는 인스턴스를 설명합니다. 자세한 내용은 근거 검색을 참조하세요.
2024년 1월
콘텐츠 보안 SDK GA
이제 Azure AI 콘텐츠 보안 서비스는 다음 클라이언트 라이브러리 SDK를 통해 일반 공급됩니다.
- C#: 패키지 | API 참조 | 샘플 | 빠른 시작: 텍스트, 이미지
- Python: 패키지 | API 참조 | 샘플 | 빠른 시작: 텍스트, 이미지
- Java: 패키지 | API 참조 | 샘플 | 빠른 시작: 텍스트, 이미지
- JavaScript: 패키지 | API 참조 | 샘플 | 빠른 시작: 텍스트, 이미지
Important
Azure AI 콘텐츠 보안 SDK의 공개 미리 보기 버전은 2024년 3월 31일까지 사용되지 않습니다. GA 버전을 사용하려면 애플리케이션을 업데이트하세요.
2023년 11월
탈옥 위험 및 보호된 재료 감지(미리 보기)
새로운 탈옥 위험 감지 및 보호된 자료 검색 API를 사용하면 생성 AI를 사용할 때 일부 위험을 완화할 수 있습니다.
- 탈옥 위험 감지는 대규모 언어 모델에서 탈옥 공격의 위험이 있는지 텍스트를 검사합니다. 빠른 시작
- 보호된 자료 텍스트 감지는 AI 생성 텍스트에서 알려진 텍스트 콘텐츠(예: 노래 가사, 기사, 레시피, 선택된 웹 콘텐츠)를 검사합니다. 빠른 시작
탈옥 위험 및 보호된 재료 감지는 일부 지역에서만 사용할 수 있습니다. 지역 가용성을 참조하세요.
2023년 10월
Azure AI 콘텐츠 보안은 일반 공급(GA)됩니다.
이제 Azure AI 콘텐츠 보안 서비스가 클라우드 서비스로 일반 공급됩니다.
- 이 서비스는 더 많은 Azure 지역에서 사용할 수 있습니다. 목록은 개요를 참조하세요.
- 분석 API의 반환 형식이 변경되었습니다. 최신 예제는 빠른 시작을 참조하세요.
- 다른 여러 API의 이름 및 반환 형식이 변경되었습니다. 호환성이 손상되는 변경의 전체 목록은 마이그레이션 가이드를 참조하세요. 이제 다른 가이드와 빠른 시작에 GA 버전이 반영됩니다.
Azure AI 콘텐츠 보안 Java 및 JavaScript SDK
이제 Java 및 JavaScript SDK를 통해 Azure AI 콘텐츠 보안 서비스를 사용할 수 있습니다. SDK는 Maven 및 npm을 각각 사용할 수 있습니다. 빠른 시작을 따라 시작하세요.
2023년 7월
Azure AI 콘텐츠 보안 C# SDK
이제 C# SDK를 통해 Azure AI Content Safety 서비스를 사용할 수 있습니다. SDK는 NuGet에서 사용할 수 있습니다. 빠른 시작을 따라 시작하세요.
2023년 5월
Azure AI 콘텐츠 보안 공개 미리 보기
Azure AI Content Safety는 공격적이거나 위험하거나 바람직하지 않을 수 있는 자료를 검색합니다. 이 서비스는 문제가 있는 콘텐츠를 감지하는 최신 텍스트 및 이미지 모델을 제공합니다. Azure AI Content Safety는 사용자 및 AI가 생성한 유해한 콘텐츠로부터 애플리케이션과 서비스를 안전하게 지킵니다. 빠른 시작을 따라 시작하세요.