Özel kategoriler (önizleme)
Azure AI İçerik Güvenliği, belirli ilkelerinizle veya kullanım örneklerinizle eşleşen gelişmiş denetim ve filtreleme için kendi con çadır modu ration kategorilerinizi oluşturmanıza ve yönetmenize olanak tanır.
Özelleştirme türleri
Bu bölümde ayrıntılı ve karşılaştırılan özel kategorileri tanımlamanın ve kullanmanın birden çok yolu vardır.
| API | İşlev |
|---|---|
| Özel kategoriler (standart) API | Özelleştirilmiş bir kategori oluşturmak, almak, sorgulamak ve silmek için özelleştirilebilir bir makine öğrenmesi modeli kullanın. Alternatif olarak, ek açıklama görevleri için tüm özelleştirilmiş kategorilerinizi listeleyin. |
| Özel kategoriler (hızlı) API | Yeni ortaya çıkan içerik olaylarında belirli içerik desenlerini hızla öğrenmek için büyük bir dil modeli (LLM) kullanın. |
Özel kategoriler (standart) API
Özel kategoriler (standart) API'si, müşterilerin ihtiyaçlarına özgü kategoriler tanımlamasına, örnek veriler sağlamasına, özel bir makine öğrenmesi modeli eğitmeye ve öğrenilen kategorilere göre yeni içeriği sınıflandırmak için bu modeli kullanmasına olanak tanır.
Bu, makine öğrenmesi modelleriyle özelleştirme için standart iş akışıdır. Eğitim veri kalitesine bağlı olarak, çok iyi performans düzeylerine ulaşabilir, ancak modeli eğitmek birkaç saat kadar sürebilir.
Bu uygulama, resim içeriğinde değil metin içeriğinde çalışır.
Özel kategoriler (hızlı) API
Özel kategoriler (hızlı) API'leri, standart yöntemden daha hızlı ve esnek olacak şekilde tasarlanmıştır. Çevrimiçi platformlarda uygunsuz veya zararlı içerik içeren siber olayları tanımlamak, analiz etmek, içermek, ortadan kaldırmak ve kurtarmak için kullanılması amaçlanıyor.
Bir olay, Microsoft topluluk yönergelerini veya müşterilerin kendi ilkelerini ve beklentilerini ihlal eden bir dizi yeni içerik deseni (metin, görüntü veya diğer modaliteler) içerebilir. Olası canlı site sorunlarını veya kullanıcılara ve topluluklara zarar vermelerini önlemek için bu olayların hızla ve doğru bir şekilde azaltılması gerekir.
Bu uygulama, metin içeriği ve görüntü içeriği üzerinde çalışır.
İpucu
Yeni ortaya çıkan içerik olaylarıyla başa çıkmanın bir yolu, Blok Listelerini kullanmaktır, ancak bu yalnızca tam metin eşleştirmeye izin verir ve görüntü eşleştirmeye izin vermemektedir. Özel kategoriler (hızlı) API aşağıdaki gelişmiş özellikleri sunar:
- basit bir sınıflandırıcı ile arama ekleme kullanarak anlamsal metin eşleştirme
- basit bir nesne izleme modeli ve ekleme araması ile görüntü eşleştirme.
Nasıl çalışır?
Azure AI İçerik Güvenliği özel kategoriler özelliği, özel içerik sınıflandırma modellerini oluşturmak, eğitip kullanmak için çok adımlı bir işlem kullanır. İşte iş akışına bir göz atın:
1. Adım: Tanım ve kurulum
Özel bir kategori tanımlarken, yapay zekaya tanımlamak istediğiniz içerik türünü öğretmeniz gerekir. Bu, net bir kategori adı ve içeriğin özelliklerini kapsülleyen ayrıntılı bir tanım sağlamayı içerir.
Ardından, yapay zekanın kategorinizin nüanslarını öğrenmesine yardımcı olmak için pozitif ve (isteğe bağlı) negatif örnekler içeren dengeli bir veri kümesi toplarsınız. Bu veriler, modelin gerçek dünya senaryosunda karşılaşacağı çeşitli içerikleri temsil etmelidir.
2. Adım: Model eğitimi
Veri kümenizi hazırladıktan ve kategorileri tanımladıktan sonra Azure AI content Safety hizmeti yeni bir makine öğrenmesi modeli eğiter. Bu model, büyük bir dil modeli kullanarak veri büyütme gerçekleştirmek için tanımlarınızı ve karşıya yüklenen veri kümenizi kullanır. Sonuç olarak, eğitim veri kümesi daha büyük ve daha yüksek kalitede yapılır. Eğitim sırasında yapay zeka modeli, verileri analiz eder ve belirtilen kategoriyle uyumlu içerik ile eşleşmeyen içerik arasında ayrım yapmayı öğrenir.
3. Adım: Model çıkarım
Eğitimden sonra, doğruluk gereksinimlerinizi karşıladığından emin olmak için modeli değerlendirmeniz gerekir. Modeli daha önce almadığı yeni içerikle test edin. Değerlendirme aşaması, modeli bir üretim ortamına dağıtmak için ihtiyacınız olan olası ayarlamaları belirlemenize yardımcı olur.
4. Adım: Model kullanımı
Metin içeriğini analiz etmek ve tanımladığınız özel kategoriyle eşleşip eşleşmediğini belirlemek için analyzeCustomCategory API'sini kullanırsınız. Hizmet, içeriğin belirtilen kategoriyle uyumlu olup olmadığını belirten bir Boole döndürür
Sınırlamalar
Dil kullanılabilirliği
Özel kategoriler API'leri İçerik Güvenliği metin denetimi tarafından desteklenen tüm dilleri destekler. Bkz. Dil desteği.
Giriş sınırlamaları
Özel kategoriler (standart) API'sinin giriş sınırlamaları için aşağıdaki tabloya bakın:
| Object | Sınırlama |
|---|---|
| Desteklenen diller | Yalnızca İngilizce |
| Kullanıcı başına kategori sayısı | 3 |
| Kategori başına sürüm sayısı | 3 |
| Kategori başına eş zamanlı derleme (işlem) sayısı | 1 |
| Saniye başına çıkarım işlemleri | 5 |
| Kategori sürümündeki örnek sayısı | Pozitif örnekler (gerekli): en az 50, maksimum 5K Toplamda (hem negatif hem de pozitif örnekler): 10.000 Yinelenen örneklere izin verilmez. |
| Örnek dosya boyutu | en fazla 128000 bayt |
| Metin örneğinin uzunluğu | en fazla 125K karakter |
| Kategori tanımının uzunluğu | en fazla 1000 karakter |
| Kategori adının uzunluğu | en fazla 128 karakter |
| Blob url'sinin uzunluğu | en fazla 500 karakter |