Hızlı Başlangıç: Metin için korumalı malzeme algılama

Metin için Korumalı Malzeme özelliği, yapay zeka tarafından oluşturulan içerikle ilişkili riskleri yönetmek için kapsamlı bir çözüm sağlar (yalnızca İngilizce içerik). Kuruluşlar korumalı materyallerin görüntülenmesini algılayıp önleyerek fikri mülkiyet yasalarına uyumluluğu sağlayabilir, içerik özgünlüğünü koruyabilir ve itibarlarını koruyabilir. Korumalı malzeme şarkı sözleri, makaleler, tarifler veya seçilen diğer web içeriği gibi telif hakkı olan kaynaklardan gelen bilinen metinlerle eşleşen içeriği ifade eder.

Yapay zeka tarafından oluşturulan içerikler için Metin için Korumalı Malzeme Algılama özelliğinin temel hedefleri şunlardır:

• Yapay zeka modelleri tarafından oluşturulan korumalı içeriğin görüntülenmesini algılamak ve önlemek için.
• Kuruluşların yapay zeka tarafından oluşturulan içerikle ilişkili riskleri yönetmesini sağlamak için.
• Yapay zeka tarafından oluşturulan içeriğin yasal, etik ve içerik ilkesi yönergelerine uyduğundan emin olmak için.

Korumalı malzeme algılama hakkında daha fazla bilgi için Korumalı malzeme algılama kavramı sayfasına bakın. API giriş sınırları için Genel Bakış'ın Giriş gereksinimleri bölümüne bakın.

Önkoşullar

• Azure aboneliği - Ücretsiz bir abonelik oluşturun
• Azure aboneliğinizi aldıktan sonra anahtarınızı ve uç noktanızı almak için Azure portalında bir İçerik Güvenliği kaynağı oluşturun. Kaynağınız için benzersiz bir ad girin, aboneliğinizi seçin ve bir kaynak grubu, desteklenen bölge (bkz . Bölge kullanılabilirliği) ve desteklenen fiyatlandırma katmanı. Daha sonra, Oluştur'u seçin.
  • Kaynağın dağıtılması birkaç dakika sürer. Tamamlandıktan sonra Kaynağa git'i seçin. Sol bölmedeki Kaynak Yönetimi'nin altında Abonelik Anahtarı ve Uç Nokta'yı seçin. Uç nokta ve anahtarlardan biri API'leri çağırmak için kullanılır.
• cURL yüklü

Korumalı malzeme algılama için metni analiz etme

Aşağıdaki bölümde cURL ile örnek bir istekte yol gösterir. Aşağıdaki komutu bir metin düzenleyicisine yapıştırın ve aşağıdaki değişiklikleri yapın.

1. değerini kaynağınızla ilişkilendirilmiş uç nokta URL'si ile değiştirin <endpoint> .
2. değerini kaynağınızla birlikte gelen anahtarlardan biriyle değiştirin <your_subscription_key> .
3. İsteğe bağlı olarak, gövdedeki "text" alanı analiz etmek istediğiniz kendi metninizle değiştirin.

   İpucu

   En fazla metin uzunluğu sınırlamaları için giriş gereksinimleri bölümüne bakın. Korumalı malzeme algılama, kullanıcı istemlerinde değil LLM tamamlamalarında çalıştırılacaktır.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Url'ye aşağıdaki alanlar eklenmelidir:

İstek gövdesindeki parametreler şu tabloda tanımlanmıştır:

Aşağıdaki örnek istek gövdesine bakın:

{
  "text": "string"
}

Bir komut istemi penceresi açın ve cURL komutunu çalıştırın.

API yanıtını yorumlama

Korumalı malzeme algılama sonuçlarının konsol çıkışında JSON verileri olarak görüntülendiğini görmeniz gerekir. Örneğin:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Çıktıdaki JSON alanları burada tanımlanır:

Kaynakları temizleme

Azure AI hizmetleri aboneliğini temizlemek ve kaldırmak istiyorsanız, kaynağı veya kaynak grubunu silebilirsiniz. Kaynak grubunun silinmesi, kaynak grubuyla ilişkili diğer tüm kaynakları da siler.

• Azure portalı
• Azure CLI

İlgili içerik

• Korumalı malzeme algılama kavramları
• Content Safety Studio kullanarak her kategori için filtreleri yapılandırın ve veri kümelerinde test edin, kodu dışarı aktarın ve dağıtın.