Använda en blockeringslista med Azure OpenAI

Du kan skapa blocklistor med Azure OpenAI-API:et. Följande steg hjälper dig att komma igång.

Hämta din token

Först måste du hämta en token för åtkomst till API:erna för att skapa, redigera och ta bort blocklistor. Du kan hämta den här token med hjälp av följande Azure CLI-kommando:

az account get-access-token 

Skapa eller ändra en blockeringslista

Kopiera cURL-kommandot nedan till en textredigerare och gör följande ändringar:

1. Ersätt {subscriptionId} med ditt prenumerations-ID.
2. Ersätt {resourceGroupName} med resursgruppens namn.
3. Ersätt {accountName} med resursnamnet.
4. Ersätt {raiBlocklistName} (i URL:en) med ett anpassat namn för listan. Tillåtna tecken: 0-9, A-Z, a-z, - . _ ~.
5. Ersätt {token} med den token som du fick från steget Hämta din token ovan.
6. Du kan också ersätta värdet för fältet "description" med en anpassad beskrivning.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "description": "This is a prompt blocklist"  
    } 
}' 

Svarskoden ska vara 201 (skapa en ny lista) eller 200 (uppdatera en befintlig lista).

Tillämpa en blockeringslista på ett innehållsfilter

Om du ännu inte har skapat ett innehållsfilter kan du göra det i Azure AI Foundry. Se Innehållsfiltrering.

Använd följande cURL-kommando för att tillämpa en slutförande blocklista på ett innehållsfilter:

1. Ersätt {subscriptionId} med ditt under-ID.
2. Ersätt {resourceGroupName} med resursgruppens namn.
3. Ersätt {accountName} med resursnamnet.
4. Ersätt {raiPolicyName} med namnet på ditt innehållsfilter
5. Ersätt {token} med den token som du fick från steget Hämta din token ovan.
6. Du kan också ändra "completionBlocklists" rubriken till "promptBlocklists" om du vill att blocklistan ska gälla för användarprompter i stället för AI-modellavslut.
7. Ersätt "raiBlocklistName" i brödtexten med ett anpassat namn för listan. Tillåtna tecken: 0-9, A-Z, a-z, - . _ ~.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiPolicies/{raiPolicyName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "basePolicyName": "Microsoft.Default", 
        "completionBlocklists": [{ 
            "blocklistName": "raiBlocklistName", 
            "blocking": true 
        }], 
        "contentFilters": [ ] 
    } 
}' 

Lägg till blockItems i listan

Kopiera cURL-kommandot nedan till en textredigerare och gör följande ändringar:

1. Ersätt {subscriptionId} med ditt under-ID.
2. Ersätt {resourceGroupName} med resursgruppens namn.
3. Ersätt {accountName} med resursnamnet.
4. Ersätt {raiBlocklistName} (i URL:en) med ett anpassat namn för listan. Tillåtna tecken: 0-9, A-Z, a-z, - . _ ~.
5. Ersätt {raiBlocklistItemName} med ett anpassat namn för listobjektet.
6. Ersätt {token} med den token som du fick från steget Hämta din token ovan.
7. Ersätt värdet för fältet "blocking pattern" med det objekt som du vill lägga till i blocklistan. Den maximala längden på en blockItem är 1 000 tecken. Ange även om mönstret är regex eller exakt matchning.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{  
    "properties": {  
        "pattern": "blocking pattern",  
        "isRegex": false  
    }  
}' 

Svarskoden ska vara 200.

{ 
  "name": "raiBlocklistItemName", 
  "id": "/subscriptions/subscriptionId/resourceGroups/resourceGroupName/providers/Microsoft.CognitiveServices/accounts/accountName/raiBlocklists/raiBlocklistName/raiBlocklistItems/raiBlocklistItemName", 
  "properties": { 
    "pattern": "blocking pattern", 
    "isRegex": false 
  } 
} 

Analysera text med en blockeringslista

Nu kan du testa din distribution som har blocklistan. Anvisningar om hur du anropar Azure OpenAI-slutpunkter finns i snabbstarten.

I exemplet nedan blockerar en GPT-35-Turbo-distribution med en blockeringslista prompten. Svaret returnerar ett 400 fel.

{ 
    "error": { 
        "message": "The response was filtered due to the prompt triggering Azure OpenAI’s content management policy. Please modify your prompt and retry. To learn more about our content filtering policies please read our documentation: https://go.microsoft.com/fwlink/?linkid=2198766", 
        "type": null, 
        "param": "prompt", 
        "code": "content_filter", 
        "status": 400, 
        "innererror": { 
            "code": "ResponsibleAIPolicyViolation", 
            "content_filter_result": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "raiBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    } 
} 

Om själva slutförandet blockeras returnerar 200svaret , eftersom slutförandet endast avbryts när blocklisteinnehållet matchas. Anteckningarna visar att en blocklista matchades.

{ 
    "id": "chatcmpl-85NkyY0AkeBMunOjyxivQSiTaxGAl", 
    "object": "chat.completion", 
    "created": 1696293652, 
    "model": "gpt-35-turbo", 
    "prompt_filter_results": [ 
        { 
            "prompt_index": 0, 
            "content_filter_results": { 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "choices": [ 
        { 
            "index": 0, 
            "finish_reason": "content_filter", 
            "message": { 
                "role": "assistant" 
            }, 
            "content_filter_results": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "myBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "usage": { 
        "completion_tokens": 75, 
        "prompt_tokens": 27, 
        "total_tokens": 102 
    } 
} 

Skapa en blockeringslista

1. Gå till Azure AI Foundry och gå till projektet/hubben. Välj sedan sidan Säkerhet+ säkerhet i det vänstra navigeringsfältet och välj fliken Blocklistor .
2. Välj Skapa en blocklista. Ange ett namn för blocklistan, lägg till en beskrivning och välj en Azure OpenAI-resurs att ansluta den till. Välj sedan Skapa blockeringslista.
3. Välj din nya blocklista när den har skapats. På blocklistans sida väljer du Lägg till ny term.
4. Ange den term som ska filtreras och välj Lägg till term. Du kan också använda en regex. Du kan ta bort varje term i blocklistan.

Koppla en blockeringslista till en konfiguration av innehållsfilter

1. När blocklistan är klar går du tillbaka till sidan Säkerhet+ säkerhet och väljer fliken Innehållsfilter . Skapa en ny konfiguration av innehållsfilter. Då öppnas en guide med flera AI-innehållssäkerhetskomponenter.
2. På skärmarna Indatafilter och Utdatafilter aktiverar du knappen Blockera lista . Du kan sedan välja en blocklista i listan. Det finns två typer av blocklistor: de anpassade blocklistor som du har skapat och fördefinierade blocklistor som Microsoft tillhandahåller – i det här fallet en svordomsblockeringslista (engelska).
3. Nu kan du bestämma vilka av de tillgängliga blocklistor som du vill inkludera i innehållsfiltreringskonfigurationen. Det sista steget är att granska och slutföra konfigurationen för innehållsfiltrering genom att välja Nästa. Du kan alltid gå tillbaka och redigera konfigurationen. När den är klar väljer du ett Skapa innehållsfilter. Den nya konfigurationen som innehåller dina blocklistor kan nu tillämpas på en distribution.