Usare un elenco di blocchi con Azure OpenAI

È possibile creare elenchi di blocchi con l'API Azure OpenAI. Per iniziare, seguire questa procedura.

Ottenere il token

Prima di tutto, è necessario ottenere un token per accedere alle API per la creazione, la modifica e l'eliminazione di elenchi di blocchi. È possibile ottenere questo token con il comando seguente dell'interfaccia della riga di comando di Azure:

az account get-access-token 

Creare o modificare una blocklist

Copiare il comando cURL qui di seguito in un editor di testo e apportare le modifiche seguenti:

1. Sostituire {subscriptionId} con l'ID sottoscrizione in uso.
2. Sostituire {resourceGroupName} con il nome del gruppo di risorse.
3. Sostituire {accountName} con il nome della risorsa.
4. Sostituire {raiBlocklistName} (nell’URL) con un nome personalizzato per l'elenco. Caratteri consentiti: 0-9, A-Z, a-z, - . _ ~.
5. Sostituire {token} con il token ottenuto dal passaggio "Ottenere il token" precedente.
6. Facoltativamente, sostituire il valore del campo "descrizione" con una descrizione personalizzata.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "description": "This is a prompt blocklist"  
    } 
}' 

Il codice di risposta deve essere 201(creazione di un nuovo elenco) o 200(aggiornamento di un elenco esistente).

Applicare un elenco di blocchi a un filtro contenuto

Se non è ancora stato creato un filtro di contenuto, è possibile farlo in Azure AI Foundry. Vedere Filtro del contenuto.

Per applicare una lista di blocco di completamento a un filtro contenuto, usare il comando cURL seguente:

1. Sostituire {subscriptionId} con l'ID sottoscrizione in uso.
2. Sostituire {resourceGroupName} con il nome del gruppo di risorse.
3. Sostituire {accountName} con il nome della risorsa.
4. Sostituire {raiPolicyName} con il nome del filtro contenuto
5. Sostituire {token} con il token ottenuto dal passaggio "Ottenere il token" precedente.
6. Facoltativamente, modificare il "completionBlocklists" titolo in "promptBlocklists" se si vuole che l'elenco di blocchi venga applicato alle richieste degli utenti anziché ai completamenti del modello di intelligenza artificiale.
7. Sostituire "raiBlocklistName" nel corpo con un nome personalizzato per l'elenco. Caratteri consentiti: 0-9, A-Z, a-z, - . _ ~.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiPolicies/{raiPolicyName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{ 
    "properties": { 
        "basePolicyName": "Microsoft.Default", 
        "completionBlocklists": [{ 
            "blocklistName": "raiBlocklistName", 
            "blocking": true 
        }], 
        "contentFilters": [ ] 
    } 
}' 

Aggiungere elementi block-level all’elenco

Copiare il comando cURL qui di seguito in un editor di testo e apportare le modifiche seguenti:

1. Sostituire {subscriptionId} con l'ID sottoscrizione in uso.
2. Sostituire {resourceGroupName} con il nome del gruppo di risorse.
3. Sostituire {accountName} con il nome della risorsa.
4. Sostituire {raiBlocklistName} (nell’URL) con un nome personalizzato per l'elenco. Caratteri consentiti: 0-9, A-Z, a-z, - . _ ~.
5. Sostituire {raiBlocklistItemName} con un nome personalizzato per l'elemento elenco.
6. Sostituire {token} con il token ottenuto dal passaggio "Ottenere il token" precedente.
7. Sostituire il valore del campo "blocking pattern" con l'elemento che si desidera aggiungere alla blocklist. La lunghezza massima di un elemento block-level è di 1000 caratteri. Specificare anche se il criterio è regex o corrispondenza esatta.

curl --location --request PUT 'https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/raiBlocklists/{raiBlocklistName}/raiBlocklistItems/{raiBlocklistItemName}?api-version=2024-04-01-preview' \ 
--header 'Authorization: Bearer {token}' \ 
--header 'Content-Type: application/json' \ 
--data-raw '{  
    "properties": {  
        "pattern": "blocking pattern",  
        "isRegex": false  
    }  
}' 

Il codice di risposta deve essere 200.

{ 
  "name": "raiBlocklistItemName", 
  "id": "/subscriptions/subscriptionId/resourceGroups/resourceGroupName/providers/Microsoft.CognitiveServices/accounts/accountName/raiBlocklists/raiBlocklistName/raiBlocklistItems/raiBlocklistItemName", 
  "properties": { 
    "pattern": "blocking pattern", 
    "isRegex": false 
  } 
} 

Analizzare il testo con una blocklist

È ora possibile testare la distribuzione con l'elenco di blocchi. Per istruzioni sulla chiamata agli endpoint OpenAI di Azure, vedere Avvio rapido.

Nell'esempio seguente, una distribuzione GPT-35-Turbo con un elenco di blocchi blocca il prompt. La risposta restituisce un errore 400.

{ 
    "error": { 
        "message": "The response was filtered due to the prompt triggering Azure OpenAI’s content management policy. Please modify your prompt and retry. To learn more about our content filtering policies please read our documentation: https://go.microsoft.com/fwlink/?linkid=2198766", 
        "type": null, 
        "param": "prompt", 
        "code": "content_filter", 
        "status": 400, 
        "innererror": { 
            "code": "ResponsibleAIPolicyViolation", 
            "content_filter_result": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "raiBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    } 
} 

Se il completamento stesso è bloccato, la risposta restituisce 200, perché il completamento si interrompe solo quando viene trovata una corrispondenza con il contenuto dell'elenco di blocchi. Le annotazioni indicano che è stata trovata una corrispondenza in un elenco di blocchi.

{ 
    "id": "chatcmpl-85NkyY0AkeBMunOjyxivQSiTaxGAl", 
    "object": "chat.completion", 
    "created": 1696293652, 
    "model": "gpt-35-turbo", 
    "prompt_filter_results": [ 
        { 
            "prompt_index": 0, 
            "content_filter_results": { 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "choices": [ 
        { 
            "index": 0, 
            "finish_reason": "content_filter", 
            "message": { 
                "role": "assistant" 
            }, 
            "content_filter_results": { 
                "custom_blocklists": [ 
                    { 
                        "filtered": true, 
                        "id": "myBlocklistName" 
                    } 
                ], 
                "hate": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "self_harm": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "sexual": { 
                    "filtered": false, 
                    "severity": "safe" 
                }, 
                "violence": { 
                    "filtered": false, 
                    "severity": "safe" 
                } 
            } 
        } 
    ], 
    "usage": { 
        "completion_tokens": 75, 
        "prompt_tokens": 27, 
        "total_tokens": 102 
    } 
} 

Creare un elenco di blocchi

1. Passare ad Azure AI Foundry e passare al progetto/hub. Selezionare quindi la pagina Sicurezza e sicurezza nel riquadro di spostamento a sinistra e selezionare la scheda Elenchi di blocchi .
2. Selezionare Crea un elenco di blocchi. Immettere un nome per l'elenco di blocchi, aggiungere una descrizione e selezionare una risorsa OpenAI di Azure a cui connettersi. Selezionare quindi Crea elenco di blocchi.
3. Selezionare il nuovo elenco di blocchi dopo la creazione. Nella pagina dell'elenco di blocchi selezionare Aggiungi nuovo termine.
4. Immettere il termine che deve essere filtrato e selezionare Aggiungi termine. È anche possibile usare un'espressione regolare. È possibile eliminare ogni termine nell'elenco di blocchi.

Collegare un elenco di blocchi a una configurazione del filtro contenuto

1. Quando l'elenco di blocchi è pronto, tornare alla pagina Sicurezza+ Sicurezza e selezionare la scheda Filtri contenuto. Creare una nuova configurazione del filtro contenuto. Verrà aperta una procedura guidata con diversi componenti di sicurezza dei contenuti di intelligenza artificiale.
2. Nelle schermate Filtro di input e Filtro output attivare o disattivare il pulsante Blocca elenco . È quindi possibile selezionare un elenco di blocchi dall'elenco. Esistono due tipi di elenchi di blocchi: gli elenchi di blocchi personalizzati creati e gli elenchi di blocchi predefiniti forniti da Microsoft, in questo caso un elenco di blocchi Volgarity (inglese).
3. È ora possibile decidere quali elenchi di blocchi disponibili includere nella configurazione del filtro del contenuto. L'ultimo passaggio consiste nel rivedere e completare la configurazione del filtro del contenuto selezionando Avanti. È sempre possibile tornare indietro e modificare la configurazione. Dopo averla pronta, selezionare un filtro Crea contenuto. La nuova configurazione che include gli elenchi di blocchi può ora essere applicata a una distribuzione.