Få slutanvändarkontext för AI-aviseringar
Microsoft Defender för molnet hotskydd för AI-arbetsbelastningar kan du förbättra åtgärds- och säkerhetsvärdet för de genererade AI-aviseringarna genom att tillhandahålla slutanvändarkontext.
Lägg till parametrar i dina Azure OpenAI API-anrop för att göra det möjligt för Azure AI att skicka kritisk slutanvändarkontext till Defender för molnet AI-aviseringar. Den här slutanvändarkontexten ger bättre insyn i slutanvändare och leder till effektivare undersökningar och resultat. Du kan till exempel blockera en specifik användare eller korrelera incidenter och aviseringar av slutanvändare.
Förutsättningar
Läs mer i Översikt – SKYDD mot AI-hot.
Aktivera skydd mot hot för AI-arbetsbelastningar (förhandsversion) i ett AI-program, med underliggande Azure OpenAI-modell, direkt via Azure OpenAI-tjänsten. Observera att den här funktionen för närvarande inte stöds när modeller som distribueras via Azure AI-modellinferens-API:et används.
Lägga till säkerhetsparametrar i ditt Azure OpenAI-anrop
Om du vill ta emot AI-säkerhetsaviseringar med mer kontext kan du lägga till alla eller alla följande exempelparametrar SecurityContext i dina Azure OpenAI API-anrop .
Alla fält i SecurityContext är valfria. Vi rekommenderar att du skickar fälten EndUserId och SourceIP till ett minimum. Fälten EndUserId och SourceIP ger SOC-analytiker (Security Operations Center) möjlighet att undersöka säkerhetsincidenter som involverar AI-resurser och generativa AI-program. Exempel finns i SecurityContext-schemat.
Om ett fälts namn är felstavat kommer Azure OpenAI API-anropet fortfarande att lyckas. Schemat SecurityContext kräver inte verifiering för att passera genom azure OpenAI-användarfältet. Programutvecklare bör se till att en giltig JSON skickas till user fältet i varje begäran som görs av programmet till Azure OpenAI.
SecurityContext-schema
Det angivna schemat består av objekt SecurityContext som innehåller flera parametrar som beskriver själva programmet och slutanvändaren som interagerar med programmet. De här fälten hjälper dina säkerhetsteam att undersöka och minimera säkerhetsincidenter genom att tillhandahålla en omfattande metod för att skydda dina AI-program.
Slutanvändar-ID
Slutanvändartyp
Slutanvändarens klientorganisations ID
Källans IP-adress
Källbegäranderubriker
Appnamn
| Fältnamn | Typ | Beskrivning | Valfritt | Exempel |
|---|---|---|---|---|
| EndUserId | sträng | Fungerar som en unik identifierare för slutanvändaren i det generativa AI-programmet. Om Microsoft Entra-ID-auktorisering används för att autentisera slutanvändare i det generativa AI-programmet bör detta vara ett Användarobjekt-ID för Microsoft Entra (tidigare kallat Azure Active Directory). | Ja | 1234a123-12a3-1234-1ab2-a1b2c34d56e |
| EndUserIdType | sträng | Anger typen av slutanvändaridentifierare. Det bör anges till Microsoft Entra-ID när du använder Användarobjekt-ID för Microsoft Entra (tidigare kallat Azure Active Directory). | Ja, om inte EndUserId skickas måste detta i så fall anges till rätt värde. | Microsoft Entra ID |
| EndUserTenantId | sträng | Den här egenskapen anger det Klient-ID för Microsoft 365 som slutanvändaren tillhör. Det krävs när det generativa AI-programmet är multitenant och slutanvändare från olika klienter kan logga in. | Ja | 1234a123-12a3-1234-1ab2-a1b2c34d56e |
| Käll-IP | sträng | Registrerar IP-adressen för klienten som visas direkt av servern. Den representerar den mest omedelbara klientens IP-adress som gjorde anslutningen till servern. Om klienten ansluter via en proxy eller lastbalanserare är SourceIP IP-adressen för proxyn eller lastbalanseraren, inte den ursprungliga klientens IP-adress: - ASP.NET: HttpContext.Connection.RemoteIpAddress – Python: request.remote_addr |
Ja | 12.34.567.891, 1234:1:123a:123:1a2b:ab1:ab1c:ab12 |
| SourceRequestHeaders | Ordlistesträng<, sträng> | Samlar in en delmängd av slutanvändarens begärandehuvuden som proxyservrar eller lastbalanserare lägger till. Rubriker som X-Forwarded-For, X-Real-IP eller Forwarded används av Microsoft Defender för molnet för att hämta den ursprungliga klientens IP-adress. Användaragenthuvuden ger kontext om klientprogramvaran som initierar API-begäran. Rekommenderade rubriknamn är: User-Agent, X-Forwarded-For, X-Real-IP, Forwarded, CF-Connecting-IP, True-Client-IP, X-Client-IP, X-Forwarded, Forwarded-For |
Ja | - |
| ApplicationName | sträng | Namnet på programmet som används i identifierings- och användargränssnittssyfte. | Ja | Contoso HR Copilot, chattrobot för kundförsäljning. |
Lägg till SecurityContext i ditt program
Vi rekommenderar att du lägger till alla parametrar som anges i det här dokumentet i ditt generativa AI-programs API-anrop till Azure OpenAI.
Välj något av följande exempel:
Leta upp och kopiera exempelkoden.
Lägg till koden i generativ AI-programmets kod där Azure OpenAI API anropas.
Ändra kodparametrarna så att de matchar dina krav.
Spara ändringarna.
När du har följt proceduren bör du se till att en giltig JSON skickas till user fältet i varje begäran som görs av programmet till Azure OpenAI.