Utforska risker för generativa AI-artefakter före distribution
CsPM-plan (Cloud Security Posture Management) i Microsoft Defender för molnet hjälper dig att förbättra säkerhetsstatusen för generativa AI-appar genom att identifiera sårbarheter i generativa AI-bibliotek som finns i dina AI-artefakter, till exempel containeravbildningar och kodlagringsplatser. Den här artikeln beskriver hur du utforskar och identifierar säkerhetsrisker för dessa program.
Förutsättningar
Läs mer om hantering av AI-säkerhetsstatus.
Läs mer om att undersöka risker med molnsäkerhetsutforskaren och attackvägar.
Du behöver en Microsoft Azure-prenumeration. Om du inte har en Azure-prenumeration kan du registrera dig för en kostnadsfri prenumeration.
Aktivera CSPM (Cloud Security Posture Management) i din Azure-prenumeration.
Ha minst en Azure OpenAI-resurs med minst en modelldistribution ansluten till den via Azure AI Foundry-portalen.
Identifiera containrar som körs på sårbara generativa AI-containeravbildningar
Molnsäkerhetsutforskaren kan användas för att identifiera containrar som kör generativa AI-containeravbildningar med kända säkerhetsrisker.
Logga in på Azure-portalen.
Sök efter och välj Microsoft Defender för molnet> Cloud Security Explorer.
Välj frågemallen Container som kör containeravbildningar med kända generativa AI-sårbarheter .
Välj Sök.
Välj ett resultat för att granska dess information.
Välj en nod för att granska resultaten.
I avsnittet insikter väljer du ett CVE-ID i den nedrullningsbara menyn.
Välj Öppna sårbarhetssidan.
Identifiera sårbara generativa AI-kodlagringsplatser
Molnsäkerhetsutforskaren kan användas för att identifiera sårbara generativa AI-kodlagringsplatser som etablerar Azure OpenAI.
Logga in på Azure-portalen.
Sök efter och välj Microsoft Defender för molnet> Cloud Security Explorer.
Välj de generativa AI-sårbara kodlagringsplatserna som etablerar Azure OpenAI-frågemallen .
Välj Sök.
Välj ett resultat för att granska dess information.
Välj en nod för att granska resultaten.
I avsnittet insikter väljer du ett CVE-ID i den nedrullningsbara menyn.
Välj Öppna sårbarhetssidan.
