Översikt över AI- och språkmodellskonfigurationer Microsoft Cloud for Sovereignty (förhandsversion)

Organisationer i offentlig sektor kan dra nytta av den senaste AI-innovationen i det offentliga molnet, samtidigt som de hanterar data enligt sina lokala policyer och regelkrav med hjälp av Microsoft Cloud for Sovereignty.

Microsoft Cloud for Sovereignty erbjuder agilitet och flexibilitet, avancerade cybersäkerhetsfunktioner och åtkomst till de senaste innovationerna, som Azure OpenAI, för att öka hastigheten på den digitala omvandlingen och leveranserna av nödvändiga offentliga tjänster. Det gör att kunder kan bygga och digitalt omvandla arbetsbelastningar i Microsoft Cloud och hjälper dig att uppfylla många av deras specifika krav på efterlevnad, säkerhet och policy.

Azure OpenAI Service ger tillgång till OpenAI kraftfulla språkmodeller inklusive GTP4-o, GPT-4, GPT-3.5-Turbo och Embeddings modellserier. De grundläggande språkmodellerna har förprogrammerats med häjlp av ernorma mängder data i syfte att utföra uppgifter, till exempel innehållsgenerering, summering, semantisk sökning och naturligt språk för kodöversättning. Du kan använda Azure OpenAI Service för att få åtkomst till de förprogrammerade modellerna och skapa AI-kompatibla program både snabbare och enklare, samtidigt som du använder Microsoft Cloud for Sovereignty för att genomdriva efterlevnad-, säkerhets- och policykrav med suveränitetskontroller och molnarkitektur i företagsskala.

Förmåner

Du kan använda Azure OpenAI-tjänster på dina data i syfte att:

• Öka de anställdas produktivitet genom att minska den tid dessa behöver för att hitta viktig information i din organisations samlade kunskapsbas.

• Göra intressenter mer nöjda genom att förenkla komplexa regler och programkrav.

Användningsexempel

Suveränitetsanvändningsfall implementeras bäst baserat på Suverän landningszon (SLZ). SLZ består av en hanteringsgruppshierarki och gemensamma plattformsresurser som städer identiteter för nätverkande, loggning och hanterade tjänster: Följande diagram visar arkitekturen för den första distributionen av den nationella landningszonen.

Rothanteringsgruppen för en SLZ kallas ofta för en landningszon eller landningszon i företagsskala. Enskilda prenumerationer som ingår i någon av de underordnade hanteringsgrupperna under den överordnade gruppen kallas ofta för landningszoner för program eller landningszoner för arbetsbelastningen. Programarbetsbelastningar kan distribueras till en SLZ-miljö i en av de fyra standardlandningszonerna:

• Corp (corporate) – Icke-internetriktade, icke-konfidentiella arbetsbelastningar

• Online – Internetriktade, icke-konfidentiella arbetsbelastningar

• Konfidentiellt företag – Konfidentiella arbetsbelastningar som inte är internetriktade (tillåter endast att konfidentiella databehandlingsresurser används)

• Konfidentiella online - Internetriktade, konfidentiella arbetsbelastningar (tillåter endast att konfidentiella databehandlingsresurser används)

Den största skillnaden mellan hanteringsgrupperna Corp och Online är hur de hanterar offentliga slutpunkter. Online-miljön tillåter användning av offentliga slutpunkter, medan Corp-miljön inte gör det. Läs mer om SLZ-arkitekturen.

I en SLZ-miljö bör du distribuera AI-baserade lösningar som dedikerade arbetsbelastningar i sina egna prenumerationer i Corp- eller Online-hanteringsgruppshierarkin.

Vi rekommenderar att du använder Corp-miljön som det säkra standardmönstret för implementering av LLM (Large språkmodell) via RAG-baserade program (Retrieval Augmented Generation), t.ex. agenter för intern organisationsanvändning. Du behöver ExpressRoute- eller VPN-baserade anslutningar för åtkomst till frontend-API:er eller -användargränssnitt som ansluter till Azure AI-tjänster och tillhandahåller LLM-funktioner till slutanvändarna eller konsumenterna.

Använd landningszonerna för arbetsbelastningen i Online-hanteringsgruppshierarkin om du vill erbjuda LLM- eller RAG-baserade program till allmänheten. Du måste emellertid ha åtkomst till alla tjänster som krävs för säker implementering via privata slutpunkter i det virtuella nätverket. Tillhandahåll endast API:et eller webbprogrammet i frontend genom en offentlig slutpunkt till slutanvändare eller konsumenter.

I det här fallet bör du skydda den offentliga slutpunkten med en brandvägg för webbaserade program. Du bör också tillämpa och konfigurera lämpliga DDoS- och andra säkerhetstjänster. Beroende på dina preferenser kan denna konfiguration komma att inträffa centralt i hubbens virtuella nätverk, eller decentraliserat i arbetsbelastningens virtuella nätverk.

Om du behöver integrera data från konfidentiella landningszoner med AI-arbetsbelastningar måste du köra transformeringsprocesserna som bearbetar och lagrar data i tjänster som Azure AI-tjänster, till exempel Azure AI Search eller Azure OpenAI, i en konfidentiell landningszon. Dessutom bör dessa processer aktivt filtrera och hantera data i syfte att förhindra att konfidentiella data skickas, data som måste krypteras vid användning för icke-konfidentiella tjänster och arbetsbelastningar. Du måste implementera denna filtrering i anpassad affärslogik från fall till fall.

Om du behöver mata in, transformera och använda data med AI-arbetsbelastningar rekommenderar vi att du distribuerar en datalandningszon som är anpassad till datadomänerna. En datalandningszon har flera lager som möjliggör agilitet för de underliggande dataintegrationerna och dataprodukter som den innehåller.

En datalandningszon är en del av Cloud Adoption Framework scenario för analys i molnskala , som är en omfattande, åsiktsbaserad metod som är utformad för att påskynda och effektivisera distributionen av avancerade analyslösningar i molnet. Den tillhandahåller en strukturerad metod, som omfattar bästa praxis och standardiserade tjänster, för att underlätta inmatning, omvandling och konsumtion av data inom olika domäner. Genom att använda det här scenariot kan organisationer uppnå större flexibilitet och skalbarhet i sina dataåtgärder, vilket säkerställer säker datadelning och styrning. Detta ramverk optimerar inte bara prestandan för analysarbetsbelastningar utan förbättrar också den sömlösa integrationen och hanteringen av dataprodukter, vilket i slutändan leder till mer insiktsfulla och informerade beslutsprocesser.

Du kan distribuera en ny datalandningszon med en standarduppsättning tjänster som gör att datalandningszonen kan börja samla in och analysera data. Du kan ansluta datalandningszonen till LLM-datalandningszonen och alla andra datalandningszoner med peering för virtuella nätverk. Med denna funktion kan du dela data säkert via Azures interna nätverk samtidigt som du uppnår lägre latens och större genomflöde jämfört med att gå via hubben.

Vissa implementeringar kan komma att kräva användning av känsliga eller konfidentiella data som kräver kryptering, något som är tillgängligt med konfidentiell databeräkning. I det här scenariot kan du köra datalösningar baserade på virtuella datorer i landningszoner under den konfidentiella hanteringsgruppen. Vissa PaaS-datatjänster kanske inte kan köras på konfidentiella virtuella datorer.

Gå vidare

• Lär dig använda LLM:er och Azure OpenAI i RAG-mönster (Retrieval Augmented Generation) (förhandsversion).