Anlam Çekirdeği SDK'sı ile bellek depolaması için Redis kullanma

Bu makalede, Redis veritabanını RediSearch modülüyle Anlam Çekirdeği SDK'sı ile tümleştirme ve bellek depolama ve alma için kullanma işlemleri gösterilmektedir.

Vektör depoları , metnin tamamı için önceden derlenmiş bir ekleme vektörüyle birlikte depolanan metin bilgilerini temsil eder. BIR LLM'nin belleği geri çağırması istendiğinde, bir belleğin istemle ilgili olup olmadığını verimli bir şekilde değerlendirmek için bu önceden derlenmiş eklemeleri kullanır. LLM eşleşen bir bellek bulduğunda, istem tamamlamadaki sonraki adımlar için bağlam olarak belleğin metin bilgilerini kullanır.

Anlam Çekirdeği SDK'sına eklenen bellek depolama, istekleriniz için daha geniş bir bağlam sağlar. Ayrıca verileri geleneksel bir veritabanını depoladığınız gibi depolamanıza, ancak doğal dil kullanarak sorgulamanıza olanak tanır.

Önkoşullar

• Etkin aboneliği olan bir Azure hesabı. Ücretsiz hesap oluşturun.
• .NET SDK
• Microsoft.SemanticKernel NuGet paketi
• Microsoft.SemanticKernel.Connectors.Redis NuGet paketi
• Microsoft.SemanticKernel.Plugins.Memory NuGet paketi
• StackExchange.Redis NuGet paketi
• .NET uygulamanız tarafından dağıtılan ve erişilebilir olan RediSearch modülüne sahip bir Redis veritabanı

Redis veritabanı kullanarak bellek depolama uygulama

Redis veritabanınızı Anlam Çekirdeği SDK'sı ile tümleştirmeden önce RediSearch modülünün etkinleştirildiğinden emin olun. Redis için Azure Cache modül bilgileri için bkz. redis modüllerini Redis için Azure Cache ile kullanma.

1. Redis veritabanınıza bir bağlantı başlatın. Örneğin:

   // Retrieve the Redis connection config.
   IConfigurationRoot config = new ConfigurationBuilder().AddUserSecrets<Program>().Build();
   string redisConfig = config["REDIS_CONFIG"]!;
   
   // Initialize a connection to the Redis database.
   ConnectionMultiplexer connectionMultiplexer = await ConnectionMultiplexer.ConnectAsync(
       redisConfig
   );
   IDatabase database = connectionMultiplexer.GetDatabase();
   

2. Kernel öğesini dahil ITextEmbeddingGenerationServiceederek oluşturun. Örneğin:

   // Retrieve the Azure OpenAI config and secrets saved during deployment.
   string endpoint = config["AZURE_OPENAI_ENDPOINT"]!;
   string embeddingModel = config["AZURE_OPENAI_EMBEDDING_NAME"]!;
   string completionModel = config["AZURE_OPENAI_GPT_NAME"]!;
   string key = config["AZURE_OPENAI_KEY"]!;
   
   // Build the Kernel; must add an embedding generation service.
   Kernel kernel = Kernel
       .CreateBuilder()
       .AddAzureOpenAITextEmbeddingGeneration(embeddingModel, endpoint, key)
       .AddAzureOpenAIChatCompletion(completionModel, endpoint, key)
       .Build();
   

3. Redis veritabanını bir RedisMemoryStore örnekte sarmalayın ve ardından bellek deposunu kullanarak ve oluşturma hizmetini ekleyerek bir SemanticTextMemory nesne başlatın. Örneğin:

   // Retrieve the desired vector size for the memory store.
   // If unspecified, the default vector size is 1536.
   int vectorSize = int.Parse(config["REDIS_MEMORY_VECTOR_SIZE"]!);
   
   // Initialize a memory store using the redis database
   IMemoryStore memoryStore = new RedisMemoryStore(database, vectorSize);
   
   // Retrieve the embedding service from the Kernel.
   ITextEmbeddingGenerationService embeddingService =
       kernel.Services.GetRequiredService<ITextEmbeddingGenerationService>();
   
   // Initialize a SemanticTextMemory using the memory store and embedding generation service.
   SemanticTextMemory textMemory = new(memoryStore, embeddingService);
   

4. sınıfını kullanarak anlamsal metin belleğini TextMemoryPlugin öğesine Kernel ekleyin. Örneğin:

   // Initialize a TextMemoryPlugin using the text memory.
   TextMemoryPlugin memoryPlugin = new(textMemory);
   
   // Import the text memory plugin into the Kernel.
   KernelPlugin memory = kernel.ImportPluginFromObject(memoryPlugin);
   

5. Kernel Anıları kaydetmek, almak ve geri çağırmak için ve eklentisini kullanın. Örneğin:

   // Retrieve the desired memory collection name.
   string memoryCollectionName = config["REDIS_MEMORY_COLLECTION_NAME"]!;
   
   // Save a memory with the Kernel.
   await kernel.InvokeAsync(
       memory["Save"],
       new()
       {
           [TextMemoryPlugin.InputParam] = "My family is from New York",
           [TextMemoryPlugin.CollectionParam] = memoryCollectionName,
           [TextMemoryPlugin.KeyParam] = "info1",
       }
   );
   
   // Retrieve a memory with the Kernel.
   FunctionResult result = await kernel.InvokeAsync(
       memory["Retrieve"],
       new()
       {
           [TextMemoryPlugin.CollectionParam] = memoryCollectionName,
           [TextMemoryPlugin.KeyParam] = "info1",
       }
   );
   
   // Get the memory string from the function result; returns a null value if no memory is found.
   Console.WriteLine(
       $"Retrieved memory: {result.GetValue<string>() ?? "ERROR: memory not found"}"
   );
   
   // Alternatively, recall similar memories with the Kernel.
   // Can configure the memory collection, number of memories to recall, and relevance score.
   result = await kernel.InvokeAsync(
       memory["Recall"],
       new()
       {
           [TextMemoryPlugin.InputParam] = "Ask: where do I live?",
           [TextMemoryPlugin.CollectionParam] = memoryCollectionName,
           [TextMemoryPlugin.LimitParam] = "2",
           [TextMemoryPlugin.RelevanceParam] = "0.79",
       }
   );
   
   // If memories are recalled, the function result can be deserialized as a string[].
   string? resultStr = result.GetValue<string>();
   string[]? parsedResult = string.IsNullOrEmpty(resultStr)
       ? null
       : JsonSerializer.Deserialize<string[]>(resultStr);
   Console.WriteLine(
       $"Recalled memories: {(parsedResult?.Length > 0 ? resultStr : "ERROR: memory not found")}"
   );
   

6. istem şablonu söz dizimini {{...}}kullanarak bir istemin parçası olarak bellek geri çağırmayı kullanın. Örneğin:

   // Create a prompt that includes memory recall.
   // The {{...}} syntax represents an expression to Semantic Kernel.
   // For more information on this syntax see:
   // https://learn.microsoft.com/semantic-kernel/prompts/prompt-template-syntax
   string memoryRecallPrompt = """ 
       Consider only the facts below when answering questions:
   
       BEGIN FACTS
       About me: {{recall 'where did I grow up?'}}
       END FACTS
   
       Question: What are some fun facts about my home state?
       """;
   
   // Invoke the prompt with the Kernel.
   // Must configure the memory collection, number of memories to recall, and relevance score.
   resultStr = await kernel.InvokePromptAsync<string>(
       memoryRecallPrompt,
       new()
       {
           [TextMemoryPlugin.CollectionParam] = memoryCollectionName,
           [TextMemoryPlugin.LimitParam] = "2",
           [TextMemoryPlugin.RelevanceParam] = "0.79",
       }
   );
   
   // If the memory recall fails, the model will indicate it has missing information in its output.
   // Otherwise the output will incorporate your memory as context.
   Console.WriteLine($"Output: {resultStr}");
   

İlgili içerik

• [SQL ile RAG kullanma]
• [SharePoint'ten veri alımı]
• [Vektör veritabanlarıyla çalışma]