Condividi tramite

OpenAIMockResponsePlugin

  • Articolo

Simula le risposte da Azure OpenAI e OpenAI usando un modello linguistico locale.

Screenshot di un prompt dei comandi con Dev Proxy che simula la risposta per una richiesta all'API OpenAI di Azure.

Definizione dell'istanza del plug-in

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/dev-proxy-plugins.dll"
}

Esempio di configurazione

None

Proprietà di configurazione

None

Opzioni della riga di comando

None

Osservazioni:

Il OpenAIMockResponsePlugin plug-in simula le risposte da Azure OpenAI e OpenAI usando un modello linguistico locale. L'uso di questo plug-in consente di emulare usando un modello linguistico nell'app senza connettersi al servizio OpenAI o Azure OpenAI e sostenere i costi.

Il plug-in usa la configurazione del modello linguistico Dev Proxy per comunicare con un modello linguistico locale. Per usare questo plug-in, configurare Dev Proxy per l'uso di un modello linguistico locale.

Importante

L'accuratezza delle risposte generate dal plug-in dipende dal modello linguistico locale usato. Prima di distribuire l'app nell'ambiente di produzione, assicurarsi di testarla con il modello linguistico che si prevede di usare nell'ambiente di produzione.

Il OpenAIMockResponsePlugin plug-in simula i completamenti e i completamenti della chat. Il plug-in non supporta altri endpoint API OpenAI.