Dela via

OpenAIMockResponsePlugin

Simulerar svar från Azure OpenAI och OpenAI med hjälp av en lokal språkmodell.

Skärmbild av en kommandotolk där Dev Proxy simulerar svar för en begäran till Azure OpenAI API.

Definition av plugin-instans

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
}

Konfigurationsexempel

Ingen

Konfigurationsegenskaper

Ingen

Kommandoradsalternativ

Ingen

Kommentarer

Plugin-programmet OpenAIMockResponsePlugin simulerar svar från Azure OpenAI och OpenAI med hjälp av en lokal språkmodell. Med det här plugin-programmet kan du emulera med hjälp av en språkmodell i din app utan att ansluta till OpenAI- eller Azure OpenAI-tjänsten och medföra kostnader.

Plugin-programmet använder språkmodellkonfigurationen dev proxy för att kommunicera med en lokal språkmodell. Om du vill använda det här plugin-programmet konfigurerar du Dev Proxy för att använda en lokal språkmodell.

Viktigt!

Noggrannheten för svaren som genereras av plugin-programmet beror på vilken lokal språkmodell du använder. Innan du distribuerar din app till produktion måste du testa den med den språkmodell som du planerar att använda i produktion.

Plugin-programmet OpenAIMockResponsePlugin simulerar slutföranden och chattavslut. Plugin-programmet stöder inte andra OpenAI API-slutpunkter.

Nästa steg

Simulera Azure OpenAI API