Kom igång med serverlös AI-chatt med RAG med hjälp av LangChain.js

Det kan vara komplicerat att skapa AI-appar. Med LangChain.js, Azure Functions och serverlösa tekniker kan du förenkla den här processen. De här verktygen hanterar infrastruktur och skalas automatiskt, så att du kan fokusera på chattrobotfunktioner. Chattroboten använder företagsdokument för att generera AI-svar.

Koden innehåller exempeldata för ett fiktivt företag. Kunder kan ställa supportfrågor om företagets produkter. Uppgifterna innehåller dokument om företagets användarvillkor, sekretesspolicy och supportguide.

Arkitekturöversikt

Chattappen

Användaren interagerar med programmet:

• Chattgränssnittet i klientwebbappen för konversationen.
• Klientwebbappen skickar användarens fråga till det serverlösa API:et via HTTP-anrop.
• Det serverlösa API:et skapar en kedja för att samordna interaktioner mellan Azure AI och Azure AI Search för att generera ett svar.
• PDF-dokumentet hämtas med hjälp av Azure Blob Storage.
• Det genererade svaret skickas sedan tillbaka till webbappen och visas för användaren.

En enkel arkitektur för chattappen visas i följande diagram:

Diagram som visar arkitektur från klient till bakgrundsapp.

LangChain.js förenklar komplexiteten mellan tjänster

API-flödet är användbart för att förstå hur LangChain.js är till hjälp i det här scenariot genom att abstrahera interaktionerna. Den serverlösa API-slutpunkten:

• Tar emot frågan från användaren.
• Skapar klientobjekt:
  • Azure OpenAI för inbäddningar och chatt
  • Azure AI Search för vektorarkivet
• Skapar en dokumentkedja med LLM-modellen, chattmeddelandet (system- och användarfrågor) och dokumentkällan.
• Skapar en hämtningskedja från dokumentkedjan och vektorlagret.
• Strömmar svaren från hämtningskedjan.

Utvecklarens arbete är att konfigurera beroendetjänsterna korrekt, till exempel Azure OpenAI och Azure AI Search och konstruera kedjorna korrekt. Med den underliggande kedjelogik kan du skapa kedjor från många olika tjänster och konfigurationer så länge de fungerar med LangChain.js krav.

Var finns Azure i den här arkitekturen?

Det här programmet är tillverkat av flera komponenter:

• En webbapplikation skapad med en unik chattkomponent byggd med Lit och distribuerad via Azure Static Web Apps. Koden finns i packages/webapp mapp.

• Ett serverlöst API som skapats med Azure Functions och som använder LangChain.js för att bearbeta dokumenten och generera svar på användarens chattfrågor. Koden finns i packages/api mapp.

• En Azure OpenAI-tjänst för att skapa inbäddningar och generera ett svar.

• En databas för att lagra text som extraheras från dokumenten och de vektorer som genereras av LangChain.js, med hjälp av Azure AI Search.

• En lagringsplats för filer för att lagra källdokumenten med hjälp av Azure Blob Storage.

Förutsättningar

En utvecklingscontainermiljö är tillgänglig med alla beroenden som krävs för att slutföra den här artikeln. Du kan köra utvecklingscontainern i GitHub Codespaces (i en webbläsare) eller lokalt med hjälp av Visual Studio Code.

Om du vill använda den här artikeln behöver du följande krav:

Öppna utvecklingsmiljön

Använd följande instruktioner för att distribuera en förkonfigurerad utvecklingsmiljö som innehåller alla nödvändiga beroenden för att slutföra den här artikeln.

Distribuera och köra

Exempellagringsplatsen innehåller alla kod- och konfigurationsfiler som du behöver för att distribuera den serverlösa chattappen till Azure. Följande steg beskriver hur du distribuerar exemplet till Azure.

Distribuera chattapp till Azure

1. Etablera Azure-resurserna och distribuera källkoden med hjälp av följande Azure Developer CLI-kommando:

   azd up
   

2. Besvara anvisningarna med hjälp av följande tabell:

   Prompt	Svar
   Miljönamn	Håll den kort och gemen. Lägg till ditt namn eller alias. Exempel john-chat. Den används som en del av resursgruppens namn.
   Prenumeration	Välj prenumerationen för att skapa resurser.
   Plats (för värd)	Välj en plats nära dig i listan.
   Plats för OpenAI-modellen	Välj en plats nära dig i listan. Om samma plats är tillgänglig som din första plats väljer du det.

3. Vänta tills appen har distribuerats. Det kan ta 5–10 minuter för distributionen att slutföras.

4. När programmet har distribuerats visas två URL:er i terminalen.

5. Välj den URL som är märkt Deploying service webapp för att öppna chattprogrammet i en webbläsare.

Använda chattappen för att få svar från PDF-filer

Chattappen är förinstallerad med uthyrningsinformation från en PDF-filkatalog. Du kan använda chattappen för att ställa frågor om uthyrningsprocessen. Följande steg beskriver hur du använder chattappen.

1. I webbläsaren väljer eller anger du Vad är återbetalningsprincipen.

   Skärmbild av chattappens första fråga och svar.

2. Välj en uppföljningsfråga.

   Skärmbild av chattappens föreslagna uppföljningsprompt och svar.

3. Välj källhänvisningen i svaret för att visa källdokumentet. Azure Storage levererar dokumentet till webbläsaren. När du har granskat dokumentet stänger du fliken för att återgå till chattappen.

   Skärmbild av det ursprungliga dokumentet som innehåller referens.

Rensa resurser

Rensa Azure-resurser

Azure fakturerar de resurser som skapas i den här artikeln till din Azure-prenumeration. Om du inte behöver dessa resurser i framtiden tar du bort dem för att undvika fler avgifter.

Ta bort Azure-resurserna och ta bort källkoden med följande Azure Developer CLI-kommando:

azd down --purge

Rensa GitHub Codespaces

Få hjälp

Den här exempellagringsplatsen innehåller felsökningsinformation.

Om ditt problem inte har åtgärdats, logga det till förvaringsplatsens Ärendeflik.

Relaterat innehåll

• Kom igång med att utvärdera svar i en chattapp i JavaScript
• Läs mer om hur AZD används i den här mallen:
  • Teknikgemenskapens blogginlägg
  • Reaktorvideo