Aan de slag: Chatten met uw eigen gegevens (Python-voorbeeld)

In dit artikel wordt beschreven hoe u de chat implementeert en uitvoert met uw eigen gegevensvoorbeeldmet behulp van voorbeeldcode voor Python. Deze voorbeeldchattoepassing is gebouwd met Python, Azure OpenAI Service en Rag (Retrieval Augmented Generation) via Azure AI Search.

De app biedt antwoorden op vragen van gebruikers over werknemersvoordelen bij een fictief bedrijf. Het maakt gebruik van Retrieval-Augmented Generation (RAG) om te verwijzen naar inhoud van opgegeven PDF-bestanden, waaronder:

• Een handboek voor werknemers
• Een overzichtsdocument met voordelen
• Een lijst met bedrijfsrollen en verwachtingen

Door deze documenten te analyseren, kan de app reageren op query's in natuurlijke taal met nauwkeurige, contextuele relevante antwoorden. Deze benadering laat zien hoe u uw eigen gegevens kunt gebruiken om intelligente, domeinspecifieke chatervaringen met Azure OpenAI en Azure AI Search mogelijk te maken.

U leert ook hoe u de instellingen van de app configureert om het reactiegedrag te wijzigen.

Nadat u de stappen in dit artikel hebt voltooid, kunt u beginnen met het aanpassen van het project met uw eigen code. Dit artikel maakt deel uit van een reeks die u begeleidt bij het bouwen van een chat-app met Azure OpenAI Service en Azure AI Search. Andere artikelen in de reeks zijn:

• .NET
• Java
• JavaScript
• JavaScript-front-end met Python-back-end

Voorbeeld-app-architectuur

In het volgende diagram ziet u een eenvoudige architectuur van de chat-app.

Belangrijke onderdelen van de architectuur zijn:

• Een webtoepassing die als host fungeert voor de interactieve chatinterface (meestal gebouwd met Python Flask of JavaScript/React) en gebruikersvragen verzendt naar de back-end voor verwerking.
• Een Azure AI Search-resource die intelligente zoekopdrachten uitvoert op geïndexeerde documenten (PDF's, Word-bestanden, enzovoort) en relevante documentfragmenten (segmenten) retourneert voor gebruik in antwoorden.
• Een Azure OpenAI Service-exemplaar dat:
  • Converteert documenten en gebruikersvragen naar vectorweergaven voor semantische overeenkomsten zoeken.
  • Extraheert belangrijke trefwoorden om Azure AI Search-query's te verfijnen.
  • Synthetiseert definitieve antwoorden met behulp van de opgehaalde gegevens en gebruikersquery.

De typische stroom van de chat-app is als volgt:

• Gebruiker verzendt een vraag: Een gebruiker voert een vraag in natuurlijke taal in via de web-app-interface.
• Azure OpenAI verwerkt de vraag: De back-end maakt gebruik van Azure OpenAI om:
  • Genereer een insluiting van de vraag met behulp van het model text-embedding-ada-002.
  • Optioneel trefwoorden extraheren om de relevantie van zoekopdrachten te verfijnen
• Azure AI Search haalt relevante gegevens op: het insluiten of trefwoorden worden gebruikt om een semantische zoekopdracht uit te voeren op geïndexeerde inhoud (zoals PDF's) in Azure AI Search.
• Resultaten combineren met de vraag: De meest relevante documentfragmenten (segmenten) worden gecombineerd met de oorspronkelijke vraag van de gebruiker.
• Azure OpenAI genereert een antwoord: de gecombineerde invoer wordt doorgegeven aan een GPT-model (zoals gpt-35-turbo of gpt-4), waarmee een contextbewust antwoord wordt gegenereerd.
• Het antwoord wordt geretourneerd aan de gebruiker: het gegenereerde antwoord wordt weergegeven in de chatinterface.

Vereisten

Een ontwikkelcontaineromgeving is beschikbaar met alle afhankelijkheden die nodig zijn om dit artikel te voltooien. U kunt de ontwikkelcontainer uitvoeren in GitHub Codespaces (in een browser) of lokaal met behulp van Visual Studio Code.

Als u dit artikel wilt gebruiken, hebt u de volgende vereisten nodig:

Gebruikskosten voor voorbeeldbronnen

De meeste resources die in deze architectuur worden gebruikt, vallen onder basisniveaus of op verbruik gebaseerde prijscategorieën. Dit betekent dat u alleen betaalt voor wat u gebruikt en dat de kosten doorgaans minimaal zijn tijdens het ontwikkelen of testen.

Voor het voltooien van dit voorbeeld zijn er mogelijk kleine kosten verbonden aan het gebruik van services zoals Azure OpenAI, AI Search en opslag. Zodra u klaar bent met het evalueren of implementeren van de app, kunt u alle ingerichte resources verwijderen om lopende kosten te voorkomen.

Voor een gedetailleerde uitsplitsing van de verwachte kosten, zie de kostenschatting in de GitHub-repository voor de voorbeeld.

Open ontwikkelomgeving

Begin met het instellen van een ontwikkelomgeving waarop alle afhankelijkheden zijn geïnstalleerd om dit artikel te voltooien.

Een ontwikkelomgeving openen

Gebruik de volgende instructies om een vooraf geconfigureerde ontwikkelomgeving met alle vereiste afhankelijkheden te implementeren om dit artikel te voltooien.

Chat-app implementeren in Azure

De voorbeeldopslagplaats bevat alles wat u nodig hebt om een chat met uw eigen gegevenstoepassing te implementeren in Azure, waaronder:

• Broncode van toepassing (Python)
• Infrastructure-as-code-bestanden (Bicep)
• Configuratie voor GitHub-integratie en CI/CD (optioneel)

Gebruik de volgende stappen om de app te implementeren met de Azure Developer CLI (azd).

1. Maak in het deelvenster Visual Studio Code Terminal de Azure-resources en implementeer de broncode door de volgende azd opdracht uit te voeren:

   azd up
   

2. Het proces vraagt u om een of meer van de volgende instellingen op basis van uw configuratie:

   • Omgevingsnaam: deze waarde wordt gebruikt als onderdeel van de naam van de resourcegroep. Voer een korte naam in met kleine letters en streepjes (-), zoals myenv. Hoofdletters, cijfers en speciale tekens worden niet ondersteund.

   • Abonnement: Selecteer een abonnement om de resources te maken. Als u uw gewenste abonnement niet ziet, gebruikt u de pijltoetsen om door de volledige lijst met beschikbare abonnementen te schuiven.

   • Locatie: Deze regiolocatie wordt gebruikt voor de meeste resources, waaronder hosting. Selecteer een regiolocatie bij u in de buurt.

   • Locatie voor OpenAI-model of Document Intelligence-resource: selecteer de locatie die het dichtst bij u in de buurt is. Als de regio die u hebt geselecteerd voor uw locatie beschikbaar is voor deze instelling, selecteert u dezelfde regio.

   Het kan enige tijd duren voordat de app is geïmplementeerd. Wacht totdat de implementatie is voltooid voordat u doorgaat.

3. Nadat de app is geïmplementeerd, wordt in het terminalvenster een eindpunt-URL weergegeven:

   

4. Selecteer de eindpunt-URL om de chattoepassing in een browser te openen:

   

Chat-app gebruiken om antwoorden te krijgen uit PDF-bestanden

De chat-app wordt vooraf geladen met informatie over werknemersvoordelen van PDF-bestanden. U kunt de chat-app gebruiken om vragen te stellen over de voordelen. Met de volgende stappen doorloopt u het proces voor het gebruik van de chat-app. Uw antwoorden kunnen variëren wanneer de onderliggende modellen worden bijgewerkt.

1. Selecteer in de chat-app de optie Wat gebeurt er in een prestatiebeoordeling? of voer dezelfde tekst in het chattekstvak in. De app retourneert het eerste antwoord:

   

2. Selecteer een bronvermelding in het antwoordvak:

   

3. GitHub Codespaces opent het rechterdeelvenster Bronvermelding met drie gebieden met tabbladen en de focus bevindt zich op het tabblad Bronvermelding :

   

   GitHub Codespaces biedt drie tabbladen met informatie om te begrijpen hoe de chat-app het antwoord heeft gegenereerd:

   Tabblad	Beschrijving
   Gedachtenproces	Geeft een script weer van de interacties tussen vraag en antwoord in de chat. U kunt de inhoud van de chat-app systembekijken, vragen die door het usersysteem assistantzijn ingevoerd en verduidelijkingen.
   Ondersteunende inhoud	Hier vindt u de informatie die wordt gebruikt om uw vraag en het bronmateriaal te beantwoorden. Het aantal bronmateriaalvermeldingen wordt opgegeven door de instellingen voor ontwikkelaars. Het standaardaantal bronvermeldingen is 3.
   Gegevensvermelding	Hiermee wordt de oorspronkelijke bron voor de geselecteerde bronvermelding weergegeven.

4. Wanneer u klaar bent, selecteert u het geselecteerde tabblad in het rechterdeelvenster. Het rechterdeelvenster wordt gesloten.

Instellingen gebruiken om reactiegedrag te wijzigen

Het specifieke OpenAI-model bepaalt de intelligentie van de chat en de instellingen die worden gebruikt om met het model te communiceren. Met de optie Instellingen voor ontwikkelaars opent u het deelvenster Antwoord genereren configureren , waar u instellingen voor de chat-app kunt wijzigen:

Met de volgende stappen doorloopt u het proces voor het wijzigen van de instellingen.

1. Selecteer in de browser de optie Instellingen voor ontwikkelaars .

2. Schakel het selectievakje Vervolgvragen voorstellen in om de optie in te schakelen en selecteer Sluiten om de instellingswijziging toe te passen.

3. In de chat-app kunt u de vraag deze keer opnieuw bekijken door de tekst in het vragenvak in te voeren:

   What happens in a performance review?
   

   Het antwoord op de chat-app bevat nu voorgestelde vervolgvragen:

   

4. Selecteer opnieuw de optie Instellingen voor ontwikkelaars en deselecteer de optie Gebruik semantische ranker voor ophalen. Sluit de instellingen.

5. Stel dezelfde vraag opnieuw en let op het verschil in het antwoord van de chat-app.

   Met de Semantische rangschikking: "Tijdens een prestatiebeoordeling bij Contoso Electronics zal uw supervisor uw prestaties in het afgelopen jaar bespreken en feedback geven over gebieden voor verbetering. U krijgt ook de mogelijkheid om uw doelstellingen en doelstellingen voor het komende jaar te bespreken. De beoordeling is een tweerichtingsdialoog tussen managers en werknemers en wordt aangemoedigd voor werknemers om eerlijk en open te zijn tijdens het proces (1). De feedback die tijdens de beoordeling wordt gegeven, moet positief en constructief zijn, gericht op het helpen van werknemers bij het ontwikkelen en groeien van hun rollen. Werknemers ontvangen een schriftelijk overzicht van hun prestatiebeoordeling, waaronder een beoordeling van hun prestaties, feedback en doelstellingen voor het komende jaar (1)."

   Zonder de Semantische rangschikking: "Tijdens een prestatiebeoordeling bij Contoso Electronics zal uw supervisor uw prestaties in het afgelopen jaar bespreken en feedback geven over gebieden voor verbetering. Het is een tweerichtingsdialoog waarbij u wordt aangemoedigd eerlijk en open te zijn (1). De feedback die tijdens de beoordeling wordt gegeven, moet positief en constructief zijn, gericht op het helpen ontwikkelen en groeien van uw rol. U ontvangt een schriftelijk overzicht van de beoordeling, inclusief een beoordeling van uw prestaties, feedback en doelstellingen voor het komende jaar (1)."

Resources opschonen

Nadat u de oefening hebt voltooid, kunt u het beste alle resources verwijderen die niet meer nodig zijn.

Azure-resources opschonen

De Azure-resources die in dit artikel zijn gemaakt, worden gefactureerd voor uw Azure-abonnement. Als u deze resources in de toekomst niet meer nodig hebt, verwijdert u deze om te voorkomen dat er meer kosten in rekening worden gebracht.

Verwijder de Azure-resources en verwijder de broncode door de volgende azd opdracht uit te voeren:

azd down --purge --force

De opdrachtopties omvatten:

• purge: Verwijderde hulpbronnen worden onmiddellijk gewist. Met deze optie kunt u de metrische gegevens van Azure OpenAI-tokens per minuut (TPM) opnieuw gebruiken.
• force: het verwijderen gebeurt op de achtergrond, zonder dat hiervoor toestemming van de gebruiker is vereist.

Het opschonen van GitHub Codespaces

Hulp vragen

Deze voorbeeldopslagplaats biedt informatie over probleemoplossing.

Als uw probleem niet is opgelost, voegt u het probleem toe aan de webpagina Problemen van de opslagplaats.

Verwante inhoud

• Verkrijg de broncode voor het voorbeeld dat in dit artikel wordt gebruikt
• Een chat-app bouwen met Azure OpenAI: best practice-oplossingsarchitectuur
• Toegangsbeheer in Generatieve AI-apps met Azure AI Search
• Een bedrijfsklare OpenAI-oplossing bouwen met Azure API Management
• Uitblinken in vectorzoekopdrachten met hybride ophaal- en rangschikkingsmogelijkheden