Dela via

Importera ett Azure AI Foundry-API

GÄLLER FÖR: Alla API Management-nivåer

Du kan importera AI-modellslutpunkter som distribuerats i Azure AI Foundry till din API Management-instans som API:er. Använd principer för AI-gatewayer och andra funktioner i API Management för att förenkla integrering, förbättra observerbarheten och förbättra kontrollen över modellsutgångspunkterna.

Läs mer om att hantera AI-API:er i API Management:

Alternativ för klientkompatibilitet

API Management stöder två klientkompatibilitetsalternativ för AI-API:er från Azure AI Foundry. När du importerar API:et med hjälp av guiden väljer du det alternativ som passar din modelldistribution. Alternativet avgör hur klienter anropar API:et och hur API Management-instansen dirigerar begäranden till AI-tjänsten.

  • Azure OpenAI – Hantera Azure OpenAI i Azure AI Foundry-modelldistributioner.

    Klienter anropar distributionen vid en /openai slutpunkt, till exempel /openai/deployments/my-deployment/chat/completions. Distributionsnamnet skickas i begärandesökvägen. Använd det här alternativet om DIN AI-tjänst endast innehåller Azure OpenAI-modelldistributioner.

  • Azure AI – Hantera modellslutpunkter i Azure AI Foundry som exponeras via Azure AI Model Inference API.

    Klienter anropar distributionen på en /models slutpunkt, till exempel /my-model/models/chat/completions. Distributionsnamnet skickas i begärandetexten. Använd det här alternativet om du vill ha flexibilitet att växla mellan modeller som exponeras via Azure AI Model Inference API och de som distribueras i Azure OpenAI i Foundry Models.

Förutsättningar

  • En befintlig API Management-instans. Skapa en om du inte redan har gjort det.

  • En Azure AI-tjänst i din prenumeration med en eller flera distribuerade modeller. Exempel är modeller som distribuerats i Azure AI Foundry eller Azure OpenAI.

Importera AI Foundry API med hjälp av portalen

Använd följande steg för att importera ett AI-API till API Management.

När du importerar API:et konfigurerar API Management automatiskt:

  • Åtgärder för var och en av API:ets REST API-slutpunkter
  • En systemtilldelad identitet med de behörigheter som krävs för att få åtkomst till AI-tjänstdistributionen.
  • En serverdelsresurs och en set-backend-service-princip som dirigerar API-begäranden till AI-tjänstslutpunkten.
  • Autentisering mot backend med instansens systemtilldelade hanterade identitet.
  • (valfritt) Principer som hjälper dig att övervaka och hantera API:et.

Så här importerar du ett AI Foundry-API till API Management:

  1. I Azure Portal navigerar du till din API Management-instans.

  2. I den vänstra menyn går du till API:er och väljer API:er>+ Lägg till API.

  3. Under Skapa från Azure-resurs väljer du Azure AI Foundry.

    Skärmbild av att skapa ett OpenAI-kompatibelt API i portalen.

  4. På fliken Välj AI-tjänst :

    1. Välj den prenumeration där du vill söka efter AI-tjänster. Om du vill få information om modelldistributionerna i en tjänst väljer du distributionslänken bredvid tjänstnamnet. Skärmbild av distributioner för en AI-tjänst i portalen.
    2. Välj en AI-tjänst.
    3. Välj Nästa.

  5. På fliken Konfigurera API :

    1. Ange ett visningsnamn och en valfri beskrivning för API:et.

    2. I Bassökväg anger du en sökväg som API Management-instansen använder för att komma åt distributionsslutpunkten.

    3. Du kan också välja en eller flera produkter som ska associeras med API:et.

    4. I Klientkompatibilitet väljer du något av följande baserat på de typer av klienter som du tänker stödja. Mer information finns i Klientkompatibilitetsalternativ .

      • Azure OpenAI – Välj det här alternativet om dina klienter bara behöver komma åt Azure OpenAI i AI Foundry-modelldistributioner.
      • Azure AI – Välj det här alternativet om dina klienter behöver komma åt andra modeller i Azure AI Foundry.

    5. Välj Nästa.

      Skärmbild av API-konfigurationen för AI Foundry i portalen.

  6. På fliken Hantera tokenförbrukning kan du ange inställningar eller acceptera standardvärden som definierar följande principer för att övervaka och hantera API:et:

  7. På fliken Tillämpa semantisk cachelagring kan du ange inställningar eller acceptera standardvärden som definierar principerna för att optimera prestanda och minska svarstiden för API:et:

  8. På AI-innehållssäkerheten kan du ange inställningar eller acceptera standardinställningar för att konfigurera Azure AI Content Safety-tjänsten för att blockera frågor med osäkert innehåll:

  9. Välj Granska.

  10. När inställningarna har verifierats väljer du Skapa.

Testa AI-API:et

För att säkerställa att DITT AI-API fungerar som förväntat testar du det i API Management-testkonsolen.

  1. Välj det API som du skapade i föregående steg.

  2. Välj fliken Test.

  3. Välj en åtgärd som är kompatibel med modelldistributionen. Sidan visar fält för parametrar och rubriker.

  4. Ange parametrar och rubriker efter behov. Beroende på åtgärden kan du behöva konfigurera eller uppdatera en begärandetext.

    Anmärkning

    I testkonsolen fyller API Management automatiskt i huvudfältet Ocp-Apim-Subscription-Key och konfigurerar prenumerationsnyckeln för den inbyggda 'all-access'-prenumerationen. Den här nyckeln ger åtkomst till varje API i API Management-instansen. Du kan välja att visa Ocp-Apim-Subscription-Key header genom att klicka på "öga"-ikonen bredvid HTTP Request.

  5. Välj Skicka.

    När testet lyckas svarar serverdelen med en lyckad HTTP-svarskod och vissa data. Tillagt i svaret är tokenanvändningsdata som hjälper dig att övervaka och hantera din språkmodelltokenförbrukning.

Relaterat innehåll