Azure OpenAI-etablerade hanterade erbjudandeuppdateringar

Microsoft har lanserat förbättringar av sitt Erbjudande om etablerat dataflöde som hanterar kundfeedback om användbarhet och driftsflexibilitet som öppnar nya betalningsalternativ och distributionsscenarier.

Den här artikeln är avsedd för befintliga användare av det etablerade dataflödeserbjudandet. Nya kunder bör hänvisa till den onboarding-guide tillhandahållen av Azure OpenAI.

Vad förändras?

Förbättringar av användbarhet

Ny kommersiell modell för varje timme/reservation

Information om användbarhetsförbättring

Den etablerade kvotkornigheten ändras från modellspecifik till modelloberoende. I stället för att varje modell och version i prenumerationen och regionen har en egen kvotgräns finns det ett enda kvotobjekt per prenumeration och region som begränsar det totala antalet PTU:er som kan distribueras över alla modeller och versioner som stöds.

Modelloberoende kvot

Från och med den 12 augusti 2024 har befintliga kunders nuvarande modellspecifika kvot konverterats till modelloberoende. Detta sker automatiskt. Ingen kvot går förlorad i övergången. Befintliga kvotgränser summeras och tilldelas till ett nytt modelloberoende kvotobjekt.

Den nya modelloberoende kvoten visas som ett kvotobjekt med namnet Provisioned Managed Throughput Unit, där modellen och versionen inte längre ingår i namnet. Om du expanderar kvotobjektet i Azure AI Foundrys kvotfönster visas fortfarande alla distributioner som bidrar till kvotobjektet.

Standardkvot

Nya och befintliga prenumerationer tilldelas en liten mängd etablerad kvot i många regioner. Detta gör att kunder kan börja använda dessa regioner utan att först behöva begära kvot.

Om regionen redan innehåller en kvottilldelning för befintliga kunder ändras inte kvotgränsen för regionen. Den ökas till exempel inte automatiskt med det nya standardbeloppet.

Kvotbegäranden med självbetjäning

Kunder får inte längre kvot genom att kontakta sina säljteam. I stället använder de formuläret för kvotbegäran via självbetjäning och anger PTU-hanterad kvottyp. Formuläret är tillgängligt från en länk till höger om kvotobjektet. Målet är att svara på alla kvotbegäranden inom två arbetsdagar.

Följande skärmbild av kvoten visar modelloberoende kvot som används av distributioner av olika typer och länken för att begära ytterligare kvot.

Kvot som gräns

Före augustiuppdateringen var Azure OpenAI Provisioned endast tillgängligt för några få kunder och kvoten allokerades för att maximera möjligheten för dem att distribuera och använda den. Med dessa ändringar förenklas processen för att hämta kvoter för alla användare, och det finns större sannolikhet att stöta på kapacitetsbegränsningar för tjänsten när distributioner görs. Det finns en ny API- och portalupplevelse som hjälper användarna att hitta regioner där prenumerationen har kvot och tjänsten har kapacitet att stödja distributioner av en önskad modell.

Vi rekommenderar också att kunder som använder åtaganden nu skapar sina distributioner innan de skapar eller utökar åtaganden för att täcka dem. Detta garanterar att kapaciteten är tillgänglig innan du skapar ett åtagande och förhindrar överköp av åtagandet. För att stödja detta har begränsningen som förhindrade att distributioner skapades större än deras åtaganden tagits bort. Den här nya metoden för kvot, kapacitetstillgänglighet och åtaganden matchar vad som tillhandahålls enligt modellen för varje timme/reservation, och vägledningen för att distribuera innan du köper ett åtagande (eller en reservation för timmodellen) är densamma för båda.

Mer information finns på följande länkar. Vägledningen för reservationer och åtaganden är densamma:

• Kapacitetstransparens
• Storleksändringsreservationer

Ny betalningsmodell för varje timme

Microsoft har introducerat en ny betalningsmodell för varje timme/reservation för etablerade distributioner. Detta är utöver den nuvarande åtagandebetalningsmodellen, som kommer att fortsätta att stödjas fram till slutet av den lista över begränsade modeller som stöds för närvarande. Se de modeller som stöds i åtagandebetalningsmodellen för listan över modeller som stöds på åtagandebetalningsmodellen. Du har också möjlighet att köpa Azure-reservationer för att stödja ytterligare rabatter.

Nya Azure-reservationer för globala distributioner och distributioner av datazoner

Utöver uppdateringarna för betalningsmodellen varje timme introducerades i december 2024 nya Azure-reservationer specifikt för globala distributionstyper och datazonetablerade distributionstyper. Med dessa nya Azure-reservationer har varje etablerad distributionstyp en separat Azure-reservation som kan köpas för att stödja ytterligare rabatter. Mappningen mellan varje etablerad distributionstyp och den associerade Azure-reservationen är följande:

Betalningsmodell för åtagande

• Ett regionalt, månatligt åtagande krävs för att använda etablerade (längre avtalsvillkor).

• Åtaganden är bundna till Azure OpenAI-resurser, vilket gör det svårt att flytta distributioner mellan resurser.

• Åtaganden kan inte avbrytas eller ändras under perioden, förutom att lägga till nya PTU:er.

Modeller som stöds för åtagandebetalningsmodell:

Endast följande lista över Azure OpenAI-modeller stöds i Åtaganden. Om du vill registrera andra modeller som inte finns i listan nedan, eller några nyare modeller för erbjudanden med provisionerad genombandbredd, kan du läsa Azure OpenAI provisioned onboarding guide och Azure Reservations för provisionerade Azure OpenAI-distributioner.

Betalningsmodell för reservation varje timme

• Betalningsmodellen är anpassad till Azure-standarder för andra produkter.

• Användning varje timme stöds, utan åtagande.

• En månads och ett års termrabatter kan köpas som regionala Azure-reservationer.

• Reservationer kan begränsas flexibelt för att täcka flera prenumerationer och omfånget kan ändras efter halva tiden.

• Stöder alla modeller, både gamla och nya.

Ramverk för betalningsmodell

Med lanseringen av den timvisa/reserverade betalningsmodellen är betalningsalternativen mer flexibla och modellen kring etablerade betalningar har ändrats. När enmånadsåtagandena var det enda sättet att köpa etablerade var modellen:

1. Hämta en PTU-kvot från ditt Microsoft-kontoteam.
2. "Köp" kvot från ett åtagande för den resurs där du vill distribuera.
3. Skapa distributioner på resursen upp till gränsen för åtagandet.

Den viktigaste skillnaden mellan den här modellen och den nya modellen är att det enda sättet att betala för etablerade tidigare var genom en månads rabatt. Nu kan du välja att distribuera och betala för distributioner per timme och fatta ett separat beslut om du vill rabattera dem genom antingen ett enmånadsåtagande (som tidigare) eller en Azure-reservation.

Med den här insikten är det nya sättet att tänka på betalningsmodeller:

1. Hämta en PTU-kvot med hjälp av självbetjäningsformuläret.
2. Skapa distributioner med din kvot.
3. Du kan också köpa eller utöka ett åtagande eller en reservation för att tillämpa en termrabatt på dina distributioner.

Steg 1 och 2 är desamma i alla fall. Skillnaden är om ett åtagande eller en Azure-reservation används som fordon för att tillhandahålla rabatten. I båda modellerna:

• Det går att distribuera fler PTU:er än vad du rabatterar. (du kan till exempel skapa en kortsiktig distribution för att prova en ny modell genom att distribuera utan att köpa rabatt)

• Rabattmetoden (åtagande eller reservation) tillämpar det rabatterade priset på ett fast antal PTU:er och har ett omfång som definierar vilka distributioner som räknas mot rabatten.

  Rabattyp	Tillgängliga omfång (inom en region)
  Åtaganden	Azure OpenAI-resurs
  Reservering	Resursgrupp, enskild prenumeration, hanteringsgrupp (grupp med prenumerationer), delad (alla prenumerationer i ett faktureringskonto)

• Det rabatterade priset tillämpas på distribuerade PTUs upp till antalet rabatterade PTU:er i rabatten.

• Antalet distribuerade PTU:er som överskrider de rabatterade PTU:erna (eller som inte omfattas av någon rabatt) debiteras timpriset.

• Det bästa sättet är att först skapa distributioner och sedan tillämpa rabatter. Detta är för att garantera den tjänsten. kapacitet är tillgänglig för att stödja dina distributioner innan du skapar ett termavtal för PTU:er som du inte kan använda.

Mappa distributioner till rabattmetod

Kunder som använder Azure OpenAI Provisioned-erbjudandet före augusti 2024 kan använda antingen eller båda betalningsmodellerna samtidigt i en prenumeration. Den betalningsmodell som används för varje distribution bestäms baserat på dess Azure OpenAI-resurs:

Resursen har ett aktivt åtagande

• Åtagandet rabatterar alla distributioner på resursen upp till antalet PTU:er för åtagandet. Eventuella överflödiga PTU:er debiteras varje timme om inte de överskjutande PTU:erna inte ingår i omfånget för en aktiv reservation. Om överskottet av PTU:er finns i omfånget för en aktiv reservation, kommer det att reduceras som en grupp, upp till antalet PTU:er på reservationen, och eventuellt överskott som fortfarande återstår debiteras per timme.

Resursen har inget aktivt åtagande

• Distributionerna under resursen är berättigade att rabatteras av en Azure-reservation. För att dessa distributioner ska kunna rabatteras måste de finnas inom omfånget för en aktiv reservation. Alla distributioner inom reservationens omfång (inklusive eventuellt distributioner på andra resurser i samma eller andra prenumerationer) kommer att rabatteras som en grupp upp till antalet PTU:er för reservationen. Eventuella extra PTU:er debiteras varje timme.

Ändringar i det befintliga betalningsläget

Kunder som har åtaganden idag kan fortsätta att använda dem åtminstone tills modellen som stöds dras tillbaka. Detta omfattar inköp av nya PTU:er för nya eller befintliga åtaganden och hantering av förnyelse av åtaganden. Augustiuppdateringen har dock ändrat vissa aspekter av åtagandeåtgärden.

• Azure OpenAI har slutat stödja registrering av nya åtaganden från och med den 1 augusti 2024

• Endast en begränsad uppsättning modeller kan distribueras på en resurs med ett åtagande. Här är listan över modeller

• Om de distribuerade PTU:erna under ett åtagande överskrider de bekräftade PTU:erna genereras timavgifterna för överförbrukning mot samma timmätare som används för den nya betalningsmodellen per timme/reservation. På så sätt kan överförbrukningsavgifterna rabatteras via en Azure-reservation.

• Det går att distribuera fler PTU:er än vad som har checkats in på resursen. Detta stöder möjligheten att garantera kapacitetstillgänglighet innan du ökar åtagandestorleken för att täcka den.

Migrera befintliga resurser från åtaganden

Befintliga kunder kan välja att migrera sina befintliga resurser från betalningsmodellen Åtagande till betalning per timme/reservation för att dra nytta av möjligheten att distribuera de senaste modellerna eller konsolidera rabatter för olika distributioner under en enda reservation, med hjälp av en självbetjäningsmetod.

Självbetjäningsmigrering

Med självbetjäningsmetoden för migrering kan en kund organiskt ta bort resurser från sina åtaganden genom att låta dem upphöra att gälla. Processen för att migrera en resurs är följande:

• Ange ett befintligt åtagande så att det inte förnyas automatiskt och notera förfallodatumet.

• Före förfallodatumet bör en kund köpa en Azure-reservation som täcker det totala antalet bekräftade PTUs per prenumeration. Om en befintlig reservation redan har prenumerationen i omfånget kan den ökas i storlek för att täcka de nya PTU:erna.

• När åtagandet upphör att gälla växlar distributionerna under resursen automatiskt till läget Per timme/reservation med den användning som rabatteras av reservationen.

Den här självbetjäningsmigreringsmetoden resulterar i en överlappning där både reservationen och åtagandet är aktiva. Detta är ett kännetecken för det här migreringsläget och reservationen eller åtagandetiden för den här överlappningen kommer inte att krediteras tillbaka till kunden.

En alternativ metod för självbetjäningsmigrering är att byta reservationsköp till att ske efter att åtagandet har upphört att gälla. I den här metoden genererar distributionerna användning per timme för perioden mellan åtagandets förfallodatum och köpet av reservationen. Precis som med den tidigare modellen är detta en egenskap för den här metoden, och den här användningen per timme kommer inte att krediteras.

Fördelar med självbetjäningsmigrering:

• Enskilda resurser kan migreras vid olika tidpunkter.
• Kunder hanterar migreringen utan några beroenden på Microsoft.

Nackdelar med självbetjäningsmigrering:

• Det kommer att finnas en kort period med dubbelfakturering eller timavgifter under övergången från allokerad till fakturering per timme/reservation.

Migrera befintliga distributioner till global distribution eller datazon som etablerats

Befintliga kunder med etablerade distributioner kan välja att migrera till globala distributioner eller distributioner som etablerats i datazonen för att dra nytta av de lägre distributionsminimum, detaljerade skalningssteg eller differentierade priser som är tillgängliga för dessa distributionstyper. För att lära dig mer om hur globala och specifika distributioner i datazoner hanterar databearbetning över Azure-geografier, se dokumentationen för databearbetning i Azure OpenAI-distribution.

Två metoder är tillgängliga för kunder att migrera från etablerade distributioner till globala distributioner eller distributioner som etablerats i datazonen.

Noll stilleståndstidsmigrering

Med nollavbrottsmigrering kan kunderna migrera sina befintliga etablerade distributioner till globala distributioner eller distributioner i datazonen utan att avbryta den befintliga slutsatsdragningstrafiken i distributionen. Den här migreringsmetoden minimerar avbrott i arbetsbelastningen, men kräver att en kund har flera samexisterande distributioner samtidigt som trafiken flyttas över. Processen för att migrera en etablerad distribution med migrering utan avbrott är följande:

• Skapa en ny distribution med hjälp av de globala distributionstyperna eller datazonens etablerade distributionstyper i Azure OpenAI-målresursen.
• Överföra trafik från den befintliga regionala etablerade distributionstypen till den nyligen skapade globala distributionen eller den etablerade distributionen i datazonen tills all trafik avlastas från den befintliga regionala etablerade distributionen.
• När trafiken har migrerats till den nya distributionen kontrollerar du att det inte finns några slutsatsdragningsbegäranden som bearbetas i den tidigare etablerade distributionen genom att se till att måttet Azure OpenAI-begäranden inte visar några API-anrop som görs inom 5–10 minuter från den slutsatsdragningstrafik som migreras över till den nya distributionen. För mer information om den här måtten, se dokumentationen för Monitor Azure OpenAI.
• När du har bekräftat att inga slutsatsdragningsanrop har gjorts tar du bort den regionala etablerade distributionen.

Migrering med stilleståndstid

Migreringen med stilleståndstid omfattar migrering av befintliga etablerade distributioner till globala distributioner eller allokerade distributioner i datazonen samtidigt som befintlig slutsatsdragningstrafik på den ursprungliga etablerade distributionen stoppas. Den här migreringsmetoden kräver inte samexistens för flera distributioner som stöd, men kräver arbetsbelastningsavbrott för att slutföras. Processen för att migrera en etablerad distribution med hjälp av migreringen med stilleståndstid är följande:

• Kontrollera att det inte finns några slutsatsdragningsbegäranden som bearbetas i den tidigare etablerade distributionen genom att se till att måttet Azure OpenAI-begäranden inte visar några API-anrop som gjorts under de senaste 5–10 minuterna. För mer information om den här måtten, se dokumentationen för Monitor Azure OpenAI.
• När du har bekräftat att inga slutsatsdragningsanrop har gjorts tar du bort den regionala etablerade distributionen.
• Skapa en ny distribution med hjälp av distributionstyperna global eller datazon i Azure OpenAI-målresursen.
• När den nya distributionen har slutförts kan du återuppta slutsatsdragningstrafiken på den nya globala distributionen eller distributionen av datazoner.

Hur gör jag för att migrera min befintliga Azure-reservation till de nya Azure-reservationsprodukterna?

Azure-reservationer för Azure OpenAI-etablerade erbjudanden är specifika för den etablerade distributionstypen. Om den köpta Azure-reservationen inte matchar den etablerade distributionstypen kommer distributionen som standard att vara betalningsmodellen för varje timme. Om du väljer att migrera till globala distributioner eller distributioner som etablerats i datazonen kan du behöva köpa en ny Azure-reservation för dessa distributioner för att stödja ytterligare rabatter. Mer information om hur du köper en ny Azure-reservation eller gör ändringar i en befintlig Azure-reservation finns i vägledningen om Azure-reservationer för Azure OpenAI Provisioned.

Hantera etablerade dataflödesåtaganden

Tilläggsöverenskommelser för genomströmningskapacitet skapas och hanteras genom att välja Hanteringscenter i Azure AI Foundry-portalens navigeringsmeny >Kvota>Hantera åtaganden.

I vyn Hantera åtaganden kan du göra flera saker:

• Köp nya åtaganden eller redigera befintliga åtaganden.
• Övervaka alla åtaganden i din prenumeration.
• Identifiera och vidta åtgärder för åtaganden som kan orsaka oväntad fakturering.

Följande avsnitt tar dig igenom dessa uppgifter.

Köpa ett åtagande för etablerat dataflöde

När åtagandeplanen är klar är nästa steg att skapa åtagandena. Åtaganden skapas manuellt via Azure AI Foundry och kräver att användaren skapar åtagandet för att ha rollen Deltagare eller Cognitive Services-deltagare på prenumerationsnivå.

Följ dessa steg för varje nytt åtagande som du behöver skapa:

1. Starta dialogrutan Köp av tilldelad kapacitet genom att välja Kvot>Azure OpenAI Tilldelad>Hantera åtagandeplaner.

2. Välj Köpförbindelse.

3. Välj Azure OpenAI-resursen och köp åtagandet. Du ser dina resurser indelade i resurser med befintliga åtaganden, som du kan redigera och resurser som för närvarande inte har något åtagande.

4. Välj Köp. En bekräftelsedialogruta visas. När du har bekräftat kommer dina PTU:er att checkas in och du kan använda dem för att skapa en etablerad distribution. |

Redigera ett befintligt åtagande för etablerat dataflöde

I vyn Hantera åtaganden kan du också redigera ett befintligt åtagande. Det finns två typer av ändringar som du kan göra i ett befintligt åtagande:

• Du kan lägga till PTU:er i åtagandet.
• Du kan ändra förnyelseinställningarna.

Om du vill redigera ett åtagande väljer du den aktuella som ska redigeras och väljer sedan Redigera åtagande.

Lägga till etablerade dataflödesenheter i befintliga åtaganden

Genom att lägga till PTU:er i ett befintligt åtagande kan du skapa större eller fler distributioner i resursen. Du kan göra detta när som helst under perioden för ditt åtagande.

Ändra förnyelseinställningar

Inställningar för förnyelse av åtagande kan ändras när som helst före åtagandets förfallodatum. Orsaker till att du kanske vill ändra förnyelseinställningarna är att avsluta din användning av etablerat dataflöde genom att ange åtagandet att inte förnya automatiskt, eller att minska användningen av etablerat dataflöde genom att minska antalet PTU:er som kommer att genomföras under nästa period.

Övervaka åtaganden och förhindra oväntade faktureringar

Avsnittet Hantera åtaganden ger en översikt över alla resurser med åtaganden och PTU-användning i en viss Azure-prenumeration. Av särskild vikt är:

• PTUs Committed, Deployed and Usage – Dessa siffror anger storleken på dina åtaganden och hur mycket som används av distributioner. Maximera din investering genom att använda alla dina incheckade PTU:er.
• Förfalloprincip och datum – Förfallodatum och princip talar om för dig när ett åtagande upphör att gälla och vad som händer när det gör det. Ett åtagande som är inställt på automatisk förnyelse genererar en faktureringshändelse på förnyelsedatumet. För åtaganden som upphör att gälla måste du ta bort distributioner från dessa resurser före förfallodatumet för att förhindra fakturering per timmes överförbrukningDe aktuella förnyelseinställningarna för ett åtagande.
• Meddelanden – Aviseringar om viktiga villkor som oanvända åtaganden och konfigurationer som kan leda till överförbrukning av fakturering. Överförbrukning av fakturering kan orsakas av situationer som när ett åtagande har upphört att gälla och distributioner fortfarande finns kvar, men har övergått till fakturering per timme.

Vanliga scenarier för åtagandehantering

Sluta använda tilldelad kapacitet

Om du vill sluta använda etablerat dataflöde och förhindra kostnader för överförbrukning per timme efter att åtagandet har upphört att gälla, stoppa eventuella avgifter efter att de aktuella åtagandena har upphört att gälla, måste två steg vidtas:

1. Ange förnyelseprincipen för alla åtaganden till Återskapa inte automatiskt.
2. Ta bort de etablerade distribueringarna enligt kvoten.

Flytta ett åtagande/en distribution till en ny resurs i samma prenumeration/region

Det går inte att flytta en distribution eller ett åtagande till en ny resurs direkt i Azure AI Foundry. I stället måste en ny driftsättning skapas på målresursen och trafiken flyttas till den. Ett åtagande måste upprättas för den nya resursen för att åstadkomma detta. Eftersom åtaganden debiteras i förväg för en 30-dagarsperiod, är det nödvändigt att samordna denna åtgärd till utgången av det ursprungliga åtagandet för att minimera överlappning och "dubbelfakturering" under denna period.

Det finns två metoder som kan användas för att genomföra den här övergången.

Alternativ 1: Icke-överlappande övergång

Det här alternativet kräver viss stilleståndstid, men kräver ingen extra kvot och genererar inga extra kostnader.

Alternativ 2: Överlappad övergång

Det här alternativet har ingen stilleståndstid genom att ha både befintliga och nya distributioner live samtidigt. Detta kräver att kvoten är tillgänglig för att skapa den nya distributionen och genererar extra kostnader under tiden för de överlappande distributionerna.

Om det sista steget tar längre tid än förväntat och slutförs när det befintliga åtagandet har upphört att gälla finns det tre alternativ för att minimera överförbrukningsavgifter.

• Ta stilleståndstid: Ta bort den ursprungliga distributionen och slutför sedan flytten.
• Betala överförbrukning: Behåll den ursprungliga distributionen och betala varje timme tills du har flyttat trafiken och tagit bort distributionen.
• Återställ det ursprungliga åtagandet för att förnya en gång till. Detta ger dig tid att slutföra flytten med en känd kostnad.

Både betalning för överförbrukning och återställning av det ursprungliga åtagandet genererar avgifter utöver det ursprungliga förfallodatumet. Att betala överförbrukningsavgifter kan vara billigare än ett nytt enmånadsåtagande om du bara behöver en dag eller två för att slutföra flytten. Jämför kostnaderna för båda alternativen för att hitta metoden med lägsta kostnad.

Flytta distributionen till en ny region och eller prenumeration

Samma metoder gäller för att flytta åtagandet och distributionen inom regionen, förutom att det krävs en tillgänglig kvot på den nya platsen i alla fall.

Visa och redigera en befintlig resurs

I Azure AI Foundry väljer du Hanteringscenter>Kvot>Provisionerad>Hantera åtaganden och väljer en resurs med ett befintligt åtagande för att visa/ändra det.