Övervaka onlineslutpunkter

Azure Machine Learning använder integrering med Azure Monitor för att spåra och övervaka mått och loggar för onlineslutpunkter. Du kan visa mått i diagram, jämföra mått mellan slutpunkter och distributioner, fästa mått på Azure Portal instrumentpaneler, konfigurera aviseringar, frågeloggtabeller och push-loggar till mål som stöds. Du kan också använda Application Insights för att analysera händelser från användarcontainrar.

• Mått: För mått på slutpunktsnivå, till exempel svarstid för begäranden, begäranden per minut, nya anslutningar per sekund och nätverksbyte, kan du öka detaljnivån för att se detaljerad information på distributionsnivå eller statusnivå. Du kan också öka detaljnivån för mått på distributionsnivå, till exempel CPU-/GPU-användning och minnes- eller diskanvändning till instansnivå. I Övervaka kan du spåra dessa mått i diagram och du kan konfigurera instrumentpaneler och aviseringar för ytterligare analys.

• Loggar: Du kan skicka mått till en Log Analytics-arbetsyta, där du kan använda Kusto-frågesyntax för att köra frågor mot loggarna. Du kan också skicka mått till Azure Storage-konton eller Azure Event Hubs för vidare bearbetning. För trafikloggar, konsolloggar (container) och händelser relaterade till onlineslutpunkter kan du använda dedikerade loggtabeller. Kusto-frågor stöder komplexa analysfunktioner och sammanfogning av flera tabeller.

• Application Insights: Utvalda miljöer omfattar integrering med Application Insights. Du kan aktivera eller inaktivera den här integreringen när du skapar en onlinedistribution. När du aktiverar det skickas inbyggda mått och loggar till Application Insights. Du kan sedan använda de inbyggda funktionerna i Application Insights för ytterligare analys. Exempel på dessa funktioner är livemått, transaktionssökning, felvyn och prestandavyn.

I den här artikeln ser du hur du:

• Välj rätt metod för att visa och spåra mått och loggar.
• Visa mått för din onlineslutpunkt.
• Skapa en instrumentpanel för dina mått.
• Skapa en måttavisering.
• Visa loggar för din onlineslutpunkt.
• Använd Application Insights för att spåra mått och loggar.

Förutsättningar

• En Azure Machine Learning-slutpunkt online
• Minst läsarens åtkomst på slutpunkten

Använd mått

I Azure Portal kan du visa måttsidor för onlineslutpunkter och distributioner.

Få åtkomst till mått från Azure Machine Learning-studio

Ett enkelt sätt att komma åt måttsidor är via länkar som är tillgängliga i Azure Machine Learning-studio användargränssnittet. Du hittar dessa länkar på fliken Information på en slutpunkts sida. Dessa länkar leder till måttsidan i Azure Portal för slutpunkten eller distributionen.

Utför följande steg för att komma åt måttsidorna via länkar som är tillgängliga i studion:

1. I Azure Machine Learning-studio går du till din arbetsyta.

2. Under Tillgångar väljer du Slutpunkter.

3. Välj namnet på en slutpunkt.

4. Under Slutpunktsattribut väljer du Visa mått.

   

   Slutpunktens måttsida öppnas i Azure Portal.

5. I Azure Machine Learning-studio går du till avsnittet för en distribution på en slutpunktssida och väljer sedan Visa mått.

   

   Distributionens måttsida öppnas i Azure Portal.

Få åtkomst till mått från Azure Portal

Ett annat sätt att visa måttsidan för en slutpunkt eller distribution är att gå direkt till Azure Portal:

1. Gå till Azure-portalen.

2. Gå till onlineslutpunkten eller distributionsresursen.

   Onlineslutpunkter och distributioner är Azure Resource Manager-resurser. Du hittar dem genom att gå till deras resursgrupp och sedan leta efter resurstyperna Machine Learning online-slutpunkt och Machine Learning-onlinedistribution.

3. På resurssidan under Övervakning väljer du Mått.

   

Tillgängliga mått

Vilka mått du ser beror på vilken resurs du väljer. Mått för onlineslutpunkter och onlinedistributioner är begränsade på olika sätt.

Mått i slutpunktsomfånget

Information om mått som är tillgängliga i onlineslutpunktsomfånget finns i Mått som stöds för Microsoft.MachineLearningServices/workspaces/onlineEndpoints.

Bandbreddsbegränsning

Bandbredden begränsas om kvotgränserna överskrids för hanterade onlineslutpunkter. Mer information om gränser för onlineslutpunkter finns i Azure Machine Learning-slutpunkter och batchslutpunkter i artikeln om kvoter och gränser i Azure Machine Learning. Så här avgör du om begäranden begränsas:

• Övervaka måttet Nätverksbyte.
• Sök efter följande fält i svarstrailer: ms-azureml-bandwidth-request-delay-ms och ms-azureml-bandwidth-response-delay-ms. Värdena för fälten är fördröjningarna, i millisekunder, för bandbreddsbegränsningen.

Mer information finns i Problem med bandbreddsbegränsning.

Mått i distributionsomfånget

Information om mått som är tillgängliga i distributionsomfånget finns i Mått som stöds för Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments.

Skapa instrumentpaneler och aviseringar

I Övervaka kan du skapa instrumentpaneler och aviseringar som baseras på mått.

Skapa instrumentpaneler och visualisera frågor

Du kan skapa anpassade instrumentpaneler så att du kan visualisera mått från flera källor i Azure Portal, inklusive måtten för din onlineslutpunkt. Mer information om hur du skapar instrumentpaneler och visualiserar frågor finns i Skapa och dela instrumentpaneler för Log Analytics-data och Skapa anpassade KPI-instrumentpaneler med Application Insights.

Skapa aviseringar

Du kan också skapa anpassade aviseringar så att du får meddelanden om viktiga statusuppdateringar till din onlineslutpunkt:

1. I Azure Portal går du till en måttsida och väljer sedan Ny aviseringsregel.

   

2. I fönstret Välj en signal väljer du den signal som du vill skapa en avisering för och väljer sedan Använd.

3. På sidan Skapa en aviseringsregel anger du ett tröskelvärde och redigerar andra inställningar som du vill justera. Mer information om inställningar för aviseringsregel finns i Konfigurera aviseringsregelvillkor. Välj sedan Nästa: Åtgärder.

   

4. I fönstret Välj åtgärdsgrupper skapar eller väljer du en åtgärdsgrupp för att ange vad som händer när aviseringen utlöses. Mer information finns i Konfigurera information om aviseringsregeln.

5. Välj Granska + Skapa för att slutföra skapandet av aviseringen.

Skala automatiskt baserat på mått

Du kan konfigurera distributioner så att de skalas automatiskt baserat på mått. Om du vill aktivera autoskalningsfunktionen kan du använda användargränssnittet eller koden.

Alternativen för kod är Azure Machine Learning CLI och Azure Machine Learning SDK för Python. När du använder kod konfigurerar du villkoren för att utlösa automatisk skalning genom att ange REST API-namnet på mått.

• Namnen på slutpunktsmått som ska användas i kod finns i värdena i kolumnen Namn i REST API i tabellen i Mått som stöds för Microsoft.MachineLearningServices/workspaces/onlineEndpoints.
• Namnen på distributionsmått som ska användas i kod finns i värdena i kolumnen Namn i REST API i tabellerna i Mått som stöds för Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments.

Mer information finns i Autoskala onlineslutpunkter i Azure Machine Learning.

Använda loggar

Det finns tre loggar som du kan aktivera för onlineslutpunkter:

• AmlOnlineEndpointTrafficLog: Den här trafikloggen ger dig ett sätt att kontrollera informationen om begäranden till slutpunkten. Den här loggen är användbar i följande fall:

  • Ett begärandesvar är inte 200 och du vill ha mer information. Kolumnen ResponseCodeReason i loggen visar orsaken. Beskrivningar av statuskoder och orsaker finns i HTTPS-statuskoder i artikeln om felsökning av onlineslutpunkter.
  • Du vill leta upp svarskoden och svarsorsaken för din modell för en begäran. Kolumnerna ModelStatusCode och ModelStatusReason innehåller den här informationen.
  • Du vill veta varaktigheten för en begäran. Loggarna ger en uppdelning av svarstiden. Den här uppdelningen visar den totala varaktigheten, varaktigheten för begäran, svarstiden och den fördröjning som orsakas av nätverksbegränsning.
  • Du vill kontrollera antalet nya begäranden som lyckas och misslyckas. Loggarna innehåller den här informationen.

• AmlOnlineEndpointConsoleLog: Den här loggen innehåller instruktioner som containrarna skriver som utdata till konsolen. Den här loggen är användbar i följande fall:

  • Det går inte att starta en container. Konsolloggen kan vara användbar för felsökning.
  • Du vill övervaka containerbeteendet och se till att alla begäranden hanteras korrekt.
  • Du vill spåra en begäran från nätverksinmatningspunkten för en onlineslutpunkt till containern. Du kan använda en Log Analytics-fråga som ansluter begärande-ID:t med information från loggarna AmlOnlineEndpointConsoleLog och AmlOnlineEndpointTrafficLog.
  • Du vill till exempel köra en prestandaanalys för att fastställa vilken tid modellen tar att bearbeta varje begäran.

• AmlOnlineEndpointEventLog: Den här loggen innehåller händelseinformation om containerns livscykel. För närvarande innehåller loggen information om följande typer av händelser:

  Namn	Meddelande
  BackOff	Säkerhetskopiering av omstart av misslyckad container
  Drog	Containeravbildningen "<IMAGE_NAME>" finns redan på datorn
  Mördande	Containerinferens-server misslyckad liveness-avsökning, startas om
  Skapad	Skapad containeravbildningshämtare
  Skapad	Skapad containerinferens-server
  Skapad	Skapad containermodellmontering
  LivenessProbeFailed	Liveness-avsökningen misslyckades: <FAILURE_CONTENT>
  BeredskapsprobMisslyckades	Beredskapsavsökningen misslyckades: <FAILURE_CONTENT>
  Börjat	Startad containeravbildningshämtare
  Börjat	Startad containerinferens-server
  Börjat	Startad containermodellmontering
  Mördande	Stoppa containerinferens-server
  Mördande	Stoppa containermodellmontering

Aktivera loggar

1. I Azure Portal går du till resursgruppen som innehåller slutpunkten och väljer sedan slutpunkten.

2. Under Övervakning väljer du Diagnostikinställningar och sedan Lägg till diagnostikinställning.

3. I fönstret Diagnostikinställning anger du följande information:

   • Bredvid Namnet på diagnostikinställningen anger du ett namn för inställningen.
   • Under Loggar väljer du de loggkategorier som du vill aktivera.
   • Under Målinformation väljer du Skicka till Log Analytics-arbetsyta och väljer sedan den prenumeration och Log Analytics-arbetsyta som ska användas.

   

4. Välj Spara.

   Viktigt!

   Det kan ta upp till en timme innan anslutningen till Log Analytics-arbetsytan är tillgänglig. Vänta en timme innan du fortsätter med stegen i nästa avsnitt.

Frågeloggar

1. Skicka bedömningsbegäranden till slutpunkten för att skapa poster i loggarna.

2. Gå till Azure-portalen. Om du vill öppna loggarna använder du något av följande alternativ:

   • Gå till egenskapssidan för onlineslutpunkten. Under Övervakning väljer du Loggar.
   • Gå till Log Analytics-arbetsytan. Välj Loggar till vänster.

3. Stäng fönstret Frågor hubb som öppnas som standard.

4. Under Övrigt dubbelklickar du på AmlOnlineEndpointConsoleLog. Om du inte ser AmlOnlineEndpointConsoleLog anger du det värdet i sökfältet.

   

5. Markera Kör.

   

Exempelfrågor

Exempelfrågor är tillgängliga som du kan använda. Utför följande steg för att visa frågorna:

1. På sidan Loggar väljer du Frågor.

2. I sökrutan anger du Onlineslutpunkt.

   

Information om loggkolumn

Följande tabeller innehåller detaljerad information om de data som lagras i varje logg:

Logg över trafik för AmlOnlineEndpoint

AmlOnlineSlutpunktKonsolLogg

Loggfil för AmlOnlineEndpoint-händelser

Använda Application Insights

Utvalda miljöer omfattar integrering med Application Insights. Genom den här integreringen skickas inbyggda mått och loggar till Application Insights. Därför kan du använda inbyggda Funktioner i Application Insights för ytterligare analys. Exempel på dessa funktioner är livemått, transaktionssökning, felvyn och prestandavyn.

Mer information finns i Översikt över Application Insights.

Du kan aktivera integrering med Application Insights när du skapar en onlinedistribution i studion. På sidan Distribution går du till Application Insights-diagnostik och väljer Aktiverad.

När du aktiverar Application Insights kan du se aktivitetsövervakardiagram på hög nivå för en hanterad onlineslutpunkt. I studion går du till slutpunktens sida och väljer sedan fliken Övervakning .

Relaterat innehåll

• Visa kostnader för en Azure Machine Learning-hanterad onlineslutpunkt
• Analysera mått med Azure Monitor Metrics Explorer