Skapa en Event Hubs-dataanslutning för Azure Data Explorer

Förutsättningar

• Ett Microsoft-konto eller en Microsoft Entra-användaridentitet. En Azure-prenumeration krävs inte.
• Ett Azure Data Explorer-kluster och en databas. Skapa ett kluster och en databas.
• Inmatning av direktuppspelning måste konfigureras i Azure Data Explorer-klustret.

Hämta data

1. På den vänstra menyn väljer du Fråga.

2. Högerklicka på databasen där du vill mata in data. Välj Hämta data.

   

Källa

I fönstret Hämta data är fliken Källa markerad.

Välj datakällan i den tillgängliga listan. I det här exemplet matar du in data från Event Hubs.

Konfigurera

1. Välj en måldatabas och tabell. Om du vill mata in data i en ny tabell väljer du + Ny tabell och anger ett tabellnamn.

   Anmärkning

   Tabellnamn kan innehålla upp till 1 024 tecken, inklusive blanksteg, alfanumeriskt, bindestreck och understreck. Specialtecken stöds inte.

   

2. Fyll i följande fält:

   Inställning	Fältbeskrivning
   Prenumeration	Prenumerations-ID:t där händelsehubbresursen finns.
   Namnområde för händelsehubb	Namnet som identifierar ditt namnområde.
   Event Hub	Den händelsehubb som du vill
   Konsumentgrupp	Konsumentgruppen som definierats i din händelse
   Namn på dataanslutning	Namnet som identifierar din dataanslutning.
   Avancerade filter
   Komprimering	Komprimeringstypen för nyttolasten för händelsehubbens meddelanden.
   Egenskaper för händelsesystem	Systemegenskaperna för händelsehubben. Om det finns flera poster för varje händelsemeddelande läggs systemegenskaperna till i den första. När du lägger till systemegenskaper skapar eller uppdaterar du tabellschema och mappning för att inkludera de valda egenskaperna.
   Startdatum för händelsehämtning	Dataanslutningen hämtar befintliga Event Hubs-händelser som skapats efter händelsehämtningens startdatum. Endast händelser som behålls av Event Hubs kvarhållningsperiod kan hämtas. Om startdatumet för händelsehämtning inte har angetts är standardtiden den tidpunkt då dataanslutningen skapas.

3. Välj Nästa

Undersöka

Fliken Inspektera öppnas med en förhandsgranskning av data.

Slutför inmatningsprocessen genom att välja Slutför.

Valfritt:

• Om de data som visas i förhandsgranskningsfönstret inte är slutförda kan du behöva mer data för att skapa en tabell med alla nödvändiga datafält. Använd följande kommandon för att hämta nya data från din händelsehubb:

  • Ignorera och hämta nya data: Tar bort de data som visas och söker efter nya händelser.

  • Hämta mer data: Söker efter fler händelser utöver de händelser som redan hittats.

    Anmärkning

    Om du vill se en förhandsgranskning av dina data måste händelsehubben skicka händelser.

• Välj Kommandovisningsprogram för att visa och kopiera de automatiska kommandon som genereras från dina indata.

• Använd listrutan för schemadefinitionsfilen för att ändra filen som schemat härleds från.

• Ändra det automatiskt härledda dataformatet genom att välja önskat format i listrutan. Se Dataformat som stöds av Azure Data Explorer för inmatning.

• Redigera kolumner.

• Utforska Avancerade alternativ baserat på datatyp.

Redigera kolumner

Vilka ändringar du kan göra i en tabell beror på följande parametrar:

• Tabelltypen är ny eller befintlig
• Mappningstypen är ny eller befintlig

Kartläggning av transformationer

Vissa dataformatmappningar (Parquet, JSON och Avro) stöder enkla inmatningstidstransformeringar. Om du vill använda mappningstransformeringar skapar eller uppdaterar du en kolumn i fönstret Redigera kolumner .

Mappningstransformeringar kan utföras på en kolumn av typen sträng eller datetime, där källan har datatypen int eller long. Mappningstransformeringar som stöds är:

• DatumTidFrånUnixSekunder
• DateTimeFromUnixMilliseconds
• DateTimeFromUnixMicroseconds
• DatumtidFrånUnixNanosekunder

Avancerade alternativ baserat på datatyp

Tabell (CSV, TSV, PSV):

• Om du matar in tabellformat i en befintlig tabellkan du välja Avancerat>Behåll aktuellt tabellschema. Tabelldata innehåller inte nödvändigtvis de kolumnnamn som används för att mappa källdata till befintliga kolumner. När det här alternativet är markerat görs mappningen i ordning och tabellschemat förblir detsamma. Om det här alternativet är avmarkerat skapas nya kolumner för inkommande data, oavsett datastruktur.

• Om du vill använda den första raden som kolumnnamn väljer du Avancerad>Första raden är kolumnrubrik.

  

JSON:

• För att bestämma kolumnindelningen av JSON-data, välj Avancerat>Inbäddade nivåer, från 1 till 100.

• Om du väljer Avancerad>att ignorera dataformatfel, matas data in i JSON-format. Om du lämnar den här kryssrutan ovald, matas data in i multijson-format.

  

Sammanfattning

I fönstret Dataförberedelse markeras alla tre stegen med gröna bockmarkeringar när datainmatningen har slutförts. Du kan visa de kommandon som användes för varje steg eller välja ett kort för att fråga, visualisera eller släppa inmatade data.

Förutsättningar

• Ett Azure-abonnemang. Skapa ett kostnadsfritt Azure-konto.
• Ett Azure Data Explorer-kluster och en databas. Skapa ett kluster och en databas.
• En måltabell. Skapa en tabell eller använd en befintlig tabell.
• En datainmatningsmappning för tabellen.
• En händelsehubb med data för inmatning.

Hämta data

1. I Azure Portal går du till klustret och väljer Databaser. Välj sedan den databas som innehåller måltabellen.

   

2. Välj Datainmatning på den vänstra menyn. Välj sedan Lägg till dataanslutning i det övre fältet.

3. Fyll i formuläret med följande information och välj sedan Skapa.

   Inställning	Föreslaget värde	Fältbeskrivning
   Namn på dataanslutning	test-hub-anslutning	Namnet på anslutningen som du vill skapa i Azure Data Explorer.
   Prenumeration		Prenumerations-ID:t där händelsehubbresursen finns.
   Namnområde för händelsehubb	Ett unikt namnområdesnamn	Namnet som du valde tidigare, som identifierar ditt namnområde.
   Event Hub	test-hub	Händelsehubben som du skapade.
   Konsumentgrupp	testgrupp	Konsumentgruppen som definierades i den händelsehubben du skapade.
   Egenskaper för händelsesystem	Välj relevanta egenskaper	Systemegenskaperna för händelsehubben. Om det finns flera poster per händelsemeddelande läggs systemegenskaperna till i den första posten. När du lägger till systemegenskaper skapar eller uppdaterar du tabellschema och mappning för att inkludera de valda egenskaperna.
   Komprimering	Ingen	Komprimeringstypen för nyttolasten för händelsehubbens meddelanden. Komprimeringstyper som stöds: None, gzip.
   Hanterad identitet (rekommenderas)	Systemtilldelad	Den hanterade identitet som används av Data Explorer-klustret för åtkomst till läsning från händelsehubben. Vi rekommenderar att du använder hanterade identiteter för att styra åtkomsten till din händelsehubb. Notera: När dataanslutningen skapas: * Systemtilldelade identiteter skapas automatiskt om de inte finns * Den hanterade identiteten tilldelas automatiskt rollen Azure Event Hubs Data Receiver och läggs till i ditt Data Explorer-kluster. Vi rekommenderar att du kontrollerar att rollen har tilldelats och att identiteten har lagts till i klustret.

   Anmärkning

   Om du har en befintlig dataanslutning som inte använder hanterade identiteter rekommenderar vi att du uppdaterar den för att använda hanterade identiteter.

Förutsättningar

• Ett Azure-abonnemang. Skapa ett kostnadsfritt Azure-konto.
• Ett Azure Data Explorer-kluster och en databas. Skapa ett kluster och en databas.
• En måltabell. Skapa en tabell eller använd en befintlig tabell.
• En datainmatningsmappning för tabellen.
• En händelsehubb med data för inmatning.

Hämta data

1. I Azure-portalen bläddrar du till din Event Hubs-instans.

2. Under menyn På funktionssidan väljer du Analysera data med Kusto.

3. Välj Start för att öppna inmatningsguiden till Azure Data Explorer.

   

   Anmärkning

   • Du måste ha minst behörigheter för databasanvändare .
   • Information om hur du aktiverar åtkomst mellan ett kluster och ett lagringskonto utan offentlig åtkomst finns i Skapa en hanterad privat slutpunkt.
   • Klustret och händelsehubben ska associeras med samma hyresgäster. Om inte använder du något av SDK-alternativen, till exempel C# eller Python.

4. Sidopanelen Mata in data öppnas med fliken Mål markerad. Välj fälten Kluster och Databas i listrutorna. Kontrollera att du väljer ett kluster som körs. Annars kan du inte välja Databas och fortsätta med inmatningsprocessen.

5. Under Tabell väljer du Ny tabell och anger ett namn för den nya tabellen. Du kan också använda en befintlig tabell.

6. Välj Nästa: Källa.

7. Under Källtyp fylls händelsehubbens typ och information automatiskt i baserat på den Event Hubs-instans som du startade från.

8. Under Dataanslutning fyller du i följande fält och väljer Nästa: Schema.

   Inställning	Föreslaget värde	Fältbeskrivning
   Prenumeration		Prenumerations-ID:t där händelsehubbresursen finns.
   Namnområde för händelsehubb		Namnet som identifierar ditt namnområde.
   Event Hub		Den händelsehubb som du vill använda.
   Namn på dataanslutning	TestDataConnection	Namnet som identifierar din dataanslutning.
   Konsumentgrupp		Konsumentgruppen som definierats i din händelsehub.
   Komprimering		Komprimeringstypen för nyttolasten för händelsehubbens meddelanden.
   Egenskaper för händelsesystem	Välj relevanta egenskaper	Systemegenskaperna för händelsehubben. Om det finns flera poster för varje händelsemeddelande läggs systemegenskaperna till i den första. När du lägger till systemegenskaper skapar eller uppdaterar du tabellschema och mappning för att inkludera de valda egenskaperna.
   Startdatum för händelsehämtning	Samordnad universell tid (UTC)	Dataanslutningen hämtar befintliga Event Hubs-händelser som skapats efter händelsehämtningens startdatum. Endast händelser som behålls av Event Hubs kvarhållningsperiod kan hämtas. Om startdatumet för händelsehämtning inte har angetts är standardtiden den tidpunkt då dataanslutningen skapas.

9. Om strömning är aktiverat för klustret kan du välja Strömmande inmatning. Om strömning inte är aktiverat för klustret anger du svarstiden för databatchbearbetning. För Event Hubs är den rekommenderade batchtiden 30 sekunder.

   

10. Välj dataformatet. För CSV-formaterade data ignorerar du den första posten om du vill ignorera rubrikraden i filen. För JSON-formaterade data väljer du Ignorera dataformatfel för att mata in data i JSON-format eller lämnar omarkerade för att mata in data i multijson-format. Välj kapslade nivåer för att fastställa tabellkolumnens datadivision.

11. Om de data som visas i förhandsgranskningsfönstret inte är slutförda kan du behöva mer data för att skapa en tabell med alla nödvändiga datafält. Använd följande kommandon för att hämta nya data från din händelsehubb:

    • Ta bort och hämta nya data: tar bort de data som visas och söker efter nya händelser.
    • Hämta mer data: Söker efter fler händelser utöver de händelser som redan hittats.

    Anmärkning

    Om du vill se en förhandsgranskning av dina data måste händelsehubben skicka händelser.

12. Välj Nästa: Sammanfattning.

13. I fönstret Kontinuerlig inmatning från Event Hub markeras alla steg med gröna bockmarkeringar när etableringen har slutförts framgångsrikt.

Förutsättningar

• Ett Azure-abonnemang. Skapa ett kostnadsfritt Azure-konto.
• Ett Azure Data Explorer-kluster och en databas. Skapa ett kluster och en databas.
• En måltabell. Skapa en tabell eller använd en befintlig tabell.
• En datainmatningsmappning för tabellen.
• En händelsehubb med data för inmatning.

ARM-mall

I följande exempel visas en Azure Resource Manager-mall för att lägga till en Event Hubs-dataanslutning. Du kan redigera och distribuera mallen i Azure Portal med hjälp av formuläret.

{
    "$schema": "https://schema.management.azure.com/schemas/2015-01-01/deploymentTemplate.json#",
    "contentVersion": "1.0.0.0",
    "parameters": {
        "namespaces_eventhubns_name": {
            "type": "string",
            "defaultValue": "eventhubns",
            "metadata": {
                "description": "Specifies the Event Hubs Namespace name."
            }
        },
        "EventHubs_eventhubdemo_name": {
            "type": "string",
            "defaultValue": "eventhubdemo",
            "metadata": {
                "description": "Specifies the event hub name."
            }
        },
        "consumergroup_default_name": {
            "type": "string",
            "defaultValue": "$Default",
            "metadata": {
                "description": "Specifies the consumer group of the event hub."
            }
        },
        "Clusters_kustocluster_name": {
            "type": "string",
            "defaultValue": "kustocluster",
            "metadata": {
                "description": "Specifies the name of the cluster"
            }
        },
        "databases_kustodb_name": {
            "type": "string",
            "defaultValue": "kustodb",
            "metadata": {
                "description": "Specifies the name of the database"
            }
        },
        "tables_kustotable_name": {
            "type": "string",
            "defaultValue": "kustotable",
            "metadata": {
                "description": "Specifies the name of the table"
            }
        },
        "mapping_kustomapping_name": {
            "type": "string",
            "defaultValue": "kustomapping",
            "metadata": {
                "description": "Specifies the name of the mapping rule"
            }
        },
        "dataformat_type": {
            "type": "string",
            "defaultValue": "csv",
            "metadata": {
                "description": "Specifies the data format"
            }
        },
        "databaseRouting_type": {
            "type": "string",
            "defaultValue": "Single",
            "metadata": {
                "description": "The database routing for the connection. If you set the value to **Single**, the data connection will be routed to a single database in the cluster as specified in the *databaseName* setting. If you set the value to **Multi**, you can override the default target database using the *Database* EventData property."
            }
        },
        "dataconnections_kustodc_name": {
            "type": "string",
            "defaultValue": "kustodc",
            "metadata": {
                "description": "Name of the data connection to create"
            }
        },
        "subscriptionId": {
            "type": "string",
            "defaultValue": "[subscription().subscriptionId]",
            "metadata": {
                "description": "Specifies the subscriptionId of the event hub"
            }
        },
        "resourceGroup": {
            "type": "string",
            "defaultValue": "[resourceGroup().name]",
            "metadata": {
                "description": "Specifies the resourceGroup of the event hub"
            }
        },
        "location": {
            "type": "string",
            "defaultValue": "[resourceGroup().location]",
            "metadata": {
                "description": "Location for all resources."
            }
        }
    },
    "variables": {
    },
    "resources": [{
            "type": "Microsoft.Kusto/Clusters/Databases/DataConnections",
            "apiVersion": "2022-02-01",
            "name": "[concat(parameters('Clusters_kustocluster_name'), '/', parameters('databases_kustodb_name'), '/', parameters('dataconnections_kustodc_name'))]",
            "location": "[parameters('location')]",
            "kind": "EventHub",
            "properties": {
                "managedIdentityResourceId": "[resourceId('Microsoft.Kusto/clusters', parameters('clusters_kustocluster_name'))]",
                "eventHubResourceId": "[resourceId(parameters('subscriptionId'), parameters('resourceGroup'), 'Microsoft.EventHub/namespaces/eventhubs', parameters('namespaces_eventhubns_name'), parameters('EventHubs_eventhubdemo_name'))]",
                "consumerGroup": "[parameters('consumergroup_default_name')]",
                "tableName": "[parameters('tables_kustotable_name')]",
                "mappingRuleName": "[parameters('mapping_kustomapping_name')]",
                "dataFormat": "[parameters('dataformat_type')]",
                "databaseRouting": "[parameters('databaseRouting_type')]"
            }
        }
    ]
}

Ta bort dataanslutningen via Azure-portalen enligt beskrivningen på portalfliken.

Gör följande för att ta bort händelsehubbens anslutning från Azure-portalen:

1. Gå till ditt kluster. Välj Databaser på den vänstra menyn. Välj sedan den databas som innehåller måltabellen.
2. Välj Dataanslutningar på den vänstra menyn. Markera sedan kryssrutan bredvid den relevanta händelsehubbens dataanslutning.
3. Välj Ta bort på den översta menyraden.