Anteckning
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Gäller för:
IoT Edge 1.5
Viktigt!
IoT Edge 1.5 LTS är den version som stöds. IoT Edge 1.4 LTS upphör från och med den 12 november 2024. Om du har en tidigare version läser du Uppdatera IoT Edge.
GPU:er är ett populärt val för beräkningar av artificiell intelligens eftersom de erbjuder parallella bearbetningsfunktioner och ofta kör visionsbaserad slutsatsdragning snabbare än processorer. För att stödja program för artificiell intelligens och maskininlärning exponerar Azure IoT Edge för Linux i Windows (EFLOW) en GPU för den virtuella datorns Linux-modul.
Azure IoT Edge för Linux i Windows har stöd för flera GPU-tekniker för genomströmning, bland annat:
Direkt enhetstilldelning (DDA) – GPU-kärnor allokeras antingen till den virtuella Linux-datorn eller värden.
GPU-Paravirtualization (GPU-PV) – GPU:n delas mellan den virtuella Linux-datorn och värden.
Du måste välja lämplig genomströmningsmetod under distributionen för att matcha de funktioner som stöds i enhetens GPU-maskinvara.
Viktigt!
Dessa funktioner kan omfatta komponenter som utvecklats och ägs av NVIDIA Corporation eller dess licensgivare. Användningen av komponenterna styrs av NVIDIA-licensavtalet för slutanvändare som finns på NVIDIA:s webbplats.
Genom att använda GPU-accelerationsfunktioner godkänner du och godkänner villkoren i LICENSavtalet för NVIDIA End-User.
Förutsättningar
GPU-accelerationsfunktionerna i Azure IoT Edge för Linux i Windows stöder för närvarande en utvald uppsättning GPU-maskinvara. Att använda den här funktionen kan också kräva specifika versioner av Windows.
De GPU:er som stöds och nödvändiga Windows-versioner är:
| GPU:er som stöds | GPU-genomströmningstyp | Windows-versioner som stöds |
|---|---|---|
| NVIDIA T4, A2 | DDA | Windows Server 2019 Windows Server 2022 Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| NVIDIA GeForce, Quadro, RTX | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
| Intel iGPU | GPU-PV | Windows 10/11 (Pro, Enterprise, IoT Enterprise) |
Viktigt!
GPU-PV stöd kan begränsas till vissa generationer av processorer eller GPU-arkitekturer, vilket bestäms av GPU-leverantören. Mer information finns i Dokumentation om Intels iGPU-drivrutin eller NVIDIA:s CUDA for WSL-dokumentation.
Windows Server 2019-användare måste använda lägsta version 17763 med alla aktuella kumulativa uppdateringar installerade.
Windows 10-användare måste använda uppdateringsversionen för november 2021 19044.1620 eller senare. Efter installationen kontrollerar du versionsversionen genom att köra winver i kommandotolken.
GPU-genomströmning stöds inte med kapslad virtualisering, som att köra EFLOW på en virtuell Windows-dator.
Systemkonfiguration och installation
Följande avsnitt innehåller konfigurations- och installationsinformation, enligt din GPU.
NVIDIA T4/A2 GPU:er
För T4/A2 GPU:er rekommenderar Microsoft att du installerar en enhetsreduceringsdrivrutin från GPU:ns leverantör. Även om det är valfritt kan installation av en åtgärdsdrivrutin förbättra säkerheten för distributionen. Mer information finns i Distribuera grafikenheter med direkt enhetstilldelning.
Varning
Aktivering av maskinvaruenhetspassering kan öka säkerhetsriskerna. Microsoft rekommenderar en enhetsreduceringsdrivrutin från GPU:ns leverantör när det är tillämpligt. Mer information finns i Distribuera grafikenheter med diskret enhetstilldelning.
NVIDIA GeForce/Quadro/RTX GPU:er
För NVIDIA GeForce/Quadro/RTX GPU:er laddar du ned och installerar DEN NVIDIA CUDA-aktiverade drivrutinen för Windows-undersystem för Linux (WSL) som ska användas med dina befintliga CUDA ML-arbetsflöden. CUDA for WSL-drivrutinerna utvecklades ursprungligen för WSL och används också med Azure IoT Edge för Linux i Windows.
Windows 10-användare måste också installera WSL eftersom vissa bibliotek delas mellan WSL och Azure IoT Edge för Linux i Windows.
Intel iGPUs
För Intel iGPUs laddar du ned och installerar Intel-grafikdrivrutinen med stöd för WSL GPU.
Windows 10-användare måste också installera WSL eftersom vissa bibliotek delas mellan WSL och Azure IoT Edge för Linux i Windows.
Aktivera GPU-acceleration i din Azure IoT Edge Linux i Windows-distribution
När du har slutfört systemkonfigurationen börjar du skapa distributionen av Azure IoT Edge för Linux i Windows. Under den här processen aktiverar du GPU-stöd som en del av EFLOW-distributionen.
Dessa kommandon skapar till exempel en GPU-aktiverad virtuell dator med en NVIDIA A2 GPU eller ett Intel Iris Xe-grafikkort.
#Deploys EFLOW with NVIDIA A2 assigned to the EFLOW VM
Deploy-Eflow -gpuPassthroughType DirectDeviceAssignment -gpuCount 1 -gpuName "NVIDIA A2"
#Deploys EFLOW with Intel(R) Iris(R) Xe Graphics assigned to the EFLOW VM
Deploy-Eflow -gpuPassthroughType ParaVirtualization -gpuCount 1 -gpuName "Intel(R) Iris(R) Xe Graphics"
Om du vill hitta ditt GPU-namn kör du det här kommandot eller letar efter bildskärmskort i Enhetshanteraren.
(Get-WmiObject win32_VideoController).caption
När du har slutfört installationen distribuerar och kör du GPU-accelererade Linux-moduler via Azure IoT Edge för Linux i Windows.
Konfigurera GPU-acceleration i en befintlig Azure IoT Edge Linux i Windows-distribution
Tilldela GPU:n vid distribution för den enklaste upplevelsen. För att aktivera eller inaktivera GPU:n efter distributionen använder du kommandot set-eflowvm. När du använder set-eflowvmanvänds standardparametern för alla argument som du inte anger. Ett exempel:
# Deploys EFLOW without a GPU assigned to the EFLOW VM
Deploy-Eflow -cpuCount 4 -memoryInMB 16384
# Assigns NVIDIA A2 GPU to the existing deployment (cpu and memory must still be specified, or they're set to the default values)
Set-EflowVM -cpuCount 4 -memoryInMB 16384 -gpuName "NVIDIA A2" -gpuPassthroughType DirectDeviceAssignment -gpuCount 1
# Reduces the cpuCount and memory (GPU must still be specified, or the GPU is removed)
Set-EflowVM -cpuCount 2 -memoryInMB 4096 -gpuName "NVIDIA A2" -gpuPassthroughType DirectDeviceAssignment -gpuCount 1
# Removes NVIDIA A2 GPU from the existing deployment
Set-EflowVM -cpuCount 2 -memoryInMB 4096
Nästa steg
Prova GPU-exempel från EFLOW-exemplen. Dessa exempel visar vanliga tillverknings- och detaljhandelsscenarier som defektidentifiering, arbetarsäkerhet och lagerhantering. Dessa exempel med öppen källkod kan vara en lösningsmall för att skapa ett eget visionsbaserat maskininlärningsprogram.
Läs mer om GPU-teknik för genomströmning i DDA-dokumentationen och GPU-PV blogginlägg.
Flera GPU-leverantörer tillhandahåller användarguider för att få ut mesta möjliga av sin maskinvara och programvara med EFLOW:
- Lär dig hur du kör Intel OpenVINO-program™ på EFLOW genom att följa Intels guide om iGPU med Azure IoT Edge för Linux på Windows (EFLOW) och OpenVINO™ Toolkit och referensimplementeringar.
- Kom igång med att distribuera CUDA-accelererade program på EFLOW genom att följa NVIDIA:s användarhandbok för EFLOW för GeForce/Quadro/RTX GPU:er. Den här guiden omfattar inte DDA-baserade GPU:er som NVIDIA T4 eller A2.