Anteckning
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Note
Den här informationen gäller för Databricks CLI-versionerna 0.205 och senare. The Databricks CLI is in Public Preview.
Databricks CLI use is subject to the Databricks License and Databricks Privacy Notice, including any Usage Data provisions.
The serving-endpoints command group within the Databricks CLI allows you to create, update, and delete model serving endpoints. Se Hantera modell som betjänar slutpunkter.
databricks serving-endpoints build-logs
Hämta de byggloggar som är associerade med den tillhandahållna betjänade modellen.
databricks serving-endpoints build-logs NAME SERVED_MODEL_NAME [flags]
Arguments
NAME
Namnet på den serveringsslutpunkt som den betjänade modellen tillhör. Fältet är obligatoriskt.
SERVED_MODEL_NAME
Namnet på den serverade modell som byggloggar hämtas för. Fältet är obligatoriskt.
Options
skapa databricks-serverdelspunkter
Skapa en ny serverslutpunkt.
databricks serving-endpoints create NAME [flags]
Arguments
NAME
Namnet på tjänsteslutpunkten. Det här fältet krävs och måste vara unikt för en Databricks-arbetsyta. Ett slutpunktsnamn kan bestå av alfanumeriska tecken, bindestreck och understreck.
Options
--budget-policy-id string
Den budgetprincip som ska tillämpas på serverdelsslutpunkten.
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
--no-wait
vänta inte med att nå NOT_UPDATING tillstånd
--route-optimized
Aktivera optimering av rutt för tjänsteändpunkten.
--timeout duration
maximal tid för att nå NOT_UPDATING tillstånd (standard 20m0s)
ta bort databricks-serverdelspunkter
Ta bort en serverdelsslutpunkt.
databricks serving-endpoints delete NAME [flags]
Arguments
NAME
Namnet på den serverdelsslutpunkt som ska tas bort.
Options
exportmått för databricks-serverdelspunkter
Hämta måtten som är associerade med den angivna serverdelsslutpunkten i antingen Prometheus- eller OpenMetrics-expositionsformat.
databricks serving-endpoints export-metrics NAME [flags]
Arguments
NAME
Namnet på den serverdelsslutpunkt som mått ska hämtas för. Fältet är obligatoriskt.
Options
databricks-serverdelsslutpunkter hämtas
Hämta information för en enda serverdelsslutpunkt.
databricks serving-endpoints get NAME [flags]
Arguments
NAME
Namnet på tjänsteslutpunkten. Fältet är obligatoriskt.
Options
databricks serving-endpoints get-open-api
Hämta frågeschemat för serverdelsslutpunkten i OpenAPI-format. Schemat innehåller information om sökvägar, indata- och utdataformat och datatyper som stöds.
databricks serving-endpoints get-open-api NAME [flags]
Arguments
NAME
Namnet på den serveringsslutpunkt som den betjänade modellen tillhör. Fältet är obligatoriskt.
Options
databricks-lista över serverslutpunkter
Hämta alla serverslutpunkter.
databricks serving-endpoints list [flags]
Arguments
None
Options
databricks-tjänstslutpunktsloggar
Hämta tjänstloggarna som är associerade med den tillhandahållna betjänade modellen.
databricks serving-endpoints logs NAME SERVED_MODEL_NAME [flags]
Arguments
NAME
Namnet på den serveringsslutpunkt som den betjänade modellen tillhör. Fältet är obligatoriskt.
SERVED_MODEL_NAME
Namnet på den serverade modell som loggarna ska hämtas för. Fältet är obligatoriskt.
Options
korrigering av databricks-serverslutpunkter
Lägga till eller ta bort taggar för en serverslutpunkt.
databricks serving-endpoints patch NAME [flags]
Arguments
NAME
Namnet på den serverdelsslutpunkt som ska korrigeras. Fältet är obligatoriskt.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
databricks-serverdelsslutpunkter
Uppdatera hastighetsbegränsningar för en serverdelsslutpunkt.
Note
Inaktuell: Använd AI Gateway för att hantera hastighetsgränser i stället.
databricks serving-endpoints put NAME [flags]
Arguments
NAME
Namnet på den serverdelsslutpunkt vars hastighetsgränser uppdateras. Fältet är obligatoriskt.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
databricks serving-endpoints put-ai-gateway
Uppdatera AI-gatewayen för en serverdelsslutpunkt. Extern modell, etablerat dataflöde och pay-per-token-slutpunkter stöds fullt ut. agentslutpunkter stöder för närvarande endast slutsatsdragningstabeller.
databricks serving-endpoints put-ai-gateway NAME [flags]
Arguments
NAME
Namnet på den serverdelsslutpunkt vars AI Gateway uppdateras. Fältet är obligatoriskt.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
databricks-serverdelsfråga
Fråga en serverdelsslutpunkt.
databricks serving-endpoints query NAME [flags]
Arguments
NAME
Namnet på tjänsteslutpunkten. Fältet är obligatoriskt.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
--max-tokens int
The max tokens field used ONLY for completions and chat external & foundation model serving endpoints.
--n int
The n (number of candidates) field used ONLY for completions and chat external & foundation model serving endpoints.
--stream
The stream field used ONLY for completions and chat external & foundation model serving endpoints.
--temperature float
The temperature field used ONLY for completions and chat external & foundation model serving endpoints.
databricks serving-endpoints update-config
Uppdatera valfri kombination av serverdelsslutpunktens betjänade entiteter, beräkningskonfigurationen för de hanterade entiteterna och slutpunktens trafikkonfiguration. En slutpunkt som redan har en pågående uppdatering kan inte uppdateras förrän den aktuella uppdateringen har slutförts eller misslyckas.
databricks serving-endpoints update-config NAME [flags]
Arguments
NAME
Namnet på den serverdelsslutpunkt som ska uppdateras. Fältet är obligatoriskt.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
--no-wait
vänta inte med att nå NOT_UPDATING tillstånd
--timeout duration
maximal tid för att nå NOT_UPDATING tillstånd (standard 20m0s)
databricks serving-endpoints get-permission-levels
Hämta behörighetsnivåer för serverdelsslutpunkter.
databricks serving-endpoints get-permission-levels SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
Den serverdelsslutpunkt för vilken behörigheter ska hämtas eller hanteras.
Options
get-permissions för databricks-serverdelspunkter
Hämta tjänstslutpunktsbehörigheter.
Hämtar behörigheterna för en serverdelsslutpunkt. Serverdelsslutpunkter kan ärva behörigheter från rotobjektet.
databricks serving-endpoints get-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
Den serverdelsslutpunkt för vilken behörigheter ska hämtas eller hanteras.
Options
set-permissions för databricks-serverdelspunkter
Ange behörigheter för serverdelsslutpunkter.
databricks serving-endpoints set-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
Den serverdelsslutpunkt för vilken behörigheter ska hämtas eller hanteras.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
uppdateringsbehörigheter för databricks-serverslutpunkter
Uppdatera behörigheterna för en serverdelsslutpunkt. Serverdelsslutpunkter kan ärva behörigheter från rotobjektet.
databricks serving-endpoints update-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
Den serverdelsslutpunkt för vilken behörigheter ska hämtas eller hanteras.
Options
--json JSON
Den infogade JSON-strängen @path eller till JSON-filen med begärandetexten.
Global flags
--debug
Om felsökningsloggning ska aktiveras.
-h eller --help
Visa hjälp för Databricks CLI eller den relaterade kommandogruppen eller det relaterade kommandot.
--log-file sträng
En sträng som representerar filen som utdataloggarna ska skrivas till. Om den här flaggan inte anges är standardvärdet att skriva utdataloggar till stderr.
--log-format format
Loggformattypen eller textjson. Standardvärdet är text.
--log-level sträng
En sträng som representerar loggformatnivån. Om det inte anges inaktiveras loggformatnivån.
-o, --output typ
Kommandots utdatatyp, text eller json. Standardvärdet är text.
-p, --profile sträng
Namnet på profilen i filen som ~/.databrickscfg ska användas för att köra kommandot. Om den här flaggan inte anges används den namngivna DEFAULT profilen om den finns.
--progress-format format
Formatet för att visa förloppsloggar: default, append, inplaceeller json
-t, --target sträng
Om tillämpligt, paketmålet som ska användas