hyperdrive Pakket
Bevat modules en klassen die hyperparameterafstemming ondersteunen.
Hyperparameters zijn aanpasbare parameters die u kiest voor modeltraining die het trainingsproces begeleiden. Het HyperDrive-pakket helpt u bij het automatiseren van het kiezen van deze parameters. U kunt bijvoorbeeld de parameterzoekruimte definiëren als discreet of doorlopend en een steekproefmethode over de zoekruimte als willekeurig, raster of Bayesian. U kunt ook een primaire metriek opgeven om te optimaliseren in het hyperparameterafstemmingsexperiment en of u die metrische waarde wilt minimaliseren of maximaliseren. U kunt ook beleid voor vroegtijdige beëindiging definiëren waarin slecht presterende experimentuitvoeringen worden geannuleerd en nieuwe worden gestart. Als u een herbruikbare machine learning-werkstroom voor HyperDrive wilt definiëren, gebruikt hyper_drive_step u om een Pipeline.
Modules
| error_definition |
Foutcodedefinities voor HyperDrive SDK. |
| error_strings |
Een verzameling foutreeksen die worden gebruikt in de HyperDrive SDK. |
| exceptions |
Uitzonderingen die worden gegenereerd door HyperDrive. |
| parameter_expressions |
Definieert functies die kunnen worden gebruikt in HyperDrive om een hyperparameterzoekruimte te beschrijven. Deze functies worden gebruikt om verschillende typen hyperparameterdistributies op te geven. De distributies worden gedefinieerd wanneer u steekproeven configureert voor een hyperparameter-sweep. Wanneer u bijvoorbeeld de RandomParameterSampling klasse gebruikt, kunt u ervoor kiezen om een steekproef te nemen uit een set discrete waarden of een verdeling van continue waarden. In dit geval kunt u de choice functie gebruiken om een discrete set waarden en uniform functies te genereren om een verdeling van doorlopende waarden te genereren. Zie de zelfstudie voor voorbeelden van het gebruik van deze functies: https://docs.microsoft.com/azure/machine-learning/how-to-tune-hyperparameters. |
Klassen
| BanditPolicy |
Definieert een beleid voor vroegtijdige beëindiging op basis van margecriteria en een frequentie- en vertragingsinterval voor evaluatie. Initialiseer een BanditPolicy met margefactor, slack_amount en evaluatie-interval. |
| BayesianParameterSampling |
Definieert Bayesiaanse steekproeven via een hyperparameterzoekruimte. Bayesiaanse steekproeven proberen op intelligente wijze de volgende steekproef van hyperparameters te kiezen, op basis van de manier waarop de vorige steekproeven zijn uitgevoerd, zodat het nieuwe voorbeeld de gerapporteerde primaire metriek verbetert. Initialiseer BayesianParameterSampling. |
| EarlyTerminationPolicy |
Abstracte basisklasse voor alle beleidsregels voor vroegtijdige beëindiging. Initialiseer een beleid voor vroegtijdige beëindiging. |
| GridParameterSampling |
Hiermee definieert u rastersampling via een hyperparameterzoekruimte. Initialiseer GridParameterSampling. |
| HyperDriveConfig |
Configuratie waarmee een HyperDrive-uitvoering wordt gedefinieerd. De HyperDrive-configuratie bevat informatie over het nemen van hyperparameters, beëindigingsbeleid, primaire metrische gegevens, hervatten van configuratie, schatting en het rekendoel waarop het experiment wordt uitgevoerd. Initialiseer de HyperDriveConfig. |
| HyperDriveRun |
HyperDriveRun bevat de details van een verzonden HyperDrive-experiment. Deze klasse kan worden gebruikt voor het beheren, controleren van de status en het ophalen van uitvoeringsdetails voor de HyperDrive-uitvoering en elk van de gegenereerde onderliggende uitvoeringen. Initialiseer een HyperDrive-uitvoering. |
| HyperDriveRunConfig |
Configuratie waarmee een HyperDrive-uitvoering wordt gedefinieerd. Configuratie bevat informatie over sampling van parameterruimte, beëindigingsbeleid, primaire metrische gegevens, estimator en het rekendoel waarop het experiment wordt uitgevoerd. Initialiseer de HyperDriveConfig. |
| HyperParameterSampling |
Abstracte basisklasse voor alle algoritmen voor het nemen van hyperparameters. Deze klasse bevat de hyperparameterruimte, de steekproefmethode en aanvullende eigenschappen voor afgeleide steekproefklassen: BayesianParameterSampling, GridParameterSamplingen RandomParameterSampling. Initialiseer HyperParameterSampling. |
| MedianStoppingPolicy |
Definieert een beleid voor vroegtijdige beëindiging op basis van lopende gemiddelden van de primaire metrische gegevens van alle uitvoeringen. Initialiseer een MedianStoppingPolicy. |
| NoTerminationPolicy |
Hiermee geeft u op dat er geen beleid voor vroegtijdige beëindiging wordt toegepast. Elke uitvoering wordt uitgevoerd totdat deze is voltooid. Initialiseer NoTerminationPolicy. |
| RandomParameterSampling |
Definieert willekeurige steekproeven via een hyperparameterzoekruimte. Initialiseer RandomParameterSampling. |
| TruncationSelectionPolicy |
Definieert een beleid voor vroegtijdige beëindiging dat een bepaald percentage uitvoeringen annuleert bij elk evaluatie-interval. Initialiseer een TruncationSelectionPolicy. |
Enums
| PrimaryMetricGoal |
Definieert ondersteunde metrische doelen voor hyperparameterafstemming. Een metrische doelstelling wordt gebruikt om te bepalen of een hogere waarde voor een metrische waarde beter of slechter is. Metrische doelen worden gebruikt bij het vergelijken van uitvoeringen op basis van de primaire metrische gegevens. U kunt bijvoorbeeld de nauwkeurigheid maximaliseren of fouten minimaliseren. De primaire metrische naam en het doel worden opgegeven in de HyperDriveConfig klasse wanneer u een HyperDrive-uitvoering configureert. |
Functies
choice
lognormal
Geef een waarde op die is getekend op basis van exp(normal(mu, sigma)).
De logaritme van de retourwaarde wordt normaal verdeeld. Bij het optimaliseren is deze variabele beperkt tot positief.
lognormal(mu, sigma)Parameters
| Name | Description |
|---|---|
|
mu
Vereist
|
Het gemiddelde van de normale verdeling. |
|
sigma
Vereist
|
De standaarddeviatie van de normale verdeling. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
loguniform
Geef een gelijkmatige verdeling van logboeken op.
Een waarde wordt getekend op basis van exp(uniform(min_value, max_value)) zodat de logaritme van de retourwaarde uniform wordt verdeeld. Bij het optimaliseren is deze variabele beperkt tot het interval [exp(min_value), exp(max_value)]
loguniform(min_value, max_value)Parameters
| Name | Description |
|---|---|
|
min_value
Vereist
|
De minimumwaarde in het bereik is exp(min_value)(inclusief). |
|
max_value
Vereist
|
De maximumwaarde in het bereik is exp(max_value) (inclusief). |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
normal
Geef een echte waarde op die normaal verdeeld is met gemiddelde mu en standaarddeviatie sigma.
Bij het optimaliseren is dit een niet-getrainde variabele.
normal(mu, sigma)Parameters
| Name | Description |
|---|---|
|
mu
Vereist
|
Het gemiddelde van de normale verdeling. |
|
sigma
Vereist
|
de standaarddeviatie van de normale verdeling. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
qlognormal
Geef een waarde op zoals round(exp(normal(mu, sigma)) / q) * q.
Geschikt voor een discrete variabele met betrekking tot waar het doel vloeiend is en soepeler wordt met de grootte van de variabele, die van de ene kant is gebonden.
qlognormal(mu, sigma, q)Parameters
| Name | Description |
|---|---|
|
mu
Vereist
|
Het gemiddelde van de normale verdeling. |
|
sigma
Vereist
|
De standaarddeviatie van de normale verdeling. |
|
q
Vereist
|
De vloeiende factor. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
qloguniform
Geef een uniforme verdeling op van de formulierronde(exp(uniform(min_value, max_value) / q) * q.
Dit is geschikt voor een discrete variabele met betrekking tot waar het doel "glad" is en soepeler wordt met de grootte van de waarde, maar die zowel boven als onder moet worden gebonden.
qloguniform(min_value, max_value, q)Parameters
| Name | Description |
|---|---|
|
min_value
Vereist
|
De minimumwaarde in het bereik (inclusief). |
|
max_value
Vereist
|
De maximumwaarde in het bereik (inclusief). |
|
q
Vereist
|
De vloeiende factor. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
qnormal
Geef een waarde op zoals round(normal(mu, sigma) / q) * q.
Geschikt voor een discrete variabele die waarschijnlijk een waarde rond mu neemt, maar fundamenteel niet gebonden is.
qnormal(mu, sigma, q)Parameters
| Name | Description |
|---|---|
|
mu
Vereist
|
Het gemiddelde van de normale verdeling. |
|
sigma
Vereist
|
De standaarddeviatie van de normale verdeling. |
|
q
Vereist
|
De vloeiende factor. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
quniform
Geef een uniforme verdeling op van de formulierronde (uniform(min_value, max_value) / q) * q.
Dit is geschikt voor een discrete waarde ten aanzien waarvan het doel nog steeds enigszins "glad" is, maar die zowel boven als onder elkaar moet worden gebonden.
quniform(min_value, max_value, q)Parameters
| Name | Description |
|---|---|
|
min_value
Vereist
|
De minimumwaarde in het bereik (inclusief). |
|
max_value
Vereist
|
De maximumwaarde in het bereik (inclusief). |
|
q
Vereist
|
De vloeiende factor. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
randint
Geef een set willekeurige gehele getallen op in het bereik [0, bovenste).
De semantiek van deze verdeling is dat er geen correlatie meer is in de verliesfunctie tussen waarden in de buurt van gehele getallen, vergeleken met meer verre gehele getallen. Dit is bijvoorbeeld een geschikte verdeling voor het beschrijven van willekeurige zaden. Als de verliesfunctie waarschijnlijk meer gecorreleerd is voor gehele getallen in de buurt, moet u waarschijnlijk een van de 'gekwantiseerde' continue distributies gebruiken, zoals quniform, qloguniform, qnormal of qlognormal.
randint(upper)Parameters
| Name | Description |
|---|---|
|
upper
Vereist
|
De exclusieve bovengrens voor het bereik van gehele getallen. |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |
uniform
Geef een uniforme verdeling op waaruit monsters worden genomen.
uniform(min_value, max_value)Parameters
| Name | Description |
|---|---|
|
min_value
Vereist
|
De minimumwaarde in het bereik (inclusief). |
|
max_value
Vereist
|
De maximumwaarde in het bereik (inclusief). |
Retouren
| Type | Description |
|---|---|
|
De stochastische expressie. |