@azure-rest/ai-inference package

Representationen av en enskild fråga slutförs som en del av en övergripande begäran om att chatten ska slutföras. I allmänhet genereras n alternativ per angivet meddelande med standardvärdet 1. Tokenbegränsningar och andra inställningar kan begränsa antalet val som genereras.

Ett verktygsval av ett specifikt, namngivet funktionsverktyg som begränsar chattens slutförande till att använda den namngivna funktionen.

Ett verktygsval av ett specifikt, namngivet funktionsverktyg som begränsar chattens slutförande till att använda den namngivna funktionen.

Representation av svarsdata från en begäran om att chatten ska slutföras. Slutföranden stöder en mängd olika uppgifter och genererar text som fortsätter från eller "slutför" angivna promptdata.

Ett svarsformat för chattavslutningar som begränsar svar till att generera giltiga JSON-objekt. Observera att för att aktivera JSON-läge kan vissa AI-modeller också kräva att du instruerar modellen att producera JSON via ett system- eller användarmeddelande.

Ett svarsformat för chattavslut som begränsar svar till att generera giltiga JSON-objekt, med ett JSON-schema som angetts av anroparen.

Definierar svarsformatet för chattavslut som JSON med ett visst schema. AI-modellen måste följa det här schemat när du genererar slutföranden.

Representerar det format som modellen måste mata ut. Använd detta för att aktivera JSON-läge i stället för standardtextläget. Observera att för att aktivera JSON-läge kan vissa AI-modeller också kräva att du instruerar modellen att producera JSON via ett system- eller användarmeddelande.

Ett svarsformat för chattavslutningar som genererar textsvar. Det här är standardsvarsformatet.

Ett funktionsverktygsanrop som begärts av AI-modellen.

Ett funktionsverktygsanrop som begärts av AI-modellen.

Definitionen av ett verktyg för chattavslut som kan anropa en funktion.

Ett strukturerat chattinnehållsobjekt för ljudinnehåll som skickas som base64-kodade data.

Ett strukturerat chattinnehållsobjekt för ljudinnehåll som skickas som en URL.

En abstrakt representation av ett strukturerat innehållsobjekt i ett chattmeddelande.

Ett strukturerat chattinnehållsobjekt som innehåller en bildreferens.

En internetplats från vilken modellen kan hämta en avbildning.

Information om indata från ljud.

Information om ljud-URL:en.

Ett strukturerat chattinnehållsobjekt som innehåller oformaterad text.

Ett chattmeddelande för begäran som representerar svar eller åtgärd från assistenten.

Ett begärandechattmeddelande som innehåller utvecklarinstruktioner som påverkar hur modellen genererar ett svar om chattens slutförande. Vissa AI-modeller stöder ett utvecklarmeddelande i stället för ett systemmeddelande.

En abstrakt representation av ett chattmeddelande enligt en begäran.

Ett chattmeddelande för begäran som innehåller systeminstruktioner som påverkar hur modellen genererar ett svar om chattens slutförande.

Ett chattmeddelande för begäran som representerar begärda utdata från ett konfigurerat verktyg.

Ett begärandechattmeddelande som representerar användarens indata till assistenten.

En representation av ett chattmeddelande som tas emot i ett svar.

Representation av antalet token som bearbetats för en slutförandebegäran. Antal överväger alla token i fråga, val, alternativ, best_of generationer och andra konsumenter.

Representation av en enda jämförelse av inbäddningsrelaterade inbäddningar.

Representation av svarsdata från en inbäddningsbegäran. Inbäddningar mäter relaterade textsträngar och används ofta för sökning, klustring, rekommendationer och andra liknande scenarier.

Mätning av mängden token som används i den här begäran och svaret.

Felobjektet.

Namnet och argumenten för en funktion som ska anropas, som genereras av modellen.

Namnet och argumenten för en funktion som ska anropas, som genereras av modellen.

Definitionen av en anropare-angiven funktion som chatten slutför kan anropa som svar på matchande användarindata.

Begäran har slutförts.

Begäran har slutförts.

Begäran har slutförts.

Begäran har slutförts.

Representerar en bild med valfri text.

Valfria parametrar för klienten

Representerar grundläggande information om AI-modellen.

Alias för AudioContentFormat

Representerar det format som modellen måste mata ut. Använd detta för att aktivera JSON-läge i stället för standardtextläget. Observera att för att aktivera JSON-läge kan vissa AI-modeller också kräva att du instruerar modellen att producera JSON via ett system- eller användarmeddelande.

Alias för ChatCompletionsToolChoicePreset

En abstrakt representation av ett strukturerat innehållsobjekt i ett chattmeddelande.

Alias för ChatMessageImageDetailLevel

En abstrakt representation av ett chattmeddelande enligt en begäran.

Alias för ChatRole

Alias för ChatRoleOutput

Alias för CompletionsFinishReasonOutput

Alias för EmbeddingEncodingFormat

Alias för EmbeddingInputType

Alias för ExtraParameters

Alias för ModelTypeOutput

Initiera en ny instans av ModelClient