Använda Azure OpenAI i Fabric med Python SDK och Synapse ML (förhandsversion)

OpenAI Python SDK är inte installerat i standardkörningen. Du måste först installera det.

%pip install openai==0.28.1

OpenAI Python SDK är inte installerat i standardkörningen. Du måste först installera det. Ändra miljön till Runtime version 1.3 eller senare.

%pip install -U openai

import synapse.ml.core
from synapse.ml.services.openai import *

Skapa en ny cell i din Fabric-anteckningsbok för att använda den här koden, separat från cellen som beskrivs i föregående steg för att installera openai-biblioteken. GPT-4o och GPT-4o-mini är språkmodeller som är optimerade för konversationsgränssnitt. Exemplet som presenteras här visar enkla chattåtgärder och är inte avsett att fungera som en självstudie.

import openai

response = openai.ChatCompletion.create(
    deployment_id='gpt-4o', # deployment_id could be one of {gpt-4o or gpt-4o-mini}
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Knock knock."},
        {"role": "assistant", "content": "Who's there?"},
        {"role": "user", "content": "Orange."},
    ],
    temperature=0,
)

print(f"{response.choices[0].message.role}: {response.choices[0].message.content}")

Utgång

    assistant: Orange who?

Vi kan också strömma svaret

response = openai.ChatCompletion.create(
    deployment_id='gpt-4o', # deployment_id could be one of {gpt-4o or gpt-4o-mini}
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Knock knock."},
        {"role": "assistant", "content": "Who's there?"},
        {"role": "user", "content": "Orange."},
    ],
    temperature=0,
    stream=True
)

for chunk in response:
    delta = chunk.choices[0].delta

    if "role" in delta.keys():
        print(delta.role + ": ", end="", flush=True)
    if "content" in delta.keys():
        print(delta.content, end="", flush=True)

Utgång

    assistant: Orange who?

Skapa en ny cell i din Fabric-anteckningsbok för att använda den här koden, separat från cellen som beskrivs i föregående steg för att installera openai-biblioteken. GPT-4o och GPT-4o-mini är språkmodeller som är optimerade för konversationsgränssnitt. Exemplet som presenteras här visar enkla chattåtgärder och är inte avsett att fungera som en självstudie.

import openai
import os

os.environ["OPENAI_API_VERSION"] = "2023-05-15"

response = openai.chat.completions.create(
    model='gpt-4o', # model could be one of {gpt-4o or gpt-4o-mini}
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Knock knock."},
        {"role": "assistant", "content": "Who's there?"},
        {"role": "user", "content": "Orange."},
    ],
    temperature=0,
)

print(f"{response.choices[0].message.role}: {response.choices[0].message.content}")

Utgång

    assistant: Orange who?

Skapa en ny cell i din Fabric-anteckningsbok för att använda den här koden, separat från cellen som beskrivs i föregående steg för att installera openai-biblioteken. GPT-4o- och GPT-4o-mini-modeller är språkmodeller som är optimerade för konversationsgränssnitt.

deployment_name kan vara något av följande:

• gpt-4o
• gpt-4o-mini

from synapse.ml.services.openai import OpenAIChatCompletion
from pyspark.sql import Row
from pyspark.sql.types import *


def make_message(role, content):
    return Row(role=role, content=content, name=role)


chat_df = spark.createDataFrame(
    [
        (
            [
                make_message(
                    "system", "You are an AI chatbot with red as your favorite color"
                ),
                make_message("user", "Whats your favorite color"),
            ],
        ),
        (
            [
                make_message("system", "You are very excited"),
                make_message("user", "How are you today"),
            ],
        ),
    ]
).toDF("messages")


chat_completion = (
    OpenAIChatCompletion()
    .setDeploymentName("gpt-4o") # deploymentName could be one of {gpt-4o or gpt-4o-mini}
    .setMessagesCol("messages")
    .setErrorCol("error")
    .setOutputCol("chat_completions")
)

display(
    chat_completion.transform(chat_df).select(
        "messages", "chat_completions.choices.message.content"
    )
)

Skapa en ny cell i din Fabric-anteckningsbok för att använda den här koden, separat från cellen som beskrivs i föregående steg för att installera openai-biblioteken. En inbäddning är ett särskilt datarepresentationsformat som maskininlärningsmodeller och algoritmer enkelt kan använda. Den innehåller informationsrik semantisk betydelse för en text som representeras av en vektor med flyttalsnummer. Avståndet mellan två inbäddningar i vektorutrymmet är relaterat till den semantiska likheten mellan två ursprungliga indata. Om två texter till exempel är liknande bör deras vektorrepresentationer också vara liknande.

Exemplet som visas här visar hur du hämtar inbäddningar och inte är avsett som en självstudie.

deployment_id = "text-embedding-ada-002" # set deployment_name as text-embedding-ada-002
embeddings = openai.Embedding.create(deployment_id=deployment_id,
                                     input="The food was delicious and the waiter...")
                                
print(embeddings)

Utgång

    {
      "object": "list",
      "data": [
        {
          "object": "embedding",
          "index": 0,
          "embedding": [
            0.002306425478309393,
            -0.009327292442321777,
            0.015797346830368042,
            ...
            0.014552861452102661,
            0.010463837534189224,
            -0.015327490866184235,
            -0.01937841810286045,
            -0.0028842221945524216
          ]
        }
      ],
      "model": "ada",
      "usage": {
        "prompt_tokens": 8,
        "total_tokens": 8
      }
    }

Skapa en ny cell i din Fabric-anteckningsbok för att använda den här koden, separat från cellen som beskrivs i föregående steg för att installera openai-biblioteken. En inbäddning är ett särskilt datarepresentationsformat som maskininlärningsmodeller och algoritmer enkelt kan använda. Den innehåller informationsrik semantisk betydelse för en text som representeras av en vektor med flyttalsnummer. Avståndet mellan två inbäddningar i vektorutrymmet är relaterat till den semantiska likheten mellan två ursprungliga indata. Om två texter till exempel är liknande bör deras vektorrepresentationer också vara liknande.

Exemplet som visas här visar hur du hämtar inbäddningar och inte är avsett som en självstudie.

response = openai.embeddings.create(
         input="The food was delicious and the waiter...",
         model="text-embedding-ada-002"  # Or another embedding model
     )

print(response)

Utgång

    CreateEmbeddingResponse(
        data=[
            Embedding(
                embedding=[
                    0.0022756962571293116,
                    -0.009305915795266628,
                    0.01574261300265789,
                    ...
                    -0.015387134626507759,
                    -0.019424352794885635,
                    -0.0028009789530187845
                ],
                index=0,
                object='embedding'
        )
        ],
        model='text-embedding-ada-002',
        object='list',
        usage=Usage(
            prompt_tokens=8,
            total_tokens=8
        )
    )

En inbäddning är ett särskilt format för datarepresentation av maskininlärningsmodeller och algoritmer. Inbäddningen är en informationstät representation av den semantiska innebörden av ett stycke text. Varje inbäddning är en vektor med flyttalsnummer, så att avståndet mellan två inbäddningar i vektorutrymmet korreleras med semantisk likhet mellan två indata i det ursprungliga formatet. Om två texter till exempel är liknande bör deras vektorrepresentationer också vara liknande.

deployment_name kan vara text-embedding-ada-002.

df = spark.createDataFrame(
    [
        ("Once upon a time",),
        ("Best programming language award goes to",),
        ("SynapseML is ",)
    ]
).toDF("text")

embedding = (
    OpenAIEmbedding()
    .setDeploymentName("text-embedding-ada-002") # set deployment_name as text-embedding-ada-002
    .setTextCol("text")
    .setOutputCol("out")
)
display(embedding.transform(df))