Dela via

Skapa gen-AI-appar på Azure Databricks

Den här sidan är en översikt över de verktyg som är tillgängliga för att utveckla generativa AI-appar i Azure Databricks, inklusive att skapa, distribuera och hantera generativa AI-appar.

Tjäna och ställa frågor till generativa AI-modeller

Hantera en kuraterad uppsättning gen-AI-modeller från LLM-leverantörer som OpenAI och Anthropic och gör dem tillgängliga via säkra, skalbara API:er.

Feature Description
Grundmodeller Hantera ai-modeller med öppen källkod och tredjepartsmodeller som Meta Llama, Anthropic Claude, OpenAI GPT med mera.

Skapa AI-agenter i företagsklass

Skapa och distribuera dina egna agenter, inklusive verktygsanropsagenter, generationsapplikationer med hämtningsförbättring och multisystem för agenter.

Feature Description
AI Playground (ingen kod) Prototyper och tester av AI-agenter i en miljö utan kod. Experimentera snabbt med agentbeteenden och verktygsintegreringar innan du genererar kod för distribution.
Mosaic AI Agent Framework Skapa, distribuera och utvärdera agenter i Python. Stöder agenter som skrivits med alla redigeringsbibliotek, inklusive LangChain, LangGraph och rena Python-kodagenter. Stöder Unity Catalog för styrning och MLflow för spårning.
Agent tegelstenar Skapa och optimera domänspecifika AI-agentsystem med ett enkelt gränssnitt. Fokusera på dina data och mått medan Agent Bricks effektiviserar implementeringen.

Utvärdera, felsöka och optimera agenter

Spåra agentprestanda, samla in feedback och förbättra kvaliteten med utvärderings- och spårningsverktyg.

Feature Description
Agentutvärdering Använd Agentutvärdering och MLflow för att mäta kvalitet, kostnad och svarstid. Samla in feedback från intressenter och ämnesexperter via inbyggda granskningsappar och använd LLM-domare för att identifiera och lösa kvalitetsproblem.
MLflow-spårning Använd MLflow Tracing för observabilitet från slutpunkt till slutpunkt. Logga varje steg som din agent tar, vilket gör det enkelt att felsöka, övervaka och granska agentbeteende i utveckling och produktion.

Produktifiera AI-agenter

Distribuera och hantera agenter i produktion med skalbara slutpunkter, observerbarhet och inbyggd styrning.

Task Description
Logga och registrera agenter Loggagentkod, konfiguration och artefakter i Unity Catalog för styrning och livscykelhantering.
Distribuera agenter Distribuera agenter som skalbara, hanterade slutpunkter.
Övervaka agenter Använd samma utvärderingskonfiguration (LLM-domare och anpassade mått) i offlineutvärdering och onlineövervakning.