Utforska anslutningar och körtider
När du skapar en LLM-applikation (Large Language Model) med promptflöde behöver du först konfigurera eventuella nödvändiga anslutningar och körmiljöer.
Utforska anslutningar
När du vill att flödet ska ansluta till extern datakälla, tjänst eller API behöver du ditt flöde ha behörighet att kommunicera med den externa tjänsten. När du skapar en anslutning konfigurerar du en säker länk mellan promptflöde och externa tjänster, vilket säkerställer sömlös och säker datakommunikation.
Beroende på vilken typ av anslutning du skapar lagrar anslutningen på ett säkert sätt den slutpunkt, API-nyckel eller de autentiseringsuppgifter som krävs för att promptflödet ska kunna kommunicera med den externa tjänsten. Alla nödvändiga hemligheter exponeras inte för användare, utan lagras i stället i ett Azure Key Vault.
Genom att konfigurera anslutningar kan användarna enkelt återanvända externa tjänster som behövs för verktyg i sina flöden.
Vissa inbyggda verktyg kräver att du har konfigurerat en anslutning:
| Anslutningstyp | Inbyggda verktyg |
|---|---|
| Azure OpenAI | LLM eller Python |
| OpenAI | LLM eller Python |
| Azure AI-sökning | Vektor-DB-sökning eller Python |
| Serp | Serp-API eller Python |
| Skräddarsydd | python |
Prompt flow-anslutningar spelar avgörande roller i två scenarier. De automatiserar hanteringen av API-autentiseringsuppgifter, förenklar och skyddar hanteringen av känslig åtkomstinformation. Dessutom möjliggör de säker dataöverföring från olika källor, vilket är avgörande för att upprätthålla dataintegritet och sekretess i olika miljöer.
Utforska körtider
När du har skapat flödet och konfigurerat de anslutningar som dina verktyg använder vill du köra flödet. För att köra flödet behöver du beräkningskapacitet, som erbjuds via körmiljöer för promptflöde.
Runtimes (1) är en kombination av en beräkningsinstans (2) som tillhandahåller nödvändiga beräkningsresurser och en miljö (3) som anger nödvändiga paket och bibliotek som måste installeras innan flödet kan köras.
När du använder runtimes har du en kontrollerad miljö där flöden kan köras och verifieras, vilket säkerställer att allt fungerar som avsett i en stabil inställning. En standardmiljö är tillgänglig för snabb utveckling och testning. När du kräver att andra paket installeras kan du skapa en anpassad miljö.