Generativa AI-lösningar för utvecklare

Generativ AI, som drivs av stora språkmodeller (LLM), ger nya möjligheter för utvecklare och organisationer. Tjänster som Azure OpenAI gör AI enkelt att använda med enkla API:er. Utvecklare på alla kunskapsnivåer kan lägga till avancerade AI-funktioner i sina appar utan att behöva särskild kunskap eller maskinvara.

Som utvecklare kanske du undrar vad din roll är och var du passar in. Du kanske vill veta vilken del av "AI-stacken" du ska fokusera på eller vad du kan skapa med dagens teknik.

För att besvara dessa frågor börjar du med att skapa en mental modell som kopplar nya termer och tekniker till det du redan vet. Den här metoden hjälper dig att utforma och lägga till generativa AI-funktioner i dina appar.

I den här serien visar vi hur dina nuvarande programvarukunskaper gäller för generativ AI. Vi introducerar även viktiga termer och begrepp som hjälper dig att börja skapa dina första generativa AI-lösningar.

Så här drar företag nytta av generativ AI

Om du vill se hur dina programvarukunskaper passar med generativ AI kan du först titta på hur företag använder den.

Företag använder generativ AI för att öka kundengagemanget, arbeta mer effektivt och lösa problem på kreativa sätt. Genom att lägga till generativ AI i befintliga system kan företag förbättra sin programvara. Den kan lägga till funktioner som anpassade rekommendationer eller smarta agenter som svarar på frågor om ett företag eller dess produkter.

Vanliga sätt som generativ AI hjälper företag:

• Innehållsgenerering:

  • Skapa text, kod, bilder och ljud för marknadsföring, försäljning, IT och intern kommunikation.

• Bearbetning av naturligt språk:

  • Skriva eller förbättra affärsmeddelanden.
  • Låt användarna chatta med sina data genom att ställa frågor baserat på företagsdokument.
  • Sammanfatta, organisera och förenkla stora mängder innehåll.
  • Använd semantisk sökning för att hitta information utan exakta nyckelord.
  • Översätt innehåll för att nå fler personer.

• Dataanalys:

  • Hitta trender i data och analysera marknader.
  • Modellera "tänk om"-scenarier för att planera för ändringar.
  • Granska koden för att föreslå förbättringar, åtgärda buggar och skapa dokumentation.

Som utvecklare kan du göra betydande förbättringar genom att lägga till generativa AI-funktioner i den programvara som din organisation använder.

Så här skapar du generativa AI-program

Även om LLM utför det tunga arbetet, bygger du system som integrerar, samordnar och övervakar resultaten. Det finns mycket att lära sig, men du kan använda de kunskaper du redan har, inklusive hur du:

• Anropa API:er med hjälp av REST, JSON eller språkspecifika programutvecklingspaket (SDK:er)
• Dirigera anrop till API:er och utföra affärslogik
• Lagra till och hämta från datalager
• Integrera indata och resultat i användarupplevelsen
• Skapa API:er som kan anropas från LLM:er

Att utveckla generativa AI-lösningar bygger på dina befintliga kunskaper.

Utvecklarverktyg och -tjänster

Microsoft skapar verktyg, tjänster, API:er, exempel och utbildningsresurser som hjälper dig att börja med generativ AI. Var och en omfattar en viktig del av skapandet av en generativ AI-lösning. Om du vill använda dessa resurser väl kontrollerar du att du:

• Känna till huvudfunktioner, roller och ansvarsområden för varje typ av generativ AI-funktion. I RAG-baserade chattsystem måste du till exempel förstå problemet och dess gränser innan du utformar en lösning.
• Lär dig mer om API:er, tjänster och verktyg för varje funktion eller roll. När du vet problemet kan du skapa det själv med kod, använda verktyg med låg kod/ingen kod eller anropa befintliga tjänster.
• Utforska dina alternativ, inklusive lösningar med kod, låg kod och ingen kod. Du kan skapa allt själv, men ibland är det snabbare och enklare att kombinera olika verktyg och metoder.

Det finns inget enda rätt sätt att lägga till generativa AI-funktioner i dina appar. Du kan välja mellan många verktyg och metoder. Väg alltid för- och nackdelarna med var och en.

Börja med programlagret

Du behöver inte veta allt om generativ AI för att komma igång. Du har förmodligen redan de färdigheter du behöver. Använd API:er och dina aktuella kunskaper för att börja.

Du behöver inte träna din egen LLM. Att utbilda en LLM tar för mycket tid och pengar för de flesta företag. Använd i stället befintliga förtränad modeller som GPT-4o genom att göra API-anrop till värdbaserade tjänster som Azure OpenAI API. Att lägga till generativa AI-funktioner i din app är precis som att lägga till andra funktioner som använder ett API.

Du kanske vill lära dig hur LLM:er tränas eller hur de fungerar. Men fullständig förståelse av LLM kräver djup kunskap om datavetenskap och matematik, ofta på forskarnivå.

Om du har en bakgrund inom datavetenskap vet du att de flesta apputvecklingar sker på ett högre lager i teknikstacken. Du kanske vet lite om varje lager, men du fokuserar förmodligen på apputveckling med hjälp av ett specifikt språk, plattform, API:er och verktyg.

Samma idé gäller för AI. Du kan lära dig teorin bakom LLM:er, men du bör fokusera på att skapa appar eller skapa mönster och processer för generativ AI i ditt företag.

Här är en enkel vy över de kunskapslager som behövs för att lägga till generativa AI-funktioner i en app:

På den lägsta nivån forskar dataexperter för att förbättra AI med avancerad matematik som statistik och sannolikhet.

Ett lager uppåt, dataexperter använder teori för att bygga LLM:er. De skapar neurala nätverk och tränar dem att acceptera uppmaningar och generera resultat (slutföranden). Processen för att generera resultat från prompter kallas slutsatsdragning. Dataexperter bestämmer hur det neurala nätverket förutsäger nästa ord eller pixel.

Eftersom tränings- och körningsmodeller tar betydande databehandlingskraft tränas och hanteras de flesta modeller i stora datacenter. Du kan träna eller vara värd för en modell på din egen dator, men den är långsam. Dedikerade GPU:er gör den här träningen snabbare och effektivare.

När modeller körs i datacenter kommer du åt dem via REST-API:er. SDK:er omsluter ofta dessa API:er för att göra dem enklare för utvecklare. Andra verktyg hjälper till med övervakning och andra uppgifter.

Apputvecklare använder dessa API:er för att skapa affärsfunktioner.

Förutom att anropa modeller hjälper nya mönster och processer organisationer att skapa tillförlitliga generativa AI-funktioner. Vissa mönster hjälper till exempel till att se till att genererat innehåll uppfyller etiska, säkerhets- och sekretessstandarder.

Om du är apputvecklare kan du överväga att fokusera på de här avsnitten i appskiktet:

• API:er och SDK:er: Lär dig vad som är tillgängligt och vad varje slutpunkt gör.
• Verktyg och tjänster: Lär dig hur du skapar de funktioner som behövs för en produktionsklar generativ AI-lösning.
• Fråga efter teknik: Lär dig hur du får bästa resultat genom att ställa eller omformulera frågor.
• Flaskhalsar och skalning: Ta reda på var avmattningar inträffar och hur du skalar. Lär dig hur du loggar och hämtar programdata utan att bryta mot sekretessen.
• LLM-egenskaper: Känna till styrkor, användningsfall, riktmärken och skillnader mellan modeller och leverantörer. Den här kunskapen hjälper dig att välja rätt modell för dina behov.
• Mönster och arbetsflöden: Håll dig uppdaterad om de senaste sätten att skapa effektiva och tillförlitliga generativa AI-funktioner i dina appar.

Verktyg och tjänster från Microsoft

Du kan använda generativa AI-verktyg och tjänster med låg kod och ingen kod från Microsoft för att hjälpa dig att skapa en eller flera av dina lösningar. Olika Azure-tjänster kan spela viktiga roller. Var och en bidrar till lösningens effektivitet, skalbarhet och robusthet.

API och SDK:er för en kodcentrerad metod

Varje generativ AI-lösning använder en LLM. Azure OpenAI ger dig alla funktioner i modeller som GPT-4.

Körningsmiljöer

Du behöver en tjänst för att köra din affärslogik, presentationslogik eller API:er för generativ AI i dina appar.

Lösningar med låg kod och ingen kod

En del av den logik som du behöver för att implementera din generativa AI-vision kan skapas snabbt och hanteras på ett tillförlitligt sätt med hjälp av en lösning med låg kod eller ingen kod.

Vägledning om hur du skapar lågkodslösningar finns i Programutveckling med låg kod i Azure.

Vektordatabas

Vissa generativa AI-lösningar måste lagra och hämta data för att förbättra resultaten. Med ett RAG-baserat chattsystem kan användarna till exempel chatta med företagets data. I det här fallet behöver du en vektordatabas.

Var och en av dessa Azure-tjänster hjälper dig att skapa en skalbar och effektiv generativ AI-lösning. De låter dig använda det bästa av Azures moln- och AI-funktioner. Mer information finns i Välja en vektordatabas.

Kodcentrerad generativ AI-utveckling med hjälp av Azure OpenAI API

Det här avsnittet beskriver Azure OpenAI-API:et. Du använder ett REST-API för att komma åt LLM-funktioner. Du kan anropa dessa API:er från valfritt modernt programmeringsspråk. Många språk har SDK:er som gör det enklare att anropa API:et.

Här är listan över Azure OpenAI REST API-omslutningar:

• Azure OpenAI-klientbibliotek för .NET
• Azure OpenAI-klientbibliotek för Java
• Azure OpenAI-klientbibliotek för JavaScript
• Azure OpenAI-klientmodul för Go
• Använd OpenAI Python-paketet och ändra flera alternativ. Python erbjuder inte något Azure-specifikt klientbibliotek.

Om det inte finns något SDK för ditt språk eller din plattform gör du REST-anrop direkt till webb-API:erna:

• Azure OpenAI i Foundry Models REST API

De flesta utvecklare vet hur de anropar webb-API:er.

Azure OpenAI har flera API:er för olika AI-uppgifter. Här är en översikt över de viktigaste API:erna:

• API för slutförande av chatt: Generera text, chatt och svar på frågor. Använd den för chattrobotar, virtuella assistenter, sammanfattning, skrivning och översättning. Det stöder också visionsfunktioner (som att ladda upp en bild och ställa frågor).
• API för innehållsmoderering: Hitta och filtrera skadligt eller osäkert innehåll i text. Använd den för att skydda användarinteraktioner.
• API för inbäddning: Omvandla text till vektorer för sökning, klustring och sökning efter liknande innehåll. Använd den för att avbilda innebörden och relationerna i text.
• API för bildgenerering: Skapa bilder och konst från textprompter. Baserat på DALL· E-modell.
• REST API för tal till text: Konvertera tal till text eller text till tal på många språk. Använd den för röstkommandon och ljudavskrift.

Den här artikeln fokuserar på textbaserad generativ AI, till exempel chatt och sammanfattning, men du kan använda dessa API:er för många typer av media.

Kom igång med att utveckla med generativ AI

När du lär dig ett nytt språk, API eller teknik börjar du med självstudier eller utbildning som visar hur du skapar små appar. Vissa utvecklare föredrar att lära sig genom att skapa egna små projekt. Båda sätten fungerar bra.

Börja små, ange enkla mål och skapa dina kunskaper steg för steg. Generativ AI-utveckling skiljer sig från traditionell programvara. I vanlig programvara får du samma utdata för samma indata varje gång. Med generativ AI får du olika svar för samma fråga, vilket medför nya utmaningar.

När du börjar bör du ha dessa tips i åtanke.

Tips 1: Var tydlig med ditt mål

• Definiera det problem som du vill lösa. Generativ AI kan göra många saker, men du får bättre resultat om du vet exakt vad du vill ha, till exempel att generera text, bilder eller kod.
• Känn din publik. Skräddarsy AI:ns utdata så att de matchar vem som använder det, oavsett om de är tillfälliga användare eller experter.

Tips 2: Använd LLM-styrkor

• Känna till gränserna och fördomarna för LLM:er. De är kraftfulla men inte perfekta. Planera för deras svagheter.
• Använd LLM:er för det de gör bäst, som att skapa innehåll, sammanfatta eller översätta. Ibland kan en annan typ av AI vara bättre för dina behov.

Tips 3: Skriv bra frågor

• Lär dig om snabbteknik. Prova olika frågor för att se vad som fungerar bäst. Var tydlig och specifik.
• Förfina dina frågor. Den första iterationen kanske inte fungerar. Använd resultaten för att förbättra nästa fråga.

Skapa din första generativa AI-lösning

Om du vill prova att skapa en generativ AI-lösning börjar du med Kom igång med chatt med hjälp av ditt eget dataexempel för Python. Du hittar även självstudier för .NET, Java och JavaScript.

Slutliga överväganden för programdesign

Här är en kort lista över saker att tänka på och andra lärdomar från den här artikeln som kan påverka dina beslut om programdesign:

• Definiera problemutrymmet och målgruppen tydligt för att anpassa AI:s funktioner till användarnas förväntningar. Optimera lösningens effektivitet för det avsedda användningsfallet.
• Använd plattformar med låg kod/ingen kod för snabba prototyper och utveckling om de uppfyller projektets krav. Utvärdera kompromissen mellan utvecklingshastighet och anpassningsbarhet. Prova verktyg med låg kod och kodfria verktyg för delar av din app för att påskynda utvecklingen och låta icke-tekniska teammedlemmar hjälpa till.