Dela via

Vägledning för integrering och ansvarsfull användning med anpassad namngiven entitetsigenkänning

Viktigt!

Översättningar som inte är engelska tillhandahålls endast för enkelhetens skull. Se versionen EN-US av det här dokumentet för den slutgiltiga versionen.

Microsoft arbetar för att hjälpa kunder att på ett ansvarsfullt sätt utveckla och distribuera lösningar med hjälp av anpassad namngiven entitetsigenkänning. Vårt principiella tillvägagångssätt upprätthåller personlig handlingsfrihet och värdighet genom att beakta AI-systemets:

  • Rättvisa, tillförlitlighet och säkerhet.
  • Sekretess och säkerhet.
  • Delaktighet.
  • Genomskinlighet.
  • Mänsklig ansvarsskyldighet.

Dessa överväganden återspeglar vårt åtagande att utveckla ansvarsfull AI.

Allmänna riktlinjer för integrering och ansvarsfull användning

När du gör dig redo att integrera och på ett ansvarsfullt sätt använda AI-baserade produkter eller funktioner hjälper följande aktiviteter dig att konfigurera dig för framgång:

  • Förstå vad den kan göra: Utvärdera alla AI-systems potential fullt ut för att förstå dess funktioner och begränsningar. Förstå hur det kommer att fungera i ditt specifika scenario och kontext genom att noggrant testa det med verkliga förhållanden och data.

  • Respektera en individs rätt till integritet: Samla endast in data och information från individer för lagliga och berättigade ändamål. Använd endast data och information som du har medgivande att använda för detta ändamål.

  • Få juridisk granskning: Få lämplig juridisk rådgivning för att granska din lösning, särskilt om du kommer att använda den i känsliga eller högriskprogram. Förstå vilka begränsningar du kan behöva arbeta inom och ditt ansvar för att lösa eventuella problem som kan uppstå i framtiden.

  • Ha en människa involverad: Håll en människa involverad och inkludera mänsklig övervakning som ett konsekvent inslag att utforska. Det innebär att säkerställa ständig mänsklig tillsyn över den AI-drivna produkten eller funktionen och upprätthålla människans roll i beslutsfattandet. Se till att du kan få mänsklig inblandning i realtid i lösningen för att förhindra skada. På så sätt kan du hantera situationer där AI-modellen inte fungerar som förväntat.

  • Underhåll säkerhet: Se till att din lösning är säker och att den har tillräckliga kontroller för att bevara innehållets integritet och förhindra obehörig åtkomst.

  • Skapa förtroende med berörda intressenter: Förmedla förväntade fördelar och potentiella risker till berörda intressenter. Hjälp användarna att förstå varför data behövs och hur användningen av data kommer att leda till deras fördelar. Beskriva datahantering på ett begripligt sätt.

  • Skapa en feedbackloop för kunder: Ange en feedbackkanal som gör det möjligt för användare och individer att rapportera problem med tjänsten när den har distribuerats. Övervaka och förbättra den AI-baserade produkten eller funktionen kontinuerligt. Var redo att implementera feedback och förslag på förbättringar. Upprätta kanaler för att samla in frågor och frågor från berörda intressenter (personer som kan påverkas direkt eller indirekt av systemet, inklusive anställda, besökare och allmänheten). Överväg till exempel att använda:

    • Feedbackfunktioner som är inbyggda i appupplevelser.
    • En lätt att komma ihåg e-postadress för feedback.
    • Anonyma feedbacklådor placerade i halvprivata utrymmen.
    • Kunniga representanter i lobbyn.

  • Sök alltid användarbekräftelse för en åtgärd: Planera att låta användaren bekräfta en åtgärd innan åtgärden bearbetas av klientprogrammet. Detta hjälper dig att undvika felaktiga svar som kan komma från de anpassade NER-modellerna (entitetsigenkänning). Anta till exempel att din anpassade NER-modell är integrerad i ett system för godkännande av försäkringsanspråk för att extrahera användarfyllda data. Be användaren bekräfta att de extraherade entiteterna är rätt data som skickas av användaren. Bearbeta data först när du har fått den här bekräftelsen.

  • Planera alltid att ha en korrigeringssökväg för användaren: När en viss åtgärd har vidtagits av klientprogrammet visar du ett bekräftelsemeddelande till användaren om åtgärden som bearbetades. Planera att svaret för den anpassade NER-modellen kanske inte är korrekt och att användaren kan hamna i ett feltillstånd. I så fall bör du alltid ha en reservplan eller en korrigeringsväg som låter användaren lämna det läget.

    Om ditt anpassade NER-program till exempel är integrerat i ett system för godkännande av försäkringsanspråk visar du ett bekräftelsemeddelande med inskickade data från användaren. Bekräftelsemeddelandet bör innehålla en länk för att ta bort begäran eller uppdatera data.

Nästa steg