Vägledning för integrering och ansvarsfull användning med anpassad textklassificering

Microsoft arbetar för att hjälpa kunder att på ett ansvarsfullt sätt utveckla och distribuera lösningar med hjälp av anpassad textklassificering. Vårt principiella tillvägagångssätt upprätthåller personlig handlingsfrihet och värdighet genom att beakta AI-systemets:

• Rättvisa, tillförlitlighet och säkerhet.
• Sekretess och säkerhet.
• Delaktighet.
• Genomskinlighet.
• Mänsklig ansvarsskyldighet.

Dessa överväganden återspeglar vårt åtagande att utveckla ansvarsfull AI.

Allmänna riktlinjer för integrering och ansvarsfulla användningsprinciper

När du gör dig redo att integrera och på ett ansvarsfullt sätt använda AI-baserade produkter eller funktioner hjälper följande aktiviteter dig att konfigurera dig för framgång:

• Förstå vad det kan göra. Utvärdera alla AI-systems potential fullt ut för att förstå dess funktioner och begränsningar. Förstå hur det kommer att fungera i ditt specifika scenario och kontext genom att noggrant testa det med verkliga förhållanden och data.

• Respektera en individs rätt till privatliv. Samla endast in data och information från individer för lagliga och berättigade ändamål. Använd endast data och information som du har medgivande att använda för detta ändamål.

• Få juridisk granskning. Få lämplig juridisk rådgivning för att granska din lösning, särskilt om du använder den i känsliga program eller högriskprogram. Förstå vilka begränsningar du kan behöva arbeta inom och ditt ansvar för att lösa eventuella problem som kan uppstå i framtiden.

• Ha en människa med i processen. Involvera en människa i processen och inkludera mänsklig tillsyn som ett konstant område att utforska. Säkerställ ständig mänsklig tillsyn över den AI-baserade produkten eller funktionen. Behåll människans roll i beslutsfattandet. Se till att du kan vidta mänskliga åtgärder i realtid i lösningen för att förhindra skador och hantera situationer när AI-systemet inte presterar som förväntat.

• Upprätthålla säkerheten. Se till att din lösning är säker och har tillräckliga kontroller för att bevara innehållets integritet och förhindra obehörig åtkomst.

• Skapa förtroende med berörda intressenter. Förmedla förväntade fördelar och potentiella risker till berörda intressenter. Hjälp användarna att förstå varför data behövs och hur användningen av data kommer att leda till deras fördelar. Beskriva datahantering på ett begripligt sätt.

• Skapa en feedbackloop för kunder. Ange en feedbackkanal som gör det möjligt för användare och individer att rapportera problem med tjänsten när den har distribuerats. När du har distribuerat en AI-baserad produkt eller funktion kräver den kontinuerlig övervakning och förbättring. Var redo att implementera feedback och förslag på förbättringar. Upprätta kanaler för att samla in frågor och problem från berörda intressenter. Personer som kan påverkas direkt eller indirekt av systemet är anställda, besökare och allmänheten. Överväg till exempel att använda:

  • Feedbackfunktioner som är inbyggda i appupplevelser.
  • En lätt att komma ihåg e-postadress för feedback.
  • Anonyma feedbacklådor placerade i halvprivata utrymmen.
  • Kunniga representanter i lobbyn.

• Planera alltid att användaren ska bekräfta en åtgärd innan den bearbetas. Planera att låta användaren bekräfta en åtgärd innan den bearbetas av klientprogrammet för att undvika felaktiga svar som kan komma från de anpassade textklassificeringsmodellerna. Anta till exempel att din anpassade textklassificeringsmodell är integrerad i ett system för godkännande av försäkringsanspråk för att klassificera icke-avvikande och brådskande fall. Låt någon på din sida bekräfta modellens förutsägelse innan du bearbetar den.

• Planera alltid att ha en korrigeringssökväg för användaren. När en viss åtgärd har vidtagits av klientprogrammet visar du ett bekräftelsemeddelande till användaren om åtgärden som bearbetades. Planera att svaret från den anpassade textklassificeringsmodellen kanske inte är korrekt och att användaren kan hamna i ett feltillstånd. I det fallet, ha alltid en reservplan eller en korrigeringsväg som användaren kan använda för att komma ur det tillståndet.

Nästa steg

• Introduktion till anpassad textklassificering
• Transparensanteckning för anpassad textklassificering
• Microsoft AI-principer