Moderering och tillsyn

Innehållsidentifiering

Så här använder vi teknik för att identifiera skadligt innehåll

Vi har en mångsidiga strategi för att skydda våra användare från skadligt innehåll och skadligt uppförande.

Vi distribuerar de hash-matchande teknikerna PhotoDNA och MD5 på bild- och videoinnehåll som delas genom Microsofts kundinriktade tjänster och på innehåll som laddas upp för visuella bildsökningar på internet för att identifiera och stoppa spridningen av kända illegala och skadliga bilder. En ”hash” omvandlar bilder till en serie siffror som enkelt kan jämföras, lagras och bearbetas. Dessa ”hash-värden” kan inte användas för att återskapa originalbilderna. Vi drar nytta av inskränkningarna som tillåts av EU-förordningen 2021/1232 i syfte att dra nytta av dessa hash-matchande tekniker i tjänster som styrs av EU-direktivet 2002/58/EC.

Vi använder även maskininlärningstekniker som textbaserade klassificerare, bildklassificerare och tekniker för att identifiera sexförbrytare för att upptäcka innehåll och uppförande som delas via Microsofts kundriktade tjänster och som kan vara olagliga eller bryta mot våra policyer. Vi använder även rapporter från användare, myndigheter och betrodda anmälare för att upptäcka potentiella överträdelser. Dessa tekniker är särskilt utformade för funktionerna och tjänsterna som de används i.

Vi hittar det

Vi har investerat i och utvecklat en egen ”klassificerarfunktion” för att proaktivt identifiera överträdelser i vissa kontexter. En ”klassificerare” används för att identifiera och märka skadliga egenskaper enligt en fördefinierad policy, till exempel hets mot folkgrupp. Vi har dessutom utvecklat sätt att identifiera innehåll i våra tjänster som sannolikt innehåller skadlig kod, till exempel virus.

Andra hittar det

Betrodda anmälare kan identifiera potentiellt illegalt eller skadligt innehåll, uppförande eller webbadresser å Microsofts vägnar, så att vi kan åtgärda dem. Betrodda anmälare är utvalda institutioner som antingen samarbetar med Microsoft enligt ett avtal eller för att det krävs enligt lag. Material som rapporteras av betrodda anmälare granskas och jämförs med våra villkor och policyer för att sedan åtgärdas, precis som med alla andra rapporter. Vi hanterar dem på samma sätt som vi gör när myndigheter eller polis rapporterar potentiella överträdelser.

Rapport om myndigheters begäran att ta bort innehåll

Du hittar det

Du kan berätta för oss om du har sett eller upplevt något på en Microsoft-tjänst som du tror kan bryta mot våra regler. Om du tillhandahåller detaljerad information om innehållet, uppförandet eller annat, inklusive var du hittade det (till exempel via en länk till innehållet eller en kopia av ett e-postmeddelande) kan du hjälpa våra granskare att utvärdera och utföra åtgärder mot innehållet förutsatt att de kan fastställa att det utgör en överträdelse mot våra villkor eller policyer. Du kan rapportera innehåll och andra användare direkt i de flesta av våra produkter och tjänster. Du kan även rapportera ärenden. Var dock försiktig så att du inte skickar olagligt material när du rapporterar. Använd länkar till innehållet som du rapporterar så att vi kan hitta och åtgärda det.

Granskning av innehåll

Mänskliga granskare tar hänsyn till bilder, videor, meddelanden och kontext.

Mer information om innehållsgranskning

Policyer

Microsofts policyer för innehåll och uppförande förklarar vad som inte är tillåtet på våra tjänster.

Mer information om policyer