Modération et application

Détection de contenu

Comment nous utilisons la technologie pour détecter les contenus préjudiciables

Nous utilisons une approche à plusieurs niveaux pour protéger nos utilisateurs contre les contenus et les comportements préjudiciables.

Nous déployons les technologies de hachage PhotoDNA et MD5 sur les contenus photo et vidéo partagés par l’intermédiaire des services grand public hébergés par Microsoft et sur les contenus téléchargés pour les recherches d’images visuelles sur Internet et ce, afin de détecter et de mettre fin à la diffusion de contenus d’images illégaux et préjudiciables connus. Un « hachage » transforme les images en une série de nombres qui peuvent être facilement comparés, stockés et traités. Ces « hachages » ne sont pas réversibles, ce qui signifie qu’ils ne peuvent pas être utilisés pour recréer les images d’origine. Nous nous appuyons sur la dérogation autorisée par le règlement de l’Union européenne (UE) 2021/1232 pour utiliser ces technologies de hachage dans les services régis par la directive 2002/58/CE de l’UE.

Nous utilisons également des technologies de Machine Learning telles que des classifieurs de texte et d’images, et des techniques de détection de « grooming » pour découvrir les contenus ou les comportements partagés par l’intermédiaire des services grand public hébergés par Microsoft susceptibles d’être illégaux ou d’enfreindre nos politiques. Enfin, nous nous appuyons sur les signalement des utilisateurs, des gouvernements et des signaleurs de confiance pour attirer notre attention sur d’éventuelles violations des politiques. Ces techniques sont adaptées aux fonctionnalités et services sur lesquels elles sont déployées.

Nous détectons

Nous avons investi et développé notre capacité de « classification » pour détecter de manière proactive les violations dans certains contextes. Un « classifieur » est utilisé pour reconnaître et étiqueter des caractéristiques préjudiciables sur la base d’une politique prédéfinie, comme les discours haineux. En outre, nous avons développé des moyens de détecter les contenus susceptibles d’être malveillants, tels que les virus, sur nos services.

D’autres détectent

Les signaleurs de confiance peuvent signaler à Microsoft des contenus, des comportements ou des URL potentiellement illégaux ou préjudiciables sur nos services afin de nous permettre de prendre des mesures. Les signaleurs de confiance sont des institutions désignées qui collaborent avec Microsoft, soit dans le cadre d’un accord, soit conformément à la loi. Les documents signalés par des signaleurs de confiance sont examinés au regard de nos conditions et politiques, comme tous les autres signalements, et des mesures sont prises en conséquence. Nous faisons de même si un gouvernement ou un organisme chargé de l’application de la loi signale une violation potentielle.

Rapport sur les demandes de suppression de contenu émanant du gouvernement

Vous détectez

Si vous avez vu ou expérimenté quelque chose sur un service Microsoft qui vous préoccupe, vous pouvez nous en faire part. La mise à disposition d’informations détaillées sur le contenu, le comportement ou tout autre élément, y compris l’endroit où le trouver (par exemple un lien vers le contenu ou une copie d’e-mail) aide nos réviseurs à évaluer et à prendre des mesures en cas de violation de nos conditions et politiques. La plupart des produits et services proposent des options permettant de signaler des contenus ou des comportements d’autres utilisateurs. Vous pouvez également signaler des problèmes. Ce faisant, veillez à ne pas envoyer de documents illégaux. Utilisez des liens vers le contenu que vous signalez afin de nous permettre de le trouver et de le traiter.

Révision de contenu

Les réviseurs humains prennent en compte les images, les vidéos, les messages et le contexte.

En savoir plus sur les révisions de contenu

Politiques

Les politiques de Microsoft en matière de contenu et de comportement expliquent ce qui n’est pas autorisé sur nos services.

En savoir plus sur les politiques