בדיקת תוכן

כשאנחנו מקבלים דיווח על הפרה פוטנציאלית של תוכן או התנהגות בשירותים שלנו, בודק אנושי שהוכשר במיוחד עשוי לבדוק את התוכן ואת ההתנהגות. בודקים אנושיים בוחנים את התמונות, סרטוני הווידאו, ההודעות וההקשר כדי לבדוק אם התוכן או ההתנהגות שזוהו מפירים את התנאים שלנו, כולל המדיניות, קוד ההתנהגות וכן התנאים הספציפיים לשירות. כאשר תוכן או התנהגות מפירים את המדיניות שלנו, ייתכן שהבודקים האנושיים יזדקקו למידע נוסף. הם עשויים לפנות למדווח כדי לשאול שאלות, או לבקש סיוע ממומחים בתחום.

ייתכן שנסתמך על טכנולוגיה אוטומטית כדי לזהות ולסווג הפרות ללא בדיקה אנושית.

הדוגמאות כוללות הפרות כמו:

• חסימת מילים ידועות שמבטאות שנאה ב-gamertag.
• זיהוי תוכנות זדוניות, וירוסים, ספאם ודיוג.
• חסימת תמונות שקשורות לטרור כשהן תואמות לתמונות שזוהו בעבר כתוכן שקשור לטרור.