ביום 22.11.2022, פרסם ה-Oversight Board, גוף הפיקוח של חברת Meta כי החליט להפוך החלטה של החברה להסיר מרשת Instagram סרטון מוזיקה, שדווח על ידי הרשויות בבריטניה כמעודד אלימות. במסגרת הצורך להבטיח הגנה ראויה על חופש הביטוי של משתמשים מפני צנזורה, ההחלטה התמקדה בצורך לתקן את ממשקי העבודה של Meta מול רשויות אכיפת חוק מדינתיות בבקשות להסרת תוכן אלים.
במהלך שנת 2022, החליטה הרשת החברתית Instagram להסיר סרטון מוזיקה, אשר נתפס לפי רשויות אכיפת החוק בבריטניה כמשתייך לסגנון מוזיקלי שמעודד וקורא לאלימות. השיר הספציפי במקרה זה, הזכיר מקרה רצח בו היו מעורבות שתי כנופיות, מה שגרם לחשש כי פרסום השיר עלול להוביל לאלימות נוספת. על רקע זה, רשויות האכיפה בבריטניה פנו לרשת החברתית וביקשו ממנה להסיר את התוכן המדובר מכיוון שהוא מפר את תנאי השימוש שלה בכך שהוא מעודד אלימות. הרשת החברתית נענתה לפנייה זו, הסירה את הפרסום המקורי, וכל פרסום נוסף של השיר.
גוף הפיקוח של Meta החליט לקבל את ערעור מפרסם התוכן על החלטת ההסרה, בטענה כי לא הוכח כי קיים חשש אמיתי כי התוכן מעודד ועלול להוביל לאלימות, ועל כן, הפגיעה בחופש הביטוי האומנותי אינה מוצדקת. בנוסף, סגנון מוזיקה זה נפוץ בעיקר באוכלוסיות של מיעוטים ולכן גוף הפיקוח קבע כי יש לשים תשומת לב מיוחדת לפגיעה בחופש הביטוי שלהם. גוף הפיקוח מתח בהחלטתו ביקורת רבה על מנגנון הדיווח הוולונטרי של רשויות האכיפה לרשתות חברתיות. בנוסף, נמתחה ביקורת על אופן הדיווח על תוכן אלים לכאורה.
קביעות לגבי מנגנון הדיווח הוולונטרי
גוף הפיקוח קבע כי מקרה זה מעורר חששות לגבי היחסים של חברת Meta עם גורמים מדינתיים, במיוחד כאשר בקשות ההסרה נוגעות להסרה של תוכן שהוא חוקי אך נוגד את תנאי השימוש של החברות. הגוף הכיר כי בעוד רשויות האכיפה יכולות לפעמים לספק הקשר ומומחיות, החברות אינן צריכות להסיר כל תוכן שהגורמים המדינתיים מעוניינים להסיר. על כן, גוף הפיקוח הבהיר בהחלטתו כי קיים צורך קריטי שהרשת החברתית תעריך את הבקשות הללו באופן עצמאי, במיוחד כאשר הן מתייחסות לביטוי אמנותי של בני מיעוט או קבוצות שוליים, שעבורם הסיכון להטיה תרבותית כלפי התוכן שלהם הינו הרבה יותר משמעותי.
עוד מציין גוף הפיקוח כי הערוצים שבאמצעותם פונות רשויות אכיפת החוק לרשתות החברתיות מוסתרים וכן כי הרשויות אינן מתבקשות לעמוד בקריטריונים מינימליים המצדיקים את בקשותיהן, באופן המוביל לחוסר עקביות בתוכן הבקשות. כמו כן, הנתונים שחברת Meta מפרסמת על בקשות ממשלתיות אינם שלמים: החברה מפרסמת נתונים רק אודות בקשות הסרה אשר נוגדות חוק מקומי ואינה מפרסמת נתונים אודות בקשות אשר הגיעו מרשויות אכיפה מדינתיות ועוסקות בתוכן המפר לכאורה את תנאי השירות של הפלטפורמות.
בעיה נוספת שמקרה זה מעלה הינה החשש כי משתמשים אינה מקבלים גישה לסעדים. כחלק מהמקרה הזה, חברת Meta חשפה כי כאשר החברה מקבלת החלטות תוכן "בהסלמה", משתמשים אינם זכאים לערער לגוף הפיקוח. החלטה המתקבלת "בהסלמה" מתקבלת על ידי צוותי המומחים הפנימיים של Meta. לפי Meta, כל ההחלטות לגבי בקשות של רשויות אכיפה מתקבלות "בהסלמה". כלומר, תוכן המוסר בעקבות בקשה של רשות אכיפה מדינתית מאבד גם חלק מזכויות הערעור שלו. עם זאת, יש לציין כי אחוז אפסי של מקרים מגיע לדיון אצל גוף הפיקוח ולכן לא מדובר בתובנה משמעותית מדי.
בעקבות ההחלטה גוף הפיקוח ממליץ לחברת Meta לאמץ את הצעדים הבאים:
- ליצור מנגנון קבוע לקבלת בקשות להסרת תוכן מגורמים מדינתיים. על מנגנון זה לכלול קריטריונים כמו כיצד מדיניות הופרה, ומה הן הראיות לכך.
- לפרסם נתונים על בקשות הסרה של גורמים מדינתיים בגין הפרות של תנאי השימוש.
- לסקור באופן קבוע את הנתונים הנוגעים לבקשות הסרות תוכן של גורמים מדינתיים כדי להעריך האם קיימות הטיות מערכתיות, וליצור מנגנון המטפל בכל הטיה שמזוהה.
- לספק למשתמשים את ההזדמנות לערער בפני גוף הפיקוח גם כאשר מתקבלות החלטות תוכן "בהסלמה".
קביעות לגבי הסרה של "תוכן אלים" בעקבות דיווח רשויות אכיפה
כחלק מההחלטה בערעור על הסרת התוכן, סיפק גוף הפיקוח גם המלצות ותובנות בעניין הסרת תכנים העלולים להביא לאלימות, כאשר המדיניות המוצהרת של Meta שואפת "למנוע פגיעה פוטנציאלית במצב לא מקוון" וקובעת כי יש להסיר תוכן אם הוא כולל שפה "מסיתה או מקלה על אלימות חמורה" ו-מהווה "סיכון ממשי לפגיעה פיזית או איומים ישירים על ביטחון הציבור".
לפי ממצאי גוף הפיקוח, Meta משתמשת בהנחיות פנימיות ולא פומביות לצורך הקביעה האם התוכן המדווח מהווה איום "מרומז", שאסור לפי כללי הקהילה בנושא אלימות והסתה, כך שקיים ספק האם היא מעריכה באופן עצמאי את מסוכנות התכנים המדווחים ודורשות ראיות מספקות מגופי האכיפה המדווחים.
למרות טענתה הכללית של Meta לפיה היא מבצעת "ניתוח איומים עצמאי", גוף הביקורת ציין כי חוסר השקיפות לגבי ההחלטות של Meta להסיר תוכן בעקבות פניה של גורמים מדינתיים מקשה להעריך האם הטעות של Meta במקרה הנוכחי משקפת אי הסכמה סבירה או מעידה על הטיה מערכתית אפשרית לטובת רשויות אכיפת החוק. בנוסף, גוף הפיקוח הצביע על הבעייתיות בכך שבמקרים של תוכן אלים, רשויות האכיפה הינן גם הגורם המדווח על התוכן לפלטפורמות וגם הגורם אשר מספק להן את המידע ה"הקשרי" אשר נועד לבדוק האם אכן יש חשש לאלימות.
משמעויות לישראל: פניות מחלקת הסייבר בפרקליטות המדינה לרשתות החברתיות
מנגנון הפנייה של גורמים מדינתיים לרשתות חברתיות לצורך הסרת תוכן חוקי אך שמפר את תנאי הקהילה שלהן נפוץ מאוד גם בישראל. יחידת הסייבר במשרד המשפטים מפנה בכל שנה לרשתות החברתיות השונות אלפי בקשות להסרת תכנים. באופן יחסי למקומות אחרים בעולם, מנגנון הפנייה של יחידת הסייבר יחסית ידוע, מכיוון שהיחידה מפרסמת נתונים חלקיים אודותיו, כל שנה בדו"ח סיכום השנה של פרקליטות המדינה (לסקירה מלאה של הנתונים). עם זאת, החלטה זו של גוף הפיקוח יכולה להשפיע משמעותית גם על מנגנון זה. פרסום נתונים אודות הפנייה של גורמים מדינתיים על ידי החברה עצמה יכולה לספק מידע רב וברור יותר אודות המנגנון מזה שמספקת יחידת הסייבר. כמו כן, הקשחת הקריטריונים עבורם רשאים הגורמים המדינתיים לפנות לחברות תקטין את מספר הסרות התוכן הלא מוצדקות. בנוסף, ייתכן כי ניתוח של בקשות ההסרה של יחידת הסייבר יחשפו שהן מוכוונות בעיקר לתוכן של אוכלוסייה ספציפית מה שיעלה חשש להטיה וידרוש מחברת Meta להתמודד עם סוגיה זו בהתאם.
בעניין הדיווח על תוכן אלים, המצב בישראל עלול להיות מושפע מאוד מהחלטה זו. רובן המוחלט של בקשות הסרת התוכן אשר מוגשות על ידי יחידת הסייבר לפלטפורמות של חברת Meta עוסקות בתוכן הכולל אלימות או טרור. במקרים אלה, החברה נשענת על המקצועיות של רשויות האכיפה בכדי לוודא שהתוכן אכן דורש הסרה. במידה והחלטת גוף הפיקוח תאומץ על ידי החברה, אחוז ההיענות של הפלטפורמות להסרה של תוכן "אלים" עלול לרדת באופן משמעותי.
