ניתוח מבוסס-ראיות של סיכוני המרחב המקוון עבור ילדים

סקירה זו משרטטת את מתווה הנוף של הסיכונים האורבים לילדים באינטרנט בבריטניה. ה-NSPCC יזמה את המחקר על מנת להבין מה ידוע על הסיכונים והנזקים שילדים מתמודדים איתם באינטרנט, וכל ראיה חדשה שנמצאה מאז 2017, כאשר המועצה הבריטית לבטיחות באינטרנט לילדים (UKCCIS) פרסמה מחקר בתחום זה.[1]

הסקירה מציגה את נוף הסיכונים המקוון בתקופה שקדמה לחקיקת חוק הבטיחות באינטרנט (Online Safety Act; ניתן לגשת לסקירה של חקיקה זו כאן) ב-2023. היא לוכדת את הסיכונים השונים העומדים בפני ילדים בסביבה מקוונת שבמידה רבה אינה מאוסדרת, לפני שספקי שירותים מקוונים "משתמש למשתמש" נדרשו מבחינה חוקית לקחת אחריות על בטיחות המשתמשים שלהם. הסקירה התפרסמה בתזמון זה, שמיועד להציב בסיס שממנו ניתן לאמוד את השינוי הבא.

נושאי המחקר

בעבודת המחקר, המדיניות וההשפעה של NSPCC ההתעללות המינית בילדים מהווה מוקד עניין מרכזי. מסיבה זו, סקירת הממצאים מתמקדת בחשיפה של ילדים לסיכון ופגיעה מינית באינטרנט.

בנוסף, בוצעה סקירה קלה של שני נושאים קשורים:

1. חשיפה של ילדים לקטגוריות אחרות של סיכונים מקוונים המסווגים בחוק הבטיחות באינטרנט כתוכן "בעדיפות ראשונה" (‘primary priority’ content) למשל, פורנוגרפיה מקוונת, תוכן המעודד התאבדות, פגיעה עצמית והפרעות אכילה, ותוכן "בעדיפות" (‘priority’ content) כגון בריונות ברשת ופשעי שנאה.

סקירה זו עוזרת למקם את הסיכונים המיניים באינטרנט בפרספקטיבה ובהקשר הרחב יותר שלהם, ומאפשרת השוואה של קנה המידה היחסי שלהם והנזק שאלה יכולים לגרום.

2. עיצוב טכנולוגי, תכונות וכלים שיכולים להגדיל או להקטין את החשיפה של ילדים לסיכון. תיאור התפקיד שהטכנולוגיה יכולה למלא בשינוי רמות הסיכון מראה כי הסיכון אינו תוצאה בלתי נמנעת של הימצאות מקוונת: הוא מושפע גם מהבחירות שחברות טכנולוגיה עושות בעיצוב הפלטפורמות שלהן וביישום כלי בטיחות.

הסקירה מתמקדת בקָרְבָּנוּת (victimisation) ואינה מתייחסת לספרות הרחבה יותר על פגיעה, מניעה וטיפול.

מתודולוגיה

סיכונים מיניים לילדים באינטרנט נבדקו באמצעות מתודולוגיה של הערכת ראיות מהירה (REA- Rapid Evidence Assessment), אסטרטגיית חיפוש שיטתית ומובנית שימשה לזיהוי ספרות אקדמית שפורסמה מאז 2017 על ארבע קטגוריות של קָרְבָּנוּת מינית. הסקירה כללה מחקרים בבריטניה ומחקרים ממדינות אחרות שבחנו דוגמאות מבריטניה ובכך הם הוסיפו להבנת הקָרְבָּנוּת בתוך בריטניה. כמו כן נערך חיפוש ב'ספרות אפורה' כדי לזהות דיווחים רלוונטיים של בעלי עניין אחרים שפורסמו באותה תקופה.

נערכה סקירה קלה של סיכונים אחרים באינטרנט (המסווגים כתוכן "עדיפות ראשונית" ו"עדיפות" בחוק הבטיחות באינטרנט), ושל כלים טכניים שיכולים להפחית או להגדיל את החשיפה לסיכון ולנזק. זה כלל בעיקר 'סקירת ביקורות' (REAs, ביקורות ספרות). לכך נוספו חיפושים מוגבלים אחר פרסומים אקדמיים חדשים יותר בתחומים אלה, יחד עם בחינת מחקרים של Ofcom וארגונים הפועלים בתחום הבטיחות המקוונת והגנה על ילדים. לצורך הדו"ח וחיפושי הנתונים, ילדים סווגו כמי שטרם מלאו להם 18 שנים.

חשיפה של ילדים לסיכונים מיניים באינטרנט

אופיים של הסיכונים המיניים באינטרנט

בסקירה נטען כי יש ערך בהבחנה בין אינטראקציות מיניות מקוונות בהסכמה ושאינן בהסכמה ובין צורות שונות של התעללות על סמך גילם של המעורבים. הסיבה לכך היא שלהסכמה ולגילם היחסי של המשתתפים באינטראקציות יכולות להיות השלכות משפטיות שונות, הן עשויות להיחוות באופן שונה על ידי המשתתפים והן עשויות להוביל לתוצאות שונות. הסקירה מצאה שההבחנות הללו לא תמיד נעשות במחקר על סיכונים ונזקים מיניים באינטרנט.

הוצגו הגדרות עבודה לארבע קטגוריות של קָרְבָּנוּת פגיעה מינית מקוונת. לצורך סקירה זו, שניים הוגדרו אך ורק כהתעללות עמית לעמית; אחד אך ורק כהתעללות מבוגר בילד; והאחרון כתוצאה מפעולות של ילדים או מבוגרים:

• הטרדה מינית באינטרנט: התנהגות מינית לא רצויה ברשת של ילד כלפי ילד אחר.
• שימוש לרעה בתמונות אינטימיות: מצבים שבהם ילד מצלם או משתף תמונות מיניות של ילד אחר ללא הסכמת האדם המצולם.
• התעללות או פגיעה מינית בילדים בסיוע טכנולוגיה: מצבים שבהם מבוגר מנצל מינית ילד באינטרנט או משתמש בטכנולוגיה כדי לאפשר התעללות מינית בילד מחוץ למרחב המקוון.
• חומרים של התעללות או פגיעה מינית בילדים: תמונות או קטעי וידאו המציגים ילד העוסק (או מתואר כעוסק) בפעילות מינית.

קטגוריות אלה סיפקו מסגרת לארגון והצגה של ממצאים על סיכונים מיניים באינטרנט.

היקף הסיכונים המיניים באינטרנט

בבריטניה קיים מחסור כללי במחקר אקדמי הבוחן את השכיחות של סיכון מיני ופגיעה בילדים מאז פורסם דו"ח UKCCIS בשנת 2017. הממצאים, אם כן, נלקחו בעיקר מדוגמאות של ילדים שאינם בריטיים, וממחקרים מהספרות האפורה.

הממצאים מצביעים על כך שמיעוט גדול של ילדים – לפחות אחד מכל 20 ילדים, אך באופן פוטנציאלי עד רבע מהם – נתקלו בסיכונים מיניים כאשר הם היו ברשת. הסוגים הנפוצים ביותר של סיכון מיני היו הטרדה מינית מקוונת על ידי עמיתים (שכיחות של 8-26%) והתעללות או פגיעה מינית בילדים בסיוע טכנולוגי על ידי מבוגרים (5-25%).  שימוש לרעה בתמונות אינטימיות על ידי בני גילם הייתה נפוצה פחות (למשל, 5-11% שכיחות לקבלת תמונות מיניות לא רצויות). הכמות העצומה של חומרים של התעללות מינית בילדים הנמצאים בתפוצה -המוכחת באמצעות מגוון נתונים -מצביעה על כך שיש שישנם קורבנות רבים של שימוש מיני שלא זוהו.

לפי ה- NSPCC, לא ניתן לקבוע בוודאות אם חלה עלייה או ירידה בפגיעות בקָרְבָּנוּת מין באינטרנט בשנים מאז 2017. מקורות נתונים שונים מצביעים על מגמות עלייה לאורך זמן בשכיחות של התעללות או פגיעה מינית בילדים בסיוע טכנולוגיה ובדיווחים על חומרי התעללות מינית בילדים (כולל תמונות בגוף ראשון). מגמות אלה עשויות לנבוע ממגוון גורמים, כגון התפתחויות בכלי הסריקה והאיתור, ולא רק לשקף עלייה ברמות העבריינות והקָרְבָּנוּת.

פלטפורמות שבהן מתרחשים סיכונים מיניים באינטרנט

לפי ה- NSPCC, קשה לקבוע באילו פלטפורמות נוטה להתרחש חשיפה לסיכון ופגיעה מינית. זאת, בין היתר, משום שהנתונים הרלוונטיים מוחזקים בפלטפורמות וקשה להשיגם. בנוסף, מחקרי דיווח עצמי עם ילדים כמעט ולא אוספים מידע על המקומות שבהם נתקלים בסיכונים.

מעט הנתונים הקיימים מצביעים על כך שפלטפורמות מדיה חברתית פופולריות בקרב ילדים (למשל, סנאפצ'ט, אינסטגרם) הן המקומות השכיחים ביותר שבהם ילדים נחשפים להטרדות מיניות ברשת, שימוש לרעה של תמונות אינטימיות והתעללות או פגיעה מינית בילדים בסיוע טכנולוגי. ישנן גם ראיות לכך שגם הרשת הפתוחה וגם הרשת האפלה הם ערוצים חשובים להפצת חומרים של התעללות מינית בילדים, כאשר סטרימינג בשידור חי ותמונות מיניות המופקות בגוף ראשון מעורבות יותר ויותר בהפקת חומרים כאלה. עם זאת, לא קל להסיק אילו פלטפורמות מארחות באופן יחסי יותר חומרים של התעללות מינית בילדים. הסיבה לכך היא שחלק מהפלטפורמות עושות מאמצים פרואקטיביים לזהותם, בעוד אחרות (במיוחד אלה שמספקות הצפנה מקצה-לקצה) בוחרות שלא לעשות זאת, וכתוצאה מכך, מדווחות על פחות מקרים כאלה בפלטפורמה שלהן – מה שעלול להציג מצג שווא של כמות ההתעללות המינית שהן מארחות בפועל.

על כן, ה- NSPCC מציינת שחשוב לפתח ראיות חזקות על שכיחות החשיפה לסיכון ולנזק בפלטפורמות בודדות, שכן הן חסרות כיום. נדרשת גם הבנה אמפירית רבה יותר על סיכונים מיניים מקוונים בסביבות משחקים ושירותי מסרים ישירים, ועל האופן שבו תכונות העיצוב של פלטפורמות מקלות (או מונעות) התנהגויות הקשורות לארבעת הסוגים של קָרְבָּנוּת פגיעה מינית ברשת.

ילדים הם בעלי הסיכוי הגבוה ביותר להיחשף לסיכון ופגיעה מינית

לפי ה- NSPCC, מאז הסקירה האחרונה בשנת 2017 הייתה התקדמות מסוימת בראיות הבוחנות גורמים שמגבירים את פגיעותם של ילדים לסיכון ולפגיעה מינית ברשת. עם זאת,הראיות בבריטניה היו מוגבלות. מחקרים אחרונים מאשרים ממצאים קודמים המצביעים על כך שמינם וגילם של ילדים הם גורמים חשובים הקשורים לפגיעות.

בנות נתקלות בכל קטגוריה של סיכון מיני באינטרנט בתדירות גבוהה יותר מאשר בנים: יותר בנות מאשר בנים חווים הטרדה מינית מקוונת ורוב הסוגים של שימוש לרעה של תמונות אינטימית; הן חוות יותר התעללות או פגיעה מינית בסיוע טכנולוגיה על ידי מבוגרים;  ובנוסף, הן מופיעות יותר בחומרי התעללות מינית בילדים. יש גם ראיות לכך שלפגיעה באמצעות שימוש לרעה בתמונות אינטימיות יש ממדים מגדריים ויכולות להיות לה השפעות פסיכולוגיות וחברתיות חמורות יותר עבור בנות.

מתבגרים מבוגרים נוטים יותר מילדים צעירים לדווח על חוויות של הטרדה מינית באינטרנט, שימוש לרעה בתמונות אינטימיות והתעללות או פגיעה מינית בילדים בסיוע טכנולוגיה. מצד שני, אלו דווקא הילדים הצעירים יותר המופיעים בדרך כלל בחומרי התעללות מינית בילדים, דבר המרמז על כך שאמצעים כמו דוחות דיווח עצמי של קָרְבָּנוּת עלולים לא לתפוס את מידת והיקף הפגיעה בקָרְבָּנוּת של ילדים צעירים.

הסקירה מצאה כי קיימת פחות הבנה לגבי המידה שבה גורמים דמוגרפיים, פסיכולוגיים, חברתיים וסביבתיים אחרים (או הקשרים ההדדיים ביניהם) משפיעים על חשיפה לסיכון מיני באינטרנט, או על הסבירות שהסיכון יוביל לפגיעה. כמו כן, נדרשות ראיות נוספות לגבי האופן שבו גורמי פגיעות פועלים בתחומים מרובים של סיכון ונזק מקוונים (ולא מקוונים), המובילים לכך שאותו ילד הופך לקורבן בדרכים רבות ולהסלמה של הנזק לאורך זמן.

תגובות ילדים להיתקלותם בסיכונים מיניים באינטרנט

לפי ממצאי הסקירה, ילדים מגיבים לעתים קרובות לסיכון מיני מקוון על ידי מחיקת הודעות או תמונות, או על ידי שימוש בכלים טכניים כדי לחסום תקשורת לא רצויה. נראה כי דיווחים לפלטפורמות ובקשת עזרה ממבוגרים הם פחות נפוצים. מיעוט של ילדים מגיב במעורבות עם העבריין, אבל אחת התגובות הנפוצות ביותר היא לא לעשות כלום.  במקרים מסוימים, הסיבה לכך היא שילדים חושבים שלא ניתן לעשות דבר ורואים את הסיכונים האלה כחלק בלתי נמנע מלהיות ברשת. במקרה של התעללות או פגיעה מינית בילדים בסיוע טכנולוגיה, זה עלול לנבוע מכך שילדים לא יזהו מצב של התעללות או לא יבינו כי תמונות שלהם מצולמות ומשותפות.

לפי ה-NSPCC, ישנם חסמים שונים הגורמים לילדים לא לדווח על חוויות כאלה, כולל: דאגה לגבי הצעדים שיינקטו, או שיפוטים שייעשו לגביהם;  אשמה ובושה; והתחושה שלא יאמינו לדיווחים שלהם ולא יתייחסו אליהם ברצינות.

"לחצו עליי לשלוח תמונות וסרטונים מיניים של עצמי, והייתי תחת איומים אם לא אעשה זאת. הם היו ממשיכים להתנפל עליי עוד ועוד כשאמרתי לא, אבל המשיכו עם האיומים". ילדה בת 13 (פרויקט –  deSHAME 2017)

השלכות והשפעות על ילדים שנתקלים בסיכונים מיניים באינטרנט

הסקירה הצביעה על מחסור בראיות מבריטניה בנושא זה. מחקרים קיימים מרמזים שישנן השלכות רגשיות, פסיכולוגיות וחברתיות דומות הקשורות לקָרְבָּנוּת על פני ארבע הקטגוריות של סיכון ופגיעה מינית. לחוויות אלה יש השפעות שליליות ומשמעותית על בריאות נפשם של הילדים ועל מערכות היחסים החברתיות שלהם.

חשוב לציין כי הפגיעות הפסיכולוגיות של התעללות או פגיעה מינית בילדים בסיוע טכנולוגיה אינן שונות באופן משמעותי מאלה הקשורות להתעללות מינית בילדים. ההפקה הפוטנציאלית של חומרי התעללות מינית בילדים כתוצאה מהתעללות מקוונת, והאפשרות של פגיעה חוזרת באמצעות הפצה מתמשכת של תמונות באינטרנט, עלולות אף להחמיר את התוצאות השליליות הללו.

פערים נוספים בידע על סיכונים מיניים באינטרנט

בעוד שבסיס הראיות הנוכחי מספיק כדי להסיק מסקנות רחבות על נוף הסיכונים המיניים המקוונים לילדים כיום, ניתן לחזק אותו באמצעות מחקר חדש המספק בחינה מפורטת יותר (והבחנה בין) ארבעת סוגי ההתעללות המינית המקוונת.

כמו כן, יש צורך בעדויות נוספות כדי להבין כיצד ההתפתחויות הטכנולוגיות האחרונות שינו את אופיים של הסיכונים המיניים באינטרנט. יש לקחת בחשבון את הדברים הבאים: האופן שבו הזרמת מדיה בשידור חי משפיעה על האינטראקציות בין ילדים לבני גילם, ובין ילדים ומבוגרים; הדרכים שבהן בינה מלאכותית גנרטיבית וטכנולוגיות אחרות שניתן להשתמש בהן ליצירת דיפ-פייק, או תמונות התעללות סינתטיות ולא מצולמות של ילדים, יכולות להשפיע על הייצור וההפצה של תמונות התעללות מינית בילדים; וכן הדרכים שבהן הטכנולוגיה מאפשרת אינטראקציה בין עבריינים ברשת הפתוחה וברשת האפלה.

חשיפתם של ילדים לסוגים אחרים של סיכון באינטרנט

כדי לספק תמונה מלאה יותר של נוף הסיכון ברשת לילדים בבריטניה טרם כניסת הרגולציה, סקירה זו בחנה גם את בסיס הראיות הקשור לקטגוריות אחרות של סיכון באינטרנט. נעשתה סקירה קלה, תוך התמקדות בסיכונים המסווגים בחוק הבטיחות ברשת כ"עדיפות ראשונה" (כגון פורנוגרפיה מקוונת, תוכן המעודד התאבדות, פגיעה עצמית והפרעות אכילה) ותוכן "בעדיפות" (כגון בריונות ברשת, פשע שנאה). הסקירה גם עסקה בתכנים המעודדים קיצוניות והקצנה, כדוגמה לתוכן לא חוקי שאינו מכוסה על ידי הקטגוריות המיניות שכבר נדונו.

שכיחות יחסית של סיכונים שונים ברשת

הסקירה זיהתה מגוון של נתונים בנושא שכיחות לחשיפה של ילדים לתכנים "בעדיפות ראשונה" ו"בעדיפות" בבריטניה. הראיות מצביעות באופן עקבי על כך שלפחות אחד מכל 12 ילדים חווה תוכן "בעדיפות ראשונה" או "בעדיפות".

הראיות גם מראות כי ילדים נוטים יותר להיחשף לסיכוני תוכן מאשר רוב סוגי הסיכון המיני באינטרנט  (ראו איור 1).

איור 1: שכיחות החשיפה של ילדים לסיכונים מיניים באינטרנט ומגוון של סיכונים מקוונים אחרים

תגובות לקטגוריות אחרות של סיכון באינטרנט

הכמות הקטנה של נתוני דיווח עצמי לגבי תגובות ילדים מרמזת שכאשר ילדים נחשפים לסוגים אלה של תכנים, רבים מספרים על כך למישהו, ומעטים משתמשים בכלים טכניים כדי לחסום תוכן או לשנות את הגדרות הפרטיות שלהם. דיווח לפלטפורמות הוא פחות נפוץ, כאשר חלק מהילדים לא יודעים על תכונות אלו או מרגישים שזה יהיה חסר טעם לדווח.

"חשבתי שזו [פעילות גופנית מוגזמת ואכילה לא מסודרת] הייתה התנהגות נורמלית, ולכן באיזה שהוא מקום זה בא לידי ביטוי בהתנהגות שלי, כי חשבתי שכל הנשים האלה עושות את זה, ולא ראיתי שום התנהגויות בריאות כי הייתי כל כך מבודדת [בגלל הסגר בתקופת הקורונה]." נערה בת 17 (Gill et al., 2022)

השלכות ופגיעות של חשיפה לקטגוריות אחרות של סיכון ברשת

הסקירה מצאה כי למעט בריונות ברשת, שיש לה בסיס ראיות מפותח יחסית, יש רק כמות מועטה של ראיות לגבי השלכותיה והשפעותיה של החשיפה וההתעסקות עם תכנים "בעדיפות ראשונה" ו"בעדיפות". הראיות הקיימות מצביעות על כך שלפגיעות הרגשיות והפסיכולוגיות יש כמה מאפיינים משותפים עם אלה הקשורים לפגיעה מינית באינטרנט. ישנו גם נזק נוסף המתבטא בהתנהגות ויחס, הקשור לסיכונים אלה (למשל, השלכות הקשורות לבריאות והתנהגות תוקפנית).

כיצד תכונות עיצוב טכנולוגיות יכולות להגדיל או להפחית סיכונים

הסקירה בחנה כיצד מגוון של תכונות טכנולוגיות וכלי בטיחות יכולים להגדיל או להפחית את החשיפה של ילדים לסיכון ולנזק באינטרנט. הסקירה מציגה את הרציונל מדוע התכונות והכלים יכולים לעשות את ההבדל, מבלי לנסות לכמת את השפעתם על הסבירות של ילדים להיתקל בסיכון.

התבוננות בטכנולוגיה המדוברת מדגישה את העובדה שהסיכון אינו תוצאה בלתי נמנעת הנובעת מלהיות נוכח ברשת: ניתן להגדיל או להקטין את הסיכון באמצעות בחירות העיצוב של פלטפורמות והחלטותיהן לגבי יישום כלי בטיחות חזקים.

תכונות וכלים שיכולים להגביר את הסיכון והנזק באינטרנט

הסקירה הראתה שתכונות עיצוב שמטרתן להגביר את מעורבות המשתמש יכולות להגביר את החשיפה לסיכון ולנזק באינטרנט. השימוש באלגוריתמים ממליצים למשל, יכול לספק חשיפה ממוקדת ואינטנסיבית לתוכן מזיק ולאפשר קיום של אינטראקציות מזיקות עם משתמשים אחרים. זה בעייתי במיוחד עבור ילדים שעשויים להיות בסיכון מוגבר לנזק עקב גורמי פגיעות מיוחדים (למשל, אלה שיש להם היסטוריה של הפרעות אכילה או מחשבות אובדניות). כימות הפעילות החברתית והשימוש במדדי הפופולריות בעייתי גם הוא: תכונות אלה מנצלות צרכים פסיכולוגיים וחברתיים החשובים מבחינה התפתחותית לילדים אך מגבירות בו זמנית את חשיפתם של ילדים לסיכונים ברשת.

נדרשת הבנה אמפירית רחבה יותר של האופן שבו תכונות העיצוב של פלטפורמות מתקשרות עם מגוון גורמים פסיכולוגיים, חברתיים וסביבתיים כדי להגביר את הסיכון והפגיעה בילדים.

תכונות וכלים שיכולים להפחית את הסיכון והנזק באינטרנט

סקירת ה-NSPCC מצאה כי יישום שיטות וידוא גיל ומגוון של כלי בקרת הורים יכול למזער את החשיפה של ילדים לסוגים מסוימים של סיכון – אבל רק כאשר אלה הם חזקים, מיושמים בעקביות, קלים ליישום, וניתן להתאים אותם לשלבים שונים של התפתחות הילדים.

פלטפורמות רבות מציידות את המשתמשים בכלים לחסימה, השתקה ודיווח על אינטראקציות לא רצויות, או לסימון תוכן מזיק ודיווח עליו. אם נעשה בהם שימוש, הם עשויים למנוע את המשך החשיפה של ילדים לסיכונים שנתקלו בהם כבר. עם זאת, ישנם חסמים שונים לשימוש על ידי ילדים, עם כמה ראיות לכך שלא תמיד קל לילדים לאתר ולהשתמש בהם ביעילות, ומידה של חוסר אמון בשאלה האם הפלטפורמות יגיבו במהירות ובצורה הולמת לדיווחי הילדים.

כלים לפיקוח וניטור תוכן נמצאים בשימוש נרחב ויכולים להיות יעילים בזיהוי תוכן והתנהגות בלתי חוקיים. השימוש בהם יכול להפחית את חוויות הסיכון והפגיעה אצל הילדים, בהנחה שפעולה מתקנת מהירה ומתאימה ננקטת על ידי פלטפורמות לאחר זיהוי. עם זאת, ישנם אתגרים שונים לניטור אפקטיבי, במיוחד לאור כמויות החומר הדורשות בדיקה, ואופי האינטראקציות בזמן אמת בין משתמש למשתמש בפלטפורמות רבות. ישנו גם חוסר ידע על מערכי הנתונים של אימון האלגוריתמים, גישות לזיהוי תכונות ומודלים ללמידה המשמשים ליצירת כלים אלה. חסרים לעתים קרובות נתונים על שיעורי זיהוי ותוצאות, מה שמקשה לקבוע באיזה מידה הכלים הללו עובדים.

הסקירה בחנה גם את האתגרים החדשים לבדיקת ניטור התוכן הקשורים לשימוש הנרחב בהצפנה מקצה לקצה (E2EE), שתפחית את יכולתן של פלטפורמות ורשויות אכיפת החוק לזהות התעללות מינית בילדים וחומרי התעללות ופגיעה מינית בילדים בעזרת טכנולוגיה.

המלצות על מחקר עתידי

ההמלצות הבאות של ה-NSPCC מתמקדות במחקר עתידי שיכול לקדם את ההבנה על נוף הסיכונים הכולל לילדים באינטרנט. מערך מעובה יותר של המלצות מחקר הכוללות שיקולים מתודולוגיים המציע הצעות לבניית בסיס הראיות על סיכונים מיניים באינטרנט מופיע בפרק 9 של הדו"ח המלא.

המלצות: מחקר על שכיחות הסיכונים באינטרנט

הסקירה הראתה שיש צורך במחקר נוסף הבוחן את השכיחות, הניסיון וההשפעות של חשיפת ילדים לסיכון ולנזק ברשת בבריטניה. פיתוח של אמצעים חזקים ומערכות נתונים הנצמדים ככל האפשר לחקיקת חוק הבטיחות המקוונת, הוא חיוני וצריך להיות בראש סדר העדיפויות של קובעי מדיניות וחוקרים.

אלה צריכים להיות מתוכננים כדי לאפשר מדידה יעילה של תדירות החשיפה לסיכון ברשת על פני הקטגוריות השונות המכוסות על ידי חוק הבטיחות באינטרנט. הם צריכים לטפל בסיבוכים הספציפיים הקשורים למדידת סיכון מיני באינטרנט (למשל, לצייר הבחנות ברורות בין עבריינים מבוגרים לילדים בני אותו גיל, זיהוי פערי גיל בין ילדים המקיימים אינטראקציה מינית ברשת, וקביעת המידה שבה אינטראקציות אלו נעשו כאילו בהסכמה). ראוי שלאחר מכן יהיו שאלות לגבי אופי החוויה והעוצמה של נזקים אפשריים שונים, ולזהות את הפלטפורמות המעורבות. כמו כן, שאלות צריכות להישאל לגבי התנהגות הקשורה לחיפוש עזרה, ונתונים שנאספו תוך בחינת מערך רחב של מדדי פגיעות. יש לכלול גם פריטים הבוחנים את ההזדמנויות שמספקת הסביבה המקוונת (למשל, זכויות ילדים למידע, חינוך, השתתפות) כדי לספק תשובות מדיניות מידתיות.

יש לאסוף נתונים באמצעות מתודולוגיה שיטתית ואורכית כדי לאפשר בדיקה של מגמות לאורך זמן וניתוחים סטטיסטיים חזקים יותר של היחסים בין המשתנים שנמדדו.

ישנם אתגרים מתודולוגיים, אתיים ומשאביים ברורים הקשורים למשימת מחקר כזו. עם זאת, הדבר חיוני, שכן זה יאפשר פיתוח של צעדי התחלה איתנים שמולם ניתן יהיה לאמוד את השינוי לאורך זמן ואת ההשפעה של חוק הבטיחות ברשת. זה יאפשר לבחון את המידה שבה לרגולציה יש את ההשפעה המיועדת להפחתת סיכונים והאם זה קורה על חשבון ההזדמנויות לילדים שמספקת הסביבה המקוונת (כמו למשל חינוך מקוון, הפקה יצירתית, השתתפות אזרחית).

המלצות: מחקר על פגיעות לסיכונים באינטרנט 

הסקירה הראתה שחשוב לפתח הבנה טובה יותר של הגורמים הדמוגרפיים, הפסיכולוגיים והסביבתיים שמגבירים את הפגיעות של ילדים לסוגים שונים של סיכון ונזק באינטרנט. יש צורך בראיות נוספות על האופן שבו גורמים אלה יכולים להוביל לפגיעה של אותו ילד במספר דרכים (הפיכת קורבן בדרכים מרובות); וכיצד חשיפה לסיכון ולנזק באינטרנט קשורה לפגיעה (כגון אלימות פיזית או ניצול מיני). הבנה רבה יותר בתחומים אלה תגרום לפיתוח אסטרטגיות יעילות יותר למניעת נזק, בניית חוסן ופיתוח אוריינות דיגיטלית אצל ילדים.

המלצות: כיצד חברות טכנולוגיה יכולות לתרום לבניית בסיס ראיות

המידע המסופק בדוחות שקיפות מוגבל מאוד, מה שמקשה של הסקת מסקנות לגבי בטיחות פלטפורמות או שינויים לאורך זמן. ראוי שפלטפורמות יספקו מידע מפורט יותר באומדן הסיכון הנדרשות על ידי הרגולטור. רצוי שיכלול:

• מספר הדיווחים והגילויים על פני קטגוריות שונות של סיכון ופגיעה בילדים, כולל נתונים על:
  • כמות חומרי התעללות מינית בילדים בשירותים שלהם בהשוואה לדפים/פוסטים/תכנים שנצפו.
  • מספר המגעים בין משתמשים מבוגרים וילדים, אשר מדווחים או מזוהים כבלתי הולמים או מעידים על התעללות או פגיעה מינית בילדים בסיוע טכנולוגיה.
• רמות השימוש בכלי בטיחות ודיווח על ידי ילדים; והפעולות שננקטו על ידי הפלטפורמה בתגובה (כולל מספר הסרת תכנים וזמני תגובה).
• מערכות מודרציה וכלי זיהוי המשמשים את הפלטפורמה להגנה על ילדים מפני חשיפה לתוכן מזיק.
• סוג תהליכי וידוא הגיל המיושם.
• רמת הקשר האפקטיבית עם רשויות אכיפת החוק, סיוע וארגונים, כגון קרן משמר האינטרנט (Internet Watch Foundation) והמרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC).
• תהליכים שבאמצעותם מוערכים כלי בטיחות, תהליכי דיווח, תכני מודרציה, כלי זיהוי ותהליכי בקרת גיל.

אספקת נתונים מסוג זה תאפשר גם הערכה יעילה יותר של רמות הסיכון והנזק בפלטפורמות שונות;  וכן על יעילותן של פלטפורמות בהגנה על ילדים מפני סיכון ונזק באינטרנט.

המלצות: כיצד קובעי מדיניות ורגולטורים יכולים לתרום לבניית בסיס הראיות

יש להזמין מערכי נתונים חזקים כדי לאפשר להבין טוב יותר כיצד ילדים בבריטניה חווים סיכון ונזק באינטרנט לאורך זמן.  בסיס ראיות חזק יותר יספק ידע חיוני לעבודתם של בעלי עניין אחרים שיש להם אחריות להגנה על ילדים באינטרנט ופיתוח אסטרטגיות מניעה ותגובה קשורות.

יש להתחשב גם בבניית מסגרת להערכת הדרכים שבהן התפתחויות טכנולוגיות (כגון בינה מלאכותית גנרטיבית וטכנולוגיות מציאות מדומה) עלולות לגרום לחשיפה של ילדים לסיכון ולנזק באינטרנט. את זה יש ליצור בשיתוף עם פלטפורמות ותעשיית טכנולוגיית הבטיחות ובעלי עניין אחרים. הדבר יבטיח כי מערכות מדיניות ורגולציה יוכלו להגיב ביעילות לסיכונים הקשורים לטכנולוגיות מתפתחות.

על הרגולטורים לייצר ולאכוף תקנים רגולטוריים חזקים ויעילים שיבטיחו שהפלטפורמות מספקות:

• דוחות שקיפות מפורטים המתייחסים להמלצות המתוארות לעיל.
• הערכות סיכונים מקיפות, לרבות מידע על אלגוריתמי המלצה וניטור תכנים, כמו גם את האפקטיביות של כלי הדיווח והזיהוי.

המלצות של NSPCC

לפי NSPCC, התוצאות מסקירת הראיות מבהירות כיצד היעדר הרגולציה לפני יישום חוק הבטיחות המקוונת הותיר ילדים חשופים לסיכונים באינטרנט, שלעתים קרובות היו ניתנים למניעה.

סקירה זו קובעת את נקודת ההתחלה בעניין הסיכון כפי שהיא כרגע כאשר הצעת החוק עוברת להיות חוק. אם יעקבו אחר המלצות המחקר שהוצגו לעיל, השנים הקרובות יאפשרו הערכה של כל שינוי הקשור להכנסת משטר הרגולציה החדש.

בהתבסס על תוצאות הסקירה, NSPCC  הכינה שורה של המלצות נוספות לשיקול מגזר הטכנולוגיה, משרד התקשורת (Ofcom) והממשלה לשקול.

המלצות לחברות טכנולוגיה

גישה של בטיחות-לפי-עיצוב חייבת להיות מובנית בתהליכי הפיתוח של פלטפורמות. חברות חייבות לשקול את השקפותיהם וצרכיהם של ילדים ושורדי פגיעה מינית בעת קבלת החלטות מוצר, באמצעות גישות עיצוב השתתפותיות וייצור משותף. הדבר עולה בקנה אחד עם המסגרת לזכויות הילד שהוגדרה על ידי ההערה הכללית של האו"ם מס' 25 בנושא זכויות ילדים ביחס לסביבה הדיגיטלית.[2]

חברות צריכות לקחת את היוזמה כדי להפחית באופן משמעותי את רמות הנזק בפלטפורמות שלהן ולא לחכות ש-Ofcom תשתמש בסמכויות הרגולטוריות החדשות שלה. זה כולל:

• נקיטת צעדים פרואקטיביים למניעת נזק באמצעות עיצוב בטוח יותר, כגון: בניית תכונות בטיחות חזקות; שימוש בטכנולוגיות של אבטחת גיל; עיצוב תכנים וחללים המתאימים לגיל; ניטור קבוע של האפקטיביות של תכונות אלה ושקיפות לגבי השימוש בהן.
• התחייבות להקצאת משאבים למחקר ופיתוח של פתרונות שיכולים להפחית סיכונים לילדים. זה כולל השקעה במשאבים טכנולוגיים והנדסיים לפיתוח כלים חדשים ויעילים יותר בהדרגה, שיוכלו לבחון כמויות גדולות של חומר, כולל תמונות סטילס ותמונות נעות, טקסט, כמו גם אינטראקציות בזמן אמת, תוך שימוש במגוון שפות. כלים אלה צריכים להיות מיושמים על כל המוצרים שלהם, כולל בסביבות מוצפנות מקצה לקצה שעלולות פוטנציאלית לאפשר התעללות מינית בילדים.
• סיפוק המידה הנדרשת של מודרציה אנושית כדי לבדוק האם החלטות אוטומטיות מדויקות והאם ננקטת פעולה מתאימה ומהירה כדי להגן על משתמשים וילדים. על מבצעי המודרציה להיות מאומנים ומוסמכים באופן מלא כדי לבצע את עבודתם.
• זיהוי יזום של התנהגות ותוכן לא חוקיים ונקיטת פעולה מתקנת מהירה כדי להסיר לצמיתות תוכן, חשבונות ומשתמשים משויכים. זה כולל:
  • פעולה ותגובה מהירה על דיווחים משירותים חיצוניים מהימנים כמו Report Remove על תוכן מזיק.
  • יצירת קשר עם גופי אכיפת חוק, כגון סוכנות הפשע הלאומית של בריטניה והמרכז הלאומי לילדים נעדרים ומנוצלים, וכאשר הדבר מתאים, לדווח על חששות בטיחותיים בפלטפורמות שלהן.
  • שיתוף פעולה עם חברות טכנולוגיה אחרות ושיתוף מידע איתן, כדי להתמודד עם התעללות המתחילה במקום אחד ועוברת בין פלטפורמות (סיכונים חוצי פלטפורמות).

ראוי שפלטפורמות ישתמשו בגישה ממוקדת קורבן במנגנוני הדיווח והתלונות שלהן. הדבר כולל:

• לאפשר לילדים לבצע דיווח רטרוספקטיבי אם הם לא יכולים להעביר את החששות שלהם בזמן אמת או מיד לאחר המפגש שלהם. יש להציע לילדים אפשרויות מתאימות לתאר את חווייתם ולהיות בטוחים כי הדיווח שלהם יילקח ברצינות, בעוד שהסודיות שלהם תישמר.
• הקפדה על שיטות דיווח ידידותיות לילדים וקלות לאיתור ילדים ולשימוש בהן אם ברצונם לדווח או להתלונן, או להתריע על התנהגות מזיקה. זו צריכה להיות דרישה בסיסית בכל הפלטפורמות: לקדם תרבות חיובית של דיווח ולהציע פנייה מהירה ויעילה למשתמשים.

המלצות למשרד התקשורת הבריטי (Ofcom) –

על משרד התקשורת הבריטי ליישם את חוק הבטיחות באינטרנט במלואו וללא דיחוי. ב-NSPCC מרוצים מהמהירות שבה המשרד פרסם את טיוטת הקודים לנזקים בלתי חוקיים ומצפים להגיב. הם טוענים כי במשרד התקשורת חייבים להקשיב באופן פעיל לראיות שמספקים ארגונים לא ממשלתיים וחוקרים עצמאיים, ולפעול נגד חברות שלא מצליחות להעריך באופן מקיף את הסיכונים הנשקפים מהפלטפורמות שלהן.

משרד התקשורת הבריטי צריך להשתמש בסמכויותיו הרגולטוריות החדשות כדי:

• לפרסם קודים מעודכנים של תרגול המדגימים את הצעדים שפלטפורמות יכולות לנקוט כדי להגן על ילדים. עליו להשתמש בכוחות איסוף הראיות שלו כדי להבטיח שפתרונות חדשניים יהפכו לבסיס של מה שמצופה מחברות.
• לספק הנחיות ברורות לגבי וידוא גיל – כיצד לאכוף בבטחה את סף הגיל המינימלי.
• להנפיק הנחיות ספציפיות לגבי האופן שבו חברות יכולות לעבוד יחד כדי להתמודד עם סיכונים חוצי פלטפורמות ולמנוע הפצה נרחבת של חומר של התעללות מינית בילדים בשרתים בלתי ניתנים לגילוי, כגון פלטפורמות הודעות פרטיות והרשת האפלה.
• לספק הדרכה כיצד פלטפורמות יכולות לעמוד בחובתן למתן ולנהל את הסיכון של השירות המשמש לביצוע או סיוע של שימוש לרעה באינטרנט. זה כולל התנהגויות של מתעללים שאינם עומדים בסף הפלילי, למשל להצביע על מתעללים אחרים לתוכן בלתי חוקי באפליקציות צד שלישי להעברת הודעות וברשת האפלה; ולחלופין, שיתוף סרטוני וידאו של התעללות בילדים הנערכים בקפידה כך שייכללו בקווים המנחים לניטור תוכן.

על משרד התקשורת לשים את קולם של ילדים במרכז הרגולציה לבטיחות באינטרנט. אסדרת העולם המקוון כדי להגן על ילדים דורשת הבנה מדויקת של החיים הדיגיטליים של ילדים. מאחר שהחוויות המקוונות של ילדים מובנות בדרך כלל בצורה הטובה ביותר על ידי דיבור ישיר עם ילדים, על המשרד ליצור מנגנונים כדי להתייעצות משמעותית עם ילדים ואנשים צעירים על איך לפתח וליישם את משטר הרגולציה החדש באינטרנט.

על משרד התקשורת לדבוק במפת הדרכים ליישום ולפתח הנחיות להתמודדות עם אלימות מקוונת נגד נשים ונערות – שהממשלה התחייבה לה כחלק מחוק הבטיחות באינטרנט – לכל המאוחר עד אביב 2025. זה צריך להיעשות על ידי:

• הקשבה לחוויות של בנות, תוך התחשבות בהשקפות ובצרכים של ילדות וניצולות, והתייעצות עם ארגונים מומחים וארגוני צדקה התומכים בנערות ונשים.
• לספק לחברות טכנולוגיה הנחיות ברורות כיצד למנוע אלימות נגד בנות.
• להפעיל מנגנוני ניטור והערכה כדי להבטיח שחברות ינקטו באמצעים וידווחו על האפקטיביות שלהן עבור בנות המשתמשות בפלטפורמות שלהם.

המלצות לממשלה

על הממשלה לבחון מחדש את חוקי הבטיחות באינטרנט על בסיס תקופתי, כדי להבטיח שהיא מתאימה למטרה מתקדמת עם נוף הסיכון המשתנה לילדים.

הממשלה צריכה להמשיך להפגין מנהיגות עולמית על ידי מימון הפיתוח של פתרונות על ידי מגזר טכנולוגיית הבטיחות. קרן אתגר טכנולוגיות הבטיחות (Safety Tech Challenge Fund) היא יוזמה חיובית לתמיכה בפיתוח של כלי הוכחה שיכולים לזהות חומרים של התעללות מינית בילדים בסביבות מוצפנות מקצה לקצה תוך שמירה על פרטיות. על הממשלה להתחייב לתמוך בשלב הבא של הרחבת הטכנולוגיה ומתן אפשרות לאימוץ טכנולוגיות אפקטיביות.

על הממשלה להמשיך לשתף פעולה עם השותפים הבינלאומיים שלנו כדי לעורר תגובה גלובלית להתמודדות עם התעללות ופגיעה  מינית בילדים בעזרת טכנולוגיה, ולהבטיח שיש הרמוניה רגולטורית עם חקיקת הבטיחות ברשת של בריטניה.

על הממשלה להבטיח כי ניצולי התעללות מקוונת זכאים לתמיכה יעילה כנפגעי התעללות ומסוגלים לקבל גישה אליה. יש לחזק את הצעת חוק הקורבנות והאסירים:

• להרחיב את הגדרת הקורבן כך שתכיר בכל הילדים, לא רק אלה שנפגעו מהתעללות במשפחה.
• להטיל על הרשויות הרלוונטיות חובה להתייעץ עם ספקי שירותים לילדים כדי להבטיח תמיכה לקורבנות מתחת לגיל 18.
• לוודא שהרשויות הרלוונטיות יספקו תמיכה מספקת וספציפית לילדים ובני נוער קורבנות פשע.
• לקדם את ביסוס מודל בית הילד ולספק מימון ממשלתי מרכזי לכך.

הממשלה צריכה לממן קמפיינים להגברת המודעות הציבורית וחומרים חינוכיים המיועדים הן לילדים והן למבוגרים סביבם (כולל הורים, מטפלים ואנשי מקצוע) כדי להעלות את המודעות לסוגי ההתעללות שילדים חווים באינטרנט ולתמיכה הזמינה. משאבים אלה יסייעו ליצור סביבה משופרת שבה ילדים יוכלו לחשוף בבטחה את ההתעללות שהם עוברים ולקבל גישה לעזרה.

[1]  ליווינגסטון, ס., דוידסון, ג'יי., ברייס, ג'יי, בתול, ס., הוטון, סי & ננדי (2017) ) פעילויות לילדים באינטרנט, סיכונים ובטיחות: סקירת ספרות על ידי קבוצת הראיות של UKCCIS.  UKCCIS.  www.lse.ac.uk/business/consulting/assets/documents/childrens-online-activities-risks-and-safety.pdf

[2]  האו"ם (2021) הערה כללית מס' 25 (2021) על זכויות ילדים ביחס לסביבה הדיגיטלית.  CRC/C/GC/25. www.ohchr.org/en/documents/general-comments-and-recommendations/general-comment-no-25-2021-childrens-rights-relation