חוק השירותים הדיגיטליים (DSA) שנכנס לתוקף בשנת 2023 באיחוד האירופי מחיל חובות מפורטות על ספקי שירותים דיגיטליים דומינטיים ובכלל זה מנועי חיפוש ושירותי AI, במטרה להתמודד עם עם סיכונים או שימוש לרעה.
ביום 14.03.2024 הנציבות שלחה בקשות רשמיות למידע מכוח ה-DSA למנועי החיפוש Google ו-Bing ולפלטפורמות המקוונות פייסבוק, אינסטגרם, סנאפצ'אט, טיקטוק, יוטיוב ו-X (טוויטר). הנציבות מבקשת מידע נוסף על האמצעים שבהם הפלטפורמות נוקטות כדי להפחית את הסיכונים הקשורים לבינה מלאכותית, בפרט בהקשר של תוכן מסוכן שנוצר על-ידי בינה מלאכותית – הפצה של deepfakes ('דיפ-פייק' – סרטונים שנוצרו על-ידי בינה מלאכותית ונחזים לסרטונים אמיתיים), 'הזיות' של מערכות בינה מלאכותית שגורמות להן לספק מידע שקרי ומטעה, ומניפולציה של מערכות בחירות והטעיה של בוחרים.
בכלל זה דרשה הנציבות מידע ומסמכים פנימיים על הערכות הסיכונים ואמצעים להפחתת הסיכונים הקשורים להשפעת בינה מלאכותית על תהליכי בחירות, הפצת תוכן בלתי-חוקי, הגנה על זכויות בסיסיות, אלימות מגדרית, הגנה על קטינים, בריאות נפשית, הגנה על מידע אישי, הגנה על צרכנים והגנה על קניין רוחני וזכויות יוצרים.
מטא
- הפרה של סעיפים 34 ו-35 לחוק (זיהוי, הערכה והפחתת סיכונים) – התאמת מדיניותה של מטא, שמפחיתה את התפוצה והנראות של תוכן פוליטי במערכות ההמלצות שלה, לדרישות החוק לשקיפות וניהול סיכונים ביחס להליכי בחירות. נראה כי מדיניות זו אינה שקופה למשתמשים, וכן עשויה לתעדף עמדות פוליטיות מסוימות על אחרות. כמו כן, נראה כי אינה מספקת מענה מספק לסיכונים הקיימים להליכי בחירות.
- הפרה של סעיף 25 לחוק (הימנעות מהטעית משתמשים) וסעיפים 34 ו-35 לחוק (זיהוי, הערכה והפחתת סיכונים) – יעילות המאבק של מטא בפרסומות מטעות, דיסאינפורמציה והתנהגות לא אותנטית מתואמת (בוטים). הנציבות מציינת כי אותרה פעילות משמעותית של רשתות תעמולה מדינתיות ואחרות בפלטפורמות מטא במהלך השנה האחרונה, באופן שעשוי להעיד על פגמים ביעילות הטיפול של מטא בהן.
- הפרה של סעיפים 34 ו-35 לחוק (זיהוי, הערכה והפחתת סיכונים) וסעיף 40 (שקיפות מאגרי מידע לציבור) – היעדר מנגנונים אפקטיביים לניטור, מעקב והתמודדות בזמן-אמת עם סיכונים הקשורים לבחירות, והיעדר מאגר מידע שקוף ונגיש לחוקרים לצורך ניטור ציבורי של סיכוני בחירות. בפרט, מטא הפסיקה את הפעילות של כלי הבקרה "CrowdTangle", כלי שפיתחה כדי לאפשר לציבור לנטר בזמן אמת מידע ציבורי הנוגע לפלטפורמות של מטא, בלי להחליפו בכלי מתאים אחר. כך, נראה שמטא נותרה בלי כלי אפקטיבי לשיקוף מידע לציבור, בפרט בנושא הבחירות, חודש בלבד לפני הבחירות לפלרמנט האיחוד האירופי.
- הפרה של סעיף 16 לחוק (מנגנוני דיווח ואכיפה) – בחינת התאמת מנגנוני הדיווח על תוכן בלתי חוקי שהטמיעה מטא, בפרט נוחות הגישה אליהם והידידותיות שלהם למשתמשים.
- הפרה של סעיף 20 לחוק (מערכת פנימית לטיפול בתלונות) – היעדר מנגנון פנימי אפקטיבי לדיווח וטיפול בתלונות על החלטות שקיבלה החברה ביחס לתוכן, השקיפות של החלטות שהתקבלו נגד משתמשים והאפקטיביות ערעור שלהם על החלטות.
במהלך חודש מאי 2024, מטא החזירה את CrowdTangle והרחיבה אותו כך שיכלול מידע לגבי הבחירות בכל מדינה באיחוד האירופי. ביום 14.08.2024, מטא הפסיקה שוב את פעילותו של CrowdTangle. בתגובה, נציבות האיחוד האירופי פנתה בדרישת מידע נוספת למטא בנושא. מטא התבקשה לספק מידע לגבי האמצעים בהם נקטה להנגשת מידע לחוקרים ולציבור ולבקרה על הליכי בחירות, כלומר בהפרות אפשריות לפי סעיפים 34 ו-35 לחוק (זיהוי, הערכה והפחתת סיכונים) וסעיף 40 לחוק (שקיפות מאגרי מידע לציבור).
דרישה למידע הנוגע למערכות ההמלצה מיוטיוב, טיקטוק וסנאפצ'אט (אוקטובר 2024)
ביום 2.10.2024 הנציבות שלחה בקשות רשמיות למידע מכוח ה-DSA לפלטפורמות המקוונות יוטיוב, טיקטוק וסנאפצ'אט. הנציבות מבקשת מידע נוסף על עיצוב, אפיון ופעילות מערכות ההמלצה של הפלטפורמות.
ה-DSA מחייב פלטפורמות מקוונות גדולות מאוד לבחון ולהפחית בצורה ראויה את הסיכונים הנובעים ממערכות ההמלצה שלהן, כמו סיכונים לבריאות נפשית של משתמשים וסיכונים להפצה של מידע פוגעני.
הנציבות מבקשת מיוטיוב וסנאפצ'אט מידע מפורט על הקריטריונים לפיהם האלגוריתמים שלהן ממליצים על תוכן למשתמשים, וכן על ההשפעה של האלגוריתמים האלה על סיכונים לתהליכי הבחירות, לבריאות נפשית (עידוד התמכרויות, לדוגמה) ולקטינים. כמו כן, הן התבקשו לספק מידע לגבי דרך ההתמודדות של מערכות ההמלצה שלהן עם הפצה של תוכן בלתי חוקי ותוכן פוגעני.
הנציבות מבקשת מטיקטוק לספק מידע על אמצעים בהן נקטה למניעת שימוש לרעה בפלטפורמה שלה על-ידי גורמים זדוניים והפחתת הסיכונים הנוגעים לבחירות, אשר מערכות המלצה מסוימות עשויות להגביר.
כלל החברות התבקשו לספק את המידע עד 15.11.2024. אי מסירת המידע בזמן, וכן מסירת מידע לא שלם או שגוי, עלולים להוביל להטלת קנסות על החברות בהתאם לסעיף 74(2) לחוק.
הליך פרסום הנחיות להגנה על ילדים ברשת (אוקטובר 2024)
סעיף 28 ל-DSA מחייב ספקי שירותים מקוונים להבטיח רמה גבוהה של הגנה על פרטיות, בטיחות ואבטחה של קטינים בשירותים שלהם. סעיף 28(4) ל-DSA מאפשר לנציבות האיחוד האירופי לפרסם הנחיות ליישום הדרישות בסעיף 28, שמטרתן לסייע לספקי השירותים המקוונים להבין מה נדרש מהם.
ב-4.10.2024 נציבות האיחוד ערכה סדנה להתייעצות עם הציבור ובעלי עניין בנושא, על מנת לקבל משוב ורעיונות לקראת ניסוח טיוטת הנחיות. הסדנה התמקדה בזיהוי מצבי סיכון עיקריים לילדים ברשת ובחינת אופן ההתמודדות הרצוי עמם. בין היתר הסדנה עסקה בנושא התמכרויות, בריונות ברשת, הונאות, חשיפה לתוכן מותאם-גיל ועוד. בהתאם למסקנות מהסדנה, הנציבות צפויה לפרסם טיוטת הנחיות בתחילת שנת 2025.
