ה. כשלים עיקריים בטיפול הפלטפורמות והרשויות בהונאות

כשלים באיתור מקדים, מניעה ואכיפה של קידום הונאות בפלטפורמות

העדר מנגנון אפקטיבי לזיהוי ואיתור מוקדם של הונאות

הפלטפורמות מוצפות בקמפיינים ומודעות זדוניות ומתחזות שמפילות משתמשים בפח ומוציאות מהם כספים רבים. מקרים אלה היו יכולים להימנע באמצעים טכנולוגיים שונים כדי לאתר מבעוד מועד מודעות זדוניות על פי פרמטרים שונים – למשל הפניה לאתרים זדוניים, שימוש בהתחזות למותגים וגופים לגיטימיים או קשר לתשתיות הונאה מוכרות ממקרים קודמים.

חוסר בזיהוי מקדים ואפקטיבי של סרטוני AI זדוניים

במרבית ההונאות הנסקרות במסמך זה, מודעות הקידום עושות שימוש בסרטוני AI גנרטיביים של דמויות מוכרות. על אף זאת, אין זיהוי וסימון אפקטיבי של סרטוני AI מתחזים בפלטפורמות – גם בהקשר של הונאות וגם בהקשרים רחבים יותר.

כשלים במנגנוני הדיווח על תכנים מתחזים ומזויפים

מנגנוני דיווח לא אפקטיביים

למשתמשי הפלטפורמות אין כלים מתקדמים ויעילים לדיווח על תכנים מפרים, וסקרים של איגוד האינטרנט הישראלי מהשנים האחרונות מראים כי משתמשים רבים נוטים שלא לדווח על פגיעות ואיומים בפלטפורמות בגלל חוסר אמון בנכונות שלהן לטפל בדיווחים. במקרים רבים גם אין מנגנון מובנה ואפשרות לדיווח על הונאות שמקודמות באופן ממומן ועל המודעות המשויכות אליהן.

היעדר טיפול ומענה מספק לדיווחי גורמים מהימנים על הונאות

הפלטפורמות מפעילות תכניות גלובליות לשיתוף פעולה עם גופי חברה אזרחית מקומיים במדינות השונות המוגדרים כגורמי דיווח מהימנים (Trusted Flaggers) המדווחים על תופעות, מגמות ואירועים חמורים של פגיעה ותוכן פוגעני. עם זאת, בתכניות אלה ובמנגנוני הדיווח והמענה שהם מקבלים ניתנת חשיבות ותשומת לב נמוכה לדיווחים על הונאות ופגיעה פיננסית באמצעות הפלטפורמות.

היעדר מנגנוני דיווח על פעילות לא אותנטית מתואמת

היעדר מנגנון המאפשר דיווח על פעילות מתואמת של קבוצות חשבונות או עמודים המפיצים תוכן הונאתי פוגע ביכולת לדווח ולאכוף פעילות של לזהות ולפרק רשתות הונאה.

העדר רגולציה ואכיפה מדינתית

בעוד שבמדינות ואזורים אחרים כמו האיחוד האירופי, בריטניה ואוסטרליה קיימת רגולציה מתקדמת המחייבת בין היתר שקיפות ופיקוח על השימוש במודעות, במדינות רבות אחרות, לרבות בישראל, חסרים מנגנוני פיקוח ואכיפה דומים בחוק. המידע המוצג על מודעות למשתמשים בפלטפורמות אשר נמצאים בתחומי האיחוד האירופי זוכים לפירוט נרחב בהרבה מהמשתמשים הישראלים. משתמשים בישראל חשופים להונאות ללא אפשרות לקבל מידע מספק על המודעות והמפרסמים. מעבר לכך, אין בישראל כל רגולציה או פיקוח גם על יצירה, פרסום וקידום ממומן של תכנים שיווקיים ושכנועיים סינתטיים שנוצרו באמצעות בינה מלאכותית, הנמצאים כיום בלב תעשיית ההונאות הגלובלית.