הונאות ברשתות החברתיות הפכו בשנים האחרונות לתופעה גלובלית חמורה הפוגעת ביחידים, בקבוצות, בתאגידים וחברות, ובתהליכים ומוסדות דמוקרטיים ברחבי העולם. נוכלים וגורמי פשיעה מנצלים טכנולוגיות תקשורת ודיגיטל מתקדמות ליצירת תוכן מזויף, מניפולטיבי ומשכנע, תוך שימוש באפשרויות ההפצה והפרסום ממוקד של פלטפורמות ורשתות חברתיות שונות כדי לאתר ולהתמקד בקהלים וקורבנות פוטנציאליים. ההתפתחות המואצת של כלי בינה מלאכותית (AI) גנרטיבית והאפשרות ליצור תכנים ברמה גבוהה כמו תמונות או סרטוני דיפ-פייק הופכים את פעולת ההונאה ברשת לנגישה, זולה ואפקטיבית מתמיד. המודל הכלכלי של הפלטפורמות החברתיות, המבוסס על מודעות ממומנות ומערכות טירגוט מתוחכמות, מאפשר להונאות לשגשג בחסות האלגוריתמים, לעיתים מבלי שיזוהו בזמן וללא מענה ופיקוח מספק של הפלטפורמות או רשויות האכיפה. בישראל, כמו בעולם, הונאות אלו מופצות בהיקף רחב, תוך ניצול חולשות רגולטוריות והעדר מנגנוני אכיפה מספקים, מה שמאפשר לנוכלים לפעול כמעט ללא הפרעה ולהגיע להיקף משמעותי של קורבנות ורווחים. בשנים האחרונות הונאות רשת שבעבר הופצו בעיקר באמצעות הודעות סמס (כגון נסיונות פישינג לגניבת פרטי אשראי) או הודעות דואר אלקטרוניות, עוברות בהדרגה לפלטפורמות ורשתות חברתיות סגורות ואלגוריתמיות כמו פייסבוק, אינסטגרם, טיקטוק ויוטיוב, שם הן מופצות באמצעות מודעות ממומנות, תוך שימוש בטכניקות פרסום ממוקד (טירגוט) המבוססות על פילוח העדפות המשתמשים, תחומי העניין שלהם ומידע אישי שנאסף עליהם ולהתאים את ההונאה בזמן אמת להתנהגות המשתמשים. כך, הן מצליחות לפנות לקהלים ממוקדים, להתאים להם הונאות ממוקדות יותר ולנתב אותם אל ממשקים בהן הם נדרשים למסור מידע אישי, פרטי חשבונות ונכסים שונים או להפקיד כסף במצג שווא של השקעה פיננסית. מנגנוני הפרסום והקידום הממומן של הפלטפורמות החברתיות, שהם כלי טרגוט ופרסום עוצמתיים המאפשרים למפרסמים להגיע בדיוק מירבי לקהלי יעד ולייצר אינטראקציות עם המודעות שלהם – הפכו בידי נוכלים וגורמים זדוניים למכונת הונאה דיגיטלית משוכללת ואפקטיבית.
קו הסיוע לאינטרנט בטוח (www.safe.org.il) של איגוד האינטרנט הישראלי פועל משנת 2013 ומספק סיוע, הכוונה, מידע וכלים למשתמשי האינטרנט והרשתות החברתיות בישראל, במטרה לתמוך בהתמודדות עם מגוון רחב של איומים מקוונים ופגיעות ברשת. כגורם מדווח רשמי (Trusted Flagger) המוכר על ידי שורה של פלטפורמות גלובליות מובילות, קו הסיוע מקבל מאות פניות חודשיות, מנתח את התופעה ומעביר דיווחים להמשך טיפול. מסמך זה מתבסס על דיווחים, נתונים ומחקר של צוות קו הסיוע לאינטרנט בטוח במהלך 2023–2025 ומציג ניתוח מקיף של מאות מודעות ופיסות תוכן המצביע על השימוש הגובר והממוקד בטכנולוגיות AI, דיפ-פייק וקידום ממומן ברשתות חברתיות למטרת הונאה כלכלית בישראל. המסמך מציג את היקף התופעה, מנגנוני הפעולה של הנוכלים והכשלים של הפלטפורמות והרשויות באיתור, מניעה וטיפול בהונאות AI ודיפ-פייק נגד ישראלים ברשתות החברתיות.
המסמך חושף ומנתח מגמה הולכת וגוברת שהחלה במהלך 2023 והתגברה לאחר מכן במסגרתה נוכלים מייצרים סרטוני דיפ-פייק המציגים דמויות ציבוריות מוכרות, כגון פוליטיקאים, סלבריטאים ואנשי עסקים, הממליצים כביכול על הזדמנויות השקעה מזויפות. הדמויות בסרטונים המזויפים מוצגות במצבים מציאותיים ומשכנעים תוך ניצול האמון הציבורי בהן והתאמה תרבותית ושפתית. מודעות אלו מובילות משתמשים לדפי נחיתה המתחזים לשירותים פיננסיים, שם הם מתבקשים למסור מידע אישי ולהעביר כספים.
בחלקו האחרון המסמך כולל גם מוצגות דרכי התמודדות אפשריות למניעה וטיפול בטרנד ההונאה הדיגיטלית הנוכחית ובתופעות דומות בעתיד, בהן פתרונות טכנולוגיים, רגולטוריים וחינוכיים, לצד שיתופי פעולה בין הפלטפורמות, רשויות האכיפה והחברה האזרחית.
המונח Deepfake – דיפ פייק (זיוף עמוק בעברית), מבוסס על חיבור בין המושגים Deep Learning ו-Fake, ומתאר טכנולוגיה מבוססת בינה מלאכותית המאפשרת לשנות או לעבד את התוכן של תמונות או סרטונים מבלי שניתן יהיה להבחין שהתכנים זויפו. www.isoc.org.il/public-action/deepfake
