לקראת דיון מיוחד של ועדת המדע והטכנולוגיה בכנסת בנושא "השימוש בבינה מלאכותית ליצירת מידע כוזב ותודעה שקרית הפוגעת במדינת ישראל" בדצמבר 2023, ובמענה לפניית מרכז המחקר והמידע של הכנסת, איגוד האינטרנט הישראלי הגיש לוועדה סקירה מקצועית וחומרי רקע לדיון הוועדה.
הנתונים והניתוח של איגוד האינטרנט הישראלי בהתייחסות זו, יחד עם סקירות נוספות איגוד האינטרנט על מתווה לרגולציה של רשתות חברתיות בישראל, מצוטטות בהרחבה על ידי מרכז המחקר והמידע של הכנסת במסמך שהוכן לקראת דיון מיוחד בוועדת המדע והטכנולוגיה שהתקיים ביום 25.12.20.
מרכז המחקר והמידע של הכנסת – השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב (21.12.2023)
תמצית הסקירה וחומרי הרקע מטעם איגוד האינטרנט הישראלי:
א. פעולות האיגוד בתחום המוגנות ומניעת מידע כזב או דיסאינפורמציה ברשת
איגוד האינטרנט הישראלי מפעיל מזה עשור את קו הסיוע לאינטרנט בטוח המספק לציבור הרחב סיוע ומענה אישי לטיפול בפגיעות, איומים ותוכן פוגעני ברשת בכלל וברשתות החברתיות בפרט. לאחר הטבח בעוטף עזה ב-7/10 עם פתיחת הלחימה בעזה החל קו הסיוע לאינטרנט בטוח לפעול באופן מיידי כדי לתת מענה לפניות מהציבור הרחב בנוגע לתוכן פוגעני ומידע כוזב המופץ ברשתות החברתיות על רקע המלחמה עם חמאס בעזה ופעל כדי לאסוף ולדווח לפלטפורמות השונות על תכנים כוזבים ומסיתים נגד ישראל ברשתות החברתיות ואפליקציות המסרים ופעל לפרסום סדרה של מדריכי חירום חיוניים לסייע במוגנות הציבור בפני חשיפה לתוכן פוגעני או תוכן גרפי קשה ומתקפות סייבר ברשתות על רקע המלחמה.
ב. היקף ואופי הפצת מידע כוזב ותוכן פוגעני מתחילת מלחמת חרבות ברזל
בחודש הראשון של המלחמה מספר הפניות לקו הסיוע לאינטרנט בטוח של איגוד האינטרנט הישראלי גדל פי 3 ביחס לתקופת השגרה טרום ימי הלחימה, והחלו לזרום לקו פניות רבות מהציבור על תכנים פוגעניים מסוגים שונים שהציפו את הרשתות על רקע המלחמה. לצד קו הסיוע לאינטרנט בטוח של איגוד האינטרנט הישראלי פעלו מימיה הראשונים של המלחמה גם שורה של ארגונים אזרחיים קיימים כמו "פייק ריפורטר" וארגון "בודקים" או יוזמות אזרחית של אנשי הייטק ומתנדבים כמו "IronTruth" או "Fake-Off" שפעלו כדי לפתח מענים טכנולוגיים במטרה "לנקות את הרשת" מתכנים פוגעניים, שקריים ומסיתים. אזרחים רבים דיווחו לארגונים וליוזמות האזרחיות הרבות בשבועות הראשונים של המלחמה על עשרות אלפי פרסומים, פרופילים ותכנים שונים – חלקם שקריים, מטעים ו/או מסיתים וחלקם מקדמי שנאה נגד ישראל ומצדיקי טרור. לצד האינדיקציות הברורות של הדיווחים והפניות ליוזמות וגופי החברה האזרחית ניתן לראות את העלייה בהיקף התוכן השקרי והפוגעני שהופץ ברשתות בישראל, בתוכו גם תוכן לא אותנטי ומניפולטיבי, דרך הפרסומים הרשמיים של הפלטפורמות השונות על הסרות תוכן לא חוקי או פוגעני ודיווחים רשמיים של הפרקליטות, שפרסמה כי ביקשה להסיר היקף חסר תקדים של תכנים ופרסומים תומכי טרור ברשתות החברתיות, חלקם שקריים.
ג. שימוש בכלי בינה מלאכותית ותוכן לא אותנטי במסגרת הפצת התוכן
במסגרת העלייה המשמעותית בהיקף וסוגי התוכן הכוזב שהופצו ברשתות החברתיות על רקע ואודות המלחמה והטבח בעוטף עזה ניתן לזהות בבירור גם מגמה בולטת של שימוש בטכנולוגיות בינה מלאכותית כדי ליצור פרופילים, פוסטים, תמונות ותכנים שונים במטרה לקדם ולהפיץ תכנים אלו, לרוב במטרה לפגוע בישראל ובאזרחים ישראלים. תוכן מסונתז הנוצר באמצעות בינה מלאכותית יכול להיות טקסט, תמונה, אודיו או וידאו – אך גם פרופילים המתחזים לגורמים אנושיים ברשתות החברתיות. יצירת טקסט מסונתז באמצעות בינה מלאכותית מסייעת בשיפור איכות וגיוון התוכן המתחזה והשקרי – בעיקר כשהיוזמים מפיצי התוכן הם גורמים זרים לא דוברי השפה המעוניינים ליצור תוכן מקומי מהימן הקשה לזיהוי, או משתמשים בתוכנות גנרטיביות ליצירת תמונות שנראות מציאותיות.
חוקרי איגוד האינטרנט הישראלי ביצעו מיפוי של סוגי התוכן והפרסומים הכוזבים בחודשיים הראשונים למלחמה וקטלגו אותם על פי פרמטרים מוכרים בספרות המקצועית של שבעה סוגי דיס- ומיסאינפורמציה הנפוצים במצבי חירום גם בכלי התקשורת.
במסגרת הנסיון לחדור לשיח הציבורי הישראלי ולזרוע בתוכו הסתה, פילוג ובהלה נעשה שימוש ברשתות זרות של פעילות לא אותנטית מתואמת (CIB), שנוצרה בחלקה באמצעות כלי בינה מלאכותית. רשתות אלו, לעתים ביוזמת מדינות זרות או ארגוני טרור, נועדו לייצר גלים של הפצה ויראלית של תכנים המיועדים לפגוע בחוסן החברתי בישראל בתקופת הלחימה. במובן זה, השימוש בכלי בינה מלאכותית לא נועד לשפר את איכות התוכן הכוזב והשקרי, אלא לייעל ולהאיץ את היקף וקצב ההפצה של התכנים הללו, ועל ידי כך להציף את הרשתות בתכנים רבים ככל האפשר ולהקשות על זיהוי שלהם עקב העומס על המערכות.
ד. אתגרים בזיהוי, התמודדות והסרה של תוכן כוזב ברשתות
כל הפלטפורמות והרשתות החברתיות המרכזיות משתמשות כיום בשילוב של טכנולוגיה וכוח אדם אנושי כדי לאכוף באופן פעיל את הנחיות הקהל שלה ולהסיר תכנים או חשבונות שמפירים אותם; ומעודדות את המשתמשים שלהן את חברי הקהל שלה להשתמש בכלים שהיא מספקת כדי לדווח על תוכן וחשבונות שמפרים את כללי הקהילה, ובפרט התנהגות כמו שימוש במספר חשבונות כדי להשפיע ולהטות את דעת הקהל, תוך הטעיית אנשים, הקהל, או מערכות הפלטפורמה לגבי זהות, מיקום, קשרים, פופולריות, או מטרה של החשבון. בניגוד לעבר, במקביל לשימוש המדינתי-בטחוני בכלי בינה מלאכותית, כעת גם גורמים זדוניים – פרטיים או מדינתיים – יכולים גם להשתמש בהם למטרות שכנוע ומניפולציה.
מול העלייה בהיקף, כמות וסוגי התוכן הכוזב והמסית המופץ ברשתות, קיימת בישראל היערכות חסר והיעדר סמכויות מדינתיות לזיהוי וטיפול בתופעה, גם ברמה הציבורית וגם ברמת הפלטפורמות. על אף שרשויות וגופי מדינה ובטחון שונים עוסקים באיומים במרחב המקוון אין הגדרה והערכות ברורה של גוף שאמור לעסוק בהגנה על הציבור בפני איומי דיסאינפורמציה והפצת תוכן כוזב או מסית שנועד לפגוע בחברה הישראלית באמצעות הפצה ברשתות החברתיות בעברית, גם כזה הנוצר באמצעות כלי בינה מלאכותית. משימה זו דורשת הכרות מעמיקה עם סוגי האיום אך גם עם הפלטפורמות ועם המדיניות שלהן, שלעתים רבות לא מאפשרות הסרה מהירה של תכנים שלא מוגדרים כתוכן מסוכן או פוגעני אלא נתפסים כתוכן שנוי במחלוקת שיש עליו לעתים הגנה של חופש הביטוי, אלא אם הוכח בצורה ברורה כי הוא מופץ על ידי גורמים עוינים (למשל טרור או מדינות אויב) המשתמשים בו כדי לייצר נזקים ולפגוע באזרחים.
ה. האם כלי הרגולציה הקיימים בישראל מספיקים לצורך המאבק בהפצת פייק ניוז?
היעדר הסדרה חקיקתית ברמה המדינתית היא בעייתית במיוחד בזירה הישראלית, מכיוון שמערכות הניטור והאכיפה שמפעילות הפלטפורמות נגד תוכן ופעילות אסורים מופנים בעיקרם לתוכן בשפה האנגלית ולזירה האמריקנית. התמקדות זו בשפה האנגלית מובילים להזנחה של האכיפה בכל הנוגע לתוכן בשפות אחרות, ובפרט בעברית.
נוכח מרכזיותן של הרשתות החברתיות בחיי החברה והכלכלה של ישראל והתבססותן כערוץ מרכזי של שיח ציבורי ומידע מקור מידע חליפי עבור האזרחים, ישראל חייבת להחיל אסטרטגיה לאומית מקיפה כדי למנוע החדרה נוספת שמכוונת לשבש את התקשורת החברתית והיציבות הפוליטית. בעוד שישראל מתמודדת היטב עם זירת האינטרנט בהגנה מפני מתקפות סייבר, טרם גובש מענה תכנוני או מבצעי אל מול המקרים של פעולות השפעה זדוניות מצד גורמים מדינתיים שמכוונות לאזרחי ישראל במדיה החברתית. בזירת החקיקה והרגולציה, ישראל נדרשת ויכולה להסדיר ולחדד את מערכת היחסים בין הפלטפורמות הדיגיטליות לבין ציבור המשתמשים ורשויות הבטחון והאכיפה המקומיות – תוך תאימות לכללים ומסגרות האכיפה לאומיות שנקבעו בשנה האחרונה בזירה הגלובלית. האתגרים משמעותיים, אך הם ניתנים להתגברות באמצעות כלים טכנולוגיים ומשטר אחריות ורגולציה על הפלטפורמות הדיגיטליות בישראל.
עיון במסמך המלא:
Loading...
Reload document 
Open in new tab 