כלי בינה מלאכותית (AI) מאפשרים למשתמשים להפיק תוכן בהיקף נרחב. בין היתר, ניתן להשתמש בכלי בינה מלאכותית מסוימים כדי ליצור Deepfakes (סרטונים או תמונות מזויפים שנוצרים באמצעות AI). טכנולוגיות אלו מציבות אתגרים משפטיים בפני רשויות ברחבי העולם, בכל הנוגע להתחזות, פגיעה בפרטיות, פרסום פורנוגרפיה אסורה, הטרדה ועוד. בישראל, נחשפו בשנים האחרונות מספר מקרים של פרסום תמונות וסרטונים מזויפים בעלי אופן מיני של בני ובנות נוער על-ידי בני גילם, ונפתחו חקירות משטרה בחלק מהמקרים.
הצעת חוק באנגליה: איסור פלילי על יצירת תמונות מיניות מזויפות
לפי חוק הבטיחות באינטרנט (Online Safety Act), שהתקבל בשנת 2023, חל איסור פלילי על שיתוף Deepfakes פורנוגרפיים. אולם, איסור זה חל רק על שיתוף, ולא על יצירה. זאת משום שחוק הבטיחות באינטרנט מתמקד בהפיכת הרשת למרחב בטוח יותר על-ידי פיקוח על תכנים, כך שהוא שואף להתמודד עם ההפצה ולא עם המקור.
לכן, ביום 16.04.2024, הממשלה הבריטית הודיעה כי במסגרת תיקון לחוק המשפט הפלילי האנגלי (Criminal Justice Bill) יוצע לאסור על שימוש בכלי בינה מלאכותית (AI) כדי ליצור Deepfakes (סרטונים או תמונות מזויפים שנוצרים באמצעות AI). לפי הצעת החוק, כל מי שייצור תמונות או סרטונים מזויפים של אדם מבוגר ללא הסכמתו עלול לעמוד בפני רישום פלילי וקנסות בלתי מוגבלים. כמו כן – ללא תלות בשאלה האם יוצר התמונות או הסרטונים התכוון לשתף אותם. אם התמונות או הסרטונים ישותפו באופן נרחב יותר – עלול היוצר להיכלא.
עם זאת, האיסור לא יהיה מוחלט, כיוון שהחקיקה תפליל את היוצר רק כאשר האדם יצר את התמונה או הסרטון מתוך כוונה לגרום לפגוע בקורבן ולגרום למצוקה או השפלה. החקיקה החדשה תחול על תמונות או סרטונים של מבוגרים בלבד, כיוון שהחוק הקיים כבר מכסה מקרי של Deepfakes של קטינים.
הצעת חוק בצרפת: הפצת תוכן מיני שעבר עיבוד על-ידי בינה מלאכותית יביא למאסר וקנס
הצעת החוק למוגנות ואסדרה של רשתות חברתיות והמרחב הדיגיטלי (SREN) שהועלתה לבחינה באוקטובר 2023 מציעה, בין היתר, להוסיף לחוק העונשין איסור על הפצת תוכן שעבר עיבוד על-ידי בינה מלאכותית ללא הסכמת האדם המופיע בו. איסור זה תקף הן לתוכן שאינו מיני והן לתוכן מיני. העונש המוצע לפרסום deepfake מיני הוא שנתיים מאסר וקנס של 60,000 אירו.
חוק העונשין הצרפתי מכיל כבר כיום איסור על הפצת תוכן שעבר עיבוד ועושה שימוש במילותיו או בדמותו של אדם ללא הסכמתו, כאשר לא ברור או מוזכר כי מדובר בתוכן שעבר עיבוד. עונשו של אדם שעובר עבירה זו הוא שנת מאסר וקנס של 15,000 אירו. אולם, על מנת להתמודד ישירות עם סוגיית התוכן שנוצר על-ידי בינה מלאכותית, הוצע במסגרת הצעת החוק לכלול תכנים אלה במפורש, ולהגביר את הענישה כאשר מדובר בתכנים מיניים (מאסר שנתיים במקום שנה, קנס של 60,000 אירו במקום 15,000 אירו).
מטא בודקת פרסום תמונות עירום שנוצרו באמצעות בינה מלאכותית (אפריל 2024)
ביום 16.04.2024 המועצה המפקחת על מטא הודיעה כי היא בוחנת שני מקרים של פרסום תמונות עירום של נשים ידועות, אשר נוצרו באמצעות כלי בינה מלאכותית. המועצה הוקמה בשנת 2018 על ידי מנכ"ל מטא, מארק צוקרברג. מטרתה להציע פתרונות על אודות תוכן ראוי שיוצג בפלטפורמות של מטא, לרבות פייסבוק ואינסטגרם. במסגרת הבחינה שלה, המועצה תחליט מה מדיניות אכיפת התוכן הראויה במקרים כאלה, והאם נדרש עדכון של כללי המדיניות של החברה על מנת להתמודד בצורה טובה עם תכנים אלה. כמו כן, המועצה תבחן מה התוצאה הרצויה לגבי שני המקרים הספציפיים שלפניה – האם יש להסיר את התכנים או להשאירם בפלטפורמות של החברה.
במקרה הראשון, משתמש פרסם באינסטגרם תמונת עירום בדמותה של אישה ידועה בהודו. התמונה נוצרה באמצעות בינה מלאכותית ופורסמה בחשבון שפרסם תמונות של נשים שנוצרו באמצעות בינה מלאכותית. למרות שהתמונה דווחה למטא כפורנוגרפיה על ידי משתמש אחר, החברה לא מיהרה להסיר אותה ופניותיו נותרו ללא מענה. רק לאחר שהמשתמש פנה למועצה המפקחת, הסכימה מטא להסיר את התמונה בשל הפרת תנאי השירות האוסרים על הטרדה והפחדה.
המקרה השני עוסק בפרסום של תמונת עירום בדמותה של אישה ידועה בארה"ב. התמונה עלתה לקבוצת פייסבוק העוסקת ביצירות של בינה מלאכותית. היא כללה את שם הידוענית, ודמות של גבר הנוגע בחזה שלה. גם במקרה זה, מטא החליטה להסיר את התמונה בשל הפרת תנאי השירות האוסרים על הטרדה והפחדה. התמונה גם הוספה למאגר תמונות אשר סורק את השירות ומסיר אותן באופן אוטומטי. המשתמש שפרסם את התמונה פנה למועצה המפקחת והתנגד להסרת התמונה.
לצורך דיון בנושא ביקשה המועצה מהציבור המלצות והצעות כיצד לנהוג במקרים מסוג זה. החלטתה צפויה בשבועות הקרובים.
