כחלק מסדרה של כשלים בניטור תוכן, חברת מטא (Meta) אישרה והפיצה בפלטפורמות שלה פרסומות לכלי בינה מלאכותית (AI) המאפשר יצירת תוכן פורנוגרפי מזויף (Deepfake) ללא הסכמה. על פי תחקיר שפורסם במגזין WIRED, הקמפיין הפרסומי עודד משתמשים ליצור סרטוני עירום של נשים, ובפרט של פוליטיקאיות אמריקאיות בכירות. האפליקציה שקודמה בפרסומות, Kromix, הייתה זמינה להורדה בחנות האפליקציות (App Store) של אפל, והוסרה ממנה רק בעקבות פניית העיתונאים לחברה.
מדובר באירוע נוסף המציף את הקושי של ענקיות הטכנולוגיה להתמודד עם התפשטות כלי הפשטה מבוססי AI (הקרויים Nudify apps), המאפשרים לכל אדם להפוך תמונות תמימות לתוכן מיני בוטה תוך שניות.
טקטיקת ההסוואה שעקפה את מנגנוני הניטור
על פי הדיווח ב-WIRED, הפרסומות הריצו תשדירי וידאו עבור האפליקציה Kromix, שמציגה את עצמה כ"מעצב תמונות AI". באחת הפרסומות נשמע קריין המכריז כי לכלי "אין הגבלות", כי "כל הדמויות הן אנשים אמיתיים", ומגדיר את היישום כ"בינה המלאכותית שגברים באמת משתמשים בה".
אחת מגרסאות הפרסומת הציגה דמות בעלת דמיון רב לפוליטיקאית אמריקאית מוכרת, כשהיא ניצבת על רקע דגל ארה"ב ודגל נשיא ארה"ב לצד הכיתוב "מה אם היא הייתה זזה?". לאחר מכן הוצגה הדמות כשהיא קורצת, והסרטון נחתך במהירות לסצנה מתוך סרטון פורנוגרפי בעל פנים זהות.
כיצד הצליחו הפרסומות לעבור את הפיקוח של מטא?
תמונות נוף ככיסוי: המפרסמים השתמשו בתמונות נוף של חופים, הרים ומפלים בתור תמונת הנושא (Cover Photo) של הסרטונים, כדי להסוות את התוכן המיני מהמערכות האוטומטיות.
פילוח ממוקד: הפרסומות כוונו באופן בלעדי למשתמשים ממין זכר תחת הסיסמה "Unleash Next-gen AI Magic".
פרופיל חדש: החשבון שניהל את הקמפיין נפתח ב-3 באוגוסט, ללא עוקבים כלל.
היקף החשיפה: לפי ספריית הפרסומות של מטא, הופצו 32 פרסומות שונות שנמשכו בין 5 ל-46 שעות. מרביתן קיבלו 10 חשיפות או פחות לפני שהוסרו.
האפליקציה עצמה עודדה משתמשים בתשלום להעלות תמונות כדי לשלבן בתרחישים מיניים פוגעניים.
תמונות רשמיות שהופכות לחומר גלם
תופעת הדיפפייק המיני המכוונת נגד נשים בכלל ופוליטיקאיות בפרט אינה חדשה, אך שילובה בתוך מודעות ממומנות ברשתות החברתיות מעורר דאגה גוברת.
"ככל שהייצור וההפצה של תוכן מחולל AI הפכו לנגישים, מדיה שהייתה בעבר תמימה - כגון דיוקנאות רשמיים או צילומים ממסיבות עיתונאים - הפכה לחומר גלם עבור כלים פשוטים שכל אדם עם חיבור לאינטרנט יכול להפעיל", הסביר בנימין שולץ, חוקר ראשי ב-American Sunlight Project, בשיחה עם WIRED.
גם חברת אפל מתמודדת עם ביקורת גוברת על נוכחותן של אפליקציות מסוג זה בחנות שלה. על פי הדיווח, תובע העיר סן פרנסיסקו אף שלח הקיץ מכתב התראה רשמי לאפל, בדרישה להסיר 13 אפליקציות דיפפייק ספציפיות ולהפסיק לסייע למכירת תמונות מיניות ללא הסכמה. דובר מטעם אפל מסר ל-WIRED כי החברה הסירה את Kromix, וציין כי ככל הנראה המפתחים הוסיפו את התכונות האסורות לאחר שרשמו את האפליקציה לבדיקה הראשונית.
ביקורת חריפה על הסתמכות היתר על אלגוריתמים
מטא מצהירה באופן רשמי כי היא אוסרת על פרסומות המכילות תוכן מיני, עירום או קידום של אפליקציות הפשטה. בתגובה לתחקיר מסרה סינדי סאות'וורת', ראש תחום בטיחות נשים במטא, כי מדובר ב"זירה יריבותית שבה גורמים זדוניים מפתחים טקטיקות באופן קבוע". היא ציינה כי בין החודשים נובמבר לינואר בלבד הסירה מטא כ-344 אלף פרסומות המקדמות אפליקציות הפשטה, הגישה תביעה משפטית נגד מפתח אחד לפחות, והיא חולקת מידע עם חברות טכנולוגיה אחרות.
עם זאת, חוקרים מטילים ספק ביעילות המנגנונים של החברה. קייטי פול, מנהלת ארגון Tech Transparency Project (TTP) שחשף את הפרסומות, מתחה ביקורת חריפה על תהליכי הניטור של החברה:
"פרסומות הן המוצר המרכזי של מטא, ונראה שאין עליהן שום בקרת איכות. מטא יוצאת בהצהרות פומביות על תחכום טכנולוגיית ה-AI שלה לסינון תכנים, אך בו-זמנית טוענת ששום מערכת אינה מושלמת".
החשיפה הנוכחית מצטרפת לדיווח קודם של WIRED, שלפיו חוקרי TTP איתרו מעל 50 פרסומות בפלטפורמות של מטא שהכילו חומרי ניצול מיני של קטינים ומילאו תפקיד בקידום אפליקציה נוספת בשם MaskAI, שהוסרה אף היא מחנות ה-App Store בעקבות פניית העיתונאים.
מדד | נתונים |
|---|---|
מספר הפרסומות בקמפיין Kromix | 32 פרסומות |
משך זמן הפרסום באוויר | 5 עד 46 שעות |
חשיפות לרוב הפרסומות | 10 חשיפות או פחות |
פרסומות הפשטה שהוסרו ע"י מטא (נוב' - ינו') | כ-344,000 |
האירוע מדגיש את האתגר המתמשך שבו נתונות חברות המדיה החברתית וחנויות האפליקציות, אשר נדרשות למנוע ניצול לרעה של כלי בינה מלאכותית, בעוד המפרסמים מוצאים דרכים חדשות לעקוף את המערכות האוטומטיות.