חברת אפל מעדכנת את כללי פיקוח התוכן של חנות האפליקציות שלה (App Store) ומטילה אחריות אקטיבית ישירה על מפתחים בכל הנוגע לתמונות עירום ותכני דיפ-פייק המופקים באמצעות בינה מלאכותית. בעוד שתוכן מיני מפורש נאסר לשימוש בחנות עוד קודם לכן, העדכון החדש קובע כי מפתחי אפליקציות נדרשים לפעול מראש ובאופן אקטיבי כדי למנוע ולהסיר מהתוכנות שלהם תמונות אינטימיות שנוצרו על ידי AI ללא הסכמה. בחברה מזהירים כי אפליקציות שיכללו תוכן מפר ולא ינקטו צעדים מתאימים יוסרו מחנות האפליקציות, ומפתחים שלא יצייתו לכללים מסתכנים בביטול מלא של חשבון המפתח שלהם.
חובת סינון אקטיבית: עדכון סעיף 1.2
את העדכון המרכזי שילבה אפל במסגרת סעיף 1.2 להנחיות ה-App Store, המכוון באופן ספציפי לאפליקציות ליצירת תוכן באמצעות בינה מלאכותית. על פי הכללים המעודכנים, מפתחים אינם יכולים עוד להסתפק בתגובה סבילה או בטיפול בתלונות משתמשים בדיעבד. תחת זאת, מוטלת עליהם חובה להטמיע מנגנוני סינון ובקרה אקטיביים שימנעו מלכתחילה יצירה או הפצה של תמונות עירום ודיפ-פייק מיניים של בני אדם.
הדרישות המעודכנות מטילות על המפתחים מספר חובות מרכזיות:
מניעה מראש: הטמעת אלגוריתמים ומסננים המונעים מחוללי AI ליצור תמונות מיניות ללא הסכמה.
הסרה מהירה: מענה מיידי לזיהוי והסרה של תכנים מפרים שעקפו את הסינון הראשוני.
אחריות מפתח: נשיאה באחריות מלאה לשימוש שנעשה בכלים שמספקת האפליקציה למשתמשי הקצה.
הנחיה זו מגיעה על רקע תלונות שנרשמו נגד אפליקציות AI שונות, כאשר אחת הדוגמאות הבולטות המוזכרות בהקשר זה היא צ'אטבוט הבינה המלאכותית Grok של חברת xAI. במהלך השנה התקבלו תלונות משתמשים רבות על כך שנעשה שימוש ב-Grok ליצירת תמונות דיפ-פייק עירומות ומיניות. בעקבות זאת, הודיעה אפל לחברת xAI מוקדם יותר השנה כי אם תמשיך לאפשר יצירת תמונות עירום באמצעות הכלי, האפליקציה תוסר לחלוטין מ-App Store. בתגובה לאזהרה, הטמיעה xAI מנגנוני הגנה וסינון באפליקציה, ואפל אישרה לאחר מכן גרסה מעודכנת שלה. העדכון הנוכחי לכללים מעגן כעת את האכיפה הזו כדרישה רשמית וקבועה עבור כלל מפתחי האפליקציות בתחום.
סעיף 2.5.19: מלחמה בשיטת "הפתה והחלף"
לצד השינויים בסעיף 1.2, הוסיפה אפל הנחיה חדשה לחלוטין - סעיף 2.5.19 - שמטרתה לסגור פרצה שבאמצעותה עקפו מפתחים מסוימים את תהליך הסקירה של החנות. הכלל החדש מבהיר כי מפתחים אשר מוסיפים לאפליקציה תכונות, יכולות או פונקציות שלא היו קיימות בגרסה שהוגשה לבדיקת החברה, מסתכנים בהסרה מיידית מה-App Store ובביטול חברותם בתוכנית המפתחים הרשמית (Apple Developer Program).
אפל מקשרת כלל זה באופן ישיר לאפליקציות המכונות "nudification" - יישומים המיועדים ליצירת תמונות עירום מפורשות של אנשים אמיתיים ללא הסכמתם. לפי החברה, חלק מיוצרי האפליקציות הללו נהגו להסתיר את ייעודן האמיתי של האפליקציות במהלך הליך הבדיקה הרשמי, ורק לאחר שקיבלו את אישור ההפצה הפעילו את רכיבי יצירת התמונות המיניות. טקטיקה זו, המוכרת בעולם התוכנה כ"פתיין והחלף" (bait-and-switch), נאסרה כעת לחלוטין. אפל הבהירה כי אפליקציות שיכללו תכונות מוסתרות, יכולות בלתי מתועדות או מצג שווא לגבי מטרתן במהלך הליך הסקירה יוסרו באופן מיידי.
הרחבת האיסורים גם למסלולי הפצה חלופיים
מעבר לשינויים הממוקדים בתכני בינה מלאכותית, עדכנה אפל גם את פרק 5 בהנחיות המפתחים שלה. במסגרת העדכון, הרחיבה החברה את האיסור הקיים על אפליקציות המקלות או מסייעות לסחר בני אדם או לניצול ילדים, והחילה אותו גם על מסלולי הפצה חלופיים של אפליקציות (Alternative App Distribution). בכך מבהירה החברה כי כללי הבטיחות וההגנה על קטינים ייאכפו בכל פלטפורמת הפצה במערכת שלה, ללא תלות בחנות הספציפית שדרכה הותקנה האפליקציה.
בהודעה שפרסמה החברה בפורטל החדשות למפתחים, הדגישה אפל את מדיניות האכיפה הנוקשה שהיא מתכוונת להפעיל נגד מפרים: "איננו מהססים להסיר אפליקציות, ולחסום את המפתחים שמאחוריהן, כאשר הם מפרים הנחיות אלה." ההנחיות המלאות והמעודכנות פורסמו באתר החברה ונכנסו לתוקף מיידי, והן מחייבות מעתה את כלל מפתחי האפליקציות הפועלים במערכת האקולוגית של החברה.
למה זה חשוב לך
גם משתמשי אייפון בישראל חשופים לסיכון מתכני דיפ-פייק ותמונות עירום מזויפות שנוצרות באמצעות אפליקציות AI, והכללים החדשים אמורים להגביר את ההגנה עליהם ועל ילדיהם. אם אתם מפתחים אפליקציית AE ליצירת תוכן, כדאי לבדוק כעת שהאפליקציה שלכם עומדת בדרישות הסינון החדשות - אחרת היא עלולה להיחסם גם בשוק הישראלי. ההחמרה גם מעידה על מגמה רחבה יותר של פיקוח הדוק יותר על כלי AI גנרטיביים, שעשויה להשפיע על אפליקציות נוספות שתורידו בעתיד.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: סמנכ"לית הכספים של OpenAI: מודלי AI זולים מסין הם סיכון סייבר · מטא משחררת בקוד פתוח מודל של 816 מיליארד פרמטרים לפיתוח וסוכני AI
