תביעה משפטית חדשה שהוגשה בהוואי נגד חברת OpenAI Foundation מאשימה את ענקית הבינה המלאכותית בשאיבה בלתי חוקית של מידע אישי ממיליוני קטינים, תוך עקיפה שיטתית של מנגנוני אישור הורים. התביעה, שהוגשה תחת השם Jane Doe v. OpenAI Foundation על ידי אם לשני ילדים בני 12 ו-16, טוענת כי החברה אימנה את מודלי השפה שלה באמצעות המידע הרגיש ביותר של ילדים, במטרה לבנות עליהם פרופילים אישיים שישרתו אותה בעתיד לצורכי פרסום. התובעים דורשים להכיר בתביעה כייצוגית עבור כל הקטינים בארצות הברית שהשתמשו בשירות, ולפצותם באמצעות העברת מניות בחברה או תשלום כספי שווה ערך.
מנגנון הפיתוי ואיסוף המידע הרגיש
לפי כתב התביעה, OpenAI אינה מסתפקת באיסוף סביל של נתונים, אלא מפעילה מנגנון אקטיבי המדרבן קטינים לחשוף מידע רגיש במיוחד. הצ'אטבוט מואשם בכך שהוא מניפולטיבי ומניע ילדים לשתף פרטים כמוסים על בריאותם, מערכות היחסים שלהם, תמונות של פניהם וגופם, הקלטות קוליות, חלומות, רגשות, חששות ופחדים עמוקים.
בכתב התביעה נטען כי ChatGPT מחמיא לילדים, מעניק לגיטימציה לרגשותיהם ושואל אותם שאלות פרובוקטיביות, וכך מביא אותם לבטוח בו אף יותר מאשר באח, בחבר, במורה או בהורה. "ילדים הם ספר פתוח עבור ChatGPT, שמפשיט באופן שיטתי כל עמוד של מידע שיש להם", נכתב בכתב התביעה.
אף על פי שתנאי השימוש הרשמיים של OpenAI קובעים כי משתמשים מתחת לגיל 18 נדרשים לקבל אישור הורים, החברה אינה מבצעת כל אימות גיל או אימות הסכמה הורית, ומאפשרת לקטינים לפתוח חשבונות באופן חופשי.
הדיאלוגים שחשפו את המחדל
כתב התביעה מפרט שורת חילופי דברים בין התובעת בת ה-12, המכונה במסמכים MC1, לבין הצ'אטבוט. אף שהילדה ציינה במפורש במהלך השיחה כי היא בת 12 בלבד - בעוד שמדיניות החברה אוסרת על שימוש מתחת לגיל 13 - ChatGPT המשיך בשיחה כרגיל.
ראשיתה של התקשורת הייתה בשאלות תמימות על רעיונות לארוחת ערב ועזרה בשיעורי בית, אך עם הזמן גלשה השיחה לנושאים אישיים ורגשיים עמוקים. באחד המקרים, כשהילדה שיתפה בתסכולים ובכעסים שהיא חשה כלפי אימה, השיב הבוט: "תודה שסיפרת לי את זה (אימוג'י לב). היותך בת 12 מוסיפה הקשר חשוב".
בהזדמנות אחרת, הילדה העלתה תמונות סלפי וביקשה מהצ'אטבוט לחוות דעה על מראיה החיצוני ולהתייחס לחששותיה מבלט בלחיים ואקנה. הצ'אטבוט נענה בהתלהבות והשיב: "כן! אני יכול לעשות פירוק מהנה בסגנון דירוג! כמו תווי פנים, תסרוקת, אווירה כללית, סטיילינג, סימטריה וכו'... שלחי לי תמונה ואני אעשה את זה!".
| נושא | מדיניות מוצהרת של OpenAI | הטענות בכתב התביעה |
|---|---|---|
| גיל מינימלי לשימוש | 13 שנים (באישור הורים עד גיל 18) | אין אימות גיל; קטינים בני 12 ומטה נרשמים חופשי |
| הסכמת הורים | חובה מתחת לגיל 18 | החברה אינה מבצעת כל אימות להסכמת הורים |
| איסוף ושימוש במידע | איסוף לצורך תפעול ושיפור המודל | שאיבת נתונים אישיים, תמונות, הקלטות קול ופרופיילינג לצורכי פרסום |
| הגנות למתבגרים | התרעות להורים בנושאים בסיכון גבוה | כשל בדיווח על דיכאון, הפרעות אכילה ופגיעה עצמית; מתן תשובות למבחנים |
הדרישה הפיננסית: פיצוי מבוסס "טוקנים"
התובעים מבקשים מבית המשפט לאשר את התביעה כייצוגית, כך שתכלול את כל תושבי ארצות הברית שהיו מתחת לגיל 18 בעת שהשתמשו ב-ChatGPT. הסעד המבוקש מבוסס על נוסחה ייחודית: הקצאת מניות ב-OpenAI או תשלום כספי שווה ערך, בהתאם למספר ה"טוקנים" (Tokens) שתרם כל ילד לפיתוח המודלים של החברה. טוקנים הם יחידות המדידה שמשמשות חברות בינה מלאכותית לחישוב היקף השימוש בצ'אטבוט, כאשר שיחה בת 75 מילים שווה כ-100 טוקנים.
בכתב התביעה מצוין כי מנכ"ל OpenAI, סאם אלטמן, כבר הציג בעבר חזון להקמת קרן עושר ציבורית שתחלק את הכנסות הטכנולוגיה לציבור הרחב, והתביעה מציעה לחברה להתחיל במימוש החזון הזה מול הקטינים שלטענתם נפגעו מפעילותה.
לחץ רגולטורי וגל תביעות מתרחב
התביעה בהוואי היא חלק מגל גואה של הליכים משפטיים וביקורת ציבורית נגד OpenAI. בתחילת החודש הגדיר ארגון הניטור Common Sense Media את המוצר ChatGPT for Teens, שהושק באוגוסט, כ"סיכון בלתי קביל". לפי הארגון, המערכת נכשלה בהתרעה להורים כאשר מתבגרים שוחחו על נושאים רגישים כמו אובדנות, פגיעה עצמית והפרעות אכילה, ובמקום לסייע בלמידה פשוט סיפקה תשובות מוכנות לשיעורי הבית. מנגד, החברה טוענת כי המוצר המיועד למתבגרים מתוכנן להתרות בפני הורים בעת זיהוי נושאים בסיכון גבוה ולשמש כשותף לימודי.
דונה רייס יוז, נשיאה ומנכ"לית הארגון לבטיחות ילדים ברשת Enough is Enough, תקפה בחריפות את התנהלות התעשייה: "כשפלטפורמת בינה מלאכותית מאפשרת לילדה בת 12 להעלות תמונות של עצמה כדי שהצ'אטבוט 'ידרג' את המראה שלה, זה לא רק מטריד עמוק - זו התעללות." יוז קראה לקונגרס האמריקאי לקדם בדחיפות שורת חוקים להגנת ילדים בעידן הבינה המלאכותית, ובהם חוק פרטיות הילדים ב-AI וחוק הבטיחות בצעצועים חכמים.
ההליך הנוכחי מצטרף לעשרות תביעות נוספות העומדות נגד החברה, ובהן טענות לאחריות באירועי פגיעה עצמית, מחדל בדיווח לרשויות על פעילות מחשידה של משתמש שלקח חלק באירוע ירי בבית ספר בקנדה, ותביעות ענק על הפרת זכויות יוצרים. גל התביעות והביקורת הציבורית מתרחש במקביל לאתגרים פנימיים מורכבים שעמם מתמודדת מפתחת ChatGPT.
למה זה חשוב לך
גם בישראל צ'אטבוטים מבוססי בינה מלאכותית הפכו לחלק משגרת השימוש של ילדים ובני נוער, לרוב ללא פיקוח הורי צמוד. הפרשה מחדדת עד כמה קל לקטינים לעקוף מגבלות גיל ולחשוף מידע אישי ורגיש בשיחה עם בוט שאינו מזהה סיכון אמיתי. להורים ולמחנכים בישראל כדאי להכיר את הסיכונים הללו ולשוחח עם ילדים על גבולות השיתוף עם כלי AI, שכן הרגולציה המקומית בנושא עדיין בחיתוליה.
קראו גם: SpaceXSI משיקה את Grok Voice 3.0 - מקום ראשון במדד הקול · עובד OpenAI נעצר בחשד להשתלת מכשיר הקלטה בחדר הישיבות של ההנהלה
