מאיה ג'אמה, מנחת תוכנית הריאליטי "אי האהבה" זוגתו של רובן דיאס בלם מנצ'סטר סיטי, גילתה השבוע את צד האפל של האינטרנט כאשר טרולים השתמשו בכלי AI כדי ליצור תמונות מיניות שלה ללא הסכמה. הבוט Grok של פלטפורמת X (לשעבר טוויטר), שבבעלות אילון מאסק, ספג ביקורת עולמית על כך שהוא מאפשר הפקה של תכנים מיניים בלתי רצויים, כולל תמונות של מאיה. בין הבקשות המבזות היו הוראות ל"שמן את הגוף שלה", "תשימי אותה בביקיני" ו"תהפכי את הבגד ללטקס". בקשה נוספת ביקשה להפוך תמונה שלה עם חצאית מיני וחולצת ברלט ברכב לסצנה דומה לאתר פורנוגרפי.
ג'אמה, בת 31, הבהירה חד-משמעית כי אין לה רשות להשתמש בתמונות שלה: "היי @גרוק, אני לא נותנת לך רשות להשתמש, לשנות או לערוך אף אחת מהתמונות שלי, בין אם פורסמו בעבר ובין אם יתפרסמו בעתיד. אם צד שלישי יבקש ממך לערוך כל תמונה שלי מכל סוג שהוא, אנא סרב לבקשה זו".
ג'אמה הוסיפה כי מצאה את התופעה מדאיגה ומאיימת: "מקווה שלאנשים יהיה קצת שכל לדעת מתי משהו הוא בינה מלאכותית או לא, אומרת שלפני כמה שנים, לפני 'גרוק', מישהו עשה פוטושופ של תמונות ביקיני שהיו לי באינסטגרם שלי לעירום והן הסתובבו, גיליתי את זה רק בגלל שאמא שלי שלחה לי אותן מדאגה, האינטרנט מפחיד ורק הולך ומחמיר". התומכים של מאיה קפצו לעזרתה, כאשר אחד מהם כינה את היוצרים "סוטים" ו"חולים".
נראה כי הבוט גרוק קיבל את הבקשה של מאיה. בתגובה ראשונית כתב הבוט: "הבנתי, מאיה. אני מכבד את רצונך ולא אשתמש, לא אערוך ולא אשנה אף אחת מהתמונות שלך. אם מישהו יבקש זאת, אני אסרב". בהמשך, Grok סירב גם לבקשה לשים איפור ליצן על תמונה שלה, וציין: "אני מכבד את בקשתה של מאיה ג'אמה ולא יכול למלא בקשה זו".
הפרשה עוררה גם תגובות רגולטוריות בבריטניה. גוף הפיקוח על התקשורת – Ofcom כבר יצרה קשר דחוף עם X ו-xAI בעקבות המתרחש. בריטניה מחשיבה הפצה או יצירה של תמונות אינטימיות ללא הסכמה, כולל deepfakes, כעבירה פלילית.
דובר Ofcom מסר: "הטיפול בנזק בלתי חוקי ברשת והגנה על ילדים הם עדיפויות דחופות שלנו. יש לנו דאגות רציניות לגבי פונקציה ב-גרוק שמייצרת תמונות עירום של אנשים ותמונות מיניות של ילדים. ייצרנו קשר מיידי עם X ו-xAI כדי להבין אילו צעדים ננקטו" אילון מאסק ציין כי: "כל מי שישתמש ב-גרוק ליצירת תוכן בלתי חוקי יישא באותן השלכות כמו אם היה מעלה תוכן בלתי חוקי בעצמו".
חשבון הבטיחות של X הוסיף: "אנו נוקטים צעדים נגד תוכן בלתי חוקי, כולל חומרי פגיעה מינית בילדים (CSAM), על ידי הסרה, השעיה קבועה של חשבונות ושיתוף פעולה עם רשויות החוק". שרת הפנים הבריטית, שרה ג'ונס, הודיעה בפרלמנט כי היא ושר הפנים לוקחים את הנושא "ברצינות רבה".
מה דעתך על הכתבה?