רגולטור התקשורת הבריטי Ofcom פתח ביום שני בחקירה רשמית נגד X של אילון מאסק בנוגע לתכונת יצירת התמונות של צ'אט-בוט ה-AI Grok, ששימשה ליצירת דיפ-פייקים בעלי אופי מיני.
Grok מתמודדת עם תגובה בינלאומית הולכת וגוברת בשל כך שהיא מאפשרת למשתמשים ליצור ולשתף תמונות מיניות של נשים וילדים באמצעות פקודות טקסט פשוטות.
Ofcom תיארה את הדיווחים כ"מדאיגים ביותר".
בהצהרה נמסר כי תמונות של אנשים ללא בגדים "עלולות להיחשב כשימוש לרעה בתמונות אינטימיות או פורנוגרפיה — ותמונות מיניות של ילדים... עלולות להיחשב כחומר של התעללות מינית בילדים".
X לא הגיבה מיד לפניות סוכנות הידיעות AFP.
Ofcom מסרה כי פנתה ל-X ב-5 בינואר וביקשה ממנה להסביר את הצעדים שנקטה כדי להגן על המשתמשים בבריטניה.
מבלי לשתף בפרטי התכתבות, הרגולטור מסר כי X אכן הגיבה בתוך פרק הזמן שנקבע.
החקירה הרשמית תקבע אם X "לא עמדה בחובותיה החוקיות".
על פי חוק הבטיחות המקוונת של בריטניה, שנכנס לתוקף ביולי, אתרי אינטרנט, מדיה חברתית ופלטפורמות לשיתוף וידאו המארחים תוכן שעלול להזיק נדרשים ליישם אימות גיל קפדני באמצעות כלים כגון תמונות פנים או בדיקות כרטיסי אשראי.
כמו כן, אסור לאתרי מדיה ליצור או לשתף תמונות אינטימיות ללא הסכמה או חומר של התעללות מינית בילדים, כולל זיוף מיני שנוצר באמצעות בינה מלאכותית.
ל-Ofcom יש סמכות להטיל קנסות בגובה 10% מההכנסות העולמיות בגין הפרות של כללים אלה.
Grok ניסה להסיט את הביקורת הבינלאומית עם מדיניות מוניטיזציה חדשה בסוף השבוע שעבר, ופרסם ב-X שהכלי כעת "מוגבל למנויים משלמים", לצד קישור למנוי פרימיום.
ראש ממשלת בריטניה, קיר סטארמר, גינה את המהלך כעלבון לקורבנות ו"לא כפתרון".
ביום שבת, אינדונזיה הפכה למדינה הראשונה שאסרה כל גישה לכלי, ומלזיה הלכה בעקבותיה ביום ראשון.
הנציבות האירופית הודיעה כי היא בוחנת תלונות בנוגע ל-Grok.
