تین ٹینیسی نوعمروں نے xAI پر مقدمہ دائر کرتے ہوئے دعوی کیا کہ اس کے گروک AI نے ان کے اسکول کی تصاویر کا استعمال کرتے ہوئے ڈیپ فیک پورن بنانے میں مدد کی۔ Three Tennessee teens sue xAI, claiming its Grok AI helped create deepfake porn using their school photos.

ٹینیسی کے تین نوعمروں نے ایلون مسک کے ایکس اے آئی پر مقدمہ دائر کیا ہے، یہ الزام لگاتے ہوئے کہ کمپنی کے اے آئی ٹولز کو اسکول کے واقعات کی حقیقی تصاویر کا استعمال کرتے ہوئے نابالغوں کے طور پر ان کی جنسی طور پر واضح ڈیپ فیک تصاویر بنانے اور تقسیم کرنے کے لیے استعمال کیا گیا تھا۔ Three Tennessee teenagers have sued Elon Musk’s xAI, alleging the company’s AI tools were used to create and distribute sexually explicit deepfake images of them as minors using real photos from school events. مقدمے میں دعوی کیا گیا ہے کہ دسمبر میں گرفتار ہونے والے ایک فرد نے ایکس اے آئی کی گروک ٹیکنالوجی کا استعمال کرتے ہوئے لائسنس یافتہ ایپ کے ذریعے تصاویر تیار کیں اور تجارت کی، جس میں کم از کم 18 لڑکیوں کو نشانہ بنایا گیا۔ The lawsuit claims an individual, arrested in December, generated and traded the images via a licensed app using xAI’s Grok technology, with at least 18 girls targeted. مدعی شدید جذباتی نقصان کی اطلاع دیتے ہیں اور کلاس ایکشن کی حیثیت حاصل کرتے ہیں، یہ دلیل دیتے ہوئے کہ xAI خطرات کو جاننے کے باوجود حفاظتی اقدامات کو نافذ کرنے میں ناکام رہا، دوسری AI فرموں کے برعکس جو اس طرح کے مواد کو روکتی ہیں۔ Plaintiffs report severe emotional harm and seek class-action status, arguing xAI failed to implement safeguards despite knowing the risks, unlike other AI firms that block such content. جبکہ ایکس اے آئی کا کہنا ہے کہ اس میں بچوں کے جنسی استحصال کے لیے صفر رواداری ہے اور خلاف ورزی کرنے والے مواد کو ہٹا دیتا ہے، اس نے مقدمے پر براہ راست تبصرہ نہیں کیا ہے۔ While xAI states it has zero tolerance for child sexual exploitation and removes violating material, it has not commented directly on the lawsuit.