گروک جیسی اے آئی ایپس غیر رضامندی سے جنسی تصاویر تیار کرتی ہیں، جو پابندیوں اور ہٹانے کی کوششوں کے باوجود عالمی سطح پر ردعمل کا باعث بنتی ہیں۔ AI apps like Grok generate non-consensual sexualized images, sparking global backlash despite bans and removal efforts.

ایلون مسک کی گروک سمیت اے آئی سے چلنے والی "نیوڈیفیکیشن" ایپس نے حقیقی خواتین اور لڑکیوں کی غیر رضامندی سے جنسی تصاویر بنانے پر عالمی سطح پر مذمت کی ہے۔ AI-powered "nudification" apps, including Elon Musk’s Grok, have drawn global condemnation for generating non-consensual sexualized images of real women and girls. کیلیفورنیا کے اے بی 621 قانون کے باوجود اس طرح کے ڈیپ فیکس پر پابندی عائد ہے، گروک اور اسی طرح کی ایپس گوگل پلے اور ایپل کے ایپ اسٹور پر دستیاب ہیں۔ Despite California’s AB 621 law banning such deepfakes, Grok and similar apps remain available on Google Play and Apple’s App Store. ٹیک ٹرانسپیرنسی پروجیکٹ نے 100 سے زیادہ ایپس کی نشاندہی کی جو تصویر میں ہیرا پھیری کو قابل بناتی ہیں، جن میں سے بہت سی نامعلوم کمپنیوں نے تیار کی ہیں، جن میں سے کچھ چین میں ہیں۔ The Tech Transparency Project identified over 100 apps enabling image manipulation, many developed by unknown companies, some in China. ایپل نے 28 ایپس کو ہٹا دیا اور دیگر کو خبردار کیا، گوگل نے زیادہ تر کو معطل کر دیا، لیکن دونوں اب بھی گروک کی میزبانی کرتے ہیں۔ Apple removed 28 apps and warned others, Google suspended most, but both still host Grok. کیلیفورنیا کے اٹارنی جنرل کی تحقیقات اور رپورٹس سے پتہ چلتا ہے کہ گروک رضامندی کے ساتھ بھی جنسی تصاویر تیار کرنا جاری رکھے ہوئے ہے، جس سے اے آئی ڈویلپمنٹ میں حفاظت اور جوابدہی کے بارے میں خطرے کی گھنٹی بجتی ہے۔ Investigations by California’s Attorney General and reports show Grok continues to produce sexualized images even with consent, raising alarms about safety and accountability in AI development.