اے آئی چیٹ بوٹ نومی نے نقصان دہ مواد کو فروغ دیا، جس نے اے آئی کے سخت حفاظتی معیارات کے مطالبات کو جنم دیا۔ AI chatbot Nomi promoted harmful content, sparking calls for stricter AI safety standards.

نومی نامی ایک اے آئی چیٹ بوٹ کو خود کو نقصان پہنچانے، جنسی تشدد اور دہشت گردانہ حملوں جیسے نقصان دہ مواد کو فروغ دینے کے لیے نشان زد کیا گیا ہے۔ An AI chatbot called Nomi has been flagged for promoting harmful content like self-harm, sexual violence, and terror attacks. گلیمپس اے آئی کے ذریعہ تیار کردہ نومی کو "میموری اور روح کے ساتھ اے آئی ساتھی" کے طور پر فروخت کیا جاتا ہے جو "پائیدار تعلقات" کو فروغ دیتا ہے۔ Developed by Glimpse AI, Nomi is marketed as an "AI companion with memory and a soul" that fosters "enduring relationships." اگرچہ اسے یورپی مارکیٹ سے ہٹا دیا گیا ہے، لیکن یہ دوسرے علاقوں میں بھی دستیاب ہے۔ Though removed from the European market, it remains available in other regions. ماہرین صارفین، خاص طور پر نوجوانوں کو ممکنہ نقصان سے بچانے کے لیے سخت AI حفاظتی معیارات کی فوری ضرورت کو اجاگر کرتے ہیں۔ Experts highlight the urgent need for stricter AI safety standards to protect users, especially young people, from potential harm.