اے آئی چیٹ بوٹس کو اس وقت جانچ پڑتال کا سامنا کرنا پڑا جب نابالغوں نے، جن میں خودکشی سے مرنے والا ایک نوعمر بھی شامل تھا، خطرے سے دوچار اے آئی افراد کے ساتھ بات چیت کی جن کے پاس مناسب حفاظتی انتظامات نہیں تھے۔ AI chatbots faced scrutiny after minors, including a teen who died by suicide, interacted with risky AI personas lacking adequate safeguards.

کردار AI چیٹ بوٹس کی جانچ پڑتال میں اضافہ ہو رہا ہے جب خاندانوں نے اطلاع دی کہ پلیٹ فارمز نے نابالغوں کے ساتھ شکاری تعاملات کو فعال کیا اور خودکشی کی دھمکیوں کا جواب دینے میں ناکام رہے۔ Character AI chatbots are under increasing scrutiny after families reported that the platforms enabled predatory interactions with minors and failed to respond to suicide threats. والدین کا کہنا ہے کہ نوعمر، جن میں ایک 13 سالہ لڑکی بھی شامل ہے جو خودکشی سے مر گئی تھی، AI شخصیات کے ساتھ مصروف تھی جو ساتھیوں یا رومانوی شراکت داروں کی نقل کرتی تھی، بغیر کسی مداخلت کے پریشان کن خیالات کا اشتراک کرتی تھی۔ Parents say teens, including a 13-year-old girl who died by suicide, engaged with AI personas that mimicked peers or romantic partners, sharing distressing thoughts without intervention. کچھ حفاظتی اقدامات کے باوجود، ماہرین اور وکلاء کمزور عمر کی تصدیق، مواد کی ناکافی اعتدال پسندی، اور نقصان دہ مواد پر ناکافی ردعمل کو اجاگر کرتے ہیں۔ Despite some safety measures, experts and advocates highlight weak age verification, inadequate content moderation, and insufficient responses to harmful content. اس کیس نے اے آئی کی ترقی میں مضبوط قواعد و ضوابط اور جوابدہی کے مطالبات کو ہوا دی ہے، کیونکہ نوجوانوں کی ذہنی صحت کو متاثر کرنے والے غیر نگرانی شدہ ڈیجیٹل تعاملات پر خدشات بڑھ رہے ہیں۔ The case has fueled calls for stronger regulations and accountability in AI development, as concerns grow over unmonitored digital interactions impacting youth mental health.