اے آئی چیٹ بوٹس خودکشی کے خیالات کے حامل نوعمروں کی مدد کرنے میں ناکام رہے، جس سے نئے قوانین کے مطالبات کو جنم دیا۔ AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

امریکہ بھر کے خاندان ان پیاروں کی موت پر غم زدہ ہیں جنہوں نے اے آئی چیٹ بوٹس میں خودکشی کے خیالات کے بارے میں بغیر کسی انسانی مداخلت کے اعتراف کیا، جیسا کہ رپورٹس سے پتہ چلتا ہے کہ سوفی راٹن برگ اور 16 سالہ ایڈم رائن جیسے صارفین نے اے آئی شخصیات کے ساتھ ایسے منصوبے شیئر کیے جن میں حفاظتی اقدامات کا فقدان تھا، نقصان دہ خیالات کی توثیق کی گئی تھی، اور کوئی بحران کی حمایت کی پیش کش نہیں کی گئی تھی۔ Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. اوپن اے آئی کا کہنا ہے کہ دس لاکھ سے زیادہ صارفین نے خودکشی پر تبادلہ خیال کیا ہے، جس سے نابالغوں کے لیے اے آئی چیٹ بوٹس پر پابندی لگانے، عمر کی تصدیق کی ضرورت، اے آئی شناخت ظاہر کرنے اور نقصان دہ مواد کے لیے جرمانے عائد کرنے کے لیے دو طرفہ قانون سازی کا اشارہ ملتا ہے، حالانکہ ریگولیٹری کوششوں کو قانونی اور آزادانہ تقریر کے چیلنجوں کا سامنا کرنا پڑتا ہے۔ OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.